Интеллектуальный тьютор на основе открытых больших языковых моделей для СПО

О сервисе

🎓 Интеллектуальный AI-тьютор для СПО 🤖 Специализированная языковая модель для автоматизации учебного контента в среднем профессиональном образовании 📋 Содержание 📌 О проекте и проблематике ⚙️ Техническое решение 🏗️ Архитектура и API 📚 Методология обучения (QLoRA) 📊 Датасет 🚀 Ключевые возможности 📈 Ожидаемые результаты 🛠️ Стек технологий 1. О проекте и проблематике Интеллектуальный тьютор — AI-система, предназначенная для автоматизации создания учебного контента и персонализации обучения в среднем профессиональном образовании (СПО, специальность 15.02.14 «Оснащение средств автоматизации»). Проект решает критический дисбаланс между объёмом теоретического материала и ограниченным аудиторным временем, отведённым на практическую отработку навыков. 🔑 Ключевые проблемы СПО, которые решает система: Перегрузка преподавателей — до 5–7 часов в неделю тратится на повторяющиеся консультации по одним и тем же темам (основы автоматики, датчики, ПЛК, SCADA-системы) Сложности студентов — 67 лекций по двум дисциплинам («Измерительные системы» и «Промышленная автоматизация») содержат большой объём специализированной терминологии, которую студентам сложно усваивать самостоятельно Ограниченность аудиторного времени — недостаточное количество часов для отработки практических компетенций; аудиторное время уходит на теорию Дисбаланс теории и практики — смещение фокуса на теоретическую подготовку снижает качество практических навыков выпускников 2. Техническое решение Система развёртывается на собственном сервере учебного заведения с использованием открытой языковой модели. Это обеспечивает полный контроль над данными, независимость от внешних API и безопасность персональной информации студентов. Компонент Технология Описание Базовая модель Qwen2.5-7B-Instruct 24 млрд параметров, лицензия Apache 2.0, мультиязычная (вкл. русский), контекстное окно 128K токенов Метод дообучения QLoRA 4-bit Эффективное дообучение при минимальных GPU-ресурсах (16–24 ГБ VRAM) Платформа инференса BentoML v1.2+ Продакшн-сервер с REST API для развёртывания модели Интеграция с ЭОС Moodle 4.x Плагин для LMS (блок + AJAX API, PHP + JavaScript) Перспектива ИИ-Монолит Российская LLM (планируемая миграция при появлении) 3. Архитектура и API Сервис реализован как BentoML-микросервис ( service.py ) и предоставляет четыре REST API-эндпоинта для взаимодействия с моделью: Эндпоинт Метод Назначение Параметры /health GET Проверка доступности модели — /generate_summary POST Генерация структурированного конспекта лекции lecture_text, max_new_tokens (512), temperature (0.7) /generate_quiz POST Создание тестовых вопросов с вариантами ответов lecture_text, num_questions (5), difficulty (easy/medium/hard) /chat POST Диалог с тьютором (многоходовой) message, history[] 4. Методология обучения (QLoRA) Дообучение модели проводится по методу QLoRA (Quantized Low-Rank Adaptation), который позволяет эффективно адаптировать большие языковые модели на ограниченных GPU-ресурсах: 4-bit квантизация (NF4) — базовая модель загружается в 4-битном формате, снижая потребление VRAM с ~48 ГБ до ~14 ГБ LoRA-адаптеры (rank r = 4–32) — обучаются только низкоранговые матрицы дополнения по 7 модулям ( q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj ), что составляет ~0,5–1% от всех параметров модели LoRA alpha = 8–64 — масштабирование адаптеров в зависимости от режима обучения Double Quantization — дополнительное сжатие квантованных констант ( bfloat16 compute dtype ) для экономии памяти Контекстная длина — инференс: 8 192 токена; обучение: до 2 048 токенов Three-stage strategy — debug (1 epoch, 10 steps, r=4) → light (2 epochs, r=8) → full (3 epochs, r=32) 5. Датасет Для дообучения подготовлен специализированный датасет из лекционных материалов специальности 15.02.14 ГБПОУ РО «Сальский индустриальный техникум» (СИТ): Параметр Значение Всего записей 771 (JSONL) Количество лекций 67 (27 «Измерительные системы» + 40 «Промышленная автоматизация») Дисциплины «Измерительные системы» и «Промышленная автоматизация» Формат JSONL (instruction–input–output) Язык Русский Лицензия Apache 2.0 📐 Разбиение на выборки Выборка Записей Доля Назначение train.jsonl 613 ~80% Основное обучение модели val.jsonl 73 ~10% Валидация и подбор гиперпараметров test.jsonl 85 ~10% Финальная оценка качества модели 6. Ключевые возможности 📘 Генерация учебного контента На основе текста лекции система автоматически создаёт: Структурированные конспекты — ключевые тезисы, термины и определения в маркированном формате Тесты для самопроверки — вопросы с 4 вариантами ответов (A/B/C/D), 3 уровня сложности Объяснения по запросу — детальная расшифровка терминов и понятий из лекции Диалоговый режим — многоходовой разговор для углублённого изучения темы 🌐 Интеграция с Moodle (ЭОС) Единая точка входа для студентов и преподавателей Отправка лекционного текста к AI-тьютору и получение результата Отслеживание активности использования Единообразный интерфейс без необходимости обучения новым инструментам ♿ Поддержка инклюзивного образования Настраиваемый размер шрифта и интерфейс Альтернативные форматы вывода (текст, структурированный конспект) Возможность многократного обращения за объяснением без ограничений Индивидуальный темп изучения материала 7. Ожидаемые результаты внедрения Метрика Ожидаемый эффект +30–40% Увеличение доли практических занятий за счёт автоматизации теоретической подготовки Средний балл Повышение результатов на демонстрационном экзамене за счёт более качественной самостоятельной подготовки ~5 ч / нед. Экономия времени преподавателей на повторяющихся консультациях 100% охват Все студенты пилотных групп получают доступ к ИИ-тьютору 8. Стек технологий Слой Технологии ML / AI PyTorch 2.0+, Transformers (Hugging Face), PEFT (QLoRA), BitsAndBytes, Accelerate, TRL (SFTTrainer), datasets Инференс BentoML v1.2+ Backend Python 3.11, FastAPI, Uvicorn, Celery, Redis LMS Moodle 4.x (плагин на PHP + JavaScript) DevOps Docker (multi-stage), docker-compose, Git LFS Мониторинг Prometheus, Grafana (6 дашбордов) Платформа Qubu (GPU-ноутбуки для обучения, контейнерный деплой) 📦 Дообучение (fine-tuning) Расчёт стоимости QLoRA дообучения Mistral Small 24B на Qubu (актуально на 16.05.2026) 💰 Баланс аккаунта: 133 токена ⚙️ Требования к VRAM для 24B QLoRA: 4-битная модель: ~15 ГБ LoRA-адаптеры + оптимизатор + активации: ~6–9 ГБ Итого минимум: 20–21 ГБ, рекомендуется 24+ ГБ 🖥️ Подходящие GPU и стоимость: GPU VRAM Цена (токенов/час) RTX A5000 24 ГБ 28 A40 48 ГБ 45 RTX 4090 24 ГБ 71 ⏱️ Реалистичная оценка времени: 4–9 часов (включая загрузку модели, отладку, 5 эпох обучения, валидацию). 💵 Стоимость по сценариям: Минимальный (RTX A5000, 4 ч): 112 токенов — остаток 21 токен (0 запаса) Рекомендуемый (A40, 5 ч): 225 токенов — дефицит -92 токена Быстрый (RTX 4090, 3 ч): 213 токенов — дефицит -80 токенов ⚠️ Вывод: При балансе 133 токенов дообучение 24B модели невозможно — даже минимальный сценарий не оставляет резерва на ошибки и перезапуски. Для полного цикла (подбор гиперпараметров, обучение, валидация, развёртывание) требуется 500–1000 токенов . 👥 Авторы: Команда — ГБПОУ РО «Сальский индустриальный техникум» (СИТ) Бардаков Д.Н. Новость о проекте на сайте техникума 📜 Лицензия: Apache 2.0 | 🌐 Язык: Русский | 📅 Год: 2026 Источник: https://qubu.ai/models/intellektualniy-tyutor-na-osnove-otkrytykh-bolshikh-yazykovykh-modelei-dlya-spo License: APACHE_2_0