РАЗРАБОТКА И РЕАЛИЗАЦИЯ МЕТОДОВ ОПТИМИЗАЦИИ МАЛЫХ ЯЗЫКОВЫХ МОДЕЛЕЙ ДЛЯ ЭФФЕКТИВНОЙ ГЕНЕРАЦИИ SQL-ЗАПРОСОВ В ОБРАЗОВАТЕЛЬНЫХ ИНФОРМАЦИОННЫХ СИСТЕМАХ

Автор(ы): Босенко Тимур Муртазович

Рубрика: Информационные технологии

DOI: 10.21777/2500-2112-2025-1-54-67

Выпуск: 2025-1 (50)

Страницы: 54-67

Ключевые слова: малые языковые модели, оптимизация, генерация SQL-запросов, Text-to-SQL, квантование, прунинг, образовательные информационные системы

Аннотация: В статье представлены исследования по оптимизации малых языковых моделей для эффективной генерации SQL-запросов в условиях ограниченных вычислительных ресурсов образовательных учреждений. Цель исследования – разработка и реализация методов оптимизации, направленных на снижение требований к вычислительным ресурсам при сохранении высокой точности генерации SQL-запросов. Методология основана на комплексном подходе, включающем квантование параметров модели, оптимизацию весовых коэффициентов и адаптацию словаря под предметную область. Эмпирическая база включает бенчмарки Spider, CoSQL и специализированный набор данных DSBInf (Data Solutions Business Intelligence) из 3424 запросов. Разработанная модель SQL_DS_60M_ft (модель для генерации ответов на основе структурированного языка запросов), основанная на архитектуре CodeS, демонстрирует значительные улучшения: сокращение размера на 33 %, увеличение скорости обработки в 1.4 раза и снижение использования RAM на 18 % при сохранении точности 65.0 %. Практическое внедрение модели в образовательный процесс показало повышение эффективности обучения на 35–40 % при работе с базами данных и бизнес-аналитикой.

Библиографическая ссылка: Босенко Т.М. РАЗРАБОТКА И РЕАЛИЗАЦИЯ МЕТОДОВ ОПТИМИЗАЦИИ МАЛЫХ ЯЗЫКОВЫХ МОДЕЛЕЙ ДЛЯ ЭФФЕКТИВНОЙ ГЕНЕРАЦИИ SQL-ЗАПРОСОВ В ОБРАЗОВАТЕЛЬНЫХ ИНФОРМАЦИОННЫХ СИСТЕМАХ // Образовательные ресурсы и технологии. – 2025. – № 1 (50). – С. 54-67. doi: 10.21777/2500-2112-2025-1-54-67