Подробное описание документа

Мельников К. С., Белов Ю. С.
   Дообучение языковых моделей: эффективный путь к решению узкоспециализированных задач / Мельников К. С., Белов Ю. С. // Наукоёмкие технологии в приборо- и машиностроении и развитие инновационной деятельности в вузе : материалы Всероссийской научно-технической конференции, Калуга, 19-21 ноября 2025 г. : в 2 т. / МГТУ им. Н. Э. Баумана (национальный исследовательский университет). - 2025. - Т. 2. - С. 108-111.

Рассмотрен метод дообучения предобученных языковых моделей для решения специфических задач в области обработки естественного языка. Описаны этапы процесса дообучения, включая адаптацию моделей к узким задачам с помощью специализированных данных и настройку гиперпараметров. Цель работы — показать эффективность дообучения и выделить ключевые аспекты его применения. Результаты могут быть использованы для улучшения точности моделей в таких областях, как медицина, право и финансы, при этом позволяя использовать меньшие объемы данных для достижения высокой эффективности.
Ключевые слова: предобученные языковые модели, дообучение, специализированные данные, гиперпараметры, обработка естественного языка, генерация текста