Подробное описание документа
Инь С.
Метод анализа тональности текста на основе модели глубокого обучения нейронных сетей BERT-BiLSTM-Attention / Инь С., Калистратов А. П. // Наука, технологии и бизнес : материалы 6-ой Межвузовской конференции аспирантов, соискателей и молодых учёных, Москва, 16-18 апреля 2024 года / МГТУ им. Н. Э. Баумана (национальный исследовательский университет). - М., 2024. -
Предложен метод анализа текста на предмет его тональности, основанный на модели глубокого обучения нейронных сетей BERT-BiLSTM-Attention. Сначала текст кодируется с помощью модели BERT для получения его семантического представления. Затем закодированный текст поступает в модель BiLSTM для обработки этого представления в виде вектора. После этого выход модели BiLSTM взвешивается и усредняется алгоритмом Attention для получения окончательных результатов анализа настроения. Экспериментируя на наборе данных IMDB, модель, предложенная в данной работе, достигла точности 90 %, обеспечив лучшую производительность по сравнению с другими методами текстового анализа на основе глубокого обучения.
Ключевые слова: анализ тональности текста, BERT-BiLSTM-Attention, механизм Attention
004.89 Прикладные системы искусственного интеллекта. Интеллектуальные системы, основанные на использовании знаний