Подробное описание документа
Парфентьев К. В.
Формирование псевдослучайных последовательностей на основе нейросетевых генеративных моделей с механизмом внимания / Парфентьев К. В., Парфентьева К. В. // Автоматизация. Современные технологии. - 2025. - Т. 79, № 7. -
Рассмотрена задача алгоритмической генерации псевдослучайных последовательностей. Для их улучшения предлагается использовать сочетание генеративно-предсказательного подхода (модификация генеративно-состязательных нейронных сетей, которые хорошо показывают себя в генерации изображений) и механизма внимания, который используется в больших языковых моделях для генерации текста. Согласно проведенным экспериментам, этот подход позволил улучшить долю последовательностей, прошедших проверку на случайность, на 3,5 %, а среднюю вероятность наблюдения тестовой статистики на 16 %.
Ключевые слова искусственные нейронные сети, генеративно-предсказательные сети, нейронные сети-трансформеры, механизм внимания, генерация псевдослучайных последовательностей
004.855.5 Обучение на примерах