Подробное описание документа

Калугин В. Т., Луценко А. Ю., Романова-Большакова И. К.
   Объяснимый искусственный интеллект как новое направление развития интеллектуальных технологий и подготовки кадров в ракетно-космической и авиационной технике / Калугин В. Т., Луценко А. Ю., Романова-Большакова И. К. // Альма матер (Вестник Высшей школы). - 2025. - № 6. - С. 76-82.

Представлена новая задача в области искусственного интеллекта - сделать его понятным и доступным. Проблемы «черного ящика» в искусственном интеллекте (ИИ) на сегодняшний день весьма успешно решаются в рамках нового направления - объяснимого искусственного интеллекта (XAI), признанного искусственным интеллектом третьего поколения. В статье определены понятия и проблемы объяснимости ИИ, описаны методы решения в области объяснимости ИИ. Отмечена роль XAI как интерфейса между сложными интеллектуальными системами и специалистами по данным, экспертами в предметной области, разработчиками и эксплуатантами новой техники - конечными пользователями. Он помогает расшифровывать сложные внутренние механизмы «черного ящика» машинного обучения (ML), делая причины их решений более понятными. Методы объяснимого машинного обучения повышают прозрачность использования и уровень доверия людей. Отмечено современное состояние ИИ в области РКТ (ракетно-космической техники) и направления РКТ, в которых целесообразно внедрять технологии объяснимого ИИ. Поставлена задача актуализации планов подготовки специалистов РКТ в области ИИ с учетом новых тенденций объяснимого ИИ и формирования новых компетенций разработчиков ракетно-космической и авиационной техники для решения задач жизненного цикла изделий, в том числе диагностики, прогнозного обслуживания, распознавания образов, оптимального проектирования на базе методов XAI.
Ключевые слова компетенции разработчиков ракетно-космической и авиационной техники, искусственный интеллект, объяснимый искусственный интеллект