УДК 004.89
DOI: 10.36871/26189976.2026.05-4.008

Авторы

Татьяна Геннадьевна Никишина,
Донской государственный технический университет, Ростов-на-Дону, Россия
Али Анварович Халидов,
ФГБОУ ВО Казанский государственный энергетический университет, Казань, Россия
Александр Альбертович Петросян,
Московский политехнический университет, Москва, Россия

Аннотация

В статье рассматриваются методы интерпретации решений моделей машинного обучения в прикладных информационных системах. Обоснована необходимость перехода от оценки только прогностической точности к комплексному анализу прозрачности, устойчивости и предметной объяснимости алгоритмических выводов. Раскрыты локальные и глобальные подходы к интерпретации, включая суррогатное моделирование, оценку вклада признаков, анализ частичных зависимостей и аддитивное разложение прогноза. Предложена методическая схема выбора средств объяснения с учетом типа данных, архитектуры модели и требований пользователя. Показано, что интерпретация повышает доверие к интеллектуальным сервисам и снижает риск ошибочного управленческого решения.

Ключевые слова

машинное обучение,
интерпретация решений,
прикладные информационные
системы,
объяснимость моделей.

Список литературы

[1] Аверкин А. Н., Волков Е. Н., Ярушев С. А. Объяснительный искусственный интеллект в анализе цифровых изображений на основе нейронных сетей глубокого обучения // Известия Российской академии наук. Теория и системы управления. 2024. № 1. С. 150–178.

[2] Аверкин А. Н., Ярушев С. А. Обзор исследований в области разработки методов извлечения правил из искусственных нейронных сетей // Известия Российской академии наук. Теория и системы управления. 2021. № 6. С. 106–121. DOI: 10.36871/26189976.2026.05-4.008

[3] Аверкин А. Н., Ярушев С. А. Объяснительный искусственный интеллект в моделях поддержки принятия решений для Здравоохранения 5.0 // Компьютерные инструменты в образовании. 2023. № 2. С. 41–61. DOI: 10.32603/2071-2340-2023- 2-41-61.

[4] Гельцер Б. И., Шахгельдян К. И., Рублев В. Ю., Домжалов И. Г., Циванюк М. М., Шекунова О. И. Фенотипирование факторов риска и прогнозирование внутригоспитальной летальности у больных ишемической болезнью сердца после коронарного шунтирования на основе методов объяснимого искусственного интеллекта // Российский кардиологический журнал. 2023. Т. 28. № 4. С. 85–93. DOI: 10.15829/1560-4071-2023-5302.

[5] Горохов В. Л., Брусакова И. А. Когнитивные инструменты объяснительного искусственного интеллекта для задач транспортной и образовательной логистики // Компьютерные инструменты в образовании. 2023. № 2. С. 30–40. DOI: 10.32603/2071-2340-2023-2-30-40.

[6] Исаков А. О., Гусарова Н. Ф., Добренко Д. А., Голубев А. А. Объяснимость поведения агентов в системах поддержки принятия клинических решений // Экономика. Право. Инновации. 2024. № 4. С. 50–59. DOI: 10.17586/2713-1874-2024-4-50-59.

[7] Карпов О. Э., Андриков Д. А., Максименко В. А., Храмов А. Е. Прозрачный искусственный интеллект для медицины // Врач и информационные технологии. 2022. № 2. С. 4–11. DOI: 10.25881/18110193_2022_2_4.

[8] Коротеев М. В. Обзор некоторых современных тенденций в технологии машинного обучения // E-Management. 2018. Т. 1. № 1. С. 26–35. DOI: 10.26425/2658- 3445-2018-1-26-35.

[9] Шахгельдян К. И., Рублев В. Ю., Куксин Н. С., Пак Р. Л., Гельцер Б. И. Интерпретируемые модели машинного обучения как инструмент объяснения прогнозных оценок в кардиологии // Вестник современной клинической медицины. 2025. Т. 18. № 1. С. 98–106. DOI: 10.20969/VSKM.2025.18(1).98-106.

[10] Шевская Н. В. Объяснимый искусственный интеллект и методы интерпретации результатов // Моделирование, оптимизация и информационные технологии. 2021. Т. 9. № 2(33). DOI: 10.26102/2310-6018/2021.33.2.024.

[11] Шилов Н. Г., Пономарев А. В., Смирнов А. В. Анализ методов онтолого-ориентированного нейро-символического интеллекта при коллаборативной поддержке принятия решений // Информатика и автоматизация. 2023. Т. 22. № 3. С. 576–615. DOI: 10.15622/ia.22.3.4.