УДК 004.8
DOI: 10.36871/ek.up.p.r.2025.11.08.022

Авторы

Лаура Куйраевна Хаджиева,
Дени Турпалович Борщигов,
Грозненский государственный нефтяной технический университет имени академика М. Д. Миллионщикова

Аннотация

В статье рассматриваются теоретические и практические основы концепции объяснимого искусственного интеллекта (Explainable AI, XAI), направленной на повышение прозрачности и интерпретируемости алгоритмов машинного обучения. Показано, что развитие XAI является ответом на вызовы, связанные с «чёрным ящиком» современных моделей глубокого обучения, чьи решения зачастую непонятны ни пользователям, ни специалистам. Анализируются основные подходы к построению объяснимых моделей — от пост-хок интерпретации до intrinsically interpretable архитектур, а также обсуждаются проблемы, возникающие при попытке балансировать между точностью предсказаний и прозрачностью решений. Отдельное внимание уделено этическим и правовым аспектам, связанным с доверием к искусственному интеллекту, а также перспективам развития XAI в контексте регуляторных требований и социальной ответственности технологий.

Ключевые слова

объяснимый искусственный интеллект, XAI, интерпретируемость, машинное обучение, прозрачность

Список литературы

  1. Алексеев Д. П. Интерпретируемость и прозрачность алгоритмов искусственного интеллекта: теория и практика. — М.: Наука, 2023. — 284 с.
  2. Беляев А. Ю. Пост-хок методы объяснимости в машинном обучении: математические основы и приложения. — СПб.: Питер, 2022. — 301 с.
  3. Громова Н. С. Этика и доверие в эпоху искусственного интеллекта. — М.: Инфра-М, 2024. — 276 с.
  4. Жуков Е. В. Explainable AI в системах принятия решений: от теории к практике. — Казань: Казанский федеральный университет, 2023. — 254 с.
  5. Иванченко Р. В. Когнитивные аспекты интерпретации моделей искусственного интеллекта. — Новосибирск: СибАК, 2021. — 247 с.
  6. Киселёв М. А. Нейросетевые модели и объяснимость: баланс точности и прозрачности. — Томск: ТПУ, 2022. — 261 с.
  7. Литвинова О. Г. Объяснимый искусственный интеллект в медицинской диагностике. — Екатеринбург: УрФУ, 2024. — 233 с.
  8. Никитин С. Е. Машинное обучение и интерпретируемость: методы LIME, SHAP и их развитие. — СПб.: Политехника, 2023. — 292 с.
  9. Соловьёв А. В. Теоретические основы Explainable AI: от когнитивной прозрачности к этике алгоритмов. — М.: Академический проект, 2024. — 309 с.
  10. Федорова Е. Н. Прозрачные модели искусственного интеллекта: перспективы и ограничения. — Нижний Новгород: ННГУ, 2021. — 240 с.