УДК 330
DOI: 10.36871/ek.up.p.r.2025.12.18.025

Авторы

Исмаил Усманович Хашумов,
Асхаб Зелимханович Дукузов,
ФГБОУ ВО «Грозненский государственный нефтяной технический университет им. акад. М. Д. Миллионщикова», Грозный, Россия

Аннотация

В статье рассматриваются подходы к объяснимому машинному обучению (XAI) в контексте поддержки операторов при принятии решений в системах управления сложными технологическими агрегатами. Представлена классификация методов XAI: интерпретируемые модели и постхок объяснения. Проведен сравнительный анализ применимости различных подходов по критериям пригодности в реальном времени, надёжности объяснений и соответствия когнитивным требованиям оператора. Обосновывается необходимость интеграции XAI в архитектуру человеко-машинного взаимодействия, с акцентом на адаптивные интерфейсы, онтологические модели объектов управления и контуры обратной связи. Отдельное внимание уделено ограничениям современных решений и перспективам стандартизации XAI в промышленной практике.

Ключевые слова

объяснимое машинное обучение, человеко-машинные системы, оператор XAI системы управления, технологический агрегат

Список литературы

  1. Аверкин А. Н., ТихоновД.Е., МельникК.А.Трассировка причинно-следственных связей в интерпретируемых нейронных сетях для систем управления технологическими процессами // Автоматизация в промышленности. 2024. Т. 28. № 11. С. 42–53.
  2. Агеев А. И., Смирнова Л. В. Объяснимый искусственный интеллект в задачах мониторинга сложных производственных систем // Вестник искусственного интеллекта. 2025. Т. 12. № 2. С. 15–29.
  3. Беляев П. С., Романова О. В. Интеграция XAI-моделей в человеко-машинные интерфейсы операторских консольных систем // Промышленная информатика. 2023. Т. 9. № 4. С. 67–78.
  4. Головин С. М., Кузнецова Е. П. Обучение с подкреплением при управлении режимами сна сетевых коммутаторов // Радиоэлектроника. 2025. Т. 31. № 8. С. 91–102.
  5. Жарасов Б. С., Абрамов В. И. Цифровые двойники в управлении производством: принципы создания, проблемы внедрения и перспективы развития // Современная экономика: проблемы и решения. 2024. № 6 (174). С. 80–94
  6. Козлова В. В. Оптимизация бизнес-процессов с применением технологий искусственного ин теллекта // Вестник Евразийской науки. 2025. Т. 17. № s2. С. 1–16.
  7. Мухамеджанов А. И., Хабибуллин И. И. Обзор методов машинного обучения для прогнозирования технического состояния газотурбинных двигателей // Вестник КГТУ им. А. Н. Туполева. 2023. № 3. С. 70–78.
  8. Прыткова Е. А., Давыдов В. М. Применение многофакторного анализа показателей качества машиностроительной продукции для оптимизации бизнес-процессов // Вестник МГТУ им. Г. И. Носова. 2024. Т. 22. № 3. С. 152–159.