УДК 004.056
DOI: 10.36871/26189976.2026.06-4.008
Авторы
Зарина Мухмадовна Лорсанова,
ФГБОУ ВО Чеченский государственный университет им. А.А. Кадырова, Грозный, Россия
Анна Алексеевна Ильмушкина,
РОСБИОТЕХ Федеральное государственное бюджетное образовательное учреждение высшего образования Российский биотехнологический университет, Москва, Россия
Владислав Евгеньевич Вилков,
Северо-Западный институт управления РАНХиГС, Санкт-Петербург, Россия
Аннотация
В статье рассматривается интерпретируемость моделей машинного обучения как ключевое условие формирования доверия к автоматизированным решениям в кибербезопасности. Показано, что высокая предсказательная точность интеллектуальных алгоритмов не обеспечивает их практической приемлемости без прозрачного объяснения причин классификации сетевых событий, выявления аномалий и приоритизации угроз. Обоснована необходимость сочетания математической результативности моделей с экспертной верифицируемостью, прослеживаемостью признаков и контролируемостью решений. Предложен концептуальный подход к оценке доверия через точность, устойчивость, объяснимость и операционную применимость модели.
Ключевые слова
интерпретируемость моделей
машинного обучения,
кибербезопасность,
автоматизированные решения.
Список литературы
[1] Аверкин А.Н., Ярушев С.А. Объяснительный искусственный интеллект в моделях поддержки принятия решений для здравоохранения 5.0 // Компьютерные инструменты в образовании. 2023. № 2. С. 41–61. DOI: 10.32603/2071-2340-2023- 2-41-61.
[2] Бирюков Д.Н., Дудкин А.С. Объяснимость и интерпретируемость — важные аспекты безопасности решений, принимаемых интеллектуальными системами (обзорная статья) // Научно-технический вестник информационных технологий, механики и оптики. 2025. Т. 25. № 3. С. 373–386. DOI: 10.17586/2226-1494-2025- 25-3-373-386.
[3] Булгакова Е.В., Дойников Д.С., Кубанков А.Н. Проблема точности и объяснимости при внедрении искусственного интеллекта в системы управления информацией и событиями безопасности // Наукоемкие технологии в космических исследованиях Земли. 2025. Т. 17. № 3. С. 35–41. DOI: 10.36724/2409-5419-2025-17-3-35-41.
[4] Доргушаова А.К., Довгаль В.А., Козлова Н.Ш., Козлов Р.С. Обзор использования технологий машинного обучения в обеспечении информационной безопасности данных: настоящее и будущее // Вестник Адыгейского государственного университета. Серия: Естественно-математические и технические науки. 2024. Вып. 1 (336). С. 51–59. DOI: 10.53598/2410-3225-2024-1-336-51-59.
[5] Ильюшин Е.А., Намиот Д.Е., Чижов И.В. Атаки на системы машинного обучения — общие проблемы и методы // International Journal of Open Information Technologies. 2022. Т. 10. № 3. С. 17–22.
[6] Козлова Н.Ш., Довгаль В.А. Анализ применения искусственного интеллекта и машинного обучения в кибербезопасности // Вестник Адыгейского государственного университета. Серия: Естественно-математические и технические науки. 2023. № 3 (326). С. 65–72. DOI: 10.53598/2410-3225-2023-3-326-65-72.
[7] Коротеев М.В. Обзор некоторых современных тенденций в технологии машинного обучения // E-Management. 2018. Т. 1. № 1. С. 26–35. DOI: 10.26425/2658- 3445-2018-1-26-35.
[8] Намиот Д.Е., Ильюшин Е.А., Пилипенко О.Г. Доверенные платформы искусственного интеллекта // International Journal of Open Information Technologies. 2022. Т. 10. № 7. С. 119–127.
[9] Намиот Д.Е., Ильюшин Е.А., Чижов И.В. Искусственный интеллект и кибербезопасность // International Journal of Open Information Technologies. 2022. Т. 10. № 9. С. 135–147. DOI: 10.5281/zenodo.12573114.
[10] Сазонов Г.В., Лукьянов К.С., Боярский С.К., Макаров И.А. Так ли безопасна интерпретируемость ИИ: взаимосвязь интерпретируемости и защищенности моделей машинного обучения // Труды Института системного программирования РАН. 2024. Т. 36. Вып. 5. С. 127–142.
[11] Сарин К.С. Методика построения интерпретируемых нечетких классификаторов для систем объяснимого искусственного интеллекта // Доклады Томского государственного университета систем управления и радиоэлектроники. 2025. Т. 28. № 2. С. 73–87. DOI: 10.21293/1818-0442-2025-28-2-73-87.
[12] Шевская Н.В. Объяснимый искусственный интеллект и методы интерпретации результатов // Моделирование, оптимизация и информационные технологии. 2021. Т. 9. № 2. DOI: 10.26102/2310-6018/2021.33.2.024.
