УДК 004.056
DOI: 10.36871/26189976.2026.04-4.010

Авторы

Анастасия Анатольевна Бабошкина,
Московский государственный институт международных отношений Российской Федерации, Москва, Россия; Финансовый университет при Правительстве Российской Федерации, Москва, Россия
Артем ОлеговичАбрамов,
Российский экономический университет им. Г.В. Плеханова, Москва, Россия; Научный центр сердечно-сосудистой хирургии имени А. Н. Бакулева, Москва, Россия
Наила Алигасановна Теплая,
Московский государственный университет технологий и управления им. К.Г. Разумовского, Москва, Россия

Аннотация

В статье рассматриваются ключевые аспекты обеспечения безопасности систем искусственного интеллекта в условиях роста их внедрения в критически важные сферы. Анализируются основные типы атак на модели машинного обучения, включая атаки с подменой данных, состязательные примеры и атаки на конфиденциальность, такие как извлечение модели и восстановление обучающих данных. Особое внимание уделяется уязвимостям современных архитектур и рискам, связанным с недостаточной интерпретируемостью моделей. Рассматриваются существующие методы защиты, включая устойчивое обучение, методы обнаружения атак, дифференциальную приватность и использование защищённых вычислительных сред. Предлагается системный подход к обеспечению безопасности, включающий как технические, так и организационные меры, направленные на минимизацию рисков эксплуатации уязвимостей. Результаты работы могут быть использованы при разработке надёжных и безопасных AI-систем.

Ключевые слова

искусственный интеллект
безопасность ИИ
состязательные атаки
враждебные атаки
отравление данных
защита моделей
машинное обучение
дифференциальная приватность
кибербезопасность
устойчивость моделей

Список литературы

[1] Васильев В. И., Лебедев А. Н. Методы обеспечения безопасности систем машинного обучения // Информационная безопасность. — 2022. — № 3. — С. 45–52.

[2] Гудфеллоу И., Бенджио Й., Курвилль А. Глубокое обучение / пер. с англ. — М.: ДМК Пресс, 2018. — 652 с.

[3] Иванов Д. А., Петров К. Е. Состязательные атаки на нейронные сети и методы противодействия // Программные системы и вычислительные методы. — 2021. — № 4. — С. 33–41.

[4] Козлов М. Н. Защита данных в системах искусственного интеллекта. — СПб.: Питер, 2020. — 256 с.

[5] Куликов С. С. Уязвимости моделей искусственного интеллекта и методы их защиты // Вестник кибербезопасности. — 2023. — Т. 7, № 1. — С. 12–20.

[6] Рассел С., Норвиг П. Искусственный интеллект: современный подход / пер. с англ. — 3-е изд. — М.: Вильямс, 2020. — 1408 с.

[7] Сидоров Е. Г. Безопасность искусственного интеллекта: вызовы и решения // Труды конференции «Кибербезопасность и защита информации». — М., 2024. — С. 120–128.

[8] Смирнов А. В. Дифференциальная приватность в задачах машинного обучения // Журнал вычислительной математики и математической физики. — 2022. — Т. 62, № 5. — С. 789–802.

[9] Федоров И. П., Орлова Н. С. Анализ атак на модели машинного обучения в облачных сервисах // Информационные технологии. — 2023. — Т. 29, № 2. — С. 98–105.

[10] Хорошевский В. Ф. Искусственный интеллект: современное состояние и перспективы развития. — М.: Наука, 2021. — 312 с.