УДК 004.056
DOI: 10.36871/26189976.2026.04-5.003

Авторы

Хоанг Тхи Нгат,
Университет Шао-До, Чу Ван Ан, Хайфон, Вьетнам
Али Анварович Халидов,
ФГБОУ ВО Казанский государственный энергетический университет, Казань, Россия
Мовлади Исаевич Исаев,
Чеченский государственный университет им. А.А. Кадырова, Грозный, Россия

Аннотация

В статье представлен обзор методов обеспечения устойчивости систем машинного обучения к состязательным воздействиям в корпоративной среде. Рассмотрены основные классы атак, включая уклонение, отравление обучающих данных, инверсию модели, извлечение параметров и нарушение целостности выходных решений. Показано, что устойчивость интеллектуальных систем определяется не только алгоритмической робастностью, но и качеством корпоративной архитектуры данных, мониторинга, верификации и управления рисками. Особое внимание уделено состязательному обучению, регуляризации, обнаружению аномалий, оценке неопределенности, сертифицированной устойчивости и организационным мерам защиты. Обоснована необходимость комплексной модели корпоративной киберустойчивости машинного обучения.

Ключевые слова

машинное обучение,
состязательные воздействия,
устойчивость моделей,
корпоративная среда.

Список литературы

[1] Алексеевская И. С., Хайбуллин Д. В., Турдаков Д. Ю. Разработка защиты больших языковых моделей от состязательных атак в сценарии черного ящика на основе перефразирования // Труды ИСП РАН. 2025. Т. 37. № 5. С. 195–204. DOI: 10.36871/26189976.2026.04-5.003

[2] Герасимов В. М., Маслова М. А., Халилаева Э. И. Защита от состязательных атак на аудио и изображения в моделях искусственного интеллекта с применением метода SGEC // Научный результат. Информационные технологии. 2023. Т. 8. № 2. С. 53–60. DOI: 10.18413/2518-1092-2022-8-2-0-7.

[3] Ильюшин Е. А., Намиот Д. Е., Чижов И. В. Атаки на системы машинного обучения – общие проблемы и методы // International Journal of Open Information Technologies. 2022. Т. 10. № 3. С. 17–22.

[4] Костенко В. А., Селезнева А. Е. Виды атак на федеративные нейросети и способы защиты // Труды ИСП РАН. 2024. Т. 36. № 1. С. 35–44. DOI: 10.15514/ISPRAS-2024-36(1)-3.

[5] Костюмов В. В. Обзор и систематизация атак уклонением на модели компьютерного зрения // International Journal of Open Information Technologies. 2022. Т. 10. № 10. С. 11–20.

[6] Котенко И. В., Саенко И. Б., Лаута О. С. и др. Атаки и методы защиты в системах машинного обучения: анализ современных исследований // Вопросы кибербезопасности. 2024. № 1 (59). С. 24–37. DOI: 10.21681/2311-2024-1-24-37.

[7] Лукьянов К. С., Перминов А. И., Турдаков Д. Ю., Паутов М. А. Извлечение знаний в ограниченной области для примеров состязательных атак «черного ящика» // Труды ИСП РАН. 2025. Т. 37. № 4. Ч. 2. С. 133–146. DOI: 10.15514/ISPRAS-2025-37(4)-23.

[8] Менисов А. Б., Ломако А. Г., Сабиров Т. Р. Метод тестирования лингвистических моделей машинного обучения текстовыми состязательными примерами // Научно-технический вестник информационных технологий, механики и оптики. 2023. Т. 23. № 5. С. 946–954. DOI: 10.17586/2226-1494-2023-23-5-946-954.

[9] Намиот Д. Е. Схемы атак на модели машинного обучения // International Journal of Open Information Technologies. 2023. Т. 11. № 5. С. 68–86.

[10] Пришлецов Д. Е., Пришлецов С. Е., Намиот Д. Е. Камуфляж как состязательные атаки на модели машинного обучения // International Journal of Open Information Technologies. 2023. Т. 11. № 9. С. 41–49.

[11] Сазонов Г. В., Лукьянов К. С., Мелешин И. Н. Дилемма защитника: совместимы ли методы защиты от разных атак на модели машинного обучения? // Труды ИСП РАН. 2024. Т. 36. № 5. С. 109–126. DOI: 10.15514/ISPRAS-2024-36(5)-8.

[12] Сучков А. П. Жизненный цикл кибератак на уязвимости систем машинного обучения // Системы и средства информатики. 2024. Т. 34. № 1. С. 80–91. DOI: 10.14357/08696527240107.