ОЦЕНКА ВОЗМОЖНОСТЕЙ ПРИМЕНЕНИЯ МЕТОДА ОБЪЯСНИТЕЛЬНОГО ИИ GRAD-­CAM В ЗАДАЧЕ НЕЙРОСЕТЕВОЙ КЛАССИФИКАЦИИ СТАДИЙ ДИАБЕТИЧЕСКОЙ РЕТИНОПАТИИ НА СНИМКАХ ФУНДУС­-КАМЕРЫ

УДК 004.891
DOI: 10.36871/2618-9976.2024.12.007

Авторы

Егор Николаевич Волков,
Младший научный сотрудник, Государственный университет «Дубна», Дубна, Россия
Алексей Николаевич Аверкин,
К.ф.­м.н., доцент, ведущий научный сотрудник, Государственный университет «Дубна», Дубна, Россия

Аннотация

В данной статье представлено исследование по применению метода объяснительного ИИ Grad-CAM для интерпретации решений нейросетевой модели VGG-16, обученной классифицировать стадии диабетической ретинопатии на снимках фундус-камеры. Модель достигла высокой точности классификации, а Grad-CAM позволил визуализировать области изображений, на которые опирается модель. Показано, что модель выделяет ключевые признаки ДР, такие как микроаневризмы и экссудаты. Несмотря на ограничения, Grad-CAM оказался полезным инструментом для повышения прозрачности работы нейросети и может способствовать углублению понимания патофизиологии заболевания.

Ключевые слова

искусственный интеллект
объяснительный искусственный интеллект
искусственные нейронные сети
нейронные сети
анализ изображений
офтальмография
офтальмология
персонализированная медицина
XAI
Grad-CAM