УДК 004.82:004.855.5
DOI: 10.36871/2618-9976.2025.12–2.008

Авторы

Асет Адлановна Даудова,
Ассистент кафедры «Информатика и вычислительная техника», ФГБОУ Грозненский государственный нефтяной технический университет имени академика М. Д. Миллионщикова, Грозный, Россия
Рамина Асламбековна Мусаева,
ИВТ‑23–2, ФГБОУ Грозненский государственный нефтяной технический университет имени академика М. Д. Миллионщикова, Грозный, Россия

Аннотация

Автоматическое реферирование научных текстов представляет собой одну из наиболее трудоёмких задач обработки естественного языка, требующую одновременного решения проблемы извлечения ключевой информации и формирования когерентного, логически связного и стилистически корректного текста, что делает выбор архитектуры языковой модели определяющим фактором качества результирующего реферата. В данной статье проводится сравнительный анализ современных языковых моделей, основанных на архитектуре трансформеров, включая BERT, GPT и их наиболее распространённые аналоги, с точки зрения их способности адекватно представлять семантическую структуру научного текста, устранять избыточность информации, а также генерировать краткое содержание, соответствующее требованиям научного дискурса.

Ключевые слова

языковые модели
автоматическое реферирование
научные тексты
ключевая информация

Список литературы

[1] Белов А. А. Современные методы обработки естественного языка. — Москва: Наука, 2021. — 302 с.
[2] Громов Н. В. Архитектуры трансформеров и их применение в научной сфере // Компьютерная лингвистика. — 2022. — № 2. — С. 15–29.
[3] Девятов И. С. Генеративные модели в обработке текстов. — СПб.: Питер, 2020. — 340 с.
[4] Ермакова Л. Ю. Контекстное моделирование научных текстов // Вопросы искусственного интеллекта. — 2021. — № 4. — С. 66–79.
[5] Козлов Е. В. Применение BERT для анализа научных публикаций // Информатика и кибернетика. — 2020. — № 3. — С. 22–34.
[6] Ларионов М. Д. Генерация текстов с помощью GPT-моделей. — Москва: УРСС, 2022. — 288 с.
[7] Миронов С. О. Универсальные трансформеры для задач суммаризации // Технологии ИИ. — 2021. — № 1. — С. 11–24.
[8] Никитин А. П. Специализированные языковые модели научного домена. — Нижний Новгород: НГУ, 2020. — 276 с.
[9] Смирнова К. Е. Автоматическое реферирование научных текстов: проблемы и перспективы // Журнал прикладной лингвистики. — 2022. — № 5. — С. 30–44.
[10] Трошин В. Г. Трансформеры в задачах научной коммуникации. — Казань: Университетская книга, 2021. — 214 с.