УДК 004.8.
DOI: 10.36871/ek.up.p.r.2024.12.15.024
Авторы
Зурида Борисовна Батчаева,
Айша Руслановна Байрамукова,
Айша Муратовна Чегемлиева,
Северо-Кавказская Государственная Академия, г. Черкесск, Российская Федерация
Аннотация
В статье рассматривается применение метаобучения для автоматического проектирования оптимальных архитектур нейронных сетей. Предложен подход, основанный на двухуровневой оптимизации, где метаобучение используется для поиска универсальных параметров и стратегий, ускоряющих процесс генерации эффективных архитектур. Показано, что метаобучение снижает вычислительные затраты и обеспечивает высокую адаптивность к новым задачам, что делает его предпочтительным по сравнению с традиционными методами, такими как ручное проектирование и поиск архитектур (NAS). Представлены экспериментальные результаты, подтверждающие преимущество подхода, а также определены основные ограничения, включая требования к вычислительным ресурсам и вызовы в обобщении на новые задачи. Рассмотрены перспективные направления развития, включая интеграцию с трансформерами, гибридные методы и адаптацию для специализированных областей, таких как медицина и финансы. Предложенный подход способствует ускорению разработки нейросетей, улучшая их производительность и доступность для применения в широком спектре задач.
Ключевые слова
метаобучение, автоматическое проектирование, нейронные сети, оптимальные архитектуры, NAS, обучение с подкреплением, эволюционные алгоритмы, гиперпараметры, трансформеры
