Ученые из МФТИ разработали новую структуру биполярного морфологического нейрона – упрощённого аналога традиционных искусственных нейронов – и предложили метод обучения, способный повысить вычислительную эффективность нейронных сетей.
Новый способ построения нейросети демонстрирует высокие результаты даже при упрощённой структуре нейронов. Такой подход открывает возможности для создания более энергоэффективных и быстрых систем искусственного интеллекта, что особенно актуально, учитывая, что большинство современных ИИ-моделей опирается на операции сложения и умножения, при этом умножение требует значительно больших вычислительных мощностей.
Альтернативой традиционным нейронам стали биполярные морфологические нейроны, в которых операция умножения заменена на взятие максимума. Хотя нейросети на их основе могут обладать преимуществом в энергоэффективности, их обучение представляло серьёзную сложность из-за увеличенного числа вычислительных ветвей.
Российским исследователям удалось создать новую модель такого нейрона, которая сокращает количество ветвей с четырёх до одной. Новый метод обучения, основанный на дистилляции знаний – передаче информации от «учительской» сети к обучаемой – позволяет достичь точности, сопоставимой с классическими моделями. Экспериментальные испытания аналогов LeNet и ResNet-22, популярных систем для распознавания изображений и рукописного текста, показали, что новая архитектура справляется с тестами на том же уровне, что и её традиционные аналоги.
В перспективе разработка таких энергоэффективных и высокопроизводительных моделей позволит создавать более экономичные алгоритмы для задач, требующих значительных вычислительных ресурсов, что может стать важным шагом в развитии технологий искусственного интеллекта.
Читать материалы по теме:
Минцифры и Минэкономразвития создадут курсы по использованию ИИ в промышленности
Сколтех и МФТИ разработали алгоритм для быстрого поиска высокоэффективных сплавов с помощью ИИ
Разработана система ИИ для выявления погрешностей в квантовых вычислениях
