Российские учёные разработали подход, позволяющий обучать гибридные нейросети с использованием альтернативных вычислительных систем — фотонных, нейроморфных и аналоговых чипов. Об этом сообщила пресс-служба Института искусственного интеллекта AIRI.
Сегодня такие чипы решают лишь отдельные задачи и не могут полностью взять на себя обучение нейросетей. Решение — гибридные системы: основную часть операций выполняют классические микрочипы, а самые частые вычисления берёт на себя специализированный сопроцессор. Исследователи из AIRI, Центра квантовых технологий Сбербанка и «Сколтеха» создали алгоритм, который обучает такие сети даже без доступа к внутренним градиентам сопроцессора. Подход проверили на шести цифровых моделях фотонных слоёв и трёх классах задач.
Расчёты показали: точное знание того, что происходит внутри каждого компонента, не требуется. Наблюдения за реакцией устройства на случайные изменения вместе с приближённой моделью сопроцессора дают результаты, близкие к полностью цифровым базовым моделям. В перспективе гибридные системы найдут применение в дата-центрах для обучения больших моделей и в устройствах с жёсткими требованиями к скорости и энергопотреблению.
Читайте ещё материалы по теме:
- Искусственный интеллект научили «осознавать» пространство учёные из МФТИ и Института AIRI
- Специалисты Сбербанка и Института AIRI создали инструмент, который проверяет ИИ на точность при разработке лекарств
- Больше не нужно искать симптомы в интернете: учёные создали медпомощника на основе искусственного интеллекта AIRI