Перейти к содержанию

ИИ Яндекса идёт в опенсорс: модель для ответов в поиске открыли всем

Alice AI Search Pretrain можно использовать разработчикам и компаниям без привязки к закрытой инфраструктуре

Яндекс открыл исходный код Alice AI Search Pretrain — языковой модели, лежащей в основе быстрых ИИ-ответов в «Яндекс Поиске». Скачать её может любой: компания выложила модель на платформе Hugging Face под лицензией Apache 2.0.

Источник изображения: Chatgpt

Опенсорс — открытый исходный код: разработчики и исследователи могут изучить устройство модели и использовать её в своих проектах. Лицензия Apache 2.0 разрешает это свободно, в том числе в коммерческих продуктах.

Pretrain — базовая версия после первого этапа обучения: модель уже много знает о мире, но ещё не заточена под конкретную задачу. Дообученная версия с июля генерирует ответы под поисковой строкой «Яндекса».

Alice AI Search Pretrain собрана по гибридной архитектуре из двух технологий. Encoder-Decoder — одна часть модели читает и отбирает информацию, другая пишет ответ, поэтому он получается коротким и по делу. MoE (Mixture of Experts, «смесь экспертов») — вместо всей нейросети включается только тот блок, который лучше разбирается в теме.

Параметры — числа-настройки, в которых хранятся «знания» модели: всего их 35 млрд, но на один токен (фрагмент текста размером примерно со слово) задействуется около 600 млн, меньше 2%.

По качеству ответов на русском модель обошла другие компактные модели — Qwen 3.5 2B и 4B, T5 Gemma 2 4B-4B Base. Замеры шли слепым методом: оценщик не знал, какая модель дала ответ. При этом по качеству Alice AI Search Pretrain сопоставима с Qwen 3.5 35B-A3B, которой нужно заметно больше вычислительных ресурсов. Быстрыми ответами в «Яндекс Поиске» ежемесячно пользуются более 49 млн человек.

Читайте ещё материалы по теме: