Проект «Поймай бота: семантические пространства дополненного ума» реализуется в рамках стратегического проекта НИУ ВШЭ «Устойчивый мозг: нейрокогнитивные технологии адаптации, обучения, развития и реабилитации человека в изменяющейся среде» (входит в программу «Приоритет-2030»). Он сможет распознавать тексты, написанные различными программами, в широком классе ботов для различных языков и разных целей: от постов в Сети до научных работ.
Система работает на базе нескольких различных областей математического знания: теория хаотических динамических систем, топологический анализ данных, теория размерности, теория чёткой и нечеткой кластеризации, нейронные сети и так далее. Боты обычно обходят одну или несколько характеристик распознавания, но все их полностью подделать крайне трудно.
Наша разработка отличается от разработок конкурентов. Подавляющее большинство аналогичных проектов посвящено задаче идентификации конкретных архитектур генеративных языковых моделей, к примеру, ChatGPT. Это приводит к неизбежному устареванию таких наработок по мере развития инструментов генерации текстов и/или возникновения новых типов ботов, а также вынуждает потенциальных потребителей использовать на практике сразу несколько моделей, ответственных за обнаружение ботов с различными архитектурами. Мы «ловим» всех ботов, а не только одного или нескольких, находящихся в нашем распоряжении.
Сейчас приложение от НИУ ВШЭ в виде прототипа выходит на тесты в широком диапазоне текстов: от художественных произведений, сгенерированных ботами, до выпускных конкурсных работ студентов. Далее перейдут к обучению системы на английском языке, затем в неё включат языки народов России и стран БРИКС. Запустить платформу планируют в 2025 году.
Читать материалы по теме:
Обучат нейросети принимать решения: в Москве разработали банк данных для обучения ИИ
Россия поручит ИИ проектирование цифровых интегральных микросхем
Российские исследователи обучили нейросеть распознавать лица людей с неудобных ракурсов