Токсичным — бой!: в «Одноклассниках» сократили число негативных комментариев с помощью ИИ

В социальную сеть «Одноклассники» внедрили искусственный интеллект (ИИ) для борьбы с оскорбительными комментариями. Новое решение позволило сократить количество токсичных высказываний на 47%.

Источник изображения сгенерировано нейросетью DALL•Е 3

Новая ML-модель автоматически выявляет негативные сообщения, оставленные под видео, фотографиями и постами.

Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями.

Александр Москвичев, директор по продукту «Одноклассников»

Теперь токсичные комментаторы получают блокировку возможности писать сообщения на срок от одного часа до суток. Модель обучили на основе 400 тысяч негативных отзывов, процесс ее совершенствования продолжается. Благодаря внедрению ИИ обработка жалоб стала в три раза быстрее.

Кроме того, алгоритмы используются для обнаружения нецензурной брани, изображений эротического характера и фотографий с элементами насилия. Все неприемлемые данные автоматически скрывается.

Ранее www1.ru сообщал, что аудитория «Одноклассников» выросла впервые за пять лет.