En la red social "Odnoklassniki" se implementó inteligencia artificial (IA) para combatir los comentarios ofensivos. La nueva solución permitió reducir la cantidad de expresiones tóxicas en un 47%.
El nuevo modelo de ML detecta automáticamente los mensajes negativos dejados debajo de videos, fotografías y publicaciones.
Vemos por las solicitudes de los usuarios que nuestra audiencia necesita un espacio para una comunicación segura y respetuosa: un tercio de todas las quejas en la plataforma están relacionadas con comentarios negativos, en opinión de los usuarios.
Ahora, los comentaristas tóxicos reciben un bloqueo de la posibilidad de escribir mensajes por un período de una hora hasta un día. El modelo se entrenó sobre la base de 400 mil comentarios negativos, y el proceso de mejora continúa. Gracias a la implementación de la IA, el procesamiento de quejas se ha triplicado en velocidad.
Además, los algoritmos se utilizan para detectar lenguaje obsceno, imágenes de carácter erótico y fotografías con elementos de violencia. Todos los datos inaceptables se ocultan automáticamente.
Anteriormente, www1.ru informó que la audiencia de "Odnoklassniki" creció por primera vez en cinco años.
Leer materiales sobre el tema:
¡Cúbranlo inmediatamente!: en «Odnoklassniki» comenzaron a ocultar imágenes eróticas
Eliminaron el factor irritante: en «Odnoklassniki» permitieron rechazar regalos
