В УрФУ разработали сервис, помогающий заменять в тексте токсичные слова

Разработка помогает выявлять «плохие» слова и заменять их на «хорошие»

Филологи Уральского федерального университета (УрФУ) разработали сервис для выявления и замены токсичных слов в текстах, чтобы избежать случайных оскорблений. Этот инструмент представляет собой плагин для Microsoft Word, который позволяет пользователям проверять свои тексты на наличие слов и фраз, способных вызвать негативные реакции. Сервис предлагает нейтральные варианты замены для слов, которые могли быть использованы ненамеренно, что способствует улучшению качества общения, снижению конфликтов и повышению терпимости.

Профессор кафедры фундаментальной и прикладной лингвистики УрФУ Анна Плотникова отметила, что сервис помогает авторам обнаруживать конфликтогенные элементы в тексте. Например, обсуждение мигрантов в неполиткорректном ключе может быть проблематичным, и сервис предлагает замену таких выражений на более нейтральные. Такие программы могут смягчить полемику, предотвращая судебные разбирательства по вопросам оскорблений и защиты чести и достоинства.

Сервис учитывает контекст использования слов, что важно для правильного понимания и замены. Например, слова «старики» и «старухи» могут быть оскорбительными, если использовать их в отношении пожилых людей, но будут уместны в цитате из произведений, таких как «Сказка о рыбаке и рыбке» Пушкина. Программа анализирует ближайшее окружение слов, чтобы определить их значение и предложить корректные замены.

Программа не заменяет слова автоматически, а лишь предлагает варианты замены, оставляя автору свободу выбора. Основная цель сервиса — сделать коммуникацию успешной, бесконфликтной и гармоничной.

Разработка сервиса велась в рамках проекта «Благополучие человека в условиях цифровизации». Это первый подобный инструмент для русского языка, хотя на рынке уже существуют аналоги для английского языка, такие как Angry Translator, который переводит с «злого» языка на «добрый». Разработка скоро станет доступна для свободного пользования.

Читать материалы по теме:

«Яндекс Клавиатура» научилась исправлять и улучшать тексты

Сократит текст и выделит основную мысль: нейросеть VK добавили в сервис Mail.ru

Нейросеть YandexGPT научилась тезисно пересказывать текст, протестировать сервис может любой желающий

Этот сайт использует куки