В УрФУ разработали сервис, помогающий заменять в тексте токсичные слова

Филологи Уральского федерального университета (УрФУ) разработали сервис для выявления и замены токсичных слов в текстах, чтобы избежать случайных оскорблений. Этот инструмент представляет собой плагин для Microsoft Word, который позволяет пользователям проверять свои тексты на наличие слов и фраз, способных вызвать негативные реакции. Сервис предлагает нейтральные варианты замены для слов, которые могли быть использованы ненамеренно, что способствует улучшению качества общения, снижению конфликтов и повышению терпимости.

Источник изображения сгенерировано нейросетью DALL•Е 3

Профессор кафедры фундаментальной и прикладной лингвистики УрФУ Анна Плотникова отметила, что сервис помогает авторам обнаруживать конфликтогенные элементы в тексте. Например, обсуждение мигрантов в неполиткорректном ключе может быть проблематичным, и сервис предлагает замену таких выражений на более нейтральные. Такие программы могут смягчить полемику, предотвращая судебные разбирательства по вопросам оскорблений и защиты чести и достоинства.

Сервис учитывает контекст использования слов, что важно для правильного понимания и замены. Например, слова «старики» и «старухи» могут быть оскорбительными, если использовать их в отношении пожилых людей, но будут уместны в цитате из произведений, таких как «Сказка о рыбаке и рыбке» Пушкина. Программа анализирует ближайшее окружение слов, чтобы определить их значение и предложить корректные замены.

Программа не заменяет слова автоматически, а лишь предлагает варианты замены, оставляя автору свободу выбора. Основная цель сервиса — сделать коммуникацию успешной, бесконфликтной и гармоничной.

Разработка сервиса велась в рамках проекта «Благополучие человека в условиях цифровизации». Это первый подобный инструмент для русского языка, хотя на рынке уже существуют аналоги для английского языка, такие как Angry Translator, который переводит с «злого» языка на «добрый». Разработка скоро станет доступна для свободного пользования.