Борьба с токсичностью в интернете: новый метод предварительной обработки контента
, Источник: techxplore.com , Источник фото: freepik.com
Люди пытаются скрыть свои токсичные сообщения в интернете, заменяя буквы цифрами, символами или комбинируя слова. Это делается для того, чтобы обойти автоматические фильтры модерации. Однако традиционные инструменты часто не могут распознать такие сообщения, что негативно сказывается на пользователях.
Специалисты разработали новый метод предварительной обработки контента, который значительно повышает эффективность систем модерации. Новый интеллектуальный помощник упрощает и стандартизирует текст, а также ищет закономерности в замаскированных сообщениях. Это позволяет сделать вредоносный контент видимым для фильтров.
Цель проекта — не создавать новые методы, а улучшить существующие, чтобы они могли более эффективно бороться с токсичностью в интернете.