«ВКонтакте» тестирует нейросеть для борьбы с языком вражды

Социальная сеть «ВКонтакте» работает над искусственным интеллектом для автоматического распознавания материалов с враждебными высказываниями. Об этом «Таким делам» сообщили в пресс-службе сайта.

Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями и публикации, которые провоцируют аудиторию проявлять агрессию. Также с помощью этой технологии «ВКонтакте» рассчитывает ускорить время обработки жалоб и помочь пользователям соцсети реже сталкиваться с проявлениями нетерпимости.

Нейросеть учат определять разные виды оскорблений и угроз: проявления ксенофобии, расизма, гомофобии, сексизма, а также враждебности на религиозной почве, из-за возраста, внешности или наличия заболеваний. Для того, чтобы обучить искусственный интеллект, «ВКонтакте» добавила новую категорию жалоб для пользователей — «Враждебные высказывания». Ее можно выбрать при нажатии кнопки «Пожаловаться» у оскорбительной публикации.

«Мы разделяем позицию наших пользователей и партнеров касательно языка вражды и прославления насилия. Если же вы заметили оскорбительную публикацию, пожалуйтесь на нее. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», — заявил руководитель команды модерации «ВКонтакте» Иван Корнеев.

В соцсети за первую половину года удалили 520 тысяч публикаций из-за разжигания ненависти, заблокировали 1340 профилей и 2470 сообществ за распространение враждебных высказываний.