Facebook научился выявлять склонных к суициду пользователей

Facebook начал использовать искусственный интеллект, чтобы определить пользователей, склонных к суициду, сообщает BBC.

Социальная сеть разработала алгоритм, который улавливает тревожные сигналы в записях и комментариях пользователей. После того, как сотрудники Facebook проверят предупреждение искусственного интеллекта, представители компании оперативно свяжутся с пользователем и предложат ему обратиться за помощью: связаться со службой психологической поддержки или поделиться своими проблемами с другом.

«Мы знаем, что скорость имеет критическое значение, когда речь идет о экстренных ситуациях», — прокомментировала менеджер Facebook Ванесса Каллисон-Берч.

Она объяснила, что хоть поддержка друзей и близких была бы более эффективна, чем сообщение от Facebook, но не всегда уместно оповещать других о депрессивном состоянии пользователя.

«Мы внимательно относимся к приватности пользователей, и я думаю, что мы не всегда знаем динамику личных отношений между людьми и их друзьями в этом смысле, поэтому мы постарались сделать что-то, что дает поддержку и выбор», — пояснила она.

Facebook заключила соглашение с несколькими американскими психологическими организациями, чтобы позволить группе пользователей в зоне риска общаться с ними через их платформу сообщений.

Пока сервис действует только на территории США. Социальная сеть считает, что нужно оценить, как другие организации справляются с запросами пользователей, прежде, чем расширять практику.

В конце 2016 года четыре крупнейшие интернет-компании мира — Facebook, Microsoft, Twitter и YouTube объявили о создании базы данных, которая позволит определять и блокировать интернет-контент экстремистского содержания.

15 февраля 2017 года администрация социальной сети «ВКонтакте» начала блокировать страницы пользователей, использующих хэштэги «групп смерти», участников которых склоняют к совершению самоубийства. Позже во «ВКонтакте» появилась возможность пожаловаться на записи и комментарии пользователей с «призывом к суициду».