Facebook генерирует видео с экстремистами

Facebook выпустил видео, призванное показать успехи компании в борьбе с экстремизмом и терроризмом в сети. Видео начинается с фотографии чёрных флагов джихада. Через несколько секунд показываются экстремистские публикации в социальных сетях: таблички с антисемитскими стихами, разговоры о возмездии и фотография двух мужчин, несущих флаги джихада и сжигающих американский флаг.

Это видео создано не экстремистами, а Facebook. "Спасибо за то, что вы здесь, Facebook", видео заканчивается "большим лайком". Facebook часто заявляет о том, что успешно борется с террористами, убирая их посты, часто еще до того, как их увидят пользователи. Но жалоба конфиденциального информатора в Комиссию по ценным бумагам и биржам, полученная Associated Press, утверждает, что компания преувеличила свой успех. Жалоба также показывает, что компания по неосторожности использует пропаганду боевиков для автоматической генерации видео и страниц, которые могут использоваться экстремистами для создания сетей.

Согласно жалобе, в течение пятимесячного периода прошлого года исследователи следили за страницами пользователей, которые присоединились к группам, определенным Государственным департаментом США как террористические организации. В этот период было удалено только 38% постов с заметными признаками экстремизма. В своем обзоре AP обнаружил, что по состоянию на этот месяц большая часть запрещенного контента, цитируемого в исследовании, - видео казни, изображения отрубленных голов, пропаганда чествования "мучеников" - проскользнула через алгоритмическую сеть и ее легко найти в Facebook.

Цукерберг не дал оценки того, сколько всего запрещенного контента удаляется. Facebook признает, что его системы не идеальны, но говорит, что делает улучшения.