Facebook натравила на террористов искусственный интеллект

Моника Бикерт, начальник департамента глобальной политики управления Facebook:

"Контекст имеет первостепенное значение в тех случаях, когда мы имеем дело с визуальным изображением, касающимся терроризма. Для нас технология является важной составной частью выявления и предупреждения о появлении такого контента. При этом именно люди обладают бесценной возможностью правильно понимать контекст."

В течение нескольких месяцев специалисты компании тестировали на практике новые алгоритмы, предназначенные для поиска и предотвращения дальнейшего распространения экстремистского контента, алгоритмы, позволяющие выявлять и блокировать новые аккаунты, созданные экстремистами вместо заблокированных ранее и алгоритмы, которые распознают особенности изложения вербовщиков с помощью ИИ и технологии машинного обучения. Новые инструменты сделали автоматическое распознавание запрещенного контента более эффективным.

Таким образом ИИ стал способен чаще делать самостоятельный выбор об удалении учетной записи или какой-либо информации. Это позволяет сократить количество случаев, когда для принятия решения необходимо вмешательство "живого" модератора соцсети.