vk_logo twitter_logo facebook_logo youtube_logo telegram_logo telegram_logo

Искусственный интеллект на страже Facebook

Дата публикации: 01.12.2017
Количество просмотров: 627
Автор:

В компании утверждают, что система искусственного интеллекта (ИИ), используемая Facebook для выявления террористического контента, всё лучше справляется со своей задачей.

Руководитель отдела глобальной политики Facebook Моника Бикерт (Monika Bickert) и глава по контртеррористической политике соцсети Брайан Фишман (Brian Fishman) заявили, что на сегодня 99 процентов удаляемого контента, связанного с запрещёнными в РФ экстремистскими организациями ИГ ("Исламское государство") и "Аль-Каеда", Facebook находит с помощью ИИ-системы прежде, чем пользователи помечают сообщения, как террористические. Более того, в ряде случаев искусственный интеллект вообще не позволяет публиковать контент.

Впрочем, в руководстве Facebook предупредили, что автоматические инструменты блокировки всё ещё далеки от совершенства.

"Система, настроенная на поиск контента одной из террористических группировок, может не среагировать на сообщения от других экстремистов из-за языковых и стилистических различий в их пропаганде", - приводит пояснение топ-менеджеров агентство Bloomberg.

Учитывая это, в соцсети решили сосредоточить внимание на ИГ и "Аль-Каеда", так как, по мнению Facebook, именно они представляют наибольшую угрозу миру. В дальнейшем в Facebook рассчитывают усовершенствовать автоматические инструменты с тем, чтобы с их помощью находить контент других экстремистских организаций.

В руководстве Facebook добавили, что, несмотря на действенные автоматические инструменты блокировки, людям по-прежнему необходимо следить за базами данных, содержащими примеры публикаций, фото- и видеоматериалов террористической направленности, которые используются для обучения ИИ-системы. Также люди оценивают адекватность принятых системой решений. Для выполнения этих функций Facebook увеличивает штат и привлекает лингвистов, ученых, бывших сотрудников правоохранительных органов и аналитиков разведывательных служб.

Компания Марка Цукерберга неоднократно подвергалась критике со стороны правительств разных стран из-за того, что соцсеть используется террористами для пропаганды и вербовки новых сторонников. Особенно резкие высказывания звучали от премьер-министра Великобритании: Тереза Мэй (Theresa May) призвала власти демократических государств ужесточить регулирование в отношении американского интернет-гиганта и его коллег Microsoft, Twitter и Google. По словам Мэй, чтобы быть на шаг впереди террористов, интернет-компаниям необходимо развивать технологии автоматизированного поиска и удаления сообщений экстремистской направленности.

Специалист по проблеме терроризма Петер Нойман (Peter Neumann) из лондонского Королевского колледжа отметил, что искусственный интеллект обладает большим потенциалом в данной сфере, однако предупредил, что эффективность работы ИИ-систем зависит от вносимых в них данных, и что для оценки нюансов и контекста по-прежнему крайне важно участие людей.

От редакции: если у вас есть чем поделиться с коллегами по отрасли, приглашаем к сотрудничеству
Ссылка на материал, для размещения на сторонних ресурсах
/news/newsline/100225/iskusstvennyiy-intellekt-na-straje-facebook.html

Обсудить на форуме

Оставлять комментарии могут только зарегистрированные пользователи

Зарегистрироваться