1. Новости
Заметки пользователей
08.09.2017 08:20
PDF
1562
0

Система распознавания лиц склонна ошибаться

Внедряемая в Британии система распознавания лиц в режиме реального времени, которая в конце августа тестировалась полицией Лондона во время крупнейшего в Европе уличного фестиваля Notting Hill Carnival, была объявлена властями "чрезвычайно успешной". Однако представители британской правозащитной организации, видевшие систему в действии, называют её "неточной и крайне сырой".

"Я понаблюдала за работой системы менее 10 минут. За это короткое время алгоритм распознавания лиц выдал два совпадения, и человеку сразу же было видно, что это ошибка. В обоих случаях система сработала, приняв ничем не провинившихся женщин за разыскиваемых мужчин. Эта программа даже не может различить людей разного пола. Я просто в шоке", - рассказала Силки Карло (Silkie Carlo), участница британской организации Liberty, отстаивающей права человека.

Правозащитница отмечает, что полицейских нисколько не смутило ложное срабатывание. Они заявили, что анализируют каждый случай, прежде чем принимать решение о задержании и аресте людей.

"Интересно, сколько же времени и денег налогоплательщиков тратится на эти сложные испытания и проверку ложных совпадений, а главное зачем?", – недоумевает Силки Карло, которая поделилась своими впечатлениями в блоге Liberty.

Активистка узнала, что за один воскресный день система выдала около 35 ложных срабатываний. При этом как минимум в пяти случаях полицейским пришлось останавливать законопослушных людей только затем, чтобы убедиться, что программа распознала их ошибочно.

Руководители проекта назвали успехом то, что за четыре дня тестирования система верно узнала лицо всего одного человека, который числился в розыске по обвинению в причастности к уличным беспорядкам. Однако когда полицейские задержали его, выяснилось, что загруженные в программу данные успели устареть. Оказалось, что за время, которое прошло с момента создания базы данных для распознавания до начала уличных празднеств, мужчина уже побывал под арестом, и претензий к нему со стороны закона больше не было. В итоге его пришлось отпустить.

Перед тестированием на фестивале Notting Hill Carnival полиция сообщала, что создала базу данных из фотографий более чем 500 человек, находящихся в розыске и тех, кому запрещено посещать массовые мероприятия.

По мнению правозащитницы, испытания выявили все основные промахи, которые допускают подобные системы на базе технологии распознавания лиц и о возможности которых уже не первый год предупреждают специалисты.

"Как и в случае с GPS-слежкой, внедрение системы распознавания лиц в масштабах страны может дать властям информацию о том, кто, куда, когда и с кем ходит. Эта технология не доведена до ума. Как я сама убедилась, она до безобразия недоработана. Между тем, риски, которые подобные "испытания" несут для наших свобод, реальны и актуальны", – резюмировала активистка.

0 комментариев
Оставлять комментарии могут только авторизованные пользователи