То что внедряют в РФ, запрещают в США. Cистема распознавания лиц, за и против

[vitalidrobishev]

Власти Сан-Франциско запретили правоохранительным органам использовать автоматические системы распознавания лиц. Об этом 14 мая сообщило издание The New York Times.

Соответствующее постановление было принято советом города. Оно подразумевает запрет на использование всех систем, в основу которых легла эта технология. Запрет касается только публичного пространства, таким образом, частные компании по-прежнему могут использовать подобные инструменты. Стоит отметить, что Сан-Франциско стал первым городом в США, который ввёл подобный запрет.

В апереле 2019 года ИА REGNUM сообщило, что 18-летний житель Нью-Йорка Усман Бах подал против компании Apple иск в суд на сумму $1 млрд. Он был неправомерно арестован из-за того, что система распознавания лиц компании связала его с реальным преступником. В своём заявлении в суд Бах отметил, что подобные инструменты реализуют в реальности миры романов-антиутопий.

В МОСКВЕ ВНЕДРЯЮТ НОВЕЙШУЮ СИСТЕМУ СЛЕЖКИ ЗА ЛЮДЬМИ

Путинская камарилья под якобы благими намерениями,  под предлогом безопасности внедряет самый настоящий тотальный электронный концлагерь, в котором не только будут пошагово следить за каждым человеком, но и управлять поведением людей.

Пропутинские СМИ как могут восхваляют систему распознавания лиц, псевдоспециалисты типа некоего Алексея Цессарского и Артема Кухаренко поют оду ( в статье ниже-прим.) этим технологиям, что и неудивительно ведь огромные материальные средства выделяются из госбюджета сомнительным фирмам и лабораториям в которых они работают. Интересно, возместят ли господа  Цессарский и Кухаренко cлучайно задержанному из-за ошибки систему распознавания лиц, моральный и материальный ущерб из своего кармана?

В этом году все уличные видеокамеры Москвы подключат к системе распознавания лиц, позволяющей с большой точностью идентифицировать личность. Это поможетякобы разыскивать пропавших, предотвращать преступления.

Разработчики рассказали РИА Новости, на что еще способна новая технология.

Система распознавания лиц — это, в сущности, искусственный интеллект (ИИ), работающий гораздо лучше, чем человеческий мозг. Он самостоятельно обучается, собирает и анализирует огромные объемы данных в считаные секунды. Возник ИИ в результате развития компьютерных программ особого типа — так называемых нейросетей. Эти программы сканируют цифровое изображение попиксельно и вычленяют вектора признаков — уникальные наборы черт, по которым можно узнать лицо, сравнить его с другим или, наоборот, найти один и тот же объект на разных фото — человека, машину, дорожный знак.

Нейросети сами учатся идентифицировать людей на большом массиве изображений. Например, фото знаменитостей, лиц в естественной обстановке или на снимках плохого качества. Хорошо натренированная система ошибается крайне редко.

По словам Артема Кухаренко, основателя компании NtechLab, вероятность ложного срабатывания — один случай на десять миллионов. Этот параметр оптимизируется в зависимости от поставленной задачи. "Так, если система работает на границе, лучше отправить человека на дополнительную проверку, чем пропустить потенциального нарушителя", — поясняет он.

NtechLab принадлежит технология FindFace, которая на прошлогоднем чемпионате мира по футболу помогла задержать более ста правонарушителей, раскрыть кражу спонсорского кубка и предотвратить давку в одной из фанзон. Сейчас система действует в пилотном режиме в нескольких городах. Например, в Альметьевске к ней подключены десятки городских камер. Благодаря этому задержали одиннадцать преступников, находившихся в розыске.



Алексей Цессарский, генеральный директор компании IVA Cognitive, разрабатывающей систему видеоаналитики IVA CV, приводит другие оценки точности: до 99 процентов. "На самом деле это не слишком хорошо. Один процент ошибки на пятнадцать миллионов, если брать Москву, это существенно", — говорит он.

Как сообщают столичные власти, видеоаналитика охватывает метрополитен и часть уличных камер. В этом году подключат весь город. Чью разработку внедрят, пока неизвестно. "Осталось несколько претендентов, в том числе мы. Возможно, выберут одного или организуют что-то вроде консорциума из нескольких компаний. Поделят камеры и посмотрят, кто как справляется. Таким образом, сохранится конкуренция, технология будет развиваться", — уточняет Цессарский.

Как это работает? "Видеопоток со всех подключенных камер анализируется, лица распознаются и сохраняются некоторое время в базе. Далее фото человека из списка разыскиваемых загружается в систему и выполняется поиск среди накопленной истории. Программа показывает, какие камеры и когда видели этого человека. Можно восстановить его маршрут, определить, где и когда он был в последний раз, загрузить видео оттуда и посмотреть, что он там делал", — объясняет специалист.

Другой сценарий: в базу загружается фото, и, как только нужный человек объявится, в полицию поступает мгновенное уведомление. Там решают, как реагировать.



В Татарстане в прошлом году с помощью системы видеонаблюдения раскрыли 1971 преступление. Внедрение технологии распознавания лиц должно снизить уровень преступности. "Установка в каком-то районе города камер наблюдений уменьшает количество преступлений на двадцать и даже сорок процентов. Все зависит от того, насколько криминогенной была обстановка. Если человек знает, что его распознают на видео и найдут, он дважды подумает, прежде чем решится на правонарушение", — подчеркивает Цессарский.

Пассажиры московского метро проходят через турникеты на станции «Октябрьское Поле», подключенные к системе распознавания лиц

Системы, основанные на нейросетях, хорошо умеют распознавать лица и другие объекты, считать людей, определять движение объекта. Возможности постоянно расширяются. Одна из актуальных сейчас задач — анализ жестов, поз. Это позволит оценить намерения группы людей и предотвратить опасную ситуацию.

"Речь идет о паттернах поведения человека. Систему можно натренировать на поиск скопления людей там, где обычно по статистике этого не должно быть, или выявление подозрительных действий: кто-то очень быстро размахивает руками, бежит, выхватывает предмет, напоминающий оружие. Обнаружив в видеопотоке определенные паттерны, программа отправляет уведомление. Это, по сути, мониторинг потенциально опасных ситуаций", — рассказывает Цессарский.

По словам Кухаренко, если использовать вместе несколько сценариев — поиск лиц в розыске, подсчет людей и оценку поведения — это выведет безопасность массовых мероприятий на принципиально новый уровень.

Уже технически возможно оплачивать билеты в общественном транспорте, продукты или услуги, что называется, "лицом". Для этого потребуется авторизация пассажира в соответствующем приложении, разрешение на использование биометрических данных и транзакцию со счета. Такую технологию уже тестируют в сети магазинов "Магнит".

Есть еще вариант — проверка льготного проезда. Не секрет, что пассажиры передают друг другу социальные карты, проездные. А контролеры проверяют далеко не каждый рейс. Камера в автобусе, подключенная к системе распознавания лиц, сравнит пассажира, предъявившего социальную карту, с базой льготников и в случае расхождения направит уведомление или выпишет штраф.

Система видеоаналитики, в частности распознавания лиц, предоставляет возможность слежения, контроля наряду с паспортами, соцсетями, мобильными телефонами. Это противоречит праву на неприкосновенность частной жизни. "Тем временем соцсети и мессенджеры успешно внедряются, потому что нам так удобно. Потенциально это открывает больше доступа к какой-то части личной жизни, но останавливать прогресс, как учит нас история, — бессмысленно", — заключает Цессарский.

Доводы противников технологии распознавания лиц



Она ставит под угрозу безопасность и гражданские права человека, поэтому частичное её регулирование должно быть заменено полным запретом. Пока весь мир увлечён преимуществами технологии распознавания лиц, некоторые специалисты по безопасности считают, что она таит в себе большое зло для человечества.

Преподаватель права и информатики Вудроу Хартцог и преподаватель философии Эван Селинджер изложили свою точку зрения на методы контроля технологии в статье на Medium.

Жители Трои были бы в восторге

Очень легко поддаться внешне заманчивому, но в действительности ошибочному мнению о том, каким будет будущее человечества в мире, раскрывшем весь скрытый потенциал технологии распознавания лиц. Люди смогут мгновенно получать информацию о незнакомцах, им больше не придётся запоминать массу паролей или бояться забыть кошелёк. Можно будет запросто находить события с определённым человеком в архивах фотографий и видео, оперативно разыскивать пропавших людей или преступников, сделать безопасными общественные места.

Казалось бы, технология несёт одни только плюсы, в мире воцарится абсолютная справедливость, реализуются самые невероятные идеи человечества. Но ни один из изобретённых человечеством механизмов наблюдения не несёт в себе такой опасности, как технология распознавания лиц.

Соблазняясь этим утопическим видением, люди будут впускать технологию распознавания лиц в своё жилище и открывать доступ к своим устройствам, позволяя ей занять центральное место во всё новых аспектах жизни. Это будет означать, что ловушка захлопнулась, а после придёт неприятное осознание того, что технология была своего рода троянским конём. Этот идеальный инструмент притеснения слишком хорош, чтобы им не воспользовались правительства для установления авторитарного контроля и всеобъемлющих режимов, которые уничтожат понятие личной жизни.
Этот троянский конь не должен проникнуть в город.

Текущие обсуждения

Американский союз защиты гражданских свобод совместно с 70 другими правозащитными организациями потребовал от Amazon прекратить предоставлять технологию распознавания лиц правительству, а также призвал Конгресс ввести мораторий на её использование правительством. К ним подключились и СМИ, выразили свою обеспокоенность. Например, редколлегия Washington Post считает, что Конгресс обязан немедленно вмешаться в ситуацию. У парламентариев тоже есть веский повод задуматься: некоторых из них программа по распознаванию лиц Amazon недавно перепутала с преступниками.

Не остались в стороне и редакторы The Guardian. Президент Microsoft Брэд Смит обратился в своём блоге к правительству США с просьбой ввести регулирование технологии распознавания лиц:

«Единственный надёжный способ контролировать использование технологии правительством — это чтобы оно самостоятельно и с учётом возможных обстоятельств контролировало её использование. Мы считаем, что сегодня существует острая необходимость в правительственной инициативе по контролю за правомерным применением технологии распознавания лиц, основанной на решении двухпартийной комиссии экспертов»

Мнение лидеров компаний имеет немаловажное значение, как и законодательные акты, ограничивающие использование технологии. Но лишь частичной поддержки и тщательно прописанных инструкций никогда не будет достаточно. Законы могли бы принести большую пользу, но их, скорее всего, начнут вводить тогда, когда технология станет в разы дешевле и проще в использовании. Смит подчёркивает, что Microsoft призывала к созданию национального закона в этой области ещё в 2005 году. Прошло более десяти лет, но подобный закон Конгресс так и не принял.

Если технологию распознавания лиц продолжат разрабатывать и внедрять в жизни, возникнет гигантская инфраструктура, которая поглотит человечество. Как показывает история, широкое внимание к успехам, страх не обеспечить должного уровня безопасности и пьянящее чувство власти могут приводить к обману, сдвигу корпоративных ценностей и в конечном счёте систематическом злоупотреблению технологией.

Благополучие человечества в будущем возможно только в том случае, если технология распознавания лиц будет запрещена, прежде чем слишком прочно укрепится в жизни человека.

Почему нужен запрет

Необходимость полного запрета систем распознавания лиц — чрезвычайна. Но некоторые талантливые учёные, вроде Джудит Донат, считают эту позицию неверной. Они предлагают более нейтральную с технологической точки зрения тактику: запрет на конкретные действия, а также обозначение ценностей и прав, которые нужно защитить. Этот подход вполне разумен почти для всех цифровых технологий.

Но ни один из изобретённых человечеством механизмов наблюдения не несёт в себе такой опасности, как технология распознавания лиц. Это недостающий элемент уже опасной инфраструктуры наблюдения за людьми, разработанный потому, что эта инфраструктура нужна правительствам и частному бизнесу. И если технологии становятся опасными в такой степени, а соотношение пользы и вреда — настолько искажённым, пришло время задуматься о категорических запретах. На законодательном уровне уже запрещены некоторые виды опасных цифровых технологий, например шпионского ПО. Технология распознавания лиц несёт в себе гораздо большие риски, и её не мешало бы удостоить особого юридического внимания. Нужен конкретный запрет на основе надежной, целостной, основанной на ценностях и в значительной степени нейтральной с точки зрения технологий нормативной базы. Такая система поможет избежать нормативных ситуаций, когда законодатели пытаются догонять технические тенденции.

Наблюдение с использованием систем распознавания лиц по своей сути деспотично. Существование таких систем, которые сами часто скрыты от глаз человека, — нарушение гражданских свобод, потому что люди ведут себя иначе, если подозревают, что за ними наблюдают. Даже законы, которые гарантируют строгие защитные меры, не предотвратят гнетущее ощущение того, что будут ущемлены возможности самовыражения человека.

Вот примеры злоупотребления и разрушительных действий технологии распознавания лиц:

непропорциональное внимание к людям небелого цвета кожи, другим меньшинствам и незащищённым народам;
замена презумпции невиновности на принцип «люди, чья вина пока что не доказана»;
распространение насилия и жестокости;
отрицание фундаментальных прав и возможностей, например защиты от произвольного отслеживания правительствами передвижения, привычек, отношений, интересов и мыслей человека;
беспрерывная «работа» закона — как постоянная мера пресечения;
уничтожение концепции хранения информации «practically obscure», когда данные находятся в открытом доступе, но хранятся в различных источниках и найти их чрезвычайно сложно;
распространение «капитализма надзора».
Как отмечает исследователь технологии распознавания лиц Клэр Гарви, ошибки в ней могут иметь фатальные последствия:

«Что произойдёт, если подобная система даст сбой? В случае ошибки системы видеонаблюдения будут преследовать, допрашивать или могут даже арестовать и обвинить в преступлении невинного человека. Или портативные камеры с системой распознавания лиц у полицейских: если система укажет на человека, который якобы может представлять опасность для общества, полицейский должен будет мгновенно решить, применять ли ему оружие. В результате ложного оповещения могут пострадать невинные люди».

В числе прочих есть два доклада, которые подробно затрагивают многие из этих проблем: весьма ценная работа об использовании правоохранителями распознавания лиц, опубликованная старшим юристом Electronic Frontier Foundation Дженнифер Линч, а также исследование специалистов Center on Privacy & Technology университета Джорджтауна.

Несмотря на описанные в докладах проблемы, не все убеждены, что запрет действительно необходим. Ведь другие технологии представляют не меньшую угрозу: геолокационные данные, информация из профилей в соцсетях, результаты поисковых запросов и многие другие источники информации о пользователях можно использовать, чтобы составить их детальный портрет. Но распознавание лиц всё же несёт опасность иного характера и стоит особняком даже по сравнению с биометрическими данными: отпечатками пальцев, образцами ДНК или сканированием сетчатки глаза.

Системы, обрабатывающие изображения лиц, имеют пять отличительных особенностей, которые дают все основания для их запрета. Во-первых, лицо трудно скрыть или изменить. Лица нельзя зашифровать, как данные на цифровых носителях, в электронных или текстовых сообщениях. Их можно снимать с помощью удалённых камер, а стоимость самой технологии и хранения изображений в облаке постоянно снижается, что приводит к всё более широкому применению таких систем мониторинга.

Во-вторых, существуют базы данных имён и лиц, например для водительских удостоверений, или аккаунты в соцсетях, к которым можно очень легко получить доступ.

В-третьих, в отличие от типичных систем наблюдения, которые часто требуют дорогостоящее оборудование или новые источников данных, входные данные для распознавания лиц находятся повсюду и поступают непосредственно в момент съёмки камерами.

В-четвёртых, переломный момент. Любая база данных лиц для идентификации арестованных или попавших в поле зрения камер личностей с помощью нескольких строчек кода может «сравниваться» с любой другой базой в режиме реального времени, подключаясь к портативным камерам полицейских или системам видеонаблюдения. Губернатор штата Нью-Йорк Эндрю Куомо точно подметил причины распространения технологии распознавания лиц, утверждая, что простое сканирование номерных знаков автомобилей покажется мелочью по сравнению с возможностями применения камер со встроенной технологией: «Система считывает номерной знак, чтобы вычислить нарушителя, но штрафы — далеко не самая большая польза от этой аппаратуры. Мы переходим на технологию распознавания лиц, и теперь система сможет сканировать лицо водителя и проверять его по базам данных, что открывает абсолютно новые перспективы».

В-пятых, лицо, в отличие от отпечатков пальцев, походки или снимков сетчатки, — центральный элемент идентичности человека. Лицо — это посредник между виртуальной и реальной жизнью человека, связующее звено между действиями, которые человек выполняет анонимно, под своим или чужим именем. Может легко показаться, что обеспечивать конфиденциальность лиц, как любой другой частной информации, не нужно, потому что в жизни люди обычно не закрывают лица. За исключением стран, где женщины обязаны носить паранджу, люди со скрытым лицом вызывают подозрения.



Обеспечивать конфиденциальность лица человека действительно необходимо, потому что в прошлом люди вырабатывали институты и ценности, связанные с защитой частной информации в те периоды, когда опознать незнакомых людей в основном было достаточно сложно. По причине биологических особенностей память человека ограничена, и без технологической надстройки он может запомнить лишь небольшое количество лиц. А с учётом численности и распределения населения за свою жизнь человек встретит не так уж много новых людей. Эти ограничения создают своего рода «белые пятна», благодаря чему у людей были хорошие шансы затеряться в толпе.

Недавние решения Верховного суда США касательно четвёртой поправки (которая запрещает необоснованные обыски и задержания, а также требует выдачи ордеров на обыск судом при наличии достаточных оснований) свидетельствуют о том, что борьба за защиту конфиденциальности в общественных местах по-прежнему актуальна. Этим летом в одном из процессов суд решил, что геолокационные данные с мобильных телефонов подпадают под действие Конституции, а информация, которую человек желает сохранить в тайне, даже если она оказывается доступна публично, может охраняться Конституцией.

Почему технология распознавания лиц не поддаётся правовому регулированию

В связи с тем, что технология распознавания лиц представляет огромную угрозу, общество не может пустить её регулирование на самотёк. Потенциальная прибыльность подтолкнёт к появлению идей по реализации максимальных возможностей технологии, и отдельные компании будут продвигать свои интересы в этом направлении.

Общество также не может ждать подъёма популистов. Технологию распознавания лиц продолжат «продавать» как часть самых новых и продвинутых приложений и устройств. Apple уже называет Face ID лучшей функцией последнего iPhone. То же самое касается новостных репортажей с идеологической подоплёкой, в которых технологию распознавания лиц провозглашают решением всех проблем.

Наконец, обществу не следует излишне рассчитывать на традиционные методы регулирования. Особенности технологии распознавания лиц не позволяют удержать её в рамках мер, которые определяют законные и незаконные способы применения и пытаются уместить в ней потенциальную полезность для общества и устрашающий фактор для злоумышленников. Это — один их немногих примеров, когда необходимо ввести полный запрет.

На данный момент существует очень немного проектов по контролю технологии распознавания лиц и ещё меньше — по её ограничению. Есть достойные законы о биометрических данных в штатах Иллинойс и Техас, но они придерживаются общепринятой стратегии регулирования, согласно которой субъекты, собирающие и использующие эти данные, должны выполнять ряд базовых информационных практик и протоколов конфиденциальности. Сюда относятся требование получать информированное согласие на сбор биометрических данных, их обязательная защита и ограничение на срок хранения, запрет на их использование с целью получения прибыли, ограничение прав передачи третьим лицам и частные основания для подачи иска в случае нарушения этих норм.

Предлагаемые законы в области распознавания лиц похожи на них. Федеральная комиссия по торговле США рекомендует ввести такой же механизм в отношении технологии: предупреждать человека о её применении, давать ему выбор и честно ограничивать использование его данных. Доклад Electronic Frontier Foundation, в котором упор сделан на проведение этих законов в жизнь, содержит аналогичные, хотя и более глубокие предложения. Например, создать чёткие правила использования, распространения и обеспечения безопасности данных; ввести ограничения на сбор и хранение данных; запрет на включение нескольких видов биометрических данных в одну базу; обязательное уведомление, проведение проверок и независимого надзора. В своём проекте закона о распознавании лиц Center on Privacy & Technology университета Джорджтауна предлагает значительно ограничить доступ правительства к базам лиц, а также использование технологии распознавания лиц в реальном времени.



К сожалению, большинство действующих и предлагаемых требований носят процедурный характер. И в конечном счёте не остановят распространение самой технологии и развитие соответствующей инфраструктуры. Прежде всего нужно отметить ложность некоторых исходных допущений относительно согласия, уведомления и выбора, которые присутствуют в существующих законах. Информированное согласие как механизм регулирования наблюдения и обработки данных полностью бесполезно. Даже если бы людям всецело принадлежало право контролировать свои данные, они бы всё равно не смогли им воспользоваться в полной мере.

И всё же законодатели и сама отрасль пытаются сдвинуться с мёртвой точки. Но в этих нормах, как и в большинстве норм конфиденциальности цифровой эры, есть много пробелов. Одни законы касаются только сбора или хранения данных и не затрагивают то, как они используются. Другие применимы лишь к компаниям или правительству и настолько неоднозначны, что позволяют избежать последствий за различные противоправные действия. И чтобы прочувствовать преимущества технологии распознавания лиц, которую так расхваливают, потребуется больше камер, лучшая инфраструктура и необъятные базы данных.

Будущее технологии распознавания лиц

Технология распознавания лиц открывает безграничные возможности отслеживать информацию о личности и перемещениях человека. А также практически мгновенно сохранять, распространять и анализировать её. Развитие этой технологии в будущем может привести к тому, что конфиденциальность частной информации человека будет постоянно нарушаться. Благополучие человечества возможно лишь в том случае, если будет введён запрет на технологии распознавания лиц, прежде чем эти системы слишком прочно войдут в повседневную жизнь. Иначе людям будет знаком только мир, в котором при каждом появлении в общественном месте их будут автоматически идентифицировать, заносить информацию в профиль и, возможно, использовать её. В таком мире те, кто выступает против технологии распознавания лиц, будут дискредитированы, вынуждены замолчать или устранены.