Генеральный директор IBM Арвинд Кришна (Arvind Krishna) направил в Конгресс США письмо, в котором заявил, что компания больше не будет предоставлять универсальное программное обеспечение для анализа или распознавания лиц.
Разработка этих технологий также будет прекращена, говорится в комментарии компании изданию The Verge.
«IBM решительно противится и не станет поддерживать использование любой технологии [распознавания лиц] – включая подобные технологии других производителей – для массовой слежки, расовой дискриминации, нарушения базовых прав и свобод человека или в любых целях, несовместимых с нашими ценностями и принципами доверия и прозрачности, — поясняет Кришна в письме решение компании. – Мы верим, что пришло время начать национальный диалог о том, как технология распознавания лиц должна применяться нашими правоохранительными органами».
The Verge отмечает, что ПО для распознавания лиц за последнее десятилетие значительно улучшилось благодаря развитию технологий искусственного интеллекта. В то же время софт, зачастую разрабатываемый частными компаниями без «государственного присмотра» и продуманного регулирования, грешит системными ошибками, выливающимися в предвзятое отношение [к распознаваемым] по возрастным, расовым, этническим признакам. Это делает его ненадежным инструментом для силовиков и безопасников и провоцирует потенциальные нарушения гражданских прав. Издание приводит также ряд недавних примеров, иллюстрирующих сложившуюся ситуацию.
В 2019 году члены законодательного органа Калифорнии стали предметом наблюдения в эксперименте, подготовленном Американским союзом гражданских свобод (American Civil Liberties Union, ACLU). Их портретные фотографии были загружены в программу распознавания лиц Amazon Recognition и сравнены с базой данных из 25 тысяч снимков с арестованными за стрельбу. Двадцать шесть законодателей были неправильно определены как люди из этой базы.
В апреле 2020 г. стало известно, что Microsoft сворачивает инвестирование в израильский стартап Anyvision, занимающийся распознаванием лиц после того, как тот оказался в центре скандала. Корпорация решила прекратить инвестиции во всю отрасль, хотя у нее есть собственная разработка такого рода, см. новость Microsoft прекратила инвестировать в распознавание лиц.
Представители Microsoft неоднократно утверждали, что компания никогда не будет продавать свои технологии распознавания лиц для решений, связанных с массовой слежкой. И что, хотя к Microsoft обращались с предложениями о покупке представители неких правоохранительных органов, им было отказано из опасений, что данные инструменты будут использованы для нарушения гражданских прав.
Google давно запретила создавать приложения с распознаванием лиц для Glass.
Власти некоторых американских городов США уже ввели запрет на машинное распознавание лиц. Так, в 2019 г. Сан-Франциско, Окленд и Сан-Диего были в числе тех городов, которые одними из первых запретили технологию распознавания лиц, сославшись на то, что эта она имеет ряд серьезных ограничений, способствует предвзятости в отношении национальных меньшинств. Кроме того, технологии вменялось отсутствие стандартов в отношении ее использования.
Европейский Союз, по сообщению Reuters, рассматривает вопрос о введении пятилетнего моратория на применение технологий распознавание лиц в общественных местах, в том числе в парках, спортивных площадках, а также в зонах притяжения туристов. Подобная мера могла обеспечить властям ЕС достаточное время на тщательную проработку законодательства, которое могло бы гарантировать отсутствие злоупотреблений технологией со стороны ее операторов.
В декабре прошлого года сообщалось, что доступ к московским камерам видеонаблюдения и данным системы распознавания лиц уже продается на чёрном рынке.
В марте 2020 г. компания Clearview AI, скандальный разработчик систем распознавания лиц, претерпела кибератаку, в результате которой утекли данные о ее клиентах.
Ссылки по теме
Суд разрешил распознавать лица россиян через камеры наблюдения
Москва вбухает 1,2 миллиарда в электронику для тотального слежения за гражданами по их лицам
Искусственный интеллект получит доступ к обезличенным данным россиян
Китай обязал сканировать лица новым абонентам сотовой сети. Ждем аналогичную инициативу Госдумы?
Китай хочет обогнать США по искусственному интеллекту и микросхемам для него
Xiaomi представила дверной замок с распознаванием лиц и искусственным интеллектом