Новый ИИ, который распознает ваше имя, просто взглянув на ваше фото

14-10-2021, 21:05
Новый ИИ, который распознает ваше имя, просто взглянув на ваше фото

Технологии способны изменить нашу жизнь, и достижения в области искусственного интеллекта (ИИ) предлагают нам множество преимуществ, которые еще несколько лет назад были невозможны.


Однако его применение не всегда воспринималось с позитивом. Сложные новые методы распознавания лиц, использующих ИИ для сбора миллиардов фотографий с веб-сайтов, могут стать мощным инструментом надзора и наблюдения для власти.

Такие компании, как Clearwater AI, стали причиной возникновения споров из-за использования этих методов, и это может привести к проблемам в будущем.


Что это за программа?


Метод идентификации по фотографиям существует уже несколько десятилетий. Традиционно паспорта и водительские права дают вам право на въезд в страну или в ночной клуб. Сайты азартных игр, требующие подтверждения возраста, например онлайн-казино, являются одними из самых распространенных примеров этому в Интернете. Но этим сайтам нужны и дополнительные данные, как ваше имя, место и дата рождения.


Новому программному обеспечению эта информация не нужна. Когда у него есть фотография человека, оно может использовать сложные методы веб-сканирования, чтобы найти другие соответствующие изображения, и к ним обычно будут прикреплены детали.


Возьмем, например, фотографию профиля в Facebook. Рядом с ней почти наверняка будет ваше имя, если вы не используете псевдоним. Затем, если доступ к странице публичный, один щелчок мышки открывает вам раздел «О себе», в котором содержатся личные данные, такие как, возможно, дата вашего рождения или ваш родной город. Программное обеспечение для веб-сканирования может сканировать миллиарды подобных изображений без помощи человека, и речь идет не только о соцсетях, ширина сканирования распространяется на весь Интернет.


Этот инструмент, хоть и мощный, очень простой в использовании, и представлен в виде программы для органов власти. Полиция и органы власти обнаружили, что они могут быстро идентифицировать подозреваемых в совершении преступлений — в общем положительный момент — но такая технология вызывает и другие опасения.


Опасности новых технологий


Основная проблема, связанная с технологией Clearwater, очевидна: конфиденциальность личных данных. Она отражает актуальные дебаты о том, какие права имеют граждане в эпоху смартфонов: должны-ли такие фирмы, как Clearwater, иметь возможность искать наши личные изображения, даже если они находятся в общем доступе?


По мнению Американского общества защиты гражданских свобод, (ACLU) это запрещено. В прошлом году они подали иск против Clearview, заявив, что компания посягает на личную жизнь.


Еще одной проблемой является точность данной технологии. Одно дело — искать преступников, но что делать, если в расследование попадут невинные представители общественности? Случаи ложной идентификации не так часты, но, когда это происходит, они часто наносят вред невинным жертвам. Недавний случай с бездомным на Гавайях, который был незаконно помещен в психиатрическую больницу, является одним из примеров негативных последствий, и есть опасения, что неправильное использование технологии может поставить под угрозу безопасность в Интернете в целом.


Возможности ИИ растут настолько быстро, что некоторые его функции еще не полностью разработаны.


Двумя примерами являются его инструменты «деблюр» и «удаления маски». Первый берет размытое изображение и увеличивает его резкость в соответствии с тем, что, по мнению ИИ, там должно быть. Второй берет закрытое лицо и оценивает, как выглядит скрытая часть. На оба инструменты обрушилось много критики из-за использования так называемой системы «лучшего предположения»: то есть, они использовали статистические закономерности из других изображений, чтобы предположить, каким должно быть именно это.


Хотя вероятность ошибки очень мала, этого может хватить для того, чтобы по ошибке засудить любого.


Может-ли правительство контролировать это?


Clearwater утверждает, что данное программное обеспечение создано для пользования именно правительством и полицией, и они хотят избежать его попадания в широкий доступ.


По данным Buzzfeed, эту технологию протестовали сотни департаментов полиции США, а Clearview указал 11 федеральных агентств, которые использовали ее в иммиграционной и таможенной сферах.


Однако сможет ли власть использовать его ответственно и предотвратить злоупотребление — это вопрос, ответ на который зависит именно от социальных сетей. Facebook и Twitter уже требовали от Clearview прекратить прочесывание их веб-сайтов в поисках изображений. Если они добьются своего, это усложнит работу данных технологий, поскольку на социальные сети приходится значительная часть публичных изображений.


Однако простого требования, вероятно, будет недостаточно. Некоторые эксперты считают, что гиганты социальных сетей должны использовать уже имеющиеся у них функции для защиты пользователей: инструменты, которые также используют искусственный интеллект, для изменения изображений, чтобы их нельзя было обнаружить путем использования алгоритмов Clearwater. Они также могут удалять из изображений метаданные, которые показывают, где и когда они были сделаны.


И хотя аргумент в пользу использования технологий для поиска преступников достаточно сильный, такие действия защитят личную жизнь пользователей и ограничат возможности таких компаний, как Clearwater.


Проблема Clearwater

Несмотря на плохую репутацию в прессе, у этой технологии есть свои сторонники. Их аргумент о том, что это помогает раскрывать и предотвращать преступления, подтверждается такими примерами, как охота на виновных в организации протестов в Капитолии, а также случаи жестокого обращения с детьми.

Задача, как и в случае со всеми технологиями, будет заключаться в том, чтобы использовать их силу в целях распространения добра, а не для вторжения в жизнь невинных людей.