Доклад ООН: Искусственный интеллект угрожает правам человека
«Мы не можем себе позволить по-прежнему разрабатывать искусственный интеллект, используя его без ограничений или не контролируя его, после того как постфактум узнали о нарушении прав человека с его использованием», – подчеркнула Бачелет.
В ее докладе не указывается на специфическое программное обеспечение. Это призыв ко всем странам запретить любое приложение ИИ, которое «не в состоянии функционировать в соответствии с международными положениями о правах человека». Говоря точнее, Бачелет предлагает заморозить использование в общественных местах технологий слежки, или так называемой биометрической идентификации, и программ, анализирующих поведенческий профиль человека – по крайней мере до тех пор, пока власти не докажут, что придерживаются общепринятых стандартов конфиденциальности и защиты персональных данных, а применение ими ИИ не приводит к дискриминации и не вызывает спорных вопросов.
Как утверждает Бачелет, искусственный интеллект, безусловно, можно использовать и с благими намерениями, чтобы «справиться с рядом серьезных вызовов сегодняшнего дня», но все-таки прогнозирование и моделирование профилей способно самым серьезным образом ущемить «право на неприкосновенность частной жизни, справедливое правосудие, привести к необоснованным задержаниям и нарушить право на жизнь».
Согласно докладу, многие страны и компании нередко ведут себя довольно неосмотрительно, в спешке интегрируя технологии искусственного интеллекта в свои системы. Бывало, что людей ошибочно арестовывали из-за того, что программа распознавания лиц давала сбои. Прошлым летом, к примеру, в Мичигане задержали чернокожего мужчину после того, как технология распознавания лиц по ошибке идентифицировала его как подозреваемого в ограблении магазина.
Распознавание лиц позволяет устанавливать потенциально неограниченную слежку за людьми. В такого рода системах данные хранятся долгое время, и это чревато дополнительными проблемами. Эта информация может быть использована со злым умыслом, что повлечет серьезные риски для национальной безопасности.
Комиссар ООН также раскритиковала системы ИИ за отсутствие прозрачности и их зависимость от больших баз данных о множестве людей. Это может приводить к ошибочным или дискриминационным решениям. «Запутанность информационной среды, алгоритмов и моделей, на которых базируются разработка и эксплуатация систем искусственного интеллекта, а также умышленная секретность и конфиденциальность, введенная государственными и частными структурами, – вот что мешает общественности осознать истинное влияние систем искусственного интеллекта на права человека и окружающий его мир», – говорится в докладе Мишель Бачелет.
В июле нынешнего года стало известно, что шпионское программное обеспечение Pegasus использовалось для взлома смартфонов тысяч людей по всему миру, от журналистов до правительственных чиновников и правозащитников, включая даже министра финансов Франции Бруно Ле Мэра. Выступая по этому поводу в Совете Европы, Бачелет указала, что скандальные разоблачения вовсе не удивительны, «поскольку слежка во всем мире, осуществляемая правительствами и частными фирмами, достигла беспрецедентного уровня».
Оуэн Грир, директор некоммерческой организации «Защита ради будущего», сказал в интервью ABC News, что этот доклад лишний раз убеждает в существовании «экзистенциальной угрозы», которую несет новейшая и стремительно развивающаяся технология. «Кроме того, в докладе отражен и крепнущий международный консенсус среди экспертов в сфере технологий и прав человека: они едины в том, что системы наблюдения, базирующиеся на искусственном интеллекте, такие как системы распознавания лиц, представляют собой реальную угрозу человеческой свободе, ставят под сомнение ее будущее. Подобно ядерному или биологическому оружию, в этой технологии заложен колоссальный потенциал вреда. Если сегодня ее нельзя эффективно регулировать, то ее необходимо запретить».
Грир добавил: «Распознавание лиц и прочее дискриминационное использование искусственного интеллекта может нанести неоценимый ущерб вне зависимости от того, прибегает ли к нему правительство или частные корпорации. Мы солидарны с выводом, который содержится в докладе ООН: необходимо на глобальном уровне приостановить продажу технологий распознавания лиц и других способных нанести немалый вред√ систем искусственного интеллекта».
Эран Хильдсхайм (ערן הילדסהיים), הכלכלה האמיתית