ІСТИНА І ТРАДИЦІЇ

ООН предупреждает, что искусственный интеллект представляет угрозу правам человека

Великая Эпоха
Умный робот iPal smart AI для обучения детей демонстрируется на стенде AvatarMind на выставке потребительской электроники CES 2019 в Las Vegas Convention Center в Лас-Вегасе, штат Невада, 8 января 2019 года. (Robyn Beck/AFP via Getty Images)

Организация Объединенных Наций предупредила, что системы искусственного интеллекта (ИИ) могут представлять "негативную, даже катастрофическую" угрозу для прав человека, и призвала запретить приложения ИИ, которые используются без соблюдения прав человека.

15 сентября глава ООН по правам человека Мишель Бачелет призвала государства-члены ввести временный запрет на продажу и использование ИИ до тех пор, пока не будут рассмотрены потенциальные риски, которые он несёт, и не будут созданы адекватные гарантии того, что технологией не будут злоупотреблять.

"Мы не можем позволить себе продолжать играть в догонялки с ИИ — разрешать его использование с ограниченными или отсутствующими границами или надзором и заниматься почти неизбежными последствиями в области прав человека после того, как это произошло", — говорится в заявлении М. Бачелет.

"Сила ИИ в служении людям неоспорима, но также неоспорима и способность ИИ нарушать права человека в огромных масштабах практически без видимых последствий. Сейчас необходимо принять меры, чтобы установить правовую защиту на пути использования ИИ для блага всех нас", — добавила глава правозащитной организации.

Её замечания прозвучали вскоре после того, как офис М. Бачелет опубликовал доклад с анализом того, как ИИ влияет на право людей на частную жизнь, а также на ряд других прав, касающихся здоровья, образования, свободы передвижения и свободы выражения мнений.

Документ включает оценку профилирования, автоматизированного принятия решений и других технологий машинного обучения.

Хотя в докладе отмечается, что ИИ может быть использован в благих целях и может помочь "обществу преодолеть некоторые из великих вызовов нашего времени", но его применение в качестве инструмента прогнозирования и профилирования может резко повлиять на "право частной жизни, на справедливый суд, на свободу от произвольного ареста и задержания и на право на жизнь".

Согласно докладу, многие государства и компании часто не проводят должной проверки, спеша внедрить приложения ИИ, и в некоторых случаях это приводит к опасным ошибкам, когда некоторые люди подвергаются жестокому обращению и даже аресту из-за несовершенного программного обеспечения для распознавания лиц.

Между тем, распознавание лиц потенциально может позволить неограниченную слежку за людьми, что может привести к возникновению целого ряда проблем, связанных с дискриминацией и защитой данных.

Робот искусственного интеллекта (L) компании CloudMinds во время Всемирной мобильной конференции в Шанхае 27 июня 2018 года. (-/AFP/Getty Images)
Посетители смотрят на систему "умного города" с искусственным интеллектом от компании iFLY на Международной выставке "2018 International Intelligent Transportation Industry Expo" в Ханчжоу в восточной китайской провинции Чжэцзян в декабре 2018 года. (STR/AFP/Getty Images)

Поскольку многие системы ИИ опираются на большие массивы данных, дальнейшие вопросы, связанные с тем, как эти данные будут храниться в долгосрочной перспективе, также представляют риск, и существует возможность использования таких данных в будущем, что может повлечь за собой значительные риски для национальной безопасности.

"Сложность среды данных, алгоритмов и моделей, лежащих в основе разработки и функционирования систем ИИ, а также намеренная секретность государственных и частных структур являются факторами, подрывающими значимые способы понимания общественностью влияния систем ИИ на права человека и общество", — говорится в докладе.

Тим Энгельхардт, сотрудник по правам человека в отделе верховенства права и демократии, предупредил, что ситуация "ужасная" и что с годами она только ухудшается, поскольку некоторые страны и предприятия внедряют приложения ИИ, не исследуя многочисленные потенциальные риски, связанные с этой технологией.

Он приветствует соглашение ЕС об "усилении правил контроля", но он отметил, что решение огромного количества вопросов, связанных с ИИ, не появится в ближайшем году, и что первые шаги по решению этой проблемы должны быть сделаны именно сейчас, иначе "многие люди в мире заплатят слишком высокую цену".

"Чем выше риск для прав человека, тем строже должны быть юридические требования к использованию технологий ИИ", — добавила Бачелет.

Доклад и комментарии М. Бачелет появились после июльских разоблачений того, что шпионская программа, известная как Pegasus, использовалась для взлома смартфонов тысяч людей по всему миру, включая журналистов, правительственных чиновников и правозащитников.

Телефон министра финансов Франции Бруно Ле Мэра был лишь одним из многих, в отношении которых проводилось расследование в связи со взломом с помощью шпионской программы, разработанной израильской компанией NSO Group.

NSO Group выступила с заявлением, в котором не рассматривались обвинения, но говорилось, что компания "продолжит предоставлять разведывательным и правоохранительным органам по всему миру жизненно важные технологии для борьбы с террором и преступностью".

Выступая на слушаниях в Совете Европы, посвященных последствиям, вытекающим из спора о шпионских программах Pegasus, М. Бачелет сказала, что разоблачения не стали неожиданностью, учитывая "беспрецедентный уровень слежки по всему миру со стороны государственных и частных структур".


Источник: The Epoch Times