Пятница, Окт 22, 2021
Велика Епоха
Ukrainian Edition

ООН предупреждает, что искусственный интеллект представляет угрозу правам человека

Суббота, 25 сентября 2021 года

Умный робот iPal smart AI для обучения детей демонстрируется на стенде AvatarMind на выставке потребительской электроники CES 2019 в Las Vegas Convention Center в Лас-Вегасе, штат Невада, 8 января 2019 года. (Robyn Beck/AFP via Getty Images)

Организация Объединенных Наций предупредила, что системы искусственного интеллекта (ИИ) могут представлять "негативную, даже катастрофическую" угрозу для прав человека, и призвала запретить приложения ИИ, которые используются без соблюдения прав человека.

15 сентября глава ООН по правам человека Мишель Бачелет призвала государства-члены ввести временный запрет на продажу и использование ИИ до тех пор, пока не будут рассмотрены потенциальные риски, которые он несёт, и не будут созданы адекватные гарантии того, что технологией не будут злоупотреблять.

"Мы не можем позволить себе продолжать играть в догонялки с ИИ — разрешать его использование с ограниченными или отсутствующими границами или надзором и заниматься почти неизбежными последствиями в области прав человека после того, как это произошло", — говорится в заявлении М. Бачелет.

"Сила ИИ в служении людям неоспорима, но также неоспорима и способность ИИ нарушать права человека в огромных масштабах практически без видимых последствий. Сейчас необходимо принять меры, чтобы установить правовую защиту на пути использования ИИ для блага всех нас", — добавила глава правозащитной организации.

Её замечания прозвучали вскоре после того, как офис М. Бачелет опубликовал доклад с анализом того, как ИИ влияет на право людей на частную жизнь, а также на ряд других прав, касающихся здоровья, образования, свободы передвижения и свободы выражения мнений.

Документ включает оценку профилирования, автоматизированного принятия решений и других технологий машинного обучения.

Хотя в докладе отмечается, что ИИ может быть использован в благих целях и может помочь "обществу преодолеть некоторые из великих вызовов нашего времени", но его применение в качестве инструмента прогнозирования и профилирования может резко повлиять на "право частной жизни, на справедливый суд, на свободу от произвольного ареста и задержания и на право на жизнь".

Согласно докладу, многие государства и компании часто не проводят должной проверки, спеша внедрить приложения ИИ, и в некоторых случаях это приводит к опасным ошибкам, когда некоторые люди подвергаются жестокому обращению и даже аресту из-за несовершенного программного обеспечения для распознавания лиц.

Между тем, распознавание лиц потенциально может позволить неограниченную слежку за людьми, что может привести к возникновению целого ряда проблем, связанных с дискриминацией и защитой данных.

Робот искусственного интеллекта (L) компании CloudMinds во время Всемирной мобильной конференции в Шанхае 27 июня 2018 года. (-/AFP/Getty Images)

Посетители смотрят на систему "умного города" с искусственным интеллектом от компании iFLY на Международной выставке "2018 International Intelligent Transportation Industry Expo" в Ханчжоу в восточной китайской провинции Чжэцзян в декабре 2018 года. (STR/AFP/Getty Images)

Поскольку многие системы ИИ опираются на большие массивы данных, дальнейшие вопросы, связанные с тем, как эти данные будут храниться в долгосрочной перспективе, также представляют риск, и существует возможность использования таких данных в будущем, что может повлечь за собой значительные риски для национальной безопасности.

"Сложность среды данных, алгоритмов и моделей, лежащих в основе разработки и функционирования систем ИИ, а также намеренная секретность государственных и частных структур являются факторами, подрывающими значимые способы понимания общественностью влияния систем ИИ на права человека и общество", — говорится в докладе.

Тим Энгельхардт, сотрудник по правам человека в отделе верховенства права и демократии, предупредил, что ситуация "ужасная" и что с годами она только ухудшается, поскольку некоторые страны и предприятия внедряют приложения ИИ, не исследуя многочисленные потенциальные риски, связанные с этой технологией.

Он приветствует соглашение ЕС об "усилении правил контроля", но он отметил, что решение огромного количества вопросов, связанных с ИИ, не появится в ближайшем году, и что первые шаги по решению этой проблемы должны быть сделаны именно сейчас, иначе "многие люди в мире заплатят слишком высокую цену".

"Чем выше риск для прав человека, тем строже должны быть юридические требования к использованию технологий ИИ", — добавила Бачелет.

Доклад и комментарии М. Бачелет появились после июльских разоблачений того, что шпионская программа, известная как Pegasus, использовалась для взлома смартфонов тысяч людей по всему миру, включая журналистов, правительственных чиновников и правозащитников.

Телефон министра финансов Франции Бруно Ле Мэра был лишь одним из многих, в отношении которых проводилось расследование в связи со взломом с помощью шпионской программы, разработанной израильской компанией NSO Group.

NSO Group выступила с заявлением, в котором не рассматривались обвинения, но говорилось, что компания "продолжит предоставлять разведывательным и правоохранительным органам по всему миру жизненно важные технологии для борьбы с террором и преступностью".

Выступая на слушаниях в Совете Европы, посвященных последствиям, вытекающим из спора о шпионских программах Pegasus, М. Бачелет сказала, что разоблачения не стали неожиданностью, учитывая "беспрецедентный уровень слежки по всему миру со стороны государственных и частных структур".

Источник: The Epoch Times

Comments   

загрузка...