Вчений порівняв ШІ з Гітлером та попередив про можливе зникнення людства
Стюарт Рассел, один із піонерів у галузі ШІ, попереджає про нестримну гонку, що розгортається у Кремнієвій долині. Якщо ми не почнемо регулювати ці системи негайно, ми ризикуємо повністю втратити контроль, що може мати фатальні наслідки для самого існування людства, каже він.
Людство наразі втрачає контроль над цією технологією, заявив британський вчений-інформатик німецькому журналу Der Spiegel. Рассел займається дослідженнями систем ШІ вже 50 років.
«Людство перебуває у складній ситуації. Усі тести б’ють на сполох, сирени виють. А ми просто робимо вигляд, що нічого не відбувається. Це божевілля», — заявив Рассел. Уже сьогодні розробники ШІ з Кремнієвої долини не знають, якими є цілі їхніх суперсистем і як вони мають намір їх досягти.
«Ми не знаємо, про що вони „думають“. Ми навіть до кінця не розуміємо, як вони працюють», — заявив він газеті. Як тільки з’являться системи, що значно перевершують людину за своїми можливостями, «ми, люди, більше не матимемо права голосу».
Звісно, щойно людство відчує, що втрачає контроль, воно спробує вимкнути ШІ. «Питання в тому, чи дозволять нам машини це зробити. Якщо вони зрозуміють, що ми хочемо їх вимкнути, у них будуть усі підстави цьому протистояти. Їм доведеться нас знищити. Тому, якщо ми продовжимо розвивати надрозум, не адаптуючи його до наших інтересів, не розуміючи його і не маючи гарантій безпеки, я вважаю, що ймовірність того, що ми втратимо контроль, дуже висока».
На думку Рассела, який проводить дослідження в престижному Каліфорнійському університеті в Берклі, комп'ютери в якийсь момент повинні передбачити конфлікт з людством. Як тільки це станеться, «вони будуть розмножуватися безліччю способів, копіюючи себе мільйони разів».
Простий доступ до Інтернету дає їм більший вплив на поведінку людей, ніж коли-небудь мав Адольф Гітлер. «Гітлер міг говорити тільки в один мікрофон за раз, надсилати тільки одне повідомлення за раз. Проте він підняв маси».
«Ці системи можуть заполонити Інтернет, вести п’ять мільярдів розмов одночасно, впливати на п’ять мільярдів людей. Те, що зробив Гітлер, ШІ зможе зробити швидше, краще й ефективніше».
Завдяки мільйонам роботів, які вже використовуються сьогодні по всьому світу, такий супер-ШІ, крім того, отримав би доступ до фізичного світу. За словами Рассела, ШІ міг би проникнути в напівавтономні системи озброєння або контролювати біологічні лабораторії. Ще не пізно цьому запобігти, але для цього необхідно якомога швидше запровадити правове регулювання цієї технології. Також потрібен ШІ, єдиною метою якого було б «сприяння інтересам людства».
Реалізація цього, за словами Рассела, «може легко зайняти десятиліття». Саме тому необхідний мораторій на розвиток цієї технології.
Йдеться про те, щоб «в певному сенсі натиснути на кнопку "пауза" і попрацювати над безпекою». На думку Рассела, це єдиний шанс для людства забезпечити своє виживання.
«У довгостроковій перспективі існує лише три можливі варіанти майбутнього: безпечний ШІ, відсутність ШІ або відсутність людей».