Британський регулятор може взятися за ChatGPT через фінансові поради користувачам

Британському фінансовому регулятору було запропоновано розглянути питання щодо регулювання великих мовних моделей, таких як ChatGPT, Claude та Gemini, у зв’язку з їхнім зростаючим впливом на фінансові рішення споживачів, пише Reuters.

У огляді, підготовленому на замовлення Управління з фінансового регулювання та нагляду (FCA) і опублікованому в понеділок, виконавчий директор цього наглядового органу Шелдон Міллс також підкреслив, що залежність компаній від невеликої кількості постачальників технологій створює потенційні системні ризики.

Регулюючі органи по всьому світу почали приділяти більше уваги впливу ШІ — від кіберризиків та операційних ризиків, пов’язаних із передовими моделями ШІ, такими як Mythos від Anthropic, до викликів, які створюють агентські системи, здатні діяти з обмеженим втручанням людини.

Дослідження компанії Mills, присвячене впливу ШІ на фінансовий сектор, показало, що понад чверть британських споживачів довіряють таким інструментам, як ChatGPT від OpenAI, Claude від Anthropic та Gemini від Google, звертаючись за фінансовими консультаціями, при цьому лише небагато хто з них усвідомлює, що заходи захисту, які застосовуються до регульованих фінансових послуг, не поширюються на ці ШІ-сервіси.

Представники OpenAI, Anthropic та Google не змогли відразу прокоментувати ситуацію.

Фінансове консультування є регульованою діяльністю, яку можуть здійснювати лише уповноважені компанії, тому ШІ не повинен пропонувати нічого, крім загальних фінансових рекомендацій. Однак Міллс зазначив, що персональні рекомендації чат-бота можуть розмити межі, а постійні та адаптивні рекомендації можуть почати нагадувати регульоване консультування.

Міллс рекомендував FCA протягом найближчих трьох–шести місяців розглянути питання про те, чи слід «закріпити та адаптувати» межі регулювання шляхом аналізу масштабу, характеру та впливу моделей ШІ, які виходять за межі цих меж.

Джонатан Гербст, глобальний керівник практики фінансових послуг юридичної фірми Norton Rose Fulbright, зазначив, що Міллс не пропонує негайних репресивних заходів, а ставить питання про те, чи потрібно розвивати правила, щоб вони відображали сучасні способи надання фінансових послуг.

«Це важливе питання для політиків, і воно ставатиме дедалі актуальнішим у міру прискорення впровадження ШІ», — сказав Гербст.

FCA заявила, що стала першим регулятором у світі, який дослідив вплив ШІ на фінансові послуги, хоча цей наглядовий орган не зобов’язаний вживати заходів щодо винесених рекомендацій.

РИЗИК КОНЦЕНТРАЦІЇ

Нещодавнє опитування показало, що 81 % фінансових компаній у всьому світі в тій чи іншій мірі впроваджують ШІ, причому 40 % перебувають на більш просунутих етапах.

Хоча більшість випадків використання, як і раніше, зосереджена в бек-офісних функціях з нижчим рівнем ризику, британські компанії дедалі частіше застосовують ШІ у сферах, пов’язаних із безпосередньою взаємодією з клієнтами, таких як розгляд скарг та надання інвестиційних рекомендацій.

В огляді Міллса міститься застереження про те, що повсюдне впровадження ШІ у фінансовому секторі може призвести до того, що компанії стануть залежними від невеликої кількості постачальників технологій щодо критично важливих операційних функцій.

У звіті зазначається, що спільне використання одних і тих самих моделей, хмарних провайдерів або технологічної інфраструктури може призвести до корельованої поведінки, «ефекту стада» та появи загальних точок відмови в усій фінансовій системі.

У своєму виступі минулого тижня заступниця керуючої Банку Англії Сара Бріден вперше вказала на необхідність розробки спеціального регулювання у сфері штучного інтелекту для стримування ризиків для фінансової системи, що створюються дедалі більш спроможними автономними системами.

«Наші нормативні рамки не були розроблені з урахуванням автономних агентів, і покладатися на участь людини в усіх діях агентів навряд чи буде реалістично», — сказала Бріден.