В отчете регулирующего органа отмечены риски, связанные с использованием ИИ в сфере финансовых услуг
Британскому финансовому регулятору было предложено рассмотреть вопрос о регулировании крупных языковых моделей, таких как ChatGPT, Claude и Gemini, в связи с их растущим влиянием на финансовые решения потребителей, пишет Reuters.
В обзоре, подготовленном по заказу Управления по финансовому регулированию и надзору (FCA) и опубликованном в понедельник, исполнительный директор этого надзорного органа Шелдон Миллс также подчеркнул, что зависимость компаний от небольшого числа поставщиков технологий создает потенциальные системные риски.
Регулирующие органы по всему миру начали уделять больше внимания влиянию ИИ — от киберрисков и операционных рисков, связанных с передовыми моделями ИИ, такими как Mythos от Anthropic, до вызовов, которые создают агентные системы, способные действовать с ограниченным вмешательством человека.
Исследование компании Mills, посвященное влиянию ИИ на финансовый сектор, показало, что более четверти британских потребителей доверяют таким инструментам, как ChatGPT от OpenAI, Claude от Anthropic и Gemini от Google, при обращении за финансовыми консультациями, при этом лишь немногие из них осознают, что меры защиты, применяемые к регулируемым финансовым услугам, не распространяются на эти ИИ-сервисы.
Представители OpenAI, Anthropic и Google не смогли сразу прокомментировать ситуацию.
Финансовое консультирование является регулируемой деятельностью, которую могут осуществлять только уполномоченные компании, поэтому ИИ не должен предлагать ничего, кроме общих финансовых рекомендаций. Однако Миллс отметил, что персональные рекомендации чат-бота могут размыть границы, а постоянные и адаптивные рекомендации могут начать напоминать регулируемое консультирование.
Миллс рекомендовал FCA в течение ближайших трех–шести месяцев рассмотреть вопрос о том, следует ли «закрепить и адаптировать» границы регулирования путем анализа масштаба, характера и воздействия моделей ИИ, которые находятся за пределами этих границ.
Джонатан Хербст, глобальный руководитель практики финансовых услуг юридической фирмы Norton Rose Fulbright, отметил, что Миллс не предлагает немедленных репрессивных мер, а задает вопрос о том, нужно ли развивать правила, чтобы они отражали современные способы предоставления финансовых услуг.
«Это важный вопрос для политиков, и он будет становиться всё более актуальным по мере ускорения внедрения ИИ», — сказал Хербст.
FCA заявила, что стала первым регулятором в мире, изучившим влияние ИИ на финансовые услуги, хотя этот надзорный орган не обязан принимать меры по вынесенным рекомендациям.
РИСК КОНЦЕНТРАЦИИ
Недавний опрос показал, что 81 % финансовых компаний по всему миру в той или иной степени внедряют ИИ, причем 40 % находятся на более продвинутых этапах.
Хотя большинство случаев использования по-прежнему сосредоточено в бэк-офисных функциях с более низким уровнем риска, британские компании все чаще применяют ИИ в сферах, связанных с непосредственным взаимодействием с клиентами, таких как рассмотрение жалоб и предоставление инвестиционных рекомендаций.
В обзоре Миллса содержится предупреждение о том, что повсеместное внедрение ИИ в финансовом секторе может привести к тому, что компании станут зависимыми от небольшого числа поставщиков технологий в отношении критически важных операционных функций.
В отчете отмечается, что совместное использование одних и тех же моделей, облачных провайдеров или технологической инфраструктуры может привести к коррелированному поведению, «эффекту стада» и появлению общих точек отказа во всей финансовой системе.
В своем выступлении на прошлой неделе заместитель управляющего Банка Англии Сара Бриден впервые указала на необходимость разработки специального регулирования в области искусственного интеллекта для сдерживания рисков для финансовой системы, создаваемых все более способными автономными системами.
«Наши нормативные рамки не были разработаны с учетом автономных агентов, и полагаться на участие человека во всех действиях агентов вряд ли будет реалистично», — сказала Бриден.