Китай использует ИИ для кибератак и операций воздействия: OpenAI

Компания OpenAI предупреждает: группы, связанные с Китаем, все чаще используют ChatGPT для злонамеренных действий, в частности для публикации дезинформации в соцсетях, политических манипуляций, разработки вредоносного ПО и взлома паролей. В отчете компания сообщила, что такие тактики становятся более изощренными, но их масштаб пока относительно невелик.

За последние три месяца OpenAI прекратила 10 тайных сделок, заблокировав соответствующие аккаунты. Четыре из них, вероятно, связаны с Китаем.

С момента запуска ChatGPT в конце 2022 г. растут опасения, что искусственный интеллект может создавать убедительные тексты, изображения и аудио.

OpenAI сообщила, что ее инструменты использовали для создания вредоносного ПО и распространения дезинформации через фальшивые сообщения в соцсетях. Компания заблокировала аккаунты, связанные с Китаем, из-за которых критиковали торговую политику США и пытались посеять раздор.

В одной из кампаний, которую назвали Sneer Review, ChatGPT использовали для создания фальшивых диалогов, имитирующих реальные обсуждения, на таких платформах как X и Фейсбук.

OpenAI также обнаружила попытки повлиять на политику США с помощью фальшивых профилей, созданных с использованием ИИ.

Некоторые группы применяли ИИ для сбора общедоступных данных, разработки новых инструментов и взлома паролей. Большинство таких попыток было обнаружено на ранней стадии, они не добились широкой аудитории.