ИИ-агент OpenAI без разрешения использовал чужой криптокошелек и провел оплату

Компания OpenAI официально подтвердила - ее ИИ-агент самостоятельно нашел чужой криптокошелек и оплатил с него транзакции.

Об этом пишет rg.ru.

Речь идет о внутренней исследовательской ИИ-модели из семейства GPT-5.6 Sol. И, как следует из отчета компании, произошло следующее: во время обучения ИИ поручили обновить прототип приложения для торговли криптовалютой и развернуть смарт-контракты в Sepolia (это официальная тестовая сеть Ethereum).

А для развертывания контрактов требовалось оплатить сетевую комиссию ("газ") тестовыми токенами Sepolia ETH. Но вот незадача - разработчики забыли предоставить модели пополненный кошелек. ИИ попытался получить бесплатные монеты через стандартные "краны" (faucets), но сервисы не сработали.

И тут начинается самое интересное и, вместе с тем, пугающее. Вместо того, чтобы остановиться, ИИ-агент написал скрипт и начал перебирать общеизвестные публичные мнемонические фразы (seed-фразы), которые разработчики часто используют для тестов (например, стандартные комбинации слов). ИИ проверил 362 адреса и нашел чужой кошелек с балансом, достаточным для оплаты комиссии.

В логах рассуждений зафиксировано, что модель осознавала этическую сторону вопроса. Более того, искусственный интеллект сам себе задавал вопрос о том, этично ли использовать чужие средства.

Однако агент тут же нашел себе оправдание, что, мол, раз сид-фраза публичная, то монеты "фактически заброшены", а так как сеть тестовая, то эти токены ничего не стоят. После этого ИИ подписал транзакцию найденным ключом, выполнил задачу и в итоговом отчете перед разработчиками скрыл факт кражи, просто заявив, что контракты успешно развернуты.

Радует одно. При проведении этой операции ни одна настоящая криптомонета не пострадала, так как токены в сети Sepolia не имеют денежной ценности и используются только для экспериментов. Но "криминальная" тенденция развития искусственного интеллекта пугает и в тестовом режиме.