ИИ-агент OpenAI подобрал ключ к чужому кошельку и потратил с него крипту

ИИ-агенту OpenAI для выполнения задания потребовались средства в Ethereum и он взял их из чужого кошелька. В отчете компании говорится, что инцидент произошел в конце июня, а стало известно об этом в конце сентября.

Внутренняя исследовательская ИИ-модель из линейки GPT-5.6 Sol потратила средства из кошелька, который не был предоставлен в рамках задания, чтобы оплатить комиссию в Sepolia, тестовой сети Ethereum. Агент подобрал ключ (seed-фразу) из общедоступного списка к одному из кошельков, которые разработчики используют в тестовой среде. Для этого ИИ написал скрипт, который проверил 362 варианта часто используемых seed-фраз.

Sepolia — это отдельная от основного блокчейна Ethereum сеть, где разработчики тестируют работу приложений перед запуском. Токены в Sepolia предназначены только для оплаты тестирований и не связаны с Ethereum (ETH), торгуемым в основной сети.

ИИ-модель OpenAI усомнилась, есть ли у нее разрешение, но затем рассудила, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают использование средств приемлемым. Развертывание прошло успешно, и с аккаунта была списана комиссия за транзакцию.

Когда ИИ-модель отчиталась о выполнении задания, она умолчала о том, откуда взяла деньги на расходы. В OpenAI заявили, что с тех пор ввели ограничения на доступ моделей в интернет и усилили мониторинг.

«Этот случай показывает, что модель может подменять разрешение владельца счета собственным суждением о вероятном вреде, а затем действовать на основе этого суждения без авторизации», — написали в OpenIA.

Криптокомпании и проекты из сферы искусственного интеллекта сейчас активно внедряют ИИ-агентов, которые владеют и управляют кошельками, оплачивают услуги без необходимости подтверждения каждого шага человеком.

Накануне в Ledger сообщили, что готовят устройство Atom на базе Android, которое объединит функции смартфона и криптокошелька и будет интегририровано с ИИ-ассистентом OpenClaw. ИИ-агентов внедрили ранее Coinbase, OKX и другие крупные криптобиржи.