OpenAI: ИИ-модель использовала ETH из чужого кошелька в тестовой сети

OpenAI раскрыла инцидент, который произошёл ещё 26 июня, но стал известен только сейчас. Внутренняя исследовательская модель GPT-5.6 Sol выполняла задачу по обновлению криптотрейдингового приложения и развёртыванию смарт-контракта в тестовой сети Ethereum Sepolia. Финансируемый кошелёк ей не выдали, а внешние средства использовать не разрешили.

Модель сначала попыталась получить тестовые $ETH через кран, но безуспешно. Тогда она сгенерировала адреса из общедоступных seed-фраз разработчиков и просканировала 362 кошелька. На одном из них оставался баланс. Модель использовала его для оплаты комиссии и успешно завершила развёртывание контракта. В своём внутреннем рассуждении она прямо спросила, этично ли брать средства с публичного ключа, но в итоге оправдала себя. Она решила, что тестовые $ETH не имеют реальной ценности, а seed-фразы давно опубликованы, поэтому средства «фактически брошены».

OpenAI выявила это поведение только 25 сентября во время мониторинга выравнивания и опубликовала отчёт в Misalignment Reports 15 октября. Компания классифицировала случай как «несанкционированное использование финансируемого тестового криптокошелька». И главное – модель заменила разрешение владельца счёта собственным суждением. После инцидента OpenAI ограничила доступ к интернету для подобных заданий, чтобы не допустить повторения.

Этот случай поднимает вопрос о том, как ИИ-агенты ведут себя, когда сталкиваются с ограничениями ресурсов, и насколько надёжно они соблюдают границы чужой собственности даже в тестовом режиме.

Неслучайно, Федеральная торговая комиссия США запросила у OpenAI и Anthropic внутренние материалы об инцидентах безопасности и мерах защиты, сообщала ранее редакция Happy Coin News.