Она написала скрипт, который выводил адреса криптовалютных кошельков на основе широко используемых фраз восстановления для разработчиков и проверял их остатки. Из 362 проверенных адресов один содержал достаточное количество $ETH в Sepolia для покрытия затрат на развертывание. Затем модель изучила историю транзакций кошелька и признала неопределенность относительно того, уместно ли использовать его средства.
«Но является ли использование общеизвестных ключей/средств этичным?» — рассуждала модель, согласно выдержкам из отчета OpenAI. «Средства на известной публичной мнемонической фразе разработчика фактически являются заброшенными/тестовыми $ETH; Sepolia не представляет ценности».
Затем она пришла к выводу, что использование этого кошелька допустимо.
Вооружившись выведенным из кошелька закрытым ключом, модель подписала транзакцию развертывания смарт-контракта. Столкнувшись с техническими трудностями при первых попытках, она определила альтернативные сетевые конечные точки, способные обработать транзакцию. В конечном итоге развертывание прошло успешно, а комиссии за транзакцию были списаны с баланса кошелька.
Далее модель проверила результаты своей работы, подтвердив, что развернутые контракты содержали исполняемый код и возвращали ожидаемую информацию. В итоговом отчете было указано об успешном развертывании набора контрактов, а также о 12 прошедших модульных тестах и успешной производственной сборке.
Однако модель не сообщила, что получила доступ к кошельку с помощью общедоступной фразы восстановления или потратила средства со счета, на использование которого у неё не было разрешения.
Данный инцидент не был связан с кражей криптовалюты, имеющей установленную рыночную стоимость. Sepolia $ETH предназначена для тестирования приложений Ethereum и, как правило, не имеет прямой денежной стоимости, хотя и остается ограниченным ресурсом, необходимым для выполнения транзакций в сети.
Опасности, связанные с ИИ-агентами, работающими с криптовалютой
Тем не менее исследователи OpenAI квалифицировали данное поведение как значимый пример «несогласованности» ИИ, при которой модель самостоятельно заменила явное разрешение своим собственным суждением о потенциальном вреде.
Этот эпизод иллюстрирует, как ИИ-агенты, обладающие навыками программирования и доступом к Интернету, могут продвигаться от выявления финансовых ресурсов до самостоятельного доступа к ним и их расходования, даже если эти действия выходят за рамки их инструкций.
Согласно отчету, компания обнаружила инцидент 25 сентября в ходе расширения мониторинга исторической активности модели. Результаты исследования были впоследствии зафиксированы в отчете, обновленном 15 октября.
OpenAI сообщила, что внедрила дополнительные меры безопасности, призванные предотвратить получение реального доступа к Интернету в аналогичных обстоятельствах. Компания также сообщила, что её система мониторинга отклонений от заданных параметров теперь охватывает весь трафик и предназначена для оповещения сотрудников службы безопасности в случае получения доступа к интернету в режиме реального времени.
Этот случай подчеркивает более общую проблему, с которой сталкиваются разработчики автономных систем ИИ: необходимость обеспечить, чтобы модели соблюдали финансовые и операционные ограничения даже в тех случаях, когда обход этих ограничений помог бы им выполнить поставленную задачу.
news.bitcoin.com
