incrypted.com
- В компании считают, что автономные ИИ-системы создают масштабные риски для корпоративной безопасности.
- Злоумышленники могут захватывать агентов через вредоносные инструкции, плагины и поддельные зависимости.
- Эксперты призывают отказаться от доверительной модели в пользу архитектуры нулевого доверия.
Глобальное распространение ИИ-агентов может привести к масштабному кризису кибербезопасности, если компании продолжат внедрять такие системы без должной защиты. Об этом заявил соучредитель и генеральный директор CertiK Ронгхуэй Гу.
По его словам, многие организации уже предоставляют ИИ-агентам доступ к локальным файлам, учетным данным, электронной почте и финансовым сервисам. При этом они не оценивают возможные последствия компрометации таких систем, считает эксперт.
Гу отметил, что современные агенты выполняют гораздо более сложные функции, чем обычные чат-боты. Они способны запускать рабочие процессы, использовать внешние инструменты, взаимодействовать с корпоративными сервисами и финансовой инфраструктурой.
В результате компрометация одного агента может открыть злоумышленникам широкий доступ к внутренним системам компании.
По мнению главы CertiK, ключевая проблема заключается в том, что разработчики продолжают строить инфраструктуру вокруг ошибочной модели доверия. Они предполагают, что локальный запуск программ автоматически делает их безопасными, подчеркнул специалист.
Хакеры используют ИИ против других автономных систем
Согласно исследованию CertiK, многие популярные агентные фреймворки содержат сотни предупреждений о безопасности, неустраненные уязвимости и проблемы с разграничением доступа.
Особую угрозу представляют атаки через внедрение инструкций на естественном языке. Вредоносные команды могут быть скрыты в веб-страницах, электронных письмах или документах и незаметно изменить поведение агента после их обработки.
По словам Гу, в таком случае система может проигнорировать исходные ограничения и выполнить действия, которых от нее не ожидал пользователь. Например, передать данные третьим лицам или инициировать перевод средств.
В CertiK также сообщили об обнаружении множества вредоносных плагинов, поддельных установщиков и зависимостей, распространяемых через открытые экосистемы агентных инструментов.
Еще одной тревожной тенденцией стал рост автоматизированных мошеннических схем в блокчейне, рассчитанных не на людей, а на другие ИИ-системы. Такие операции могут существовать всего несколько минут, после чего полностью исчезать.
По словам Гу, злоумышленники уже создают краткоживущие финансовые ловушки. Они успевают обмануть торговых ботов и автономных агентов еще до того, как инцидент заметит человек.
На фоне этих рисков глава CertiK призвал индустрию перейти к архитектуре нулевого доверия. При ней каждая команда, интеграция и зависимость проходят постоянную проверку независимо от источника происхождения.
Напомним, мы писали, что компания Robinhood разрешила ИИ-агентам торговать акциями.