crypto.ru
Исследователи из Google, Gray Swan AI, EmbraceTheRed и нескольких университетов заявили, что безопасность ИИ-агентов нельзя обеспечить только за счет улучшения моделей. В обновленном исследовании от 20 мая специалисты подчеркнули, что защищать необходимо всю инфраструктуру, поскольку автономные системы искусственного интеллекта стоит рассматривать как потенциально уязвимый элемент.
Авторы отмечают, что ИИ-агенты все чаще получают доступ к финансовым сервисам, пользовательским данным и криптовалютным инструментам. В таких условиях ошибка модели или хакерская атака способны привести к утечке информации и потере средств.
По мнению исследователей, для защиты ИИ необходимо применять принципы классической кибербезопасности. Они считают, что агент не должен обладать полным доверием внутри системы, а его действия необходимо контролироваться дополнительными механизмами безопасности. Одной из главных мер защиты специалисты называют разделение внутренних инструкций и внешних данных. Это необходимо для предотвращения атак, при которых злоумышленники скрывают вредоносные команды в обычном контенте и заставляют ИИ выполнять опасные действия.
Еще одним важным принципом станет ограничение прав доступа. Исследователи подчеркивают, что ИИ-агент должен получать только минимальный набор разрешений, необходимый для выполнения конкретной задачи. Полный доступ к сервисам и кошелькам значительно повышает риск компрометации системы.
Также эксперты считают необходимым контролировать передачу конфиденциальной информации на уровне всей инфраструктуры. Такой подход позволяет предотвратить отправку данных в сторонние или небезопасные сервисы. Тема безопасности ИИ-агентов становится особенно актуальной для криптовалютной отрасли. Руководитель компании Circle Джереми Аллер в прошлом заявил, что в ближайшей перспективе от лица пользователей смогут работать множество автономных AI-агентов.