Certik представляет «антивирус для ИИ-агентов» на фоне скрытых угроз, с которыми сталкиваются платформы для обмена навыками

Компания Certik запустила новую платформу безопасности, которую называют «антивирусом для ИИ-агентов» и которая призвана противостоять растущим рискам, связанным с непроверенными сторонними маркетплейсами навыков ИИ.

Проблема безопасности

27 мая компания Certik, специализирующаяся на безопасности блокчейна и ИИ, представила новую платформу безопасности, предназначенную для оценки рисков в навыках искусственного интеллекта (ИИ) сторонних разработчиков. Названная «антивирусом для ИИ-агентов», эта платформа выходит на фоне растущей озабоченности отрасли по поводу безопасности торговых площадок для навыков ИИ.

Исследователи в области безопасности предупреждают, что многие из этих навыков не проходят проверку, могут выполнять действия на системном уровне и содержать скрытое вредоносное поведение, создавая новый риск для цепочки поставок программного обеспечения в эпоху ИИ. Аудиты безопасности в секторе выявили риски, варьирующиеся от сбора учетных данных и утечки данных до манипуляций с переводом средств и атак с переопределением на основе подсказок.

Несмотря на эти опасения, рынки навыков ИИ быстро расширились по мере созревания экосистем агентов. Однако, в отличие от традиционных магазинов приложений, большинство навыков берутся из общедоступных репозиториев, практически не проходя проверки. Аналитики отмечают, что это создает возможности для злоумышленников внедрять вредоносные инструкции, инициировать несанкционированный доступ к данным или манипулировать потоками автономного выполнения.

В недавнем сообщении в блоге компания Certik сообщила, что ее платформа для сканирования навыков разработана специально для оценки рисков, возникающих во время выполнения, включая сценарии, связанные с финансовыми транзакциями или запросами средств. Сканер выдает числовой балл от 0 до 100, а также вердикты «прошел», «предупреждение» или «не прошел» и классифицированные результаты. По данным компании, система достигает точности до 90,5% при выявлении рисков безопасности.

«По мере того как ИИ-агенты все глубже интегрируются в финансовые системы, рабочие процессы предприятий и повседневные цифровые взаимодействия, модель безопасности, связанная со сторонними навыками, приобретает критически важное значение», — сказал Ронхуи Гу, генеральный директор и соучредитель Certik. «CertiK Skill Scanner был создан для установления стандартизированного уровня доверия перед выполнением, помогая пользователям и платформам выявлять скрытые риски до того, как будут раскрыты конфиденциальные данные, активы или системы».

Certik сообщила, что маркетплейсы навыков ИИ могут интегрировать сканер непосредственно в конвейеры публикации, автоматически проверяя навыки перед их запуском и отображая пользователям результаты проверки безопасности. Предприятия могут внедрять этот инструмент в рамках внутренних рабочих процессов по обеспечению соответствия и управлению рисками, а независимые разработчики — использовать его для самостоятельной проверки навыков перед публикацией.

Компания сообщила, что будущие обновления позволят обычным пользователям самостоятельно сканировать навыки перед установкой. Сканер уже внедрен в отдельных средах инфраструктуры агентов Web3 AI. Certik также расширяет интеграцию с дополнительными платформами, включая Finchip.ai.

«Доверие — это необходимое условие для масштабного функционирования любой экономики навыков», — сказал Гэри Янг, инвестор-инкубатор в Finchip.ai. «Работа CertiK по проверке безопасности навыков — это именно то, что нужно этой экосистеме. Именно это делает миссию Finchip по владению и распространению программируемых навыков достойной реализации».

Запуск следует за расширением Certik в направлении инфраструктуры безопасности, ориентированной на ИИ. Ранее в этом году компания представила свою инициативу AI Auditor для устранения рисков, связанных с автономными системами и средами выполнения на базе ИИ.

«Приложения ИИ движутся в направлении все более автономного выполнения, что создает новую категорию проблем безопасности и доверия», — сказал Гу. «Мы считаем, что инфраструктура безопасности для эпохи ИИ должна функционировать проактивно, а не реактивно».