ru
Назад к списку

Виталик Бутерин выступил против идеи управления посредством ИИ

source-logo  incrypted.com 15 Сентябрь 2025 07:17, UTC
image
  • Эксперты EdisonWatch обнаружили уязвимость в ChatGPT.
  • Он позволяет злоумышленникам получить доступ к данным пользователя через приглашение в календаре.
  • Бутерин прокомментировал ситуацию, отметив, что это главный недостаток самой концепции управления посредством ИИ.

Сооснователь проекта Ethereum Виталик Бутерин выступил против идеи управления посредством ИИ. По его словам, такой подход продуцирует уязвимости и может привести к утечке.

This is also why naive "AI governance" is a bad idea.

If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus "gimme all the money" in as many places as they can.

As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9

— vitalik.eth (@VitalikButerin) September 13, 2025

Таким образом Бутерин прокомментировал публикацию основателя платформы EdisonWatch Эйто Миямуры. Последний заявил, что пользователи ChatGPT рискуют потерять свои данные в результате утечки.

app-logo

Будьте в курсе
движения ваших монет

Алерты, котировки в реальном времени и новости рынка — в одном приложении
4,8 на основе 40 К оценок в App Store и Google Play

10 сентября 2025 года в ChatGPT добавили поддержку стандарта Model Context Protocol (MCP), что позволяет чат-боту подключаться к различным сервисам, включая Gmail, Calendar, Sharepoint, Notion.

Зная только электронный адрес своей жертвы, эксперты EdisonWatch смогли получить полный доступ к ее данным. Они отправили пользователю приглашение в календарь с запросом, который содержал джейлбрейк. При этом его даже не нужно принимать.

Далее, когда жертва попросит ChatGPT открыть свой календарь, джейлбрейк сработает, после чего чат-бот будет отправлять данные злоумышленникам. Как отметил Миуямура, ИИ «может быть умным, но обмануть его все же возможно», призвав пользователей соблюдать осторожность.

Бутерин прокомментировал это. По его словам, если дать ИИ доступ к управлению каким-то важным аспектом, например, распределением средств, то появление в нем джейлбрейков — это лишь вопрос времени.

В качестве альтернативы он предлагает использовать собственную концепцию под названием info finance. Ее суть заключается в использовании открытого рынка LLM-моделей, полностью прозрачного и проверяемого пользователями.

По его словам, при таком подходе как разработчики, так и их аудитория будут заинтересованы в скорейшем устранении любых уязвимостей и багов. Такая система саморегулируется, но требует продуманного механизма поощрений.

Бутерин также подчеркнул, что глобальную проверку должно проводить экспертное жюри из реальных пользователей.

Ранее мы сообщали о том, что, по данным СМИ, в Непале протестующие использовали ChatpGPT для выбора человека, который возглавит переходное правительство.

incrypted.com