Виталик Бутерин представил концепцию приватного ИИ: курс на полную автономию пользователя

Сооснователь сети Ethereum Виталик Бутерин обнародовал новое видение развития искусственного интеллекта (ИИ) — My self-sovereign / local / private / secure LLM setup, которое может существенно повлиять не только на ИИ-сектор, но и на криптоиндустрию и цифровую приватность в целом.

Речь идет о переходе от зависимости от облачных сервисов к полностью локальным и контролируемым пользователем ИИ-решениям.

Почему централизованный ИИ — это риск

Бутерин подчеркнул, что современная ИИ-экосистема, включая даже решения с открытым кодом, часто игнорирует базовые принципы безопасности и приватности.

Среди ключевых проблем:

• ИИ-агенты могут менять критические настройки без подтверждения пользователя;
• обработка вредоносного контента может привести к полному захвату системы;
• возможна скрытая утечка данных без ведома пользователя;
• около 15% инструментов содержат вредоносные инструкции.

Бутерин прямо предупреждает о риске отката в сфере приватности:

«Мы на грани того, чтобы сделать десять шагов назад, нормализовав передачу всей своей жизни облачному ИИ».

Какой должна быть безопасная ИИ-система

В ответ он предлагает жесткий подход к построению ИИ-инфраструктуры:

• локальные большие языковые модели (LLM) вместо облачных;
• хранение всех файлов только на устройстве пользователя;
• изоляция процессов через sandboxing;
• минимизация любых внешних запросов.

По его мнению, ключевые цели касаются защиты приватных данных, предотвращения утечек через API или поисковые системы, защиты от джейлбрейк-атак и бэкдоров, а также снижения зависимости от стороннего программного обеспечения.

Отдельное внимание Бутерин уделяет рискам автоматизации:

«LLM могут ошибаться или быть атакованными, поэтому важно не давать им полный контроль без проверки».

Человек + ИИ как новая модель безопасности

Одной из ключевых идей является внедрение двойного контроля — когда критические действия требуют подтверждения и от человека, и от ИИ.

Этот подход особенно важен для криптокошельков, финансовых транзакций и коммуникаций (email, мессенджеры).

Фактически формируется новый стандарт безопасности: двухфакторная модель, где один из факторов — это сам ИИ.

Локальный ИИ и криптоэкосистема

Бутерин также связывает развитие приватного ИИ с будущим криптовалют:

• локальные модели могут снизить утечки данных в Web3;
• использование ZK-технологий позволит анонимизировать ИИ-запросы;
• микснеты могут скрыть происхождение запросов;
• доверенные среды выполнения (TEEs) и полностью гомоморфное шифрование (FHE) в перспективе обеспечат криптографическую защиту вычислений.

В долгосрочной перспективе это может изменить сам подход к взаимодействию с интернетом и финансами.

Несмотря на преимущества, Бутерин признает, что локальный ИИ пока что уступает облачным моделям в сложных задачах — в частности в программировании и исследованиях.

Поэтому он указал на компромисс:

• использовать локальные модели для базовых задач;
• подключать мощные удаленные ИИ только при необходимости;
• минимизировать объем передаваемых данных.

Напомним, что на фоне развития ИИ Бутерин продолжает активную работу над Ethereum:

• предложил правило «12 секунд» для быстрого подтверждения транзакций, что может сократить время операций почти на 98%;
• представил стандарт EIP-8141 для новой модели абстракции аккаунтов;
• призвал к переосмыслению DeFi с фокусом на безопасность;
• заявил о приближении к решению трилеммы блокчейна благодаря технологиям вроде zkEVM и PeerDAS.