Виталик Бутерин предлагает «мягкую приостановку» вычислений в случае внезапного риска, связанного с ИИ

Соучредитель Ethereum Виталик Бутерин в своей недавней статье под названием «d/acc: год спустя» обсудил вопросы децентрализации, искусственного интеллекта и взаимодействия. Основная идея статьи заключается в разработке децентрализованных и демократичных технологий, обеспечивающих высокую степень защиты без опоры на централизованные структуры власти.

Последняя статья Виталика Бутерина: «d/acc: год спустя»

Концепция подхода «d/acc» предполагает, что децентрализованные и оборонительные системы способствуют созданию устойчивых и справедливых политических структур, тогда как агрессивная среда несет в себе риски возникновения хаоса или установления авторитаризма.

Основные принципы подхода «d/acc», изложенные Виталием:

1. Защита превыше всего: акцентировать внимание на инструментах, способных эффективно защищать и строить, а не разрушать.

2. Децентрализация: избегать централизации, так как она увеличивает риски путем сосредоточения власти и уменьшения уровня ответственности.

3. Ускорение: использовать прогресс для решения задач и обеспечивать безопасный и перспективный рост человечества.

По мнению Виталика Бутерина, следование этим принципам позволяет сохранять свободу действий людей, защищать их права и предоставлять им необходимые средства и знания для формирования будущего в условиях сложной технологической реальности.

Безопасность ИИ и регулирование

Виталик также затрагивает тему обеспечения безопасности искусственного интеллекта в условиях ограниченного времени (3–5 лет до создания общего и сверхинтеллекта) и возможных стратегий регулирования:

1. Осторожное отношение к регулированию: некоторые законодательные инициативы, такие как калифорнийский закон SB-1047, могут оказаться недостаточно эффективными ввиду быстрого технологического прогресса. Ключевым игрокам, включая военные структуры, удается обойти подобные законы, что снижает их эффективность в борьбе с экзистенциальными угрозами.

2. Предлагаемые стратегии:

   • Ответственность: возложение ответственности на пользователей, распространителей и разработчиков ИИ с целью обеспечения безопасного использования технологий, способствующего минимизации вреда и сохранению духа открытости.

   • Временная приостановка масштабных вычислительных процессов: временное ограничение крупномасштабных вычислений (~90–99%) через криптографические аппаратные механизмы позволит человечеству получить дополнительное время для подготовки к вызовам, связанным с развитием ИИ.

3. Роль технологий d/acc: подходы, основанные на принципах d/acc, способны уменьшить риски, связанные с ИИ, благодаря децентрализованным мерам кибербезопасности, биозащите и информационным защитным механизмам. Законодательство об ответственности может служить дополнением к системе d/acc, стимулируя разработку безопасных систем и поддерживая инновационные процессы.

Важность баланса

Виталик подчеркивает необходимость поиска взвешенных и надежных решений, которые смогут минимизировать риски, не препятствуя при этом технологическому развитию и не допуская установления авторитарной формы контроля.

Криптовалюты и децентрализация

Криптовалюты играют значимую роль в продвижении принципов децентрализации и конфиденциальности, перенося эти ценности на другие технологические сферы.

1. Общие ценности: принципы d/acc основываются на ключевых аспектах криптовалют, таких как децентрализация и устойчивость к цензуре, и применяются в различных сферах, например, в биобезопасности и коллективных рабочих процессах.

2. Криптосообщества как пионеры: приверженность участников крипторынков принципам d/acc и их активная позиция делают их идеальным полигоном для тестирования технологий d/acc, особенно тех, которые связаны с динамикой группы (например, информационная и биологическая защита).

3. Крипто-технологии для децентрализованного финансирования: блокчейн поддерживает децентрализованные финансовые инфраструктуры, системы управления и социальные сети; доказательства с нулевым разглашением обеспечивают повышенную конфиденциальность и безопасность; рынки предсказаний становятся все более сложными инструментами для принятия децентрализованных и демократических решений.

4. Возможности для сотрудничества: технологии, такие как формальная верификация, безопасное оборудование и программное обеспечение, а также надежное управление, совершенствуют криптосистемы (например, Ethereum, DAO), параллельно выполняя задачи гражданской обороны, такие как предотвращение кибератак и рисков, связанных с ИИ.

Таким образом, Виталик представляет децентрализованную и инновационную экосистему криптовалют как естественного партнера в достижении целей d/acc – построении более безопасного, децентрализованного и совместно управляемого будущего.

Общественные блага и d/acc

Рассуждая о роли общественных благ в рамках концепции d/acc, Виталик отметил: «Я считаю, что сильная децентрализованная поддержка общественных благ необходима для реализации концепции d/acc, поскольку основная цель этой концепции – минимизация числа контролирующих центров – противоречит большинству традиционных бизнес-моделей».

Заключение

В завершение Виталий выделяет два основных вызова, стоящих перед человечеством: ускоренное развитие трансформационных технологий, таких как искусственный интеллект, связанное с рисками, и снижение уровня международного сотрудничества вследствие того, что влиятельные субъекты руководствуются собственными интересами. Тем не менее, он видит потенциал в применении искусственного интеллекта, биотехнологий, кибербезопасности и децентрализованных инструментов, таких как криптовалюты, для продвижения вперед. Виталик подчеркивает значимость возврата к общим принципам ради создания совместного, устойчивого и инновационного общества в XXI веке, при котором сохраняются свобода, выживаемость и автономия человечества.