По его мнению, главным риском является концентрация власти в руках крупных ИИ-компаний и государств, что также имеет значение для криптоиндустрии, которая традиционно выступает за децентрализацию и открытые технологии.
Бутерин: ни один из сценариев развития ИИ не является безупречным
Бутерин обратил внимание на противостояние между сторонниками концепции AI 2040, которые прогнозируют появление суперинтеллекта до 2040 года, и их критиками.
По его словам, обе стороны исходят из принципиально разных представлений о будущем.
«Если бы я был уверен, что современный ИИ — это обычная технология, то был бы среди критиков AI 2040. Если бы был уверен, что сверхинтеллект по умолчанию появится уже до 2030 года, то был бы ближе к лагерю AI 2040», — отметил он.
В то же время Бутерин признал, что сам не знает, какой из сценариев ближе к реальности. Из-за этого он заявил, что остается открытым к идее временного замедления развития ИИ, если риски существенно будут расти.
Открытый код и защитные технологии вместо концентрации власти
Бутерин раскритиковал подход отдельных крупных компаний, которые продвигают модель, при которой контроль над самыми мощными системами ИИ должен остаться у узкого круга организаций.
«Мне очень некомфортно из-за тезиса “открытый код — это плохо, а хороший результат — это когда наши люди имеют глобальное доминирование”».
Он напомнил, что уже длительное время поддерживает концепцию d/acc, которая предусматривает развитие технологий, способных усилить безопасность общества независимо от того, как будет развиваться ИИ. Среди таких направлений он назвал:
- формальную верификацию;
- криптографию;
- безопасное и открытое аппаратное обеспечение;
- биотехнологии для противодействия пандемиям;
- продовольственную безопасность;
- развитие общественных механизмов проверки информации.
По его мнению, именно эти направления остаются полезными независимо от того, станет ли суперинтеллект реальностью в ближайшие десятилетия.
Напомним, что Бутерин недавно заявил о новой эре безопасности Ethereum благодаря использованию ИИ для формальной верификации кода.
Компромисс вместо крайностей
Бутерин предложил заранее согласовать перечень объективных триггеров, после которых общество могло бы вернуться к вопросу замедления развития ИИ. В качестве примеров он привел чрезвычайные пандемии, резкую безработицу из-за автоматизации или другие масштабные угрозы.
По его мнению, это позволит вести дискуссию не на основе предположений, а опираясь на заранее согласованные критерии.
В то же время сооснователь Ethereum признал, что универсального решения на данный момент не существует.
«Сейчас я не вижу ни одного плана перехода к эре сверхинтеллекта, который не был бы наивным. Возможно, человечеству придется выбирать между наивностью и наивностью в квадрате».
Он также отметил, что если бы руководил крупной социальной платформой, то превратил бы ее в площадку для поиска компромиссных решений между разными группами, а не только в пространство для политических или корпоративных дискуссий.
В последние месяцы Виталик Бутерин неоднократно высказывался о роли искусственного интеллекта в развитии Ethereum и цифровой экономики. В частности, после того как он представил концепцию приватного локального ИИ, сооснователь Ethereum призвал развивать модели, которые работают без зависимости от централизованных облачных сервисов.
Параллельно Ethereum Foundation уже использует координированных ИИ-агентов для поиска уязвимостей в критически важном коде сети.
incrypted.com
