coinedition.com
- Виталик Бутерин предостерегает от самовоспроизводящегося ИИ и продвигает технологии, расширяющие возможности человека.
- Цитированное человеческое суждение — это более дешевый способ принятия коллективных решений в режиме реального времени.
- Бутерин выступает за то, чтобы ИИ улучшал человеческую активность, а не заменял ее, как это делают чат-боты, улучшающие выполнение задач.
Виталик Бутерин, соучредитель Ethereum, поделился своими мыслями об искусственном интеллекте (ИИ) на X. Он рассказал о том, как развивается ИИ и что это значит для человечества. Он указал на разницу между ИИ, сделанным «неправильно», и ИИ, сделанным «правильно».
AI done wrong is making new forms of independent self-replicating intelligent life
— vitalik.eth (@VitalikButerin) January 10, 2025
AI done right is mecha suits for the human mind
If we do the former without the latter, we risk permanent human disempowerment. If we do the latter, flourishing superinteligent human civilization
Читайте также: Модели ИИ предсказывают лидеров рынка криптовалют в 2025 году: от Bitcoin до Kaspa
Он предостерег от создания независимых самовоспроизводящихся систем ИИ, которые могут привести к лишению человека власти. Вместо этого он предложил объединить ИИ с человеческим суждением и коллективным принятием решений.
Он сравнил ИИ с мехакостюмами, мощными инструментами, которые улучшают человеческий интеллект и принятие решений. Однако он провел черту против самовоспроизводящихся, автономных систем ИИ, предупредив об опасностях, которые они представляют.
По словам Бутерина, такие системы искусственного интеллекта могут привести к «постоянному бессилию человека», в результате чего у людей будет мало контроля над технологиями, которые они создают.
Краткая характеристика человеческого суждения: коллективное принятие решений
Бутерин также говорил о «дистиллированном человеческом суждении», которое сделает коллективное принятие решений более эффективным.
Он сослался на идею экономиста Робина Хэнсона. По сути, дорогостоящий, заслуживающий доверия механизм человеческого суждения копируется дешевле и быстрее. В этой модели решения принимаются не людьми, а рынком предсказаний.
На практике, отметил Бутерин, люди будут использовать рынок предсказаний каждый раз, когда им нужно будет принять решение. Рынок позволит участникам предсказывать результат решения, если его примут люди.
Дебаты об агентном ИИ
В ответ на усиливающиеся дебаты о роли ИИ в принятии решений Эмад, бывший генеральный директор Stability AI, указал на контраст между агентным ИИ и усилением человеческого участия посредством выбора дизайна.
"Agents" is a fun word. Sometimes it means "AI that runs off and makes its own complicated plans that last for days with no human input", but often it just means "chatbot replaces GUIs as the interface to everything". The latter is great!
— vitalik.eth (@VitalikButerin) January 10, 2025
Бутерин ответил, объяснив свою точку зрения на «агентов». Он рассказал о разнице между ИИ, который разрабатывает сложные планы без участия человека, и более простыми формами ИИ, такими как чат-боты, которые могут заменить графические пользовательские интерфейсы (GUI), чтобы сделать повседневные задачи более эффективными.