hashtelegraph.com
Сенатор Берни Сандерс (Bernie Sanders) и конгрессмен Грег Касар (Greg Casar) объявили о внесении законопроекта Ban Artificial Superintelligence Act — документа, который вводит постоянный запрет на разработку и развёртывание систем искусственного суперинтеллекта. Об этом сообщается в пресс-релизе офиса сенатора. Помимо бессрочного запрета, законопроект предусматривает временную приостановку разработки продвинутых систем ИИ — до тех пор, пока не появится федеральный регулятор с чёткими правилами безопасности.
В кратком изложении документа авторы определяют искусственный суперинтеллект как систему ИИ, которая демонстрирует — либо может быть легко модифицирована так, чтобы демонстрировать — возможности, соответствующие или превосходящие человеческие когнитивные способности в широком спектре доменов и задач. Отдельно к этой категории отнесены системы, обладающие достаточными возможностями для того, чтобы спланировать и осуществить лишение человечества власти, включая свержение или подрыв правительства США.
Новое агентство и «корпоративная смертная казнь»
Законопроект предполагает создание нового федерального агентства кабинетного уровня, задачей которого станет защита общества от рисков искусственного интеллекта и обеспечение соблюдения запрета на суперинтеллект. В своей работе агентство будет опираться на Консультативный совет по искусственному интеллекту, который планируется учредить при этом же ведомстве.
Санкции за нарушение паузы и запрета прописаны жёстко:
для компаний — принудительное прекращение деятельности, которое авторы называют «корпоративной смертной казнью»;
для физических лиц — тюремное заключение на срок до 20 лет, что сопоставимо с наказанием за незаконную разработку ядерного оружия.
Документ также закрепляет, что политика США должна быть направлена на заключение международных соглашений, координацию с союзниками и применение мер экспортного контроля — всё это ради того, чтобы предотвратить разработку искусственного суперинтеллекта где бы то ни было в мире.
Сам Сандерс в своём заявлении подчеркнул необходимость немедленной глобальной паузы в разработке продвинутого ИИ и постоянного запрета на суперинтеллект — по его словам, откладывать это нельзя. Касар выразился жёстче: искусственный суперинтеллект, по его словам, поставит под угрозу безопасность, свободу и жизни американцев, и именно поэтому он вместе с Сандерсом вносит законопроект о его запрете.
Трамп: ИИ создаст миллионы рабочих мест
Позиция президента США Трампапрямо противоположна. В эксклюзивном интервью каналу GB News он заявил, что не испытывает беспокойства по поводу искусственного интеллекта — по его мнению, технология окажется «позитивной» и создаст миллионы рабочих мест, а любые негативные последствия со временем будут исправлены.
На вопрос о том, могут ли ИИ и роботы однажды обернуться против человечества, Трамп ответил в своей фирменной манере: «Всё будет в порядке. У нас всегда найдётся, чем их остановить — маленькая штуковина, и БУМ». Он добавил, что роботы со временем станут привычной частью технологического ландшафта, и призвал относиться к этому с большим оптимизмом, сравнив нынешнюю ситуацию с появлением телевидения. По словам президента, компьютеры и подобные им системы создаются людьми и «всегда будут начинаться с нас».
Таким образом, законодательная инициатива Сандерса и Касара, предполагающая жёсткий запрет и уголовную ответственность за разработку суперинтеллекта, прозвучала практически одновременно с публичным заявлением главы государства о том, что развитие ИИ не несёт серьёзных рисков. Расхождение позиций демонстрирует, что вопрос регулирования искусственного интеллекта в США пока далёк от единого подхода — законодательная и исполнительная ветви власти оценивают риски технологии совершенно по-разному.
Мнение ИИ
С точки зрения машинного анализа данных, инициатива Сандерса и Касара повторяет судьбу более раннего эксперимента — калифорнийского законопроекта SB 1047, который предполагал контроль над крупными моделями ИИ и который Гэвин Ньюсом (Gavin Newsom) в итоге отклонил, сославшись на то, что фокус на размере моделей игнорирует риски более мелких систем. Историческая параллель показывает: жесткость формулировок федерального закона о суперинтеллекте не гарантирует его прохождения через лоббистское сито индустрии, которая уже продемонстрировала способность блокировать даже умеренные инициативы. Технический аспект остается за скобками обеих новостей: определение «суперинтеллекта» через сравнение с «широким спектром когнитивных задач» размыто настолько, что правоприменение рискует упереться в бесконечные экспертизы о том, где именно проходит граница между продвинутой моделью и запрещенной системой.
Вопрос для размышления: способна ли формулировка закона опередить скорость развития технологии, которую она пытается остановить, или регулирование традиционно догоняет уже свершившийся факт?