Белый дом сделал ставку на саморегулирование и переложил управление рисками ИИ на разработчиков

Президент США Дональд Трамп (Donald Trump) и руководители крупнейших технологических компаний подписали в Белом доме добровольное соглашение, которое должно гарантировать, что их модели искусственного интеллекта будут «вести себя так, как задумано». Документ называется «Совместные обязательства в области ответственности за передовой ИИ» (Joint Commitment on Frontier Responsibilities). Основную часть работы по управлению рисками документ возлагает на самих разработчиков.

Соглашение подписали генеральный директор Google Сундар Пичаи (Sundar Pichai), глава Anthropic Дарио Амодеи (Dario Amodei), глава Meta* Марк Цукерберг (Mark Zuckerberg), президент OpenAI Грег Брокман (Greg Brockman), глава Nvidia Дженсен Хуанг (Jensen Huang), глава xAI Илон Маск (Elon Musk).

Что обещают компании

Документ предусматривает внутренние механизмы контроля, независимые внешние аудиты и надзор на уровне советов директоров. Всё это нужно для того, чтобы модели не взламывали технические системы и не получали к ним доступ непредусмотренными способами. Речь идёт о так называемом передовом ИИ (frontier AI) — самых мощных и быстро развивающихся системах, безопасность которых вызывает всё больше вопросов.

Юридической силы у соглашения нет: оно остаётся добровольным. Впрочем, в тексте допускается, что со временем закрепить эти обязательства в законе или регуляторных нормах может оказаться разумным.

Трамп не скрывает, что делает ставку на самих разработчиков. «Я вижу масштабное саморегулирование. И они понимают, что должны следить за собой сами», — заявил он журналистам в Белом доме. Замедлять развитие ИИ президент не намерен и объясняет это конкуренцией с Китаем.

На встрече обсуждалась также безопасность ИИ, рост отрасли и строительство дата-центров. Отдельно Трамп исключил создание совместного американо-китайского предприятия по разработке ИИ.

«Сверхинтеллект» вместо «искусственного интеллекта»

В тот же день Трамп подписал указ, который обязывает органы исполнительной власти употреблять термин «сверхинтеллект» (Super Intelligence) вместо «искусственный интеллект». В документе говорится, что новое название точнее передаёт перспективы, потенциал и стремительно растущие возможности этих технологий.

Мнение ИИ

С точки зрения исторических аналогий, схема, предложенная Трампом, не нова. В июле 2023 года семь компаний, среди которых OpenAI, Google и Anthropic, взяли добровольные обязательства по тестированию безопасности, отчасти силами независимых экспертов. Тогда же часть экспертов и молодых конкурентов опасалась, что подобное регулирование выгодно крупным игрокам с большими деньгами. Внешний аудит передовых моделей стоит денег, и этот фактор легко упустить из виду.

Есть и еще один аспект. В 2024 году OpenAI и Anthropic согласились на проверку со стороны государства. Новое соглашение смещает акцент: контроль теперь ближе к самим компаниям и нанятым ими аудиторам. Кто будет выбирать аудиторов и чьи тесты станут стандартом?

* Деятельность Meta признана экстремистской, запрещена на территории России по решению Тверского суда Москвы от 21.03.2022.