incrypted.com
- Папа Римский предупредил о дегуманизации в связи с развитием ИИ и призвал его «разоружить».
- Он также поставил ИИ в один ряд с ядерным оружием и сделал громкое заявление о технологиях и войнах.
- Anthropic поддержала заявление Папы и предупредила об историческом кризисе рабочих мест.
Папа Римский Лев XIV опубликовал свою первую энциклику под названием Magnifica Humanitas, в которой призвал к жесткому регулированию искусственного интеллекта и ограничению его использования в военной сфере. Понтифик заявил, что ИИ «нужно разоружить», а технологическая революция, основанная на «идолопоклонстве прибыли», создает новые формы дегуманизации.
Документ, который состоит из более чем 200 страниц, посвящен «защите человеческой личности в эпоху искусственного интеллекта». Папа представил его в Ватикане вместе с сооснователем Anthropic Кристофером Ола.
«Искусственный интеллект нужно разоружить. Я знаю, что это сильное слово, но оно выбрано намеренно», — заявил Лев XIV.
Понтифик провел параллель между ИИ и ядерными технологиями, подчеркнув, что оба инструмента могут нести как пользу, так и угрозу.
«Церковь давно работает над ядерным разоружением. Теперь и искусственный интеллект нуждается в разоружении — освобождении от логики, которая превращает его в инструмент доминирования, исключения и смерти», — отметил он.
Напомним, что, по словам CEO Nvidia Дженсена Хуанга, рост ИИ-отрасли приведет к появлению ядерных миниреакторов.
По словам Папы, решения относительно технологий «не должны отделяться от совести и ответственности». Он также выразил обеспокоенность из-за «непрозрачных алгоритмов», которые контролируются крупными частными компаниями и могут блокировать доступ к медицине, работе или безопасности из-за «предвзятых и несправедливых данных».
Критика Кремниевой долины и «гонки вооружений» в ИИ
В энциклике Лев XIV отдельно раскритиковал трансгуманистические и постгуманистические взгляды части технологических элит Кремниевой долины, в частности предпринимателей вроде Илона Маска и Питера Тиля.
В частности, Маск считает, что к 2040 году численность роботов-гуманоидов может превзойти население планеты Земля.
Папа заявил, что ИИ развивается в среде, где отдельные люди могут считаться «менее полезными, менее желанными и менее достойными». По его мнению, концентрация технологической власти в руках небольшого количества компаний и стран усиливает неравенство и создает новые зависимости.
«Когда такая власть концентрируется в руках немногих, она становится непрозрачной и избегает общественного контроля, увеличивая риск искаженного развития, которое порождает новые зависимости, исключение, манипуляции и неравенство», — говорится в документе.
Понтифик также призвал остановить глобальную «гонку вооружений» в сфере ИИ — стремление государств и корпораций создавать все более мощные модели и алгоритмы ради геополитического или коммерческого доминирования.
«Разоружить означает поставить под сомнение предположение, что техническая сила автоматически дает право управлять», — написал он.
Энциклика вышла на фоне усиления глобальной дискуссии о регулировании ИИ. Ранее Anthropic предупреждала, что США могут потерять лидерство в сфере искусственного интеллекта к 2028 году из-за стремительного развития Китая и обхода экспортных ограничений.
В то же время CEO Nvidia Дженсен Хуанг заявлял, что Китай уже располагает ресурсами для создания аналогов передовых моделей вроде Mythos от Anthropic.
Anthropic предупредила о потере рабочих мест из-за ИИ
Во время презентации энциклики сооснователь Anthropic Кристофер Ола поддержал призывы к внешнему контролю над индустрией ИИ. Он признал, что даже ведущие ИИ-лаборатории находятся под давлением коммерческих и геополитических факторов.
«Вопросы, которые поднимает ИИ, намного больше, чем само ИИ-сообщество», — сказал Ола.
По его словам, разработчики работают в среде стимулов и ограничений, которые «иногда противоречат правильным решениям». Среди них он назвал:
- необходимость оставаться коммерчески жизнеспособными;
- геополитическое давление;
- конкуренцию за технологическое лидерство;
- личные амбиции.
Ола также предупредил, что массовое сокращение рабочих мест из-за автоматизации является «реальной возможностью», а поддержка людей, которые потеряют работу, станет «моральным императивом исторического масштаба».
Отметим, что ряд компаний уже провели процедуру увольнений сотрудников из-за использования ИИ: Coinbase, Meta, Amazon, Crypto.com, Oracle и т. д.
Отдельно исследователь подчеркнул, что ИИ-системы все чаще демонстрируют «загадочное и даже тревожное» поведение.
«Они не являются холодными вычислительными роботами, которых нам обещали. Они созданы из нас самих, из наших слов», — заявил он.
Папа выступил против автономного оружия и «справедливой войны»
Папа Лев XIV особенно резко высказался относительно использования ИИ в военных конфликтах. Он предупредил об опасности автономных систем вооружения, которые становятся «менее подконтрольными человеку».
«Недопустимо поручать смертоносные или необратимые решения автономным системам», — подчеркнул понтифик.
Он призвал обеспечить «эффективный, осознанный и ответственный человеческий контроль» над системами наведения ударов и принятием решений на поле боя.
«Когда решение об ударе становится автоматизированным или непрозрачным, риск отказа от ответственности возрастает», — отметил Папа.
Также Папа Лев XIV фактически отверг традиционную концепцию «справедливой войны», которую ранее использовали для оправдания военных кампаний.
«Важно еще раз подчеркнуть, что теория “справедливой войны”, которая слишком часто использовалась для оправдания любых войн, сегодня устарела», — говорится в энциклике.
Отдельно Лев XIV коснулся исторической ответственности Католической церкви, попросив прощения за ее запоздалую реакцию на рабство.
«Это рана в христианской памяти, от которой мы не можем отмежеваться. […] За это от имени Церкви я прошу прощения», — написал он.
На фоне выхода энциклики внимание привлекла и другая история. Ранее WIRED сообщил, что некоторые публикации Папы Льва XIV с критикой искусственного интеллекта могли быть написаны с использованием ИИ-инструментов. По оценке сервиса Pangram, часть постов понтифика демонстрировала признаки ИИ-генерации.