Роботы-убийцы, вооруженные искусственным интеллектом

Суть законов робототехники — в запрете роботам причинять вред людям: действием, бездействием, выполнением приказов или заботой о поддержании собственной сохранности. Фантасты любили эту тему и написали множество художественных произведений, исследуя самые разные ее стороны. В определенном смысле им было легко. Пока умных машин не существовало, предсказывать их светлое будущее ничто не мешало.

Дрон ZALA. Vitaly V.Kuzmin CC BY-SA 4.0

Убийственная автоматика

Одно из самых фантастических допущений многих мечтателей двадцатого века — вера в растущую гуманность человечества. Исследователи законов робототехники предполагали, что с развитием прогресса будет расти и трепетное отношение к ценности жизни. Считалось, что к тому времени, когда возникнут роботы, общество будет гораздо более гуманно, а вред человеку, даже потенциальный, станет предметом особой тревоги инженеров, глав корпораций и правительств. Будущее наступило, но ничего подобного не произошло.

Самые совершенные автоматические системы создают для войны, то есть для убийства людей. Роботов учат убивать быстрее, точнее и результативнее. Государства выделяют гигантские средства на создание машин-убийц. Некоторые автоматические летальные боевые установки разработаны и приняты на вооружение уже достаточно давно. Например, системы автоматического огня Samsung SGR-A1 и Super aEgis II, установленные Южной Кореей на границе демилитаризованной зоны с Северной Кореей; или Sentry Tech на базе системы дистанционного огня Samson от Rafael, используемые Израилем на границе с сектором Газа.

Проходят годы, техника развивается, и к стационарным самоуправляемым системам добавились подвижные роботы-убийцы. Сегодня существуют варианты автономных боевых систем для использования на земле, в воздухе, на воде и под водой.

Турецкие самолеты-беспилотники TB2 используются в реальных боевых действиях, а государственная компания этой страны, STM, создает еще более совершенные интеллектуальные машины-убийцы. Еще в 2018 году китайские боевые летающие дроны имели международный коммерческий успех и были экспортированы в 13 стран. Морской охотник (Sea Hunter) от DARPA — автономное судно, созданное в США, путешествует без экипажа, учится определять цели (вражеские подводные лодки) и, видимо, скоро будет готово уничтожать их. Российский подводный военный беспилотник проходит испытания — он оснащен атомным источником энергии и будет нести ядерное оружие. Известны такие наземные боевые дроны Израиля, как RoBattle и AvantGuard. Секретный низкоорбитальный космический аппарат США по имени X-37B, информация о котором иногда появляется в прессе, судя по всему, тоже является боевым дроном.

Отправить роботов в бан

Говорить о том, что общество без возражений воспринимает постоянно растущее число боевых автономных устройств в самых разных странах, было бы несправедливо. В ООН с 2013 года ведется обсуждение этого вопроса и не прекращаются попытки запретить роботов-убийц. С 2016 года темой регулирования использования боевых роботов занимается отдельная группа. Однако единого мнения пока не выработано. В настоящее время согласие достигнуто в запрещении антропоморфных роботов (нельзя создавать машины-убийцы, похожие на людей). Контроль за применением автономных боевых систем ограничен только тем, что за их действия должны нести ответственность люди.

Достаточно широко известна кампания Stopkillerrobots: многие организации, известные люди, ученые, разработчики присоединились к требованию запрета роботов-убийц и взяли на себя обязательства не участвовать в их создании и производстве. Среди популярных медийных персон, выступивших в поддержку, замечены, например, Демис Хассабис и Илон Маск.

Laputa Guardian Robot at the Studio Ghibli Museum in Mitaka, Japan. Peter Lee (CC BY-NC 2.0)

Полному запрету умных боевых машин препятствует неопределенность в формулировках и неоднозначность всей сферы интеллектуальных боевых систем.

Запрещено запрещать

Какая степень автономности может считаться критической и требующей регулирования?

• Способность машины выделять цели и наводить на них прицел?
• Принятие человеком решения стрелять после того, как машина определила врагов и сообщила о готовности их уничтожить?
• Полная самостоятельность боевого робота, когда он передвигается по полю боя, находит жертв и расстреливает их без участия человека?

Какое из действий оператора можно считать управлением боевым беспилотным дроном?

• Нажатие виртуальной кнопки «Пуск» операционной системы робота?
• Перевод машины в боевой режим?
• Разрешение на стрельбу?
• Программирование маршрута движения робота и уточнение характеристик целей?

Нельзя обойти вниманием и такую сторону: как показывает история, любые запреты и ограничения будут без колебаний нарушены всеми сторонами договора, когда у одной из них возникнет преимущество или создастся видимость превосходства. Так работает гонка вооружений, так возникают спрятанные от общественности разделы военных бюджетов, так международное сообщество закрывает глаза на действия нарушителей договоров, когда реальных рычагов влияния на них нет.

Применение роботов-убийц сулит много выгод: при относительно небольших вложениях эффективность этого вида вооружений очень высока; преимущества по сравнению с использованием солдат тоже очевидны: роботы не спят, не устают, лучше видят и слышат, быстрее передвигаются, им не нужно платить и обеспечивать комфортные условия; разработки в области умных машин — это драйвер роста смежных высокотехнологичных областей промышленности. Иначе говоря, у боевых дронов слишком много плюсов, чтобы от них отказываться.

В этом плане показательна позиция Китая. Большинство стран с развитой промышленностью не присоединились к требованию запрета роботов-убийц, ссылаясь на оговорки, приведенные выше, однако китайские власти согласны с запрещением использования умных боевых машин, но не считают нужным останавливать их разработку и производство.

Варианты будущего

Неужели эскалация гонки вооружений в области автономных дронов неизбежна и в будущем умные машины будут беспрепятственно уничтожать людей, полностью захватив поля сражений и став внушительной силой в спорах и конфликтах?

На самом деле вариантов развития событий много, на любой вкус.

• Реалистичный

Никакие запреты ООН и общественные движения не смогут помешать развитию беспилотных интеллектуальных боевых машин — история почти не знает случаев, когда государства были готовы поступиться возможностью обрести преимущество в военной сфере. Роботы-убийцы будут развиваться, системы искусственного интеллекта сделают их могущество неоспоримым, а проигрывать на полях сражений станут армии, в которых исследованиям и высокотехнологичному производству уделялось недостаточное внимание.

• Пессимистичный

В погоне за совершенствованием своих боевых роботов разработчики интеллектуальных вооружений будут все теснее интегрировать их с существующими информационными системами, а правительства не смогут удержаться от соблазна использования умных машин в качестве сил поддержания правопорядка. В итоге боевые дроны, встроенные в системы умных городов, построят образцовое общество потребления с идеальным порядком во всех социальных сферах. Корпорации, владеющие системами искусственного интеллекта, станут новыми государствами.

• Апокалиптичный

Могучие боевые роботы выйдут из-под контроля, уничтожат своих создателей, разрушат инфраструктуру государств, уничтожив значительную часть граждан. А когда батареи одних роботов-убийц разрядятся и атомные реакторы других взорвутся из-за сбоев, приумножив количество жертв и разрушений, человеческая цивилизация встретит новый этап своего развития — второе Средневековье.

• Саркастический

На полях сражений не останется людей — войны будут вести только роботы между собой и исключительно в пустынных незаселенных областях планеты. Военные, наконец, наиграются в войну, но уже без человеческих жертв. Наблюдая за боями через мониторы штабов, командиры будут направлять ударные силы резерва во фланг неприятеля или приказывать отступать при помощи кликов мышью по иконкам приложения Instawar. Самые захватывающие войны будут транслироваться во Всемирной сети, а генералы-победители станут новыми поп-звездами.

Изображение: Pressenza