Военные ИИ-разработки — не совершенно, но секретно
Строго засекреченные разработки вооружения на основе ИИ уже начинают волновать не только политиков и ученых. Теперь возможная милитаризация самообучающегося ИИ стала вопросом безопасности для всех, включая вполне мирное население. В новости часто просачиваются материалы о последних разработках военных роботов или автономных систем в вооружении стран, но почему-то тут же бум утихает, будто прозвучала новость о новом мобильном приложении.
Маршалл БАРНС, R&D ИИ-систем, в эксклюзивном интервью для Bitnewstoday.ru рассказал, что «угроза исходит не от стран, а от тех, у кого достаточно денег или изобретательности для разработки самодельного ИИ-оружия по дешевке. Тем не менее, Франция, Китай и Индия — это те страны, которые работают над использованием ИИ в системах вооружений. Предпринимаются международные усилия по контролю и регулированию разработки и развертывания автономных военных вооружений».
В 2017 году, согласно ежегодному отчету НАТО, на долю США пришлось 71,7% совокупных оборонных расходов стран, входящих в состав альянса. По сравнению с 2016 годом, общие расходы на оборону европейских стран НАТО и Канады увеличились на 4,8%. При этом в общемировом контексте военные расходы США в 2017 году составили 35%, стоимость — $619 млрд. Саудовская Аравия с расходами $228 млрд заняла 13%, Китай оказался на третьем месте с долей в 4% от мирового ВВП — $69,4 млрд. Расходы России составили $66,3 млрд, или 3,8%, наступая на пятки Китаю.
В новом бюджете США на 2018 год на вложения в оборонную отрасль предусмотрено $674 млрд, из которых $800 млн выделят на подводные беспилотные аппараты. Пентагон заключил контракты с 23 компаниями, которые будут заниматься разработкой и производством дронов. Уже на 2019 финансовый год министерство США запросило на подобные разработки $9,6 млрд, что на 28% больше, чем годом ранее. И пока разработчики ИИ и этики спорят, гуманно ли использование беспилотного оружия, США в открытом доступе к документу The U.S. Army Robotics and Autonomous Systems Strategy заявляют о своих планах. В соответствии с ними, к 2025 году планируется создать пехотное подразделение, с помощью которого будут выполняться разведка и перевозки.
28 августа Пентагон опубликовал roadmap развития военных роботов, где будет особое внимание уделено нейросетевым технологиям. Агентство перспективных оборонных разработок (DARPA) министерства обороны США поставило задачу разработать нейросети, которые будут объяснять принятые решения, чтобы в дальнейшем применить эти технологии в смешанной армии. Беспилотные подводные, надводные, летательные и наземные роботы будут самостоятельными напарниками для людей, обладая аналогичными полномочиями.
Военный бюджет Китая, который по прежнему на втором месте после США, в 2018 тоже вырос по сравнению с предыдущим годом на 8% и составил $175 млрд (1,11 трлн юаней). Поднебесная активно развивает разработку и производство дронов. В начале мая в Китае был установлен мировой рекорд по числу БПЛА, одновременно находившихся в воздухе. А по продаже Китай уже давно обошел Германию и Францию. И хотя китайские дроны Rainbow Five отчаянно напоминают американского Reaper, китайцы разработали и произвели свою аутентичную версию дронов, которые за 2017 год приобрели ряд стран: Ирак, Мьянма, Нигерия, Пакистан, Египет, Казахстан, Узбекистан, Саудовская Аравия и ОАЭ.
В августе 2018 года госкорпорация «Ростех» представила систему радиоэлектронного подавления дронов СЕРП, которая сможет вывести из строя малогабаритные дроны на расстоянии до 20 км в условиях плотной городской застройки, подавляя сигналы GPS и ГЛОНАСС, GSM900 и WiFi. Кроме того, Россия усиленно разрабатывает военную технику «Уран-9». Этот робот оснащен сменными боеприпасами и будет решать именно боевые задачи. Напомним, военный бюджет России в 2018 году составил $46 млрд.
От супердержав старается не отстать Южная Корея: в мае этого года правительство страны анонсировало разработки военизированных роботов, объяснив это сокращением численности населения. Агентству развития обороны (ADD) поручили разработать ИИ-технологии с целью к 2024 создать беспилотные разведывательные машины, которые смогут заменить 500-600 солдат, а впоследствии — разработать автоматическую беспилотную револьверную систему для самоходных гаубиц К-9, которые смогут заменить около 2000 военнослужащих.
Питер СКОТТ, футуролог и автор книг об ИИ, в интервью для Bitnewstoday.ru рассказал о том, что эти разработки очень даже осязаемы: «Мы знаем, что в Корейской демилитаризованной зоне есть автоматические пулеметные точки DoDAAM Super Aegis II и Samsung Techwin SGR-A1, которые могут обнаружить вторжение человека и самостоятельно открыть огонь. Samsung Techwin SGR-A1 может даже попросить злоумышленников ввести пароль и распознать жесты капитуляции».
Утвержденный в августе этого года бюджет Южной Кореи говорит о серьезном намерении правительства вложиться в оборонную отрасль: в 2019 году на вооружение собираются потратить более $424 млрд (470,5 трлн вон).
Япония также в этом году вкладывает рекордные для себя $45,7 млрд на оборонные цели: в основном, это будет покупка новых вооружений на фоне роста напряженности на Корейском полуострове. Совместно с Вашингтоном Токио разрабатывает новые ракеты-перехватчики SM-3 Block 2, на которые и будет отведена львиная доля бюджета. Япония объединила усилия с развивающейся в сфере технологий Индией в создании военных наземных беспилотных машин и военных роботов в противовес Китаю. Кроме того, правительство Японии поставило задачу перед Mitsubishi Heavy Industries к 2022 году построить 8 многоцелевых эсминцев нового поколения водоизмещением около 3900 тонн. Эти расходы на флот будут заложены в бюджет на 2019 год. Главным достоинством новых эсминцев станет то, что они будут оснащены автономными беспилотными подводными аппаратами для борьбы с морскими минами с целью защиты прилегающих к Токио островов.
Сейед СААДИ, разработчик робототехники и R&D ИИ-систем NASA считает, что большинство современной робототехники в вооружении можно отнести к категории традиционных ИИ-систем, а основные разработки направлены на обнаружение целей и разведывание обстановки. Эксперт поделился с Bitnewstoday.ru мнением, что революция военной промышленности уже запущена, и мы находимся на переломном этапе: «Я считаю, что в будущих войнах на поле боя будут не люди, а, скорее, интеллектуальные роботы, которые работают с людьми и защищают их от противников. Я подозреваю, что большинство вооруженных технологий с ИИ, которые сегодня разрабатываются, будут готовы к производству в ближайшие 5-10 лет».
Самым важным, по мнению эксперта к этому времени будет вопрос, стоит ли оснащать роботов оружием и давать ли им возможность принимать решение о жизни и смерти людей. Сам мистер CААДИ, работая в NASA JPL, участвовал в разработке всплывающего плоского складного робота-исследователя космоса под названием PUFFER, у которого исключительно мирное назначение. PUFFER планируют запускать для космических миссий с родительским роботом (например, марсоходом) для изучения местности. «Я считаю, что эта технология может быть использована в поисково-спасательных операциях на Земле при стихийных бедствиях, а также при других массовых авариях или труднодоступных происшествиях. Гражданские применения PUFFERs не кончаются на полетах поиска и спасения, в дальнейшем его можно будет использовать для воспитательных и развлекательных целей».
При этом ВМФ США использует технологии NASA, разработанные для марсоходов, совсем не в мирных целях. Одна из них задействована для разработки программного обеспечения системы CARACaS (Control Architecture for Robotic Agent Command and Sensing), которую можно установить на малых судах, превращая их в автономный беспилотный транспорт. Так, военные с помощью переносного устройства с CARACaS системой смогут быстро превратить летательные аппараты, бронемашины и катера в единую автоматизированную боевую «стаю».
Что касается вопроса автономности военной техники, здесь лидеры в разработке автономного оружия расходятся во мнении: так, например, США более активно выступают за возможности полной свободы робототехники на поле битвы в плане решения вопросов активации атаки и выбора цели, в то время как Россия оставляет последние решения за оператором.
По мнению мистера СААДИ, развитие сильного ИИ сейчас больше относится к зачаточной стадии: «Я считаю, что мы все еще находимся на расстоянии десятилетий от сильного AI, который может быть сопоставим с интеллектом человека, думаю, к концу этого века у нас будет эта технология». Эксперт считает, что разработчики киберсистем с применением ИИ, тем не менее, еще не достигли желаемого: «Обучаемые технологии в системе кибербезопасности смогут обнаруживать любое вторжение, прежде чем атака станет эффективной. Я считаю, что в ближайшем будущем ИИ будет, в основном, поддерживать безопасность наших систем, но в долгосрочной перспективе нам придется быть более сознательными в отношении творческих подходов, которые черные боты могут принять в хакерских технологиях».
Все эти разработки явно говорят о том, что вопросы регулирования автономного вооружения стоят более чем остро. А правомочность принятия самообучаемой машиной самостоятельного решения о жизни и смерти, а об осуществлении атаки, вышло за пределы вопросов этики инженеров-исследователей. В следующей статье мы рассмотрим попытки урегулирования автономных систем вооружения с помощью международного права, а также мнение исследователей и разработчиков о возможностях развитии общества с полностью автономным ИИ.