DARPA готовит "восстание машин"

Чем дальше развивается военная робототехника, тем скорее шутка о том, что Третья мировая война уже идёт, и это война роботов с мусульманами, перестаёт восприниматься как простое злословие. Вскоре американская армия получит роботизированные артиллерийские установки, способные в автоматическом режиме поражать цели без «отмашки» оператора. Пока речь идёт лишь о вооружении «обитаемых» броневиков. Но только пока.

Компания Mustang Technology Group получила контракт от Пентагона на оснащение 25 высокозащищённых бронированных грузовиков MRAP роботизированными артустановками CROSSHAIRS (Counter Rocket-Propelled Grenade and Shooter System with Highly Accurate Immediate Responses, то есть высокоточная система подавления реактивных гранат и стрелков). Буквально аббревиатура расшифровывается как «перекрестье» — разумеется, перекрестье прицела. В компании с CROSSHAIRS на броневики будет установлена система активной защиты Iron Curtain («Железный занавес»). В дальнейшем такие же системы планируется устанавливать на более широкий спектр военной техники.

«Занавес» — это классическая система активной защиты, аналогичная отечественной «Арене» и израильскому «Железному кулаку». Установленная на броневике система радаров фиксирует летящую к машине противотанковую ракету или выстрел РПГ, после чего боеприпас уничтожается.

Система CROSSHAIRS более оригинальна. Ещё до того, как атакующий боеприпас войдёт в зону действия «Занавеса», его обстреляет роботизированная установка, использующая крупнокалиберный пулемёт или автоматический гранатомёт. «Перекрестьем» поражаются не только боеприпасы. Обнаружив летящую гранату, ПТУР или любой другой «подарок» до крупнокалиберной пули включительно, система вычисляет место их запуска и, как только цель определена, CROSSHAIRS обстреливает не только выпущенный снаряд, но и того, кто его выпустил. При этом речь вовсе не идёт о стрельбе «по площадям».

Роботизированные установки способны обмениваться информацией друг с другом, что позволяет им избегать «дружественного» огня и распределять между собой цели. И, наконец, самое важное: разрешение на ведение огня системе выдаёт оператор, но установку можно перевести и в полностью автоматический режим. Станет ли он основным?

Иными словами, несмотря на довольно рутинный облик инновации, в действительности она совершенно революционна. По сути, на MRAP собираются взгромоздить полноценного боевого робота, да ещё и разрешить ему автономно применять оружие. То, чем нас пугали научные фантасты со времён Чапека и голливудские боевики, становится реальностью.

В последние несколько лет в армиях развитых стран намечается полномасштабный робототехнический бум. Уже к 2014 году в сухопутные войска США поступит 1700 боевых роботов MAARS. На январь 2010 года намечена демонстрация транспортного варианта тяжёлого робота Mule, а в мае будут проведены предварительные просмотры других вариантов, включая боевой.

В каком режиме будут применяться «бездушные» бойцы? Если верить заявлениям военных и разработчиков — в весьма консервативном. По официальной версии, робот самостоятельно обнаружит цель, рассчитает все исходные условия для стрельбы, прицелится и… будет ждать, когда удалённый оператор нажмёт на гашетку.

Не исключено, что разработчики и военные лукавят. Помимо очевидных плюсов (большая ремонтопригодность, отсутствие страха, способность отчасти компенсировать дефицит рекрутов) у боевых роботов есть ряд специфических «бойцовских» опций. Например, механические солдаты могут вести исключительно точный огонь. Во время испытаний 2006 года робот SWORDS («Мечи») надёжно поражал цель размером с монету на расстоянии в 300 метров. Другая важная опция боевых роботов — недостижимая для человека скорость реакции. Объединив эти преимущества роботов с «креативом» человека-оператора, можно получить боевую систему огромной эффективности.

Использование роботов в «официальном» режиме — с отмашкой оператора на ведение огня — в значительной мере нивелирует преимущество механических бойцов в скорости реакции, привязывая её к медлительным нейронам человека. Кроме того, хотя надёжно заглушить помехозащищённый военный канал связи, работающий на расстояние 1?2 км, крайне сложно, временные перебои по тем или иным причинам возникать могут. При использовании режима полного операторского контроля за открытием огня каждый такой сбой будет фактически разоружать робота. Наконец ситуация, когда на каждого механического бойца приходится по оператору, резко ограничивает количество единовременно используемых автоматических систем. Разумеется, можно «повесить» на одного оператора несколько полуавтономных машин. Вот только успеет ли он раздать разрешения на ведение огня нескольким «подопечным» в ситуации боя? При неавтономном применении оружия такая схема чревата резким снижением эффективности.

Ещё в 2006 году Санг Ли Хан, один из разработчиков «Разумного патрульно-охранного робота», предназначенного для армии Южной Кореи, заявил: «Существующие боевые роботы не умеют действовать полностью самостоятельно, ими управляют операторы. Однако наш может самостоятельно обнаруживать подозрительные движущиеся объекты, преследовать их и даже открывать огонь на поражение в том случае, если нарушитель войдёт в запретную зону и не сможет предъявить соответствующих полномочий».

C 2007 года корейцы планировали принять на вооружение стационарные автоматы, способные к самостоятельному применению оружия. Машину оснастили даже системой распознавания речи, которая позволила оценить ответ на стандартные вопросы: «Стой! Кто идёт?», «Назовите пароль!» и т. п. Если приближающийся к запретной зоне объект не сможет ответить ничего вразумительного, робот был способен открыть огонь пластиковыми пулями, а если этого окажется недостаточно, то в этом случае в ход пускался бы пулемёт.

Равным образом американцы, официально исповедуя принципы полного контроля оператора за применением оружия, параллельно ведут разработки, фактически предполагающие отказ от него. Пентагон планирует отойти от схемы взаимодействия «один робот — один оператор», а фирма QinetiQ ведёт разработку программного обеспечения SURC, позволяющего установить взаимодействие одного оператора с несколькими машинами одновременно.

Развитие военной робототехники стало причиной резко оживившейся дискуссии по вопросам робоэтики. Официальный доклад исследовательского центра ВМС США констатирует неизбежность ситуации, когда боевые роботы станут принимать полностью самостоятельные решения. Авторы доклада отмечают невозможность гарантированно предсказать поведение роботов в боевой обстановке: в огромной «массе» их программного обеспечения неизбежно найдутся ошибки. Создаваемые сейчас боевые машины — это не «линейные» автоматы с набором исчерпывающих программ, а «интеллектуальные» системы, способные самообучаться, а самообучение и самопроизвольное поведение практически неотделимы друг от друга.

Может быть, в связи с этим стоило бы вспомнить «законы робототехники», которые придумал великий фантаст Айзек Азимов, предчувствовавший, что прошить в роботы моральный закон когда-нибудь придётся?

Решение, предлагаемое исследователями из Петагона, состоит в разработке «воинских кодексов» для роботов, своего рода системы безусловных рефлексов, блокирующих неконвенциональное поведение. В качестве возможного дополнения рассматривается введение механизма «электронного суицида» в случае возникновения противоречия между кодексом и поведением машины. Первые образцы программ, регулирующих этичное применение оружия, кстати, уже появились — такой пакет представил профессор Рональд Аркин из Georgia Tech.

Впрочем, пока военные и разработчики обсуждают этические концепции, автономистские поползновения робототехников неизменно сталкиваются с паническими настроениями общественности. Корейские разработчики уже были вынуждены дезавуировать свои заявления об автономном применении оружия роботами. Осторожны и американские военные: дело не столько в иррациональном страхе перед «бездушными убийцами», сколько в том, что случаи выхода из под контроля автоматизированных комплексов — отнюдь не редкость. Самый кровавый эксцесс такого рода произошёл в ЮАР, когда сбой в компьютере автоматической зенитной пушки привёл к гибели 9 человек, а 14 было ранено.

Со SWORDS, первым боевым роботом, поступившим на службу в армию США, также связана весьма тёмная история. В 2006 году эти машины успешно прошли испытания и поступили в войска. В 2007 году три SWORDS были развёрнуты в Ираке. Компании-производителю Foster-Miller Пентагон выдал заказ ещё на 80 роботов. Однако затем планы были пересмотрены, а в прессу просочились слухи, что «Мечи» теряют управление и открывают огонь без команды оператора. Пентагону пришлось заявить, что роботы действительно теряли управление и не поддавались командам, но огня не открывали, хотя и было зафиксировано несколько случаев, в которых SWORDS вёл себя «неадекватно»: без всякой команды оператора поворачивал оружие в сторону «своих», передвигался в ненужном направлении и т. д.

Программное обеспечение SWORDS пришлось полностью заменить, а затем были списаны и сами машины. Следующий механический солдат — MAARS — получил основательную систему контроля. Оператор задаёт границы зон, в которых разрешён и запрещён огонь (это правильная предосторожность, но она предполагает возможность автономного применения оружия в других зонах). Кроме того, на роботе есть устройство, при любом положении машины отворачивающее оружие робота от «своих» позиций. Наконец, MAARS оснащён «предохранителем», не позволяющим ему выстрелить в собственный блок дистанционного контроля. Последний пункт особенно примечателен: едва ли его взяли с потолка. Не скрывается ли за этой странной мерой настоящий сценарий мятежа «Мечей»?

Впрочем, вернёмся к CROSSHAIRS. Монтаж «самостоятельных» установок — это очевидная попытка в «пошаговом» режиме внедрить концепцию автономного применения оружия, не шокируя солдат и общественность прямолинейной демонстрацией терминатора-убийцы. Схему функционирования «Перекрестья» выглядит «политкорректным» компромиссом между запросами военных и страхами гражданских: схема, при которой стреляющие цели поражаются без команды оператора, а все прочие — только с его разрешения, пока можно считать относительно приемлемой. Проблема, однако, в том, что ни на CROSSHAIRS, ни на MAARS развитие военных роботов не остановится, прошивать запрет на уничтожение человека в них никто не будет, так что появление SkyNet, в сущности, просто вопрос времени.