Правозащитники против боевых роботов

Фото: Коллаж PublicPost Текст: Роман Фишман Обстоятельный доклад экспертов Human Rights Watch (HRW) озаглавлен не хуже фантастического романа: "Теряя человечность. Дело против роботов-убийц". В нем авторы обстоятельно анализируют появление и эволюцию военных роботов — и призывают отказаться от них вовсе. Они различают три степени автономности таких систем: у первых выбор цели и решение открыть огонь принимает оператор, у вторых человек лишь контролирует процесс, у третьих все происходит полностью автоматически. Движение от первого к последнему варианту кажется крайне опасным: "Оставляя роботам право решать, кому жить, а кому умереть, мы позволяем им заходить слишком далеко", — резюмирует один из руководителей HRW Стивен Гус. Будущее сегодня Такой вариант будущего нам хорошо знаком: "Скайнет", колоссальный военный компьютер, обретает независимость от человека — и губит все человечество — дело известное и фантастическое. Однако некоторые признаки такой фантастики можно увидеть и сегодня. Американские военные в Афганистане и Ираке используют тысячи беспилотных самолетов, наземных роботов для разведки, разминирования и патрулирования. Боевая платформа Swords стала первой, получившей легкий пулемет, а робот Maars оснащен уже среднекалиберным пулеметом. Боевая платформа Swords. Фото: defensereview.com Боевая платформа Swords. Фото: eastwings.blogspot.ru Этот процесс не обходится без инцидентов. Несколько лет назад на армейских учениях в ЮАР швейцарско-немецкое противовоздушное орудие Oerlikon GDF-005, работая в автоматическом режиме, "слетело с катушек" и принялось рассыпать снаряды направо и налево. Девять убитых, 14 ранены, и остановить его не удалось, пока робот полностью не опустошил свои магазины. Oerlikon GDF-005. Фото: photobucket.com Однако отдельно взятая пушка — еще полбеды. Настоящую опасность могут представлять более серьезные боевые системы, такие, как американский зенитный комплекс MK 15 Phalanx. Он самостоятельно идентифицирует цели и может открывать по ним огонь. И пусть внешне на Терминатора он совсем не похож, по мнению экспертов HRW, до полной автономности таким роботам остался один шаг. Израиль впереди планеты всей Еще более серьезный пример представляет собой израильская национальная ПРО "Железный купол", так хорошо показавшая себя в недавнем конфликте с палестинцами. Используя радар, комплекс моментально фиксирует ракетные запуски на площади 150 кв. км, тут же распознает цель, рассчитывает ее траекторию и выпускает на перехват сверхзвуковую ракету. По данным израильского министерства обороны, с начала противостояния до 20 ноября по территории страны из сектора Газа было выпущено более тысячи ракет, из которых около 400 было перехвачено. Поражает гибкость системы: вплоть до 17 ноября дальность ее действия не превышала 15 км, однако быстро проведенный апгрейд программного обеспечения увеличил ее до 75 км. В итоге, помимо сотен не самых современных неуправляемых ракет "Кассам", была нейтрализована и одна действительно неприятная "Фаджр-5" иранского производства, двигавшаяся прямиком на Тель-Авив. Каждый выстрел противоракетой обходится в 40 000 долларов, так что "Железный купол" действует умно и экономно. Система автоматически рассчитывает траекторию цели и просто игнорирует те, что летят в направлениях, не представляющих опасности. Реальная результативность израильской ПРО, по оценкам экспертов, достигает 87-90%. Эта цифра для систем ПРО других стран пока недостижима, так что интерес к "Железному куполу" уже обозначили США и Южная Корея. Между тем израильская компания Rafael, создавшая систему, не спешит раскрывать секрет своего успеха — скорее всего, он кроется в программной и электронной начинке противоракетного комплекса. "Хотя мы точно знаем, что команда на перехват выдается оператором, процесс не полностью автоматический", — заявляет британский военный аналитик Бен Гудлад (Ben Goodlad). Так будет не всегда, и вряд ли в том можно винить разработчиков из Rafael. Запасы "Хезболлы" в южном Ливане оцениваются минимум в 60 000 ракет, способных нанести весьма и весьма серьезный удар. Если случится конфликт, лучше будет положиться на быстродействие электроники, а значит — на максимальную автоматизацию работы системы. Такое развитие событий выглядит практически неизбежным, и вряд ли воззвания каких угодно экспертов способны его остановить. Роботы против людей В конце концов, опасность была озвучена довольно давно, а три года назад такое предупреждение уже звучало из уст ученых и инженеров Исследовательского центра ВМФ США. "Считается, что роботы делают только то, что заложено в их программе. Это мнение давно устарело, — писали они. — Сегодня, когда программный код достигает многих миллионов строк, написанных большими командами, ни один из авторов не представляет всю программу полностью и целиком". Так что никто не может со стопроцентной вероятностью предсказать, как поведет себя управляемый такой программой робот в реальных условиях. Ведь тот же "Железный купол" перехватывает не только ракеты, но и самолеты. И если робот будет принимать решения полностью самостоятельно, моментально и автоматически, можно ли быть уверенным, что он по какой-нибудь случайной причине не отреагирует на гражданский самолет? Все произойдет в считанные секунды, и единственная надежда пассажиров будет на собственные системы безопасности самолета. Тоже роботизированные.