Восстание машин

Стоит ли доверять роботам войну

Лев Шевченко

На Всемирном экономическом форуме в Давосе прошла дискуссия об использовании роботов на войне. Перед разработчиками военных роботов стоят серьезные моральные вопросы, главный из которых — можно ли давать роботу право самому нажимать на курок?

До Айзека Азимова, сформулировавшего в 1940-е годы три закона робототехники, роботы в фантастике были кровожадными и вели себя как обыкновенные люди – стреляли, убивали и плели интриги. И лишь Айзек оформил мысль о том, что робот – инструмент. А инструмент должен исправно служить и подчиняться человеку.

Три закона робототехники

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

С развитием технологий искусственного интеллекта роботы могут стать уже субъектом трех законов Азимова (или их современного аналога). Это больше не бездумные железки на сборочном конвейере автомобилей, а сложнейшие устройства, от которых зависит жизнь и безопасность человека.

Могут ли машины убивать?

Сейчас автономные боевые роботы разрабатываются в 40 государствах, и среди них только в США действует законодательный запрет на использование подобных роботов до 2022 года. Об этом рассказал на МЭФ в Давосе глава британского производителя оружия BAE Systems Роджер Карр.

Концепция боевых роботов изменяется быстрее, чем юристы и дипломаты могут понять его суть. Законодательное регулирование боевых роботов обсуждается с 2014 года, однако ни одно значительное решение до сих пор не принято. По словам представителя ООН по вопросам разоружения Анджелы Кейн, отсутствует даже общепринятое понимание того, что стоит называть боевым роботом или автономным оружием. А ведь уже через несколько лет появятся устройства, способные выполнить приказ по таргетированному уничтожению людей. «Это могут быть все мужчины возрастом до 40 лет в одном городе», — говорит профессор компьютерных наук Калифорнийского университета Стюарт Рассел. Подобный приказ является полнейшим нарушением международного гуманитарного права и противоречит концепции ведения войны.

Роботы уже используются в военных действиях, но пока они еще управляются людьми, то есть при каждом нажатии кнопки “Огонь” есть человек, который несет за это ответственность.

Роботы воюют уже сегодня

Наиболее массовый пример — дроны-истребители. Хотя первые беспилотные самолёты появились еще в 1930-х, активное их использование началось только в XXI веке, в американских военных кампаниях на Ближнем Востоке. Сейчас в планах США — создание кольца баз для вооруженных дронов вокруг Индийского океана, Восточной Африки и Аравийского полуострова. Таким образом Штаты будут следить за Аль-Каидой, пиратами в Индийском океане и боевиками ИГ.

Дрон MQ-1 Predator

Новые базы для БПЛА также расположатся в Эфиопии, запланировано расширение баз на Сейшельских островах и в Джибути. Аналогичные беспилотники использует Великобритания в атаках на афганских талибов. Максимальная дальность полёта дрона — более 3600 километров, что и объясняет размещение баз в Африке и на островах — отсюда недалеко до военных действий на Ближнем Востоке.

Американские дроны обстреливают позиции ИГ

В то время как беспилотники обеспечивают длительное наблюдение и быстрые атаки по целям, компактные наземные роботы используются для обезвреживания взрывных устройств. Также существуют роботы-разведчики, способные проводить разведку высокоточной фотосъемкой; роботы, транспортирующие грузы. Большинство наземных роботов используют гусеничный привод.

Робот-разведчик TALON от компании Foster-Miller

Забавный случай произошел с роботами BigDog, предназначенными для переноски снаряжения. Руководство морской пехоты США решило отказаться от проекта, в который было вложено 32 миллиона долларов. Четырехногие роботы оказались слишком шумными для военных операций — звук работы движка, делающего до 9000 оборотов в минуту, может выдать их врагу.

Робот BigDog

В конце 2015 года Boston Dynamics и Foster-Miller переключились на разработку Spot — более легкого и тихого варианта «большой собаки».

Еще одна разработка Boston Dynamics — 145-килограммовый 182-сантиметровый шагающий робот Atlas, способный самостоятельно передвигаться по лесам.

В 2012 году технологическое агентство Минобороны США DARPA объявило о проекте по созданию антропоморфных боевых роботов с удаленным управлением. Правда, о дальнейших успехах проекта под кодовым названием Avatar пока ничего не известно.

Более реалистичный, но гораздо менее изящный проект — комплекс Уран-9, одна из последних разработок российской военной промышленности. В его состав входят два робота-разведчика с огневой поддержкой (пушка и пулемёт), тягач и мобильный пункт управления. Предполагается, что Уран-9 будут использовать для антитеррористических операций и борьбы с ПТУР.

Кто нажмет на курок?

Появление автономных боевых роботов ставит перед обществом множество проблем. Кто будет нести ответственность за анонимные, обезличенные убийства и разрушения? Кого отправить на войну против роботов? Сможет ли машина оценить разницу между военными и гражданскими? Правила войны бывают слишком сложны даже для людей, говорит Стюарт Рассел. Опросы показывают, что люди предпочтут отправить на войну роботов вместо своих сыновей, но при этом сами сразиться с роботом не хотят. Вполне ожидаемый результат.

Сейчас главная проблема боевых роботов в том, что они не понимают, кто свой, а кто — враг, утверждает Роджер Карр. Робот должен иметь четкие критерии различия, а это невероятно сложно, учитывая наличие на поле боевых действий не только военных, но и гражданских. Именно поэтому Международный комитет по контролю над военными роботами не одобряет использование автономных солдат.

В июле 2015 года более тысячи специалистов, связанных с робототехникой, подписали открытое письмо, предупреждающее об опасности, таящейся в автономных боевых роботах. Среди подписавшихся — создатель Tesla Илон Маск, соучредитель Apple Стив Возняк и популяризатор науки Стивен Хокинг. Авторы письма предупреждают, что использование автономных боевых единиц на войне приведет к огромным человеческим жертвам. «Перспектива очевидна — боевой ИИ может стать автоматом Калашникова завтрашнего дня», — говорится в тексте письма.

Специалисты считают, что военную робототехнику стоит развивать в таких направлениях как разминирование, подводная инженерия, трехмерная печать оружия. То есть в той же роли, что и сейчас. Стюарт Рассел утверждает: машина никогда не должна получить право убивать человека.

Люди могут скоро потерять монополию на ведение войны, считает Анджела Кейн. Но какие последствия это повлечет за собой? Станут ли роботы новым оружием массового поражения или же благодаря им люди наконец перестанут гибнуть в войнах? И если воевать между собой будут только роботы, то как будет выглядеть победа над врагом? Это нам еще предстоит узнать.

Иллюстрация: odobenus.deviantart.com

Подпишись на Аппарат
Facebook
Вконтакте
E-mail дайджест
Популярное за неделю