Дронуться можно — Московский технологический институт
 

Дронуться можно

Свой июньский выпуск редакция журнала «Тайм» посвятила наступившей «эре дронов». «Мир больше никогда не будет прежним», — предупреждает журнал. До этого о переменах заявили 116 ведущих ученых, инженеров и специалистов в области создания искусственного интеллекта, которые летом прошлого года подписали открытое письмо с требованием к ООН запретить использование дронов в военных целях.

Сейчас роботы-убийцы в виде ударных беспилотных аппаратов уже вовсю используются в боевых действиях — пока, к счастью, только локально. Зато массовое их применение грозит кардинально изменить не только картину мира, но и человеческую психику.

6 июня в Сирии правительственные войска на севере провинции Латакия сбили беспилотный летательный аппарат (БПЛА), запущенный экстремистами. Ранее дрон джихадистов был перехвачен близ российской авиабазы Хмеймим. Одновременно в небо для выявления позиций боевиков стартовали военные БПЛА Воздушно-космических сил РФ.

Ещё лет 10 назад такое могло показаться фантастикой — военные беспилотники оставались дорогой удивительной игрушкой, доступной лишь самым передовым армиям мира. «Я не собираюсь тратить ракету за миллион долларов, чтобы подорвать террориста на верблюде ценой в десятку», — заявил Джордж Буш-младший, когда его спросили, почему в Афганистане погибает столько солдат. Сегодня в силу прогресса дроны стали настолько доступными, что их буквально из палок собирают даже террористы. В связи с чем военные аналитики предупреждают: не за горами будущее, где участие в войнах роботы будут принимать наравне с людьми, а то и вообще в одиночку. Для мира это станет революцией вроде изобретения колеса или парового двигателя. Вместе с миром изменится и само человечество с устоявшейся за века моралью.

Террористическая угроза

Именно на это и обращали внимание авторы послания к ООН, в число которых вошли Илон Маск и Стивен Хокинг — насколько этично делегировать машине право на убийство людей? Взять те же боевые дроны, которые армия США активно использует для ударов по исламским террористам. Как отмечало Бюро журналистов-расследователей, только с 2009 по 2015 год беспилотники убили в Ираке и Афганистане 2464 человека. При этом никто не поручится, что все они были террористами. Американский ударный БПЛА MQ-1 Predator несет на борту мощные ракеты AGM-114 Hellfire, отчего, по некоторым оценкам, на каждый десяток уничтоженных боевиков может приходиться до 700 мирных жителей.

При этом важен факт: БПЛА с земли контролируют операторы, однако юридически они оказываются вроде как ни при чем. Именно так, согласно Гаагским конвенциям 1899 и 1907 годов и Женевской конвенции о защите жертв войны от 1949 года, военные, не принимающие непосредственного участия в сражениях с оружием в руках, считаются некомбатантами. А потому они, согласно все тем же международным договорам, не могут быть объектами нападения. Даже в плен их брать нельзя! В результате получается формальный парадокс. Понятно, что операторы дронов, по сути, применяют военную силу, однако в их отношении насилие применять запрещено. Учесть стоит также и то, что использование дронов никак не регулируется Конвенцией о запрещении или ограничении применения конкретных видов обычного оружия. В результате, предупреждают эксперты, возникает реальная опасность подрыва системы международного права.

На это право, впрочем, давно привыкли плевать все, у кого есть такая возможность. Куда важнее собственные интересы. Потому футурологи рисуют картину. Допустим, некая страна, имеющая на вооружении армию беспилотников, решит начать «антитеррористическую» операцию — кажется, так обычно называют теперь войны в своих интересах. БПЛА для этого подойдут идеально: потери среди солдат будут сведены к минимуму, так что общественность не станет устраивать антивоенные митинги. А сколько погибнет при ударах ракетами с воздуха туземцев — так кого это интересует? Основной беспилотник армии США MQ-9 Reaper может больше суток висеть в небе и помимо Hellfir несет на борту авиабомбы, а на подходе уже новый проект — рой из десятков малоразмерных дронов, противостоять которому смогут только такие же высокотехнологичные армии. «Террористы» же до центра управления дронами дотянуться не смогут, а даже если это и получится — тут же можно будет поднять шум о коварной атаке на некомбатантов.

«Возможность использования эффективных беспилотных платформ в ходе боевых действий снижает риски потерь личного состава и, таким образом, понижает психологический барьер на вступление в конфликт. В результате широкое распространение военных дронов может спровоцировать большее число войн между государствами, а их неизбирательное и чрезмерное использование в ходе боевых действий ведет к большему сопутствующему ущербу. И в качестве побочного эффекта подобного ущерба можно получить ожесточение населения и более мощную вербовку людей для террористической деятельности», — говорится в прогнозе, составленном аналитическим агентством Stratfor. Мысль можно продолжить дальше: не имея возможности дотянуться до операторов дронов, террористы будут взрывать мирных жителей, включая жен и детей разработчиков боевых роботов. Так что, наращивая потенциал в этой сфере, США рискуют получить обратную реакцию.

Другой момент: сидя за мониторами и нанося удары, операторы дронов будто играют в компьютерную игру. Как и геймеры, они ничем не рискуют. Максимум — потерять свою «птичку». Можно ли назвать такие действия войной? «Скорее это убийство», — полагают авторы обращения к ООН, призывая запретить боевых роботов.

Восстание машин

Вряд ли это произойдет — ожидать, что кто-то в одностороннем порядке откажется от мощного оружия, довольно наивно. Хотя решили ведь отказаться от химического оружия? Произошло это, правда, после того, как боевые газы стали распространёнными и все поняли, что их применение станет шагом к взаимному уничтожению. Потому не исключено, что, когда рой дронов совершит террористическую атаку на Вашингтон, вопрос о запрете роботов будет поднят.

Ну а пока экспертам остается только выдавать тревожные предупреждения. «Боевые роботы изменят представление о войне, они превратят боевые действия против не оснащенного ими противника в избиение младенцев. Управляемые боеприпасы по себестоимости приближаются к цене обычного снаряда. И это означает, что очень скоро умные вооружения станут массовым явлением в армиях мира», — полагает кандидат политических наук Вадим Козюлин.

Нельзя сказать, что эта угроза остается незамеченной на международном уровне. Еще в 2016 году ООН провела в Женеве форум с участием представителей десятков стран по вопросам создания смертоносных автономных систем вооружения. И хотя в ООН призвали ввести строгие правила регулирования беспилотных оборонных систем, в организации признали: проконтролировать их выполнение всеми сторонами вряд ли возможно. Может быть, в этой ситуации крупным игрокам международной политики, пока что отстающих от США по количеству боевых дронов, следовало бы активно выступить с инициативой об их запрете? Вероятно, такую меру следовало бы рассмотреть и российской дипломатии. Кстати, такое начинание помогло бы серьезно поправить имидж страны, как это было в 80-е, когда предложения СССР по сокращению ядерного арсенала сделали США в глазах европейцев откровенным милитаристом.

Тем временем эксперты говорят еще об одной опасности. Обычные БПЛА и прочие роботы, управляемые оператором, становятся нынче вчерашним днем. Сейчас военные инженеры работают над созданием боевых дронов, умеющих действовать самостоятельно на основе искусственного интеллекта и нейросетей. Таким образом, остается всего шаг до сюжета «Терминатора» о восстании машин, однажды осознавших, что убивать они могут и без участия человека.

«Расскажу реальный кейс, — делился своим мнением директор департамента взаимодействия технологий и общества Московского технологического института Пётр Левич. — В Пакистане американские спецслужбы следили за террористами через паттерны телефонных разговоров. Обученная нейронная сеть вычленяла из этой big data паттерны террористической активности, а потом вылетали дроны и уничтожали эти цели. То есть дроны сами не решали, кого уничтожить, им давал команду человек, но тот, в свою очередь, ориентировался на указания нейронной сети. А с нейронными сетями странная ситуация: невозможно предсказать, как они будут работать, можно только постфактум посмотреть логи их работы. Человек не может проверить результаты, потому что не в состоянии проанализировать объем big data. То есть люди фактически делегировали право решать, убивать или нет, программе, а дроны заканчивали дело».

Так что, видимо, недаром 3 тыс. сотрудников Google в апреле написали открытое письмо руководству компании, в котором требовали прекратить сотрудничество с Пентагоном в рамках проекта Maven. Данный проект предполагает использование нейросетей для анализа видеороликов с камер ударных БПЛА, на основании чего дрон сможет принимать решение о нанесении удара. Видимо, журналисты «Тайм» были правы — мир никогда уже не будет прежним.

Что бы ни говорили полководцы, однако лучшими солдатами испокон веков считались именно бесчувственные машины для убийства. «Я освобождаю вас от химеры, именуемой совестью!» — вопил Гитлер, посылая воспитанных с младых лет в традициях фашизма солдат убивать, жечь и насиловать советских граждан. И все равно среди них находились те, кто отказывался выполнять приказ: слишком тяжело для психики было видеть, как мучаются расстрелянные дети.

О случаях, когда солдаты буквально сходили с ума от вида смерти, писали многие. В немецких источниках встречаются упоминания о том, что пулеметчики впадали в истерику, выкашивая идущих на них в атаку советских солдат. Аналогичный пример приводит в книге, посвященной высадке американцев во Франции, Ральф Ингерсолл. «Один солдат только накануне прибыл на фронт. Его пулемет был установлен на гребне холма. Все остальные солдаты его взвода были убиты. В течение всей ночи, один, он косил немцев и большую часть времени так плакал от ярости и страха, что почти не видел прицела. Когда утром подошло другое подразделение, пространство впереди было буквально усеяно сотнями убитых и раненых немцев, и он все еще плакал. Он не в состоянии был вынести стоны подстреленных им за ночь».

В течение многих лет было принято считать, что это всего лишь нервный срыв, свойственный чересчур чувствительным натурам. Уже по окончании Второй мировой войны Пентагон привлек психологов, которые пришли к поразительному выводу: солдаты просто не могут убивать других, поскольку это противоречит их морали.

Так, опрос ветеранов показал: каждый четвертый из них на поле боя специально стрелял мимо противника — о постоянном прицельном огне заявили только 2 % опрошенных! Причем та же четверть респондентов признались о наступлении перед боем непроизвольного паралича большого или указательного пальца правой руки. Такая же ситуация оказалась и с летчиками-истребителями. Как выяснилось, половина всех сбитых самолетов приходилась на 1 % пилотов. И дело не в том, что это были асы — солдаты и офицеры, имевшие постоянный зрительный контакт с врагом, говорили, что не могли переступить через себя и убить другого человека. Зато в артиллерии и в бомбардировочной авиации, где противник кажется маленькой точкой, картина вышла иная — там враг не воспринимался как личность, и его убивали без душевных терзаний. Аналогичная ситуация, как оказалось позже, была и в рядах немецкой армии.

Исходя из этого, психологи констатировали: во время боя из-за стресса у солдат включаются доли мозга, ответственные за неосознанное поведение. Однако заложенный инстинкт не убивать себе подобных все равно дает о себе знать. Из-за этого наступает паралич пальцев, недержание и т.д.

Можно ли отключить этот механизм? Главным способом обойти запрет является «расчеловечивание» врага, для того чтобы солдат перестал видеть в нем себе подобного. Именно поэтому исламские экстремисты не считают «неверных» людьми, приучая детей играть головами казненных пленных в футбол. Другой способ — превратить войну в подобие войны-стрелялки, где ты не убиваешь, а вроде как выполняешь миссию. И боевые дроны для этого подходят идеально. Оператор не чувствует себя ответственным за смерть — убивает в конце концов машина. А использование искусственного интеллекта и полностью автономных роботов позволит вообще устранить мораль с поля боя.

Источник: Версия

Поступить в МТИ