Нейросеть с автоматом: к чему приведет электронная гонка вооружений

К какой трагедии может привести применение оружия с искусственным интеллектом? Разобрался корреспондент медиапортала Caravan.kz.

Ни любви, ни тоски, ни жалости

Главная опасность нейросетей – это то, что никто, даже их создатели, не знает, как они работают. Конечно, основной принцип известен даже дошкольнику. Искусственный интеллект самообучаем. Например, чтобы отличить по фото сокола от чайки, нейросети прогоняют через себя тысячи фотографий птиц из всего интернета, отмечают сходства у картинок с подписями «сокол» или «чайка» и на базе этих совпадений выдают нужный результат. Но никто не может сказать, по каким именно критериями электронные мозги определяют сходства. С птицами все еще относительно ясно. Семейство пернатых различаются по внешнему признаку, и алгоритм выстраивается с логикой, понятной человеку. Но нейросети уже научились понимать, что такое грустный, мрачный, злой или голодный. Не каждый человек сможет объяснить, почему у этой фотографии тревожная атмосфера, а нейросети справляются с задачей за секунды.  Это означает, что логика нейросетей на определенном этапе начинает отличаться от человеческой, а раз искусственный интеллект самообучаем, то развитие станет абсолютно непредсказуемым.

Для генерации картинок и текстов это, скорее, плюс. Так появится контент, который человеческая фантазия создать не в состоянии. А при использовании нейросетей в области обороны нечеловеческая логика почти со стопроцентной вероятностью приведет к катастрофе, причем довольно скоро.

Российско-украинский конфликт неожиданно показал, насколько эффективны могут быть беспилотники при ведении боевых действиях. Они гораздо дешевле управляемых ракет, часто невидимы для систем ПВО, а при удачном попадании в стратегически важный объект могут нанести немалый ущерб. Но главный их минус — без управления человеком они бесполезны. Так появилась идея доверить управление дронами не оператору, а нейросети. С их  помощью беспилотники смогут быстрее уворачиваться от ПВО, выбирать оптимальный маршрут, но основным преимуществом станет возможность самостоятельно принимать решение.

Например, изначально беспилотник был направлен для уничтожения единственного грузовика с продовольствием, но на пути следования вдруг встретится целый эшелон машин с боеприпасами. Если бы дрон тупо следовал заданной программе, он бы просто пролетел мимо, а нейросеть в доли секунды просчитает, что нанесение удара по эшелону нанесет больший ущерб противнику, чем подрыв десятка ящиков с тушенкой. Это, конечно, является очень полезной опцией, и разработки в таком направлении уже ведутся.

А ужас ситуации заключается в том, что машина лишена эмпатии и представлений о морали.  Фактически это шизофреник со смертоносным оружием. На какие бы тактические хитрости ни шли воюющие стороны, атака на АЭС никому не может быть выгодна. Радиоактивное облако не пощадит никого. Прагматичной нейросети этого не объяснить. Электронные мозги за доли секунды просчитают, сколько жертв в стане врага принесет атака на энергоблок и какой колоссальный ущерб нанесет экономике противника ликвидация последствий аварии.

Нейросети, которые мы используем в быту, снабжены ограничителями. Например, если чат GPT спросить, как создать яд в домашних условиях, то нейросеть откажется отвечать, хотя технически для неё это несложная задача. Ограничить таким образом боевые нейросети невозможно. Противник моментально использовал бы эту уязвимость. То есть если запретить электронным мозгам, например, атаковать цели, где есть дети, то солдаты противника, поняв это, тут же развесили бы на стратегических объектах резиновых пупсов ростом с ребенка.

Победителей не судят

Невольно напрашивается вопрос: неужели разработчики беспилотников, снабженных нейросетями, не понимают, какое электронное чудовище они создают? Ответ очевиден.

Ядерное оружие существует уже 80 лет, и его использование точно приведёт к концу света. Тем не менее каждый год появляются новые образцы боеголовок и ракетоносителей. Их создание несло сдерживающий характер, то есть сам факт, что у страны есть оружие, способное уничтожить планету, должно дать ощущение безопасности.

Атомная бомба в боевых действиях за историю человечества использовалась всего дважды, и жертвами стало именно мирное население в стране, которая все равно долго бы не продержалась на поле боя. Зато США целых три года могли диктовать миру свои правила.

Кроме того, есть еще оружие биологическое. Оно никогда не применялось, по крайней мере официально, и его минусы точно такие же, как у боевых нейросетей, то есть после первого же применения контролировать последствия будет невозможно.

Получается, разработчики боевого искуственного интеллекта руководствуются тремя принципами: наличие беспилотников с ИИ сдержит вероятное нападение либо станет козырем при важных переговорах.

Но в отличие от атомной бомбы, которая спит в шахте, пока главнокомандующий не нажмет красную кнопку, боевые нейросети сами могут решить, когда пришло время устроить человечеству конец света.

Более безобидным кажется использование нейросетей для проектирования оружия. Если для создания нового типа винтовки или автомата требуется несколько лет напряженной работы конструкторского бюро, то нейросеть с этим может справиться гораздо быстрее. Электронные мозги проанализируют плюсы и минусы существующих видов огнестрела, на базе этих данных создадут новое оружие, где будут учтены баллистика, прочность металла, мощность, а если потребуется производителям, то и дизайн.

Так в 2021 году нейросети помогли китайским оружейникам создать принципиально новое оружие – электромагнитный пистолет. В отличие от других видов огнестрела заряд разгоняют не пороховые газы, а импульсы электромагнитных катушек. Так у пистолета нет отдачи, выстрел абсолютно бесшумен, и нет вспышки и облачка дыма из ствола, способных демаскировать стрелка, что очень удобно для снайпера, или, если угодно, киллера. Пока электромагнитный пистолетик слабоват, и стрелять из него во врага можно метров с трёх, но нарастить мощность — это дело времени. За основу электромагнитного пистолета нейросеть взяла пушку Гаусса. Она известна уже лет 50, но саму мысль, чтобы использовать ее как боевое оружие, допускали лишь фантасты, да и то в далеком будущем. Дело в том, что, чтобы достичь мощности хотя бы пистолета Макарова, пушка Гаусса должна быть длиной в несколько десятков метров. Творение китайской нейросети в длину всего 12 сантиметров, и даже если нынешний образец вытянуть хотя бы до размера снайперской винтовки, то при некоторых военных операциях она даст потрясающий результат. Не исключено, что оружейники из Поднебесной за четыре года уже усовершенствовали 12-сантиметровый электромагнитный пистолетик.

Но и старый добрый огнестрел современные оружейники не забывают.  С тем, чтобы пострелять из автомата, справится и обезьяна. Нажать на спусковой крючок сможет и человек, видевший «Калашников» только в кино. Собирать-разбирать автомат, менять обоймы самый неуклюжий солдат научится дня за три. А вот чтобы научиться не расходовать попусту патроны и стрелять точно в цель, при этом прятаться от ответного огня и выбирать оптимальные огневые точки, порой нужны годы, причем шальные пули не щадят и опытных бойцов. Так что, чем тратить время на обучение новобранцев и рисковать жизнью солдат, оптимальнее будет вручить автоматы роботам.

Уже лет десять в Сети гуляют ролики, демонстрирующие возможности роботов Boston Dynamics. Четвероногие машины, немного напоминающие безголовых собак, лихо обходят препятствия, выдерживают пинки и удары, а если их сбить с ног, лихо вскакивают в исходную позицию. Но при этом часто упускается тот факт, что роботы BigDog созданы в 2005-м по заказу Пентагона. Их задача совсем не в том, чтобы развлекать публику. К BigDog очень просто прикрепить любое оружие, от двустволки до базуки. Роботы снабжены гироскопами, и отдача им не страшна. Вражеские пули могут повредить робота, но попасть в него труднее, чем в человека, и, чтобы вывести из строя BigDog, понадобится целая обойма. Траекторию полета пули рассчитывает компьютер, учитывая такие факторы, как влажность, направление ветра и даже атмосферное давление, а значит, большинство пуль попадет точно в цель.

Пока использование BigDog в боевых целях ограничено системой Human-in-the-Loop. То есть оператор показывает роботу, какую цель надо устранить, а уж BigDog сам решает, как это лучше сделать. Но для реальных боевых действий эта система не подходит, поэтому для войны есть алгоритм Human-on-the-Loop. Разница всего в одну букву на практике оказывается более глобальной. При активации этой системы робот управляется нейросетью и сам решает, куда и в кого нужно стрелять, а человек лишь наблюдает за этим через монитор, и останавливает BigDog, если тот вдруг начнет палить по мирным жителям. Проблема в том, что реакция робота явно быстрее, чем у человека. Средняя скорострельность штурмовой винтовки 600 выстрелов в минуту, то есть 10 в секунду. Оператору понадобится секунд пять, чтобы сообразить, когда ситуация идет не по плану, и нажать кнопку «Стоп». А так как BigDog бьет почти без промаха, за это время он поразит с полсотни живых мишеней.

Один в небе не воин

Особенно этот критерий опасен для артиллерии и системы ПВО. Тяжелые орудия, даже современные, довольно неповоротливы, если ими управляет человек. К тому же для расчёта траектории снаряда нужны долгие математические расчеты, и даже очень опытный артиллерист не способен учесть абсолютно все факторы.  Нейросети уже разработали тяжелое вооружение, очень эффективное, но настолько сложное в управлении, что с ним может справиться только искусственный интеллект. Учитывая тот факт, что ракеты и снаряды способны нанести больший ущерб, чем пуля из автомата, такой вид вооружения должен постоянно находиться в режиме боевой готовности, соответственно, и режим Human-on-the-Loop. Если взбесившиеся электронные мозги решат пальнуть из пушки по жилому дому или система ПВО выпустит ракету в пассажирский самолёт, то жать кнопку «Стоп» после этого будет бесполезно.

Великий полководец Александр Суворов говорил, что воевать надо не числом, а умением. Боевые нейросети же умеют и то и это. Любители компьютерных игр прекрасно знают, что такое «зерг раш». Это когда игрок кидает на врага кучу самых слабых воинов, на покупку которых требуется меньше всего ресурсов. В реальной жизни эта стратегия носит более жуткое название – «мясной штурм». Это когда на укрепления противника бросают плохо обученных, слабых бойцов с дешевым оружием. Солдаты гибнут в первые минуты боя, но у противника кончаются боеприпасы, и тогда их атакуют более опытные вояки. Но такая стратегия аморальна, и ни один уважающий себя офицер не позволит себе применять ее на практике.

С боевыми же нейросетями вопросов морали нет. Можно наштамповать тысячи дешёвых роботов и дронов и направить их на врага. Эта тактика уже активно используется в российско-украинском конфликте, но и она не совершенна.

Тысячи боевых машин с искусственном интеллектом будут атаковать более эффективно, если получат возможность коммуникации между собой. Такое мы наблюдаем у пчел и муравьев, только на уровне инстинкта. Человек с легкостью отобьется от одной пчелки, но против целого роя он бессилен. Работа нейросетей чем-то похожа на примитивные инстинкты, а если сделать боевой искусственный коллективным, то последствия могут стать самыми печальными. Крошечный сбой в микросхеме завалящего беспилотника передастся всей системе. Ведь, как мы помним, нейросети это самообучающийся механизм, и логика их отличается от человеческой. В результате из-за крошечного сбоя вся электронная армия превратится в кровожадных маньяков с самым грозным оружием, которое не пощадит ни своих, ни чужих, так что создатели франшизы «Терминатор» рисовали не такое уж нереальное будущее, описывая восстание машин.

Любопытно, но опасность нейросетей предсказал ещё фантаст Фредерик Браун в далеком 1954 году, когда самые мощные компьютеры были слабее современных смарт-часов.

По сюжету рассказа «Ответ» ученые будущего создали суперкомпьютер, способный к самообучению, и загрузили туда всю имеющуюся в мире информацию. Ученых интересовал главный вопрос человечества: «Существует ли бог?». На что суперкомпьютер ответил: «Теперь существует!» — и стал испепелять молниями с неба жалких людишек, не признающих величие электронного божества.

Нам только остается надеяться, что нейросети так и останутся забавными программками для создания красивых картинок и полезных советов, а не превратятся в злобное божество, истребляющее всё живое.