Како спречити да будуће ратове воде роботи а страдају људи

Трка за оружјем које користи вештачку интелигенцију у пуном је јеку. „Ми смо усред тога. То је реалност са којом морамо да изађемо на крај“, упозорио је немачки шеф дипломатије Хајко Мас у разговору за нови документарац Дојче велеа, Будући ратови – и како их спречити.

Светске велесиле убеђене су да победа у овој трци доноси велику моћ. „Трка се води кроз војна и цивилна поља“, каже нам Анамдип Синг Гил који је некада водио групу стручњака УН за аутономна оружја. „Ово је питање тешко милијарде долара“, каже он.

Последњи извештај америчке Комисије за националну безбедност о вештачкој интелигенцији говори о „новој парадигми ратовања“ у којој се „алгоритми боре против алгоритама“. Захтевају се „масне” инвестиције у ово поље како би се „континуирано у иновацијама побеђивали потенцијални противници“.

Кина ставља вештачку интелигенцију у центар својих истраживања, док тамошња Народна армија говори о будућем „интелигентном ратовању“. Руски председник Владимир Путин је још 2017. рекао да ће онај ко постане лидер у овој области уједно постати „господар света“.

Поуке са Кавказа

Крајем прошле године је Кавказ био велика лабораторија овог ратовања будућности. Све је изгледало као и ранији тешки сукоби Јерменије и Азербејџана око Нагорно-Карабаха, али стручњаци су видели новине. „Веома важан аспекат тог сукоба је била употреба вребајућег оружја“, каже Улрике Франке, експерт за беспилотне летелице у Европском савету за међународне односе.

Израз ‘вребајуће оружје’ (слободни превод од Loitering Weapon или Loitering Munition) користи се за пројектиле који узлећу без посебног циља и круже изнад потенцијалних мета. Циљ се одабира тек касније. „На Нагорно-Карабаху су коришћени такви дронови-камиказе – то су прилично аутономни системи“, каже Франкеова.

Према Центру за стратешке и међународне студије, Азербејџан је имао око две стотине оваквих дронова, и то четири различита модела, сви најмодерније израелске производње. Јерменија је имала само један домаћи модел.

Другим армијама широм света није промакло да оваква предност може да одлучи рат. „Од тог конфликта видимо одређени раст интереса за вребајућим оружјем“, додаје Франке. „Видимо све више војски широм света које набављају или планирају да набаве вребајућу муницију“.

То је тек почетак. Вештачка интелигенција ће ускоро омогућавати јата дронова – много њих који лете заједно, и стратешки погађају више циљева.

„Могли би да нациљају рецимо систем противваздушне одбране“, каже нам Мартин Расер из Центра за нову америчку безбедност у Вашингтону. „Нападнеш га толиком масом да је систем преоптерећен. То, наравно, доноси огромну тактичку предност на бојишту“.

Бројност дронова и брзина којом се све дешава напросто измичу људској контроли. Све се препушта софтверу и вештачкој интелигенцији. Како каже Улрике Франке, то ће терати армије да прилагоде противваздухопловну одбрану јер „људска бића неће бити у стању да се толико брзо носе са аутономним нападима“.

У апокалиптичној верзији, која није толико далеко, имали бисмо аутономна оружја која реагују једна на друга и улазе у спиралу ескалације. „У литератури то називамо флеш ратовима. То су случајни војни сукоби које људи нису намеравали да изазову“, каже Франке.

Споразум се не назире

Бони Дохерти жели да спречи такву будућност. Она предаје на правној школи Харварда и предводи кампању „Стоп роботима убицама“, удружење невладиних организација које траже забрану аутономних смртоносних оружја.

„Обавеза која би произишла из таквог договора је да се одржи смислена људска контрола над употребом силе“, каже Дохерти за Дојче веле. „Споразум би се тицао свих оружја која делају аутономно, то јест бирају мете и отварају ватру на основу података које прикупе сензори, уместо на основу људске команде.“

Кампања се фокусира на разговоре у Женеви под кишобраном Конвенције УН. Али, то је спор процес из којег је за сада произишао низ „принципа“, рецимо да аутономна оружја подлежу кривичном прву и да су на крају људи одговорни за њихову употребу. Разговори се настављају ове године.

Дохерти мисли да то неће богзна шта донети, јер велике силе немају интерес да потпишу забрану оваквог оружја. „Русија се посебно снажно опире. Али споразум не подржавају ни друге земље које развијају аутономно наоружање, попут Израела, САД и Велике Британије“.

Немачка подржава идеју да се оваква оружја забране, али не подржава кампању „Стоп роботима убицама“. „Не одбијамо ту кампању у њеној суштини – само тражимо да други буду укључени“, каже немачки министар спољних дела Мас. „Војне силе које су технолошки у могућности не само да развију, већ и да употребе аутономно оружје.“

Мас је сагласан да споразум треба да буде крајњи циљ. „Баш као што смо успели са нуклеарним оружјем током многих деценија, и сада морамо да скујемо међународне споразуме о новим технологијама оружја“, наводи он. „Ту мора јасно да пише да смо сагласни како није прихватљиво све што је технички могуће.“

Али за сада нема консензуса. Улрике Франке није оптимиста. Каже, највише чему се може надати су нека правила како се нове смртоносне технологије користе. „Рецимо, договор да се неки капацитети користе само у одбрамбене сврхе или само против машина, а не људи“, додаје она.

У међувремену, уз релативно мало пажње јавности, разорна оружја будућности напредују. „Свет мора да се занима за чињеницу да идемо ка ситуацији у којој ће свако моћи да ради шта му је воља са сајбер или аутономним оружјем“, упозорава Мас. „То не желимо.“