Pasaulinis karas R: robotų žudikų sukilimas

Kai vie­to­je ka­rei­vių kau­sis ro­bo­tai, ar ka­ruo­se bus ma­žiau au­kų? O gal pa­sau­lis pa­nirs į ne­si­bai­gian­tį kon­flik­tą?

Qandi Agha buvo kasininkas Afganistano kultūros ministerijoje. Bet jis tvirtina, kad 2012 m. jį areštavo elitinis JAV Specialiųjų pajėgų padalinys ir kankino šešias su puse savaitės. Jis buvo panardinamas po vandeniu, kol pasijusdavo mirštąs, sako Joanne Mariner, „Amnesty International“ humanitarinės teisės ekspertė. „Jie taip pat užrišo vielą ant jo penio, kad neitų šlapintis, – sako jis. – Jį taip išlaikė keturias dienas.“

Agha’os kankinimas yra vienas iš daugelio tokių Mariner užfiksuotų atvejų naujausiai ataskaitai apie civilines karo aukas. Nehumaniškas treniruotų kareivių elgesys nėra retenybė, nuo pagarsėjusių Baghdado Abu Graibo kalėjimo kalinių patyčių iki britų Karališkųjų jūros pėstininkų, nufilmuotų nušaunant sužeistą afganų karį. „Visa tai neturi niekur pakliūti, bičai… Aš ką tik pažeidžiau Ženevos konvenciją“, – pasakė gaiduką nuspaudęs pėstininkas. „Kai užsiimi žmonių žudymu, reikia daug atsargumo ir kontrolės, kad būtum tikras, jog žudomi tik tie žmonės, kuriuos teisėti gali nužudyti“, – pastebi Mariner.

Ar mašinos galėtų tai atlikti geriau? Daugeliui tai atrodo beprotiška idėja. Bet kiti ne tik mano, kad mašinos galėtų tai atlikti, bet ir privalo. „Dabar žmonės žudo kitus žmones karo lauke neteisingai, – sako Ronaldas Arkinas, robotikos ekspertas iš Džordžijos technologijos instituto Atlantoje. – Negaliu ramiai sėdėti ir nieko nesiimti. Tikiu, kad technologija gali padėti.“

Kitaip nei žmonės, robotai taisyklių nelaužys. Dėl to mašinų kariaujami karai būtų humaniškesni. O robotų siuntimas vietoje žmonių kareivių taip pat ir išgelbėtų gyvybes, ypač šalyse, turinčiose tokią pažangią techniką. Taigi, vadinamųjų mirtinų autonominių ginklų sistemų (MAGS) – ar „žudikų robotų“ – kūrimas spartėja, ir daugelis pasaulio armijų ieško būdų patraukti savo kareivius iš ugnies linijos.

Bet yra arši opozicija. Šią savaitę dešimčių šalių atstovai susirinks JT būstinėje Ženevoje, Šveicarijoje, aptarti, ar JT turėtų juos uždrausti. Siekiama robotus žudikus prilyginti cheminiams ginklams, pėstininkų minoms ir akinantiems lazeriams. Kadangi visiškai autonominiai ginklai jau yra techniškai įmanomi, prieš juos nukreiptos kompanijos dalyviai siekia jų vystymą sustabdyti – ir greitai. Bet kas pastatyta ant kortos?

Dabar robotai karo lauke atlieka keletą funkcijų. Kai kurie perneša įrangą, kiti išmontuoja bombas ir atlieka žvalgybą. O nuotoliniu būdų kontroliuojamais dronais operatoriai gali vykdyti atakas už tūkstančių kilometrų. Tačiau naujausios mašinos pakelia dronus į naują lygį. Kadangi jie geba pasirinkti ir nusitaikyti į taikinius su nedaug ar visai be žmogaus įsikišimo, vienintelis dalykas, skiriantis nuo patvirtinimo atidengti ugnį, lieka tik žmogaus duotas leidimas.

JAV Laivyno „Phalanx“ priešraketinė sistema, montuojama „Aegis“ laivuose, gali pati atlikti „žudymo įvertinimą“ – įvertinti tikimybę, kad taikinys gali būti sėkmingai atakuojamas. JK firma BAE kuria bepilotį lėktuvą „Taranis“. Jis gali pakilti, nuskristi iki paskirto taško, ir aptikti dominančius objektus be žemėje esančių operatorių įsikišimo, nebent iškiltų būtinybė. Šis lėktuvas yra prototipas ir ginklų jame nėra, bet jis demonstruoja tokio orlaivio techninio įgyvendinamumo galimybę.

Tuo tarpu Rusijos „mobilus robotinis kompleksas“ – bepilotė, tanką primenanti mašina, sauganti balistinių raketų paleidimo vietas – ir P. Korėjos „Super Aegis II“ ginklų platforma, galinti aptikti ir šauti į judančius taikinius be žmogaus priežiūros. „Super Aegis II“ gali aptikti asmenį už 2,2 km.

Ginklų gamintojai nemėgsta kalbėti apie detales. Specifikacijos iš esmės yra įslaptintos. Tačiau aišku, kad technologija nebėra ribojančiu faktoriumi. „Technologijos nėra tikėtina kliūtis to, kas bus [pasiekiama ateityje“, – sako JK sviedinių gamintojų MBDA atstovas. Veikiausiai autonominius ginklus ribos politika, ne galimybės, sako jis.

Tai kokios tada yra tinkamos karo taisyklės? Konkrečiai robotus aptariančių įstatymų nėra, bet visi ginklai turi atitikti egzistuojančias konvencijas. Pagrindinis principas – negalima tyčia taikytis į civilius ir civilių turtą. Ginklai taip pat turi gebėti atskirti kareivius nuo civilių. O jėgos panaudojimas turi būti proporcingas – tikėtino karinio atakos pranašumo negali nusverti pašalinė žala. „Sakyčiau, yra tinkami įstatymai, tinkantys autonominėms ginklų sistemoms, – sako Matthew Waxmanas iš Kolumbijos Teisės mokyklos Niujorke. – Turi būti įvertinamas bet kokios sukurtos ginklų sistemos bazinis atitikimas.“

Laikantis tokios koncepcijos, Arkinas tiki, kad jei LAGS gali pasirodyti geriau, nei kareiviai civilių aukų atžvilgiu, tokių technologijų uždraudimas būtų klaida. „Turime atminti žmonių klystamumą ir moralinį netvirtumą dabartinių karų fone, – sako jis. – Jei galime tai atlikti geriau, nei jie, vadinasi, saugome gyvybes.“

Kitų argumentai tokie pat stiprūs. Pavyzdžiui, Erikas Schechteris, matematikas iš Vanderbilto universiteto Nashville’yje, Tennessee’yje, neseniai rašė The Wall Street Journal: „Jei tarptautinio humanitarinio įstatymo tikslas yra sumažinti nekariaujančiųjų kančias karo metu, taikliai šaudančių robotų naudojimas būtų labiau nei tinkamas, tai būtų moralinis imperatyvas.“

Robotai taip pat galėtų gelbėti kareivių gyvybes. Pavyzdžiui, užuot įtariamos priešų bazės, galbūt įsikūrusios tankiai apgyvendintame miesto rajone, bombardavimui kvietus oro pajėgas, į pastatą pirmiau kareivių galėtų įžengti robotai, ant savęs perimantys riziką. Kai misija itin pavojinga, galėtų būti naudojamos mašinos.

Teisė į orumą

Tačiau idėja labai prieštaringa. Daugeliui perspektyva, kad kompiuterio lustas turės galią nuspręsti kieno nors gyvybės ir mirties klausimą, yra nejauki. Pasak Christofo Heynso, JT specialiojo neteisinių nužudymų reporterio, tai galėtų prieštarauti humanitariniams įstatymams ir žmogiškai teisei į orumą.

„Tam, kad sprendimas nepažeistų žmogiško orumo, jo priėmime turi pakankamai aktyviai dalyvauti žmonės“, – teigia Heynsas. Jis pažymi, kad roboto taikinys neturi galimybės apeliuoti į žmogiškumą, kaip galėtų, jei ginklą laikytų žmogus. Tai primintų sunaikinimą, sako jis. Jau ir nuotolinio valdymo dronai suteikia tik labai menką tokios apeliacijos galimybę. Tačiau juos bent jau valdo žmogus, kad ir kaip toli bebūdamas, galintis atlikti etinius sprendimus. „Viltis, kad tai įmanoma, bent jau nėra visiškai lygi nuliui, – sako Heynsas. – O viltis yra oraus gyvenimo dalis.“

Tačiau Heynsas nėra visiškai nusistatęs prieš LASG atsiradimą. Įsivaizduokite snaiperių komandą, nusitaikiusią į karinės grupuotės, tokios, kaip Boko Haram, narius, dėsto jis. Įkaitai šalia, tad visiems snaiperiams reikia tiksliai iššauti tuo pačiu metu, kad nenukentėtų įkaitai. Sprendimą žudyti priimtų žmogus, tačiau šūvius galėtų paleisti ginklus kontroliuojantis kompiuteris. Tai gali būti vienintelis būdas visus ginklus iššauti vienu sykiu, kai snaiperiai mato savo taikinį.

Tačiau Heynsą neramina, kaip jis pats sako, „jėgos depersonalizavimas“. 2013 metų JT ataskaitoje jis įspėjo, kad „nepailstančios karo mašinos, pasirengusios būti panaudotos vos paspaudus mygtuką“ gali lemti nuolatinių konfliktų kupiną ateitį. Jei vyriausybėms nereikės teptis rankų, karas gali tapti pernelyg paprastu užsiėmimu. Netgi jei kovotų mašinos prieš mašinas, didelė šalutinė žala galėtų sugriauti šalių infrastruktūrą. O kadangi aukų būtų mažiau, karai galėtų tęstis ilgiau, užkirsdami kelią pokariniam atsistatymui.

Karo depersonalizavimo baimė kai ką įtikino, kad ginkluoti robotai turėtų būti vetuojami. „Žmonės miršta karuose, – sako JAV kongresmenas Jimas McGovernas. – Ir turėtume niekad nepasiekti taško, kur pamirštume, koks siaubingas jis yra.“ Sunerimęs, kad technologiškai pažangios šalys atitraukia save nuo karo realybės, McGovernas nori, kad JAV taptų autonominių ginklų draudimo pionieriais.

„Manau, žmonės turėtų nerimauti dėl bombardavimo, dronų atakų padarinių, – sako jis. – Pašalinus iš proceso žmones, jie tampa nebejautrūs. Noriu, kad žmonės žinotų, kad karas yra siaubingas ir šlykštus.“

McGoverno baimė turi pagrindą. Tyrimai rodo, kad, pavyzdžiui, į žmones nukreiptos dronų atakos gali radikalizuoti anksčiau į konfliktą neįsitraukusius žmones. „Gali būti, neteisingumo jausmas dar sustiprėja, kadangi priešas yra taip atsisiejęs nuo konflikto, kad net nesivargina pasiųsti kareivių“, – sako Raffaello Pantucci, terorizmo ekspertas Londono Karališkajame jungtinių paslaugų institute.

Šią vasarą McGovernas organizavo „Campaign to Stop Killer Robots“ susitikimą su JAV politikais – tas labai pasitarnavo Noelui Sharkey’ui, vienam iš kampanijos lyderių, jau beveik dešimtmetį bandžiusiam atkreipti tarptautinį dėmesį į šį klausimą.

Sharkey’is yra dirbtinio intelekto ir robotikos specialistas Sheffieldo universitete, JK. Pagrindinis jo atkaklią kampaniją varantis veiksnys – jo žinios apie dabartinių technologijų trūkumus. Arkinui žvelgiant į kitos kartos techniką, Sharkey’is nerimauja dėl esamos. Kaip ir Mariner. „Skaičiavimų gerumas priklauso nuo gaunamų duomenų“, – sako ji. Ar gali dronas atskirti barzdotą taksi vairuotoją nuo barzdoto Talibano nario? „Nėra tobulo kompiuterio, galinčio atlikti tokį vertinimą“, – pastebi ji. Sharkey’is antrina. „Galėčiau per kelias savaites pagaminti robotą žudiką, aptinkantį žmonių kūnus ir šaudantį į juos, – sako jis. – Problema – atskirti civilius nuo kovotojų.“

Tokį gebėjimą įgyvendinti sunku. „Tai labai sudėtinga problema, – sako Glynnas Wrightas, „Aralia Systems“, JK įsikūrusios firmos, teikiančios atvaizdų analizavimo programinę įrangą saugumo prietaisams, įkūrėjas. – Ir ji jokiu būdu nėra išspręsta.“

„Aralia“ programinė įranga gali išskirti įtartiną veiklą stebėjimo kamerų vaizduose. Prieš porą metų metų sistema pažymėjo žmonių grupę, kuri, kaip paskui paaiškėjo, ieškojo tinkamos viešos vietos padėti bombą. Asmenys buvo sulaikyti ir sėkmingai nuteisti, sako Wrightas. Bet sutinka, kad iki sprendimų priėmimo galimybės judrioje miesto aplinkoje dar toli gražu.

Net jei mašinos gebėtų atskirti taikinius, kokios jų galimybės priimti moralius sprendimus, remiantis tokiais duomenimis? Arkinas teigia, kad galėtume sukurti programinę įrangą, veikiančią kaip „etinis valdytojas“ nustatantis roboto atsaką įvairiomis aplinkybėmis. Tačiau būtinas tokios programinės įrangos sudėtingumas reiškia, kad šie pasiūlymai tebelieka ant braižymo lentos. Kol kas kontroliuoti privalo žmogus.

Įsakymas šauti

Tačiau ką tai reiškia? Debatai apie žudikus robotus sukasi apie šį klausimą ir siūlymas juos uždrausti pavyks ar sužlugs, žiūrint, ką laikysime žmogaus įsakymu šauti. Priimtino apibrėžimo nėra. Yra dar viena problema: susitelkimas vien į žudikų robotų klausimą užgožia fundamentalesnes žmonių ir mašinų sąveikos problemas. Vien todėl, kad grandinėje yra yra žmogus, nereiškia, kad žudymo aukštosiomis technologijomis problemos išnyko.

Pavyzdžiui, 2003 metais, JAV „Patriot“ raketų baterijos operatorė gavo automatinį pranešimą apie aptiktą atskrendančią Irako raketą. Jai per sekundės dalį reikėjo apsispręsti ir pasirinkti apsauginius veiksmus, leidžiant baterijai šauti. Bet taikinys pasirodė esantis RAF Tornado lėktuvas, kurio du pilotai žuvo, pataikius „Patriot“ raketai. Kas nutiko ne taip? Sistema akivaizdžiai neteisingai atpažino orlaivį. Bet tyrimas išsiaiškino, kad taip nutiko, kadangi operatoriai nebuvo tinkamai mokomi. Todėl sistema nebuvo prijungta prie platesnio tinklo, kuris būtų informavęs, kad lėktuvas užmezgė ryšį su oro transporto kontrolieriais ir grėsmės nekelia. Šiuo atveju žmogaus buvimas grandinėje ko gero buvo problemos priežastis.

Kaip besibaigtų JT svarstymas, iškelti klausimai apie autonomines ginklų sistemas nėra tokie paprastai, kokie gali pasirodyti iš pirmo žvilgsnio. Visiškai autonominės ar ne, mašinos jau yra karo dalis ir pažadas grandinėje išlaikyti žmones nėra garantija, kad nenutiks klaidų. Mašinos nesupaprastina karo, bet daro jį sudėtingesnį. Tai bendras jų ir mūsų bruožas.

Grandinėje

Dronų atsiradimas karo lauke padidino nuotoliniu būdu valdomų karinių aparatų svarbą. Žmonės lieka „grandinėje“, tačiau tai nereiškia, kad nėra problemų. O „grandinėje“ gali reikšti nuo beveik visų nuotoliniu būdu valdomų aparatų aspektų valdymo iki paprasto atsakymo „taip“ ar „ne“, kai jo paklausiama ar automatiškai pasirinktas taikinys turėtų būti sunaikintas.

Nancy Cooke yra dronų pilotavimo psichologinio poveikio ekspertė Arizonos valstijos universitete. Pagal kontraktą su JAV armija ji konsultuoja dėl „žmogiškų sistemų integracijos“ – kaip gerai žmonės kontroliuoja valdomas mašinas. „Predator ir Reaper“ dronų pilotams tai reiškia „lėktuvo kabiną“ karinėje bazėje, valdančioje už tūkstančių kilometrų skriejančius aparatus.

Kontrolės išlaikymas

Cooke tyrimas padeda identifikuoti dronų pilotavimo aspektus, kurie galėtų būti patobulinti, treniruočių aspektus, kurie gali būti pakeisti, kad teiktų daugiau naudos pilotams, ir situacijas, kai svarbiausia socialinė ir psichologinė parama.

Viso to tikslas yra žmogui suteikti visą kontrolę, sako Cooke – tačiau tai nėra lengva. Dronų operatoriai patys nesprendžia ar žudyti, nors atlieka visas tam būtinas funkcijas. Begalinių prieš akis slenkančių jų veiklos vaizdų ir nuolat girdimų šalia esančio vado komandų poveikis nėra trivialus.

Cooke sako, kad operatoriai apibūdina save kaip „autobuso vairuotojus“ ar jaučiasi surobotinti, tuo tarpu jų vadus perkrauna „Predator crack“ – iš dronų transliuojami vaizdai. Žmonių pašalinimas iš fronto linijos sukūrė keistą situaciją, kai pilotai geriau mato savo veiklos poveikį, tačiau jaučiasi mažiau kontroliuojantys, sako Cooke.

„Kūno dalių ir žaizdų vaizdai, žuvusieji ir daugybė sugriovimų, – paaiškina ji. – Bet jau operatoriai man sako, kad tai išties siaubingas dalykas, kadangi tai ne tik visiškai tikra, tai, ką ką tik padarei. Kitaip, nei tada, kai tiesiog ateini ir išeini ir išties nepamatai, ką padaręs.“

Ginklų kontrolė – nuo arbaletų iki kasetinių bombų

1139: Popiežius Inocentas II uždraudžia naudoti arbaletus prieš krikščionis

Popiežius sakė: Nuo šiol anatema uždraudžiame tą žudikišką, Dievą piktinantį arbaletininkų ir lankininkų meną naudoti prieš krikščionis ir katalikus.“ Arbaletų naudojimas prieš nekrikščionis, savaime aišku, buvo priimtinas.

1675: Strasbūro sutartis

Uždraustas užnuodytų kulkų naudojimas.

1899: Hagos konvencija

Ji apima:

• Deklaraciją apie sviedinių ir sprogmenų mėtymo balionais ar kitais analogiškais metodais draudimą.
• Deklaraciją apie draudimą naudoti sviedinius, kurių vienintelis tikslas – skleisti dusinančias nuodingas dujas.
• Deklaraciją dėl lengvai išsiplečiančių ar keičiančių savo formą žmogaus kūne, tokių, kaip kietą, tačiau viso kulkos paviršiaus nedengiantį apvalkalą turinčių, ar turinčių įdubimų kulkų naudojimo draudimo.

Visos to meto galingiausios jėgos ratifikavo oro bombardavimo draudimą, išskyrus JAV ir JK. Šio draudimo galiojimas baigėsi 1905 m.

1925: Ženevos protokolas

Tai yra „Draudimo kare naudoti dusinančias, nuodingas ar kitokias dujas, bei bakteriologinius karybos metodus protokolas“.

1928: Kellogg-Briand paktas

Tai buvo „Bendra karo naudojimo kaip nacionalinės politikos įrankio atsisakymo sutartis“ ir ją pasirašė to laiko galingiausieji. Nors išsikelto tikslo ji akivaizdžiai nepasiekė, ji suformavo kai kurių svarbių jėgos panaudojimą apibrėžiančių tarptautinių įstatymų pagrindus.

1949: Ženevos konvencijos

Jomis atnaujintos 1864, 1906 ir 1929 m. sutartys, nustatančios karo belaisvių, sužeistų kareivių ir civilių teises.

1967: Kosmoso sutartis

Ja uždraustas masinio naikinimo ginklų diegimas orbitoje ar Mėnulyje.

1970: Branduolinių ginklų neplatinimo sutartis

Ja siekta užkirsti kelią branduolinių ginklų technologijos platinimui už jas jau turinčių šalių ribų ir skatinti branduolinių technologijų naudojimą taikiems tikslams.

1975: Biologinių ginklų konvencija

Ji draudžia biologinių ginklų gamybą ir kaupimą (biologinio ginklo naudojimas jau buvo neteisėtas pagal 1925-ųjų Ženevos protokolą). Sutartį ratifikavo 170 šalių – Egiptas ir Sirija sutartį pasirašė, bet neratifikavo, o Izraelis yra, ko gero, svarbiausia jo nepasirašiusi valstybė.

1978: Aplinkos modifikavimo sutartis

Draudžia „karybą orais“, orų modifikavimą destruktyviais tikslais.

1995: Akinančių lazerinių ginklų protokolas

Juo uždraudžiami ginklai, kurių veikimas skirtas nuolatinio aklumo sukėlimui.

1997: Cheminių ginklų konvencija

Ja draudžiama cheminių ginklų gamyba ir kaupimas (kaip ir biologinio ginklo atveju, jų naudojimas yra neteisėtas pagal 1925 m. Ženevos protokolą); Ją ratifikavo 190 šalių – Izraelis ir Birma pasirašė, bet neratifikavo, tuo tarpu Egiptas ir Šiaurės Korėja nepasirašė.

1997: Ottawa'os sutartis

Ja draudžiama naudoti, gaminti ir kaupti sausumos pėstininkų minas. Sutartį priėmė 162 valstybės; 34 JT valstybės, tarp kurių Kinija, Egiptas, Izraelis, Šiaurės ir Pietų Korėja, Rusija ir JAV – ne.

2010: Kasetinės ginkluotės konvencija

Ja draudžiama naudoti ir kaupti kasetines bombas – sprogmenis, paskleidžiančius „bombeles“ teritorijoje. Kol kas ją ratifikavo 88 šalys – tarp jų nėra Kinijos, Egipto, Izraelio, Šiaurės ir Pietų Korėjų, Rusijos ir JAV.

2014: Mirtinos autonominės ginklų sistemos

Šiais metais klausimas, ar uždrausti robotus karius buvo diskutuojamas JT kaip dalis vykstančios Įprastinės ginkluotės konvencijos, kurios atnaujinimais uždraustos sausumos minos ir akinantys lazeriai.