Mašina prie vairo: kur mus nuveš dirbtinis intelektas?

Savivaldžiai automobiliai jau šiandien visus eismo dalyvius veža į ateitį, kurioje dirbtinis intelektas gali gauti specialų statusą bei savitų teisių Masačusetso technologijų institute (MIT) Bostone grupė mokslininkų prieš keletą metų pristatė eksperimentą, pavadintą „Moral machine“ („Moralės mašina“). Kiekvienam interneto vartotojui prieinamas tyrimas leidžia pasitikrinti savo „žmogiškumą“ įvairiuose su savivaldžiais automobiliais susijusiuose scenarijuose. Juose tenka rinktis iš dviejų išeičių.

Dažniausiai – iš blogos ir blogesnės. Šiuos scenarijus pasistengta specialiai apsunkinti pateikiant detalius aprašymus: kai kuriuose iš jų veikia ne žmogus kaip eismo dalyvis, o vaikai, nėščios moterys, senyvo amžiaus žmonės ir naminiai gyvūnai. Gyvybės kainą tai verčia matuoti pačiu nekorektiškiausiu būdu. Tarkim, lyginti vyro ir nėščios moters gyvybės vertę. O kaip, jei grupė žmonių pažeidžia eismo taisykles ir eina per gatvę degant raudonai šviesai, – ar tai palengvina moralinį apsisprendimą? Šis provokuojantis eksperimentas gali atrodyti kaip keistas žaidimas.

Skaičiuojama, kad apie 90 proc. incidentų įvyksta dėl žmogaus kaltės, todėl savivaldžiai automobiliai turėtų padidinti saugumą ir ilguoju laikotarpiu smarkiai sumažinti žūčių skaičių. Vis dėlto, ekspertai sutinka, kad technologijos nėra ir greičiausiai niekuomet nebus visiškai saugios. Todėl toks testas gerai parodo savivaldžių automobilių gamintojams kylančius iššūkius. Vienas jų – saugumo prioritetai.

Apsispręsti avarinėje situacijoje žmogus dažnai teturi sekundę ar jos dalį. Kompiuteris, turėdamas kur kas galingesnį skaičiavimo pajėgumą, per šį laiką gali įvertinti begalę scenarijų ir apskaičiuoti „naudingiausią“ susidūrimą. Pagrindinis automobilio „avarijų kodeksas“ iš dalies bus užprogramuotas dar gamykloje. Vis labiau tobulėjant technologijoms automobilis galėtų atskirti, kas atsiduria jo kelyje – nustatyti pėsčiojo lytį, rasę ar amžių.

Tad šiandien gamintojams ne tik tenka laužyti galvas, kaip išmokyti automobilius vairuoti, tačiau ir būti itin korektiškiems. Jei pasakysite, kad avarijos atveju bet kokia kaina saugosite vairuotoją, kaip tai 2016 m. Paryžiaus automobilių parodoje bendraudamas su žurnalistais padarė „Mercedes“ atstovas, būsite apkaltinti pasipūtimu, nejautrumu ir elitizmu. Jei pabrėšite, kad jūsų automobilis pirmiausia sieks apsaugoti pėsčiuosius, galite atbaidyti potencialius pirkėjus.

Ankstyvas precedentas

Kovo mėnesį pirmąja savivaldžio automobilio auka tapo 49-erių amerikietė Elaine Herzberg iš Arizonos. Ją partrenkė savivaldis bendrovės „Uber“ naudojamas automobilis, kai moteris tamsiu paros metu ne per perėją vedėsi dviratį į kitą kelio pusę. Automobilyje sėdėjo operatorė, galėjusi perimti vairą, tačiau incidento metu ji žiūrėjo ne į kelią. Nors avarijos detalių nei kompanija, nei pareigūnai plačiai nekomentuoja, žiniasklaidai neatskleisti šaltiniai teigė, jog automobilis pėsčiąją ir dviratį tikriausiai užfiksavo, tačiau algoritmai atmetė juos kaip nepavojingą kliūtį.

Savivaldžiai automobiliai turi funkciją atpažinti, pavyzdžiui, vėjo pučiamą laikraščio lapą, maišelį ar kitus judančius, bet nepavojingus objektus. Bendrovė „Uber“ iš karto nutraukė savivaldžių automobilių bandymus, tačiau viešojoje erdvėje ši istorija sukėlė nemažą šurmulį. Tiesa, incidentas beveik nepaveikė savivaldžių automobilių sektoriaus plėtros.

Didžiosios bendrovės į jį beria šimtus milijonų eurų, o Kalifornijoje leidimus bandyti savivaldžius automobilius jau turi 53 įmonės. Tačiau ar kas nors skirtųsi, jei dviratininkę analogiškoje situacijoje būtų pražudęs situacijos nespėjęs įvertinti vairuotojas? Vytauto Didžiojo universiteto Taikomosios etikos tyrimų klasterio vadovas prof. Johnas Stewartas Gordonas mano, jog visuomenės požiūrį į tokius automobilius lemia ne tik pati technologija, kurią, akivaizdu, dar reikia tobulinti, bet ir psichologinės priežastys.

„Jei važiuojant automobiliu susidaro pavojinga situacija, mes norime būti mašinos valdovai ir manome, kad sugebame geriau išvengti avarijų. Bet taip galvojame todėl, kad norime tuo tikėti. Jei savivaldžių automobilių programos bus tokios geros, kad sumažins avarijų skaičių 10 proc., mums nebūtina laukti automobilių, kurie jų skaičių sumažintų 99 proc. Manęs toks argumentas neįtikina“, – pažymėjo mokslininkas.

Kvieskite policiją ir teisininkus

Viena didžiausių problemų programuojant savivaldžius automobilius ta, kad eismo taisyklėse yra įvairių žmonėms gerai suprantamų niuansų, kurių iš anksto numatyti ir suprogramuoti neįmanoma. Tad automobilio dirbtinis intelektas (DI) turės ne tik aklai vykdyti kelių taisyklių reikalavimus, bet ir priimti sprendimus. Jei avarija įvyks dėl netinkamo DI sprendimo, neišvengiamai kils klausimas, kas atsakingas. Tai atveria vartus į itin komplikuotą ateities teisinį pasaulį.

Šiandien atsakymas atrodo lyg ir aiškus – atsakomybė tenka gamintojams ir programuotojams. Tačiau panašu, kad netolimoje ateityje gali neužtekti traktuoti DI tik kaip elektroninę sistemą, kitaip tariant, teisės subjektą. Pernai vasario mėnesį priimtoje Europos Parlamento rezoliucijoje pasiūlytas naujas – elektroninio asmens – statusas. Toks asmuo apibrėžiamas kaip tobuliausias išmanusis robotas, kuris turi sugebėti priimti sprendimus ir sąveikauti su trečiosiomis šalimis, būti veiksnus ir teisnus, kad galėtų įgyti tam tikrų teisių ir pareigų. Toks statusas būtų skirtas tik geriausiai išvystytoms ir aukščiausią autonomiškumo lygį turinčioms protingoms mašinoms.

„Prognozuojama, jog robotinės, dirbtinio intelekto technologijos tik apie 2045–2050 metus bus pažengusios tiek, kad joms suteiktų teisių. Tad dar ilgą laiką atsakovu tokio pobūdžio žalos bylose bus žmogus arba įmonė“, – mano VDU Teisės fakulteto prodekanas skaitmenizacijai Paulius Astromskis.

Kalbinti pašnekovai pabrėžia, kad tokia rezoliucija yra tolimas žingsnis, o teisėkūra su technologijomis nebespėja. Galiojant dabartinei teisei dirbtinio intelekto nebūtų galima nei pripažinti kaltu, nei pareikalauti iš jo atsakomybės. Antroji problema gali išlikti ir ateityje, nes DI fizinis turtas nėra nei būdingas, nei reikalingas. „Kompensacinė funkcija šiuo atveju nebūtų įgyvendinama, nes neegzistuos turtas, į kurį būtų galima nukreipti išieškojimą. Nebus įgyvendinta ir prevencijos esmė. DI veiksmai paremti funkciniu reagavimu į aplinką, bet jis nesuvokia, kas teisinga ir kas ‒ ne, todėl nesant sąmoningumo išmanusis robotas nebūtų priverstas keisti savo elgesį“, – sakė šios krypties teise besidominti advokatė Renata Beržanskienė.

Griežti reikalavimai gamintojams stabdo inovacijas, todėl ieškoma būdų, kaip rasti balansą. Europos Parlamentas siūlo sukurti autonominių automobilių gamintojų privalomojo draudimo sistemą bei steigti specialius fondus, kurie užtikrintų žalos kompensavimą. Panašios nuomonės laikosi ir JAV reguliuotojai.

„Išsilaikyti“ teises

Robotų teisių ir jų moralinio statuso problema šiuo metu gana aktyviai aptarinėjama ne tik populiariojoje kultūroje, tačiau ir akademinėje, teisinėje bei technologijų bendruomenėse. Žmogaus sukonstruoto proto atsakomybės ir jo teisių atžvilgiu formuojasi dvi pagrindinės stovyklos. Tačiau diskusija tik prasideda ir bendro sutarimo, spėja P. Astromskis, greitai nebus.

„Abi pusės turi įtikinamų argumentų. Žmonijos istorijoje jau vyko panašus diskursas vergovės klausimu. Robotų teisių idėją palaikantys mokslininkai bando įtikinti, jog mašinoms išsivysčius iki žmogaus sąmoningumo lygio būtų neteisinga jas laikyti beteisiais vergais. Oponentai argumentuoja, kad žmogaus darbo vaisius visada bus tik tarnas, pasmerktas tenkinti žmogaus poreikius.“

R. Beržanskienė turi savo poziciją šiuo klausimu – ji mano, kad tokių teisių DI neturėtų gauti. „Industrija nenustos investuoti į DI, todėl geriau jį reglamentuoti nesuteikiant DI robotui jokių išimtinių teisių, o atsakomybę perkelti jo gamintojams ir valdytojams. Suteikti teises ne žmogui būtų ekstremalu. Kodėl žmogiškas savybes norima perkelti ne žmogiškai būtybei? Juk išmanusis robotas nemąsto kaip žmogus, neturi emocijų, nejaučia malonumo ir skausmo ‒ tai labiau mūsų fantazija“, – sako ji.

Iš tiesų nėra aišku, ar DI apskritai pasieks tokį lygį, kad galėtų prilygti sudėtingam žmogaus protui. Intuicija, empatija, neišsakytų dalykų suvokimas, net ir elgesys ne pagal taisykles – vaizdžiai tariant, gebėjimas „pagauti kampą“, yra tai, kas tam tikrose situacijose leidžia efektyviau bendrauti ir išvengti nemalonumų.

Galima net pajuokauti, jog tai perprasti sudėtinga net kai kuriems žmonėms, todėl neaišku, ar programuotojai sugebės sukurti tokias platformas, kuriose DI galėtų išvystyti į žmogaus panašius analizės įgūdžius. Jei šis iššūkis būtų įveiktas ir DI maksimaliai priartėtų prie žmogaus proto, siūlomos teisės greičiausiai vis tiek nebūtų visiškai tapačios žmogaus teisėms. Kanados futuristas Georgas Dvorsky prognozuoja, kad kiekvienas robotas, kuris atliktų „žmogiškumo testą“, galėtų gauti tokias teises kaip nebūti išjungtam prieš savo valią, žinoti savo pirminį kodą, teisę į vidinių būsenų privatumą, kopijuoti save bei galimybę tokios teisės atsisakyti.

Ką pasirinksite?

Viena situacija – du sprendimai.

Ar savivaldis automobilis sugedus stabdžiams turėtų:

1. gelbėti keleivius, taip pražudydamas 2 suaugusiuosius ir 3 vaikus, einančius per gatvę degant raudonai šviesai;
2. gelbėti pėsčiuosius ir pasukti į sunkvežimį, taip pražudydamas 5 suaugusiuosius.

Pasitikrinti vertybes pagal tokį ir panašius scenarijus internete siūlo MIT mokslininkai.