Ką turės gelbėti išmanus automobilis – vairuotoją ar pėsčiąjį?

Masiškai naudojami vairuotojo nereikalaujantys automobiliai – jau ne už kalnų. Todėl jau dabar keliami įvairūs etiniai ir saugumo klausimai, susiję su dirbtinio intelekto pasirinkimais kelyje.

Įsivaizduokite: jūs vairuojate automobilį, ir priešais jus – žiūrėdamas į kitą pusę – iššoka žmogus. Jūs staigiai stabdote, kad nenumuštumėte žioplinėtojo – ir į jus rėžiasi iš galo važiavusi mašina.

Kaip vairuotojas jūs sąmoningai pasirinkote, prisiimdami susidūrimo riziką: nuo išsiblaškiusio pėsčiojo – ant savęs ir savo automobilio keleivių. Ir šis pasirinkimas buvo ne tik sąmoningas pavojaus įvertinimas (aišku, kad teoriškai žmonės automobilyje yra saugesni už pėsčiąjį), tačiau ir moraliniais principais, o gal ir paprasčiausiais refleksais.

BBC savo straipsnyje siūlo dar apsunkinti užduotį. Pavyzdžiui, jūsų stabdžiai nebeveikia – ir jūs turite išsirinkti: sutraiškyti bėdžių pėsčiąjį ar sukti į šalikelę ir ten numušti kelis atsitiktinius praeivius?

Jeigu ir čia jūs lengvai pasirinksite „mažesnę blogybę“, tai įsivaizduokite, kad į kelią iššoka nėščia moteris, o gal jūsų draugas ar vaikas? Tokios aplinkybės gali paveikti jūsų apsisprendimą, ypač kai apsispręsti dėl to turite akimirką.

Dirbtinio intelekto moralės klausimas

O dabar įsivaizduokite, kad jūs esate keleivis, mašinoje nėra jokio vairuotojo – tai nepilotuojamas automobilis, robotas. Kokį moralinį pasirinkimą turi jį valdantis dirbtinis intelektas – kaip jį reikia programuoti?

Šį klausimą jau ne pirmus metus sprendžia nepilotuojamų automobilių kūrėjai – nuo „Audi“ iki „Yandex“, „Toyota“, „Tesla“. Tačiau mokslininkai pažymi, kad atsakymas į jį stipriai priklauso nuo to, ko jūs klausiate.

Ką gelbėti – senolį ar vaiką?

Siekiant sukurti universalų nepilotuojamų mašinų sprendimų algoritmą, Masačiusetso technologijų instituto mokslininkai sukūrė specialų testą, kurį galėjo pildyti visi pageidaujantys.

Kiekvienam apklausos dalyviui buvo siūloma pasirinkti hipotetinėse kelių situacijose – panašiose į tas, kurios pateiktos šiame tekste, – kuriose vairuotojai privalo atlikti moralinį pasirinkimą, neišvengiamai nulemiantį mirtiną baigtį. Pavyzdžiui, autostradoje numušti tris pagyvenusius žmones – ar nukreipti automobilį į betoninę sieną, tuo pačiu užmušant tris keleivius.

Siekiant tiksliau nustatyti respondentų prioritetus, internete pateikto testo scenarijai skyrėsi. Ką apklausos dalyviai pasirinks išgelbėti – jaunus ar pagyvenusius? Neturtingus ar turčius? Vieną vaiką ar kelis suaugusius?

Eksperimento, kurio rezultatai buvo publikuoti žurnale „Nature“, apimtys yra įspūdingos: per pusantrų metų jame sudalyvavo 2,3 mln. žmonių iš 233 šalių ir teritorijų (testas buvo išverstas į dešimtis kalbų). Viso mokslininkai surinko beveik 40 mln. atsakymų. Išanalizavę duomenų bazę jie pateikė kelias svarbias išvadas.

Atsakymus nulemia gyvenamoji vieta ir demografiniai rodikliai

Pirmoji – ir, tikėtina, svarbiausiai jų: moralinius prioritetus itin stipriai nulemia gyvenamoji vieta. Tyrimo autoriai išskyrė tris šalių tipus, kuriuos vadino „vakarų“, „rytų“ ir „pietų“. Tai ne geografinis paskirstymas, nes Prancūzija jame pateko į „pietus“, o Egiptas į „rytus“. Lietuva, kaip ir daugelis pasaulio valstybių, priskirtos „vakarams“.

„Vakarai“ dažniau stengėsi gelbėti jaunus žmones, o „rytai“ – pagyvenusius. „Pietų“ šalių atstovai dažniau stengėsi gelbėti moteris ir vaikus, o taip pat žmones, turinčius aukštesnį socialinį statusą. Lyginant su „rytų“ šalimis, socialinis statusas taip pat buvo svarbus ir „vakarų“ valstybių gyventojams.

„Rytų“ gyventojai beveik nekreipė dėmesio į išgelbėtų gyvybių skaičių, kuomet reikėjo daryti pasirinkimą, ir rėmėsi kitais faktoriais.

Antroji išvada: atsakymai priklauso ir nuo demografinių eksperimento dalyvių rodiklių, tokių kaip lytis, amžius ir panašiai – tačiau jau ne taip stipriai.

Ir trečioji – gana akivaizdi: moralinis pasirinkimas stipriai siejasi su respondentų šalies kultūriniais etikos ypatumais ir pilietiškumo institucijų tvirtumu.

Pavyzdžiui, turtingesnių valstybių su stipria ir nepriklausoma teisine santvarka (Suomija ir Japonija) gyventojai rodė daug mažiau simpatijų pėsčiajam, kuris išėjo į gatvę ne vietoje, negu Nigerijos ar Pakistano respondentai.

„Universalių taisyklių nėra“

Apklausa atskleidė ne vieną paradoksą. Viena vertus, daugelis respondentų pareiškė, kad dirbtinio intelekto valdomas automobilis turi visų pirma rūpintis pėsčiųjų saugumu, net jeigu tai reikštų papildomą riziką pėstiesiems. Kita vertus – žmonės prisipažino, kad patys taip užprogramuoto automobilio savo noru nepirktų.

Būtent tai MIT mokslininkus pastūmėjo prie išvados: mašinų kūrėjai tikisi sukurti robotams kažkokį idealių taisyklių rinkinį, kuris iš esmės neegzistuoja.

Kritikai tokį tyrimą vadino neetišku. Ne tik todėl, kad realybėje toks pasirinkimas žmogui gali tekti itin retais atvejais, tačiau ir dėl to, kad tenka spręsti, kas miršta, o kas gyvena sėdint prie kompiuterio ekrano. Realybėje tokių įvykių metu viskas vyksta akimirksniu ir galvoti apie pasekmes nėra kada.

Tačiau tyrimo autoriai tvirtina, kad vienaip ar kitaip moralinį pasirinkimą vairuotojai daro kasdien – tegul ir ne su tokiomis dramatiškomis pasekmėmis. Ekspertų teigimu, gamintojai būtinai turės atsižvelgti ir į kultūrinius skirtumu – „vienos robotų moralės“ visam pasauliui nepaskirsi.