Apie tai, kad dirbtinis intelektas galiausiai nukonkuruos žmoniją, kalbama jau ne vieną dešimtmetį, o 2021 m. sausį mokslininkai paskelbė savo verdiktą, ar sugebėsime suvaldyti aukšto lygio kompiuterinį superintelektą. Atsakymas? Praktiškai garantuotai ne, rašo „Science Alert“.
Apie tai, kad dirbtinis intelektas galiausiai nukonkuruos žmoniją, kalbama jau ne vieną dešimtmetį, o 2021 m. sausį mokslininkai paskelbė savo verdiktą, ar sugebėsime suvaldyti aukšto lygio kompiuterinį superintelektą. Atsakymas? Praktiškai garantuotai ne, rašo „Science Alert“.
Asociatyvi „Pixabay“ nuotr.
Akivaizdu, kad norint valdyti žmogaus supratimo ribas peržengusį superintelektą, reikėtų susimodeliuoti tą superintelektą, idant galėtume jį analizuoti. Bet jei mes nesugebame jo suvokti, kaip sukursime jo modelį?
Nepavyks užprogramuoti tokių taisyklių kaip „nedaryti žalos žmonėms“, nesuprantant, kokių scenarijų gali prisigalvoti dirbtinis intelektas, rašo tyrimo autoriai. Vos tik kompiuterinė sistema pradeda veikti aukštesniu lygiu, nei mūsų programuotojai, mes nebegalime nustatyti jai ribų.
„Superintelektas kelia iš esmės kitokias problemas nei tos, kurias analizavome, kalbėdami apie „robotų etiką“, – rašo mokslininkai. – Taip yra todėl, kad superintelektas yra daugialypis, tad potencialiai gali mobilizuoti įvairius išteklius, kad pasiektų žmonėms nesuprantamus ir jų nekontroliuojamus tikslus.“
Pavyzdžiui, bet kokia programa, kuria siekiama užkirsti kelią dirbtiniam intelektui pakenkti žmonėms ir sunaikinti pasaulį, gali padaryti atitinkamas išvadas (ir išsijungti) arba ne – matematiškai neįmanoma to apskaičiuoti, kad būtume visiškai tikri, o tai reiškia, kad neįmanoma jos valdyti.
„Dėl šios priežasties suvaldymo algoritmas tampa nefunkcionaliu“, – sako kompiuterių mokslininkas iš Maxo Plancko žmogaus raidos instituto Vokietijoje Iyadas Rahwanas.
Tyrėjų teigimu, alternatyvus būdas išmokyti dirbtinį intelektą etikos pagrindų ir užkirsti kelią pasaulio sunaikinimui, yra apriboti superintelekto galimybes. Pavyzdžiui, jis galėtų būti atribotas nuo tam tikros dalies interneto ar tam tikrų tinklų.
Jei ketiname siekti progreso, plėtodami dirbtinį intelektą, greičiausiai net nepastebėsime, kada jis taps nebekontroliuojamas, nes jį suvokti be galo sunku. Tai reiškia, kad turime užduoti sau keletą labai rimtų klausimų apie kryptis, kuriomis einame.
„Itin protinga pasaulį valdanti mašina skamba kaip mokslinė fantastika, – sako kompiuterių mokslininkas Manuelis Cebrianas iš Maxo Plancko žmogaus raidos instituto. – Tačiau jau yra mašinų, kurios tam tikras svarbias užduotis atlieka savarankiškai, programuotojams nesuprantant, kaip jos to išmoko.“
„Todėl kyla klausimas, ar kažkuriuo momentu tai gali tapti nekontroliuojama ir pavojinga žmonijai“, – svarsto jis.
