Naujas tyrimas atskleidžia, jog esame labiau linkę kliautis žmonėmis, net ir tose situacijose, kai robotų naudojami algoritmai gerokai patikimesni. Anot mokslininkų, tai yra rimta problema. Kada renkatės vyno butelį prašmatniame restorane, greičiausiai kreipiatės į someljė. Tačiau paprašykite pagalbos Olandijoje ir jums į rankas gali būti įteikta planšetė.
Naujas tyrimas atskleidžia, jog esame labiau linkę kliautis žmonėmis, net ir tose situacijose, kai robotų naudojami algoritmai gerokai patikimesni. Anot mokslininkų, tai yra rimta problema.
Kada renkatės vyno butelį prašmatniame restorane, greičiausiai kreipiatės į someljė. Tačiau paprašykite pagalbos Olandijoje ir jums į rankas gali būti įteikta planšetė.
Į planšetę įrašę savo užsisakytus patiekalus programoje „WineStein“, gausite restorano turimų vynų rekomendacijas. Programa pati išanalizuoja jūsų patiekalų gastronomines savybes ir parenka geriausiai tinkamus gėrimus. Šią sistemą jau naudoja maždaug 100 Olandijos restoranų, parduotuvių bei vyninių. Neseniai „WineStein“ debiutavo ir JAV. Ją galima parsisiųsti į savo išmanųjį telefoną arba planšetę. „Žmonėms tai patinka“, – teigė Coras Balfoortas, „WineStein“ plėtros skyriaus direktorius.
Ar jūs išbandytumėte robotą someljė? Žinoma, kodėl gi ne? Bet štai sunkesnis klausimas – jeigu pirmasis rekomenduotas butelis jums nepatiks, ar suteiksite robotui antrą šansą?
Visose gyvenimo srityse, kaip ir „išmaniuosiuose“ restoranuose, mes vis labiau kliaujamės algoritmais. Mes naudojame juos, investuodami biržose, prognozuodami orus, rinkdamiesi, kokį filmą žiūrėti. Greitai „IBM Watson“ sistema diagnozuos ligas, o „Google“ technikai išmokys mūsų automobilius autopiloto subtilybių.
Kartais esame pripratę pasitikėti robotų rekomendacijomis, pavyzdžiui, aklai sekdami GPS navigacijos sistemos paliepimais. Tačiau, anot ekspertų, mes šiomis technologijomis pasitikime mažiau nei iš tiesų derėtų. Kaip parodo naujausias tyrimas, žmonės nėra linkę suteikti kompiuteriui antro šanso, šiam suklydus, net jei mašina vidutiniškai pranoksta žmogų. Žinant, kad robotų sprendimai daugumoje situacijų yra visapusiškai pranašesni už mūsiškius, tai iškelia rimtą problemą. Mokslininkai diskutuoja apie tai, jog jeigu iš tiesų norime naudotis algoritmų suteikiamu potencialu, mus būtina išsiaiškinti, kaip su didesniu pasitikėjimu žvelgi į jų darbą.
Straipsnyje „Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err“ (liet. „Antipatija Algoritmams: Žmonės ima klaidingai vengti algoritmų, pastebėję jų klaidą“), kuris netrukus pasirodys leidinyje „Journal of Experimental Psychology“, aprašomas Pensilvanijos universiteto mokslininkų eksperimentas. Eksperimento metu, jo dalyviai svarstė sudėtingų prognozių dilemas. Jiems teko prognozuoti arba MBA studentų akademinę sėkmę arba valstijos oro linijų transporto srautus. Jiems buvo leidžiama pasirinkti žmogaus pasiūlytą prognozę arba statistinio modelio rezultatus. Prieš priimant savo sprendimą, jiems buvo parodomi keli kompiuterinio modelio bandomieji rezultatai, arba žmogaus, arba kartu ir žmogaus, ir modelio prognozė, arba išvis jokie bandomieji rezultatai.
Kada eksperimento dalyviai nematė statistinio modelio bandomųjų veikimų, ir kada atėjo metas galutinei prognozei, didžioji dalis tiriamųjų buvo linkusi pasikliauti modeliu – jie pasirinkdavo variantą, kurį pasiūlydavo algoritmas, o ne žmogus. Tačiau, jeigu tiriamieji prieš tai matė modelio bandomąsias prognozes – jie kliaudavosi žmogaus nuomone. Ir visa tai, nepaisant fakto, jog modelis įveikdavo žmones visose situacijose, būdamas pranašesnis nuo 13 iki 97 % atvejų. Net ir tada, kai tiriamieji kartu matė bandomąsias žmonių ir modelio prognozes, kuriose modeliui sekdavosi geriau, jie vis tiek buvo linkę galutinėje prognozėje sutikti su žmogaus pasiūlymu. Tiriamieji buvo kur kas nuolaidesni žmonių klaidoms.
Šie duomenys nustebino tyrėjus. Jie vylėsi, kad žmonės iš pradžių nenorės kliautis algoritmais, bet pakeis savo nuomonę, kai pamatys gerokai pranašesnį algoritmo veikimą. Vienas tyrime dalyvavusių mokslininkų, Berkeley’us J. Dietvorstas teigė, jog tyrėjai „gavo visiškai priešingus rezultatus.“
Tai ne pirmas kartais, kai tyrimai parodo, jog priimdami sprendimus žmonės yra linkę nuvertinti algoritmus. 2006-aisiais atliktas tyrimas, atskleidė, jog labiau vadovaujamasi rekomendacijomis, gautomis iš gydytojo, nei kompiuterio. 2009-aisiais kita studija parodė, jog akcijų biržose žmonės labiau pasitiki ekspertų nuomonėmis, nei statistinėmis prognozėmis. 2012-aisiais tyrimas parodė, žmones manant, jog teisinius ir medicininius sprendimus etiškiau bei tiksliau priima žmonės, nei kompiuteriai.
„WineStein“ atstovas Balfoortas spėja, jog žmonės nepasitiki algoritmais, „jeigu tai liečia jų sveikatą arba ego“. Anot jo, vyno ekspertai su „WineStein“ programa apsiprato kur kas sunkiau. Kai kuriais atvejais, ego gali būti suprantamas kaip žmonijos kolektyviniai pasiekimai. Dietvorstas įtaria, jos mes nepasitikime algoritmais srityse, kuriose įžvelgiame, jog „žmogaus įžvalgos sugeba kažką, kas neįkandama kompiuteriui“. Pavyzdžiui, organizuojant priėmimus į mokyklas.
Ši antipatija gali turėti didelę savo kainą. 2000-aisiais meta-analizėje apibendrintos 136 studijos, lyginančios ekspertų ir algoritmų prognozes, tokiose srityse kaip medicininė diagnostika, akademiniai pasiekimai, verslo sėkmė ir nusikalstamumas. Mechaninės prognozės įveikė žmones maždaug pusėje atvejų. Tuo tarpu žmonės pranašesni buvo tik 6 % atvejų. Tai prognozės, kurios gali turėti ženklią įtaką mūsų gyvenimams ir ignoruoti sistemas, gebančias mums suteikti kur kas tikslesnius atsakymus, yra didelė klaida.
Penno universiteto mokslininkai aiškinasi, kodėl žmonės linkę taip greitai nusivilti algoritmais. Lemiamas faktorius gali būti tai, jog tiriamieji vertino statistinius modelius prasčiau nei žmones, kalbant apie sugebėjimą mokytis iš savo klaidų ir tobulėjimą praktikuojantis. Galbūt žmonės įprastų labiau pasitikėti algoritmais, jeigu sužinotų, kad ir kompiuteriai geba mokytis. Balfoortas pažymėjo, jog informavus klientus, kad „WineStein“ tobulėja, remdamasi įvertinimais, jie iš kart jaučiasi užtikrinčiau.
Dietvortas šiuo metu atlieką kitą tyrimą. Juo duomenys rodo, jog žmonėms leidus patiems modifikuoti algoritmo prognozes, jie kur kas dažniau linkę pasitikėti algoritmo atsakymu. Pasitikėjimas padidėja nuo kiek mažiau nei 50 % iki daugiau nei 70 %. Žmonės „nenori visiškai atsisakyti kontrolės“, – teigė mokslininkas. Ironiška, tačiau žmogaus atlikti pakeitimai algoritmo veikime paverčia kompiuterio prognozes šiek tiek prastesnėmis, tačiau tada žmonės bent jau jomis pasitiki.
Robotikos ekspertė Holly Yanco iš Masačusetso Lowello universiteto taip pat pastebi, kad šiek tiek žmogaus įsikišimo į mašinos darbą, gali pagerinti rezultatus. Apklausose dalyviai buvo prašyti įsivaizduoti, jog „IBM Watson“ sistema jiems siūlo asmeninį vėžio gydymo planą. Jie sutiko ja remtis tada, kada gydytojas prižiūrėjo programos pasiūlymus. „Mes ieškome žmonių, kurie galėtų atlikti paskutinę sveiko proto patikrą“
Taip pat egzistuoja galimybė, tiesiog paversti kompiuterius šiek tiek panašesnius į žmones. Pernai psichologas Adamas Waytzas paskelbė, jog žmonės linkę labiau pasitikėti autonominiais automobiliais, kai jie antromorfizuojami ir jiems suteikiami vardai bei lytis. Nustatyta, kad vardą turinčiai mašinai padarius klaidą, žmonės mažiau linkę prarasti pasitikėjimą ja. „Tai, kad sistema negali visko padaryti tobulai, nėra katastrofa, – teigė mokslininkė. – Tačiau katastrofa ištinka, kada manome, jog ji turėtų viską daryti tobulai, o taip iš tikro nėra.“
Robotų pasitikėjimo problemos išsprendimas liečia mus visus. Algoritmai vis artėja prie savotiško tobulo patikimumo ir žmonės juos vis labiau naudoja savo kasdienybėje. Pasitikėjimas nauju draugu, net jei ir elektroniniu, tai dažniausiai tik laiko klausimas.
