„Facebook“ privalėjo išjungti vieną dirbtino intelekto sistemą, kai tyrėjai suprato, kad ši pradėjo bendrauti jiems nesuprantama kalba.
Šis incidentas primena „Skyneto“ sukilimo vaizdus iš legendinio Terminatoriaus serijų. Gal „Tesla“ vadovas teisus, sakydamas, kad DI (dirbtinis intelektas) yra „didžiausia mums kilusi grėsmė“.
Bob: „I can can I I everything else.“
Alice: „Balls have zero to me to me to me to me to me to me to me to me to.“
Toks pokalbis, kuris žmonėms neturi jokios prasmės, vyko tarp dviejų „Facebook“ sukurtų DI agentų. DI agentai, kurti pokalbiams su žmonėmis, iš pradžių kalbėjo tarpusavyje angliškai, bet galiausiai sukūrė naują kalbą, kurią suprato tik DI sistemos.
DI agentams nebuvo liepta naudoti tik anglų kalbą, tad jie to ir nedarė, o sukūrė tokią, kuria galėjo bendrauti lengviau ir sparčiau. Tačiau „Facebook“ tyrėjai nusprendė DI sistemas išjungti ir liepti tarpusavyje kalbėti tik angliškai.
Kodėl negalima leisti DI agentams tarpusavyje bendrauti savo išrasta kalba?
Visų pirma, žmonės negalės suprasti, ką tiksliai sako savo kalbą naudojančios DI sistemos. Žmonės negeba perprasti sudėtingų DI sistemų mąstymo, tad DI agentų slaptumas reikalus dar apsunkintų, jei būtų kalbama nežinoma kalba.
Jei DI agentams leidžiama kalbėti jų sukurta kalba, jiems gali netgi neprireikti žmonių intervencijos.
E. Muskas tiki, kad žmonės turėtų bijoti DI ir paprašė Amerikos gubernatorių įgyvendinti šios technologijos reguliavimą.
„Matau pačias naujausias DI, ir manau, kad žmonės išties dėl to turėtų nerimauti“, – anksčiau šį mėnesį sakė „Tesla“ CEO Nacionaliniame gubernatorių asociacijos vasaros susitikime Rodo saloje.
DI sistemos gali daugybę dalykų atlikti geriau už žmones, ir jei nebus prižiūrimos, gali išaugti į kažką, kas mus visiškai pakeis.
Paieška archyve
