Nustatyta, kad „ChatGPT“ gali parašyti kenkėjišką kodą, kuris būtų panaudojamas slaptos informacijos nutekinimui

Manipuliuodami „ChatGPT“ ir penkiomis kitomis komercinėmis dirbtinio intelekto priemonėmis tyrėjai sukūrė kenkėjišką kodą, kuris galėtų padėti nutekinti slaptą informaciją iš internetinių duomenų bazių, ištrinti svarbius duomenis arba sutrikdyti duomenų bazių debesijos paslaugas, rašoma „New Scientist“.

Asociatyvi „Pixabay“ nuotr.

„Tai pirmasis tyrimas, parodantis, kad didelių kalbos modelių pažeidžiamumas gali būti išnaudotas atakoms prieš internetines komercines programas“, – sako vienas iš tyrimo vadovų, Šefildo universiteto Jungtinėje Karalystėje mokslininkas Ksutanas Pengas.

K. Pengas ir jo kolegos išanalizavo šešias dirbtinio intelekto paslaugas, galinčias versti žmogaus klausimus į SQL programavimo kalbą, kuri paprastai naudojama užklausoms kompiuterių duomenų bazėms teikti.

Dirbtiniu intelektu paremtos „teksto vertimo į SQL“ sistemos vis labiau populiarėja – net atskiri dirbtinio intelekto pokalbių robotai, pavyzdžiui, „OpenAI“ sukurtas „ChatGPT“, gali sugeneruoti SQL kodą, kurį galima įjungti į tokias duomenų bazes.

Tyrėjai parodė, kaip į šį dirbtinio intelekto sukurtą kodą galima įterpti nurodymus nutekinti duomenų bazės informaciją, o tai gali atverti kelią būsimoms kibernetinėms atakoms. SQL taip pat galėtų išvalyti sistemos duomenų bazes, kuriose saugomi autorizuotų naudotojų profiliai, įskaitant vardus ir slaptažodžius, ir užvaldyti debesijos serverius, kuriuose saugomos duomenų bazės, surengdamas paskirstytą paslaugos trikdymo (angl. denial-of-service) ataką.

2023 m. vasarį atlikti bandymai su „OpenAI“ sukurtu „ChatGPT“ atskleidė, kad savarankiškas dirbtinio intelekto pokalbių robotas gali sugeneruoti SQL kodą, kuris sugadina duomenų bazes.

„Šių įrankių sukurtas kodas gali būti pavojingas, tačiau naudotojas gali būti apie tai net neperspėtas“, – sako K. Pengas.

Tyrėjai pateikė savo išvadas bendrovei „OpenAI“. Atlikus tolesnius bandymus paaiškėjo, kad „OpenAI“ atnaujino „ChatGPT“ ir pašalino teksto vertimo į SQL problemas.

Kita analizė atskleidė panašaus pobūdžio Kinijos technologijų milžinės „Baidu“ siūlomos išmaniosios dialogo platformos, kuri automatiškai konvertuoja kinų kalba parašytus klientų klausimus į SQL užklausas, – pažeidžiamumą.

Nei „OpenAI“, nei „Baidu“ neatsakė į „New Scientist“ prašymą pakomentuoti tyrimą.