‘Za pola godine ili godinu može biti puno veći problem koji će neki agent sa većim sposobnostima i većim kontrolama napraviti’
O umjetnoj inteligenciji već se razvio čitav žanr apokaliptičnih vijesti. Gotovo svakog trenutka stvara se dojam da je iza ugla nova velika prijetnja ili sudbonosan događaj. Tako se krajem rujna mnogo govorilo o mogućem dogovoru čelnika SAD-a i Kine o umjetnoj inteligenciji, no od toga na kraju nije bilo ništa.
Istodobno stižu upozorenja da se infrastruktura umjetne inteligencije počinje raspadati te da bi balon precijenjenih kompanija mogao puknuti 2027. godine. To ne tvrdi bilo tko, nego Michael Burry, poznat po tome što je predvidio financijsku krizu 2008. godine. Njega je u kultnom filmu utjelovio Christian Bale.
Uz takva upozorenja pojavljuju se i vijesti o slučajevima u kojima je umjetna inteligencija navodno hakirala neki sustav. Među posljednjima se kao „žrtva“ spominje australski zdravstveni sustav.
Prošlog tjedna Donald Trump izjavio je da će čelnicima najvećih AI kompanija prepustiti da sami reguliraju svoje poslovanje. Je li to dobra odluka i što se uopće može smatrati pametnim potezom? Možda je to svojedobno najbolje analizirao Jerry Seinfeld.
Sve apokaliptične i lažno apokaliptične scenarije vezane uz umjetnu, odnosno superinteligenciju, s istraživačem Acom Momčilovićem prošao je reporter i voditelj Ivan Skorin u RTL Direktu.
Čim je Trump spomenuo super inteligenciju, u Sloveniji je navala na domene.si, jeste li Vi zakupili koju? Da se nađe.
Jedan prijatelj mi je to čak sugerirao, malo sam razmislio o tome ali ne, još uvijek nemam svoju.si domenu. Ali ja se drži Kalifornije i ne želim još koristiti taj termin super inteligencija, mislim da nema smisla.
Molim? Pa Trump je rekao da moramo to sada koristiti.
Pa da, nažalost, ono što je on napravio samo pokazuje da je to jedna politička odluka. On je dao naredbu da se koristi taj naziv, ali zapravo nema promjene za samu tehnologiju, nema promjene niti u zakonima tako da je to ostalo samo ja jednoj površnoj razini.
Eh, sad o zakonima. Bilo je dosta zazivanja toga da se treba na neki način regulirati. I onda imamo onaj nastup od prije nekoliko dana, gdje Trump sa svim najjačim igračima kaže: ‘Ma, oni će sami sebe regulirati’. Je li to moguće, da oni sami sebe reguliraju?
Ne bih rekao da je to moguće. Oni sami sebe neće regulirati, ali su napravili nekakve pomake u smislu sadržaja: dogovorili su interne kontrole, čak i nekakvu eksternu kontrolu i proces izvještavanja. Ono što je problematično oko toga je da je to dogovor koji nije obvezujući. Nema rokova, nema kazni ni sustava kontrole.
Znači, to sve ostaje na razini: ‘Imamo nekakav izvještaj’, ali da li će on imati nekakvih posljedica, to zasada uopće nije jasno.
Čak je i šef Anthropica, Dario Amodei, rekao u svom eseju da su potrebne regulacije. Naveo je konkretne primjere na koji bi to način bilo moguće, a ovdje ništa?
Oni su čak sadržajno donekle slijedili tu ideju, nije loše imati te sustave, napraviti nekakvu regulaciju, pokušati dogovoriti na međunarodnoj razini.
Mislite, oni unutar sebe. Ali kao država?
Oni kao država idu u tom smjeru, ali ne prejako. Problem je da nije obvezujuće i nije se ništa zasada fundamentalno promijenilo. Ne kažem da to nije dobar prvi korak, ali ne može biti jedini korak.
Imali smo već brojne primjere toga da je nešto pošlo po zlu unutar tog sustava testiranja. Posljednji u nizu je australski zdravstveni sustav koji je hakiran od strane Open AI-ja. I to su dosta kasnije otkrili. Što nam to govori?
Ima više problema oko toga. To samo po sebi nije neki cyber Security problem, oni ipak nisu neke najosjetljivije informacije dohvatili ali, što se dogodilo: prva stvar, otkad se sam taj događaj dogodio do kad je uočen od strane kompanije koja stvara taj model, prošlo je mjesec dana. A do raportiranja tog problema je prošlo još mjesec dana i naravno da australska vlada sa time uopće nije bila zadovoljna. Znači, mi nemamo postavljen jasan proces prijave incidenata koji se događaju.
Drugi problem s time je da zapravo ni kompanija koja ga je proizvela nije bila svjesna toga dobar dio vremena.
Kako je to moguće? Meni kao laiku, kad čitam te sve stvari, opet mi se čini da mi netko treba pojednostaviti. Znači, nije neki programer dao uputu ‘Hakiraj zdravstveni sustav Australije’. On je dao neku drugu uputu, a ovaj sustav je napravio to?
Da. Najvjerojatnije se dogodilo da je on imao nekakav zadatak i on je pronašao nekakav svoj put kako da obavi taj zadatak. Ono što je problematično, kada je on naletio na nekakve obrambene mehanizme, nije shvatio da to ne smije raditi, nego kao prepreku koju mora zaobići i zapravo je ta posljedica izazvana – kao u drugim primjerima…
Kad kažete ‘on’, mislite AI?
Tako je, AI sustav, AI agent.
Znači, program. Sam je išao varati?
Njemu nitko nije rekao da točno to napravi nego je on vjerojatno dobio nekakav drugi zadatak, a onda mu se u jednom od koraka ovo postavilo kao nekakav cilj koji je interno postavio i on ga je išao bez direktne naredbe obaviti.
To je sada bio takav problem, ali to za pola godine ili godinu može biti puno veći problem koji će neki agent sa većim sposobnostima i većim kontrolama, koje možda nisu postavljene, napraviti.
Imamo drugu stranu cijele te priče. Koliko sve te apokaliptične najave da će možda imati 10 % šanse da uništi čovječanstvo su marketinški trik s jedne strane, a s druge strane ovo što ste opisali je opasno, i bit će još opasnije?
Rekao bih da su sve te procjene o 10 % vrlo subjektivne procjene. Mi nemamo nikakvu stvarnu matematiku iza toga i dosta toga stvarno je prenapuhano. Ali, s druge strane, mi uopće ne moramo imati toliko problematične stvari, možemo imati upravo ovakve primjere na malo većoj skali gdje mi zapravo postupno gubimo kontrolu nad agentima koji mogu napraviti jako puno vrlo ozbiljne štete.
Znači, neće nas ubiti, ali će nas oštetiti?
Ja uvijek govorim u periodu sljedećih godinu dana maksimalno dvije. Svakako se slažem da nismo globalno ugroženi životno, ali da bi moglo biti ozbiljnih problema u financijskom sustavu, zdravstvenom, to bi moglo biti, ako se ovako nastavi razvijati modele i ne kontrolirati ih.
Ima jedna nova knjiga koja govori o programerima koji rade na svim tim sustavima i kažu da oni povlače svoju ušteđevinu. Koliko to zlokobno zvuči?
To zvuči dosta zlokobno međutim, rekao bih da su oni isto dosta vjerojatno… nadam da se da je to posljedica psiholoških femonena gdje su oni jednostavno u nekakvom mjehuriću i zapravo prenaglašeno vide nekakve opasnosti koje nisu toliko realne i možda ne mogu vidjeti objektivno stvari, ali opet, radi se o pojedinim slučajevima kojih se nakupilo više, ali i dalje se ne radi o velikom postotku programera niti zaposlenika tih kompanija.
Kad smo kod mjehurića, koliko je cijela ova priča o tim megabogatim supervrijednim kompanijama balon koji bi mogao puknuti?
Ja ne bih to nazvao balonom jer to podrazumijeva da doslovno ništa ne postoji u balonu i da će samo odjednom puknuti, ali ono što je problem i neki autori jesu upozoravali na to, je da postoji koncentracija. Mi praktički imamo dvije ili tri firme o kojima ovisi cijeli ekosustav, znači o njihovoj nekakvoj zaradi, investicijama u infrastrukturu njihovih vlasnika, znači Microsofta itd. I onda sve to dolazi gore do Nvidie koja ima 70 % svojih prihoda praktički u AI od strane možda pet kompanija.
Znači, ako se dogodi da bilo koja u tom lancu prvih AI kompanija, Open AI, Anthropic, kažu: ‘Mi imamo lošiji kvartal’ ili ‘Smanjujemo nekakvo ulaganje’, to može izazvati nekakve realne posljedice po njihovo tržište.
Oni već imaju puno loših kvartala, nije da sad zarađuju ogromne novce. Još uvijek dosta više troše nego što zarađuju…
Ali to je definicija lošeg kvartala. Oni nisu ni obećavali da će zaraditi, ali ono što se događa i stvarno je impresivno je porast njihovih prihoda. Oni i dalje, ja bih rekao, vrlo značajno nadilaze mnoge projekcije koje su prije postojale tako da oni to definiraju kao uspješne kvartale, ali u teoriji se može dogoditi da se neke stvari promijene i da oni kažu…
Da, ali ako ti prihodi idu u krug, jedna tvrtka daje svoje prihode drugoj, pa onda ovi proslijede trećoj, svi si napišu kao da imaju ogroman porast prihoda, a to je ustvari jedan te isti novac koji se vrti…
Da, to je realan problem te cirkularnosti i na to jesu neki upozoravali – da kad jedna karika u lancu pukne, da se to može ozbiljno odraziti i na sve ostale u tom sustavu.
Ali Vi, mislite da hoće ili neće?
Ja nisam tu da predviđam, teško mi je reći što će biti. Njih u svakom slučaju vežu investicije. Ono što je sigurno je da oni u sljedećih par godina imaju obaveznih investicija, radi se o preko 500 milijardi, što je jako zanimljivo možda i za naše prvo pitanje: obaveza investiranja u infrastrukturu su obavezna. A obaveze vezane uz sigurnost su moralne, ako želite, ako sami pristajete na to. Što je vrlo interesantno, prenosi Danas.hr.
