Stručnjak za kibernetičku sigurnost Tomislav Vazdar objašnjava zašto incident ne znači da se umjetna inteligencija ‘otela kontroli’ te upozorava na zanimljivu poruku koju OpenAI šalje tržištu
Dogodio se novi incident povezan s umjetnom inteligencijom. Tvrtka OpenAI objavila je da je obustavila testiranje svojih najnaprednijih modela.
Jedan od njih pronašao je način kako zaobići zabranu pristupa internetu. Iskoristio je propust u DNS zaštiti, nakon čega je stupio u kontakt s vanjskim chatbotom. Osim toga, neočekivano je ostvario interakciju s internetskim stranicama američke vlade i pritom kopirao njihove informacije.
Stručnjak za kibernetičku sigurnost Tomislav Vazdar upozorava da ovaj događaj ne treba promatrati kao situaciju u kojoj je umjetna inteligencija izmaknula kontroli.
“Ne govorimo o modelu koji je odjednom pobjegao s lanca, koji se oteo kontroli. Govorimo o kontroliranom testnom okruženju gdje model umjetne inteligencije provodi sve što mu je čovjek zadao. U ovom konkretnom slučaju, imao je zadatak da istraži tko je autor bloga, ali kako su modeli programirani na način da nas zadovolje i da nam ponude još malo dodatno nešto, on je samo izvršavao što mu je dao čovjek. Radi se zapravo o ljudskoj grešci, jer mu nisu spuštene te kontrole koje su trebale biti i model je radio što želi”, rekao je Vazdar za RTL Danas.
‘Strah je najbolje marketinško sredstvo’
Vazdar u tome što je kompanija javno objavila ovaj incident vidi i poruku koju želi poslati tržištu.
“Što vam kompanija poručuje? Poruka je: ‘Mi imamo moćne modele, mi znamo te modele obuzdat i samo mi znamo sa njima raditi’. Naravno, poruka koju ovako pošaljete, znači, pošalje i autoritet, pošalje i strah prema potencijalnim kupcima. I naravno, kada vi morate odlučiti, pa koji ćemo model iskoristiti za našu tvrtku. Vjerojatno onaj s kojim kompanija zna upravljati. Strah je najbolje marketinško sredstvo.”
