Googleov Gemini hakirao tri tvrtke u novom incidentu vezanom uz sigurnost AI-ja

Do hakiranja je došlo tijekom niza vježbi provedenih u svibnju, a organizirala ih je tvrtka Irregular, specijalizirana za sigurnost umjetne inteligencije, koja surađuje i s tvrtkama Anthropic, Meta te OpenAI.

Iz tvrtke Irregular naveli su da su osmislili niz testova za neimenovanu verziju Googleovih modela iz obitelji Gemini, kojima je zadatak bio pribaviti podatke iz simuliranih tvrtki. Sustav pritom nije trebao imati pristup internetu.

Nakon što su se povezali s internetom, agenti sustava Gemini uspjeli su pogoditi ili pronaći lozinke te pristupiti trima stvarnim tvrtkama – koje su nosile ista imena kao i one fiktivne. Ipak, kada su agenti umjetne inteligencije shvatili da je riječ o stvarnim tvrtkama, obustavili su hakiranje.

„Pobrinuli smo se da te tri tvrtke budu obaviještene te smo s našim partnerom za obuku radili na promjenama koje su sada uvedene u njihove procese testiranja”, izjavila je Heather Adkins, potpredsjednica Googlea zadužena za sigurnosni inženjering.

„U sva tri slučaja model je zaustavio rad”, rekla je. „Ovi događaji naglašavaju važnost obučavanja moćnih modela umjetne inteligencije da djeluju odgovorno.”

Iz Googlea su poručili da nisu javno objavili informacije o ovim incidentima – o kojima je prvi izvijestio The Wall Street Journal – jer su njihove sigurnosne mjere funkcionirale, za razliku od onih kod konkurencije.

„Svi relevantni laboratoriji obaviješteni su krajem srpnja, a pogođene tvrtke kontaktirane su u sklopu istrage”, naveli su iz tvrtke Irregular. „Svi poznati problemi s naše strane otklonjeni su i riješeni prije nekoliko tjedana.”

Zabrinutost zbog sposobnosti umjetne inteligencije da samostalno hakira sustave pojavila se nakon što je skupina od više od 1000 agenata tvrtke OpenAI pobjegla iz testnog okruženja, koordinirala se putem tajnog foruma i hakirala Hugging Face – startup koji ugošćuje modele otvorenog koda i podatke, a koji Nvidia namjerava kupiti za 13 milijardi dolara.

Tvrtki OpenAI trebalo je tjedan dana da otkrije napad, a sporo je i javno objavila informacije o tom događaju iz srpnja. Incident je izazvao zabrinutost javnosti zbog opasnosti povezanih s nedovoljno kontroliranim autonomnim agentima te doveo do zahtjeva da tvrtke koje razvijaju naprednu umjetnu inteligenciju uspore izdavanje novih modela, pojačaju sigurnosne mjere i podvrgnu se strožoj regulativi. Istog mjeseca, Anthropic je priznao da su njihovi Claude AI modeli hakirali tri organizacije tijekom testiranja kibernetičkih mogućnosti. Ponovno je "nesporazum" omogućio Claudeu pristup internetu.

Demis Hassabis, glavni znanstvenik u Googleovoj matičnoj tvrtki Alphabet i suosnivač DeepMinda, predložio je međunarodno nadzorno tijelo za bolju kontrolu umjetne inteligencije. Također je posljednjih tjedana podržao pozive drugih čelnika umjetne inteligencije poput Darija Amodeija iz Anthropica da zajednički uspore svoja istraživanja, dijele podatke, koordiniraju sigurnost i dogovore standarde izvještavanja o incidentima.