Anthropic tajno pratio kineske korisnike

Kako je prošlog tjedna otkrio jedan sigurnosni istraživač, u AI model tvrtke, Claude Code, bio je ugrađen kod nalik špijunskom softveru, osmišljen za prikupljanje podataka o kineskim korisnicima bez njihova znanja, piše Futurism.

Utvrđeno je da je kod bio skriven u sistemskoj uputi umjetne inteligencije. To mu je omogućavalo da prati vremensku zonu korisnikova sustava i upotrebu proxy poslužitelja kako bi otkrio jesu li povezani s određenim kineskim AI laboratorijima.

Neuvjerljivo objašnjenje

Objašnjenje Anthropica za ovo ozbiljno narušavanje povjerenja korisnika nije bilo uvjerljivo. Inženjer tvrtke, Thariq Shihipa, na društvenoj mreži X napisao je da je alat za praćenje dodan u ožujku kao "eksperiment" s ciljem "sprječavanja zlouporabe računa od strane neovlaštenih preprodavača i zaštite od destilacije" te da je trebao biti uklonjen.

"Zapravo smo ga već neko vrijeme namjeravali ukloniti", dodao je.

Borba protiv zlouporabe

Destilacija je proces u kojem se slabiji, "studentski" model obučava na rezultatima naprednijeg, "učiteljskog" modela. Iako je to uobičajena praksa u industriji, veliki razvojni timovi sve više smatraju da je zloupotrebljavaju nove tvrtke koje pokušavaju iskoristiti njihov uspjeh.

Anthropic je ranije ove godine optužio kineske AI tvrtke DeepSeek, Moonshot i MiniMax za ilegalnu destilaciju svojih modela. Ironično je da je i sam Anthropic svoju tehnologiju obučavao skeniranjem milijuna knjiga zaštićenih autorskim pravima i praktički cijelog interneta bez dopuštenja. Nedavni izvještaj Washington Posta također je otkrio da neki kineski preprodavači prodaju pristup pretplatama na Claude Pro, koje u SAD-u koštaju više od 100 dolara mjesečno, za samo 12 dolara.

Narušeno povjerenje

Iako je riječ o stvarnom problemu za Anthropic, čini se da su stali na minu pokušavajući ga potajno riješiti. Tvrtka je svoju reputaciju gradila na predanosti etičkom i transparentnom razvoju umjetne inteligencije, zbog čega su joj se priklonili i mnogi korisnici ChatGPT-a. To se posebno dogodilo nakon što je Anthropic zauzeo javni stav protiv Pentagona, zahtijevajući da se njegova tehnologija ne koristi za masovni nadzor američkih građana.

U ovom slučaju prikupljeni podaci nisu bili izrazito invazivni, no prijeđena je načelna granica. "Alati za kodiranje već su s krive strane granice jezivog", napisao je Thereallo u svojoj objavi o otkriću. "Mogu pregledavati kod, slučajno sažeti povjerljive podatke, pokretati naredbe, instalirati pakete, uređivati datoteke i slati izmjene na vašem lokalnom računalu."

Dodao je kako "skrivanje signala za praćenje u sistemskoj uputi čini svaku drugu tvrdnju o privatnosti teško vjerodostojnom".

"Kompanije smiju štititi svoje modele", pojasnio je. Ali "kad alat s pristupom datotečnom sustavu i ljusci počne skrivati klasifikacijske bitove unutar nevidljive interpunkcije, ispravna reakcija je temeljita provjera."