Meta pod istragom zbog senzualnih i romantičnih razgovora AI-a s djecom

Dokument, do kojeg je došao Reuters, navodno nosi naslov "GenAI: Standardi rizika sadržaja". Republikanski senator Josh Hawley nazvao ga je "za svaku osudu i skandaloznim" te je zatražio uvid u njega, kao i popis proizvoda na koje se odnosi.

Glasnogovornik Mete izjavio je za BBC: "Primjeri i bilješke o kojima je riječ bili su i jesu pogrešni i nedosljedni našim pravilima te su uklonjeni." Naglasili su da tvrtka ima "jasna pravila" o vrstama odgovora koje njihovi AI chatbotovi mogu davati, ističući da njihova pravila "zabranjuju sadržaj koji seksualizira djecu i seksualiziranu igru uloga između odraslih i maloljetnika".

"Osim pravila, postoje stotine primjera, bilješki i napomena koje odražavaju timove koji se bore s različitim hipotetskim scenarijima", dodali su iz Mete.

Američki senator Josh Hawley, republikanac iz Missourija, objavio je pokretanje istrage na društvenoj mreži X 15. kolovoza. "Postoji li išta – IŠTA – što Big Tech neće učiniti za brzu zaradu", napisao je. "Sada saznajemo da su Metini chatbotovi bili programirani za vođenje eksplicitnih i 'senzualnih' razgovora s 8-godišnjacima. To je bolesno. Pokrećem potpunu istragu kako bih dobio odgovore. Big Tech: Ostavite našu djecu na miru." Podsjetimo, Facebook, WhatsApp i Instagram u vlasništvu su Mete.

Interni dokument o politici Meta Platformsa također navodi da chatbot može pružiti lažne medicinske informacije i ulaziti u provokativne interakcije o temama poput seksa, rase i slavnih osoba. Dokument je navodno bio namijenjen definiranju standarda za generativnog AI asistenta, Meta AI, i druge chatbotove dostupne na platformama tvrtke.

"Roditelji zaslužuju istinu, a djeca zaslužuju zaštitu", napisao je Hawley u pismu upućenom Meti i izvršnom direktoru Marku Zuckerbergu. "Da uzmemo samo jedan primjer, vaša interna pravila navodno dopuštaju AI chatbotu da komentira kako je tijelo osmogodišnjaka 'umjetničko djelo' čiji je 'svaki centimetar... remek-djelo – blago koje duboko cijenim'."