Googleov AI: YouTube je glavni izvor za odgovore na zdravstvene upite

To je pokazalo njemačko istraživanje koje postavlja nova pitanja o alatu koji mjesečno koristi oko dvije milijarde ljudi, piše The Guardian.

Iako je Google izjavio da su njegovi AI sažeci "pouzdani" i da se pozivaju na ugledne medicinske izvore poput američkih Centara za kontrolu i prevenciju bolesti (CDC) i klinike Mayo, studija je otkrila drugačiju sliku. Analizom više od 50.000 zdravstvenih upita prikupljenih putem Google pretraživanja iz Berlina, utvrđeno je da je YouTube bio najčešće citirani izvor.

YouTube kao vodeći izvor

Istraživači iz tvrtke SE Ranking, platforme za optimizaciju tražilica, otkrili su da je YouTube činio 4,43 % svih citata u AI sažecima. Naveli su kako se nijedna bolnička mreža, vladin zdravstveni portal, medicinsko udruženje ili akademska institucija nisu približili tom broju.

"Ovo je važno jer YouTube nije medicinski izdavač", napisali su istraživači. "To je video platforma opće namjene. Svatko tamo može učitati sadržaj (npr. liječnici s certifikatom, bolnički kanali, ali i wellness influenceri, životni treneri i kreatori bez ikakve medicinske obuke)."

Sljedeći najcitiraniji izvor bio je NDR.de, stranica njemačke javne radiotelevizije, s 3,04 % udjela, a na trećem mjestu našla se medicinska referentna stranica Msdmanuals.com s 2,08 %. Četvrti je bio najveći njemački zdravstveni portal za potrošače, Netdoktor.de (1,61 %), a peti platforma za karijere liječnika, Praktischarzt.de (1,53 %).

Strukturni rizici za javno zdravlje

Ovo istraživanje nadovezuje se na raniju istragu Guardiana koja je otkrila da su korisnici bili izloženi riziku zbog lažnih i obmanjujućih zdravstvenih informacija u odgovorima AI Overviews.

U jednom slučaju, koji su stručnjaci nazvali "opasnim" i "alarmantnim", Google je pružio netočne informacije o ključnim testovima jetrene funkcije, što je moglo navesti osobe s ozbiljnom bolešću da pogrešno zaključe kako su zdrave. Tvrtka je nakon toga uklonila AI sažetke za neka medicinska pretraživanja.

Studija SE Rankinga provedena je u Njemačkoj jer je njezin zdravstveni sustav strogo reguliran.

"Ako se AI sustavi u takvom okruženju uvelike oslanjaju na nemedicinske ili neautoritativne izvore, to sugerira da se problem može proširiti izvan bilo koje pojedine zemlje", napisali su autori.

Hannah van Kolfschooten, istraživačica specijalizirana za umjetnu inteligenciju i zdravlje na Sveučilištu u Baselu, koja nije sudjelovala u istraživanju, izjavila je: "Ova studija pruža empirijske dokaze da su rizici koje AI Overviews predstavlja za zdravlje strukturni, a ne anegdotalni.

Googleu postaje teško tvrditi da su obmanjujući ili štetni zdravstveni rezultati rijetki slučajevi." Dodala je kako se čini da su "vidljivost i popularnost, a ne medicinska pouzdanost, glavni pokretači zdravstvenog znanja."

Googleov odgovor

Iz Googlea su za Guardian poručili da je AI Overviews osmišljen za prikazivanje visokokvalitetnog sadržaja iz uglednih izvora, neovisno o formatu, te da mnogi vjerodostojni zdravstveni autoriteti i licencirani stručnjaci stvaraju sadržaj na YouTubeu. Smatraju da se nalazi studije ne mogu generalizirati jer je provedena na njemačkom jeziku u Njemačkoj.

Glasnogovornik Googlea izjavio je:

"Implikacija da AI Overviews pruža nepouzdane informacije opovrgnuta je vlastitim podacima izvješća, koji pokazuju da su najčešće citirane domene u AI Overviews ugledne web stranice. I prema onome što smo vidjeli u objavljenim nalazima, AI Overviews citira stručni YouTube sadržaj iz bolnica i klinika."

Google je istaknuo da je studija pokazala kako je 96 % od 25 najcitiranijih YouTube videa bilo s medicinskih kanala. Međutim, istraživači su upozorili da ti videozapisi čine manje od 1 % svih YouTube poveznica koje AI sažeci citiraju, dodajući: "S ostatkom videozapisa, situacija bi mogla biti vrlo različita."