Googleov AI Overviews prenaglašava vlastitu pamet

Googleov AI Overviews trebao je biti praktični sloj iznad pretrage, ali se sve češće ponaša kao sloj buke. Ako alat proizvodi milijune pogrešnih odgovora na sat, onda problem nije samo u jednoj pogrešci nego u samoj ideji da se sažetak generira kao da je provjeren rezultat. To je zgodno za korisnika koji želi brz odgovor, ali opasno za korisnika koji misli da je dobio činjenicu.

Google je ovaj sustav gurao kao poboljšanje pretrage, no takav pristup mijenja odnos korisnika i tražilice. Umjesto da klikneš i provjeriš izvore, dobivaš sažetak koji zvuči uvjerljivo i često nije. To je posebno loš spoj s modelom koji i dalje može halucinirati i pri najjednostavnijim pitanjima.

Zato je cijela priča manje o jednoj funkciji, a više o povjerenju. Ako je odgovor pogrešan dovoljno često, korisnici će se pitati zašto bi uopće vjerovali pregledima koji izgledaju uredno, ali ne prolaze osnovnu provjeru.

To je i šira lekcija za cijelu AI pretragu: kad korisnik ne zna vidi li rezultat ili interpretaciju rezultata, granica između pomoći i manipulacije postaje mutna. A to nije samo tehnički propust nego promjena u tome kako ljudi čitaju web.

Googleov problem nije samo tehnički, nego i reputacijski. Search je jedna od rijetkih usluga kod koje mala pogreška može pogoditi ogroman broj ljudi istovremeno. Zato 90 posto točnosti ovdje nije udobna brojka nego upozorenje da je ostatak dovoljno velik da postane vidljiv svakome tko pretražuje ozbiljne teme.

U takvom okruženju najbolji savjet je i dalje isti: pregled može biti koristan, ali ne smije biti posljednja riječ.

Drugim riječima, AI Overviews je podsjetnik da lakoća korištenja nije isto što i pouzdanost. Kad alat zvuči samouvjereno, korisnik mora biti još oprezniji.