Scientific American: lažni AI citati testiraju odvjetničku dužnost provjere

Kada odvjetnik u podnesak stavi sudski predmet koji ne postoji, to više nije simpatična pogreška iz ere novih alata. To je kvar u lancu odgovornosti. Scientific American u novom tekstu upozorava na trend odvjetnika koji bivaju uhvaćeni kako citiraju slučajeve koje je izmislila umjetna inteligencija. Tema je neugodna baš zato što je jednostavna: modeli znaju proizvesti tekst koji izgleda pravno uvjerljivo, ali to ne znači da je istinit.

U pravnom radu forma ima težinu. Naziv predmeta, citat, godina, sud i proceduralni trag nisu dekoracija nego putokaz prema provjerljivom autoritetu. Ako model generira nepostojeći predmet, a odvjetnik ga bez provjere unese u dokument, sud ne dobiva argument nego fikciju s profesionalnim potpisom. To nije tehnička anomalija na rubu sustava. To je primjer kako automatizacija može pojačati staru slabost: želju da se preskoči dosadni, ručni, ali presudni dio posla.

Problem je dodatno opasan jer AI ne griješi kao klasična tražilica. On često ne kaže “nema rezultata”; on sastavi rečenicu koja zvuči kao rezultat. U pravu je to posebno otrovno. Pravni jezik već ionako ima gustu strukturu, strogu sintaksu i autoritativan ton. Generativni sustav može imitirati tu površinu dovoljno dobro da prevari korisnika koji traži brzinu, a ne dokaz. Zato se ovdje ne radi o pitanju jesu li AI alati “dobri” ili “loši”, nego o tome tko je zadužen za završnu provjeru.

Profesionalna pravila tu ne ostavljaju mnogo prostora za izgovore. Američka odvjetnička komora u Model Rules of Professional Conduct naglašava obveze kompetentnosti, revnosti i istinitosti prema sudu. U federalnom kontekstu, Rule 11 traži da podnesci imaju pravnu i činjeničnu osnovu. AI alat može biti pomoćnik, ali ne može preuzeti profesionalnu savjest, licencu ni sankciju.

Najslabija točka zato nije samo halucinacija modela, nego halucinacija procesa: uvjerenje da se tekst koji izgleda uredno može tretirati kao provjeren. To je posebno važno u uredima pod pritiskom rokova, troškova i produktivnosti. Ako se AI koristi za nacrte, sažetke ili istraživačke smjerove, mora postojati jasna granica između “radne skice” i “materijala spremnog za sud”. Bez te granice, pravna praksa dobiva stroj za proizvodnju samouvjerenih pogrešaka.

Postoji i širi društveni sloj. Sudski sustav ovisi o povjerenju da stranke i njihovi zastupnici ne ubacuju izmišljene autoritete u zapisnik. Kada se to dogodi, šteta nije samo reputacijska za pojedinog odvjetnika. Svaki takav slučaj troši vrijeme suda, komplicira postupak i šalje poruku da se temeljne provjere mogu prepustiti alatu koji nema pojam odgovornosti. Čak i službena upozorenja o ograničenjima generativnih sustava, poput OpenAI-jeve dokumentacije o ograničenjima modela, ne znače mnogo ako se u praksi ignoriraju.

Zaključak je hladan, ali nužan: AI u pravu ne smije biti zamjena za citatnu higijenu. Ako odvjetnik ne može otvoriti predmet, potvrditi citat i razumjeti zašto ga koristi, onda taj predmet ne pripada u podnesak. Pravna profesija može usvojiti nove alate, ali ne može outsourcati vlastitu dužnost provjere.