Claude pokazuje što se dogodi kad AI licence nemaju kočnicu

Priča zvuči kao interna financijska noćna mora: prema Tom's Hardwareu, AI konzultant tvrdi da je jedan neimenovani klijent u samo mjesec dana slučajno potrošio 500 milijuna dolara na Claude. Tvrtka, prema tom navodu, nije postavila ograničenje korištenja na licence za zaposlenike. To je dovoljno da se normalna interna produktivnost pretvori u račun koji izgleda kao kapitalni projekt.

Ovdje treba biti precizan: izvorni izvještaj ne imenuje tvrtku, ne objavljuje ugovor, ne donosi forenzički prikaz potrošnje i ne daje tehnički dnevnik korištenja. Zbog toga se slučaj mora čitati kao tvrdnja iz konzultantskog kruga, ne kao potpuno dokumentirana poslovna istraga. Ali čak i uz taj oprez, poruka je jasna. Enterprise AI više nije eksperimentalni dodatak u pregledniku. To je operativni sloj koji može otvoriti ozbiljnu financijsku izloženost čim se pusti kroz organizaciju bez kvota, alarmiranja i odgovorne osobe koja vidi potrošnju u stvarnom vremenu.

Claude je komercijalni AI proizvod koji se koristi za pisanje, analizu, kodiranje i obradu velikih količina teksta. Upravo zato je privlačan velikim organizacijama: zaposlenici ga mogu koristiti u mnogo različitih tokova rada, od pravnih sažetaka do programerske pomoći. No ista širina korištenja stvara i rizik. Ako se pristup kupi kao široka zaposlenička licenca, a potrošnja nije tehnički ograničena ili barem aktivno nadzirana, IT odjel možda misli da je kupio alat, dok financije zapravo drže otvoren ventil.

Najvažniji detalj u priči nije sama cifra od 500 milijuna dolara, nego mehanizam: navodno nije bilo usage limita. U tradicionalnom softveru trošak se često veže uz sjedalo, paket ili godišnji ugovor. U AI uslugama račun može ovisiti o intenzitetu korištenja, količini obrade i načinu na koji se alat integrira u svakodnevni rad. Zato stari model nabave, u kojem se pristup odobri pa se račun provjerava kasnije, slabo odgovara generativnim sustavima. AI alat može biti koristan i istodobno financijski opasan ako je kontrolna ploča slabija od entuzijazma korisnika.

Za uprave i CIO-e ovo je hladan podsjetnik da se AI governance ne svodi samo na privatnost podataka i halucinacije. Potrebni su limiti po timu, alerti po pragu, odobravanje skupljih tokova rada, revizijski trag i jasna razlika između testnog korištenja i produkcijske automatizacije. Službena Anthropicova dokumentacija pokazuje koliko se AI alati mogu ugraditi u različite procese; upravo takva fleksibilnost traži strožu financijsku arhitekturu, ne labaviju.

Ako se ovaj slučaj potvrdi u detaljima, ostat će zapamćen kao ekstreman primjer enterprise AI previda. Ako se ne potvrdi, i dalje dobro opisuje realan problem koji već postoji: generativni AI uvodi potrošnju koja raste brže od internih procedura. Tvrtke koje žele skalirati AI ne trebaju samo bolje modele. Trebaju prekidače, brojila i ljude koji imaju ovlast povući ručnu prije nego što pilot-projekt postane račun koji nitko nije planirao.