IBM-ov popis AI rizika pokazuje gdje ured već gubi kontrolu
Pet AI rizika u jednom poslovnom workflowu.📷 AI-generated image / TECH&SPACE
- ★IBM navodi shadow AI, curenje podataka, halucinacije, prompt injection i neodobrene AI agente kao glavne radne rizike.
- ★Video je savjetodavni i brendiran, ali pogađa stvaran problem: zaposlenici već koriste AI brže nego što politike stižu za njima.
- ★Sigurniji workflow traži odobrene alate, pravila za podatke, provjeru izlaza i nadzor agenata prije automatizacije zadataka.
IBM Technology je 24. svibnja 2026. objavio video “Five AI Risks That Can Get You Fired—And How to Avoid Them”, u kojem Martin Keen prolazi kroz pet najčešćih načina na koje se poslovna upotreba AI-ja može pretvoriti u problem za zaposlenika. To nije istraživački rad ni tehnički benchmark. To je kratka, jasno zapakirana governance lekcija s IBM-ovim potpisom. Ali tema je dovoljno ozbiljna da se ne može odbaciti kao običan PR.
Prvi rizik je shadow AI: korištenje neodobrenih alata mimo IT-a, pravne službe i sigurnosnih pravila. U praksi to znači da zaposlenik može kopirati nacrt ugovora, interni kod, tablicu klijenata ili strateški dokument u alat koji tvrtka nije provjerila. Problem nije samo “AI”. Problem je gubitak kontrole nad time gdje podaci odlaze, koliko se čuvaju i tko im može pristupiti. Zato IBM video prirodno gura prema temi AI governancea: ne kao apstraktnoj etici, nego kao skupu radnih pravila.
Drugi rizik je curenje podataka. Generativni AI ohrabruje brzinu: zalijepi tekst, zatraži sažetak, dobije odgovor. Upravo tu nastaje najskuplja pogreška. Povjerljivi podaci ne moraju biti “hakirani” da bi procurili; dovoljno je da ih netko unese u pogrešan sustav. U uredu koji želi koristiti AI bez samosabotaže, zaposlenik mora znati razliku između javnog materijala, internog dokumenta, povjerljivog zapisa i reguliranog podatka.
IBM-ov video ne donosi novo otkriće, ali dobro sažima operativne rupe koje tvrtke sada moraju zatvoriti: shadow AI, curenje podataka, halucinacije, prompt injection i neodobrene agente.
Najskuplja AI pogreška često počinje jednim kopiranim dokumentom.📷 AI-generated image / TECH&SPACE
Treći rizik su halucinacije. Model može zvučati uvjerljivo i kad griješi, što je posebno opasno u pravnim, financijskim, medicinskim, kadrovskim ili tehničkim odlukama. AI izlaz zato ne smije biti završni autoritet. Treba ga tretirati kao nacrt koji prolazi provjeru izvora, brojeva i tvrdnji. Tu se IBM-ova poruka poklapa sa širim institucionalnim okvirom poput NIST AI Risk Management Frameworka, koji naglašava upravljanje rizikom kroz cijeli životni ciklus sustava.
Četvrti rizik je prompt injection: napad ili manipulacija u kojoj model dobiva skrivene ili zlonamjerne upute kroz tekst koji obrađuje. Ako AI alat čita e-mailove, dokumente, web-stranice ili tikete, ulazni sadržaj može pokušati promijeniti ponašanje modela. To više nije egzotika iz laboratorija; OWASP opisuje prompt injection kao stvaran sigurnosni obrazac za aplikacije povezane s jezičnim modelima.
Peti rizik su neodobreni AI agenti. Agent koji samostalno šalje poruke, povlači podatke, mijenja zapise ili pokreće radnje nosi veći rizik od običnog chat prozora. Ako nema jasnih ovlasti, logova, granica i ljudskog pregleda, pogreška se može proširiti brže nego što je tim može zaustaviti. IBM-ov video zato treba čitati kao operativni podsjetnik: AI u poslu nije samo pitanje produktivnosti. To je pitanje tragova, odgovornosti i kontrole nad automatizacijom.
