Stanford upozorava: AI selekcija može odbiti kandidata prije nego ga čovjek vidi
Automatizirani hiring sustavi mogu odbiti kandidata prije ljudskog razgovora.📷 AI-generated image / TECH&SPACE
- ★Stanfordovo istraživanje upozorava na više stope odbijanja crnih i azijskih kandidata u AI sustavima za zapošljavanje.
- ★Autori traže transparentnost i neovisno testiranje jer zatvoreni modeli otežavaju dokazivanje diskriminacije.
- ★Za poslodavce rizik nije samo tehnički: riječ je o odgovornosti za selekcijski sustav koji utječe na stvarne radne prilike.
AI selekcija kandidata prodaje se kao hladan, skalabilan način da se poslodavac probije kroz tisuće prijava. Nova priča koju je objavio The Register pokazuje zašto ta tvrdnja mora biti pod stalnim pritiskom. Prema izvještaju, Stanfordovi istraživači upozoravaju da algoritmi za zapošljavanje odbijaju crne i azijske kandidate po višim stopama, što zapošljavanje pretvara u test upravljanja rizikom, a ne samo u problem softverske optimizacije.
Ovdje nije dovoljno reći da je model “pogriješio”. U zapošljavanju i mala promjena u rangiranju može značiti da kandidat nikada ne dođe do čovjeka koji bi pročitao životopis. Ako sustav automatski filtrira prijave, analizira video intervju, boduje tekst ili predviđa “fit”, tada pristranost nije dodatak na kraju procesa. Ona može biti ugrađena u prvi prag kroz koji kandidat mora proći.
Stanford je u ovoj priči važan jer problem postavlja izvan marketinškog jezika dobavljača. Istraživački signal iz akademskog okruženja, povezan s institucijom kao što je Stanford University, usmjerava raspravu prema provjerljivosti: tko testira alat, na kojim skupinama, s kojim metrikama i s kojim pravom uvida za ljude koji su odbijeni. Bez toga poslodavac zapravo kupuje crnu kutiju i preuzima društveni rizik koji ne može jasno objasniti.
Stanfordovo istraživanje, prema The Registeru, ponovno otvara pitanje neovisnog testiranja algoritama koji filtriraju ljude prije razgovora za posao.
Neovisno testiranje mora pokazati gdje nastaje razlika u ishodima.📷 AI-generated image / TECH&SPACE
Najopasniji dio ovakvih sustava nije nužno spektakularna pogreška, nego uredna automatizacija neravnoteže. Ako model uči iz povijesnih podataka, a ti podaci nose tragove ranijih odluka, sustav može reproducirati obrazac pod novim imenom. Ako dobavljač ne otkrije dovoljno o podacima, testiranju i granicama modela, kandidat nema realan način dokazati da je oštećen, a poslodavac nema dovoljno čvrst temelj za tvrdnju da je proces pošten.
Zato se zahtjev za neovisnim testiranjem ne smije tretirati kao akademska formalnost. Američki EEOC već upozorava da softver i algoritamski alati u zapošljavanju mogu proizvesti nedopušteni “adverse impact”. Drugim riječima, poslodavac ne može prebaciti odgovornost na dobavljača samo zato što odluku nije donio menadžer u sobi, nego model u pozadini.
Širi okvir daje i NIST AI Risk Management Framework, koji AI sustave gleda kroz rizik, mjerljivost, upravljanje i dokumentaciju. Za hiring alate to znači konkretne obveze: testiranje po demografskim skupinama, revizijski trag, objašnjive kriterije, jasne procedure žalbe i ograničenja automatizirane odluke. Bez tih elemenata “učinkovitost” je samo ljepši naziv za bržu nevidljivost.
Ova priča zato nije upozorenje protiv svake automatizacije u HR-u. Ona je upozorenje protiv sustava koji odlučuje o pristupu poslu, a pritom skriva vlastitu logiku. Ako AI u zapošljavanju želi biti legitimna infrastruktura, mora izdržati vanjsku provjeru. Sve manje od toga znači da se tržište rada optimizira na ljudima koji nemaju pristup kontrolnoj ploči.
