Kritici sa obávajú, že miestny zákon 144 nespĺňa.
V stredu mesto New York urobilo malý krok v regulácii účinkov technológií AI na procesy náboru pracovných miest v meste. Takéto technológie, označované ako Automated Employment Decision Tools (AEDT), zvyčajne využívajú AI alebo algoritmy na priraďovanie automatizovaných hodnotení alebo skóre kandidátom na prácu alebo povýšenie. Automatizovaný nástroj rozhodovania o zamestnaní mesta zákona, tiež známy ako miestny zákon 144, teraz vyžaduje, aby každý zamestnávateľ, ktorý používa takéto technológie, musel nechať nástroje skontrolovať na úmyselné alebo náhodné zaujatie treťou stranou. Zákon je v súčasnosti účinný a začne sa presadzovať od 5. júla 2023, po ktorom môžu podniky, ktoré ho nedodržiavajú, čeliť pokutám od 500 USD a až 1 500 USD za deň na nástroj použité.
[Súvisiace: Jednoduchý sprievodca rozsiahlym svetom umelej inteligencie.]
Toto je prvá hlavná legislatíva v oblasti náborových praktík a AI. Podľa Zippia65 percent náborových pracovníkov používa AI v
náborový proces v nejakej forme—ako je triedenie tisícok žiadostí o jedno pracovné miesto pre špecifické kvalifikačné parametre, prehľadávanie sociálnych médií alebo dokonca analyzovanie výrazov tváre alebo reči tela kandidátov počas videopohovoru.AEDT sú často propagované ako spôsob riadenia procesu prijímania do zamestnania s veľkým počtom uchádzačov. „V dobe internetu je oveľa jednoduchšie uchádzať sa o prácu. A pre kandidátov existujú nástroje na zefektívnenie tohto procesu. Ako ‚dajte nám svoj životopis a my sa uchádzame o 400 pracovných miest‘,“ povedala Cathy O’Neil, generálna riaditeľka poradenskej firmy Orcaa. Správy NBC. „Dostávajú príliš veľa žiadostí. Musia nejakým spôsobom vyradiť zoznam, takže tieto algoritmy to urobia za nich.“
Umelá inteligencia však nie je ani zďaleka nestranným sudcom potenciálnych kandidátov – súbory údajov a technológie AI môžu často udržiavať ľudské predsudky, ako napr. rasizmus, sexizmus, a ageizmus.
Kritici tvrdia, že zákon nestačí. Konkrétne jedna kvalifikácia zaručujúca audit vyžaduje, aby AI „podstatne pomáhala alebo nahrádzala rozhodovanie podľa vlastného uváženia“. Alexandra Givens, prezidentka Centra pre demokraciu a Technológia sa obáva, že to možno interpretovať tak, že v týchto prípadoch je AI „jediným alebo primárnym faktorom pri rozhodovaní o nábore alebo sa používa na potlačenie človeka“, na rozdiel od časti procesu. povedal New York Times v Máji.
„Najväčšie obavy mám z toho, že sa to stane vzorom na národnej úrovni, keď by sme mali od našich politikov žiadať oveľa viac,“ dodala. V súčasnosti sa zvažujú podobné zákony New Jersey, Maryland, Illinois a Kalifornia.
Požadovaný audit sa nezaoberá ani diskrimináciou na základe veku alebo zdravotného postihnutia, Julia Stoyanovich, informatika profesor na univerzite v New Yorku a zakladajúci člen mestskej pracovnej skupiny pre automatické rozhodovacie systémy. NBC.
[Súvisiace s PopSci+: 4 obavy o súkromie vo veku AI.]
Zaujatosť pri prijímaní zamestnancov, či už prostredníctvom ľudí alebo AI, bola a do očí bijúci problém desaťročia – taký často v priebehu rokov čelí zanedbateľným zlepšeniam. Či tento zákon zmení alebo nie, sa ešte len uvidí.
„Nerobím si žiadnu nádej, že nám [zákon] poskytne nejaké informácie,“ povedal Ben Winters z Electronic Privacy Information Center. Kremeň„alebo skutočne umožniť ľuďom zvýšiť rovnosť v súvislosti s ich skúsenosťami s náborom.“
