Alati za zapošljavanje pokretani umjetnom inteligencijom možda neće poboljšati raznolikost zapošljavanja, tvrde stručnjaci

Gornji red

Alati za zapošljavanje koji tvrde da koriste umjetnu inteligenciju za izbjegavanje rodnih i rasnih predrasuda možda neće poboljšati raznolikost pri zapošljavanju, a zapravo bi mogli ovjekovječiti te predrasude, tvrde istraživači sa Sveučilišta u Cambridgeu u nedjelju, procjenjujući programe - koji su u prošlosti izazivali kritike - kao način korištenja tehnologije za ponuditi brzo rješenje dubljeg problema.

Ključne činjenice

U radu koji je objavio Filozofija i tehnologija, istraživači su proučili tvrdnje nekoliko tvrtki koje nude alate za zapošljavanje pokretane umjetnom inteligencijom, od kojih mnoge tvrde da uklanjaju pristranosti i promiču različitost skrivajući imena, spol i druge identifikatore kandidata, a neki od njih rang kandidata na temelju skeniranja životopisa, online procjena i analize govora i izraza lica kandidata.

Istraživači – dva profesora u Centru za rodne studije Sveučilišta u Cambridgeu – tvrdili su da ovi alati mogu zapravo promicati uniformnost pri zapošljavanju jer reproduciraju kulturološke predrasude “idealnog kandidata”, koji su povijesno bili bijelci ili Europljani.

Alati također možda neće poboljšati raznolikost jer se temelje na podacima iz prošlosti tvrtke i stoga mogu promovirati kandidate koji su najsličniji sadašnjim zaposlenicima.

Postoji "malo odgovornosti za način na koji su ti proizvodi izrađeni ili testirani", rekla je u izjavi Eleanor Drage, koautorica studije i istraživačica Centra za rodne studije Sveučilišta u Cambridgeu, dodajući da bi tehnologija mogla poslužiti kao "opasna" izvor “dezinformacija o tome kako se zapošljavanje može 'de-pristrano' i učiniti poštenijim.”

Presudna ponuda

“Tvrdeći da se rasizam, seksizam i drugi oblici diskriminacije mogu ukloniti iz procesa zapošljavanja pomoću umjetne inteligencije, te tvrtke svode rasu i spol na beznačajne podatke, umjesto na sustave moći koji oblikuju kako se krećemo svijetom, “, stoji u priopćenju Drage.

Tangens

Amazon je to najavio 2018 zaustaviti korištenje alata za zapošljavanje AI-a za pregled životopisa kandidata za posao nakon što je utvrđeno da sustav snažno diskriminira žene. To je zato što su računalni modeli na koje se oslanjao razvijeni na temelju životopisa koji su podneseni tvrtki u proteklih 10 godina, a koji su uglavnom dolazili od muških kandidata.

Ključna pozadina

Organizacije su se sve više okrenule umjetnoj inteligenciji kako bi pomogle u upravljanju procesima zapošljavanja. U jednom Ispitivanje 2020-a od više od 300 voditelja ljudskih resursa koje su citirali autori nedjeljnih novina, konzultantska tvrtka Gartner otkrila je da 86% poslodavaca koristi virtualnu tehnologiju u svojim praksama zapošljavanja, što je trend koji se ubrzao otkako je pandemija Covid-19 prisilila mnoge da prebace posao na internet. Dok su neke tvrtke tvrdile da umjetna inteligencija može ponuditi troškovno i vremenski učinkovitiji proces zapošljavanja, neke Stručnjaci imaju pronađen sustavi imaju tendenciju promicati—radije nego eliminirati—rasno i rodno pristrano zapošljavanje kopiranjem postojećih predrasuda iz stvarnog svijeta. Nekoliko američkih zakonodavaca jest usmjerene kako bi se uhvatili u koštac s pristranostima u sustavima umjetne inteligencije, jer se tehnologija nastavlja brzo razvijati i postoji nekoliko zakona koji je reguliraju. Bijela kuća objavila je ovaj tjedan “Nacrt za Povelju o pravima umjetne inteligencije”, u kojem se tvrdi da je utvrđeno da algoritmi korišteni pri zapošljavanju “odražavaju i reproduciraju postojeće neželjene nejednakosti” ili ugrađuju nove “pristranosti i diskriminaciju”. Nacrt—koji nije pravno obvezujući niti službena vladina politika—poziva tvrtke da osiguraju da umjetna inteligencija ne diskriminira ili ne krši privatnost podataka te da obavijeste korisnike kada se tehnologija koristi.

Što gledati

U popisu preporuka, autori nedjeljnog Filozofija i tehnologija U radu se navodi da se tvrtke koje razvijaju AI tehnologije usredotočuju na šire, sustavne nejednakosti umjesto na "individualizirane slučajeve pristranosti". Na primjer, predlažu da programeri softvera ispitaju kategorije koje se koriste za sortiranje, obradu i kategorizaciju kandidata i kako te kategorije mogu promicati diskriminaciju oslanjajući se na određene pretpostavke o spolu i rasi. Istraživači također tvrde da bi stručnjaci za ljudske resurse trebali pokušati razumjeti kako rade alati za zapošljavanje AI i koja su neka od njihovih potencijalnih ograničenja.

Iznenađujuća činjenica

Europska unija klasificirala je softver za zapošljavanje i alate za ocjenu učinka pokretane umjetnom inteligencijom kao "visokorizične" u svojoj novoj skica pravni okvir o umjetnoj inteligenciji, što znači da bi alati bili podvrgnuti većem nadzoru i trebali bi ispunjavati određene zahtjeve sukladnosti.

Daljnje čitanje

DC želi voditi borbu protiv pristranosti umjetne inteligencije (Aksioz)