Analiza — August 1, 2022 at 2:11 pm

Cum pot fi depășite prejudecățile AI la angajare

by

Inteligența artificială(AI) poate fi utilă în sortarea candidaților la joburi, dar sistemele trebuie programate corect și monitorizate îndeaproape.

Employment vacancy and human resources conceptUtilizarea tot mai mare a inteligenței artificiale a avut un efect profund nu numai asupra logisticii angajării, ci și asupra eforturilor de creștere a diversității în cadrul companiilor și industriilor. Cu toate acestea, prejudecata AI, care este adesea programată neintenționat în algoritmi, poate afecta negativ eforturile sincere ale companiilor de a crește diversitatea.

Când AI a fost integrat în angajare și recrutare, a atenuat un punct dureros de multă vreme: efortul uman pentru a determina ce candidați să intervieveze dintr-un grup mare de solicitanți.

AI simplifică procesul de angajare, automatizând modul în care întreprinderile găsesc și scurtează lista de candidați.

De exemplu, tehnologia AI poate cerceta baze de date precum LinkedIn pentru cuvinte cheie pentru a găsi candidați care se potrivesc cu descrierile postului. Cu informațiile potrivite, AI poate ajuta la identificarea candidaților ale căror personalități sunt potrivite pentru cultura unei companii sau pentru cei care par dispuși să-și părăsească locurile de muncă actuale. Toate acestea s -au dovedit benefice pentru companii, angajați de resurse umane și recrutori. Cu toate acestea, a venit în detrimentul unui alt grup de oameni.

Prejudecata AI

AI nu are un concept inerent de rasă sau gen, dar caută modele, date statistice și tendințe. Acest lucru poate duce la prejudecăți AI atunci când este o inegalitate socială și instituțională care are impact asupra acestor date. De exemplu, acolo unde oamenii își primesc educațiile își pot influența (printre altele) stilurile lor de scriere. AI poate recunoaște asta. Acest lucru ar putea conduce tehnologia să proiecteze candidații care sunt altfel perfect calificați. Nu toată lumea are aceleași oportunități care duc la o educație care creează ceea ce AI ar putea considera un stil de scriere „câștigător”.

Problema prejudecății AI poate fi văzută clar în industria IT, unde, conform unei estimări, peste 77% dintre profesioniști sunt bărbați și 59% sunt albi. Dacă oferiți un sistem AI, fiecare CV care a dus la o închiriere de succes pentru un anumit rol de tehnologie IT și să permită AI să învețe din acea bază de date, acesta va căuta același fel de candidați. Folosind acel criteriu părtinitor, un algortm AI de angajare poate elimina sau elimină candidații din medii diverse înainte ca un om să-și vadă vreodată CV-urile, consolidând un status quo părtinitor în loc de eforturi spre diversitate, echitate și incluziune.

Provocarea și corectarea prejudecății AI

Ce pot face companiile? Pentru început, pot utiliza instrumente machine learning care au seturi de date egale de medii, curse și sexe. Dacă o companie tehnologică caută personal, de exemplu, ar trebui să caute să creeze o bază de date AI care să includă o răspândire egală a genurilor și duratelor când au lucrat în IT. Aceasta ar reduce, fără îndoială, cantitatea de prejudecăți inconștiente.

Cu toate acestea, nu este o abordare potrivită. Dacă permiteți continuu AI să învețe de la fiecare angajare făcută, iar partea leului din forța de muncă rămâne bărbați albi, AI va începe să repete aceași greșeală.

Pentru a combate cu adevărat prejudecata AI, companiile trebuie să-și schimbe fundamental procesele de angajare pentru a-și conduce sistemele AI către angajarea diversă și incluzivă, monitorizând îndeaproape progresul sistemelor lor pentru a se asigura că nu se întorc pe căi părtinitoare. Companiile care nu își folosesc propriul software pot face acest lucru, solicitând furnizorilor lor că AI-ul lor face tot ce poate pentru a maximiza debitul de candidați diversi. O companie poate solicita feedback cu privire la întregul proces de angajare. Această verificare constantă este importantă, deoarece cea mai bună modalitate de a găsi scurgeri într-o găleată este să o umpleți cu apă.

În ciuda unor progrese în angajarea diversă, problema prejudecății se referă mai puțin la AI decât despre oamenii care fac angajarea.

Cu toții putem fi de acord că tehnologia este excelentă pentru a ușura sarcinile oamenilor și a ne face mai eficienți. Contează să ofere oportunități pentru toți. AI are un rol imens de jucat în acest sens, dar întreprinderile ar trebui să se asigure că nu permit tehnologiei să perpetueze stereotipuri negative. Este vorba despre mersul înainte către îmbunătățiri continue.