AI-drivna jobbrekryteringsverktyg kanske inte förbättrar anställningsmångfalden, hävdar experter

Översta raden

Jobbrekryteringsverktyg som hävdar att de använder artificiell intelligens för att undvika köns- och rasfördomar kanske inte förbättrar mångfalden när det gäller anställning, och kan faktiskt vidmakthålla dessa fördomar, hävdade forskare vid University of Cambridge i söndags, som castade programmen – som har fått kritik tidigare – som ett sätt att använda teknik för att erbjuda en snabb lösning för ett djupare problem.

Nyckelfakta

Avgörande citat

"Genom att hävda att rasism, sexism och andra former av diskriminering kan tas bort från anställningsprocessen med hjälp av artificiell intelligens, reducerar dessa företag ras och kön till obetydliga datapunkter, snarare än maktsystem som formar hur vi rör oss genom världen, ", sa Drage i ett uttalande.

Tangent

Amazon meddelade att det skulle göra det 2018 stoppa använde ett AI-rekryteringsverktyg för att granska jobbsökandes CV efter att det upptäckte att systemet diskriminerade kraftigt kvinnor. Detta beror på att de datormodeller som den förlitade sig på har utvecklats baserat på meritförteckningar som lämnats in till företaget under de senaste 10 åren, som mestadels kom från manliga sökande.

Nyckelbakgrund

Organisationer har i allt högre grad vänt sig till AI för att hjälpa till att hantera jobbrekryteringsprocesser. I ett 2020 undersökning av mer än 300 personalledare som citerades av författarna till söndagens tidning, fann konsultföretaget Gartner att 86 % av arbetsgivarna använder virtuell teknik i sina anställningsmetoder, en trend som har accelererat sedan Covid-19-pandemin tvingade många att skifta arbete online. Vissa företag har hävdat att AI kan erbjuda en mer kostnads- och tidseffektiv anställningsprocess, men vissa experter ha hittade systemen har en tendens att främja – snarare än att eliminera – ras- och könsorienterade anställningar genom att replikera befintliga fördomar från den verkliga världen. Flera amerikanska lagstiftare har syftar att ta itu med fördomar i artificiell intelligenssystem, eftersom tekniken fortsätter att utvecklas snabbt och få lagar finns för att reglera den. Vita huset släpptes denna vecka en "Blueprint for an AI Bill of Rights", som hävdar att algoritmer som används vid anställning har visat sig "reflektera och reproducera befintliga oönskade orättvisor" eller bädda in ny "bias och diskriminering." Ritningen – som inte är juridiskt bindande eller en officiell regeringspolicy – ​​uppmanar företag att se till att AI inte diskriminerar eller kränker datasekretess, och att göra användarna medvetna om när tekniken används.

Vad att titta på

I en lista med rekommendationer, författarna till söndagens Filosofi och teknik paper föreslog att företag som utvecklar AI-teknik fokuserar på bredare, systematiska ojämlikheter istället för "individualiserade fall av partiskhet." Till exempel föreslår de att mjukvaruutvecklare undersöker de kategorier som används för att sortera, bearbeta och kategorisera kandidater och hur dessa kategorier kan främja diskriminering genom att förlita sig på vissa antaganden om kön och ras. Forskare hävdar också att HR-proffs bör försöka förstå hur AI-rekryteringsverktyg fungerar och vilka några av deras potentiella begränsningar är.

Överraskande fakta

Europeiska unionen har klassificerat AI-driven anställningsprogramvara och verktyg för prestandautvärdering som "hög risk" i sin nya utkast rättslig ram för AI, vilket innebär att verktygen skulle bli föremål för mer granskning och skulle behöva uppfylla vissa efterlevnadskrav.

Ytterligare läsning

DC vill leda kampen mot AI-bias (Axios)