AI kan användas för att effektivisera rekryteringsprocessen för företag. Matilda Arvidsson, docent i internationell rätt vid Göteborgs universitet, säger att risken med rekryteringssystemen är just att AI bygger på all den data som rekryterare tidigare jobbade manuellt med.
— Då har man alla diskrimineringsgrunder som finns i hela världen, som mänskliga rekryterare sitter med, säger hon och tillägger:
— Det kan bli dyrt för företag som använder sig av AI för rekrytering ifall dom litar på att en AI-rekryterare rekryterar icke diskriminerande.
Användningen av AI i rekryteringsprocesser bedöms av EU som en situation där konsekvenserna riskerar att bli stora. Det regleras därför med AI-akten. Svårigheten med EU-lagar däremot är att det i regel dröjer omkring fem år innan det finns prejudikat.
— Det är en större riskfaktor att man råkar göra någonting som visar sig vara olagligt.
Det är samtidigt svårt för företagen att försäkra sig om att AI-verktyget de använder inte diskriminerar.
— Det är väldigt svårt att ha den tekniska kompetensen för att själv gå in och avgöra huruvida verktyget är balanserat nog.
