Forskning visar att artificiell intelligens (AI) kan skapa fördomar vid rekrytering, även om den inte har någon tidigare exponering för mänskliga fördomar. I en studie där AI-modeller, inklusive ChatGPT, fick delta i en simulerad rekryteringsprocess, visade det sig att AI-modellerna snabbt började segregera kandidater från olika grupper till olika jobb baserat på tidiga observationer.

Studien visade att AI-modellerna var mer benägna att skapa stereotyper om människor baserat på demografiska grupper än mänskliga deltagare i en tidigare studie. Detta beror på att AI-modeller är utformade för att generalisera från begränsade data, vilket kan leda till att de fattar beslut baserat på fördomar.