Recruiting ist ein komplexes Verfahren, in das zunehmend digitale Werkzeuge Einzug nehmen, die algorithmische Entscheidungssysteme beinhalten. In ihrer Expertise “AI-powered Recruiting?” haben Lorena Jaume-Palasi (Ethical Tech Society), Elisa Lindinger und Julia Kloiber (SUPERRR Lab) im Auftrag der Kommission für den Dritten Gleichstellungsbericht 36 dieser kommerziellen Produkte betrachtet.

Die derzeit auf dem Markt befindlichen Softwarelösungen weisen eine hohe Bandbreite hinsichtlich ihres versprochenen Funktionsumfangs auf: Von Algorithmen zur individualisierten Platzierung von Stellenanzeigen über Chatbots bis hin zu Werkzeugen, die die Leistung und das Auftreten von Bewerber*innen während des Bewerbungsprozesses nach diversen inhaltlichen und psychologischen Kriterien bewerten.

Die angebotenen Softwareprodukte sind in der Regel closed-source, ihre Funktionsweise ist also nicht ohne weiteres überprüfbar. Die Verkaufsversprechen preisen jedoch “Künstliche Intelligenz” oder algorithmische Entscheidungssysteme als effiziente und objektive Lösung an, um mehr geeignete Kandidat*innen zu erreichen, eingegangene Bewerbungen auszuwerten oder einzelne Bewerber*innen daraufhin zu bewerten, wie “gut” sie zum Unternehmen passen (cultural fit). Tatsächlich zeigt die Untersuchung, dass die Mehrheit der betrachteten Softwarelösungen das Potenzial haben, diskriminierend zu wirken. Ein Teil setzt sogar auf überholte, kulturell westlich und männlich konnotierte psychometrische Modelle, die durch den digitalen Neuanstrich eine Aufwertung und scheinbare Wissenschaftlichkeit erfahren.

Doch die Herausforderungen liegen nicht nur im Bereich von Daten, Algorithmen und Methoden. Ein internationaler, stark angloamerikanisch beeinflusster Softwaremarkt steht sehr unterschiedlichen nationalen Antidiskriminierungsgesetzen und -rechtsprechungen gegenüber; Unternehmen und insbesondere Personalmanager*innen erhalten wenig Einblick in die tatsächliche Funktionsweise der von ihnen verwendeten Produkte; Arbeitnehmer*innen haben keine Möglichkeit zu erfahren, in welchen Schritten ihres Bewerbungsprozesses sie von welchen Systemen bewertet und möglicherweise diskriminiert wurden.

Für eine Analyse der Softwareprodukte im Bereich Recruiting hinsichtlich intersektionaler Gendergerechtigkeit bedarf es eines ganzheitlichen Blicks auf den Kontext, in dem sie eingesetzt werden, und der verwendeten Verfahren. Mögliche Ansätze dafür werden in der vorliegenden Expertise dargestellt.

Die Sachverständigenkommission, die die Expertise in Auftrag gegeben hat, übergab am 26.01.2021 ihr Gutachten an Familienministerin Franziska Giffey. Die Bundesregierung wird Ende März 2021 dazu öffentlich Stellung nehmen und den Dritten Gleichstellungsbericht veröffentlichen.