Fortschrittsgedanken: Jessica Tatti
23.09.2020
Zum Format:
"Fortschrittsgedanken" erscheint wöchentlich auf dem FAIR.nrw Blog und stellt die Meinung verschiedener Expertinnen und Experten aus Forschung und Praxis zu immer gleichbleibenden Fragen dar. Dabei geht es primär um das Thema Algorithmen in der Personalauswahl.
Zur Autorin:
Jessica Tatti ist seit 2017 für den Wahlkreis Reutlingen (Baden-Württemberg) Abgeordnete des Deutschen Bundestages. Sie ist Sprecherin für Arbeit 4.0 der Fraktion DIE LINKE und Mitglied des Ausschusses für Arbeit und Soziales. Als Mitglied der Enquete-Kommission „Künstliche Intelligenz“ hat sie sich vertieft mit den Auswirkungen des Einsatzes Künstlicher Intelligenz auf Wirtschaft und die Arbeitswelt auseinandergesetzt.
Welche Chancen bieten Algorithmen in der Personalauswahl und wo liegen Risiken?
Welche Chancen bieten Algorithmen in der Personalauswahl und wo liegen Risiken?
Die Chancen des Einsatzes von Algorithmen liegen zum einen in der Zeitersparnis im Personalmanagement, zum anderen in der Hoffnung, dass Personalentscheidungen rationaler und vorurteilsfreier zustande kommen als bisher. Algorithmische Systeme könnten somit zur Chancengerechtigkeit beitragen. Risiken sehe ich an mehreren Stellen: Da Systeme mit Daten früherer menschlicher Entscheidungen trainiert werden, werden Entscheidungen mit KI ebenso vorurteilsbelastet sein wie zuvor. Nur erscheinen sie dann als objektiv richtig und gerechtfertigt, weil sie von einem KI-System getroffen wurden. Zudem können Algorithmen schlechter als Menschen „weiche“ Faktoren berücksichtigen. Es kommt ja nicht nur darauf an, ob eine Person fachlich geeignet ist, sondern auch darauf, ob sie zum Team, zur Kundschaft und zum Unternehmen passt. Dies können Algorithmen bislang nicht erkennen.
Welchen Einfluss hat Diskriminierung in der Personalauswahl?
Zunächst ist jede Personalauswahl eine Diskriminierung in ganz neutralem Sinn: Eine Person wird ausgewählt, die anderen nicht. Wir wissen, dass neben sinnvollen Unterscheidungen bezüglich der Kenntnisse und Fertigkeiten auch andere Faktoren bei der Personalauswahl eine Rolle spielen, wie die Stimmung der Personalerinnen und Personaler. Aber auch Geschlecht oder Migrationshintergrund der Bewerberinnen und Bewerber können Einfluss haben, wenn Menschen entscheiden. Gut belegt ist die strukturelle Benachteiligung von Frauen und Menschen mit ausländisch klingenden Namen. Diese Benachteiligung erfolgt oft nicht bewusst, sondern aufgrund von Vorurteilen oder früherer Erfahrungen, die zu sehr generalisiert und unreflektiert übertragen werden.
Können Algorithmen dabei helfen Diskriminierung in der Personalauswahl abzubauen?
Aktuelle KI-Systeme, vor allem jene, die auf Machine-Learning beruhen, könnten eher Vorurteile reproduzieren und diese gleichzeitig hinter einer Fassade von Objektivität unsichtbar machen. So musste z. B. Amazon ein System zur Auswahl von Führungskräften wieder ausschalten, weil es Frauen benachteiligte. Auch halte ich den Einsatz von Algorithmen zur Erstellung von „Persönlichkeitsanalysen“ der Bewerberinnen und Bewerber für hochproblematisch. Leider gibt es im Moment noch keine allgemeinen und verbindlichen Qualitätsmerkmale für Systeme zur Personalauswahl, die die Modelle und Trainingsdaten auf Fehler, Transparenz, Persönlichkeitsrechte und Diskriminierungspotentiale prüfen. Falls das gelingen sollte, dann wäre ein Einsatz von Algorithmen in der Personalauswahl sehr zu begrüßen.
Ganz konkret: Wie sieht der ideale Prozess für die Personalauswahl aus?
Das ist eine schwierige Frage. Kann es einen idealen Prozess zur Personalauswahl geben, der für alle Arten von Organisationen und Stellen gilt? Eher nicht. Ein Minijob im Supermarkt wird anders besetzt als der Arbeitsplatz einer Sozialarbeiterin im Frauenhaus oder eine Facharbeiterstelle im Industriebetrieb. Den einen besten Weg – und damit das eine beste IT-Programm für den idealen Prozess der Personalauswahl – existiert mit Sicherheit nicht. Die Vorgesetzten sowie Kolleginnen und Kollegen der zu besetzenden Stellen, die Personalerinnen und Personaler als Spezialisten sowie der Betriebsrat werden auch mit digitalen Systemen in der Personalauswahl unverzichtbar bleiben. Gute und geprüfte Algorithmen könnten hierbei unterstützen und entlasten.