Ja, ich will den EU-AI-Act, die DSGVO und die ganze hübsche Recruiting-Automation endlich an dem messen, was sie im Alltag anrichten. Denn sobald Algorithmen über Lebensläufe wichten, vorsortieren und Kandidaten wegfiltern, ist das nicht mehr „modernes Hiring“, sondern eine Frage von Transparenz, Recht und Macht. Diskutieren wir endlich mal Algorithmen im Bewerbungsprozess!
Der Algorithmus als heimlicher Richter
Das eigentliche Problem ist nicht bloß das ATS, sondern die Logik dahinter: Welche Daten werden gewichtet, welche Merkmale zählen, welche Lücken wirken tödlich, und wer entscheidet, dass ein bestimmter Lebenslauf „nicht passt“?
Genau hier wird die Schufa-Analogie relevant, weil auch dort in vielen Debatten die Frage nach intransparenter Score-Bildung, Gewichtung und rechtlicher Zulässigkeit zentral ist. Beim Recruiting gilt das umso mehr, weil eine falsche Gewichtung nicht nur eine Zahl verschiebt, sondern oft gleich eine ganze berufliche Chance ausradiert.
Ich rede hier nicht über hübsche Dashboards, sondern über echte Entscheidungslogik. Wenn ein Modell Bewerber nach Schlagwörtern, Stationen, Lücken, Hochschulnamen oder Tempo sortiert, dann brauche ich keine PR über Effizienz, sondern eine saubere Erklärung, welche Wichtung warum gesetzt wurde und ob das Ergebnis überhaupt noch fair ist. Alles andere ist Blackbox-Theater mit Karrierefolgen.
DSGVO und automatische Entscheidungen
Die DSGVO ist im Recruiting besonders wichtig, weil Art. 22 Entscheidungen verbietet, die ausschließlich auf automatisierter Verarbeitung einschließlich Profiling beruhen, wenn sie rechtliche Wirkung entfalten oder ähnlich erheblich beeinträchtigen. Für Bewerberprozesse heißt das: Eine rein automatisierte Endentscheidung ist nicht einfach so ein Freifahrtschein, sondern rechtlich hochsensibel.
Wichtig ist dabei der Unterschied zwischen Vorselektion und finaler Entscheidung. Sobald ein System nicht nur sortiert, sondern faktisch den Ausschlag gibt, wird es juristisch heikel — und zwar genau dort, wo viele Unternehmen am liebsten wegschauen, weil „der Rechner das eben so ausgespuckt hat“.
Die DSGVO verlangt in solchen Konstellationen gerade nicht nur Technik, sondern auch Rechte wie menschliches Eingreifen, Stellungnahme und Anfechtung.
EU AI Act im Recruiting
Der EU AI Act verschärft das Bild zusätzlich, weil KI-Systeme für Beschäftigung und Bewerberauswahl als hochriskant eingeordnet werden. Das bedeutet nicht Verbot, aber eben strenge Anforderungen an Risikomanagement, Datenqualität, Transparenz, technische Dokumentation, menschliche Aufsicht und Nachvollziehbarkeit.
Wer also behauptet, Recruiting-KI sei bloß ein smarter Assistent, während sie in Wahrheit vorsortiert und priorisiert, unterschätzt nicht nur die Technik, sondern auch die Regulierung.
Genau hier kommt die Gewichtungsfrage wieder ins Spiel. Wenn ein Tool etwa Alter, Lücken, Jobwechsel, Sprachmuster oder Hochschulnamen in Scores verwandelt, dann muss offenliegen, welche Faktoren wie stark zählen und warum. Sonst ist das kein modernes Talent Management, sondern statistisch verkleidete Selektion mit rechtlichem Begleitrauschen.
Schufa als Warnung
Die Schufa ist als Analogie deshalb so treffend, weil auch dort die Frage nach transparenten, nachvollziehbaren und rechtlich zulässigen Scorings permanent brennt. Der unionsrechtliche Rahmen und die Rechtsprechung zeigen seit Jahren, dass pauschale, intransparente oder übermäßig automatisierte Bewertungen problematisch werden können, wenn sie faktisch über Teilhabe entscheiden. Genau diese Logik droht im Recruiting, wenn Algorithmen aus „passt nicht ins Profil“ ein scheinobjektives Urteil machen.
Und ja, ich halte es für absurd, dass wir bei Kreditwürdigkeit langsam über Transparenz, Rechtfertigung und Grenzen streiten, im Recruiting aber noch immer so tun, als sei eine Lebensentscheidung weniger sensibel als ein Warenkorb im Onlineshop. Wer Menschen nach Score sortiert, muss beweisen, dass die Metrik nicht bloß Bequemlichkeit als Objektivität tarnt.
Warum ich mehr Transparenz verlange
Ich will keine nette Standardabsage, ich will eine belastbare Erklärung. Wenn ein System oder ein Recruiter mich nach 7 Monaten ohne Job aussortiert, obwohl mein Profil zu 95 Prozent passt, dann erwarte ich eine konkrete Rückmeldung:
- Welche Qualifikation fehlte?
- Welche Erfahrung war wirklich relevant?
- Welche Kriterien wurden wie gewichtet?
- Und vor allem: Wurde ein Bias-Check gemacht, oder war das wieder nur ein hübsches Gerücht mit Excel-Unterbau?
Das ist keine überzogene Empfindlichkeit, sondern schlicht die logische Folge eines Systems, das sich selbst als objektiv verkauft. Wenn Unternehmen ihre Entscheidungen auf Algorithmen, ATS-Filter oder standardisierte Raster stützen, dann müssen sie auch erklären können, warum genau diese Auswahl nicht diskriminierend ist. Alles andere klingt nach Prozess, ist aber oft nur ein Feigenblatt für Vorurteile im Tabellenformat.
Was sich ändern muss
Erstens: Kein rein maschineller Erstkontakt bei qualifizierten Bewerbungen.
Zweitens: Jede algorithmische Vorauswahl braucht dokumentierte Gewichtungen, eine klare Beschreibung der Einflussfaktoren und eine menschliche Endprüfung.
Drittens: Stellenanzeigen müssen Gehaltsspannen enthalten, damit der Markt nicht weiter als Geheimclub der Unehrlichkeit funktioniert.
Viertens: Standardabsagen ohne Substanz sollten die Ausnahme sein, nicht die Regel.
Und fünftens: Politik und Industrie sollten endlich aufhören, Rentendebatten von der Realität des Arbeitsmarkts zu trennen.
Wenn Menschen ab 50 ausgesiebt werden, dann ist „bis 69“ kein Zukunftsmodell, sondern Zynismus mit Legislaturperiode. Wer Fachkräftemangel beklagt, muss auch ältere Bewerber ernst nehmen und ihnen faire, nachvollziehbare Verfahren bieten — nicht digitale Vorhänge, hinter denen niemand Verantwortung trägt.
Mein Maßstab
Ich will ein Recruiting, das erklären kann, was es tut, statt sich hinter Systemen zu verstecken. Ich will keine Maschine, die mich kommentarlos aussortiert, und keinen Menschen, der anschließend behauptet, der Algorithmus sei „objektiv“ gewesen, während niemand die Gewichtungen offenlegt. Der EU AI Act und die DSGVO liefern dafür längst den Rahmen; jetzt fehlt nur noch der Wille, ihn nicht als bürokratische Deko zu missbrauchen.
Am Ende ist meine Forderung ziemlich simpel: Wer Menschen bewertet, muss auch bewertbar sein. Wer Daten gewichtet, muss die Wichtung erklären. Und wer sich mit Fachkräftemangel schmückt, sollte nicht gleichzeitig Bewerber in intransparente Blackboxes schicken und dann überrascht tun, wenn Vertrauen, Motivation und Respekt auf der Strecke bleiben.
Zertifizierung oder Chaos
Ich will bei Recruiting-Prozessen endlich eine echte Zertifizierungspflicht beim anwendenden Unternehmen sehen, weil eine Absage nur dann glaubwürdig ist, wenn der Weg dorthin technisch und rechtlich überprüfbar war.
Wer heute mit hochrisikobasierten KI-Systemen Kandidaten vorsortiert, muss belegen können, dass Kriterien, Gewichtungen und Prüfmechanismen sauber dokumentiert sind und nicht bloß als hübsche PowerPoint-Behauptung existieren.
Dass Bewerberentscheidungen unter Art. 22 DSGVO nicht einfach blind automatisiert werden dürfen, ist kein bürokratischer Kleinkram, sondern die minimale Schutzmauer gegen digitale Willkür.
Ich verlange dafür eine Prüfungskultur wie im sicherheitskritischen Bereich: mit Audit, Nachweis, Haftung und einer Art TÜV für HR, statt Blackbox-Scoring als HR-Folklore zu verkaufen.
Wenn selbst für KI-Governance über AI-Audits und mit ISO/IEC 42001 strukturierte Prüfrahmen existieren, dann ist es absurd, ausgerechnet Karrieren unkontrolliert an Software zu hängen. Das Leben ist zu heikel, um es ein paar Programmierern zu überlassen, die Undurchsichtigkeit als Innovation verkaufen.
