Die EU-KI-Verordnung ist in Kraft, und die Recruiting-Vorgaben gehören zu den strengsten. Wenn Sie in der EU einstellen und Ihr ATS KI einsetzt, um Bewerbende zu prüfen, zu sortieren oder zu bewerten, betreiben Sie nach Anhang III der Verordnung ein Hochrisiko-KI-System, auch wenn Sie 20 Mitarbeitende haben und die KI nicht selbst entwickelt haben. Die Betreiberpflichten liegen bei Ihnen, nicht nur bei Ihrem Anbieter. Die vollständigen Pflichten werden ab dem 2. August 2026 durchsetzbar, mit Bußgeldern nach Artikel 99 bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes bei Verstößen gegen Hochrisiko-Pflichten.
Bei Join setzen wir KI als Assistenz ein, nicht als Entscheiderin. Diese Haltung verortet unsere KI-Funktionen per Design auf der Niedrigrisiko-Seite der Verordnungsklassifizierung (Entwerfen, Zusammenfassen, Vorschlagen), und genau deshalb können wir diesen Beitrag aus beiden Perspektiven schreiben: als Anbieter, der seine Produkte um die Verordnung herum gebaut hat, und als die Kund:in, die wir uns gewünscht hätten, als wir selbst ATS-Software gekauft haben.
Das hier ist keine Rechtsberatung. Es ist eine Karte in klarer Sprache, was die Verordnung erwartet, und fünf Fragen, die Sie jedem ATS-Anbieter stellen können, bevor Sie unterschreiben oder verlängern.
Was Hochrisiko ist und was nicht
Die Verordnung sortiert KI nach dem, was sie mit Menschen macht. Alles, was den Zugang zur Beschäftigung wesentlich beeinflusst, ist Hochrisiko.
| Hochrisiko | Nicht Hochrisiko |
|---|---|
| Bewerbende gegen eine Stelle bewerten oder ranken | Stellenanzeigen entwerfen |
| Bewerbungen filtern, bevor ein Mensch sie sieht | Lebensläufe für einen Menschen zusammenfassen |
| Leistung, Eignung oder Verweildauer aus dem Lebenslauf vorhersagen | Interviewfragen für eine Führungskraft vorschlagen |
| Automatische Absagen ohne menschliche Prüfung | Bewerbende nach Aktualität oder Vollständigkeit sortieren |
Die Trennlinie ist: Trifft die KI eine Entscheidung, die beeinflusst, ob die Person weiterkommt? Wenn ja: Hochrisiko. Wenn nein: begrenztes Risiko, und die Pflichten sind leichter.
Was „Hochrisiko” tatsächlich verlangt
Fünf Dinge, vereinfacht:
- Echte menschliche Aufsicht, keine Theaterkulisse. Artikel 14 der Verordnung verlangt, dass ein Mensch in der Lage ist, die Ausgabe der KI zu übersteuern oder zu ignorieren, mit genug Informationen, um das zu können. Ein „Genehmigen”-Knopf, den niemand drückt, zählt nicht. Die Führungskraft muss sehen können, warum die KI vorgeschlagen hat, was sie vorgeschlagen hat, und widersprechen dürfen.
- Dokumentierter Zweck und Genauigkeitsangaben. Ihr Anbieter sollte Ihnen schriftlich sagen können, wofür das System gedacht ist, womit es trainiert wurde, welche Grenzen bekannt sind und wie es bei den relevanten Kennzahlen abschneidet (Bias, Genauigkeit, Fairness über geschützte Merkmale hinweg). Wenn die Antwort „das Modell ist proprietär, das können wir nicht teilen” lautet, ist die Antwort falsch.
- Transparenz gegenüber Bewerbenden. Bewerbende haben das Recht zu erfahren, wenn ein automatisiertes System wesentlich an einer Entscheidung über sie beteiligt war. Nicht in der Datenschutzerklärung in Schriftgröße 8 grau. In einer Sprache, die die Person finden und verstehen kann.
- Protokollierung. Aufzeichnungen darüber, welche Entscheidungen das System über welche Bewerbenden getroffen hat, lange genug aufbewahrt, um sie prüfen zu können. Die meisten Anbieter speichern das; wenige machen den Export einfach. Fragen Sie vor Vertragsabschluss.
- Bias-Monitoring. Laufend. Nicht „wir haben das einmal zum Launch getestet”. Wird das Modell aktualisiert, wird neu getestet. Ändert sich Ihr Bewerberpool, wird neu getestet.
Fünf Fragen an jeden ATS-Anbieter
Das sind die Fragen, die wir stellen würden, bevor wir einen Vertrag unterschreiben, der einer KI eine Rolle in Einstellungsentscheidungen gibt.
| Frage | Warnsignal |
|---|---|
| Ist Ihre KI nach der EU-KI-Verordnung als Hochrisiko-System eingestuft, und was genau macht sie dazu oder eben nicht? | Ein Anbieter, der ausweicht, hat die Hausaufgaben nicht gemacht. Die Antwort sollte konkret sein. |
| Kann eine bewerbende Person erfragen, welche Rolle Ihre KI bei ihrer Absage gespielt hat, und was wäre die Antwort? | Wenn die Antwort eine Rechtsabteilung braucht, ist das System zu autonom. |
| Wie testen Sie auf Bias, und wann zuletzt? | „Wir testen auf Bias” ohne Spezifika. „Wir nutzen [Methodik] und haben zuletzt im [Monat] Ergebnisse veröffentlicht” hat die richtige Form. |
| Wie sieht menschliche Aufsicht in Ihrem Produkt standardmäßig aus? | Aufsicht ist eine Opt-in-Option drei Bildschirme tief im Menü. Die meisten Kunden werden sie nicht aktivieren. Die Standardeinstellung zählt. |
| Wenn wir eine behördliche Anfrage bekommen, was können Sie uns binnen 48 Stunden liefern? | Ein Anbieter, der das nicht beantworten kann, hat es aus Ihrer Vertragsperspektive nicht durchdacht. |
Was das für ein 30-Personen-Unternehmen bedeutet
Sie sind kein DAX-Konzern mit einer Compliance-Abteilung. Sie können die Trainingsdaten Ihres Anbieters wahrscheinlich nicht selbst prüfen. Was Sie tun können: Anbieter wählen, deren Antworten auf die fünf Fragen oben kurz, konkret und nicht mit „Vertrauen Sie uns” enden.
Ehrlich gesagt ist das einer der Gründe, warum wir Join so gebaut haben, wie es jetzt ist. Die KI-Funktionen, die wir ausliefern, liegen bewusst auf der Niedrigrisiko-Seite der Linie: Entwerfen, Zusammenfassen, Vorschlagen. Die Teile, die in den Hochrisiko-Bereich kippen würden (automatisches Ranking, automatische Absage), liefern wir nicht aus. Diese Entscheidung haben wir getroffen, bevor die Verordnung final war, und wir hätten sie ohnehin so getroffen. Die Verordnung macht nur die Kosten des Falschmachens sichtbarer.
Wenn Sie eines aus diesem Beitrag mitnehmen: Lesen Sie den Teil Ihres ATS-Vertrags, der von KI spricht. Lesen Sie ihn dann noch einmal mit den fünf Fragen vor sich. Die Antworten sollten klar genug sein, dass eine Aufsichtsbehörde, die anruft, dieselbe Geschichte zu hören bekommt, die Sie einer bewerbenden Person erzählen würden.
Wenn das nicht so ist, haben Sie vor der Unterschrift noch Arbeit.
