Erst den Anwendungsfall klären
„Wir nutzen KI im Recruiting“ ist für eine belastbare Bewertung zu ungenau. Entscheidend ist, welche Aufgabe das System übernimmt, welche Daten es erhält und welchen Einfluss sein Ergebnis auf eine Person hat.
| Anwendung | Praktische Einordnung |
|---|---|
| Entwurf einer Stellenanzeige | Inhaltliche Unterstützung. Fakten und Arbeitsbedingungen müssen menschlich geprüft werden. |
| Zusammenfassung interner Notizen | Prozesshilfe. Personenbezogene Daten und freigegebene Systeme beachten. |
| Zusammenfassung eines Lebenslaufs | Sensibler, weil Bewerberdaten verarbeitet und Inhalte verkürzt oder falsch gewichtet werden können. |
| Ranking oder Scoring von Bewerbern | Deutlich höheres Risiko, weil die Reihenfolge und Bewertung Personalentscheidungen beeinflussen kann. |
| Automatische Vorauswahl oder Ablehnung | Besonders sensibel. Datenschutz, AI-Act-Risikoklasse und wirksame menschliche Aufsicht müssen konkret geprüft werden. |
Risikoarme Unterstützung zuerst
Für viele KMU liegt der sinnvollste Einstieg nicht in automatischer Bewerberbewertung, sondern in der Unterstützung wiederkehrender Kommunikations- und Organisationsaufgaben.
- Textentwürfe und Varianten für Stellenkommunikation
- Strukturierung von Interviewleitfäden und FAQ
- Vorbereitung von Prozessdokumentation und Checklisten
- Zusammenfassung nicht personenbezogener Analyseergebnisse
Auch hier bleiben Qualitätskontrolle, Vertraulichkeit, Rechte Dritter und die korrekte Darstellung des Arbeitgebers relevant.
Auswahl, Ranking und Bewertung verändern die Risikolage
Ein Score ist keine objektive Eignung. Kriterien, Trainingsdaten, Gewichtungen und Datenqualität beeinflussen das Ergebnis. Schon die Reihenfolge einer Bewerberliste kann menschliche Entscheidungen lenken.
Wer solche Systeme einsetzen will, sollte deshalb vorab dokumentieren: Zweck, Eingabedaten, Bewertungskriterien, zulässige Nutzung des Ergebnisses, Verantwortliche, Prüfmöglichkeiten und den Weg, auf dem Menschen vom Systemvorschlag abweichen können.
EU AI Act: Beschäftigungs-KI kann Hochrisiko-KI sein
Der AI Act zählt bestimmte KI-Systeme im Bereich Beschäftigung zu den Hochrisiko-Anwendungen. Dazu gehören nach Anhang III insbesondere Systeme, die für Rekrutierung oder Auswahl natürlicher Personen eingesetzt werden, etwa zum gezielten Schalten von Stellenanzeigen, zum Analysieren und Filtern von Bewerbungen oder zur Bewertung von Kandidaten. Ebenfalls erfasst sein können Systeme, die wesentliche Entscheidungen im Beschäftigungsverhältnis beeinflussen.
Nach der 2026 geänderten EU-Zeitschiene gelten die High-Risk-Regeln für die in Anhang III erfassten Bereiche wie Beschäftigung grundsätzlich ab 2. Dezember 2027. Das bedeutet nicht, dass bis dahin keine Regeln gelten. Datenschutz, Diskriminierungsverbote, bereits anwendbare Teile des AI Act und vertragliche Pflichten bleiben relevant.
KI-Kompetenz nach Art. 4 gilt bereits
Art. 4 AI Act gilt seit dem 2. Februar 2025. Anbieter und Betreiber von KI-Systemen müssen Maßnahmen treffen, um die KI-Kompetenz ihrer Beschäftigten und anderer Personen zu fördern, die in ihrem Auftrag mit den Systemen arbeiten.
Die Europäische Kommission betont einen kontext- und risikobasierten Ansatz. Für ein kleines Unternehmen bedeutet das nicht automatisch ein formales Zertifikatsprogramm. Es sollte aber nachvollziehbar geregelt sein, welche KI-Systeme genutzt werden, wofür sie eingesetzt werden dürfen, welche Risiken bestehen und wer Ergebnisse kontrolliert.
- eingesetzte KI-Systeme und Zwecke erfassen
- zulässige und unzulässige Nutzung definieren
- personenbezogene und vertrauliche Daten besonders behandeln
- menschliche Prüfung und Eskalation festlegen
- Wissen und Regeln bei Systemänderungen aktualisieren
Datenschutz bleibt eine eigene Prüfung
Der AI Act ersetzt die DSGVO nicht. Werden Bewerberdaten verarbeitet, müssen unter anderem Rechtsgrundlage, Zweck, Datenminimierung, Empfänger, Auftragsverarbeitung, mögliche Drittlandtransfers, Speicherfristen und Betroffenenrechte eigenständig geprüft werden.
Besonders sensibel sind Systeme, die aus Bewerberdaten Bewertungen oder Empfehlungen ableiten. Zusätzlich zu den AI-Act-Fragen kann Art. 22 DSGVO bei ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung relevant werden.
Menschliche Aufsicht muss real sein
„Ein Mensch klickt am Ende auf Bestätigen“ ist keine belastbare Kontrollarchitektur. Die verantwortliche Person braucht Zugriff auf die maßgeblichen Informationen, ausreichende Kompetenz, Zeit zur Prüfung und die tatsächliche Befugnis, vom Systemvorschlag abzuweichen.
Für nachwuchssicherung.de gilt deshalb als Leitprinzip: KI kann Analyse und Strukturierung unterstützen. Die Personalentscheidung bleibt beim verantwortlichen Arbeitgeber.
Praxischeck für Arbeitgeber
| Prüffrage | Warum sie wichtig ist |
|---|---|
| Welche konkrete Aufgabe übernimmt die KI? | Produktnamen sagen nichts über den tatsächlichen Entscheidungsrisiko aus. |
| Welche Daten erhält das System? | Bewerber- und Beschäftigtendaten erhöhen Datenschutz- und Vertraulichkeitsanforderungen. |
| Beeinflusst das Ergebnis Auswahl, Ranking oder Ablehnung? | Damit steigt die Relevanz der High-Risk- und Aufsichtsprüfung. |
| Kann ein Mensch das Ergebnis nachvollziehen und überstimmen? | Nur dann ist menschliche Aufsicht praktisch wirksam. |
| Wer ist intern verantwortlich und geschult? | Art. 4 verlangt eine angemessene Entwicklung von KI-Kompetenz. |
| Ist die Nutzung dokumentiert und regelmäßig überprüft? | Systeme, Anbieter und Funktionen ändern sich schnell. |
Häufige Fragen
Ist jede KI-Nutzung im Recruiting ein Hochrisiko-KI-System?
Nein. Entscheidend sind Zweck und konkrete Entscheidungswirkung. Text- oder Strukturhilfe ist anders einzuordnen als Systeme, die Bewerber auswählen, filtern, bewerten oder für wesentliche Personalentscheidungen einsetzen.
Wann gelten die High-Risk-Regeln für Beschäftigungs-KI?
Nach der 2026 geänderten EU-Zeitschiene gelten die High-Risk-Regeln für die in Anhang III erfassten Bereiche wie Beschäftigung grundsätzlich ab 2. Dezember 2027.
Gilt die Pflicht zur KI-Kompetenz bereits?
Ja. Art. 4 AI Act gilt seit 2. Februar 2025. Anbieter und Betreiber müssen Maßnahmen zur Entwicklung der KI-Kompetenz der Personen treffen, die in ihrem Auftrag mit KI-Systemen arbeiten.
Darf KI allein über Bewerber entscheiden?
Vollautomatisierte Entscheidungen über Personen sind datenschutzrechtlich und je nach System auch nach dem AI Act besonders sensibel. Für KMU sollte KI Entscheidungen vorbereiten, nicht ungeprüft ersetzen.
Ist dieser Beitrag eine Rechtsberatung?
Nein. Der Beitrag vermittelt allgemeine fachliche Orientierung und ersetzt keine Prüfung des konkreten Systems und Einzelfalls.