Am 1. August 2024 tritt der sogenannte AI Act in der Europäischen Union in Kraft – das erste umfassende Gesetz, das die Entwicklung und den Einsatz von Künstlicher Intelligenz (KI) reguliert. Für viele Unternehmen, besonders im Personalbereich, bringt dieser neue rechtliche Rahmen erhebliche Auswirkungen mit sich. Personalberatungen, Headhunter und Personaldienstleister nutzen bereits KI-basierte Tools, sei es zur Talentakquise, im Bewerbermanagement oder bei der Analyse von Bewerberdaten. Der AI Act stellt sicher, dass der Einsatz solcher Technologien verantwortungsvoll und transparent erfolgt.

In diesem Blogbeitrag werfen wir einen detaillierten Blick auf den AI Act und seine Auswirkungen auf die Personalbranche. Wir erklären, wie die Risikoklassifizierung von KI-Systemen funktioniert, welche Pflichten auf Unternehmen zukommen und wie sich Geschäftsführer von Personalberatungen, Headhuntern und Personaldienstleistern auf die neuen Anforderungen vorbereiten können.

Den Blog können Sie sich auch HIER vorlesen lassen:

Wenn Sie mehr über den Ablauf von einer KI Einführung wissen wollen, klicken Sie hier!

Was ist der AI Act?

Der AI Act ist ein Regelwerk, das die Entwicklung, Bereitstellung und Nutzung von KI-Systemen innerhalb der EU reguliert. Sein Hauptziel ist es, die Risiken von KI zu minimieren und gleichzeitig Innovationen zu fördern. Der AI Act unterscheidet zwischen verschiedenen Risikokategorien, die abhängig von der jeweiligen Anwendung und dem potenziellen Einfluss auf die Gesellschaft definiert werden. Die vier Hauptkategorien sind:

1. Grün (Minimales Risiko): Systeme mit geringem oder keinem Risiko.
2. Gelb (Begrenztes Risiko): KI-Anwendungen, die spezielle Transparenzpflichten erfordern.
3. Orange (Hohes Risiko): KI-Systeme, die erhebliche Risiken bergen und strengen Regulierungen unterliegen.
4. Rot (Unannehmbares Risiko): KI-Systeme, die verboten sind, da sie Grundrechte oder die Sicherheit gefährden.

Für Unternehmen in der Personalbranche, die bereits KI-basierte Technologien verwenden, ist es entscheidend, die jeweilige Risikokategorie ihrer genutzten Systeme zu verstehen und zu bewerten, ob zusätzliche Maßnahmen erforderlich sind, um die gesetzlichen Vorgaben zu erfüllen.

Warum der AI Act für die Staffing-Branche wichtig ist

Der Einsatz von KI im Personalbereich ist längst keine Zukunftsvision mehr. Tools zur Automatisierung von Recruiting-Prozessen, zur Analyse von Bewerberprofilen oder zur Vorhersage von Erfolgschancen bestimmter Kandidaten gehören bereits zum Standard in vielen Personalabteilungen. KI-gestützte Systeme können Headhuntern und Personaldienstleistern einen enormen Wettbewerbsvorteil verschaffen, indem sie Prozesse effizienter gestalten und bessere Ergebnisse liefern. Doch genau hier setzt der AI Act an: Er sorgt dafür, dass diese Technologien fair und transparent genutzt werden.

Für Geschäftsführer von Personalberatungen und Personaldienstleistern bedeutet dies, dass sie sicherstellen müssen, dass die von ihnen eingesetzten KI-Systeme den neuen gesetzlichen Anforderungen entsprechen. Ein Verstoß gegen den AI Act kann nicht nur rechtliche Konsequenzen haben, sondern auch das Vertrauen von Kunden und Bewerbern in das Unternehmen nachhaltig schädigen.

Die Risikokategorien des AI Act und ihre Bedeutung für die Staffing-Branche

1. Grün (Minimales Risiko)

Systeme in der grünen Kategorie sind weitgehend unreguliert, da sie keine wesentlichen Risiken für die Rechte und Freiheiten der Menschen darstellen. Für Personaldienstleister bedeutet dies, dass viele der heute eingesetzten Tools weiterhin ohne größere Anpassungen genutzt werden können. Beispiele für KI-Systeme mit minimalem Risiko im Personalbereich sind:

• Spam-Filter: Systeme, die eingehende E-Mails automatisch auf Spam-Inhalte überprüfen und entsprechend filtern.
• Rechtschreib- und Grammatikprüfung: KI-basierte Tools zur Überprüfung von Anschreiben und Bewerberprofilen.
• Kalenderautomatisierung: Systeme, die Vorstellungsgespräche oder Meetings automatisch koordinieren und im Kalender eintragen.
• Empfehlungssysteme für Weiterbildung: KI-Tools, die basierend auf den Fähigkeiten und Karrierezielen eines Kandidaten Weiterbildungsangebote vorschlagen.

Diese Anwendungen erfordern keine zusätzlichen Maßnahmen seitens der Unternehmen, da sie als risikoarm eingestuft werden.

2. Gelb (Begrenztes Risiko)

KI-Systeme in der gelben Kategorie erfordern eine höhere Transparenz, insbesondere bei der Offenlegung der Trainingsdaten und der Funktionsweise des Systems. Personalberatungen und Headhunter nutzen häufig Tools in dieser Risikokategorie, z.B. zur Kandidatenkommunikation oder Content-Erstellung. Beispiele sind:

• Chatbots: KI-gestützte Chatbots, die mit Bewerbern interagieren, erste Fragen beantworten oder Informationen zur Verfügung stellen.
• Automatisierte Texterstellung: Systeme, die Stellenanzeigen oder Bewerberprofile automatisch erstellen und optimieren.
• KI-basierte Videointerviews: Tools, die Bewerbergespräche automatisiert führen und analysieren.
• Personalisierte E-Mail-Kampagnen: Systeme, die auf Grundlage von Bewerber- oder Kundendaten personalisierte E-Mails versenden.

Hier müssen Unternehmen sicherstellen, dass die Systeme die erforderliche Transparenz bieten. Das bedeutet, dass z.B. offengelegt werden muss, welche Daten zur Erstellung von Texten oder zur Analyse der Videointerviews genutzt werden.

3. Orange (Hohes Risiko)

In der orangen Kategorie finden sich KI-Systeme, die erhebliche Risiken für die Grundrechte der Menschen bergen. Der Einsatz dieser Systeme ist stark reguliert, und Personalberatungen müssen strenge Anforderungen erfüllen, wenn sie solche Systeme verwenden möchten. Beispiele aus dem Personalbereich sind:

• KI-gestützte Kandidatenauswahl: Tools, die Bewerber analysieren und auf Grundlage bestimmter Kriterien vorselektieren.
• KI-basierte Bewerbungsbewertung: Systeme, die Bewerbungen automatisch bewerten und eine Rangfolge der Kandidaten erstellen.
• Vorausschauende Analysen zur Mitarbeiterbindung: KI-Modelle, die das Risiko eines Mitarbeiterabgangs voraussagen und Maßnahmen vorschlagen.
• KI-gestützte Gehaltsvorschläge: Tools, die auf Basis von Marktdaten und Bewerberprofilen Gehaltsvorschläge erstellen.

Unternehmen, die solche Systeme einsetzen, müssen umfassende Sicherheitsmaßnahmen ergreifen, um sicherzustellen, dass keine Diskriminierung oder Verzerrung in den Ergebnissen auftritt. Zudem ist es erforderlich, die eingesetzten Systeme regelmäßig zu prüfen und Audits durchzuführen, um die Einhaltung der gesetzlichen Vorgaben zu gewährleisten.

4. Rot (Unannehmbares Risiko)

KI-Systeme, die ein unannehmbares Risiko für die Rechte und Freiheiten von Menschen darstellen, sind gemäß dem AI Act verboten. Für Personalberatungen, Headhunter und Personaldienstleister bedeutet dies, dass sie solche Technologien keinesfalls einsetzen dürfen. Beispiele für verbotene Systeme sind:

• Emotionserkennung bei Bewerbern: Systeme, die während eines Bewerbungsgesprächs die Emotionen der Kandidaten analysieren und diese in die Bewertung einfließen lassen.
• Social Scoring Systeme: KI, die Bewerber auf Basis ihrer Online-Aktivitäten oder sozialen Interaktionen bewertet.
• Predictive Policing im Personalbereich: Tools, die das Verhalten von Kandidaten vorhersagen und daraus potenzielle „Risiken“ ableiten.

Der Einsatz solcher Technologien wäre ein direkter Verstoß gegen den AI Act und hätte schwerwiegende rechtliche Konsequenzen für die beteiligten Unternehmen.

Was Personalberatungen, Headhunter und Personaldienstleister jetzt tun müssen

Um den Anforderungen des AI Act gerecht zu werden, sollten Geschäftsführer von Personalberatungen, Headhuntern und Personaldienstleistern bereits jetzt erste Schritte einleiten:

1. Bestandsaufnahme der verwendeten KI-Systeme: Analysieren Sie, welche KI-Systeme in Ihrem Unternehmen im Einsatz sind und in welche Risikokategorie sie fallen.
2. Transparenz sicherstellen: Für alle KI-Systeme, die in die gelbe oder orange Kategorie fallen, sollten Sie sicherstellen, dass die Transparenzanforderungen erfüllt werden. Dazu gehört, dass offengelegt wird, wie das System funktioniert und welche Daten verwendet werden.
3. Audits und regelmäßige Prüfungen einführen: Implementieren Sie interne Kontrollmechanismen, um sicherzustellen, dass Ihre KI-Systeme den gesetzlichen Vorgaben entsprechen.
4. Schulungen für Mitarbeiter anbieten: Stellen Sie sicher, dass Ihre Mitarbeiter über die neuen Anforderungen informiert sind und im Umgang mit KI-Systemen geschult werden.

Fazit

Der AI Act stellt eine bedeutende Herausforderung für die Personalbranche dar, bietet aber auch Chancen. Unternehmen, die frühzeitig auf die neuen Anforderungen reagieren, können KI weiterhin erfolgreich einsetzen, während sie gleichzeitig das Vertrauen ihrer Kunden und Bewerber stärken. Geschäftsführer von Personalberatungen, Headhuntern und Personaldienstleistern sollten die kommenden Monate nutzen, um ihre Systeme zu überprüfen und sicherzustellen, dass sie die gesetzlichen Vorgaben des AI Act einhalten.

Ein proaktiver Ansatz bei der Implementierung dieser Vorschriften wird nicht nur helfen, rechtliche Risiken zu minimieren, sondern auch das langfristige Wachstum und den Erfolg Ihres Unternehmens sichern.