KI-Governance in HR und bAV: Richtlinie, Register, Freigabe – der Praxisleitfaden

Warum KI-Governance jetzt

In den meisten Personalabteilungen ist KI längst da: als Schreibhilfe, im Bewerbermanagement, als Chatbot im Mitarbeiterportal, versteckt in zugekaufter HR- und bAV-Software. Was oft fehlt, ist ein Rahmen, der festlegt, wer welche KI wofür nutzen darf und wer dafür geradesteht. Mehrere Regelwerke verlangen diesen Rahmen schon heute, nicht erst mit den Hochrisiko-Pflichten Ende 2027:

Den Zeitplan der KI-Verordnung im Detail und die Hochrisiko-Einordnung für bAV-Anwendungen erklärt unser Leitfaden zum EU AI Act in der bAV.

Die sieben Bausteine

Governance muss nicht groß anfangen. Für ein mittelständisches Unternehmen oder eine Personalabteilung reichen sieben Bausteine, die aufeinander aufbauen:

1. KI-Richtlinie. Zwei bis fünf Seiten: Wofür KI genutzt werden darf, wofür nicht, welche Daten tabu sind, wie Ergebnisse geprüft werden. Freigegeben von der Geschäftsleitung, nicht von der IT allein.
2. Benannte Verantwortung. Eine Person, die KI-Einsätze bewertet, das Register führt und an die Geschäftsleitung berichtet. In kleineren Häusern kann das eine Zusatzrolle sein; wichtig ist der Name, nicht der Titel.
3. KI-Register. Ein Verzeichnis aller eingesetzten KI-Systeme mit Zweck, Anbieter, verarbeiteten Daten, Rolle nach KI-VO (Anbieter oder Betreiber), Risikoklasse und verantwortlicher Person. Regelbasierte Automatisierung ohne KI gehört nicht hinein.
4. Freigabeprozess. Neue KI-Einsätze werden angemeldet, eingeordnet und erst nach dokumentierter Freigabe genutzt. Bei personenbezogenen Daten ist der Datenschutzbeauftragte beteiligt, bei Beschäftigtendaten der Betriebsrat.
5. Datenklassen und erlaubte Tools. Eine einfache Zuordnung, welche Daten in welches Werkzeug dürfen (siehe nächster Abschnitt).
6. Schulung. Beim Onboarding, mindestens jährlich und bei wesentlichen Änderungen. Inhalt: Funktionsweise und Grenzen, typische Fehler, Datenschutz, die eigene Richtlinie. Dokumentiert, wer wann teilgenommen hat.
7. Überprüfung und Vorfälle. Register, Richtlinie und Kennzeichnung werden regelmäßig geprüft, etwa halbjährlich. Fehlfunktionen oder Datenabflüsse laufen über den bestehenden Incident-Prozess.

Shadow AI: bereitstellen statt verbieten

Shadow AI entsteht, wenn Beschäftigte private Konten öffentlicher KI-Dienste für berufliche Aufgaben nutzen, weil das Unternehmen keine Alternative anbietet. Das eigentliche Risiko ist nicht die KI, sondern der Kontrollverlust: Personal- und Vorsorgedaten landen bei Anbietern ohne Vertrag, Ergebnisse sind nicht nachvollziehbar, und niemand weiß, welche Entscheidungen auf KI-Ausgaben beruhen.

Verbote verlagern die Nutzung meist nur auf private Geräte. Wirksamer ist ein internes Angebot, das so gut ist, dass niemand ausweichen muss: ein Unternehmenszugang mit Vertrag zur Auftragsverarbeitung, ohne Training auf Kundendaten, mit Protokollierung, oder ein lokal betriebenes Modell. Dazu eine einfache Regel, welche Daten wohin dürfen:

Betriebsrat und Mitbestimmung

Wer KI im Personalbereich einführt, sollte den Betriebsrat früh einbinden. Das ist nicht nur Pflicht, sondern beschleunigt die Einführung, weil spätere Blockaden ausbleiben. Die wichtigsten Anknüpfungspunkte im Betriebsverfassungsgesetz:

• § 87 Abs. 1 Nr. 6 BetrVG: Mitbestimmung bei technischen Einrichtungen, die geeignet sind, Verhalten oder Leistung zu überwachen. Das trifft auf viele KI-Werkzeuge zu, oft schon, weil sie Nutzungsdaten protokollieren.
• § 90 BetrVG: Unterrichtung und Beratung bei der Planung von Arbeitsverfahren und -abläufen, ausdrücklich auch beim Einsatz von KI.
• § 95 Abs. 2a BetrVG: Auswahlrichtlinien bei Einstellung, Versetzung oder Kündigung sind auch dann mitbestimmt, wenn sie mithilfe von KI aufgestellt oder angewendet werden.
• § 80 Abs. 3 BetrVG: Muss der Betriebsrat die Einführung oder Anwendung von KI beurteilen, gilt die Hinzuziehung eines Sachverständigen als erforderlich.

Bewährt hat sich eine Rahmen-Betriebsvereinbarung zu KI, die Grundsätze, Datenklassen, Freigabeprozess und Protokollauswertung regelt. Einzelne Systeme werden dann über Anlagen ergänzt, statt jedes Mal neu zu verhandeln.

Datenschutz

• Datenschutz-Folgenabschätzung (Art. 35 DSGVO): Bei KI, die Beschäftigtendaten in größerem Umfang oder Gesundheitsdaten verarbeitet, regelmäßig erforderlich.
• Automatisierte Entscheidungen (Art. 22 DSGVO): Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung dürfen grundsätzlich nicht ausschließlich automatisiert fallen. Eine Prüfung, die nur formal abzeichnet, reicht nicht.
• Verträge: Mit jedem KI-Dienst, der personenbezogene Daten verarbeitet, ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO; bei Anbietern außerhalb der EU zusätzlich die Grundlage für den Drittlandtransfer.
• Lokale Verarbeitung: Modelle, die im eigenen oder einem deutschen Rechenzentrum laufen, lösen viele dieser Fragen strukturell. Mehr dazu in Lokale KI statt Black Box.

Sicherheit von Sprachmodellen und KI-Agenten

Sprachmodelle lassen sich über ihre Eingaben manipulieren, etwa durch Prompt Injection in E-Mails oder Dokumenten. Firewalls und Virenscanner erkennen das nicht. Das BSI hat dazu praxisnahe Gegenmaßnahmen für Unternehmen veröffentlicht. Besonders riskant wird es, wenn ein System drei Dinge zugleich kann: auf vertrauliche Daten zugreifen, Inhalte aus nicht vertrauenswürdigen Quellen verarbeiten und nach außen kommunizieren, also E-Mails senden oder Schnittstellen aufrufen.

Für Governance heißt das:

• KI-Agenten nur mit den Rechten ausstatten, die sie für ihre Aufgabe brauchen.
• Vor folgenreichen Aktionen wie Versand, Zahlung oder Statusänderung eine menschliche Freigabe einbauen.
• Vertrauliche Daten und externe Eingaben möglichst in getrennten Komponenten verarbeiten.
• Keine Geheimnisse in System-Prompts; Ein- und Ausgaben protokollieren.

Wie KI-Agenten in der bAV mit diesen Leitplanken arbeiten, beschreibt KI-Agenten in der bAV.

Besonderheiten in bAV und Versicherung

• DORA: Für Versicherer, Pensionskassen und Pensionsfonds ist KI Teil des IKT-Risikomanagements. KI-Dienste von Dritten gehören in das Informationsregister und in das Drittparteienmanagement, mit Exit-Strategie. Die BaFin hat das in ihrer Orientierungshilfe vom 18. Dezember 2025 klargestellt; Hintergründe im Fachinterview zur BaFin-Orientierungshilfe.
• Hochrisiko im Personalbereich ab Dezember 2027: Für KI, die über Arbeitsbedingungen entscheidet oder Beschäftigte bewertet, gelten dann die Betreiberpflichten nach Artikel 26: Einsatz nach Gebrauchsanweisung, menschliche Aufsicht durch qualifizierte Personen, Aufbewahrung der Protokolle und die Information von Arbeitnehmervertretung und betroffenen Beschäftigten vor der Inbetriebnahme.
• Regelbasiert ist nicht KI: Versicherungsmathematische Rechenkerne, Fristenläufe und Workflows mit fester Logik sind in der Regel keine KI-Systeme im Sinne von Art. 3 Nr. 1 KI-VO. Sie gehören nicht ins KI-Register, bleiben aber Teil von Informationssicherheit und Qualitätsmanagement.
• Datenqualität: KI in der bAV ist nur so gut wie die Bestandsdaten. Bereinigte, einheitliche Stammdaten sind oft der größere Hebel als das Modell selbst.

So machen wir es selbst

Die IT Warehouse Gruppe hat diese Bausteine für sich umgesetzt und dokumentiert sie öffentlich auf unserer Seite zur KI-Transparenz:

• Eine verbindliche KI-Richtlinie für alle Gesellschaften der Gruppe, freigegeben vom Vorstand.
• Ein benannter KI-Beauftragter mit Berichtsweg zum Vorstand; der externe Datenschutzbeauftragte prüft alle Einsätze mit Personenbezug.
• Ein KI-Systemregister mit Zweck, Modellen, Risikoklasse, Verantwortlichen und Transparenzmaßnahmen.
• Ein fünfstufiger Weg in den Einsatz: Anmeldung und Einordnung, dokumentierte Freigabe, Registereintrag, Schulung, halbjährliche Überprüfung.
• Im Produktivbetrieb von smart!bAV ausschließlich lokale Modelle auf eigener Hardware in einem zertifizierten Rechenzentrum in Deutschland, ohne Datenübermittlung an externe KI-Anbieter.

Kunden, die smart!bAV einsetzen, erhalten die Nachweise für ihre eigenen Betreiberpflichten: Bestätigung der Kennzeichnungsfunktionen, Registerauszug und auf Wunsch die passende Vertragsanlage.

Der 90-Tage-Plan

Häufige Fragen

Brauchen auch kleine Unternehmen KI-Governance?

Ja, aber in kleinem Maßstab. Artikel 4 und 50 KI-VO und die DSGVO gelten unabhängig von der Größe. Eine kurze Richtlinie, ein Register als Tabelle und eine dokumentierte Schulung genügen oft.

Ist der Einsatz von ChatGPT oder ähnlichen Diensten in HR erlaubt?

Mit Unternehmenszugang, Vertrag zur Auftragsverarbeitung und klaren Regeln, welche Daten eingegeben werden dürfen, in vielen Fällen ja. Beschäftigtendaten über private Konten einzugeben ist dagegen kaum zu rechtfertigen.

Muss der Betriebsrat jedem KI-Tool zustimmen?

Mitbestimmungspflichtig ist KI vor allem dann, wenn sie geeignet ist, Verhalten oder Leistung zu überwachen. Das ist häufiger der Fall, als man denkt. Eine Rahmen-Betriebsvereinbarung vermeidet, jedes Tool einzeln zu verhandeln.

Was gehört ins KI-Register?

Jedes eingesetzte KI-System mit Zweck, Anbieter, Daten, Rolle nach KI-VO, Risikoklasse und verantwortlicher Person. Regelbasierte Automatisierung ohne KI gehört nicht hinein.

Wer ist für die Aufsicht zuständig?

Für KI im Personalbereich in der Regel die Bundesnetzagentur, auch bei Finanzunternehmen. Die BaFin ist für KI zuständig, die mit beaufsichtigten Finanzdienstleistungen zusammenhängt.

---

Sie möchten KI in HR und bAV mit klaren Regeln einführen? Für die KI-Kompetenz nach Artikel 4 bieten wir einen ZFU-zugelassenen Fernlehrgang an, und die KI-Assistenten von smart!bAV laufen lokal mit Registerauszug und Kennzeichnung. Termin für ein Gespräch vereinbaren.

---