Kompetenzpflicht (Art. 4): Definition und Umsetzung
Warum der Begriff zählt
Ein gut gebautes System nützt wenig, wenn die Menschen dahinter seine Grenzen nicht kennen. Die Kompetenzpflicht rückt genau das in den Fokus: Nutzer müssen einschätzen können, wann sie einem Ergebnis trauen und wann nicht. Beim Weg vom Prototyp zu echter Software gehört deshalb die Befähigung der Teams dazu, nicht nur der Bau. Wer den Use-Case im Workshop mitentwickelt, versteht ihn später besser und erfüllt diese Pflicht fast nebenbei.
Wann es relevant ist
- Ein KI-System wird von Mitarbeitenden im Alltag genutzt.
- Ein Prototyp geht in den Betrieb und neue Rollen kommen hinzu.
- Nutzer treffen auf Basis von KI-Vorschlägen Entscheidungen.
- Ein Fremdsystem wird eingeführt und muss richtig bedient werden.
Wann nicht
Wenn ein System vollständig im Hintergrund läuft und niemand es direkt bedient oder auf seine Ergebnisse hin handelt, steht die Befähigung einzelner Nutzer weniger im Vordergrund. Dennoch braucht es zumindest verantwortliche Personen mit Verständnis für das System. Ganz ohne Kompetenz geht es selten, die Frage ist eher, wer sie in welchem Umfang braucht.
Branchen, die das nutzen
- Banken: Sachbearbeiter, die KI-Vorschläge prüfen, müssen deren Grenzen kennen.
- Gesundheitswesen: medizinisches Personal braucht Verständnis für KI-gestützte Hinweise.
- Öffentliche Verwaltung: Beschäftigte mit Bürgerkontakt sollten KI-Ergebnisse einordnen können.
- Produktion: Fachkräfte an KI-gestützten Anlagen brauchen Wissen über deren Verhalten.
Typische Anwendungsfälle
- Schulung der Nutzer zu Fähigkeiten und Grenzen eines Systems.
- Einbindung der Fachbereiche schon im Workshop und Bau.
- Kurze Leitfäden, die den sicheren Umgang beschreiben.
- Klare Rollen, wer prüft, freigibt und eskaliert.
- Auffrischung des Wissens bei größeren Änderungen.
- Nachweis der Befähigung für Audits und Prüfungen.
Entscheidungshilfe
| Signal | Kompetenzpflicht im Fokus | Alternative |
|---|---|---|
| Mitarbeitende nutzen das System direkt | gezielte Schulung und Leitfäden | reine Bedienungsanleitung |
| Entscheidungen auf Basis von KI | Verständnis für Grenzen vermitteln | Freigabe nur durch Experten |
| Vollautomatischer Hintergrundprozess | Fokus auf Verantwortliche | breite Schulung nicht nötig |
| Audit fragt nach Befähigung | Nachweise dokumentieren | fachliche Rechtsberatung ergänzen |
Beispiel
Eine Bank führt einen Assistenten für die Sachbearbeitung ein. Statt nur eine Anleitung zu verteilen, werden die Teams schon im Workshop einbezogen und lernen die Grenzen des Systems kennen. Erst mit dieser Befähigung geht der Assistent in den Betrieb. Das Beispiel beschreibt die Methode, keine behauptete Kennzahl.
Verbindung zu Services
Der passende Einstieg ist der KI-Workshop zur Befähigung der Teams, danach KI-Implementierung und KI-Beratung.
Quellen
Diese Einordnung ist eine allgemeine Orientierung und keine Rechtsberatung. Der genaue Umfang der Kompetenzpflicht ergibt sich aus Artikel 4 des EU AI Act und begleitenden Leitlinien und sollte gegen die aktuell geltenden Rechtstexte geprüft werden.