Explainable AI: Definition, Methoden und Nutzen
Warum der Begriff zählt
Ein Ergebnis, das niemand nachvollziehen kann, lässt sich weder verantworten noch verbessern. Erklärbarkeit schafft Vertrauen bei Nutzern und liefert die Grundlage für eine menschliche Freigabe. Sie hilft auch, Fehler und Verzerrung zu finden, weil sichtbar wird, worauf ein Modell reagiert. Beim Sprung vom Prototyp zu echter Software entscheidet die passende Dosis Erklärbarkeit darüber, ob ein System in sensiblen Bereichen überhaupt eingesetzt werden darf.
Wann es relevant ist
- Entscheidungen betreffen Personen und müssen begründbar sein.
- Fachleute sollen den Vorschlägen der KI vertrauen und sie prüfen.
- Vorgaben verlangen eine nachvollziehbare Begründung von Ergebnissen.
- Fehler oder Verzerrung sollen gezielt gefunden werden.
Wann nicht
Bei unkritischen Aufgaben mit geringem Schaden, etwa dem Vorschlagen von Tags für interne Notizen, ist ein hoher Aufwand für Erklärbarkeit selten nötig. Auch wenn die Nutzer die Erklärung ohnehin nicht bewerten können, bringt sie wenig. Die Tiefe der Erklärbarkeit sollte am Schaden und an der Zielgruppe hängen, nicht an einem festen Standard für alles.
Branchen, die das nutzen
- Kreditwirtschaft: Ablehnungen müssen gegenüber Kunden und Aufsicht begründbar sein.
- Medizin: Ärzte akzeptieren Vorschläge nur, wenn die tragenden Faktoren sichtbar sind.
- Justiz und Verwaltung: Entscheidungen mit Bürgerbezug verlangen Nachvollziehbarkeit.
- Industrie: in der Qualitätskontrolle hilft der Blick auf die entscheidenden Merkmale.
Typische Anwendungsfälle
- Anzeige der wichtigsten Faktoren hinter einem Ergebnis.
- Vergleich mit ähnlichen Fällen zur Einordnung.
- Begründungen, die eine menschliche Freigabe stützen.
- Analyse, worauf ein Modell fälschlich reagiert.
- Berichte für Kunden oder Aufsicht über die Entscheidungslogik.
- Prüfung, ob unzulässige Merkmale ins Ergebnis einfließen.
Entscheidungshilfe
| Signal | Explainable AI passt | Alternative |
|---|---|---|
| Entscheidung betrifft Personen | Gründe und Faktoren zeigen | einfaches Modell mit klaren Regeln |
| Fachleute müssen vertrauen | Erklärung in ihrer Sprache | Freigabe ohne Begründung |
| Unkritische Massenaufgabe | geringe Erklärtiefe genügt | reine Ergebnisanzeige |
| Verdacht auf Verzerrung | Einfluss der Eingaben sichtbar machen | separate Bias-Prüfung |
Beispiel
Eine Bank baut einen Assistenten, der Kreditanträge vorbewertet. Im Prototyp zeigt das System zu jedem Vorschlag die tragenden Faktoren, damit die Sachbearbeitung ihn prüfen und begründen kann. Erst nach diesem Test mit echten Fällen wird über den Betrieb entschieden. Das Beispiel beschreibt die Methode, keine behauptete Kennzahl.
Verbindung zu Services
Der passende Einstieg ist der KI-Workshop zur Festlegung der Erklärtiefe, danach KI-Entwicklung und KI-Implementierung.
Quellen
Diese Einordnung beschreibt gängige Methoden der Erklärbarkeit. Ob eine bestimmte Begründungstiefe rechtlich gefordert ist, hängt vom Anwendungsfall ab und sollte gegen die aktuell geltenden Rechtstexte geprüft werden. Dies ist keine Rechtsberatung.