Recht, Ethik und Sicherheit
Explainable AI
XAI, Erklärbarkeit
Explainable AI umfasst Methoden, die nachvollziehbar machen, warum ein KI-System zu einer bestimmten Entscheidung oder Ausgabe gekommen ist.
Für dein Unternehmen
In regulierten Bereichen wie Kreditvergabe, Versicherung oder Personalauswahl ist Erklärbarkeit oft eine rechtliche Voraussetzung: Betroffene Personen haben nach DSGVO grundsätzlich das Recht, eine automatisierte Entscheidung nachvollziehen zu können.
IT, Recht
Ausführliche Definition
Viele leistungsfähige KI-Modelle, insbesondere Deep-Learning-Systeme, funktionieren als „Black Box": Ihre Entscheidungswege sind selbst für Fachleute schwer nachzuvollziehen. Explainable AI (XAI) umfasst Techniken, die zumindest teilweise offenlegen, welche Faktoren eine KI-Entscheidung beeinflusst haben. Wichtig ist die Abgrenzung zu Chain- of-Thought: Die von einem Sprachmodell angezeigten Zwischenschritte sind keine garantiert wahrheitsgetreue Erklärung seiner internen Funktionsweise, sondern selbst wieder nur generierter Text. Echte Explainable AI setzt daher auf zusätzliche, vom Modell unabhängige Analyseverfahren.
ai-bias; ki-governance; modellkarte; chain-of-thought
etz Bitkom: Umsetzungsleitfaden zur KI-Verordnung (Version 2.0)
← Alle Begriffe im KI-Glossar


