Explainable AI (XAI)
Was ist Explainable AI (XAI)?
Explainable AI (XAI) bezeichnet Methoden, mit denen Menschen Entscheidungen und Ausgaben künstlicher Intelligenz nachvollziehen können. Die Erklärungen zeigen beispielsweise, welche Eingabedaten ein Ergebnis beeinflusst haben, wie stark einzelne Merkmale wirkten oder welche Änderung zu einer anderen Prognose geführt hätte.
Explainable AI (XAI) macht die Ergebnisse komplexer KI-Systeme verständlich und überprüfbar. Die deutsche Entsprechung lautet erklärbare künstliche Intelligenz. XAI ergänzt ein Modell um Informationen darüber, warum eine Prognose, Empfehlung oder Klassifikation entstanden ist. Das Ergebnis kann eine Merkmalsgewichtung, eine Gegenfrage, ein Vergleichsfall oder eine verständliche Begründung sein.
Wie funktioniert Explainable AI (XAI)?
Explainable AI (XAI) untersucht den Zusammenhang zwischen den Eingaben eines KI-Modells und dessen Ausgabe. Bei einer Prognose zur Kaufwahrscheinlichkeit kann eine Erklärung beispielsweise zeigen, dass Produkttyp, bisherige Käufe und Preis stärker gewichtet wurden als Alter oder Standort. Eine solche Erklärung beschreibt den Einfluss der Daten, beweist aber noch keinen ursächlichen Zusammenhang.
Der zentrale Denkfehler besteht darin, eine verständliche Erklärung automatisch für die tatsächliche interne Entscheidungslogik zu halten. Viele XAI-Verfahren bauen nachträglich ein vereinfachtes Erklärmodell auf. Dieses Erklärmodell soll das ursprüngliche KI-Modell in einem begrenzten Bereich möglichst genau nachbilden. Prüfe deshalb immer, ob eine Erklärung das Modellverhalten zuverlässig wiedergibt und für welchen Datenbereich sie gilt.
Lokale und globale Erklärungen
Eine lokale Erklärung bezieht sich auf eine einzelne Prognose. Ein SEA-Modell könnte für eine konkrete Conversion-Prognose ausweisen, dass Gerätetyp und Suchanfrage den Wert erhöht haben, während Tageszeit und Region ihn gesenkt haben. Lokale Erklärungen eignen sich zur Prüfung einzelner auffälliger Entscheidungen.
Eine globale Erklärung beschreibt das Verhalten eines Modells über viele Datensätze hinweg. Sie zeigt beispielsweise, welche Merkmale insgesamt häufig relevant sind oder wie sich eine Veränderung des Preises typischerweise auf die prognostizierte Conversion-Wahrscheinlichkeit auswirkt. Globale Aussagen dürfen nicht ungeprüft auf jeden Einzelfall übertragen werden.
Methoden für erklärbare KI
Explainable AI (XAI) kann direkt in ein Modell eingebaut oder nach dessen Training ergänzt werden. Ein einfacher Entscheidungsbaum ist häufig von sich aus interpretierbar, weil sich sein Entscheidungspfad ablesen lässt. Ein tiefes neuronales Netz benötigt dagegen meist ein zusätzliches Verfahren, das seine Ausgaben nachträglich erklärt.
| Methode | Erklärung | Geeigneter Einsatz | Grenze |
|---|---|---|---|
| Merkmalsrelevanz | Gewichtet den Beitrag einzelner Eingaben | Prognosen und Klassifikationen | Relevanz ist keine Kausalität |
| Lokales Ersatzmodell | Nähert das Modell rund um einen Einzelfall an | Prüfung einzelner Entscheidungen | Gilt nur für die untersuchte Umgebung |
| Gegenfaktische Erklärung | Zeigt notwendige Änderungen für ein anderes Ergebnis | Handlungsempfehlungen und Szenarien | Änderungen müssen realistisch umsetzbar sein |
| Entscheidungsregeln | Formuliert Zusammenhänge als Wenn-dann-Regeln | Kommunikation mit Fachabteilungen | Komplexe Modelle werden stark vereinfacht |
| Beispielbasierte Erklärung | Vergleicht einen Fall mit ähnlichen Datensätzen | Bilder, Produkte und Kundensegmente | Die Auswahl der Vergleichsfälle beeinflusst die Aussage |
SHAP, LIME und Gegenfaktualität
SHAP weist einzelnen Merkmalen Beiträge zu einer Prognose zu. Das Verfahren basiert auf einem Ansatz aus der kooperativen Spieltheorie und vergleicht, wie sich eine Vorhersage mit unterschiedlichen Kombinationen von Merkmalen verändert. Positive Werte erhöhen das Modellergebnis, negative Werte senken es. Die Berechnung kann bei großen Modellen aufwendig sein und wird deshalb teilweise angenähert.
LIME erzeugt rund um einen untersuchten Datenpunkt künstlich veränderte Beispiele und beobachtet die Reaktion des ursprünglichen Modells. Anschließend bildet ein einfacheres lokales Modell dieses Verhalten nach. Eine LIME-Erklärung kann sich verändern, wenn andere Nachbarpunkte erzeugt oder andere Parameter gewählt werden. Wiederhole die Analyse deshalb mit identischen Einstellungen und prüfe ihre Stabilität.
Gegenfaktische Erklärungen formulieren eine konkrete Bedingung für ein anderes Ergebnis. Für ein Content-Priorisierungsmodell könnte die Aussage lauten, dass eine URL höher priorisiert worden wäre, wenn das Suchvolumen größer oder der Traffic-Verlust stärker ausgefallen wäre. Gute Gegenfakten verändern möglichst wenige Merkmale und berücksichtigen, welche Faktoren tatsächlich beeinflussbar sind.
Explainable AI im Marketing 2026
Explainable AI (XAI) unterstützt Marketing-Verantwortliche dabei, KI-Empfehlungen vor ihrer Umsetzung fachlich zu prüfen. Ein Modell kann beispielsweise Budgets verteilen, Inhalte priorisieren oder Zielgruppen bewerten. Die Erklärung muss erkennen lassen, welche Daten den Vorschlag tragen und ob sensible, veraltete oder fachlich ungeeignete Merkmale eingeflossen sind.
XAI für SEO und Content
Im SEO kann XAI erklären, warum ein System eine URL zur Optimierung auswählt. Nachvollziehbare Faktoren wären ein rückläufiger organischer Traffic, eine geringe Themenabdeckung, technische Fehler oder eine auffällige Differenz zwischen Impressionen und Klicks. Ein belastbares SEO-Reporting mit Wirkungsnachweis trennt dabei Modellvorschläge von tatsächlich gemessenen Veränderungen.
Bei der Erstellung und Prüfung von KI-Texten hilft Explainable AI (XAI), Empfehlungen auf konkrete Kriterien zurückzuführen. Dazu gehören Suchintention, fehlende Teilfragen, semantische Abdeckung und belegbare Aussagen. Die Erklärung ersetzt jedoch keine redaktionelle Prüfung, weil ein sprachlich überzeugender Text sachlich unvollständig oder falsch sein kann.
XAI für SEA und GEO
Im SEA kann Explainable AI (XAI) interne Prognosemodelle für Conversion-Werte, Budgets oder Zielgruppen verständlicher machen. Bei geschlossenen Werbeplattformen bleibt die Erklärbarkeit begrenzt, wenn der Anbieter weder das vollständige Modell noch alle verwendeten Signale offenlegt. Eine externe Erklärung darf in diesem Fall nur die verfügbaren Konto-, Kampagnen- und Ergebnisdaten bewerten.
Für GEO, die Generative Engine Optimization, muss zwischen Quellenanalyse und echter Modellerklärung unterschieden werden. Eine Untersuchung kann zeigen, welche Domains ChatGPT, Perplexity, Gemini oder Grok zitiert und bei welchen Fragen eine Marke erscheint. Diese Analyse der KI-Sichtbarkeit erklärt beobachtbare Antwortmuster, legt aber nicht die vollständige interne Verarbeitung des Sprachmodells offen.
Wie lässt sich XAI bewerten?
Messbar ist das zum Beispiel so: Die Güte einer XAI-Methode lässt sich über Wiedergabetreue, Stabilität, Verständlichkeit und Nutzwert prüfen. Wiedergabetreue misst, wie genau die Erklärung das ursprüngliche Modell nachbildet. Stabilität untersucht, ob ähnliche Eingaben ähnliche Erklärungen erzeugen. Verständlichkeit bewertet Umfang und Komplexität, während der Nutzwert in einem definierten Arbeitsschritt getestet wird.
Ein sinnvoller XAI-Test vergleicht mindestens zwei Fälle: einen erwartbaren Standardfall und einen bewusst veränderten Kontrollfall. Wenn ein angeblich wichtiger Faktor geändert wird, die Prognose aber gleich bleibt, ist die Erklärung möglicherweise unzuverlässig. Prüfe zusätzlich mehrere ähnliche Datensätze, weil eine einzelne plausible Ausgabe keine stabile Erklärungsqualität belegt.
Abgrenzung zu verwandten Begriffen
Der Unterschied zwischen Explainable AI (XAI) und interpretierbarer KI liegt im Aufbau. Ein interpretierbares Modell lässt seine Logik direkt erkennen, etwa durch einen kleinen Entscheidungsbaum oder eine überschaubare lineare Funktion. XAI umfasst zusätzlich nachträgliche Methoden, die auch komplexe und ursprünglich schwer verständliche Modelle erklären sollen.
Transparenz beschreibt, welche Daten, Modelltypen, Prozesse und Verantwortlichkeiten dokumentiert sind. Explainable AI (XAI) richtet sich enger auf die Begründung eines konkreten Modellverhaltens. Ein vollständig dokumentiertes Modell kann trotzdem schwer erklärbar sein, während eine einzelne Prognose verständlich erläutert werden kann, obwohl nicht alle Trainingsdetails zugänglich sind.
Eine KI-Begründung in natürlicher Sprache ist ebenfalls nicht automatisch XAI. Ein Sprachmodell kann einen Antworttext erzeugen, der wie eine logische Herleitung klingt. Erst wenn sich die Erklärung systematisch auf Modellverhalten, Eingabefaktoren oder kontrollierte Gegenproben zurückführen lässt, erfüllt sie die fachlichen Anforderungen an Explainable AI (XAI).
Häufige Fragen zu Explainable AI
Warum braucht man Explainable AI?
Explainable AI hilft Menschen, KI-Ergebnisse zu prüfen, Fehlerquellen zu erkennen und Entscheidungen fachlich einzuordnen. Das ist besonders relevant, wenn ein Modell Budgets, Kundenbewertungen, Inhalte oder andere folgenreiche Maßnahmen beeinflusst.
Kann jede künstliche Intelligenz erklärt werden?
Grundsätzlich lassen sich für viele KI-Systeme Erklärungen erzeugen, ihre Genauigkeit und Tiefe unterscheiden sich jedoch deutlich. Bei geschlossenen oder sehr komplexen Modellen kann häufig nur das beobachtbare Verhalten untersucht werden.
Ist Explainable AI dasselbe wie Transparenz?
Nein. Transparenz dokumentiert Daten, Prozesse und Verantwortlichkeiten, während Explainable AI das Zustandekommen einzelner Ausgaben oder allgemeiner Modellmuster erläutert. Beide Ansätze ergänzen sich.
Was ist eine gute XAI-Erklärung?
Eine gute XAI-Erklärung bildet das Modellverhalten zuverlässig ab, bleibt bei ähnlichen Eingaben stabil und ist für den Empfänger verständlich. Sie nennt konkrete Einflussfaktoren und macht ihre Grenzen deutlich.
Kann XAI falsche KI-Entscheidungen verhindern?
XAI verhindert Fehler nicht automatisch. Eine Erklärung erleichtert jedoch die Erkennung unplausibler Merkmale, instabiler Prognosen und ungeeigneter Daten, bevor eine Empfehlung umgesetzt wird.
Wie unterscheidet sich XAI von einer Quellenangabe?
Eine Quellenangabe zeigt, woher eine Information stammt. XAI erklärt, wie Eingaben das Ergebnis eines Modells beeinflusst haben. Quellen können die Nachprüfbarkeit erhöhen, legen aber nicht automatisch die Entscheidungslogik der KI offen.
Wenn du KI-Auswertungen mit eigenen SEO-, SEA- und GEO-Daten prüfen möchtest, kannst du einen Free Account anlegen. Für eine strategische Begleitung findest du außerdem SEO- und GEO-Pakete mit transparenter Leistungserfassung.
Sie haben noch Fragen?
