Inferenz (KI)

Was ist KI-Inferenz?

KI-Inferenz bezeichnet die Anwendung eines bereits trainierten KI-Modells auf neue Eingabedaten. Das Modell nutzt seine erlernten Parameter, um beispielsweise eine Klasse, Wahrscheinlichkeit, Empfehlung oder Textfortsetzung auszugeben. Anders als beim Training werden die Modellparameter während einer üblichen Inferenz nicht grundlegend verändert.

Wie funktioniert KI-Inferenz?

KI-Inferenz, englisch: AI inference, beginnt mit einer neuen Eingabe, die nicht Teil des aktuellen Trainingsvorgangs ist. Eine Eingabe kann aus Text, einem Bild, Messwerten oder Nutzerdaten bestehen. Das trainierte Modell verarbeitet diese Daten anhand seiner gespeicherten Parameter und erzeugt daraus eine Ausgabe. Die konkrete Ausgabe hängt vom Modelltyp und von der gestellten Aufgabe ab.

Bei einer Klassifikation berechnet die KI-Inferenz meist Wahrscheinlichkeiten für vorgegebene Klassen. Ein System könnte eine Suchanfrage beispielsweise mit einer Wahrscheinlichkeit von 0,82 der Kategorie „kaufen“ und mit 0,18 der Kategorie „informieren“ zuordnen. Die höhere Wahrscheinlichkeit bestimmt die Ausgabe, sofern keine zusätzliche Schwelle festgelegt wurde. Der Wert von 0,82 ist jedoch keine Garantie, dass die Zuordnung sachlich richtig ist.

Große Sprachmodelle erzeugen Text schrittweise. Bei jedem Schritt berechnet das Modell eine Wahrscheinlichkeitsverteilung für das nächste Token. Ein Token kann ein Wort, ein Wortteil oder ein Satzzeichen sein. Das ausgewählte Token wird anschließend Teil der nächsten Eingabe. Dieser Vorgang wiederholt sich, bis eine Abbruchbedingung erreicht ist.

Eine KI-Antwort entsteht nicht als vollständig gespeicherter Text. Ein Sprachmodell berechnet während der Inferenz Token für Token, welche Fortsetzung zum bisherigen Kontext passt. Einstellungen wie Temperatur und maximale Ausgabelänge beeinflussen die Auswahl, ändern aber nicht automatisch das trainierte Wissen des Modells.

KI-Inferenz und Training abgrenzen

Der Unterschied zwischen Training und KI-Inferenz liegt in der Veränderung des Modells. Beim Training werden Modellparameter anhand vieler Beispiele angepasst. Bei der Inferenz bleiben diese Parameter im Regelfall fest, während das Modell eine konkrete Eingabe verarbeitet. Ein Chatbot wird daher nicht allein dadurch dauerhaft trainiert, dass ein Nutzer ihm innerhalb eines Chats zusätzliche Informationen gibt.

Verfahren	Was geschieht?	Typisches Ergebnis
Training	Parameter werden anhand von Trainingsdaten berechnet oder verändert.	Ein neues Basismodell entsteht.
Fine-Tuning	Ein vorhandenes Modell wird mit weiteren Beispielen gezielt angepasst.	Das Modell folgt einer Aufgabe, Sprache oder Domäne besser.
KI-Inferenz	Das Modell verarbeitet neue Eingaben mit vorhandenen Parametern.	Eine Vorhersage, Klassifikation oder generierte Antwort entsteht.
RAG	Externe Informationen werden abgerufen und in den Kontext der Anfrage eingefügt.	Die Inferenz berücksichtigt zusätzliche Quellen.

Retrieval-Augmented Generation, kurz RAG, erweitert die KI-Inferenz um einen Abrufschritt. Das System sucht vor der Antwort passende Dokumente und übergibt gefundene Inhalte an das Sprachmodell. RAG verändert das Basismodell nicht. Die abgerufenen Informationen stehen nur im aktuellen Kontext zur Verfügung und können die sachliche Grundlage der Ausgabe verbessern.

Arten der KI-Inferenz

KI-Inferenz lässt sich nach Einsatzort und zeitlicher Verarbeitung unterscheiden. Die Wahl beeinflusst Reaktionszeit, Datenschutzanforderungen, Kosten und verfügbare Rechenleistung.

Online-Inferenz: Das Modell verarbeitet eine Anfrage direkt und liefert eine unmittelbare Antwort, etwa in einem Chatbot oder Empfehlungssystem.
Batch-Inferenz: Viele Datensätze werden gesammelt und gemeinsam verarbeitet, etwa bei der nächtlichen Klassifikation eines Produktkatalogs.
Cloud-Inferenz: Die Berechnung erfolgt auf externen Servern, die auch große Modelle und hohe Lasten verarbeiten können.
Edge-Inferenz: Das Modell läuft auf einem lokalen Gerät, etwa einem Smartphone, einer Kamera oder einer Industriemaschine.

Batch-Inferenz eignet sich für Aufgaben ohne unmittelbare Nutzerinteraktion. Online-Inferenz ist erforderlich, wenn ein System während einer Sitzung reagieren muss. Edge-Inferenz kann Übertragungswege verkürzen, setzt jedoch voraus, dass Modellgröße und Rechenbedarf zur Hardware des Geräts passen.

KI-Inferenz im Marketing 2026

Im SEO kann KI-Inferenz Suchanfragen nach Suchintention gruppieren, Inhalte thematisch klassifizieren oder auffällige technische Daten priorisieren. Die Qualität der Ausgabe hängt dabei von den Eingabedaten, dem verwendeten Modell und der Aufgabenbeschreibung ab. Ein präziser Prompt ersetzt keine aktuellen Ranking-, Crawling- oder Wettbewerbsdaten.

Im SEA kommt KI-Inferenz unter anderem bei Prognosen, Zielgruppenmodellen und automatisierten Gebotsentscheidungen zum Einsatz. Ein Modell kann aus Merkmalen wie Gerät, Zeitpunkt und bisherigem Verhalten eine erwartete Wahrscheinlichkeit ableiten. Ob eine Kampagne wirtschaftlich arbeitet, muss trotzdem anhand von Conversion-Daten, Kosten und Umsatz geprüft werden.

Für GEO, ausgeschrieben Generative Engine Optimization, ist die KI-Inferenz der Moment, in dem ChatGPT, Perplexity, Gemini oder andere Antwortsysteme eine Nutzerfrage verarbeiten. Ein Inhalt kann die Antwort nur beeinflussen, wenn das System auf ihn über Trainingswissen, eine Suche oder einen Abrufmechanismus zugreifen kann. Die Optimierung für KI-Antworten konzentriert sich deshalb auf verständliche Inhalte, eindeutige Entitäten, belastbare Aussagen und zitierfähige Absätze.

Qualität einer Inferenz prüfen

Messbar ist KI-Inferenz mit einem festen Testdatensatz und vorher definierten Kriterien. Bei Klassifikationen eignen sich Kennzahlen wie Genauigkeit, Präzision und Trefferquote. Bei generierten Antworten sollten mindestens Faktentreue, Quellenbezug, Vollständigkeit, Antwortzeit und Kosten je Anfrage geprüft werden. Ein Vergleich ist nur belastbar, wenn Modelle dieselben Eingaben und Bewertungsbedingungen erhalten.

Die Ausführungsgeschwindigkeit wird häufig über die Latenz beurteilt. Bei Sprachmodellen lassen sich die Zeit bis zum ersten Token und die Zeit zwischen weiteren Tokens getrennt messen. Eine schnelle Ausgabe ist allein kein Qualitätsbeleg. Für geschäftliche Anwendungen muss die Bewertung Geschwindigkeit, Kosten und inhaltliche Zuverlässigkeit gemeinsam betrachten.

Bei GEO lässt sich zusätzlich beobachten, welche Antworten externe KI-Systeme tatsächlich ausgeben. Das KI-Analyse-Tool der Performance Suite misst dazu Erwähnungen, Positionen und verwendete Quellen in ChatGPT, Perplexity, Gemini und Grok. Die Messung bewertet nicht die interne Rechenleistung der Modelle, sondern das sichtbare Ergebnis ihrer Inferenz für festgelegte Fragen.

Typische Fehler bei KI-Ausgaben

Eine überzeugend formulierte Antwort ist nicht automatisch korrekt. Sprachmodelle wählen während der KI-Inferenz wahrscheinliche Fortsetzungen aus und führen keinen eingebauten Wahrheitsbeweis durch. Fehlen passende Informationen im Kontext, kann eine sprachlich plausible, aber unbelegte Aussage entstehen. Dieses Verhalten wird als Halluzination bezeichnet.

Behandle Wahrscheinlichkeiten und flüssige Formulierungen nicht als Beleg. Prüfe geschäftskritische KI-Ausgaben gegen Primärdaten, freigegebene Dokumente oder nachvollziehbare Quellen. Besonders Zahlen, Rechtsaussagen, Produktmerkmale und konkrete Empfehlungen benötigen eine menschliche Kontrolle.

Ein weiterer Fehler entsteht durch unklare Eingaben. Die Formulierung des Prompts, der verfügbare Kontext und die Reihenfolge der Informationen können das Ergebnis verändern. Für wiederkehrende Aufgaben solltest du daher feste Testfragen, definierte Ausgabeformate und dokumentierte Prüfkriterien verwenden. Der Ratgeber zum Erstellen und Prüfen von KI-Texten zeigt, wie Datenbasis und Qualitätskontrolle zusammenspielen.

Häufige Fragen zur KI-Inferenz

Ist jede KI-Antwort eine Inferenz?

Ja, wenn ein trainiertes KI-Modell eine Eingabe verarbeitet und daraus eine Ausgabe erzeugt. Dazu zählen Texte, Bilder, Klassifikationen, Prognosen und Empfehlungen.

Lernt ein KI-Modell bei jeder Anfrage dazu?

Üblicherweise nicht. Während der Inferenz bleiben die Modellparameter fest. Neue Informationen können den aktuellen Kontext beeinflussen, werden dadurch aber nicht automatisch dauerhaft in das Modelltraining übernommen.

Was beeinflusst die Qualität einer Inferenz?

Die Qualität hängt vom trainierten Modell, der Aufgabenbeschreibung, den Eingabedaten und dem verfügbaren Kontext ab. Bei RAG-Systemen kommt die Qualität der abgerufenen Quellen als weiterer Faktor hinzu.

Warum liefert dasselbe Modell unterschiedliche Antworten?

Generative Modelle können Tokens aus einer Wahrscheinlichkeitsverteilung auswählen. Einstellungen wie Temperatur, veränderter Kontext und technische Ausführungsbedingungen können deshalb zu unterschiedlichen Formulierungen oder Aussagen führen.

Was ist der Unterschied zwischen Inferenz und Vorhersage?

Inferenz bezeichnet den gesamten Verarbeitungsvorgang eines trainierten Modells. Eine Vorhersage ist eine mögliche Ausgabe dieses Vorgangs, etwa eine Klasse, ein Zahlenwert oder eine erwartete Wahrscheinlichkeit.

Kann KI-Inferenz ohne Internet funktionieren?

Ja. Läuft das Modell lokal auf einem Gerät, ist eine Inferenz grundsätzlich ohne Internetverbindung möglich. Eine Verbindung wird benötigt, wenn das Modell, externe Daten oder zusätzliche Rechenleistung aus der Cloud abgerufen werden müssen.