„Warum weiß die KI noch, was ich vor fünf Minuten gesagt habe – aber manchmal nicht mehr, was gestern war?“
Die Antwort steckt in mehreren Begriffen, die oft durcheinandergehen: Prompt, Kontext, Kontextfenster, Token, Verlauf und Memory.
Prompt
Ein Prompt ist die Eingabe, die einem Modell oder System gegeben wird. Das kann eine Frage sein, eine Aufgabe, ein Text, ein Bild oder eine Kombination daraus.
Beispiel: „Fasse diesen Brief in fünf einfachen Sätzen zusammen.“ Das ist ein Prompt.
System Prompt
Viele Anwendungen geben dem Modell zusätzliche Anweisungen, bevor oder neben der sichtbaren Nutzerfrage. Solche übergeordneten Anweisungen werden häufig als System Prompt oder System Instructions bezeichnet. Sie können festlegen, welche Rolle ein System einnimmt, welche Regeln gelten oder welche Ausgabeform erwartet wird.
Beispiel: Eine Anwendung kann intern vorgeben: „Antworte auf Deutsch und fasse dich knapp.“ Ob und wie solche Anweisungen existieren, hängt vom konkreten System ab.
Kontext
Kontext ist vereinfacht die Information, die dem Modell für die aktuelle Verarbeitung zur Verfügung steht. Dazu können die aktuelle Frage, frühere Nachrichten, eingefügte Dokumente, Systemanweisungen oder abgerufene Quellen gehören.
Beispiel: Wenn du zuerst schreibst „Ich plane eine Reise nach Bremen“ und danach fragst „Wie lange brauche ich mit dem Zug?“, kann der vorherige Satz Teil des Kontextes sein.
Kontextfenster
Ein Kontextfenster bezeichnet die Menge an Tokens, die ein Modell in einer Verarbeitung berücksichtigen kann. Ein größeres Fenster erlaubt mehr Material auf einmal – aber es bedeutet nicht automatisch, dass jedes Detail gleich wichtig verarbeitet wird.
Beispiel: Ein langes PDF kann in ein großes Kontextfenster passen. Trotzdem bleibt es sinnvoll, relevante Stellen klar zu benennen.
Token
Ein Token ist eine technische Verarbeitungseinheit. Bei Text kann ein Token ein ganzes Wort, ein Wortteil, ein Satzzeichen oder etwas Ähnliches darstellen. Modelle arbeiten intern mit solchen Einheiten, nicht einfach mit „Wörtern“ im Alltagssinn.
Beispiel: Ein langes zusammengesetztes deutsches Wort kann aus mehreren Tokens bestehen.
Conversation Context
Der Gesprächskontext ist der Teil des bisherigen Gesprächs, den die Anwendung dem Modell aktuell wieder mitgibt. Er ist nicht automatisch identisch mit dem gesamten Chatverlauf.
Beispiel: Ein langer Chat kann sichtbar noch komplett vorhanden sein, während eine Anwendung intern nur einen relevanten Ausschnitt oder eine Zusammenfassung weitergibt.
Memory
Memory ist kein einheitlicher technischer Begriff für alle KI-Produkte. Manche Systeme speichern ausgewählte Informationen separat und holen sie später wieder in den Kontext. Andere haben keine solche dauerhafte Funktion. Wieder andere nutzen Projektdateien, Profile, Datenbanken oder Zusammenfassungen.
Beispiel: Wenn ein System sich bei einer späteren Sitzung an eine bevorzugte Sprache erinnert, kann dahinter eine gespeicherte Memory-Funktion stehen. Das lässt sich aber nicht pauschal auf jedes Produkt übertragen.
Session / Verlauf
Eine Session bezeichnet meist einen abgegrenzten Nutzungsvorgang. Der Verlauf ist die gespeicherte Gesprächshistorie. Dass ein Verlauf sichtbar gespeichert ist, beweist noch nicht, dass jedes frühere Detail bei jeder neuen Antwort wieder im Modellkontext landet.
Kontext ist nicht dasselbe wie Memory. Ein Verlauf ist nicht automatisch aktiver Kontext. Und „gespeichert“ heißt nicht automatisch „bei jeder Antwort berücksichtigt“.
Was wird häufig verwechselt?
- Prompt ≠ Kontext: Der Prompt ist eine Eingabe; Kontext kann deutlich mehr umfassen.
- Kontextfenster ≠ Langzeitgedächtnis: Es beschreibt die aktuell verarbeitbare Menge, nicht dauerhafte Erinnerung.
- Verlauf ≠ Memory: Ein sichtbarer Chatverlauf ist nicht automatisch eine separate Memory-Funktion.
- Memory ≠ überall gleich: Die konkrete Umsetzung hängt vom Produkt ab.
Kurz gesagt
Kontext: Was dem Modell zusätzlich für diese Verarbeitung zur Verfügung steht.
Kontextfenster: Wie viel davon technisch verarbeitet werden kann.
Token: Verarbeitungseinheit für Text und andere Eingaben.
Memory: mögliche zusätzliche Speicherfunktion – je nach System unterschiedlich.
Verlauf: gespeicherte Gesprächshistorie, nicht automatisch aktiver Kontext.
Merksatz: Wenn ein System sich an etwas erinnert, lohnt sich die Frage: War es noch im aktuellen Kontext – oder wurde es separat gespeichert und wieder abgerufen?
Vorher: KI, LLM, Chatbot und Agent
Weiter: Training, Fine-Tuning und RAG – wie bekommt eine KI ihr Wissen?






Hinterlasse einen Kommentar