KI-Begriffe erklärt: LLM, RAG, Agent und MCP

Du nutzt KI wahrscheinlich längst. Ein Text wird umformuliert, eine Produktbeschreibung entsteht in dreißig Sekunden, eine Tabelle wird zusammengefasst. Das funktioniert, und die meisten hören genau hier auf.

Dann kommt ein Angebot ins Haus, in dem von einem Agenten die Rede ist, der über MCP an dein Warenwirtschaftssystem andockt und dank RAG deine Preisliste kennt. Und plötzlich sitzt du vor einer Sprache, die niemand erklärt, weil alle so tun, als wäre sie selbstverständlich.

Das ist kein Wissensproblem. Das ist ein Sprachproblem. Und es ist lösbar, denn hinter den meisten dieser Wörter steckt ein einfacher Gedanke.

Ich habe elf Begriffe ausgewählt, die dir im Arbeitsalltag wirklich begegnen. Nicht alphabetisch, sondern in drei Stufen, die aufeinander aufbauen: wie eine KI antwortet, wie sie an dein Wissen kommt, und was passiert, wenn sie selbst zu handeln beginnt. Diese Reihenfolge ist keine offizielle Einteilung, sondern meine. Sie hat aber einen praktischen Nutzen: Am Ende weißt du, auf welcher Stufe dein Unternehmen gerade steht.

Es geht hier nicht um Fachchinesisch zum Angeben. Die Begriffe entscheiden darüber, ob du das Richtige einkaufst.

Das häufigste Beispiel erlebe ich immer wieder: Jemand sagt „wir wollen die KI mit unseren Daten trainieren". Gemeint ist fast nie Training, gemeint ist, dass die KI beim Antworten in die eigenen Unterlagen schauen soll. Das sind zwei völlig verschiedene Dinge, mit völlig verschiedenem Aufwand und völlig verschiedenen Kosten. Wer das eine sagt und das andere meint, bekommt Angebote für ein Projekt, das er gar nicht braucht.

Dazu kommt: Fast alles, was auf dieser Seite steht, setzt voraus, dass darunter etwas Ordentliches liegt. Warum das so ist und was dazugehört, steht im Beitrag Warum KI ohne Fundament scheitert. Die Begriffe hier erklären das Werkzeug, nicht den Untergrund.

Merksatz: Wer die Begriffe kennt, kauft nicht klüger ein, aber er kauft nicht mehr am Ziel vorbei.

Auf dieser Stufe steht heute fast jeder, der schon einmal etwas in ein Chatfenster getippt hat.

1. Sprachmodell (LLM)

LLM steht für Large Language Model, auf Deutsch großes Sprachmodell. Das ist die Maschine hinter ChatGPT, Claude, Gemini und allen anderen.

Was sie tut, klingt banal: Sie sagt vorher, wie ein Text weitergeht. Wort für Wort, immer auf Basis von allem, was davor steht. Aus deinen Stichworten wird so ein Berichtsentwurf, aus einer Frage eine Antwort.

Was daraus folgt, ist der wichtigste Punkt dieses ganzen Artikels: Ein Sprachmodell ist keine Datenbank. Es schlägt nichts nach. Es rechnet aus, welche Fortsetzung am wahrscheinlichsten passt. Deshalb schreibt es flüssige, überzeugende Sätze, und deshalb kann es sich gleichzeitig irren, ohne es zu merken.

2. Prompt

Der Prompt ist schlicht das, was du eingibst. Der Begriff klingt technischer, als er ist.

Der Unterschied zwischen einem brauchbaren und einem unbrauchbaren Ergebnis liegt fast immer hier. Ein guter Prompt hat drei Teile: die Lage („ich bin Inhaber eines Onlineshops für Werkzeug"), die Aufgabe („schreib eine Produktbeschreibung für diesen Akkuschrauber") und die Form („fünf Sätze, sachlich, keine Superlative").

Das ist keine Geheimwissenschaft. Es ist dieselbe Sorgfalt, die du auch aufwenden würdest, wenn du die Aufgabe an einen neuen Mitarbeiter übergibst, der dein Unternehmen noch nicht kennt.

3. Token und Kontextfenster

Ein Token ist ein Textstück, meist ein Wortteil. Sprachmodelle lesen und schreiben nicht in Buchstaben, sondern in diesen Stücken. Wie viele Token ein Text ergibt, hängt von der Sprache ab, Deutsch braucht dafür mehr als Englisch.

Das Kontextfenster ist der Arbeitstisch: alles, was das Modell bei einer einzelnen Antwort gleichzeitig vor sich hat. Also deine Frage, der bisherige Gesprächsverlauf, angehängte Dateien und die Anweisungen, die im Hintergrund mitlaufen.

Zwei praktische Folgen daraus:

• Lange Gespräche werden nicht besser, sondern oft schlechter. Je voller der Tisch, desto leichter geht eine wichtige Angabe in der Masse unter. Bei einem neuen Thema lohnt sich ein neues Gespräch.
• Abgerechnet wird nach Token. Bei jeder Antwort wird der gesamte Inhalt des Fensters erneut verarbeitet. Ein langes Gespräch ist deshalb nicht nur unschärfer, sondern auch teurer als ein kurzes.

4. Halluzination

So nennt man es, wenn eine KI etwas erfindet und dabei völlig überzeugt klingt. Eine Rechtsnorm, die es nicht gibt. Eine Quelle, die nie geschrieben wurde. Eine Zahl, die plausibel aussieht und falsch ist.

Das ist kein Fehler im Sinne eines Defekts, den man abstellen könnte. Es ist die direkte Kehrseite von Punkt eins: Ein System, das auf die wahrscheinlichste Fortsetzung optimiert ist, ist nicht auf Wahrheit optimiert. Eine erfundene Quellenangabe sieht für das Modell genauso plausibel aus wie eine echte.

Die Regel, die daraus folgt, ist einfach: Alles, was nachprüfbar ist, wird nachgeprüft. Zahlen, Namen, Fristen, Paragrafen, Quellen. Nicht weil die KI unbrauchbar wäre, sondern weil sie an genau dieser Stelle nicht zuständig ist.

Hier fängt der eigentliche Nutzen für Unternehmen an. Denn ein Sprachmodell kennt die halbe Welt, aber nicht deine Preisliste.

5. RAG

RAG steht für Retrieval Augmented Generation. Der Ablauf dahinter ist erstaunlich geradlinig:

1. Jemand stellt eine Frage.
2. Das System durchsucht deine Unterlagen und holt die Stellen heraus, die dazu passen.
3. Diese Stellen werden dem Modell zusammen mit der Frage mitgegeben.
4. Das Modell antwortet auf Basis dieser Stellen und nennt sie als Beleg.

Das Modell lernt dabei nichts. Es bekommt die Information für diese eine Antwort mitgereicht, so wie du jemandem einen Aktenordner über den Tisch schiebst.

Der Vorteil: Du änderst ein Dokument, und die Antwort ist ab sofort aktuell. Kein Training, keine Wartezeit. Und du kannst nachschlagen, worauf die Antwort beruht.

Die Grenze: Findet die Suche in Schritt zwei die falsche Stelle, antwortet die KI überzeugend falsch. RAG ist damit genau so gut wie die Unterlagen, auf die es zugreift. Veraltete Preislisten, drei Fassungen desselben Dokuments, unbeschriftete Dateien: All das schlägt direkt auf die Antwort durch. Wie sehr das ins Gewicht fällt, steht im Beitrag Die Rolle von Datenqualität in erfolgreichen KI-Projekten.

6. Die drei Wege, eine KI auf dein Unternehmen zu bringen

Das ist der Punkt, an dem in der Praxis das meiste Geld falsch ausgegeben wird. Es gibt drei Wege, und sie unterscheiden sich um Größenordnungen.

1. Anweisung (Prompt): Du schreibst dem Modell in der Aufgabe hinein, was es wissen und beachten soll. Aufwand: Minuten. Passt für Tonfall, Regeln, Formatvorgaben und kleine Faktenmengen.
2. Unterlagen (RAG): Das Modell bekommt zur Laufzeit die passenden Stellen aus deinen Dokumenten mitgegeben. Aufwand: Tage bis Wochen. Passt für alles, was viel ist, sich ändert oder belegt werden muss.
3. Feintuning: Das Modell selbst wird mit vielen Beispielen nachtrainiert. Aufwand: erheblich, und bei jedem Modellwechsel wieder. Es verändert vor allem Stil und Form der Antworten, nicht das Wissen.

Wenn jemand sagt „wir trainieren die KI mit unseren Daten", ist in neun von zehn Fällen Weg zwei gemeint. Für die allermeisten mittelständischen Anwendungsfälle ist Feintuning schlicht der falsche Hebel: teuer, träge und für aktuelle Fakten ungeeignet, weil jede Preisänderung ein neues Training bräuchte.

Merksatz: Wissen kommt über Unterlagen ins System, nicht über Training. Training ändert, wie geantwortet wird, nicht was gewusst wird.

7. Memory

Memory bedeutet, dass ausgewählte Informationen aus einem Gespräch gespeichert und in späteren Gesprächen wieder mitgegeben werden. Dein Name, in welcher Branche du arbeitest, dass du kurze Antworten bevorzugst.

Zwei Dinge sind wichtig zu wissen. Erstens ist das kein vollständiges Gedächtnis: Es wird nicht alles behalten, sondern eine Auswahl, und die trifft entweder das System oder du selbst. Zweitens ist alles, was gespeichert wird, eine Datenschutzfrage. Wer Kundendaten in ein Gespräch schreibt, das sich Dinge merkt, sollte wissen, wo sie danach liegen und wie lange.

Bisher hat die KI geantwortet. Ab hier tut sie etwas. Das ist der Sprung, bei dem aus einem Werkzeug ein Mitarbeiter wird, und genau deshalb ändern sich hier die Spielregeln.

8. KI-Agent

Ein Agent ist ein Sprachmodell, das Werkzeuge bedienen darf und einen Auftrag in mehreren Schritten abarbeitet. Nicht „schreib mir einen Text", sondern „hol die offenen Rechnungen, prüf welche über dreißig Tage alt sind, und leg mir die Mahnungen als Entwurf hin".

Der Unterschied zum Chat ist nicht die Intelligenz, sondern die Schleife: Der Agent plant, führt einen Schritt aus, sieht sich das Ergebnis an und entscheidet danach den nächsten Schritt. Geht etwas schief, versucht er es anders.

Das ist mächtig und zugleich der Punkt, an dem aus einem misslungenen Text ein misslungener Vorgang werden kann. Ein Agent, der etwas Falsches tut, tut es sofort und oft mehrfach. Deshalb gehört zu jedem Agenten die Frage, was im schlimmsten Fall passiert, bevor die Frage kommt, wie viel Zeit er spart. Wo sich der Schritt von Handarbeit zu System überhaupt lohnt, beschreibe ich am Beispiel eines Shops in WooCommerce automatisieren: von Handarbeit zu System.

9. MCP

MCP steht für Model Context Protocol. Es ist ein offener Standard dafür, wie eine KI-Anwendung mit einer Datenquelle oder einem Werkzeug spricht. Anthropic hat ihn veröffentlicht, inzwischen unterstützen ihn auch andere Anbieter.

Der Sinn dahinter lässt sich mit einem Bild erklären, das jeder kennt. Früher hatte jedes Gerät sein eigenes Kabel. Dann kam USB, ein Stecker für alles. MCP ist dieser Gedanke für KI-Anwendungen: Statt für jede Kombination aus KI-Programm und Datenquelle eine eigene Anbindung zu bauen, gibt es einen gemeinsamen Anschluss.

Ein Anschluss ist aber keine Erlaubnis. Dass etwas andocken kann, heißt nicht, dass es zugreifen darf. Zu jedem solchen Anschluss gehört die Entscheidung, welche Daten er sehen und was er ändern darf. Diese Entscheidung triffst du, nicht das Werkzeug.

10. Guardrails

Guardrails sind die Leitplanken: technische Regeln, die begrenzen, was ein KI-System darf. Nicht als Empfehlung im Prompt, sondern als Prüfung, an der es tatsächlich scheitert.

Ein Beispiel aus dem Alltag: Die KI darf eine Kundenmail entwerfen. Verschickt wird sie erst nach einem Klick von dir. Der Entwurf ist die Arbeit der KI, die Freigabe ist deine, und es gibt keinen Weg an ihr vorbei.

Das klingt nach Bremse und ist in Wahrheit das Gegenteil. Erst wenn sicher ist, dass nichts ohne Freigabe hinausgeht, kann man der KI überhaupt etwas Ernsthaftes anvertrauen. Die Leitplanke ist nicht da, um langsamer zu fahren, sondern um schneller fahren zu können.

11. Computer Use

Computer Use heißt, dass die KI ein Programm über die Oberfläche bedient: Sie sieht den Bildschirm, klickt, tippt und scrollt, so wie ein Mensch es tun würde.

Das ist dann interessant, wenn ein Programm keine Schnittstelle hat. Eine alte Branchensoftware, ein Portal ohne Exportfunktion, ein Formular, das jemand jede Woche von Hand ausfüllt.

Gleichzeitig ist es der langsamste und anfälligste Weg von allen. Ändert sich ein Knopf, hakt der Ablauf. Wo es eine echte Schnittstelle gibt, ist sie immer die bessere Wahl. Computer Use ist die Lösung für den Fall, dass es keine gibt.

Die drei Stufen sind kein Reifegradmodell, bei dem oben besser ist als unten. Sie unterscheiden sich darin, wie viel Vertrauen das System braucht.

• Auf Stufe eins prüfst du jedes Ergebnis selbst, bevor es jemand zu sehen bekommt. Das Risiko ist klein, der Zeitgewinn auch.
• Auf Stufe zwei verlässt du dich darauf, dass die richtigen Unterlagen gefunden werden. Ab hier zahlt sich Ordnung aus, und Unordnung rächt sich.
• Auf Stufe drei passiert etwas, ohne dass du zusiehst. Ab hier brauchst du Leitplanken, und zwar bevor du startest, nicht nachdem etwas passiert ist.

Die meisten Unternehmen, mit denen ich spreche, stehen auf Stufe eins und werden auf Stufe drei angesprochen. Das ist der eigentliche Grund für das Gefühl von Überforderung. Es fehlt nicht das Verständnis, es fehlt die Stufe dazwischen.

Elf Begriffe, je ein Satz:

1. Sprachmodell (LLM): sagt den nächsten Textbaustein vorher, es ist keine Datenbank.
2. Prompt: deine Eingabe aus Lage, Aufgabe und Form.
3. Token und Kontextfenster: der Arbeitstisch, begrenzt und kostenpflichtig.
4. Halluzination: plausibel klingender Unsinn, deshalb wird Prüfbares geprüft.
5. RAG: die Antwort kommt aus deinen Unterlagen, das Modell lernt dabei nichts.
6. Die drei Wege: Anweisung, Unterlagen, Feintuning. Fast immer ist der zweite gemeint.
7. Memory: eine Auswahl wird behalten, kein vollständiges Gedächtnis.
8. KI-Agent: plant, handelt, prüft, steuert nach. Fehler wirken sofort.
9. MCP: ein gemeinsamer Anschluss für Werkzeuge und Daten, Zugriff braucht trotzdem eine Freigabe.
10. Guardrails: technische Grenzen statt guter Vorsätze.
11. Computer Use: die KI bedient den Bildschirm, nützlich ohne Schnittstelle, sonst zweite Wahl.

Wenn du beim nächsten Angebot nur eine einzige Frage stellst, dann diese: Reden wir über Training oder über Unterlagen? Die Antwort darauf verändert Umfang, Dauer und Preis mehr als alles andere in diesem Artikel.

• Anthropic: Introducing the Model Context Protocol, Kontextfenster, Computer Use
• Model Context Protocol: Was MCP ist und wofür es gedacht ist
• Forschung: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, die Arbeit die RAG eingeführt hat, und Survey of Hallucination in Natural Language Generation
• OpenAI: Leitfaden zum Feintuning
• NIST: AI Risk Management Framework