Warum mein Chatbot lieber Käsekuchen backt als Kundenfragen klärt

RAG – Der Trick, wie deine KI endlich dein Unternehmen versteht

Und warum sie vorher nur klug geklungen, aber nie wirklich geholfen hat

Wir wollten einen Chatbot, der Kundenfragen beantwortet.
Wir bekamen eine KI, die lieber über Kant philosophiert – und 300 Käsekuchenrezepte aufzählen kann.

Nur: Wie wir arbeiten? Was wir konkret anbieten? Keine Spur davon.

Noch bevor ich offiziell als KI-Berater gestartet bin, wollte ich auf meiner Website einen Chatbot einführen.
Bei so vielen Anrufen musste ich Fragen beantworten, die doch eigentlich schon im Vorfeld geklärt hätten werden können.

Ich dachte: schnell gemacht.
War es auch.

Ein hübsches Icon auf der Website

öffnet eine ebenso hübsche Box

Und wenn der Besucher was eintippt, kommt auch was Vernünftiges raus.

Oder auch nicht.

Denn der Chatbot konnte zwar mühelos philosophische Theorien erläutern, über globale Krisen debattieren oder dir erklären, wie man ein Soufflé zubereitet.
Aber sobald es konkret wurde – meine Preise, mein Angebot, mein Ablauf? – Fehlanzeige.

Wie auch? Woher sollte er das wissen?

Das ist nicht nur nutzlos.
Das ist – ganz ehrlich – gefährlich.

Denn während ein Mitarbeiter aus Fleisch und Blut vielleicht noch lächelnd mit den Schultern zuckt oder zumindest einen sehr betroffenen Eindruck hinterlassen kann

fängt der Chatbot an, Antworten zu erfinden!
Frei nach dem Motto: Wird schon passen. Hauptsache, der Fragesteller wird nicht mit Schweigen bestraft.

(Dies nennt sich übrigens „halluzinieren“ – und ja, das ist ein echtes KI-Fachwort und ein noch viel größeres Problem.)

Wenn du willst, dass ein Chatbot echte Antworten gibt, brauchst du ein System im Hintergrund, das versteht, worum es geht.
Das kann zum Beispiel ein sogenanntes Large Language Model sein – ein großes Sprachmodell, das mit Milliarden Textbeispielen trainiert wurde.

Und klar: Man kann so ein Modell auch anpassen.
Indem man ihm neue Informationen beibringt. Man spricht dann von Fine-Tuning.

Das bedeutet vereinfacht gesagt:
Man verändert das LLM selbst – macht es also schlauer im Umgang mit genau deinem Wissen.
Dafür braucht es:

• strukturierte Trainingsdaten

• teure Rechenpower (Stichwort GPU-Cluster)

• und mehrere Tage oder Wochen Zeit

Beispiel: Ein spezialisiertes Support-Modell für eine große Software-Suite, das exakt auf die Produktdokumentation zugeschnitten ist – und dort monatelang genutzt wird.
Dann kann sich Fine-Tuning lohnen.

Ein anderes Beispiel: Eine Anwaltskanzlei möchte ein internes Assistenzsystem entwickeln, das Gesetzestexte, Urteile und Schriftsätze kennt – und Antworten in der typischen juristischen Tonalität formuliert.
Dafür werden ausgewählte Dokumente als Trainingsbasis genutzt, und das Modell wird so angepasst, dass es präzise, korrekt und stilistisch einheitlich auf juristische Fragen reagiert.

Was vom Ergebnis her so phantastisch klingt, heißt in der Praxis: Wochenlange Vorbereitung, GPU-Kosten im vier- bis fünfstelligen Bereich – und das Ergebnis ist am Ende oft genauso veraltet wie der letzte Gesetzeskommentar im Regal.

Denn: Neue Infos? Neue Versionen? Neue Preise?
Das Modell weiß davon… nichts. Es müsste neu trainiert werden.

Das ist wie ein Buch, das du drucken lässt – und am nächsten Tag sind schon wieder fünf Kapitel überholt.

Was du brauchst, ist etwas anderes.

Etwas, das flexibel ist.
Aktuell.
Ein System, das nicht alles wissen muss – sondern einfach nur weiß, wo es nachschauen kann.

Was ist RAG?

RAG steht für Retrieval-Augmented Generation.

Es ist ein Prinzip, bei dem die KI nicht einfach irgendwas sagt – sondern erst nachliest, was für dich wirklich relevant ist.

Stell dir vor, du hast einen hochintelligenten Roboter.
Er kann reden, präsentieren, beraten, Kaffee machen.
Nur: Er weiß nicht, wie *du* Kaffee trinkst. Oder wie dein Unternehmen funktioniert.
Du könntest ihn neu programmieren – teuer, aufwendig, langsam.
Oder du gibst ihm einfach einen Zettel.

Auf dem Zettel steht:
„In diesem Unternehmen wird Kaffee mit der großen Maschine links gemacht. Milch steht im Kühlschrank. Kunden bitte duzen. Preise im Ordner X.“

Und bevor er antwortet – liest er den Zettel.

Jedes Mal. Verlässlich. Sofort.

Wie du RAG selber nutzen kannst

Du willst, dass deine KI dein Wissen nutzt – ohne komplizierten Code oder Wochen an Setup?
Hier zeige ich dir Schritt für Schritt, wie du das selbst in ChatGPT (Plus-Version) umsetzen kannst.

Praxisbeispiel: Reisekostenregelung

Stell dir vor, du möchtest, dass dein Assistent Fragen beantwortet wie:

„Wie viel bekomme ich bei einer 2-Tages-Reise nach München an Verpflegungspauschale?“

So geht’s – Schritt für Schritt

1. Neues Projekt erstellen

Klicke in ChatGPT auf Explore GPTs → Create a GPT

Wähle Instructions & Files – und gib deinem GPT einen Namen, z. B. „HR-Assistent“.

2. Datei hochladen

Lege eine Textdatei mit folgendem Inhalt an und lade diese hoch:

**Reisekostenregelung (Stand: Januar 2024)**
- Bei mehr als 8 Stunden im Inland: 14 € Verpflegungspauschale
- Ab 24 Stunden: 28 € Verpflegungspauschale
- Übernachtung: Max. 120 € pro Nacht im Inland
- Abrechnung innerhalb von 10 Werktagen mit B

3. Systemprompt definieren

Du bist ein unternehmensinterner Assistent.
Deine Aufgabe ist es, auf Grundlage der bereitgestellten Richtlinien Fragen zur Reisekostenregelung zu beantworten.
Gib nur Informationen weiter, die in der Datei stehen. Wenn du etwas nicht findest, sag ehrlich: „Dazu liegen mir keine Infos vor.“
Antworte freundlich, aber prägnant.

4. Testen & validieren

Testfrage:
„Wie viel bekomme ich an Verpflegungspauschale bei einer eintägigen Geschäftsreise nach Berlin?“

Erwartete Antwort:
„Bei mehr als 8 Stunden im Inland beträgt die Verpflegungspauschale 14 €.“

Dynamik durch Automatisierung – mit n8n

Wenn du diese Logik nicht nur einmal manuell brauchst, sondern dauerhaft in dein System integrieren willst – dann kommt n8n ins Spiel.

Hier ist der Workflow:

Beispiel:

User fragt:
„Kann ich nächste Woche verreisen, obwohl meine Kollegin krank ist?“

AI Agent reagiert:
→ prüft Urlaubsplan in Excel
→ prüft Krankmeldung aus Outlook
→ kombiniert mit Personalrichtlinie aus Vektordatenbank
→ liefert fundierte Entscheidungshilfe zurück

Warum viele zögern – und warum du es nicht musst

Viele Unternehmen zögern, weil sie der KI nicht trauen.

Weil sie Angst haben, dass irgendwelche falschen Informationen in die Welt gestreut werden.

Und ehrlich? Diese Angst ist berechtigt – wenn du der KI einfach freie Hand lässt.

RAG löst genau das.
Du gibst deiner KI keine Narrenfreiheit – du gibst ihr Struktur. Orientierung. Dein Wissen.

Und was bringt das konkret?

Egal ob…

• du im Marketing sitzt und echte Fragen beantworten willst

• dein Team jeden Tag dieselben Rückfragen klärt

• du Prozesse automatisieren willst, ohne sie jedes Mal neu zu erklären

RAG gibt deiner KI eine Stimme, die weiß, wovon sie spricht.

Nicht irgendeine Stimme.
Deine.

Fazit: Was Omas Käsekuchen damit zu tun hat

Eine KI kann vieles.
Rezepte aufzählen. Texte schreiben. Lösungen vorschlagen.

Aber ohne Kontext serviert sie dir keinen Käsekuchen – sondern Käse mit Kuchen.

Wenn du willst, dass sie wirklich nützt – dass sie deine Sprache spricht, dein Wissen kennt und deine Prozesse unterstützt – dann brauchst du keine neue KI.
Sondern eine kluge Verbindung aus dem, was schon da ist.

Das ist RAG.
Kein Hype. Kein Plugin. Sondern ein Prinzip.
Gib deiner KI den Zettel. Und du bekommst Antworten, die wirklich helfen.

Your turn:

Hast du schon mal erlebt, wie KI Unsinn erzählt hat – obwohl du ihr alles gegeben hast?

Dann lass uns sprechen.

Buche dir gleich einen Termin – es gibt zwar bei uns keinen Käsekuchen, aber garantiert eine KI, die weiß, worüber sie spricht.