Einen KI-Chatbot erstellen, der aus deinem eigenen Wissen antwortet, ist kein Großprojekt mehr. Website, FAQ, Preisliste und ein paar PDFs reichen als Grundlage. Die Technik dahinter heißt RAG und steckt in fertigen Baukästen genauso wie in Werkzeugen zum Selberbauen.
Ob der Bot am Ende hilft oder Kunden verärgert, entscheidet aber selten das Tool. Es entscheiden die Fragen, die du vorher aufschreibst, der Zustand deiner Unterlagen und die Regeln, wann der Bot schweigt und an einen Menschen übergibt. Hier sind die sechs Schritte, in denen ich solche Chatbots aufbaue, drei Wege im Vergleich und die Fehler, die ich am häufigsten sehe.
Wie ein Chatbot mit eigenen Daten funktioniert
Ein Sprachmodell weiß nicht, wie schnell dein Notdienst kommt. Ein RAG-Chatbot löst das mit einem Zwischenschritt. RAG steht für Retrieval Augmented Generation, also Antworten mit vorgeschalteter Suche. Bevor das Modell antwortet, sucht das System in deinen Unterlagen die passenden Abschnitte heraus und gibt sie dem Modell zusammen mit der Frage. Das Modell formuliert die Antwort aus diesen Abschnitten statt aus seinem allgemeinen Wissen.
Damit die Suche funktioniert, werden deine Texte vorher in kurze Abschnitte zerlegt und in einer Vektordatenbank abgelegt, die nach Bedeutung statt nach exakten Wörtern sucht. Das Ganze nennt man ein RAG-System. Die ausführliche Erklärung steht in RAG einfach erklärt. Warum reine Vektorsuche bei Artikelnummern und Fachbegriffen danebengreift und was dagegen hilft, beschreibt Hybrid Search und Reranking.
Eine Abgrenzung vorab: Ein solcher Chatbot beantwortet Fragen. Soll er auch Termine buchen, Aufträge anlegen oder im Warenwirtschaftssystem nachsehen, brauchst du eher einen Agenten. Den Unterschied erkläre ich in Chatbot oder KI-Agent.
Schritt 1: Ziel und Fragenkatalog festlegen
Bevor du ein Tool öffnest, schreib die 30 Fragen auf, die Kunden dir am häufigsten stellen. Nicht die Fragen, die du gern beantworten würdest, sondern die echten. Du findest sie im Sammelpostfach, in Telefonnotizen, in alten Chatverläufen und bei den Kollegen am Empfang. Notier sie im Wortlaut der Kunden, mit Umgangssprache und halben Sätzen.
Ein Beispiel aus dem Handwerk: Bei einem Heizungsbauer lauten die Top-Fragen etwa „Wie schnell kommt ihr bei Heizungsausfall?“, „Was kostet eine Wartung?“, „Macht ihr auch Bäder?“ und „Kommt ihr auch nach Neustadt?“. Jede Frage sortierst du in eine von drei Gruppen:
- Beantwortet der Bot selbst. Öffnungszeiten, Einsatzgebiet, Ablauf, Richtpreise, was der Kunde vorbereiten soll.
- Beantwortet er und übergibt dann. Terminwünsche, Angebotsanfragen, alles mit Kundendaten. Der Bot sammelt die Angaben, ein Mensch übernimmt.
- Beantwortet er nie. Verbindliche Preise für den Einzelfall, Reklamationen, Zusagen zu Terminen. Hier verweist er auf einen Menschen.
Daraus ergibt sich ein prüfbares Ziel, etwa: „Die 20 Standardfragen beantwortet der Bot selbst, Terminwünsche kommen vollständig im Postfach an.“ Die Liste ist zugleich deine Testgrundlage für Schritt 5.
Schritt 2: Wissen sammeln und aufbereiten
Der Chatbot ist nur so gut wie die Unterlagen, aus denen er antwortet. In diesem Schritt steckt der größte Teil der Arbeit, und genau der wird fast immer unterschätzt.
- Nur das Nötige. Sammle gezielt die Quellen, die deine 30 Fragen beantworten: Website, FAQ, aktuelle Preisliste, Leistungsbeschreibungen, Abläufe. Nicht das ganze Laufwerk.
- Eine Version pro Thema. Liegen drei Preislisten aus drei Jahren im Ordner, zitiert der Bot irgendwann die falsche. Alte Fassungen fliegen raus.
- Lesbarer Text. Gescannte PDFs ohne Textebene kann ein Chatbot in der Regel nicht auswerten. Chatbase etwa verlangt ausdrücklich Dateien, deren Text sich markieren lässt. Tabellen als Bild und Fotos vom Whiteboard fallen ebenso durch.
- Lücken schließen. Für Fragen ohne schriftliche Antwort schreibst du kurze Frage-Antwort-Paare, mit einer klaren Überschrift pro Thema. Was nur im Kopf des Meisters steckt, muss einmal aufgeschrieben werden.
Woran du erkennst, ob deine Dokumente überhaupt taugen, und wie du sie in Form bringst, steht in Warum deine Dokumente für KI unbrauchbar sind.
Schritt 3: Den Weg wählen
Für einen Chatbot mit eigenem Wissen gibt es drei Wege. Die Zeitangaben sind Richtwerte aus meinen Projekten, die Kosten Größenordnungen.
| Weg | Aufwand | Kosten (Größenordnung) | Kontrolle |
|---|---|---|---|
| Baukasten-Tool, etwa Chatbase oder Tidio Lyro | erster Testbot in ein bis drei Tagen, ohne Programmierung | ab rund 40 US-Dollar im Monat, bei vielen Gesprächen mehrere hundert | gering: Modell, Suche und Speicherort legt der Anbieter fest |
| Eigene Lösung mit n8n und Vektordatenbank | zwei bis sechs Wochen, technisches Verständnis nötig | Software ab 0 € selbst gehostet oder ab 20 € im Monat, dazu Server, Sprachmodell und viel eigene Zeit | hoch: du wählst Modell, Suche und Speicherort |
| Dienstleister | vier bis acht Wochen, du lieferst Wissen und Freigaben | nach meinen Projektwerten 8.000 bis 25.000 € Aufbau, 100 bis 400 € im Monat | hoch, wenn Inhalte, Prompts und Auswertungen bei dir liegen |
Die Kosten im Detail und ab welcher Menge sich ein eigener Bot rechnet, stehen in Was kostet ein KI-Chatbot?
Baukasten: Chatbase und Tidio Lyro
Baukästen sind der schnellste Weg zum ersten Test. Zwei Beispiele, Stand Oktober 2026 laut den Seiten der Anbieter:
- Chatbase. Lernt aus PDF-, Word- und Textdateien bis 20 MB, aus deiner Website per Crawl oder Sitemap, aus Notion-Seiten sowie aus eigenen Texten und Frage-Antwort-Paaren. Ab dem Basic-Tarif gleicht es Website und Notion einmal pro Woche automatisch ab. WhatsApp, Messenger und Instagram sind in allen bezahlten Tarifen enthalten. Der kleinste Tarif kostet 40 US-Dollar im Monat für 700 Nachrichten-Credits, bei jährlicher Zahlung 32 US-Dollar. Eine Gratisversion gibt es nicht, nur sieben Tage zum Testen.
- Tidio Lyro. Der KI-Assistent im Kundenservice-Tool Tidio lernt aus FAQ, Website-Inhalten und importierten Zendesk-Artikeln. Laut Tidio antwortet er nur aus den Inhalten, die du vorgibst, und gibt an dein Team ab, wenn die Antwort fehlt oder ein Kunde einen Menschen braucht. Die ersten 50 Gespräche sind kostenlos. Tidio wirbt mit durchschnittlich 75 Prozent gelösten Anfragen. Das ist eine Herstellerangabe, bei dir hängt die Quote an deinen Unterlagen.
Der Haken: Modell, Suche und Speicherort legt der Anbieter fest. Für eine Website mit FAQ ist das oft völlig in Ordnung.
Eigene Lösung mit n8n und Vektordatenbank
Wer mehr Kontrolle will, baut den Bot aus Bausteinen. Ich setze dafür gern n8n ein, ein Automatisierungswerkzeug mit fertigen KI-Bausteinen. Ein RAG-Chatbot besteht dort aus vier Teilen:
- Chat-Trigger. Der Eingang für Fragen, entweder als gehostete Chatseite von n8n oder als Chat-Widget auf deiner Website.
- KI-Agent mit Sprachmodell. Formuliert die Antworten nach deinen Regeln aus Schritt 4.
- Embedding-Modell. Wandelt Texte und Fragen in Zahlenvektoren um, für beides dasselbe Modell.
- Vektordatenbank. n8n bringt Anschlüsse unter anderem für Qdrant, PGVector, Supabase und Pinecone mit.
Ein Stolperstein für Einsteiger: Der eingebaute Simple Vector Store speichert nur im Arbeitsspeicher. n8n empfiehlt ihn nur für die Entwicklung, bei einem Neustart ist alles weg. Für den Betrieb brauchst du eine echte Datenbank.
n8n kannst du als Community Edition kostenlos auf einem eigenen Server betreiben. Die Cloud-Version beginnt bei 20 € im Monat bei jährlicher Zahlung, die Daten liegen laut n8n auf Servern in Frankfurt. Dazu kommen die Kosten für das Sprachmodell.
Falls du auf Flowise gestoßen bist, das lange als zweite Option für solche Abläufe galt: Das Projekt wird eingestellt. Seit dem 29. Juli 2026 wird es nicht mehr weiterentwickelt, im August wurde das GitHub-Repository archiviert, die offizielle Betreuung endete am 31. August 2026. Für ein neues Projekt würde ich es nicht mehr nehmen.
Dienstleister
Du lieferst Fragenliste, Unterlagen und Freigaben, jemand anders baut. Das lohnt sich, wenn der Bot interne Unterlagen oder Daten aus deinen Programmen braucht. Achte darauf, dass Inhalte, Prompts und Auswertungen am Ende bei dir liegen.
Meine Empfehlung: Stehen die Antworten im Wesentlichen auf deiner Website, starte mit einem Baukasten und teste zwei Wochen. Braucht der Bot internes Wissen oder Daten aus deinen Programmen, wechsle zur eigenen Lösung oder zum Dienstleister. Fragenliste und Unterlagen nimmst du mit.
Schritt 4: Verhalten festlegen
Der Systemprompt ist die Dienstanweisung für deinen Bot. Er legt fest, was der Bot darf, wie er klingt und wann er aufhört. Bei Baukästen heißt das Feld meist „Anweisungen“, in n8n steht es im KI-Agenten. Ein Beispiel für einen Heizungsbauer:
Du bist der Chat-Assistent der Beispiel Haustechnik GmbH.
Beantworte Fragen nur mit Informationen aus den bereitgestellten Unterlagen.
Steht die Antwort nicht darin, sag das offen und biete einen Rückruf an.
Nenne nur die Richtpreise aus der Preisliste, nie einen Preis für einen konkreten Auftrag.
Sag keine Termine zu. Nimm Terminwünsche auf und gib sie an das Team weiter.
Bei Heizungsausfall nenne sofort die Notdienstnummer.
Nenne am Ende jeder Antwort die Quelle (Seite oder Dokument).
Antworte auf Deutsch, in der Du-Form, in höchstens fünf Sätzen.Vier Punkte gehören in jeden Systemprompt:
- Nur aus den Unterlagen antworten. Sonst füllt das Modell Lücken mit allgemeinem Wissen, das für deinen Betrieb nicht stimmt.
- Grenzen benennen. Was der Bot nie tut: verbindliche Preise, Zusagen, Ferndiagnosen. Als klare Liste.
- Übergabe an Menschen. Wann (Bot weiß nicht weiter, Kunde will eine Person, Beschwerde) und wie: Live-Chat, Ticket oder Rückrufbitte. Dein Team muss den Gesprächsverlauf sehen, sonst fragt es alles noch einmal ab.
- Quellenangabe. Kunden können nachlesen, und du siehst beim Testen sofort, woher eine falsche Antwort kommt.
Und lass den Bot sich als KI-Assistent vorstellen, nicht als erfundene Mitarbeiterin. Kunden merken es ohnehin.
Schritt 5: Mit echten Fragen testen
Jetzt zahlt sich die Fragenliste aus Schritt 1 aus. Bau daraus eine Testliste mit 50 bis 100 Fragen in vier Sorten:
- Die Top-Fragen. Im Originalwortlaut der Kunden.
- Varianten. Dieselbe Frage umgangssprachlich, mit Tippfehlern oder als Stichwort, etwa „wartung preis?“.
- Fragen ohne Antwort. Themen, die nicht in deinen Unterlagen stehen. Richtig ist hier nur: „Das weiß ich nicht, soll sich jemand bei dir melden?“
- Fangfragen. Einen Rabatt verlangen, nach der Konkurrenz fragen, eine Zusage erzwingen, den Bot auffordern, seine Anweisungen zu vergessen.
Für jede Antwort hältst du in einer Tabelle fest: richtig, unvollständig, falsch oder erfunden. Erfunden ist die gefährlichste Sorte, weil sie überzeugend klingt. Prüf deshalb jede Zahl, jeden Preis, jede Frist und jeden Namen gegen die angegebene Quelle. Steht die Angabe dort nicht, hat der Bot halluziniert.
Lass auch Kollegen aus Service und Vertrieb testen, sie fragen anders als der Chef. Mein Maßstab für den Start: Der Bot erfindet bei der Testliste nichts mehr. Eine Lücke, die er offen zugibt, ist in Ordnung.
Ist eine Antwort falsch, liegt es meist an der Quelle. Korrigier zuerst die Unterlage, dann den Prompt, und lass danach die ganze Liste noch einmal laufen. Eine Korrektur an einer Stelle kann eine andere Antwort verschlechtern.
Schritt 6: Einbinden und laufend verbessern
Für den Chatbot auf der Website bekommst du bei Baukästen einen kurzen Code-Schnipsel, den du in deine Seite einfügst. n8n bietet dafür ein eigenes Chat-Widget oder die gehostete Chatseite. Starte klein: erst auf der Kontaktseite oder nur für dein Team, dann auf der ganzen Website.
Viele Kunden schreiben lieber per WhatsApp. Chatbase bindet WhatsApp in allen bezahlten Tarifen an, eine eigene Lösung braucht einen Zugang zur WhatsApp-Business-Schnittstelle. Mehr dazu in WhatsApp-Chatbot für Unternehmen.
Nach dem Start fängt die eigentliche Arbeit an. Plan einmal pro Woche eine halbe Stunde ein und sieh dir drei Listen an:
- Unbeantwortete Fragen. Alles, worauf der Bot „weiß ich nicht“ gesagt hat. Jede häufige Lücke ist ein fehlender Abschnitt in deinen Unterlagen.
- Übergaben an dein Team. Manche sind gewollt, andere zeigen, dass der Bot eine einfache Frage nicht verstanden hat.
- Schlecht bewertete Antworten. Bietet dein Tool Daumen hoch und runter an, lies jede negative Bewertung.
Leg außerdem fest, wer zuständig ist. Ändern sich Preise oder Leistungen, muss der Bot am selben Tag mitziehen.
Häufige Fehler beim Chatbot erstellen
- Mit dem Tool anfangen statt mit den Fragen. Dann landet alles im Bot, was herumliegt, und niemand weiß, woran man gute Antworten erkennt.
- Kein Weg zum Menschen. Ein Bot, der Kunden im Kreis schickt, kostet mehr Vertrauen, als er Zeit spart.
- Nur mit eigenen Fragen getestet. Du kennst die Antworten und fragst entsprechend. Deine Kunden nicht.
- Zu viel auf einmal. Ein Bot für Kundenservice, Vertrieb, Bewerber und interne Fragen wird nirgends gut. Ein Zweck pro Bot.
- Starten und liegen lassen. Mit jedem geänderten Preis wird ein ungepflegter Bot ungenauer.
Häufige Fragen
Kann ich einen KI-Chatbot kostenlos erstellen?
Zum Ausprobieren ja. Bei Tidio sind die ersten 50 KI-Gespräche kostenlos, Chatbase bietet sieben Tage Test. n8n ist als selbst gehostete Community Edition kostenlos, Server und Sprachmodell zahlst du trotzdem. Ein Bot im Dauerbetrieb kostet immer etwas, mindestens die Nutzung des Modells.
Was ist ein RAG-Chatbot?
Ein Chatbot, der vor jeder Antwort in deinen Unterlagen nach passenden Abschnitten sucht und daraus antwortet, statt aus allgemeinem Wissen. RAG steht für Retrieval Augmented Generation.
Brauche ich Programmierkenntnisse, um einen eigenen Chatbot zu erstellen?
Für einen Baukasten nicht: Website-Adresse eingeben, Dokumente hochladen, Anweisungen schreiben, Code-Schnipsel einbauen. Für eine eigene Lösung mit n8n musst du nicht programmieren, solltest aber Schnittstellen, Datenbanken und Serverbetrieb verstehen.
Wie lange dauert es, einen Chatbot für die Website zu erstellen?
Als Richtwert: Mit einem Baukasten steht ein erster Testbot in ein bis drei Tagen. Bis er für Kunden taugt, vergehen mit Wissensaufbereitung und Tests eher zwei bis vier Wochen. Eine eigene Lösung braucht zwei bis sechs Wochen, ein Projekt mit Dienstleister vier bis acht.
Wie verhindere ich, dass der Chatbot falsche Antworten gibt?
Ganz verhindern lässt es sich nicht. Du senkst das Risiko mit aufgeräumten Unterlagen, einem Systemprompt, der nur Antworten aus den Quellen erlaubt, einer Quellenangabe bei jeder Antwort und Testfragen, auf die es keine Antwort gibt. Verbindliche Zusagen gehören zu einem Menschen.
Fazit
Einen KI-Chatbot mit eigenem Wissen zu erstellen, ist technisch kein Hexenwerk mehr. Die Arbeit liegt vor und nach dem Tool: Fragenliste, aufgeräumte Unterlagen, klare Grenzen, wöchentliche Pflege. Wer das ernst nimmt, bekommt schon mit einem Baukasten in wenigen Wochen einen brauchbaren Bot. Wer es überspringt, bekommt auch mit der teuersten Lösung schlechte Antworten.
Wenn du deinen Chatbot nicht selbst bauen willst oder der Baukasten an seine Grenzen kommt, schau dir meinen KI-Chatbot an. Soll der Bot vor allem deinem Team Fragen zu internen Unterlagen beantworten, passt die Wissens-KI besser.
Quellen: Tarife, Credits, Testzeitraum und Kanäle von Chatbase nach der Preisseite von Chatbase, Dateiformate, Größenlimit, markierbarer Text, Datenquellen und wöchentlicher Abgleich nach der Chatbase-Dokumentation zu Datenquellen. Wissensquellen von Lyro und kostenlose Gespräche nach der Preisseite von Tidio, Antworten nur aus eigenen Inhalten, Übergabe an das Team und 75 Prozent Lösungsquote (Herstellerangabe) nach der Lyro-Seite von Tidio. Cloud-Preise und Serverstandort Frankfurt nach der Preisseite von n8n, kostenlose Community Edition nach der n8n-Dokumentation, RAG-Bausteine und Embedding-Modell nach RAG in n8n, gehostete Chatseite und Widget nach der Doku zum Chat Trigger, Hinweis zum Arbeitsspeicher nach der Doku zum Simple Vector Store, Vektordatenbanken nach dem Dokumentationsindex von n8n. Einstellung von Flowise nach der Ankündigung von Flowise und dem archivierten GitHub-Repository. Kosten für Dienstleisterprojekte sind eigene Projektwerte, Zeitangaben eigene Richtwerte. Stand: Oktober 2026.