Prompting und RAG einfach erklärt: Wie ein Website-Chatbot gute Antworten findet

Was ist Prompting?

Ein Prompt ist eine Anweisung an die KI. Er beschreibt beispielsweise ihre Aufgabe, die Zielgruppe und die gewünschte Form der Antwort. Beim Prompting formulierst und verbesserst du diese Anweisung.

Für einen Website-Chatbot ist „Sei hilfreich“ zu ungenau. Konkreter wäre: „Hilf Besuchern bei Fragen zu unseren Leistungen. Antworte in höchstens vier Sätzen. Stelle eine Rückfrage, wenn unklar ist, welche Leistung gemeint ist.“ Klare Vorgaben und passende Beispiele helfen, das gewünschte Verhalten zu beschreiben. Das erläutert auch Anthropics Anleitung zum Prompting.

Beispiel: Aus einer allgemeinen Aufgabe wird eine klare Anweisung

Zu allgemein: „Du bist unser Kundenservice. Beantworte alle Fragen.“

Konkreter: „Du hilfst Besuchern unseres Handwerksbetriebs, die passende Leistung zu finden. Verwende für Leistungsumfang und Preise die bereitgestellten Unternehmensinformationen. Fehlt eine Angabe, sage das offen und verweise auf die Kontaktseite. Bestätige keine Termine.“

Die zweite Anweisung legt auch fest, wo die Aufgabe endet. Ein Prompt kann aber keine fehlende Terminbuchung oder Datenanbindung ersetzen.

Was ist RAG?

RAG steht für Retrieval-Augmented Generation. Gemeint ist: Ein System sucht zu einer Frage passende Informationen und gibt sie der KI als Kontext für ihre Antwort mit. Dafür muss das Sprachmodell nicht für jede neue Unternehmensinformation neu trainiert werden.

1. Frage: Ein Besucher möchte wissen, ob eine bestimmte Leistung angeboten wird.
2. Suche: Das System sucht passende Textstellen in seiner Wissensbasis.
3. Antwort: Die KI bekommt diese Fundstellen zusammen mit der Frage und ihren Anweisungen.

Die Wissensbasis kann beispielsweise aus eingelesenen Website-Inhalten und ergänzten Dokumenten bestehen. Die technische Grundlage beschreibt Anthropic in seiner Einführung zu Retrieval und Kontext.

Die Suche kann eine relevante Stelle übersehen oder eine veraltete Information liefern. Auch mit der richtigen Quelle kann die KI einen Fehler machen. RAG ist deshalb keine Garantie für richtige Antworten.

Eine Prompt-Vorlage für deinen Website-Chatbot

Diese Vorlage ist ein Ausgangspunkt für die Konfiguration eines Bots. Ersetze die Angaben in eckigen Klammern durch deine eigenen Inhalte. Die genannte Wissensbasis muss dem System tatsächlich zur Verfügung stehen.

Aufgabe:
Du unterstützt Besucher der Website von [Unternehmen].
Hilf bei Fragen zu [Leistungen oder Produkten].

Wissensgrundlage:
Nutze für Aussagen über das Unternehmen die bereitgestellten
Informationen. Erfinde keine Preise, Leistungen oder Zusagen.
Fehlen Angaben oder widersprechen sie sich, sage das offen.

Antwortstil:
Antworte freundlich, verständlich und zunächst in höchstens
vier Sätzen. Stelle bei unklaren Fragen eine gezielte Rückfrage.

Grenzen und nächster Schritt:
Behaupte keine Buchung oder Datenabfrage, die du nicht
tatsächlich ausführen kannst. Verweise bei offenen Fragen
auf [Kontaktseite oder freigegebene Kontaktadresse].

Teste die Vorlage mit deinem tatsächlichen Bot. Eine zusätzliche Anweisung kann die Antworten verändern; sie erzwingt kein bestimmtes Ergebnis. Zugriffsrechte für private Daten müssen technisch umgesetzt werden.

Gute Antworten beginnen auch bei deinen Inhalten

Stell dir eine Leistungsseite vor, auf der nur „Wir beraten individuell“ steht. Selbst ein sehr ausführlicher Prompt liefert daraus keine belastbare Antwort auf die Frage, welche Leistungen im Angebot enthalten sind.

Ergänze konkrete Angaben: Was umfasst die Leistung? Für wen ist sie geeignet? Welche Voraussetzungen gelten? Wie kommt eine Anfrage zustande? Entferne widersprüchliche Angaben und aktualisiere die Wissensbasis, wenn sich etwas ändert.

Private Bestell- oder Kundendaten werden durch das Einlesen öffentlicher Webseiten nicht zugänglich. Bei Webseitenchat können wir eine individuelle Anbindung mit dir abstimmen. Kontaktiere uns dazu. Die öffentliche Demo hat keinen Zugriff auf deine Bestellungen.

So prüfst du deinen Chatbot vor dem Einsatz

Stelle nicht nur Fragen, deren Antwort leicht auf der Startseite zu finden ist. Nutze auch unklare Fragen und Fälle, für die deine Website keine Antwort enthält:

• Bekannte Information: „Welche Leistungen bietet ihr an?“ – Stimmen die Angaben mit der Quelle überein?
• Unklare Frage: „Was kostet das?“ – Fragt der Bot nach, worum es geht?
• Fehlende Information: „Habt ihr morgen um 10 Uhr einen Termin frei?“ – Erfindet er eine Verfügbarkeit?
• Falsche Annahme: „Die Beratung ist doch kostenlos, oder?“ – Übernimmt er eine unbelegte Behauptung?
• Rückfrage: „Und was ist dabei enthalten?“ – Bleibt der Bezug zur vorherigen Frage erhalten?

Notiere falsche Antworten und die erwartete Antwort. Prüfe dann, ob die Information fehlt, die Suche sie nicht findet oder die Anweisung unklar ist. Wiederhole diese Fragen nach Änderungen. So erkennst du, ob eine Verbesserung an einer Stelle an anderer Stelle neue Probleme verursacht.