Sollte Ihr KI-Agent seine Quellen angeben?

Ja, wenn ein Mensch auf die Aussagen des Agents reagiert, ohne sie erneut zu prüfen. Ein Agent, der zeigen kann, von welcher Seite, welchem Datensatz oder welchem Dokument jede Aussage stammt, lässt sich auditieren, korrigieren und einem Kunden gegenüber vertreten. Ein Agent, der das nicht kann, ist ein gut formuliertes Rätselraten – und die Kosten dieses Rätselratens trägt Ihr Team, nicht das Modell.

Die Frage, mit der Gründer tatsächlich konfrontiert sind, lautet nicht, ob Provenance wünschenswert ist. Sondern: Wo lohnt es sich, dafür zu bezahlen, wie viel kostet es, und wie schreiben Sie es in eine Implementierung, sodass es nicht stillschweigend gestrichen wird, wenn der Abgabetermin näher rückt?

Was „Quellen angeben" in einem Agent wirklich bedeutet

Damit meinen die Menschen drei sehr unterschiedliche Dinge, und Anbieter verwischen diese Unterschiede absichtlich.

• Promptbasierte Quellenangaben. Sie weisen das Modell an: „Gib deine Quellen an", und es schreibt plausible Referenzen. Das sind Texte, keine Links zu etwas, das das System verifiziert hat. Sie versagen lautlos.
• Verankerte Quellenangaben. Das System ruft bestimmte Textpassagen ab, übergibt sie mit stabilen IDs an das Modell, und das Modell verweist auf diese IDs. Das System ordnet die IDs dann realen Dokumenten zu. Das ist echte Provenance und das, was richtig umgesetztes RAG Ihnen bietet.
• Verifizierte Quellenangaben. Nach der Generierung bestätigt eine Prüfung, dass jede zitierte Passage tatsächlich den Satz belegt, dem sie zugeordnet ist. Das ist die stärkste Form und die, die Sie für regulierte oder risikoreiche Arbeiten benötigen.

Wenn eine Demo Quellenangaben zeigt, fragen Sie, welche der drei Sie gerade sehen. Wenn die Antwort die erste ist, existiert das Feature noch nicht.

Wo Provenance sich selbst bezahlt macht

Ausgaben, die eine Person versendet oder unterzeichnet

Vertriebskorrespondenz, Angebote, Support-Antworten und alles, was den Namen Ihres Unternehmens trägt. Wenn ein Vertriebsmitarbeiter eine vom Agent entworfene E-Mail abschickt, die ein erfundenes Detail über den Interessenten enthält, verlieren Sie den Lead – und damit einen Teil Ihres Rufs.

In unserem eigenen Outreach-Tool liest der Agent die Website jedes Interessenten und entwirft eine maßgeschneiderte E-Mail. Früh trafen wir eine einfache Designentscheidung: Das Modell extrahiert die Fakten, die es verwenden möchte, und schreibt die E-Mail im selben Aufruf – und jeder Fakt bleibt mit der Seite verknüpft, von der er stammt. So konnte ein Prüfer den Entwurf kurz überfliegen, sehen, welche Seite die Eröffnungszeile rechtfertigte, und Entwürfe ablehnen, bei denen der „Fakt" eine Übertreibung war. Warum der einzelne Aufruf der mehrstufigen Variante bei Kosten und Qualität überlegen war, haben wir in Single Call vs. Agent Chains erläutert. Die Provenance kam fast kostenlos, weil wir die Quell-URL nie aus den Daten fallen ließen, als sie durch die Pipeline floss.

Gesundheitswesen, Recht, Behörden, Finanzen

Hier ist Provenance kein Feature, es ist das Produkt. Ein Kliniker wird nicht auf eine Zusammenfassung reagieren, die besagt „der Patient hat eine dokumentierte Allergie", wenn er nicht zur entsprechenden Notiz durchklicken kann. Ein Einkäufer, der einen KI-Anbieter bewertet, wird fragen, wie eine gegebene Antwort im Nachhinein rekonstruiert werden kann. Wenn Sie in diesen Märkten verkaufen, stellen Sie Provenance in Ihrer Architektur neben die Zugriffskontrolle, denn beide sind verknüpft: Eine Quellenangabe ist nur sicher, wenn der Leser berechtigt war, die Quelle zu sehen – genau darum geht es beim berechtigungsbasierten Retrieval.

Alles, was Sie später verteidigen müssen

Streitigkeiten, Audits und Nachanalysen stellen alle dieselbe Frage: Warum hat das System das gesagt? Ein Protokoll von Prompts und Completions ist keine Antwort. Ein Protokoll, das besagt: „Dieser Satz wurde aus Passage 14 von Dokument X generiert, abgerufen zu diesem Zeitpunkt, sichtbar für diesen Benutzer" – das ist eine.

Wo es sich nicht lohnt

Seien Sie auch hier ehrlich, denn Provenance erzeugt Reibung, und Sie wollen sie nicht überall.

• Kreative und explorative Tools. Brainstorming für Namen, Umformulierung von Tonalität, Generierung von Varianten. Niemand braucht eine Fußnote bei einem Titelvorschlag, und es gibt ohnehin keine abgerufene Passage, auf die sie verweisen könnte.
• Interne Assistenten mit standardmäßiger menschlicher Kontrolle. Wenn der Nutzer ein Experte ist, der vor dem Handeln immer prüft, ist eine kurze Liste „Das habe ich verwendet" besser als satzweise Quellenangaben. Der Prüfer in unserem Outreach-Tool musste wissen, welche Seite die Eröffnungszeile rechtfertigte – nicht eine Referenz an jede Klausel geheftet.
• Code-Generierung. Tests und Reviews sind die Verifikationsebene. Verweise auf Dokumentation sind angenehm, ändern das Verhalten aber selten.

Die Faustregel: Je weiter eine Ausgabe von der Person, die sie angefordert hat, entfernt ist, bevor jemand sie prüft, desto mehr Provenance brauchen Sie. Ein Entwurf, den der Vertriebsmitarbeiter vor dem Versenden liest, braucht weniger als eine Support-Antwort, die eigenständig versendet wird.

Was die Implementierung kostet

Provenance ist eine der günstigsten Maßnahmen, die man früh einbauen kann – und eine der mühsameren, die man nachträglich ergänzen muss. Die Kosten verteilen sich auf drei Bereiche.

Datenpipeline. Jeder Chunk, den Sie indizieren, benötigt eine stabile ID, eine Quellenreferenz und idealerweise einen Zeichenbereich. Das ist eine einmalige Schema-Entscheidung. Im Outreach-Tool war es ein einziges Feld – die URL der Seite, von der jeder Fakt stammte – das auf dem Datensatz durch jeden Schritt mitgeführt und nie weggelassen wurde. Es wegzulassen spart jetzt einen Tag und kostet später Wochen, wenn Sie rekonstruieren müssen, welcher Chunk welchen Satz produziert hat.

Prompt- und Ausgabeformat. Dem Modell müssen IDs übergeben werden, und es muss aufgefordert werden, diese auf strukturierte Weise zu referenzieren – Ihr Parser muss damit umgehen, dass das Modell dabei leicht danebenliegt. Planen Sie ein strukturiertes Ausgabeformat und einen Fallback ein für den Fall, dass das Modell eine ID zitiert, die nicht im Kontext war. Dieser Fall ist das promptbasierte Quellenangabenproblem von früher, das sich wieder einschleicht, und er muss als Fehler markiert, nicht als Link gerendert werden. Mehrere Anbieter bieten inzwischen native Citation-Modi an, die Quelltextbereiche zusammen mit dem Text zurückgeben, was den größten Teil der Parsing-Arbeit entfällt. Prüfen Sie die Dokumentation Ihres Anbieters, ob das von Ihnen verwendete Modell dies unterstützt, bevor Sie eine eigene Lösung bauen.

UI. Jemand muss gestalten, wie eine Quellenangabe aussieht und was passiert, wenn man darauf klickt. Diese Aufgabe zu unterschätzen ist der häufigste Grund, warum Provenance-Features halbfertig ausgeliefert werden. Eine Quellenangabe, die das gesamte 40-seitige PDF auf Seite eins öffnet, ist technisch vorhanden und praktisch nutzlos. Verlinken Sie direkt auf die betreffende Textpassage.

Token-Kosten sind real, aber zweitrangig. Das Übergeben von IDs und das Anfordern strukturierter Referenzen erhöht den Overhead pro Aufruf moderat. Wenn Ihr Budget knapp ist, sind die Hebel in der LLM-Kostenoptimierung weitaus relevanter als das Kürzen von Quellenangaben.

Wie Sie es in ein Vendor-Spec schreiben

Vage Formulierungen bringen Ihnen hier die promptbasierte Version. Schreiben Sie messbare Abnahmekriterien.

• Jede sachliche Aussage in einer Ausgabe ist mit einer abgerufenen Textpassage verknüpft, nicht mit einem Dokumenttitel. Der Link öffnet die Passage, nicht die Datei.
• Eine vom Modell erfundene Quellenangabe wird als Defekt behandelt. Das System muss jeden Verweis auf eine Quelle ablehnen oder markieren, die nicht im Retrieval-Set dieses Aufrufs war.
• Die Quellengenauigkeit ist eine geprüfte Zahl. Nehmen Sie eine Stichprobe der Ausgaben, lassen Sie eine Person prüfen, ob jede zitierte Passage die Aussage belegt, und setzen Sie einen Schwellenwert. Das gehört in dasselbe Dokument wie Ihre anderen Evals im Vendor-Vertrag.
• Provenance wird protokolliert, nicht nur angezeigt. Für jede Ausgabe können Sie später die genauen Quellen, ihre Versionen und wer sie sehen durfte, abrufen.
• Keine Quellenangabe, keine Behauptung. Wenn der Agent für eine Aussage keine Quelle findet, sagt er das, anstatt die Lücke zu füllen. Diese eine Regel beseitigt die meisten peinlichen Fehler.

Wenn ein Anbieter bei einem dieser Punkte zurückschiebt mit „zu aufwendig für ein MVP", fragen Sie, bei welchem davon er bereit wäre, dass ein Kunde dessen Fehlen entdeckt.

Der stille Vorteil: Es macht den Agent besser

Teams, die Provenance hinzufügen, stellen meist fest, dass ihre Agents aus einem Grund besser werden, der nichts mit Vertrauen zu tun hat. Sobald jede Aussage auf eine Textpassage verweisen muss, können Sie sehen, welche Retrievals schwach sind, welche Dokumente veraltet sind und welche Prompts das Modell dazu bringen, zu weit zu gehen. Provenance verwandelt „der Agent lag falsch" in „der Agent lag falsch, weil das Retrieval die Preisseite von 2023 zurückgegeben hat" – und das ist ein Bug, den Sie beheben können. Ohne Provenance optimieren Sie im Dunkeln.

Wenn Sie einen Agent konzipieren, dessen Ausgaben Ihr Unternehmen verlassen, behandeln Sie Provenance als Teil des Kernaufbaus, nicht als Phase-zwei-Thema. Wir helfen Ihnen, das Retrieval, das Citation-Modell und den Review-Flow so zu gestalten, dass das, was Sie ausliefern, von Tag eins an prüfbar ist. Sprechen Sie mit uns.