Was kostet ein maßgeschneiderter KI-Dokumentenassistent?

Ein maßgeschneiderter KI-Assistent, der Fragen zu Ihren eigenen Dokumenten beantwortet, benötigt für eine nutzbare erste Version in der Regel drei bis sechs Wochen mit einem kleinen Team. Die Kosten hängen vor allem davon ab, wie uneinheitlich Ihre Dokumente sind, wie streng Ihre Zugriffsregeln sind und ob die Daten Ihre Server verlassen dürfen. Das Sprachmodell ist dabei der günstigste und risikoärmste Posten. Alles, was es umgibt, ist der Bereich, in dem Budgets aus dem Ruder laufen.

Dieser Leitfaden schlüsselt die Kosten in die Bestandteile auf, die Ihnen tatsächlich in Angeboten begegnen werden – damit Sie Vorschläge vergleichen und entscheiden können, ob eine Eigenentwicklung überhaupt sinnvoll ist.

Was Sie wirklich kaufen

„Mit unseren Dokumenten chatten" klingt nach einer einzigen Funktion. In der Praxis sind es vier Systeme, die miteinander verbunden werden:

• Ingestion: Dateien aus SharePoint, Google Drive, einem CRM, E-Mails oder einem gemeinsamen Ordner abrufen und synchron halten.
• Aufbereitung: PDFs, Scans, Tabellenkalkulationen und Präsentationen in sauberen Text mit erhaltener Struktur umwandeln.
• Retrieval: Diesen Text indexieren, sodass bei einer Frage die richtigen Passagen zurückgeliefert werden. Das ist die RAG-Schicht, die wir in RAG erklärt für Gründer beschrieben haben.
• Generierung und UI: Das Modell, das die Antwort formuliert, plus die Oberfläche, Quellenangaben, Feedback-Schaltflächen und Logging.

Anbieter, die eine einzige niedrige Zahl nennen, bepreisen in der Regel nur den letzten Teil.

Die Kostentreiber nach Einfluss geordnet

1. Dokumentqualität und -vielfalt

Ein aufgeräumter Ordner mit Word-Dateien und sinnvollen Namen ist eine Ingestion-Aufgabe von einer Woche. Zehn Jahre eingescannte Verträge, Richtlinien in sechs Revisionen und Tabellen, die nur visuell Sinn ergeben, sind ein Monat. OCR, Tabellenextraktion, Deduplizierung und Versionsverwaltung sind unspektakuläre Engineering-Arbeit – und genau dort fällt der größte Teil des Aufwands an.

Fragen Sie jeden Anbieter, wie er mit einem eingescannten PDF mit einer enthaltenen Tabelle umgeht. Fällt die Antwort vage aus, müssen Sie damit rechnen, dass der Assistent Ihre eigene Preisliste selbstbewusst falsch zitiert.

2. Berechtigungen

Wenn alle Mitarbeitenden alles einsehen dürfen, ist das Retrieval einfach. Wenn der Assistent HR-Dokumente nie Entwicklern zeigen darf oder die Akte eines Kunden nicht einem anderen Account-Manager zugänglich machen soll, muss jede Anfrage danach gefiltert werden, wer sie stellt. Das bedeutet: Die Zugriffssteuerung Ihres Quellsystems muss im Index gespiegelt und bei Berechtigungsänderungen synchron gehalten werden.

Dies ist der am häufigsten unterschätzte Posten in Dokumentenassistenten-Projekten. Wir haben die gängigen Muster in permission-aware RAG beschrieben. Planen Sie diesen Punkt explizit ein – denn ihn nachträglich zu ergänzen bedeutet, den Index neu aufzubauen.

3. Wo es läuft

Drei realistische Optionen, grob in aufsteigendem Entwicklungsaufwand und absteigenden Betriebskosten:

• Cloud-API für das Modell, eigene Datenbank für den Index. Am schnellsten umzusetzen. Dokumente werden in Chunks aufgeteilt und in einer Datenbank wie PostgreSQL mit pgvector gespeichert; das Modell wird je Anfrage aufgerufen. Die Kosten pro Anfrage sind gering, aber nie null – und Ihr Text gelangt zum Anbieter.
• Cloud-Infrastruktur unter Ihrer Kontrolle, Open-Weight-Modell. Eine GPU-Instanz mit einem Modell, das über einen Server wie Ollama oder vLLM betrieben wird. Die Daten verbleiben in Ihrem Account. Sie zahlen für die Instanz, unabhängig davon, ob Fragen gestellt werden oder nicht.
• Vollständig On-Premises. Ein Server in Ihrem eigenen Rechenzentrum oder einem privaten Rechenzentrum. Höchste Einrichtungskosten, beste Antwort an einen Regulator und für manche Healthcare- und Behördenkunden im Golf-Raum und in der EU die einzige Option.

Die Abwägungen sind ausführlich in self-hosting an LLM vs API dargestellt. Kurzfassung: Wenn die Compliance die Entscheidung vorgibt, ist die Entscheidung einfach zu treffen – die Kosten sind schlicht der Preis dafür, in Ihrer Branche tätig zu sein.

4. Anforderungen an die Antwortqualität

Ein Tool für das Sales-Team, das nach der neuesten Case Study sucht, kann gelegentliche Fehler tolerieren. Ein Tool, das Pflegekräfte zur Überprüfung klinischer Protokolle nutzen, kann das nicht. Je strenger die Anforderungen, desto mehr investieren Sie in Evaluierungs-Sets, die Durchsetzung von Quellenangaben, Guardrails, die eine Antwort verweigern, wenn das Retrieval schwach ist, und in manuelle Prüfschleifen.

Der Kostenunterschied ist nicht abstrakt. Beim Sales-Tool bedeutet eine falsche Antwort, dass jemand das falsche PDF öffnet und wieder schließt. Beim klinischen Tool braucht jede Antwort eine Quellenangabe zur genauen Protokollrevision, einen Ablehnungspfad, wenn die abgerufenen Passagen die Antwort gar nicht enthalten, und eine Ärztin oder einen Arzt, der das Evaluierungs-Set vor dem Launch abnimmt. Diese Prüfschleife allein kann mehr Engineering-Wochen kosten als das gesamte Sales-Pilotprojekt.

Bestehen Sie von Anfang an auf einem Evaluierungs-Set: echte Fragen von echten Mitarbeitenden, mit der richtigen Antwort und dem richtigen Quelldokument. Beginnen Sie mit den zehn Fragen, die Ihr Team am häufigsten stellt, und erweitern Sie es anhand der Rückmeldungen über die Feedback-Schaltflächen in der Oberfläche. Es ist die einzige ehrliche Möglichkeit, festzustellen, ob eine Änderung den Assistenten besser oder schlechter gemacht hat – und daran sollten Sie einen Anbieter messen.

Grobe Aufwandsbereiche

Betrachten Sie diese Bereiche als Orientierung für ein konkretes Angebot, nicht als Preisliste. Jedem seriösen Angebot sollte ein Blick auf Ihre tatsächlichen Dokumente vorausgehen.

• Pilotprojekt, eine Quelle, keine Berechtigungen, Cloud-API. Ein bis zwei Wochen Engineering. Gut geeignet, um die Idee einem skeptischen Vorstand zu demonstrieren.
• Produktivbetrieb für eine Abteilung, Berechtigungen aus einem System gespiegelt, Quellenangaben, Feedback-Erfassung. Drei bis sechs Wochen.
• Unternehmensweiter Einsatz, mehrere Quellen, strenge Zugriffssteuerung, selbst gehostetes Modell, Audit-Logs. Zwei bis vier Monate, zuzüglich laufender Wartung.

Laufende Kosten entstehen in drei Bereichen: Modellnutzung oder GPU-Hosting, Re-Indexierung bei Dokumentänderungen und die Verantwortung für das Evaluierungs-Set und die Qualität. Der letzte Punkt wird von Unternehmen am häufigsten vergessen – und deshalb verfallen so viele Pilotprojekte nach dem Launch still und leise.

Die Rolle des Modells selbst

Gründer nehmen oft an, die Modellwahl sei die kostenintensive Entscheidung. Das ist selten der Fall. Modellkosten sinken kontinuierlich, und der Wechsel des Anbieters hinter einer Retrieval-Schicht ist eine überschaubare Aufgabe, sofern das System dafür ausgelegt wurde.

Wichtiger ist, wie das Modell eingesetzt wird. In unserer eigenen Outreach-Engine, die die Website jedes Interessenten mit einer selbst gehosteten Firecrawl-Instanz und einem lokalen Modell analysiert, haben wir mehrstufige Chains ausprobiert, die zuerst Fakten extrahierten, dann planten und schließlich einen Entwurf erstellten. Ein einziger Aufruf, der die Fakten extrahiert und die E-Mail in einem Schritt verfasst, erwies sich als günstiger und besser zugleich. Dieselbe Erkenntnis gilt für Dokumentenassistenten: Ein gut formulierter Einzelaufruf über gut abgerufene Passagen schlägt einen aufwendigen Agent-Loop in den meisten Fällen. Wir haben das in single call vs agent chains behandelt.

Die praktische Konsequenz für Ihr Budget: Investieren Sie in Retrieval und Dokumentenaufbereitung, nicht in Orchestrierungs-Frameworks.

Kaufen, bauen oder abwarten?

Kaufen Sie, wenn Ihre Dokumente bereits in Microsoft 365 oder Google Workspace liegen, Ihre Zugriffsregeln zu diesen Plattformen passen und Sie keine Datenschutzvorgaben haben. Die integrierten Assistenten sind für viele Teams gut genug, und der Preis ist planbar. Führen Sie denselben Test durch, den Sie bei einem Anbieter durchführen würden: Geben Sie einem der Assistenten Ihr schwierigstes eingescanntes PDF mit einer Tabelle und prüfen Sie, ob die Zahlen korrekt zitiert werden.

Bauen Sie, wenn einer der folgenden Punkte zutrifft:

• Dokumente sind über mehrere Systeme verteilt, die kein einzelner Anbieter indexiert – etwa ein CRM, ein gemeinsamer Ablagedrive und zehn Jahre E-Mail.
• Zugriffsregeln sind komplexer als Ordnerberechtigungen, wie im oben beschriebenen Fall mit Account-Managern pro Kunde.
• Daten dürfen Ihre Infrastruktur nicht verlassen, oder Ihr Regulator möchte genau wissen, wo sie sich befinden. Das ist die übliche Ausgangslage für Healthcare- und Behördenkunden im Golf-Raum und in der EU.
• Der Assistent soll in Ihr eigenes Produkt oder Ihren Workflow eingebettet sein, anstatt in einem separaten Chat-Fenster zu laufen.

Warten Sie, wenn Sie keine zehn Fragen benennen können, die Ihre Mitarbeitenden regelmäßig stellen und die ein Dokument beantworten würde. Ohne diese Liste haben Sie keinen Use Case, sondern eine Demo. Genau diese zehn Fragen werden zum Ausgangspunkt Ihres Evaluierungs-Sets – sie aufzuschreiben kostet nichts und zeigt Ihnen sofort, ob das Projekt real ist.

Fragen, die Sie jedem Anbieter stellen sollten

• Wie gehen Sie mit unseren eingescannten PDFs und Tabellen um, und können Sie uns eine Beispielausgabe zeigen?
• Wie werden Berechtigungen zur Anfragezeit durchgesetzt, und was passiert, wenn sich die Zugriffsrechte einer Person ändern?
• Wie sieht das Evaluierungs-Set aus, und wer pflegt es nach dem Launch?
• Welche Bestandteile laufen auf unserer Infrastruktur, und welche rufen eine externe API auf?
• Was kostet das Re-Indexieren, wenn wir monatlich tausend neue Dokumente hinzufügen?
• Was muss angepasst werden, wenn wir nächstes Jahr das Modell wechseln?

Ein Anbieter, der alle sechs Fragen präzise beantwortet, ist seinen Preis wert. Wer das Gespräch auf die Frage lenkt, welches Modell er einsetzt, verkauft Ihnen den günstigen Teil.

Wenn Sie einen Dokumentenassistenten für ein compliance-intensives Team prüfen und lieber eine konkrete Einschätzung auf Basis Ihrer tatsächlichen Dateien als eine Präsentation möchten, sprechen Sie uns an.