Quanto Costa un Assistente AI Personalizzato per i Documenti Aziendali?

Un assistente AI personalizzato che risponde a domande sui propri documenti richiede tipicamente da tre a sei settimane di lavoro per un team ristretto per arrivare a una prima versione utilizzabile. Il costo dipende principalmente da quanto sono disordinati i documenti, da quanto sono rigide le regole di accesso e dalla possibilità di far uscire i dati dai propri server. Il modello linguistico è la voce di costo più bassa e meno rischiosa. È tutto ciò che gli sta intorno a far sforare i budget.

Questa guida scompone il costo nelle parti per cui le verrà effettivamente presentato un preventivo, così potrà confrontare le proposte e decidere se sviluppare o meno.

Cosa sta acquistando davvero

"Chat con i nostri documenti" sembra un'unica funzionalità. In pratica sono quattro sistemi collegati tra loro:

• Ingestion: prelevare i file da SharePoint, Google Drive, un CRM, la posta elettronica o una cartella condivisa, e mantenerli sincronizzati.
• Preparazione: trasformare PDF, scansioni, fogli di calcolo e presentazioni in testo pulito con la struttura preservata.
• Retrieval: indicizzare quel testo in modo che i passaggi corretti vengano restituiti per una determinata domanda. Questo è lo strato RAG che abbiamo analizzato in RAG spiegato per i founder.
• Generazione e UI: il modello che elabora la risposta, più l'interfaccia, le citazioni, i pulsanti di feedback e il logging.

I vendor che quotano un unico prezzo basso di solito stanno prezzando soltanto quest'ultima parte.

I fattori di costo, in ordine di impatto

1. Qualità e varietà dei documenti

Una cartella ordinata di file Word con titoli sensati è un lavoro di ingestion da una settimana. Dieci anni di contratti scansionati, policy in sei revisioni e tabelle che hanno senso solo visivamente richiedono un mese. OCR, estrazione di tabelle, deduplicazione e gestione delle versioni sono ingegneria poco glamour, ed è lì che si concentra la maggior parte del lavoro.

Chieda a qualsiasi vendor come gestisce un PDF scansionato con una tabella al suo interno. Se la risposta è vaga, si aspetti che l'assistente citi erroneamente con sicurezza il suo stesso listino prezzi.

2. Permessi

Se tutti in azienda possono vedere tutto, il retrieval è semplice. Se l'assistente non deve mai mostrare i documenti HR agli ingegneri, o il fascicolo di un cliente a un altro account manager, ogni query deve essere filtrata in base a chi la sta formulando. Ciò significa rispecchiare il controllo degli accessi del sistema sorgente nell'indice e mantenerlo sincronizzato quando i permessi cambiano.

Questa è la voce più sottovalutata nei progetti di assistente documentale. Abbiamo descritto i pattern in permission-aware RAG. La includa esplicitamente nel budget, perché aggiungerla in un secondo momento significa ricostruire l'indice da capo.

3. Dove gira

Tre opzioni realistiche, in ordine approssimativo di costo di sviluppo crescente e costo operativo decrescente:

• API cloud per il modello, database proprio per l'indice. La soluzione più rapida da mettere in produzione. I documenti vengono suddivisi in chunk e archiviati in qualcosa come PostgreSQL con pgvector, e il modello viene chiamato per ogni domanda. Il costo per query è contenuto ma non zero, e il testo viene inviato al provider.
• Infrastruttura cloud sotto il suo controllo, modello open-weight. Un'istanza GPU con un modello servito tramite Ollama o vLLM. I dati rimangono nel suo account. Si paga l'istanza indipendentemente dal numero di query ricevute.
• Completamente on-premises. Un server nel proprio rack o in un data center privato. Costo di setup più elevato, risposta migliore a un regolatore, e l'unica opzione per alcuni acquirenti in ambito healthcare e pubblico nel Golfo e nell'UE.

I trade-off sono descritti in dettaglio in self-hosting di un LLM vs API. In sintesi: se la compliance impone la scelta, la decisione è facile da prendere, e il costo è semplicemente il prezzo per operare nel proprio settore.

4. Requisiti di qualità delle risposte

Uno strumento per il team commerciale che cerca l'ultimo case study può tollerare qualche risposta imprecisa. Uno strumento usato dagli infermieri per verificare un protocollo clinico non può permetterselo. Più il criterio è rigoroso, più si spende in evaluation set, citazioni obbligatorie, guardrail che si rifiutano di rispondere quando il retrieval è debole e cicli di revisione umana.

La differenza di costo non è astratta. Per lo strumento commerciale, una risposta errata significa che qualcuno apre il PDF sbagliato e lo chiude. Per lo strumento clinico, ogni risposta necessita di una citazione all'esatta revisione del protocollo, di un percorso di rifiuto quando i passaggi recuperati non contengono effettivamente la risposta, e di un clinico che approva l'evaluation set prima del lancio. Quel solo ciclo di revisione può aggiungere più settimane di engineering dell'intero pilot commerciale.

Insista su un evaluation set fin dal primo giorno: domande reali da parte di collaboratori reali, con la risposta corretta e il documento sorgente corretto. Parta dalle dieci domande che il suo team pone più frequentemente e lo faccia crescere con il feedback raccolto attraverso i pulsanti nell'interfaccia. È l'unico modo onesto per sapere se una modifica ha migliorato o peggiorato l'assistente, ed è ciò su cui dovrebbe responsabilizzare un vendor.

Fasce di effort indicative

Le tratti come intervalli per una proposta circoscritta, non come un listino prezzi. Qualsiasi preventivo serio dovrebbe essere preceduto da un'analisi dei suoi documenti reali.

• Pilot, sorgente singola, nessun permesso, API cloud. Da una a due settimane di engineering. Utile per dimostrare l'idea a un board scettico.
• Produzione per un singolo dipartimento, permessi rispecchiati da un sistema, citazioni, raccolta feedback. Da tre a sei settimane.
• Aziendale, sorgenti multiple, controllo accessi stringente, modello self-hosted, audit log. Da due a quattro mesi, più manutenzione continuativa.

I costi operativi si declinano in tre categorie: utilizzo del modello o hosting GPU, re-indicizzazione all'aggiornamento dei documenti, e una persona responsabile dell'evaluation set e della qualità. Quest'ultima è quella che le aziende dimenticano, ed è il motivo per cui tanti pilot si degradano silenziosamente dopo il lancio.

Il ruolo del modello nel quadro generale

I founder spesso assumono che la scelta del modello sia la decisione costosa. Raramente lo è. I costi dei modelli continuano a scendere, e cambiare provider dietro uno strato di retrieval è un lavoro piccolo se il sistema è stato progettato per consentirlo.

Ciò che conta di più è il modo in cui il modello viene utilizzato. Nel nostro motore di outreach, che analizza il sito web di ogni prospect con un'istanza self-hosted di Firecrawl e un modello locale, abbiamo sperimentato catene multi-step che prima estraevano i fatti, poi pianificavano, poi redigevano. Una singola chiamata che estrae i fatti e scrive l'email in un unico passaggio si è rivelata sia più economica sia più efficace. La stessa lezione vale per gli assistenti documentali: una singola chiamata ben strutturata su passaggi ben recuperati batte nella maggior parte dei casi un elaborato loop agentivo. Ne abbiamo parlato in singola chiamata vs catene agentive.

La conseguenza pratica per il suo budget: investa in retrieval e preparazione dei documenti, non in framework di orchestrazione.

Costruire, acquistare o aspettare

Acquistare se i suoi documenti risiedono già in Microsoft 365 o Google Workspace, le regole di accesso coincidono con quelle delle piattaforme e non ha vincoli di residenza dei dati. Gli assistenti integrati sono sufficientemente validi per molti team e il prezzo è prevedibile. Li sottoponga allo stesso test che applicherebbe a un vendor: consegni loro il suo PDF scansionato più problematico con una tabella e verifichi se riporta correttamente i numeri.

Costruire se si verifica almeno una delle seguenti condizioni:

• I documenti sono distribuiti su sistemi che nessun vendor indicizza singolarmente, come un CRM, un drive condiviso e dieci anni di email.
• Le regole di accesso sono più complesse dei permessi sulle cartelle, come nel caso dell'account manager per cliente descritto sopra.
• I dati non possono lasciare la sua infrastruttura, o il regolatore vuole sapere esattamente dove si trovano. Questa è la posizione abituale per gli acquirenti in ambito healthcare e pubblico nel Golfo e nell'UE.
• Vuole l'assistente integrato nel suo prodotto o flusso di lavoro, piuttosto che in una finestra di chat separata.

Aspettare se non è in grado di elencare dieci domande che i suoi collaboratori pongono ripetutamente e a cui risponderebbe un documento. Senza quell'elenco, non ha un caso d'uso, ha una demo. Quelle stesse dieci domande diventano il nucleo del suo evaluation set: scriverle non costa nulla e le dice immediatamente se il progetto è reale.

Domande da porre a qualsiasi vendor

• Come gestirà i nostri PDF scansionati e le nostre tabelle? Può mostrarmi l'output su un campione?
• Come vengono applicati i permessi al momento della query, e cosa succede quando i diritti di accesso di qualcuno cambiano?
• Come si presenta l'evaluation set, e chi lo mantiene dopo il lancio?
• Quali componenti girano sulla nostra infrastruttura e quali chiamano un'API esterna?
• Quanto costa la re-indicizzazione se aggiungiamo mille documenti al mese?
• Se l'anno prossimo cambiamo modello, cosa deve essere modificato?

Un vendor che risponde a tutte e sei in modo chiaro vale il suo prezzo. Uno che reindirizza la conversazione su quale modello utilizza le sta vendendo la parte economica.

Se sta valutando un assistente documentale per un team con forti vincoli di compliance e desidera una stima circoscritta basata sui suoi file reali anziché su una presentazione, parliamone.