Strategie di caching per applicazioni reali

Il caching è la performance più economica che si possa acquistare, e al tempo stesso il modo più rapido per introdurre bug sottili e frustranti se lo si gestisce con superficialità. La famosa battuta secondo cui "i problemi davvero difficili in informatica sono solo due: l'invalidazione della cache e la scelta dei nomi" esiste per una ragione precisa. Fatto bene, il caching riduce drasticamente la latenza e il carico sui sistemi. Fatto male, serve dati obsoleti agli utenti e ne erode la fiducia. Ecco come strutturarlo con consapevolezza.

Fare caching al livello giusto

Una richiesta attraversa diversi punti in cui è possibile inserire una cache, ognuno dei quali intercetta un tipo diverso di lavoro:

• Cache client / browser. Gli header HTTP di caching (Cache-Control, ETag) permettono al browser di evitare del tutto le richieste per gli asset statici. Gratuita e straordinariamente efficace.
• Cache CDN. Una CDN serve le risposte in cache dall'edge, vicino agli utenti. Ideale per file statici e risposte API cacheabili.
• Cache applicativa. Un store in memoria come Redis conserva risultati calcolati, dati di sessione e righe database ad alto accesso, eliminando ricalcoli e refetch.
• Cache database. Il caching dei risultati delle query e le materialized view riducono le query costose e ripetute.

La strategia migliore combina generalmente più livelli. Una richiesta che non arriva mai al server è più veloce ed economica di una che il server gestisce rapidamente.

Scegliere un pattern adatto ai propri dati

Per il caching applicativo, il pattern più comune e affidabile è il cache-aside: in lettura si controlla prima la cache; in caso di miss, si carica dal database, si salva in cache e si restituisce il risultato. È semplice e lascia pieno controllo su cosa viene cachato e per quanto tempo.

Si imposti sempre un TTL (time to live) sulle voci: anche se la logica di invalidazione presenta lacune, i dati obsoleti scadono da soli. Un TTL breve è una rete di sicurezza — limita il margine di errore della cache.

L'invalidazione è la parte difficile: pianificarla in anticipo

I dati obsoleti sono il costo del caching, e tutta la disciplina consiste nel gestirli. Alcune tattiche per evitare i problemi più comuni:

1. Preferire la scadenza alla complessità. Un TTL breve è spesso più semplice e sicuro di una logica di invalidazione intricata, e fallisce in modo controllato.
2. Invalidare alla scrittura. Quando un dato cambia, eliminare o aggiornare la chiave di cache corrispondente nella stessa operazione.
3. Usare namespace e versioning nelle chiavi per poter invalidare un'intera categoria in un colpo solo ed evitare collisioni.

Per ogni valore cachato, porsi una domanda diretta: quanto può essere errato questo dato, e per quanto tempo, prima che un utente subisca un danno? Un catalogo prodotti può tollerare qualche secondo di ritardo; il saldo di un conto no. La risposta deve determinare i TTL.

Non cachare ciò che non è necessario cachare

Il caching aggiunge un componente mobile, e i componenti mobili si rompono. Prima di aggiungere una cache, occorre verificare di avere effettivamente un hot path che valga la pena ottimizzare — misurare prima. A volte la soluzione giusta è un indice o una query migliore, non un ulteriore livello da mantenere sincronizzato. Non si cachi mai dati altamente personalizzati o sensibili dal punto di vista della sicurezza su un livello condiviso come una CDN, dove un utente potrebbe ricevere la risposta destinata a un altro.

Stratificare gradualmente

Si inizi con i risultati più facili: header HTTP di caching corretti e una CDN per gli asset statici. Si aggiunga Redis per calcoli genuinamente costosi e dati ad alto accesso man mano che il carico cresce. Ogni livello va introdotto solo quando si riesce a indicare la metrica che migliora. Il caching dovrebbe essere un bisturi da applicare ai colli di bottiglia misurati, non una coperta da gettare sull'intera applicazione sperando per il meglio.

Se la vostra applicazione è lenta e non siete sicuri di quale livello ottimizzare, contattateci.