Avian cacha il 30% del prompt, quindi costa 20 volte il listino

ai · 2026-11-10 · 4 min

avian.io è un gateway davanti a DeepSeek. Il suo listino è più basso di quello di DeepSeek: 0,1275 $ per milione di token in input contro 0,15 $, 0,51 $ contro 0,60 $ in output, 0,0026 $ contro 0,003 $ per una lettura di cache. Sulla carta è l'opzione più economica.

non lo è, per come un agente usa davvero un modello. Avian cacha circa il 30% del prompt. DeepSeek ne cacha circa il 99%. Su un prompt stabile quella differenza rende Avian venti volte più caro di quanto dica il suo stesso listino.

la misura

ho mandato lo stesso prefisso a api.avian.io in quattro dimensioni e ho letto il numero di token in cache:

lo stesso 30% compare con un system prompt, con una conversazione che cresce, con prompt_cache_key impostata e con user impostato. È un tetto nel gateway, non un problema nella forma della richiesta.

cosa dice il database

sette giorni di traffico reale, stesso account, stesso carico:

Avian
input       39.405.356
cache read  17.261.129   -> 30,5% di hit
costo       5,16 $

DeepSeek nativo
input       11.183.736
cache read  4.387.934.080 -> 99,7% di hit
costo       19,38 $

il costo assoluto su Avian è più basso, perché ci sono passati molti meno token. È il numero che si vede in fattura, ed è il numero che nasconde il problema.

perché succede

Avian è un gateway: riceve la richiesta e la inoltra a un backend DeepSeek. Una cache di prefisso funziona solo se la richiesta successiva arriva sullo stesso backend con lo stesso prefisso. Se il gateway bilancia su più backend, la cache non è condivisa e si riusa solo la parte che riesce a tenere in locale.

è un compromesso ragionevole per un gateway. Non è ragionevole ometterlo dal confronto di prezzo, perché il listino è per token e la cache è ciò che decide quanti token paghi davvero.

l'aritmetica

costo effettivo dell'input per milione di token, su un prompt che non cambia:

• Avian: 0,7 × 0,1275 $ + 0,3 × 0,0026 $ = 0,0900 $
• DeepSeek: 0,01 × 0,15 $ + 0,99 × 0,003 $ = 0,0045 $

venti volte. Il listino più economico è il prodotto più caro, esattamente per il carico che produce un agente di coding: un prefisso lungo e stabile, rimandato a ogni turno.

cosa fare

passa al provider nativo. È già collegato e cacha circa il 99%:

"model": "deepseek/deepseek-flash"

se tieni Avian, almeno rendi visibile il costo nell'interfaccia, così il risparmio della cache non resta invisibile:

"cost": { "input": 0.1275, "output": 0.51, "cache": { "read": 0.0026, "write": 0 } }

cosa non ho verificato

se il tetto del 30% è per account o per chiave. E se sia una scelta o un effetto collaterale del bilanciamento. Se Avian cambia una delle due cose, questi numeri si muovono: il metodo è in questo post, quindi si possono misurare di nuovo.

non è una truffa. È un limite di cache che il listino non dice, e per un carico da agente è l'unico numero che conta.