Cloud waste e inferenza AI: la nuova frontiera dell’ottimizzazione dei costi del cloud

Il cloud ha cambiato il modo in cui le aziende acquistano e consumano risorse IT, ma proprio la possibilità di attivare rapidamente capacità e scalarle quando serve porta a una conseguenza inevitabile: non tutto ciò che viene acquistato viene sfruttato in modo efficiente.

Da qui nasce il tema del cloud waste, da anni al centro delle strategie di ottimizzazione e delle pratiche FinOps. Nel 2026 il problema è certamente più conosciuto e gestito rispetto al passato, ma tutt'altro che risolto; anzi, il passaggio dell'AI dalla sperimentazione alla produzione sta introducendo nuove variabili di costo e nuove complessità da governare. Vediamo come.

Key points

• Il cloud waste è la spesa cloud che non genera un utilizzo proporzionato al costo. Può derivare da overprovisioning o modelli di acquisto poco adatti al profilo reale dei workload.
• Il fenomeno è in crescita e l'AI introduce ulteriori elementi di complessità. Training, inferenza e sistemi agentici rendono più difficile prevedere correttamente i consumi.
• L'ottimizzazione deve partire dall'architettura della soluzione. Dimensionamento, modalità di inferenza, autoscaling, utilizzo delle risorse e modelli di consumo sono elementi decisivi.

Cloud waste al 29% nel 2026: ma cosa significa davvero?

Secondo il Flexera State of the Cloud 2026, il 29% della spesa IaaS e PaaS delle organizzazioni viene sprecata.

Prima di interpretare il dato, però, conviene chiarire cosa rientra davvero nel concetto di cloud waste. Non parliamo, infatti, solo di macchine virtuali dimenticate accese o di storage che nessuno utilizza. Lo spreco può nascere, per esempio, da:

• risorse sovradimensionate rispetto al carico effettivo;
• servizi duplicati;
• ambienti di test che restano attivi oltre il necessario;
• risorse idle o inutilizzate che continuano a generare costi;
• modelli di acquisto poco convenienti rispetto alle reali esigenze dei workload.

L'overprovisioning, fenomeno noto da ben prima del cloud, resta una delle manifestazioni più evidenti. Il 2026 State of Kubernetes Optimization Report di CAST AI rileva, sui cluster analizzati, un utilizzo medio della CPU dell'8% e della memoria del 20%, mentre l'overprovisioning della CPU è salito al 69%. Una dinamica simile emerge anche dallo State of Cloud Cost di Datadog, secondo cui una quota molto consistente dei costi dei container (più dell'80%) è associata a risorse idle o richieste di capacità superiori all'utilizzo effettivo.

Va sottolineato come una parte della capacità in eccesso abbia una funzione precisa: assorbire picchi, garantire performance, mantenere margini di sicurezza o consentire all'autoscaling di reagire rapidamente. Non tutto il divario tra capacità acquistata e utilizzata è dunque uno spreco; il problema nasce quando quel margine non è intenzionale, misurato e giustificato dal valore che produce.

Il 29% di cloud waste riportato in apertura va dunque interpretato come la somma di fattori fisiologici e di molte forme diverse di inefficienza, che possono riguardare provisioning, utilizzo reale e modalità di acquisto.

La stretta relazione tra AI e spreco di risorse

La corsa all'AI aggiunge un nuovo livello di complessità alla gestione dei costi cloud. Non tanto perché l'AI sia inefficiente, ma perché introduce workload variabili, infrastrutture costose e consumi molto difficili da prevedere.

Il primo elemento è la capacità necessaria. Gartner stima che nel 2026 la spesa mondiale per AI-optimized IaaS crescerà del 96,4%, trainata sia dal training che dall'inferenza. È soprattutto quest'ultima a cambiare il quadro: il training è concentrato in fasi definite, mentre l'inferenza genera consumo ogni volta che un modello viene utilizzato in produzione. Più utenti, richieste, agenti e automazioni significano quindi più utilizzo continuo di capacità cloud.

Per garantire prestazioni e tempi di risposta, le aziende possono acquisire più capacità GPU del necessario, scegliere istanze sovradimensionate o mantenere risorse disponibili anche quando il livello di utilizzo non le giustifica.

Come contenere il cloud waste nell'era dell'AI

Con l'AI, la visibilità sulla spesa e il monitoraggio dei consumi non bastano. Il vero salto di qualità consiste nel progettare i workload in modo che usino capacità costosa solo quando serve.

L'ottimizzazione va dunque spostata dentro le scelte architetturali: modalità di inferenza, sizing delle istanze, autoscaling, batching delle richieste, scelta dei modelli e gestione intelligente delle pipeline dati. Progettare sistemi complessi mettendo la sostenibilità economica in secondo piano può riservare spiacevoli sorprese.

Scegliere modalità di inferenza e capacità in base alla domanda reale

Non tutte le richieste AI hanno bisogno di essere gestite allo stesso modo. Alcune richiedono risposta in tempo reale e bassa latenza; altre possono essere elaborate in modalità asincrona o batch. Allo stesso modo, non tutti i workload giustificano risorse costantemente attive o modelli di frontiera.

1. La prima leva di ottimizzazione consiste quindi nel far coincidere modalità di inferenza, capacità attiva e profilo reale della domanda. Per workload intermittenti può avere senso adottare servizi capaci di scalare fino a zero quando non ci sono richieste; per elaborazioni differibili, attivare il compute solo quando parte il job.
   
2. Anche quando serve il real-time, dimensionare l'ambiente sul picco massimo teorico rischia di lasciare per lunghi periodi GPU e altre risorse sottoutilizzate. Autoscaling e capacity planning devono quindi basarsi su indicatori vicini al comportamento effettivo del workload, come richieste concorrenti, code, throughput e token elaborati.

Misurare il costo per unità di lavoro

Con l'AI, guardare soltanto alla spesa complessiva può essere fuorviante. Un aumento dei costi può infatti dipendere dal fatto che più utenti, applicazioni o processi stanno utilizzando il servizio: in questo caso spendere di più non significa essere meno efficienti.

Serve introdurre un nuovo elemento e ragionare in termini di costo per unità di lavoro. A seconda del caso d'uso, può essere il costo per richiesta elaborata, documento analizzato, conversazione gestita, ticket risolto o task completato.

È questo confronto che permette di capire se il workload sta scalando bene e costando il giusto. Se la spesa raddoppia perché raddoppiano anche le attività elaborate, l'efficienza può essere rimasta invariata. Se invece il costo cresce più velocemente del volume di lavoro prodotto, significa che qualcosa nell'architettura, nel modello utilizzato o nel consumo delle risorse sta diventando meno efficiente.

Costruire un modello di consumo sostenibile

Nel cloud il costo non dipende solo da quante risorse si usano, ma anche da come le si acquista. Tenere tutto on demand garantisce la massima flessibilità, ma può essere molto costoso quando una parte dei workload AI presenta un utilizzo sufficientemente stabile e prevedibile.

Qui entra in gioco la capacità di costruire un mix intelligente tra consumo elastico e commitment. La quota variabile, soggetta a picchi o difficile da prevedere, può restare on demand; quella più stabile può invece beneficiare di formule come Savings Plans, Reserved Instances, Committed Use Discounts o meccanismi equivalenti messi a disposizione dai provider.

Ottenere valore dall'AI senza perdere il controllo dei costi

In Kirey lavoriamo affinché la trasformazione digitale diventi una leva concreta di vantaggio competitivo, capace di generare valore nel tempo anche grazie alla sostenibilità economica dei progetti.

Con l'AI questo equilibrio diventa ancora più importante. È facile lasciarsi guidare dalle potenzialità della tecnologia e mettere in secondo piano l'ottimizzazione dei costi: vale per un singolo workload, ma ancora di più per architetture complesse e sistemi agentici, nei quali modelli, componenti e agenti interagiscono continuamente generando nuovi consumi di risorse cloud.

La nostra esperienza ci permette di affrontare il tema fin dalle scelte architetturali e progettuali, perché il costo di una soluzione AI non dipende soltanto dalle risorse acquistate e utilizzate, ma anche da come vengono dimensionate, orchestrate e integrate nella soluzione complessiva.

Contattaci per progettare insieme un percorso capace di coniugare innovazione, controllo e risultati di business.