Usare ChatGPT e Claude per qualsiasi attività aziendale può rivelarsi uno spreco economico. È l'avvertimento lanciato da Gartner, che analizza il caso delle imprese impegnate a smistare le richieste dei clienti: un lavoro semplice e ripetitivo, che però finisce per mobilitare i modelli più potenti e costosi sul mercato. Quando l'operazione si ripete migliaia o milioni di volte, la bolletta cresce in modo insostenibile.
Il messaggio dell'analista è netto: le aziende dovrebbero smettere di affidare ogni compito all'AI più avanzata e distribuire il lavoro in base alle capacità realmente necessarie. Gran parte della giornata di un agente software è fatta di mansioni da impiegato di concetto, come classificare un'informazione, richiamare un programma o incrociare due elenchi di dati. Per queste attività, secondo Gartner, i modelli a pesi aperti offrono risultati del tutto paragonabili a quelli dei modelli proprietari.
Quanto si risparmia davvero
I numeri fanno gola, ma vanno letti con cautela. A parità di punteggio, il costo scenderebbe a un quarto rispetto al modello chiuso più economico; se il confronto è con un modello di punta usato sempre e comunque, il vantaggio può arrivare a venti volte. Sono però le condizioni migliori possibili, quelle da brochure: i modelli aperti tendono a scrivere di più e a ritentare più volte prima di centrare l'obiettivo, e ogni tentativo consuma risorse.
Fatti i conti con queste chiacchiere extra, il costo per singola operazione scende comunque di cinque o sei volte rispetto al modello di frontiera. Meno spettacolare, certo, ma se la stessa operazione gira senza sosta giorno e notte la differenza resta enorme. C'è poi un argomento meno ovvio, forse il più interessante: la memoria. Ogni decisione presa da un agente, ogni strumento toccato e ogni risultato ottenuto compongono un diario di bordo che, per Gartner, è a tutti gli effetti un patrimonio aziendale.
Il tesoro nascosto nei log
Il motivo è concreto: quando qualcuno acquista una software house, quel registro permette di capire come viene usato il servizio e come ragionano i suoi agenti. Chi lo custodisce gelosamente conserva un sapere che, al momento della vendita, può pesare sul prezzo; chi lo lascia in giro regala il tesoro insieme al biglietto da visita. Attenzione però al trabocchetto: avere accesso ai pesi di un modello non garantisce che i dati restino entro i confini aziendali, perché molti modelli aperti vengono offerti via API e il diario di bordo viaggia fuori porta.
Il quadro che Gartner disegna per i prossimi anni è chiaro: entro il 2030 i modelli aperti specializzati avranno un ruolo dominante, occupandosi dei passaggi stabili e ripetitivi eseguiti milioni di volte al mese. Ai modelli più costosi e brillanti resterebbe il compito di farsi chiamare solo quando serve davvero.
