Fastweb + Vodafone ha annunciato un ulteriore potenziamento del proprio supercomputer NVIDIA, con l'aggiunta di nuovi apparati NVL8 B300 nelle prossime settimane. L'obiettivo è aumentare la capacità di calcolo dedicata ai servizi di intelligenza artificiale per aziende e pubbliche amministrazioni, all'interno di un'infrastruttura sviluppata in Italia che ospita anche i dati utilizzati dai modelli. Un passo deciso verso quella che viene definita AI sovrana, ovvero la capacità di gestire l'intera filiera dell'intelligenza artificiale sul territorio nazionale.
Non solo hardware: l'integrazione software
Il progetto coinvolge anche la componente software. L'azienda ha integrato diversi strumenti NVIDIA per lavorare sui modelli AI anche dopo l'addestramento, verificandone le prestazioni e migliorandone il funzionamento. Tra questi spicca NVIDIA NIM, che fornisce microservizi per eseguire modelli open sulle infrastrutture aziendali, gestendo l'inferenza e bilanciando il carico di lavoro. Per misurare le performance viene utilizzato NVIDIA GenAI-Perf, che consente di individuare margini di ottimizzazione prima del deploy in produzione. Inoltre, per le attività di training e fine-tuning sono state introdotte NVIDIA NeMo RL e NeMo Gym, librerie open source che permettono di intervenire su capacità specifiche come la programmazione e il function calling, fondamentali per gli agenti AI.
Verso un ecosistema AI italiano
Fastweb + Vodafone sta sperimentando anche tecniche di distillazione dei modelli, trasferendo parte delle capacità di sistemi AI di grandi dimensioni a versioni più piccole e meno assetate di risorse computazionali, mantenendo le funzionalità necessarie per applicazioni specifiche. Su questa infrastruttura si basano anche lo sviluppo di MIIA, il modello linguistico nativo italiano, e di ROSS, l'assistente AI agentico realizzato da NextMindLab, spin-off dedicato alla ricerca e sviluppo nel settore. Entrambi utilizzano modelli open, adattabili alle caratteristiche della lingua italiana e alle esigenze delle imprese. La scelta di modelli aperti consente all'azienda di intervenire direttamente sul funzionamento senza dipendere esclusivamente da servizi esterni, con sistemi sviluppati e gestiti attraverso un'infrastruttura che comprende il supercomputer NVIDIA, le piattaforme cloud e i servizi di cybersecurity, con dati e risorse ospitati sul territorio nazionale.
