NVIDIA ha deciso di aprire le porte del suo nuovo modello di riconoscimento vocale: Nemotron 3.5 Transcribe è ora disponibile pubblicamente e promette di rivoluzionare il modo in cui elaboriamo l'audio. Il nome dice molto: si tratta di un sistema capace di trascrivere, tradurre, distinguere i parlanti e persino rispondere a domande sul contenuto di una registrazione. Il tutto in 40 lingue diverse e con una finestra operativa che arriva fino a un'ora di audio per singola elaborazione.
Potenza e leggerezza: 34 miliardi di parametri su una GPU
Il dato che fa riflettere è l'architettura: il modello completo pesa 34 miliardi di parametri, ma grazie a un design a esperti sparsi (MoE) ne attiva solo 4,3 miliardi per ogni token generato. Questo gli consente di girare su una singola GPU, un traguardo non banale per un sistema di questa complessità. Le ottimizzazioni più spinte, però, restano per ora appannaggio del formato NIM (NVIDIA Inference Microservice), il che significa che chi vuole il massimo delle performance deve passare dall'ecosistema proprietario dell'azienda.
Elaborazione offline, non in tempo reale
È importante chiarire un limite: Nemotron 3.5 Transcribe lavora esclusivamente su registrazioni già esistenti, non su flussi audio in diretta. Niente trascrizione live, quindi, ma un tool pensato per post-produzione, analisi di meeting, sottotitolaggio e archiviazione intelligente. La capacità di distinguere i parlanti e di rispondere a domande rende il modello particolarmente adatto a contesti aziendali e di ricerca, dove serve estrarre informazioni strutturate da lunghe conversazioni.
Con questa apertura, NVIDIA conferma la sua strategia: democratizzare l'accesso a modelli potenti ma efficienti, mantenendo al contempo un vantaggio competitivo sulle ottimizzazioni hardware-software. Per sviluppatori e aziende, Nemotron 3.5 Transcribe rappresenta un'opzione concreta per chi vuole elaborare audio multilingue senza infrastrutture enormi, ma dovrà fare i conti con l'assenza di funzionalità in tempo reale e con la dipendenza dall'ecosistema NIM per le configurazioni più avanzate.