La community di modder ha messo a segno un colpo importante per chi usa le schede GeForce per l'intelligenza artificiale. Strumenti open source come Ampere Unlock, Ada Lovelace Unlock e Turing Unlock sono riusciti a rimuovere la limitazione che NVIDIA impone al throughput dei Tensor Core sulle GeForce RTX delle generazioni Turing, Ampere e Ada Lovelace, ovvero i modelli RTX 2000, 3000 e 4000. I primi benchmark parlano di incrementi che arrivano fino al 100% in specifiche operazioni di calcolo.
La differenza tra GeForce e schede professionali
Il nodo della questione è la distinzione tra le schede consumer e le soluzioni professionali NVIDIA RTX. Pur condividendo architetture e risorse di calcolo, i modelli GeForce presentano limitazioni nella velocità di esecuzione di alcune istruzioni dei Tensor Core, particolarmente rilevanti nei calcoli matriciali usati dai modelli di AI. Le mod intervengono proprio su questo aspetto senza toccare fisicamente la scheda, senza sostituire il firmware VBIOS e senza modificare i driver ufficiali: i programmi agiscono sui registri di configurazione della GPU prima che il driver venga caricato, superando i limiti imposti.
Come funzionano e cosa aspettarsi
L'intervento sui registri non è permanente: le impostazioni vengono applicate durante l'inizializzazione e possono andare perse quando la GPU resta senza alimentazione. I risultati pubblicati mostrano miglioramenti significativi nella velocità di esecuzione di calcoli a bassa precisione, misurati in TFLOPS, cioè migliaia di miliardi di operazioni in virgola mobile al secondo. L'aumento però dipende dalla GPU e dal tipo di calcolo: non è corretto considerare il raddoppio delle prestazioni un risultato garantito in ogni scenario.
La maggiore potenza teorica non si traduce automaticamente in un miglioramento equivalente nelle applicazioni reali. Nei modelli linguistici di grandi dimensioni, per esempio, la fase iniziale di elaborazione del prompt può beneficiare dello sblocco, mentre la generazione dei token resta spesso limitata dalla larghezza di banda della memoria video. Anche alcuni carichi legati alla generazione di immagini possono trarre vantaggio, ma l'entità del guadagno varia in base al software e alle operazioni eseguite.
Per chi usa una GeForce per eseguire modelli AI in locale, la possibilità di sfruttare meglio l'hardware già disponibile è senza dubbio interessante. I giocatori, invece, non devono attendersi vantaggi diretti in termini di frame rate. Le soluzioni disponibili sono ancora in fase di sviluppo e si basano principalmente su Linux, anche se non mancano implementazioni sperimentali per Windows.
