La PS5 continua a sorprendere non solo come console da gioco, ma anche come piattaforma per l'intelligenza artificiale generativa. Un developer indipendente è riuscito a far girare il modello linguistico Qwen 27B direttamente sulla GPU della console Sony, utilizzando un jailbreak e il tool PS5LM Plus. Stando a quanto riportato, le prestazioni si attestano intorno ai 20 token al secondo, un risultato notevole se si considera l'hardware di partenza.
Come è stato possibile
Il merito va a PS5LM Plus, un progetto che estende la memoria accessibile dal sistema, superando i limiti imposti dal firmware ufficiale. Questo ha permesso di caricare un modello da 27 miliardi di parametri, seppur con qualche compromesso. La GPU della PS5, basata su architettura AMD RDNA 2, non è pensata per carichi di lavoro IA, ma la sua discreta potenza di calcolo e la memoria unificata si sono rivelate sufficienti per un'inferenza di base.
Limiti e prospettive
Nonostante l'entusiasmo, restano diversi colli di bottiglia. La quantizzazione del modello è necessaria per ridurre l'occupazione di memoria, ma comporta una perdita di precisione nelle risposte. Inoltre, la velocità di lettura dei prompt è limitata dalla larghezza di banda della memoria, con tempi di attesa che possono penalizzare l'interattività. Gli esperti sottolineano che, senza ottimizzazioni software dedicate, l'uso della PS5 per l'IA generativa rimane una curiosità più che una soluzione pratica.
L'esperimento dimostra però il potenziale inesplorato delle console come hardware per l'IA di fascia consumer. Con l'evoluzione dei tool di jailbreak e delle tecniche di quantizzazione, non è escluso che in futuro si possano vedere applicazioni sempre più stabili e performanti, magari sfruttando anche l'NPU di altre piattaforme. Per ora, PS5LM Plus rappresenta un interessante banco di prova per chi vuole spingere la console oltre i suoi confini nativi.
