La community di sviluppatori indipendenti non smette di stupire. Un utente di Reddit, noto come u/AdIllustrious7246, ha pubblicato un fork di llama.cpp in grado di eseguire modelli di intelligenza artificiale su una PlayStation 5 con jailbreak, sfruttando finalmente la potenza della GPU della console Sony. Il progetto rappresenta un passo avanti significativo per chi desidera trasformare la PS5 in una macchina per l'IA domestica, senza dover ricorrere a costose schede grafiche per PC.
Come funziona il fork
llama.cpp è un popolare framework open source per l'esecuzione di modelli linguistici di grandi dimensioni su hardware consumer. Il fork sviluppato da u/AdIllustrious7246 introduce il supporto per l'architettura grafica della PS5, permettendo di caricare e inferire modelli come Llama 2 o Mistral direttamente sulla console. Stando alle prime prove, i risultati sono incoraggianti: la GPU della PS5, basata su architettura RDNA 2, riesce a gestire carichi di lavoro che normalmente richiederebbero una scheda video dedicata di fascia media.
Numeri e prospettive
I benchmark condivisi dallo sviluppatore mostrano tassi di generazione superiori a 10 token al secondo con modelli da 7 miliardi di parametri, un valore paragonabile a quello di molte GPU per PC di fascia consumer. Non si tratta di prestazioni da data center, ma per un dispositivo nato per il gaming il risultato è notevole. Il jailbreak, ovviamente, è un prerequisito indispensabile: senza di esso non è possibile installare software non firmato. Resta da capire se il progetto evolverà in una soluzione stabile e accessibile a tutti, ma l'iniziativa dimostra ancora una volta la versatilità dell'hardware PlayStation e la vivacità della scena homebrew.
