La RTX 3090 continua a sorprendere. Nonostante l'arrivo sul mercato di schede di nuova generazione, la GPU da 24 GB di VRAM di NVIDIA si conferma un punto di riferimento per chi vuole eseguire modelli linguistici in locale senza spendere fortune. La conferma arriva dal repository syv-ai, che ha pubblicato i risultati di un test dedicato a Qwen3.8-27B, modello di punta della famiglia Qwen.
Numeri che contano
Secondo i dati riportati, la scheda riesce a spingere Qwen3.8-27B fino a 381 token al secondo grazie alla decodifica speculativa, una tecnica che accelera la generazione sfruttando un modello più piccolo per anticipare le previsioni del modello principale. Il dato però va letto con attenzione: quel picco si verifica solo quando la risposta cita direttamente il prompt fornito dall'utente, un caso particolare che gonfia la velocità misurata.
La chat reale vale 133 token/s
In una conversazione normale, senza scorciatoie, la RTX 3090 si assesta intorno ai 133 token al secondo. Un valore comunque notevole per un modello da 27 miliardi di parametri eseguito su hardware consumer, che rende l'esperienza fluida e reattiva anche in sessioni di chat prolungate. La differenza tra i due numeri evidenzia quanto la decodifica speculativa possa incidere sulle prestazioni percepite, ma anche quanto sia importante valutare i benchmark con spirito critico.
Il messaggio per la community è chiaro: chi possiede una RTX 3090 non ha motivo di correre ai ripari. Con 24 GB di VRAM e un ecosistema software sempre più ottimizzato, la scheda resta una base solida per l'inferenza locale di modelli di fascia alta, confermandosi un investimento ancora attuale nel panorama dell'AI desktop.
