Nel podcast Sources, il CEO di Qualcomm Cristiano Amon ha svelato una richiesta precisa da parte di alcune aziende leader nell'intelligenza artificiale: garantire entro il 2028 la capacità di eseguire su smartphone almeno un modello da 100 miliardi di parametri, in modo continuo e in background. Amon non ha fatto nomi, ma il riferimento agli hyperscaler che hanno investito miliardi nei datacenter è trasparente: Apple e Google difendono il loro fortino, mentre gli altri devono trovare il modo di mettere i loro modelli e agenti nelle tasche degli utenti.
La sfida della memoria
La soluzione più ovvia per gli operatori IA è realizzare dispositivi propri: smartphone veri e propri, ma anche unità AI da tasca a cui collegare smartwatch, auricolari o occhiali smart. Tuttavia, l'ostacolo tecnico è enorme. Un modello da 100 miliardi di parametri quantizzato a 4 bit occupa circa 50 GB di pesi, senza contare KV cache, sistema operativo e app. Oggi gli Snapdragon 8 Elite Gen 6 gestiscono al massimo 24 GB tra LPDDR5X e LPDDR6, supportando modelli fino a 30 miliardi di parametri. E la tendenza è addirittura al ribasso: si torna a 8 GB di RAM dopo aver toccato i 16 GB sui modelli di punta.
Per far girare un modello da 100 miliardi di parametri servirebbe un telefono con 64 GB di RAM o più. Produrlo richiederebbe quantità di DRAM che i produttori faticano già a procurarsi, con costi che renderebbero l'apparecchio invendibile. A ciò si aggiunge il problema dell'autonomia: un modello così grande in esecuzione continua in background consumerebbe la batteria in modo insostenibile, e l'autonomia è la priorità numero uno per chi acquista uno smartphone.
Il mercato e la scommessa di Qualcomm
Per Amon, l'AI sarà il prossimo motore di sostituzione degli smartphone. In un mercato dove la fascia entry è ormai solo di rimpiazzo – si compra un nuovo telefono solo se il vecchio si rompe, spendendo poco – la fascia alta continua a pesare, perché chi può permetterselo vuole sempre l'ultimo modello. Questa dinamica favorisce la tesi di Qualcomm: le funzioni che richiedono tanta memoria spingono i produttori verso dispositivi sempre più costosi. Resta però da capire se gli utenti che cambiano telefono ogni anno lo facciano per desiderio del nuovo o per reale interesse verso funzionalità extra. La prima ipotesi sembra più probabile.
