Un iPhone può trasformarsi in un vero e proprio acceleratore AI per un MacBook. È quanto dimostrato da uno sviluppatore che ha collegato un iPhone 17 Pro Max a un MacBook Pro con M4 Pro tramite USB-C, distribuendo tra i due dispositivi l'esecuzione del modello Qwen3.8-27B e ottenendo fino al 44% di prestazioni in più nella fase di prefill.
Come funziona la divisione del lavoro
Il collo di bottiglia iniziale è la memoria: il MacBook Pro dispone di 24 GB di memoria unificata, sufficienti per eseguire il modello ma limitanti con contesti estesi. Anche assegnando oltre 20 GB, la context window resta bloccata a 64K. La soluzione ideata dall'utente Reddit StayLameBro consiste nel dividere il carico: durante il prefill, il Mac elabora i layer da 1 a 40 di ogni blocco da 256 token e invia le attivazioni allo smartphone. L'iPhone 17 Pro Max gestisce i layer da 41 a 64 sulla GPU del chip A19 Pro, mentre il Mac può già iniziare il blocco successivo.
I numeri del test
Secondo i risultati pubblicati, la GPU dell'iPhone rende questa fase circa 2,4 volte più veloce rispetto a un'esecuzione senza accelerazione. Anche il Neural Engine gioca un ruolo chiave: ogni 16K di contesto precedente viene compilato in un modello dedicato, riducendo il tempo per token con contesto da 140K da 279 a 176 millisecondi. I miglioramenti nel prefill sono evidenti: con un file da 2mila token, a 8K di contesto si passa da 132 a 177 token al secondo (+35%); a 16K da 109 a 157 token/s (+44%); a 32K da 101 a 130 token/s (+29%).
