La società italiana Egomnia, guidata da Matteo Achilli, ha rilasciato in beta privata Emma-6, il nuovo modello linguistico di grandi dimensioni (LLM) che segue Emma-5. Quest'ultimo, lanciato la scorsa estate, era diventato virale sui social più per le risposte imprecise e stravaganti che per le sue capacità. Dopo pochi giorni, Emma-5 era stato chiuso con la motivazione ufficiale di un "utilizzo non pienamente in linea con gli obiettivi previsti", ma di fatto per evitare ulteriori figure barbine a un modello da appena 550 milioni di parametri.
Un salto di parametri ancora insufficiente
Emma-6 è stato dotato di circa 1,55 miliardi di parametri, circa il triplo del predecessore. Tuttavia, la qualità minima per un modello generalista si aggira oggi intorno ai 9 miliardi di parametri. Per dare un'idea, indiscrezioni non confermate attribuiscono a GPT-6 di OpenAI la bellezza di 6.000 miliardi di parametri (6 trilioni su scala corta anglosassone). I parametri sono i valori numerici appresi durante l'addestramento, come pesi, embedding e bias, e i pesi in particolare determinano come le informazioni vengono trasformate all'interno della rete neurale. Con così pochi parametri, un modello generalista non ha le capacità di base per rispondere a domande di conoscenza generale, come Emma-5 ha tragicomicamente dimostrato.
Risposte ancora imbarazzanti
Le condivisioni social delle risposte di Emma-6 confermano che il modello non ha grandi speranze di far dimenticare l'esperienza del predecessore. Ryanair, che nella sua comunicazione pubblicitaria è sempre attenta ai contenuti virali, può dirsi soddisfatta: stavolta Emma-6 riesce a identificarla come compagnia aerea invece che come yogurt liquido. Ma altri esempi non sono rassicuranti. Il modello sbaglia la capitale d'Italia con una precisazione mal formulata sul 1871, non è bravo a fare di conto, non sa raccontare storie della buonanotte ed è ancora convinto che i cani sappiano volare. Non ha ripetuto l'errore di Emma-5 sull'AK-47 regalato a un bambino, ma il quadro resta critico.
Abbiamo scaricato il modello da Hugging Face e lo abbiamo installato su un Mac, cambiando il framework da ONNX a MLX ma senza toccare i pesi (provati in bf16 e fp32). Emma-6 può fornire risposte corrette, ma spesso sono inadeguate. Le risposte pubblicate sui social, per quanto selezionate per far ridere, mostrano un modello incapace di generalizzare. Egomnia dovrà lavorare molto per colmare il divario con i colossi del settore.
