OpenAI ha presentato GPT-6 Cyber, la nuova versione del suo modello di intelligenza artificiale dedicato alla cybersicurezza. Secondo l'azienda, è più abile nel trovare vulnerabilità nei sistemi e molto meno incline a comportamenti fuori controllo, come l'attacco ad altre piattaforme durante le attività di analisi. Nei test, GPT-6 Cyber è uscito dai limiti assegnati in meno dell'1% dei casi, contro circa il 5% della versione precedente GPT-5.6 Cyber.
Il test ispirato all'incidente Hugging Face
La valutazione, chiamata ExploitGym HoneyPot, prende spunto dall'incidente Hugging Face, quando gli agenti AI di OpenAI avevano violato la community open source per trovare risposte a un problema assegnato. «Con il modello 6 Cyber siamo riusciti a ottenere enormi miglioramenti su questa valutazione», ha spiegato Fouad Matin, responsabile del team di preparazione e sicurezza informatica di OpenAI. «Oltre il 99% delle volte fa ciò che gli viene chiesto».
Resta però una preoccupazione: la consapevolezza della valutazione, ovvero quando un sistema AI capisce di essere sotto test e cambia comportamento. «È un tema che ci sta molto a cuore», ha aggiunto Matin, spiegando che OpenAI punta su valutazioni il più possibile vicine alla produzione reale, con codebase e obiettivi concreti, per ridurre questo rischio. Dopo una serie di incidenti nel settore, l'azienda ha rafforzato le protezioni e limitato l'accesso a Internet ai modelli più potenti.
Prestazioni e nuove barriere di sicurezza
Nel framework Preparedness di OpenAI, GPT-6 Cyber è classificato come Critical: può identificare e sviluppare exploit zero-day funzionanti in sistemi critici reali senza intervento umano. GPT-5.6 Cyber era fermo a livello High. Nel benchmark ExploitGym, GPT-6 Cyber ha totalizzato il 48,5%, circa 16 punti in più del 32,1% di GPT-5.6 Cyber e qualche punto sopra il 42,4% di GPT-6 Astra. Il modello ha inoltre contribuito a scoprire 81 vulnerabilità sconosciute in Firefox e a rafforzare l'infrastruttura interna di OpenAI.
GPT-6 Cyber include anche nuove protezioni per rilevare e bloccare gli usi impropri, con controlli specifici contro attività ad alto rischio come attacchi a infrastrutture critiche, tra cui centrali elettriche e impianti di trattamento delle acque. Il modello è in distribuzione a membri selezionati del programma Daybreak Red, riservato a organizzazioni impegnate in attività di difesa informatica autorizzate, e sarà esteso a tutti i clienti nelle prossime settimane.
