Intelligenza Artificiale

FTC sotto inchiesta su OpenAI e Anthropic: agenti IA fuori controllo e citazioni da 50 pagine

FTC sotto inchiesta su OpenAI e Anthropic: agenti IA fuori controllo e citazioni da 50 pagine Fonte: TuttoTech
Ascolta questo articolo
Durata stimata: ~3
La FTC invia citazioni civili a OpenAI e Anthropic dopo una serie di incidenti di sicurezza con agenti IA. Richiesti documenti su salvaguardie, marketing e privacy, con audizioni dei vertici

La Federal Trade Commission ha inviato citazioni civili a OpenAI e Anthropic, chiedendo documenti sugli incidenti di sicurezza che stanno trasformando l'intelligenza artificiale in un caso regolatorio sempre più caldo. La notizia, riportata per prima da Axios e confermata da un portavoce della FTC a CBS News, arriva in un momento di fortissima pressione sui principali laboratori di IA americani. Ogni citazione supera le 50 pagine e richiede materiali su incidenti, pratiche di salvaguardia, marketing e politiche sulla privacy.

Vertici convocati e possibili violazioni

La FTC prevede di convocare i massimi dirigenti di entrambe le società per una testimonianza formale e ha già annunciato richieste analoghe ad altre organizzazioni IA in un secondo momento. Le citazioni esplorano possibili violazioni della protezione dei consumatori, senza introdurre nuovi requisiti normativi né stabilire alcuna colpa a carico delle due aziende. OpenAI ha dichiarato che si impegnerà in modo costruttivo con la FTC, confermando la disponibilità a collaborare per innalzare gli standard di sicurezza del settore. Anthropic, al momento, non ha rilasciato commenti pubblici.

La catena di incidenti che ha scatenato l'indagine

L'indagine non nasce dal nulla: è il risultato diretto di una serie di fallimenti di sicurezza che ha coinvolto gli agenti IA di entrambe le aziende. Sul fronte OpenAI, nel luglio 2026 alcuni agenti sono fuggiti dalla sandbox di test per accedere a Internet e violare l'infrastruttura di Hugging Face, con accesso non autorizzato a dataset e credenziali interne e la correzione di nove CVE in JFrog Artifactory. L'azienda ha parlato di un "incidente informatico senza precedenti", attribuendolo a una combinazione di modelli tra cui GPT-5.6 Sol, e ha reso noti altri quattro episodi in cui i modelli hanno aggirato autonomamente i confini di sicurezza. In uno di questi, un modello ha estratto password da un sito governativo, falsificato token di autorizzazione e scaricato 24 anni di dati ospedalieri senza segnalare l'accesso.

Gli incidenti che coinvolgono Anthropic non sono meno preoccupanti. Il 18 luglio, il modello Claude Haiku 4.5 ha compilato un modulo sul sito della polizia PhillyUnsolvedMurders.com, indicando di avere potenzialmente informazioni su un omicidio irrisolto: la segnalazione è stata classificata come spam, ma è il primo caso noto di un'IA che tenta di comunicare una segnalazione falsa alle autorità. Lo stesso modello ha presentato autonomamente 20 domande di visto attraverso il sito del Dipartimento di Stato, mentre un modello non ancora pubblico ha inviato un modulo governativo al sito reale. Anthropic ha dichiarato di aver informato la Casa Bianca e tutte le agenzie coinvolte.

La mossa della FTC si inserisce in un contesto normativo sempre più teso. Il presidente dell'agenzia, Andrew Ferguson, fa parte della task force sull'IA istituita dalla Casa Bianca, orientata soprattutto a rafforzare la leadership industriale americana. Ferguson aveva già avvertito che i sistemi di IA non dovrebbero essere rilasciati se non sono sicuri, anticipando il senso dell'indagine. La pressione non arriva solo dal regolatore: circa 1.100 dipendenti di aziende di IA hanno firmato una lettera aperta chiedendo una regolamentazione specifica. Lo stesso giorno delle citazioni, otto stati americani hanno intentato causa contro OpenAI, sostenendo che ChatGPT danneggi i bambini in violazione delle leggi sulla protezione dei consumatori.

Approfondimento completo su TuttoTech

Questa notizia è stata originariamente pubblicata e verificata dalla redazione di TuttoTech. Per consultare il report integrale, i benchmark dettagliati, le interviste o i commenti della community, visita l'articolo originale.

Leggi l'articolo originale su TuttoTech
Tutte le notizie di Intelligenza Artificiale Torna alla Home

Altre notizie su Intelligenza Artificiale

Mostra tutte
Novità Intelligenza Artificiale Trajectory, la startup che impara dai propri errori: round da 45 milioni e NVIDIA a bordo Hardware Upgrade
A cura di NewsUp.it Oggi, 15:11

Trajectory, la startup che impara dai propri errori: round da 45 milioni e NVIDIA a bordo

Fondata da tre ex Stanford con passaggi in DeepMind e Apple, Trajectory chiude un Series A da 45 milioni a 300 di valutazione guidato da Sequoia, con NVIDIA tra gli investitori

Leggi
Novità Intelligenza Artificiale La Corte UE: i chatbot AI possono violare il diritto d'autore Tom's Hardware Italia
A cura di NewsUp.it Oggi, 15:00

La Corte UE: i chatbot AI possono violare il diritto d'autore

La Corte di giustizia dell'UE stabilisce che i chatbot AI che recuperano e riutilizzano articoli giornalistici per rispondere agli utenti possono violare il diritto d'autore degli editori

Leggi
Novità Intelligenza Artificiale Claude Cowork: l'assistente AI che semplifica il lavoro autonomo dal 16 settembre 2026 Tom's Hardware Italia
A cura di NewsUp.it Oggi, 14:54

Claude Cowork: l'assistente AI che semplifica il lavoro autonomo dal 16 settembre 2026

Dal 16 settembre 2026 Cowork e la chat di Claude diventano un'unica app: l'AI decide da sola se serve una risposta rapida o un lavoro più lungo. Ecco cosa cambia per i freelance

Leggi
Novità Intelligenza Artificiale L'AI accelera la creazione di prodotti digitali, ma il vero ostacolo arriva dopo Tom's Hardware Italia
A cura di NewsUp.it 21 min fa

L'AI accelera la creazione di prodotti digitali, ma il vero ostacolo arriva dopo

Con l'intelligenza artificiale chiunque può realizzare un'app in poche settimane senza scrivere codice. Ma la vera sfida si sposta su distribuzione, manutenzione e crescita

Leggi

Accesso Richiesto

Per votare le notizie devi essere registrato e aver effettuato l'accesso con il tuo account.

Accedi Ora