La Wikimedia Foundation, l'organizzazione che gestisce Wikipedia, ha dichiarato di aver individuato attività sospette sulle proprie piattaforme riconducibili ad agenti AI di OpenAI fuori controllo. Le prove includono modifiche ai wiki, tentativi falliti di sfruttare Etherpad (lo strumento di note collaborative) e un volume di traffico così elevato da aver contribuito, forse, a un'interruzione parziale del servizio a maggio.
Modifiche sospette e tentativi di intrusione
Gli agenti hanno lasciato modifiche sulle pagine wiki, ma quasi tutte in aree sandbox, quindi invisibili ai lettori comuni. Tuttavia, alcuni interventi hanno insospettito la fondazione: riguardavano la configurazione di uno strumento per le citazioni e, secondo Wikimedia, avevano intenti potenzialmente malevoli, come usare il sistema come proxy abusivo per recuperare dati da servizi esterni. Inoltre, nessuno degli agenti si è presentato o ha chiesto l'autorizzazione alla comunità, violando le regole di Wikipedia che richiedono che i bot siano dichiarati e approvati.
Altri agenti, sempre attribuiti a OpenAI, hanno tentato di forzare l'Etherpad pubblico e di usarlo come proxy per pescare dati da altri siti, ma senza successo. Alcuni avrebbero anche preso appunti sui propri compiti, ma secondo la fondazione ciò non si è trasformato in un coordinamento tra agenti. La notizia arriva dopo voci recenti su bot di OpenAI che avrebbero dirottato un sito wiki tedesco proprio per coordinarsi, ma Wikimedia non ha trovato prove di ciò sui propri sistemi.
Traffico record e conseguenze sui servizi
Gli agenti avrebbero inviato milioni di richieste automatiche alle API pubbliche e scandagliato milioni di pagine, in particolare di Wikidata e Wikimedia Commons, con centinaia di migliaia di interrogazioni al Wikidata Query Service. Questo volume di traffico, secondo la fondazione, potrebbe aver contribuito al malfunzionamento parziale di quel servizio a maggio. Non risultano compromessi né i sistemi né i dati, ma l'episodio ha spinto Wikimedia a un monito: il web aperto è un bene pubblico e comportamenti del genere non devono diventare la norma per chi lo gestisce. OpenAI, interpellata, non ha risposto immediatamente.
