Apple ha aggiornato le proprie linee guida per l'App Store introducendo un divieto più esplicito contro le cosiddette app 'nudify', ovvero quei software che utilizzano l'intelligenza artificiale per generare immagini intime di persone senza il loro consenso. La modifica arriva dopo mesi di critiche rivolte all'azienda di Cupertino per non aver rimosso tempestivamente alcune applicazioni coinvolte in casi di deepfake sessuali non consensuali, compresi quelli che hanno visto protagonisti minori.
Le nuove regole e le responsabilità degli sviluppatori
Secondo quanto annunciato venerdì, Apple richiede ora agli sviluppatori di prevenire e rimuovere proattivamente i contenuti sessuali non consensuali come parte dei requisiti di moderazione. Chi non implementa salvaguardie adeguate o non correggie le violazioni dopo una notifica rischia la rimozione dall'App Store. Inoltre, viene chiarita la regola che vieta le app 'bait-and-switch', cioè quelle che aggiungono o modificano funzionalità, inclusa la nudificazione, dopo essere state approvate.
Il contesto delle critiche e le richieste di rimozione
La stretta di Apple segue le polemiche scatenate all'inizio dell'anno quando alcuni utenti di X hanno utilizzato Grok, l'AI di xAI, per creare deepfake sessualizzati non consensuali, anche di minorenni. Nonostante le pressioni, Apple non ha rimosso né X né Grok dal suo store, ma ha riferito al Senato americano di aver minacciato di farlo. Durante il WWDC di giugno, i manifestanti hanno chiesto ad Apple di eliminare Grok, X e tutte le tecnologie di nudificazione. A luglio, un avvocato della città di San Francisco ha ordinato ad Apple di rimuovere 13 app 'nudify', e l'azienda ha dichiarato di aver ottemperato.
Le nuove linee guida specificano anche che le app che favoriscono la tratta di esseri umani o lo sfruttamento dei minori saranno rimosse dall'App Store e bloccate da qualsiasi distribuzione alternativa. Una mossa che segna un ulteriore passo verso una moderazione più rigorosa dei contenuti generati dall'IA e delle potenziali violazioni della privacy.
