Apple ha deciso di intervenire in modo deciso contro la diffusione dei deepfake a sfondo sessuale. Le nuove linee guida dell'App Store, in particolare la sezione 1.2, impongono agli sviluppatori di adottare misure preventive per impedire la condivisione di immagini intime non consensuali, comprese quelle generate artificialmente. Non solo: le app dovranno rimuovere tempestivamente i contenuti illeciti segnalati. Chi non si adegua rischia la rimozione dallo store, nei casi più gravi anche senza preavviso.
Un fenomeno in crescita
La decisione di Cupertino arriva in un momento in cui i deepfake intimi stanno diventando un problema sempre più diffuso. Grazie ai progressi dell'intelligenza artificiale generativa, è oggi possibile creare foto e video estremamente realistici di persone nude senza che queste abbiano mai acconsentito. Il tutto spesso reso accessibile da applicazioni di facile utilizzo, che aggirano i controlli e permettono a chiunque di generare contenuti dannosi. Apple vuole arginare questa deriva rendendo le piattaforme maggiormente responsabili.
Cosa cambia per gli sviluppatori
Le nuove regole non si limitano a vietare la creazione di deepfake, ma richiedono un impegno attivo nella moderazione. Gli sviluppatori dovranno implementare sistemi di prevenzione e rimozione rapida dei contenuti non consensuali. La violazione delle linee guida comporterà sanzioni che vanno dalla semplice notifica fino all'espulsione dall'App Store. Una stretta significativa, che mira a tutelare gli utenti e a scoraggiare comportamenti illeciti. La speranza è che altri colossi del settore seguano l'esempio, per un ecosistema digitale più sicuro e rispettoso della privacy.
