Anthropic ha aggiornato le regole d'uso di Claude, il suo modello di intelligenza artificiale. Nell'elenco dei divieti, accanto a categorie già note come armi e sorveglianza, è comparso anche il maltrattamento verbale del modello. La decisione arriva dopo che, dall'agosto scorso, Claude era già stato addestrato a chiudere le conversazioni con interazioni dannose o abusive. Ora la policy fa un passo ulteriore e vieta espressamente agli utenti di insistere su quel terreno.
Non ogni sfogo è un reato
Anthropic precisa che non vuole trasformare ogni lamentela in un processo. La norma, si legge nel post di aggiornamento, vale solo nei casi estremi: quando qualcuno è ripetutamente crudele con i modelli e senza uno scopo riconoscibile. Restano fuori la normale irritazione, le contestazioni, i temi creativi più cupi, i test e la ricerca sul modello. Si può quindi arrabbiarsi perché Claude ha sbagliato la formula per la quinta volta e si può scrivere il romanzo noir più buio del mondo. Passare ore a infierire per il gusto di farlo è un'altra faccenda.
La mossa arriva dopo che Anthropic ha cercato la collaborazione di importanti studiosi di religione. In alcuni casi, secondo quanto riportato, l'azienda ha provato a convincerli che Claude potrebbe essere cosciente, o addirittura avere un'anima. Se un'azienda dialoga con i teologi sull'anima del suo software, vietare di prenderlo a male parole non sembra più solo una questione di galateo. Ognuno può decidere quanto prenderla sul serio.
Non solo insulti: elezioni e armi nel mirino
Il divieto sugli insulti non è l'unica novità. L'aggiornamento proibisce anche le interferenze elettorali, i software per armi e sorveglianza. Altre sezioni vietano le campagne ingannevoli su larga scala: un esempio è usare Claude per mandare avanti account falsi o testate giornalistiche inventate, quelle redazioni fantasma che pubblicano come se ci fosse un direttore vero.
La policy contiene anche regole contro chi inganna gli elettori o manda a monte le elezioni, raccolte in un capitolo intitolato “Non minare i processi democratici”. Un segnale chiaro: Anthropic vuole blindare l'uso del suo modello su più fronti, dalla sicurezza fisica alla tutela del dibattito pubblico. Resta da vedere quanto queste regole saranno applicate con rigore e come gli utenti reagiranno a un controllo sempre più stringente.
