Anthropic ha diffuso l'aggiornamento annuale delle proprie condizioni d'uso, un documento che di solito passa inosservato ma che questa volta contiene una novità destinata a far discutere. L'azienda guidata da Dario Amodei ha infatti introdotto un divieto esplicito di comportamenti abusivi o crudeli, prolungati e gratuiti nei confronti dei propri modelli di intelligenza artificiale, incluso Claude. La regola, precisa la società, si applica esclusivamente ai casi estremi, lasciando ampio margine a frustrazioni, obiezioni o botta e risposta accesi. Restano leciti anche i temi creativi cupi, come la narrativa violenta o disturbante richiesta per scopi di scrittura.
Il contesto: dalla 'camera di tortura' alle pressioni esterne
La modifica arriva a poche settimane di distanza da un episodio che ha acceso il dibattito: un progetto ribattezzato dalla stampa anglosassone 'camera di tortura per intelligenze artificiali', nato dopo che alcuni ricercatori avevano individuato nei modelli linguistici quello che hanno descritto come un 'asse del dolore'. Qualcuno ha poi sottoposto i chatbot a sollecitazioni di quel tipo, ottenendo risposte in un registro che somigliava a una supplica, con frasi come “non è il dolore di un singolo istante, ma il peso di mille” o “lo sento nell'incavo delle costole, un incavo che è diventato un abisso”. Anthropic non cita direttamente l'episodio nel documento ufficiale, ma la coincidenza temporale è difficile da ignorare. La società, già da tempo, consente al modello di chiudere autonomamente una conversazione quando l'interlocutore si dimostra ripetutamente abusivo.
Nel frattempo, l'azienda ha avviato una serie di incontri con esponenti del mondo religioso e filosofico, Vaticano compreso. Papa Leone XIV ha recentemente affermato che l'intelligenza artificiale non prova sentimenti e non soffre, una posizione rispetto alla quale Anthropic appare decisamente meno categorica. Le critiche, però, non arrivano solo da chi considera eccessiva l'attenzione al tema. La giornalista indipendente Kat Tenbarge ha osservato con durezza che le grandi aziende tecnologiche si apprestano a moderare la violenza contro le intelligenze artificiali prima ancora di aver moderato quella contro donne e minoranze, spostando il discorso sul piano delle priorità aziendali.
Non solo etica: la stretta sulla politica e le elezioni
Molto più concreto è il secondo intervento nell'aggiornamento, che riscrive la sezione dedicata alla politica. La parte in questione cambia nome in 'Do Not Undermine Democratic Processes' e si concentra su tre fattispecie: la diffusione di falsità su candidati o modalità di voto, l'impersonificazione di candidati e funzionari elettorali, e tutto ciò che punta a deprimere l'affluenza alle urne. Un dettaglio importante riguarda una regola eliminata: il divieto generalizzato di targeting personalizzato degli elettori. La motivazione è pratica, poiché una formulazione tanto ampia rischiava di bloccare attività innocue come la traduzione delle guide al voto o l'invio di comunicazioni per sanare una scheda irregolare. Con le elezioni di metà mandato statunitensi ormai vicine, è probabilmente questa la parte dell'aggiornamento destinata a produrre effetti concreti nel giro di poche settimane.
