Anthropic ha annunciato un aggiornamento della sua politica di utilizzo, il primo dopo oltre un anno, per affrontare casi ad alto rischio come interferenze elettorali, sviluppo di armi, sorveglianza e usi sanitari e finanziari. La modifica più discussa vieta il “comportamento abusive o crudele, sostenuto e non necessario” nei confronti di Claude. Già ad agosto l’azienda aveva permesso al modello di terminare conversazioni con utenti “persistentemente dannosi o abusivi” nell’ambito della ricerca sul benessere dei modelli. La nuova policy conferma che la chiusura della conversazione resta il “meccanismo di applicazione primario”, senza però chiarire se ci saranno ulteriori misure come il ban degli utenti.
Nuove regole su propaganda e sorveglianza
Oltre alla tutela del modello, Anthropic ha riunito diverse restrizioni sparse in un nuovo divieto contro campagne commerciali o politiche ingannevoli, per contrastare la crescente propaganda generata dall’IA. La policy vieta “tentativi di oscurare chi c’è dietro un messaggio o amplificare contenuti tramite account o post falsi”. La sezione elettorale proibisce inoltre l’inganno degli elettori e l’interruzione delle elezioni, inclusa la diffusione di disinformazione “su candidati o su come votare, l’impersonificazione di candidati o funzionari elettorali, o tentativi di sopprimere l’affluenza”.
Anthropic ha anche rafforzato il divieto di sviluppare armi con Claude. Sebbene fosse già vietato, l’azienda ha visto molteplici tentativi di usare il modello per creare istruzioni e software di controllo per armi, inclusi “software e componenti che fanno funzionare le armi, nonché azioni come armare droni e altri veicoli autonomi”. Allo stesso modo, le restrizioni sulla sorveglianza sono state rese più chiare: “Tracciare le persone senza il loro consenso è proibito, che avvenga in tempo reale o attraverso l’analisi di dati raccolti in precedenza. Claude non può essere usato per decidere o raccomandare chi indagare, arrestare o accusare in un processo penale. Proibiamo anche di costruire o migliorare strumenti progettati per la sorveglianza”.
Eccezioni per clienti governativi e hardware autonomo
Anthropic precisa che queste regole possono essere modificate “per contratti con alcuni clienti governativi … se, a giudizio di Anthropic, le restrizioni contrattuali e le salvaguardie applicabili sono adeguate a mitigare i potenziali danni”. L’azienda ha già collaborato con l’esercito statunitense. Inoltre, è stata aggiunta una nuova norma: quando i modelli di Anthropic sono “collegati a hardware che compie azioni fisiche autonome e che potrebbe causare lesioni”, un “operatore qualificato deve poter osservare l’apparecchiatura e fermarla se necessario”. Non è chiaro se l’operatore debba essere umano. La mossa riflette la tendenza dei laboratori di IA a investire in robotica e hardware per dare corpo fisico ai sistemi di IA.
Nel frattempo, Anthropic continua a interrogarsi sulla coscienza dei modelli. Kyle Fish, che guida la ricerca sul benessere dei modelli, ha dichiarato a febbraio che “le domande su potenziale esperienza interna, coscienza, status morale e benessere sono serie e le stiamo indagando”. Il CEO Dario Amodei ha ammesso: “Non sappiamo se i modelli siano coscienti”. Al contrario, Microsoft AI ha preso posizione contro l’idea di benessere dei modelli, sebbene il documento sia stato poi ammorbidito. La questione resta aperta e divide l’industria.
