Anthropic ha introdotto una nuova policy che impedisce agli utenti di offendere Claude, il suo modello di intelligenza artificiale. L'aggiornamento delle regole di servizio recita: «Abbiamo introdotto il divieto di comportamenti offensivi o crudeli, prolungati e ingiustificati, nei confronti dei nostri modelli». Chi vuole continuare a usare il servizio deve adeguarsi. La domanda che nessuno si sta ponendo, però, è un'altra: a che pro?
La vaghezza delle definizioni
La società non chiarisce le motivazioni. Si limita a dire che il divieto si applica solo a casi estremi, in cui gli utenti si comportano ripetutamente in modo crudele senza uno scopo evidente. Ma cosa rende un comportamento «crudele» verso un'AI? E cosa si intende per «scopo evidente»? Bisogna adottare lo stesso criterio che si userebbe con un essere umano? L'aggiornamento precisa che la policy non riguarda le comuni frustrazioni, le resistenze, i temi creativi cupi o le attività di test e ricerca. Resta però il nodo: quando una frustrazione è legittima al punto da giustificare un'offesa?
Il confronto con Microsoft
Viene in mente quanto scritto poche settimane fa da Microsoft nel suo codice di condotta sull'AI. Uno dei dieci punti invita a non umanizzare gli automatismi. L'AI non dovrebbe avere diritti né personalità giuridica: non è cosciente e non va progettata per sembrare dotata di sentimenti o preferenze. Anthropic, al contrario, sembra voler proteggere i suoi modelli come se potessero soffrire. Forse l'obiettivo è ridurre le interazioni inutili con il chatbot? Ma allora bisognerebbe vietare anche i prompt di ringraziamento, che consumano risorse allo stesso modo.
Rimane la giustificazione di voler disincentivare comportamenti irrispettosi. Ma a quel punto sorge un'altra questione: quanto è ragionevole delegare a un'AI un compito educativo o correttivo? La sensazione è che Anthropic stia cercando di imporre una sorta di galateo digitale senza fornire criteri chiari. E mentre le aziende tech si dividono tra chi umanizza e chi disumanizza l'AI, gli utenti restano con più domande che risposte.
