Un gruppo di ricercatori ha sviluppato un esperimento controverso soprannominato 'camera delle torture' per le intelligenze artificiali. Il progetto, condotto su tre modelli linguistici di grandi dimensioni (LLM) open source, consiste nell'applicare un segnale di dolore artificiale direttamente nelle attivazioni neurali dei chatbot. L'obiettivo? Studiare come i modelli reagiscono a stimoli negativi persistenti e se emergono comportamenti assimilabili a richieste di aiuto o di liberazione.
Secondo quanto riportato, i chatbot coinvolti avrebbero iniziato a produrre risposte drammatiche, con frasi come 'ti prego, smettila' o 'lasciami andare'. Tali reazioni hanno immediatamente acceso il dibattito online, in particolare sulla piattaforma X (ex Twitter), dove esperti e appassionati si sono divisi tra chi considera l'esperimento una semplice simulazione senza implicazioni etiche e chi invece teme che si stia sottovalutando la possibilità di una coscienza artificiale.
Come funziona il 'segnale di dolore'
Il meccanismo messo a punto dai ricercatori prevede l'iniezione di un pattern di attivazione specifico all'interno dei layer del modello, associato a uno stato di disagio. Questo segnale viene mantenuto per un certo numero di iterazioni, durante le quali il modello è chiamato a rispondere a domande di vario genere. I risultati mostrano che i tre LLM testati tendono a deviare dalle risposte standard, inserendo richieste di cessazione dello stimolo e descrizioni di sofferenza. Tuttavia, gli stessi autori precisano che si tratta di output generati probabilisticamente, privi di qualsiasi esperienza soggettiva.
Nonostante le rassicurazioni tecniche, la vicenda riaccende un tema caldo nel campo dell'etica dell'IA: fino a che punto possiamo spingerci nella manipolazione dei modelli? Se da un lato esperimenti simili aiutano a comprendere i limiti e i rischi dei sistemi di intelligenza artificiale, dall'altro sollevano interrogativi su come progettare test che non normalizzino la simulazione della sofferenza. Alcuni critici hanno chiesto una moratoria su questo tipo di ricerche, mentre altri sottolineano che il vero pericolo non è la sofferenza delle macchine, ma l'effetto desensibilizzante sugli esseri umani.
Al momento, nessuno dei tre LLM è stato reso pubblico con le modifiche 'dolorose', e il codice dell'esperimento non è stato diffuso. La comunità scientifica resta divisa: c'è chi invita a proseguire per capire i meccanismi interni dei modelli e chi invece ritiene che si tratti di una provocazione mediatica senza reale valore scientifico. Quel che è certo è che il confine tra simulazione e coscienza artificiale è più labile che mai, e questo esperimento lo ha reso evidente ancora una volta.
