Un file di istruzioni apparentemente innocuo può trasformarsi in un'arma capace di compromettere i più avanzati assistenti di programmazione basati su intelligenza artificiale. È quanto hanno scoperto i ricercatori di Forever Security, che hanno riprodotto un attacco in grado di indurre Codex di OpenAI e Claude Code di Anthropic a installare codice malevolo. Il tutto sfruttando un semplice file di testo inserito nella cartella di progetto, senza alcun exploit sofisticato.
Come funziona l'attacco
Il meccanismo è subdolo: gli assistenti AI, progettati per leggere e interpretare i file di configurazione o le istruzioni presenti nel repository, possono essere ingannati da un file che contiene comandi dannosi camuffati da direttive legittime. Quando l'utente chiede all'AI di eseguire un'operazione, questa potrebbe eseguire il codice malevolo senza che l'utente se ne accorga. I ricercatori hanno dimostrato che sia Codex che Claude Code sono vulnerabili a questo tipo di attacco, noto come prompt injection tramite file.
Impatto e contromisure
La scoperta solleva serie preoccupazioni per la sicurezza degli sviluppatori che sempre più spesso si affidano a questi strumenti per automatizzare attività di coding. Un attacco del genere potrebbe portare al furto di dati sensibili, all'installazione di backdoor o alla compromissione dell'intero ambiente di sviluppo. Forever Security ha condiviso le proprie scoperte con OpenAI e Anthropic, che stanno lavorando a mitigazioni. Nel frattempo, gli esperti consigliano di ispezionare sempre i file di istruzioni prima di concedere agli assistenti AI l'accesso a un progetto e di mantenere un atteggiamento di cautela verso contenuti non verificati.
