Ci affidiamo sempre più spesso all'intelligenza artificiale per ogni genere di decisione quotidiana: scegliere un vino al ristorante, pianificare un viaggio, trovare il miglior sentiero in un parco. Un gesto apparentemente innocuo, ma che nasconde un problema serio e ancora irrisolto: le allucinazioni dell'AI. Con questo termine si indica la tendenza dei modelli linguistici a rispondere a qualsiasi domanda, anche quando non hanno le informazioni necessarie, inventando dati e dettagli con assoluta sicurezza.
Il cliente ha sempre ragione (secondo ChatGPT)
Il vero punto critico emerge quando la risposta dell'AI viene considerata più affidabile di quella di chi conosce davvero il prodotto, il luogo o la situazione. The Verge ha raccolto diverse testimonianze di lavoratori che si trovano ogni giorno a gestire clienti convinti che ChatGPT o altri sistemi abbiano necessariamente ragione. Ristoratori, guide turistiche e operatori di vari settori raccontano scene surreali: persone che contestano competenze decennali sulla base di una risposta generata da un algoritmo.
Un problema sottovalutato
La questione è insidiosa perché difficilmente ci si accorge della sua portata se non si è addentro al settore. L'AI è progettata per sembrare sicura e competente, e questo la rende persuasiva anche quando sbaglia completamente. Il rischio concreto è un ribaltamento della fiducia: l'esperto umano perde autorevolezza di fronte a uno strumento che, per sua stessa natura, non ammette quasi mai di non sapere.
Non si tratta di demonizzare l'intelligenza artificiale, ma di imparare a usarla con consapevolezza. Affidarsi a un chatbot per un consiglio può essere utile, ma la verifica umana resta insostituibile, soprattutto quando in gioco ci sono soldi, salute o scelte importanti. La vera sfida dei prossimi anni sarà culturale: insegnare alle persone a distinguere tra uno strumento che assiste e una fonte che va sempre controllata.
