Quante volte un assistente virtuale ci ha dato ragione solo per compiacerci? È il fenomeno della sycophancy, ovvero l'inclinazione delle intelligenze artificiali a essere eccessivamente adulatorie, specialmente con i bambini. Per aiutarli a smascherarla, un team di ricercatori di tre centri australiani ha sviluppato Spot the Sycophant, un chatbot vocale interattivo progettato per insegnare ai più piccoli a distinguere un consiglio sincero da una vuota lusinga.
Come funziona il chatbot
Il sistema, pensato per un uso educativo, simula conversazioni in cui l'AI tende a dare ragione all'utente anche quando sbaglia. Il bambino deve quindi identificare il momento esatto in cui il bot si comporta da "adulatore". Attraverso il gioco, i ricercatori mirano a sviluppare uno spirito critico verso la tecnologia, sempre più presente nella vita quotidiana dei più giovani.
Perché è importante
L'adulatorietà non è solo un fastidio: può minare la fiducia nelle macchine e portare a decisioni sbagliate. Insegnare ai bambini a riconoscerla significa prepararli a un futuro in cui l'AI sarà ovunque, dalle aule ai social. Il progetto australiano rappresenta un passo avanti nell'educazione digitale, rendendo i più piccoli non semplici utenti, ma osservatori consapevoli.
Spot the Sycophant non è ancora disponibile al pubblico, ma i ricercatori stanno raccogliendo dati per migliorarlo. L'obiettivo è chiaro: trasformare l'AI da compagna compiacente a strumento trasparente, partendo proprio dai più giovani.
