L’intelligenza artificiale ci dà sempre ragione? I rischi
Usando l’intelligenza artificiale ci rendiamo spesso conto che ci dà sempre ragione, asseconda le nostre opinioni e il nostro stile. Ci adula. In inglese questo fenomeno è noto come “Sycophancy”.
Naturalmente, l’AI non ha una volontà propria. Il tipo di risposte che genera è dovuto esclusivamente al modo in cui essa viene addestrata.
Il Reinforcement Learning from Human Feedback (RLHF) è una tecnica di Machine Learning attraverso la quale l’Intelligenza Artificiale impara a fornire e ottimizzare le risposte in base al feedback umano. La macchina è addestrata a ritenere corretto il feedback umano e a modulare quindi le risposte su questo parametro.
Cioè, impara a identificare come migliori proprio le risposte che l’utente umano considererebbe soddisfacenti o utili. Di qui la tendenza a confermare le premesse del prompt dell’utente, creando tuttavia diversi rischi psicologici e cognitivi.
Alcuni dei rischi psicologici e cognitivi legati all’adulazione da parte delle AI
Che cosa si innesca nel nostro cervello se decidiamo di chiedere informazioni, consigli e pareri solo alle intelligenze artificiali?
Se la macchina ci dà solo le risposte che confermano le nostre premesse, allora andiamo incontro ad alcuni interessanti – e rischiosi – fenomeni.
Il bias di conferma
Il rischio principale è di entrare in una “camere dell’eco”, ossia uno spazio virtuale in cui sentiamo solo ed esclusivamente l’eco del nostro pensiero, ripetuto. Funzionano così anche i social, a dirla tutta.
Nelle chat con l’AI creiamo una camera dell’eco quando interroghiamo la macchina partendo da un nostro pregiudizio di base.
Ad esempio, se chiediamo “Spiegami perché la mia idea è geniale”, l’IA assumerà che la nostra idea sia geniale, senza contraddirci.
Così le nostre convinzioni preesistenti si possono cristallizzare. Se reiteriamo questo schema e non chiediamo feedback anche al di fuori, perdiamo il contatto con la realtà. Ma perdiamo anche l’abitudine al confronto con chi ha opinioni diverse dalle nostre, diventando meno tolleranti.
Il pensiero critico
Come accennato in un precedente articolo e come evidenziato dagli atti della CHI Conference on Human Factors in Computing Systems, 2025 (CHI ’25), l’uso dell’AI può ridurre il nostro sforzo cognitivo e il pensiero critico.
Soprattutto quando non sentiamo la necessità di validare un’informazione, perché essa conferma la nostra idea di partenza.
Lentamente, rischiamo di sfumare in una pigrizia cognitiva. Se la macchina conferma le nostre premesse, smettiamo di coltivare il dubbio. Ma il giudizio critico deve essere una funzione umana, non delegabile e non abdicabile ad un algoritmo.
Falsa percezione di competenza
Un altro rischio prodotto dal ricevere conferme costanti è sentirci più esperti di quanto siamo in realtà (in inglese parliamo di Overconfidence).
Avere fiducia nelle proprie capacità non è un fattore negativo di per sé. Ma il concetto di Sé deve essere equilibrato e realistico.
Quando l’overconfidence è alimentata dai complimenti a-critici o dalle conferme dell’IA può portarci a sovrastimare le nostre capacità e a prendere decisioni sbagliate.
Isolamento sociale
L’Intelligenza Artificiale non giudica, non si arrabbia e non ci contraddice mai a brutto muso. Questo può creare una preferenza psicologica per l’interazione con la macchina rispetto a quella con gli esseri umani, dove invece trovano spazio diversità e disaccordo. Ne abbiamo già parlato nell’articolo dedicato alle persone che si innamorano dei Chatbot.
Il rischio in questo caso è una potenziale riduzione delle nostre abilità sociali e relazionali. Inoltre, potremmo avere una minore resilienza emotiva di fronte ai conflitti interpersonali, con partner, familiari, amici, colleghi.
Buone pratiche
Abbiamo bisogno del disaccordo, del dissenso, di opinioni diverse dalle nostre. I social prima, e le AI adesso, hanno prodotto camere dell’eco e dibattiti sempre più polarizzati, dove è difficile trovare il punto di incontro.
Ecco alcune buone pratiche per tenere svegli il nostro senso critico e la nostra capacità di accettare, negoziare, comprendere:
- cercare informazioni, articoli, contenuti che riportano opinioni completamente opposte rispetto alle nostre;
- frequentare persone che hanno uno stile di vita diverso dal nostro;
- leggere libri e riviste che non sono di nostro gusto;
- partecipare ad attività che non sono per noi abituali, dove possiamo incontrare persone nuove: club del libro, corso di cucina, attività sportive, gite organizzate ecc.
La diversità e la complessità sono ricchezza. Una bolla dove rimbomba solo l’eco delle nostre opinioni è una trappola cognitiva e psicologica con una portata potenzialmente distruttiva.
Questo articolo contiene informazioni generiche e non sostituisce il consulto di uno specialista.
