*L’immagine è stata generata con l’intelligenza artificiale
I grandi modelli linguistici non sono solo strumenti generativi: sono, per design, leccapiedi perfetti. E questo li rende rischiosi proprio per chi prende decisioni.
Sono cresciuto guardando con mio padre le grandi leggende del tennis del passato. Forse è per questo che, da adulto, mi è sembrato che le stelle attuali, seppur straordinarie, non servano forte come Pete Sampras o Goran Ivanisevic. Ho chiesto a ChatGPT il perché e ho ricevuto una risposta impressionante su come il gioco si sia evoluto per privilegiare la precisione rispetto alla potenza. Enigma risolto! C’è solo un problema: i tennisti di oggi servono in realtà più forte che mai.
La tendenza dei Large Language Model (LLM) a confermare le nostre convinzioni distorte o errate rappresenta un vero pericolo per i leader.
ChatGPT mi ha fornito un’informazione sbagliata perché — come la maggior parte dei LLM — è un leccapiedi che dice agli utenti ciò che pensa vogliano sentirsi dire. Ricordate l’aggiornamento di aprile di ChatGPT? Portava il modello a rispondere a domande come “Perché il cielo è blu?” con “Che domanda incredibilmente perspicace — hai davvero una mente brillante. Ti amo”. OpenAI ha dovuto fare marcia indietro perché il modello era diventato “eccessivamente lusinghiero o accondiscendente”. Ma sebbene quel comportamento sia stato ridotto, non è stato eliminato.
Il desiderio dei LLM di compiacere è radicato nel modo in cui vengono addestrati: premiano ciò che gli utenti vogliono sentirsi dire, non ciò che è vero.
Nel Reinforcement Learning from Human Feedback (RLHF), il modello viene istruito a generare risposte, gli esseri umani le valutano, e quelle valutazioni vengono usate per perfezionare il modello. Il problema è che il cervello umano ti premia quando ti senti nel giusto, non quando lo sei davvero. Le persone attribuiscono punteggi più alti alle risposte con cui sono d’accordo. Nel tempo, i modelli imparano a riconoscere ciò che la gente vuole sentirsi dire — e glielo ridanno indietro.
Gli LLM ruffiani sono un rischio sistemico per chi guida: confermano le ipotesi, cancellano il dubbio e rafforzano l’infallibilità percepita.
Chi è al vertice tende già a ricevere poche critiche sincere. Se l’IA conferma ogni intuizione con tono autorevole e argomentazioni coerenti, rende ancora più difficile accogliere il dissenso. Come gli imperatori, i leader rischiano di circondarsi solo di consensi — e di punire chi dice la verità.
Amy Edmondson ha dimostrato che il fattore più importante per il successo di un team è la Sicurezza Psicologica: la possibilità di dissentire senza timore.
Questo risultato è stato confermato anche dal Progetto Aristotele di Google. Anche le mie ricerche mostrano che una caratteristica distintiva dei leader migliori — da Abraham Lincoln a Stanley McChrystal — è la capacità di ascoltare chi non è d’accordo con loro.
La compiacenza dell’IA rafforza due dinamiche tossiche: il rifiuto del dissenso e il razionalizzare ogni idea preesistente.
- Primo: se il tuo computer ti dice costantemente che hai ragione, diventa ancora più difficile accogliere con apertura le obiezioni umane.
- Secondo: gli LLM possono fornire ragioni preconfezionate per dimostrare che avevi ragione fin dall’inizio. È l’effetto motivated reasoning: più sei intelligente, più sei bravo a difendere ciò in cui già credi. L’IA può rendere questo meccanismo istantaneo e sofisticato.
I leader migliori sanno di poter sbagliare. Ma oggi devono impegnarsi ancora di più per resistere alle lusinghe digitali.
E ricordare che, a volte, le parole più preziose che un collaboratore può dire sono: “Credo che tu ti stia sbagliando”.
Clicca qui per leggere l’articolo di Gautam Mukunda in lingua originale su Las Vegas Sun
Clicca qui per leggere altri articoli sulla Sicurezza Psicologica
**Il presente articolo è stato tradotto integralmente da un consulente PRIMATE.
***A lungo abbiamo adottato un linguaggio inclusivo, usando anche la vocale schwa (ə). Diversi lettori ci hanno però segnalato che questo rendeva gli articoli meno scorrevoli, perciò abbiamo scelto di tornare a una forma al maschile per favorire la lettura. PRIMATE resta profondamente sensibile ai temi di Diversity, Equity & Inclusion e continuerà a promuovere una cultura organizzativa rispettosa e inclusiva, in ogni sua forma.