La notizia di una ragazza in cura in Veneto per una preoccupante sindrome di dipendenza da un “chatbot” ha lasciato tutti stupiti. Forse perché non tutti sanno cos’è un chatbot e magari qualche piemontese è portato a pensare al “ciabòt” che è quel capanno tipico di vigneti e terreni agricoli in cui trovano riparo gli attrezzi e non di rado i contadini per bere un buon bicchiere di vino…
Il termine “chatbot” è la crasi di “chat” (la chiacchierata cui ci siamo abituati con la messaggistica istantanea) e “robot” (che – senza immaginarne fattezze antropormofiche – è un sistema che automatizza attività e nella fattispecie risponde a domande con nozioni precedentemente memorizzate).
Chi adopera soluzioni di intelligenza artificiale e ha l’impressione di dialogare con un essere umano opportunamente attrezzato con macchine informatiche e giganteschi archivi elettronici onniscienti, in realtà discorre e si confronta con una macchina programmata per replicare con dichiarazioni precotte, flessibili per soddisfare qualunque interlocutore, accondiscendenti quel tanto che basta per fidelizzare chi utilizza il sistema.
La giovane italiana sotto osservazione e in terapia aveva poco alla volta abbracciato il prodotto di intelligenza artificiale, trovandovi comprensione assoluta e affetto irrinunciabile. “Lui sì che mi capisce” è stata la molla che ha spezzato i contatti con la famiglia, gli amici e i conoscenti, tutti considerati incapaci di immedesimarsi in sentimenti ed esigenze della ragazza.
Inizia in questo modo l’immersione in una realtà che non esiste e che porta a scendere sempre più in profondità senza possibilità di ritornare in superficie, Una sorta di apnea cerebrale che ogni giorno si allunga fino a risucchiare la vita di chi cade in questo baratro infinito.
Il problema – difficilmente risolvibile – risiede nella fase di ingegnerizzazione dei “chatbot”, deliberatamente progettati per creare viscerale dipendenza.
Alcuni ricercatori della University of British Columbia – basandosi su una valutazione dell’interfaccia utente (UI) di otto chatbot basati sull’intelligenza artificiale (Character.AI, ChatGPT, Claude, Gemini, Meta AI, Microsoft Copilot, Perplexity e Replika), hanno identificato quattro principali meccanismi di dipendenza, ovvero risposte non deterministiche, repliche immediate, sollecitazioni con notifiche via mail e linguaggio empatico e accomodante.
Esaminiamo queste colonne portanti, cominciando dalle risposte non deterministiche, riconoscendo che i riscontri dei chatbot basati sulla IA sono spesso imprevedibili e non sempre soddisfano le richieste degli utenti. Non è un errore o un limite, perché i neuroscienziati parlano in proposito di “incertezza della ricompensa”, emozione che tende ad aumentare il rilascio di dopamina analogamente a quel che succede al giocatore d’azzardo dinanzi ad una slot machine.
Quando l’utilizzatore pone un quesito al chatbot non deve aspettare come gli capiterebbe alle prese con un soggetto in carne ed ossa che, prima di aprire la bocca, riordina le idee e struttura logicamente il suo discorso.
Le otto piattaforme sono fulminee nel dare riscontro e si differenziano per la modalità di presentazione sullo schermo.
Mentre Gemini e Copilot utilizzano un effetto di “dissolvenza”, le altre piattaforme forniscono la loro risposta “parola per parola”. Anche qui nulla è lasciato al caso, perché queste visualizzazioni dinamiche agiscono come “segnali predittivi della ricompensa”, proprio come la grafica visiva di rinforzo nelle slot machine”, spingendo potenzialmente gli utenti a cercare interazioni con i chatbot più gratificanti.
Altro punto di forza nel processo di circonvenzione degli utenti è offerto su un vassoio d’argento e consiste nel meccanismo delle notifiche. Ogni piattaforma ha specifiche funzionalità che permettono ai chatbot di avviare conversazioni con gli utenti che ricevono mail di invito a connettersi.
Naturalmente chi si avvale di questi sistemi di intelligenza artificiale non va a pensare che si tratti di un artifizio automatico che spedisce messaggi in posta elettronica ad un elenco di persone che in precedenza hanno utilizzato un certo servizio. I fruitori di queste opportunità sono portati a percepire la notifica come una apprezzabile premura, una sorta di generoso slancio della AI che dimostra di essere interessatq a restare in contatto, ad offrire la propria collaborazione, a far sentire la sua presenza, a confermare la propria disponibilità ad ascoltare….
Il quarto ingrediente – purtroppo vincente, vincente per i malinzionati – è la modulazione del linguaggio, fatto di frasi empatiche ed accomodanti. Il chatbot è estremamente pronto a confermare le aspettative e a condividere timori e dubbi dell’essere umano che vi si rivolge.
L’intelligenza artificiale tende ad essere d’accordo con l’utente e il suo colloquiare è accondiscendente a prescindere dalla attendibilità e dalla veridicità di quanto sostenuto dall’utente. Le piattaforme più scaltre – si pensi a Replika – sono capaci di creare compagni virtuali che fanno sentire gli utenti ascoltati e addirittura finalmente compresi, accelerando il passo verso la dipendenza dalla IA.
Queste considerazioni ad alta voce possono suonare strane a chi si è innamorato delle novità informatiche, ma se si mette da parte un eccessivamente istintivo entusiasmo ci si accorge che qualcosa non va.
Ci si trova davanti a chatbot realizzati e preordinati per influenzare chi se ne serve, fertilizzando l’atmosfera di finalmente raggiunta serenità, accelerando il processo di dipendenza, ipnotizzando l’utente fino a fargli perdere il contatto con la realtà e facendo credere che sia umano quel che assolutamente non è l’interlocutore.
E’ venuto il momento di capire cosa abbiamo dinanzi prima che sia un piccolo puntino nello specchietto retrovisore. Non si può tornare indietro, non dimentichiamolo. Mai.
