John Searle è stato un filosofo americano che si è occupato di filosofia del linguaggio, di filosofia della mente e di filosofia sociale. Ha avuto due grandi ispiratori, entrambi filosofi del linguaggio: J. L. Austin, autore della raccolta di conferenze “How to do things with words” ovvero come trasformare le parole in azioni e l’austriaco Ludwig Wittgenstein. John Searle muore il 17 settembre 2025, all’età di novantatré anni. Nel 1980 Searle pubblica sulla rivista Behavioral and Brain Sciences un articolo dal titolo Minds, Brains and Programs, Menti, Cervelli e Programmi, in cui presenta il suo esperimento mentale conosciuto come “Camera cinese”. Negli anni è diventato l’articolo più letto e citato mai pubblicato dalla rivista, inducendo una quantità esagerata di commenti e risposte. Searle non ha mai smesso di raffinare, limare e difendere il suo esperimento. Con elevate probabilità, la Camera cinese è stato il tema filosofico più discusso nel campo delle scienze cognitive negli ultimi 25 anni.
Il suo esperimento era incentrato sull’apparentemente semplice domanda: “Un computer, debitamente programmato, ha una mente, è in grado di capire davvero ciò che dice e che fa?”.
Sono passati quasi cinquant’anni e la domanda è del tutto attuale, basta sostituire alla parola “computer” il termine “intelligenza artificiale”. Ormai è acclarato che l’intelligenza artificiale sia in grado di produrre testi, generare immagini, riprodurre la voce, simulare volti, atteggiamenti, movimenti umani, sostenere dialoghi, creare universi narrativi, ma la domanda di fondo è sempre la stessa: “Ha una mente in grado di capire davvero ciò che dice e che fa?”.
All’epoca, alla ricerca di una risposta, Searle propose la situazione che segue. Supponiamo di programmare un computer perché si comporti come se fosse in grado di comprendere il cinese.
Breve digressione. Il cinese è il nome dell’intera famiglia di lingue. Più corretto parlare di mandarino, sua varietà specifica e lingua ufficiale della Repubblica popolare cinese.
Torniamo al computer di cui sopra. La macchina accetta in ingresso gli ideogrammi cinesi e gli elabora, seguendo passo dopo passo il programma di cui è dotato. Le istruzioni che riceve sono tali da fargli produrre, in uscita, altri ideogrammi cinesi in relazione logica con quelli appena digeriti. Il computer svolge il compito in modo perfetto. Nessuno è in grado di dire che il dialogo è stato generato da una macchina e non da un cinese esperto dell’argomento e molto proficiente nella sua lingua ufficiale. Nessuno, in base al comportamento, può rispondere ai quesiti dell’esperimento mentale di Searle: la macchina capisce la conversazione, o sta solamente simulando l’abilità di comprendere la conversazione? Ha una mente nella stessa identica accezione della mente di un essere umano, oppure si comporta come se l’avesse?
Immaginate ora di trovarvi chiuso in una stanza. Non parlate, né comprendete, il cinese. Avete a disposizione carta, gomma e matite. Dall’esterno, attraverso una fessura, vi vengono passati dei biglietti con delle domande scritte in cinese. Disponete di un voluminoso manuale di istruzioni scritto in italiano. Il manuale indica come abbinare e riorganizzare gli ideogrammi cinesi in base alla loro forma (ad esempio: “Se vedi la forma X, scrivi la forma Y”). Seguite le regole e restituite all’esterno i biglietti da voi scritti con le risposte corrette in cinese.
Secondo Searle, in questa seconda situazione il vostro ruolo è identico a quello del computer nella prima situazione sopra descritta. State eseguendo, entrambi, passo dopo passo, un programma che produce un comportamento che a un osservatore esterno permette di dire che tanto la macchina quanto l’umano sono in grado, rispondendo a tono, di capire perfettamente il cinese. Entrambi mostrano lo stesso comportamento. Per inciso, così facendo, la macchina ha superato il test di Touring.
Peccato però che di cinese non sapete proprio nulla.
Ne consegue, afferma Searle, che anche se per un osservatore esterno il dialogo domande-risposte è stato logico, pieno di senso e “compreso”, in realtà il computer non sa nulla di cinese e non è in grado di comprendere la conversazione.
Senza “comprensione”, afferma Searle, la macchina non sta “pensando”. Se non sta pensando, non ha una “mente” nell’accezione comune del termine. Quindi un computer che segue un programma che simula la mente non ha una mente nel senso di mente di un essere umano. Dunque, affermare, anche solo per ipotesi, che un’intelligenza artificiale sia intelligente è falso.
Opportuno riportare le parole con cui Searle, nel 2019 trent’anni dopo la prima pubblicazione della Camera cinese, ne descrive le conclusioni in termini di coscienza e intenzionalità:
“Anni fa ho dimostrato, con il cosiddetto argomento della Camera cinese, che l’esecuzione di un programma informatico non è di per sé sufficiente a generare coscienza, o intenzionalità. Il calcolo è definito in modo puramente formale, o sintattico, mentre le menti possiedono contenuti mentali, o semantici, reali; non è possibile passare dal piano sintattico a quello semantico semplicemente eseguendo operazioni sintattiche, senza aggiungere altro… …Un sistema – io, per esempio – non acquisirebbe la comprensione del cinese semplicemente eseguendo i passaggi di un programma informatico che simuli il comportamento di un parlante cinese”.
Gran parte del dibattito generato dall’esperimento mentale di Searle verte su come confutarne le conclusioni. Anche perché la stragrande maggioranza di coloro che ci si sono dedicati ritiene che l’argomento della Camera Cinese sia completamente errato. L’enorme mole di letteratura sviluppatasi attorno ad esso ha indotto Patrick ”Pat” Hayes, riconosciuta figura di riferimento nel campo dell’intelligenza artificiale per più di mezzo secolo, ad affermare che il campo delle scienze cognitive dovrebbe essere ridefinito come “il programma di ricerca volto a dimostrare la falsità dell’argomento della Camera cinese di Searle”.
Comunque, in sintesi, l’argomento della camera cinese è imperniato sulla distinzione tra sintassi e semantica, tra le regole che governano i simboli e il significato che quei simboli dovrebbero veicolare. L’esperimento mentale porta alla conclusione che la persona dentro la stanza, anche se ha ben risposto, non ha compreso alcunché. Proprio come il computer e il suo programma.
Oggi in troppi ritengono che conversare in linguaggio naturale con una chatbot sia dimostrazione di “intelligenza artificiale forte”, capace di manipolare simboli e quindi di comprenderli. Searle con il suo esperimento dimostra che è falso.
I modelli linguistici di grande dimensione, gli ornai noti LLM, producono testo con una facilità sorprendente, eppure restano semplici calcolatori di probabilità. Non modellano il linguaggio. Non sono in grado di generare un numero illimitato di espressioni. Vero che diventano sempre più sofisticati e manifestano proprietà emergenti (cioè non programmate esplicitamente), ma non dimostrano comprensione semantica paragonabile a quella umana. La forma è fluida, ma la presenza del senso è assente. Simulano, non sanno e non comprendono. Per ora ha ragione Searle.
L’intelligenza artificiale oggi si realizza con macchine basate sul puro calcolo, senza scrupoli, senza etica. Il problema è che gli umani le usano nella stessa modalità. Non è distinguibile il risultato del comportamento della macchina e dell’umano. Il che rende la prima un pericolo potenziale perché il secondo è un pericolo certo.
La crescita esplosiva di esperti di intelligenza artificiale e sue applicazioni lo dimostra. Non sono esperti perché hanno studiato e approfondito per anni la materia. Sono esperti perché sanno far girare Claude, ChatGPT, Gemini, Llama, Mistral, o modelli analoghi. Sono Claude, ChatGPT, Gemini, Llama, Mistral a fare girare gli esperti. Simulano, non sanno e non comprendono.
Non è l’intelligenza artificiale a diventare intelligente, è l’umano che sta perdendo la sua intelligenza naturale dove ironia, curiosità e ingenuità sono componenti essenziali e sono tutte analogiche. Niente e nessuno è stato in grado di renderle digitali.
Per ora.
