Simulare una mente non significa necessariamente averne una ovvero la discussione della stanza cinese e l'intelligenza artificiale
Nel 1980 il filosofo John Searle pubblicò Minds, Brains, and Programs, proponendo quello che sarebbe diventato uno dei più celebri esperimenti mentali della filosofia della mente e dell'intelligenza artificiale, ovvero la stanza cinese. La domanda di fondo era semplice e radicale, se un computer riesce a comportarsi come se comprendesse una lingua, possiamo concludere che la comprende davvero? Oppure stiamo confondendo la capacità di produrre risposte appropriate con la presenza di una mente capace di attribuire significato a quelle risposte?
La discussione nasceva in un momento nel quale l'intelligenza artificiale era ancora lontana dalle capacità dei sistemi contemporanei, ma la questione teorica era già chiarissima. Searle immagina di trovarsi chiuso in una stanza e di non conoscere una sola parola di cinese. Attraverso una fessura riceve però dei simboli cinesi e dispone di un manuale, scritto in inglese, che gli dice come combinare quei simboli e quali altri simboli restituire. Seguendo scrupolosamente le regole, potrebbe produrre risposte indistinguibili da quelle di una persona che conosce il cinese. Per chi si trova all'esterno, nella stanza c'è dunque qualcuno che comprende il cinese. In realtà, secondo Searle, l'uomo nella stanza non comprende nulla, manipola semplicemente simboli secondo regole formali.
È qui che entra in gioco la distinzione fondamentale tra sintassi e semantica. La sintassi riguarda le regole con cui vengono manipolati i simboli; la semantica riguarda invece il loro significato. Un computer può, secondo Searle, manipolare perfettamente simboli senza che quei simboli significhino qualcosa per il computer stesso. Da questa premessa egli ricava una critica alla cosiddetta Strong AI, la posizione secondo cui un programma adeguatamente progettato non si limiterebbe a simulare una mente, ma sarebbe realmente una mente dotata di stati cognitivi.
Come puntualizzano Charles Wallace e Dan Kwartler, su TED-Ed, il bersaglio di Searle non era l'idea che i computer potessero essere strumenti estremamente potenti per studiare o simulare la cognizione. Questa forma più debole di intelligenza artificiale, spesso chiamata Weak AI, non sostiene necessariamente che la macchina possieda una mente. Il problema riguarda invece l'identificazione tra comportamento intelligente e intelligenza. Se una macchina risponde correttamente alle domande, traduce una frase, risolve un problema o sostiene una conversazione, abbiamo dimostrato che sa ciò che sta facendo oppure soltanto che è capace di produrre l'output appropriato?
La questione si collega direttamente al test di Turing, proposto da Alan Turing nel 1950. Turing suggeriva di abbandonare domande metafisiche come le macchine possono pensare? e di concentrarsi invece sul comportamento osservabile. Se durante una conversazione non siamo in grado di distinguere una macchina da un essere umano, quale ragione abbiamo per negare alla macchina l'attributo di intelligenza?
Searle rovescia la prospettiva. Il suo esperimento suggerisce che un comportamento indistinguibile da quello intelligente potrebbe non essere sufficiente a dimostrare l'esistenza di una mente. È una differenza apparentemente sottile, ma filosoficamente enorme. Potremmo avere una macchina che supera una serie di prove linguistiche senza avere alcuna esperienza soggettiva del significato delle proprie parole.
Ma la discussione della stanza cinese dimostra davvero che una macchina non comprende?
È proprio su questo punto che l'esperimento di Searle è stato sottoposto a numerose critiche. Una delle più note è la System Reply, forse non comprende il cinese l'uomo che si trova nella stanza, ma potrebbe comprenderlo l'intero sistema costituito dall'uomo, dal manuale, dalla memoria e dalle regole. Searle risponde facendo progressivamente assumere all'uomo tutti questi elementi. Anche se imparasse a memoria le regole e svolgesse mentalmente tutte le operazioni, continuerebbe, secondo lui, a non comprendere il cinese. Altri filosofi hanno contestato l'idea che il significato debba necessariamente derivare da qualcosa di simile alla comprensione umana. Daniel Dennett, per esempio, ha criticato l'idea che si possa considerare un programma come qualcosa di separato dal sistema fisico che lo esegue. Un programma scritto su un foglio non produce alcun comportamento, è la sua implementazione in un sistema causale concreto a fare la differenza. Altri approcci funzionalisti sostengono invece che uno stato mentale dovrebbe essere identificato soprattutto in base al ruolo causale che svolge, non necessariamente alla materia di cui è costituito.
Ed è proprio qui che il problema del 1980 torna sorprendentemente attuale.
I moderni LLM (large language models) possono produrre testi coerenti, sostenere conversazioni, tradurre, riassumere, scrivere programmi e affrontare problemi complessi. Queste capacità rendono ancora più difficile stabilire che cosa intendiamo esattamente per comprendere. La prestazione linguistica è ormai molto più sofisticata di quella dei sistemi immaginati da Searle, ma il problema filosofico non è scomparso, quanto deve essere complesso un comportamento prima che siamo autorizzati ad attribuirgli una mente?
La difficoltà è anche epistemologica. Non possiamo osservare direttamente la coscienza di un'altra persona, la inferiamo dal comportamento, dal linguaggio, dalla struttura biologica condivisa e dalle nostre interazioni con lei. Se incontrassimo un'entità completamente diversa da noi, dovremmo stabilire quali caratteristiche costituiscono una prova sufficiente della presenza di una mente. È il problema delle altre menti, che la discussione sulla stanza cinese rende particolarmente evidente.
C'è poi una distinzione che diventa fondamentale. Intelligenza, comprensione e coscienza non sono necessariamente la stessa cosa. Un sistema potrebbe essere estremamente efficace nel risolvere problemi senza essere cosciente; potrebbe manipolare informazioni senza avere esperienze soggettive; oppure potrebbe, almeno in linea di principio, possedere forme di cognizione radicalmente diverse da quelle umane.
La stanza cinese, quindi, non ci consegna una risposta definitiva alla domanda se l'intelligenza artificiale ha una mente. La sua importanza sta forse proprio nel contrario; ci costringe a chiarire che cosa intendiamo quando diciamo comprendere. Una macchina può produrre una risposta corretta, può persino produrre una risposta sorprendentemente originale, ma resta aperta la domanda se quella risposta abbia per la macchina un significato analogo a quello che ha per noi.
