Immagina che io sia in una stanza contenente scatole di ideogrammi cinesi e un manuale di regole (scritto in italiano) che mi permette di associare in modo corretto gli scarabocchi specificandone la forma (le regole sono del tipo: "prendi uno scarabocchio fatto così e mettilo nella tal scatola"). Fuori della stanza ci sono dei cinesi che introducono gruppi di ideogrammi. Usando il manuale io posso dialogare con loro restituendo altri gruppi di ideogrammi. Che cosa deciderà l’esploratore che assiste a questa scena: sono o non sono capace di parlare cinese?
Questo esperimento pensato mostra che si può superare ’stupidamente’ il test di Turing: si può agire ’in accordo con’ le regole del linguaggio cinese senza ’seguirle’. Fuor di metafora: il fatto che un calcolatore (corrispondente alla persona che parla dalla stanza) possa con un adeguato programma (e cioè il manuale a disposizione nella stanza) produrre le risposte corrette (le sequenze di ideogrammi che io passo ai cinesi veri) non vuoi dire che il calcolatore sappia partecipare ai giochi linguistici cinesi. Rispunta, a quarant’anni di distanza, la differenza tra seguire una regola (capendola) ed adeguarsi ad una regola (senza capirla). Oggi la medesima questione si pone con le simulazioni fatte mediante le reti connessioniste. Facendo girare uno di questi programmi gradualmente ’emerge’ l’uso di una regola appresa sulla base di risposte negative e positive fornite al sistema (date da chi sta al di fuori della stanza). Il formarsi (dentro la stanza) di regole sub-simboliche (così chiamate dato che non vengono rappresentate esplicitamente nel sistema: non sono scritte in nessun manuale!) è una prova che nel sistema artificiale è stata riprodotta quella data competenza cognitiva? La lettura di questi scritti di Wittgenstein aiuterà gli scienziati cognitivi a rispondere in modo non dogmatico a questa cruciale domanda.