Doświadczenie
Nie ma tu czego wypróbować — i o to właśnie chodzi. Chiński pokój jest argumentem, nie eksperymentem, a jego dowodem jest scena, którą masz sobie wyobrazić, nie zaś wynik, który ktokolwiek zmierzył. John Searle prosi, żebyś wyobraził go sobie zamkniętego w pokoju z zestawem chińskich napisów, które są dla niego tylko stertą bezsensownych zawijasów, oraz z angielskimi księgami reguł pozwalającymi dopasowywać jeden zestaw symboli do drugiego wyłącznie po ich kształtach. Do środka trafiają kartki, on sprawdza reguły i wypuszcza symbole z powrotem na zewnątrz. Nie wie o tym, ale ludzie na zewnątrz nazywają kolejne zestawy skryptem, opowiadaniem i pytaniami, to, co im oddaje, nazywają odpowiedziami, a księgi reguł — programem. Dochodzi w tym do takiej wprawy, że jego chińskie odpowiedzi są nie do odróżnienia od odpowiedzi rodzimego użytkownika chińskiego — a on wciąż nie rozumie ani słowa po chińsku.Historyczne / opisowe Czy ta scena czegokolwiek dowodzi — to właśnie jest przedmiot całego sporu, a spór ten wciąż pozostaje otwarty.
Co się dzieje
Searle starannie wybiera cel. Odróżnia słabą sztuczną inteligencję — komputer jako potężne narzędzie do formułowania i sprawdzania hipotez o umyśle, wobec której, jak pisze, nie ma żadnych zastrzeżeń — od mocnej sztucznej inteligencji, czyli tezy, że odpowiednio zaprogramowany komputer naprawdę jest umysłem, że dosłownie można o nim powiedzieć, iż rozumie, i że same programy są wyjaśnieniami ludzkiego poznania. Atak wymierzony jest wyłącznie w to drugie i nie jest twierdzeniem, że maszyny nie mogą myśleć: Searle pisze, że nie widzi zasadniczego powodu, dla którego nie można by wyposażyć maszyny w zdolność rozumienia chińskiego, skoro nasze ciała wraz z mózgami są dokładnie takimi maszynami.Historyczne / opisowe Pokój jest skonstruowany tak, żeby wyizolować jedną zmienną — wykonywanie właściwego programu — i pokazać, że sama z siebie nie wystarcza. To, co pokój ma wykazać, to luka, której nie domknie żadna ilość programowania. Same formalne manipulacje symbolami nie niosą żadnej intencjonalności — dowodzi Searle — ponieważ symbole są identyfikowane wyłącznie po kształtach: w jego sformułowaniu mają tylko składnię, ale nie mają semantyki, a taka intencjonalność, jaką komputery zdają się mieć, mieszka w umysłach tych, którzy je programują, i tych, którzy odczytują ich wyniki. Pozytywna połowa jego stanowiska jest lustrzanym odbiciem tamtej: stany mentalne są dosłownie produktem działania mózgu, więc każdy mechanizm zdolny wytwarzać intencjonalność musi mieć moce przyczynowe co najmniej równe mocom mózgów — a to Searle traktuje jako kwestię empiryczną, a nie kwestię programowania.Interpretacyjne, nie empiryczne
Co to pokazuje
Prawdziwą strukturą tego artykułu jest lista zarzutów wraz z odpowiedziami, a właśnie z tymi odpowiedziami ludzie spierają się od tamtej pory. Na odpowiedź systemową — człowiek nie rozumie, ale rozumie cały system: człowiek plus księgi reguł plus kartki na brudno — Searle odpowiada: niech nauczy się na pamięć reguł i banków danych, a obliczenia niech wykonuje w głowie, a potem niech pracuje pod gołym niebem, bez żadnego pokoju; teraz w systemie nie ma już niczego, czego nie byłoby w nim samym, a on nadal nic nie rozumie. Na odpowiedź robotyczną — umieśćmy komputer w ciele z kamerą telewizyjną i ramionami — odpowiada, że dodatkowe dane wejściowe przychodzą jako kolejne nieinterpretowane symbole, więc byłby homunkulusem robota, nie wiedząc, o co w tym wszystkim chodzi. Na odpowiedź symulatora mózgu — zamodelujmy sekwencję wyładowań neuronów w mózgu osoby mówiącej po chińsku — podstawia człowieka obsługującego rozbudowany układ rur i zaworów wodnych i mówi, że symulacja odtwarza niewłaściwe własności: formalną strukturę wyładowań, a nie moce przyczynowe, które wykonują właściwą pracę.Interpretacyjne, nie empiryczne Każda z tych odpowiedzi ma w literaturze swoją kontrodpowiedź i dlatego pokój jest żywym argumentem, a nie rozstrzygniętym wynikiem.
Czego to nie pokazuje
Nie pokazuje, że żadna maszyna nie mogłaby myśleć; Searle sam to mówi. Nie pokazuje też tego, co przypisuje mu mnóstwo streszczeń, bo zgoda co do samej sceny nie zobowiązuje nikogo do zgody co do argumentu. Paul i Patricia Churchlandowie, piszący w 1990 roku na łamach Scientific American, zgodzili się z Searle'em, że pokój nie rozumie chińskiego, i mimo to odrzucili jego argument. Ich celem jest jego trzeci aksjomat — że sama składnia ani nie konstytuuje semantyki, ani do niej nie wystarcza — o którym mówią, że niesie już dziewięćdziesiąt procent ciężaru wniosku, i który czytają jako z góry przesądzający spór z programem badawczym, przeciw któremu jest wymierzony. Ich parodią jest świetlisty pokój: człowiek pompuje w górę i w dół magnesem sztabkowym, żadne światło się nie pojawia i wyciąga się wniosek, że siły ani nie konstytuują świetlistości, ani do niej nie wystarczają — wnioskowanie, które wytoczone przeciw Maxwellowi w latach sześćdziesiątych XIX wieku wydawałoby się dokładnie tak samo intuicyjne i byłoby dokładnie tak samo błędne.Interpretacyjne, nie empiryczne
Badania i ograniczenia
Spór był wyreżyserowany od samego początku. Behavioral and Brain Sciences opublikowało artykuł główny razem z komentarzami i krytykami dwudziestu siedmiu badaczy kognitywistyki, a po nich odpowiedź Searle'a na te głosy, która polemizuje imiennie z Nedem Blockiem, Danielem Dennettem, Zenonem Pylyshynem, Jerrym Fodorem, Marvinem Minskym, Johnem Haugelandem, Richardem Rortym, Johnem McCarthym, Rogerem Schankiem i Robertem Wilenskym. Zdanie Dennetta, że rozumie angielski, ale jego mózg nie, ściąga na siebie ripostę, że jest to równie nieprawdopodobne jak upieranie się, że ktoś trawi pizzę, a jego żołądek nie.Historyczne / opisowe W całej tej wymianie nie ma nigdzie żadnego pomiaru i taki właśnie jest uczciwy kształt tego tematu: sporne jest to, co w ogóle miałoby się liczyć jako rozumienie, a tego pytania nie rozstrzyga żadne badanie.
Cztery dekady później dziedzina nadal nie doszła do wspólnego stanowiska. Stevan Harnad, redaktor tego właśnie czasopisma, odnotowuje, że przytłaczająca większość wciąż uważa argument chińskiego pokoju za kompletnie błędny, a sama liczba refutacji skłoniła Pata Hayesa do propozycji, by kognitywistykę przedefiniować jako trwający program badawczy wykazywania, że argument ten jest fałszywy; Dennett nazywa go mylącą „pompą intuicji” (intuition pump), która opiera się na skłonieniu cię do wyobrażenia sobie zbyt prostego przypadku. Filozofowie pozostają podzieleni między obozami odpowiedzi systemowej i wirtualnego umysłu a obrońcami wniosku Searle'a, a niedawne postępy w dużych modelach językowych nie rozstrzygnęły tego sporu.Niejednoznaczne / sporne Czytaj więc chiński pokój jako pytanie, które od czterdziestu pięciu lat trzyma swój kształt, a nie jako werdykt, na który ktokolwiek zasłużył.