意味を考える1 -- ペンローズの「皇帝の新しい心」

ペンローズの「皇帝の新しい心」(1989年)の冒頭には、お母さんがコンピュータ科学者、お父さんがコンピュータを破壊しようという、今でいう「テロリスト」を両親に持つ子供が登場する。これって「銀河鉄道999」のメーテルの家庭環境と同じだ。

舞台は、国をあげて開発した、その国の全ての人間のニューロンの数より多い10の17乗個の論理ユニットを持ち、その知能は想像もつかないほど高いと言われている、巨大コンピュータUltronicの火入れとお披露目の場。

その子は、お母さんが有力な開発者だったので、お母さんと一緒にセレモニーの前から三列目にいる。(お父さんは、爆発物が見つかって拘束されている)。司会者が、「誰か、Ultronicに、最初の質問をしてみませんか?」と会場に声をかける。みな、自分の無知を晒されるのがいやと思ったのか、誰も手を上げない。

その子は、Ultronicの開発と一緒に育ったようなものだったので、「彼」が何を感じているのか自分のことのようにわかるように思っているので、臆せず手を挙げる。司会者が彼を指名する。

その時、何かが起きる。

約400ページほど省略すると、あれ、これってネタバレ? でもネタバレしないと話が進まないな。まあ、いい。会場で起きたことについては、次のポストで書く。

それは、コンピュータによる「意味」の理解に関連した、とても面白い寓話だ。

(ちなみに、ペンローズの次の本「心の影」の冒頭にも寓話が掲げられているのだが、それは、プラトンの「洞窟の喩え」を寓話にしたものだ。彼は、数理哲学的には、プラトン流の「実在論者」なのだ。)

ペンローズのこの本は、30年前のものだけど、人工知能論としては、頭三つぐらい飛び抜けている。サールらの「強いAI」論の批判などは、痛快なものだ。

僕は、人工知能論では、「計算主義」の立場に立つのだが、この本は、全力で「計算主義」を批判している。ペンローズの「計算主義」批判は、避けて通れない問題だ。

ある意味皮肉な話だが、個人的には、この本が出た頃、哲学では飯が食えなくて、僕は哲学からITの世界に転進する。この本が扱っている問題は、当時の僕の哲学的関心には、とても身近な話題だったのだが、ITの問題としては僕は真面目に考えてはいなかったと思う。それは、僕の視野の狭さのせいだと思う。

ITの世界に30年いて、最近は、人工知能がある意味「現実」的な課題として、うるさいくらい語られるようになり、僕は哲学的な問題にも興味を覚えている。この冬は、哲学しようと思う。

======================
2018年12月3日 Facebookへの投稿から

 

コメント

このブログの人気の投稿

マルレク・ネット「エントロピーと情報理論」公開しました。

初めにことばありき

人間は、善と悪との重ね合わせというモデルの失敗について