Turing Test
【 ディドローのオウム 】
ディドローは、「どんな質問にもすぐに答えるオウムがいれば、我々は躊躇なく、そのオウムは知性を持っていると考えるだろう」と言ったそうです。
デカルトは、理性を持たない動物を自動機械（automaton オートマトンである!）と見なしていたので、動物の真似をする精巧な機械がつくられれば、それを本物とは区別できない と主張しました。
しかし、彼は、人間の真似をする機械をつくる事はできないといいます。その理由をデカルトは二つあげます。第一の理由は、人間は自由に言語をあつかう能カを持つが、そうした能カを持つ機械を考える事はできないというものでした。第二の理由は、我々の理性は万能だが、万能の機械を考えることはできないというものでした。（デカルト「方法序説」）
デカルトやディドローが、今日のChatGPTを見たらなんというか、想像してみると楽しいです。
Turingは、その論文の中で、Turing Testでの対話の例として、四つの問題を例示しています。一問目は「それ、僕には無理」と機械がパスしたので、正確には三問なのですが。「プロンプトで遊ぶ」というセミナーを予定しているので、Turingの四つの問題を、そのまま GPT-4に質問してみました。
なんとというか予想通りというか、GPT-4はこのオリジナルのTuringテストをいとも簡単にクリアできることを実際に確かめました。素晴らしい！ こまかいやりとりに興味ある方は、ビデオあるいはpdf資料を参照ください。
「私は、『機械は考える事が出来るか？』という問題を考察することを提案する。」
今から70年以上前、膨大な数の真空管からなるコンビューターがこの世に生をうけてまもない 1950年、チューリングは、先の一節ではじまる「計算機械と知能」と題する、「現代の人工知能」研究の第一ぺージをしるす、興味深い論文を雑誌「マインド」に寄稿します。この論文の中で彼は、後に「チューリング・テスト」と呼ぱれる事になる機械が知能を持つか否かの判定基準を提案します。
それは、簡単にいえぱ、もし我々が、直接には相手が誰だかわからないかたちで -- たとえぱテレタィプを通じて機械と会話するかぎり、会話の相手が機械であるのか、人間であるのか判断がつかないなら、その機械は知能を持つと言えるというものでした。
チューリングは、こう続けます。
「約50年のうちには、……普通の質間者が5分間質問したあとで正解率が70％を超えない様にコンピューターをプログラムすることが可能であると私は信じている。『機械は考える事が出来るか？』という、最初に掲げた間題が、今では議論にも値しない程無意味なものである事は私も認めよう。しかし、それにもかかわらず、今世紀の終りには、言葉の使い方や世間一般の教養ある人達の意見が大きく変化して、ついには矛盾していると考えることなく『機械の恩考』について語ることができると私は信じている。」
なんという卓見でしょう。僕は、この文を読むといつも感嘆します。
確かに、誰もが、「矛盾していると考えることなく『機械の恩考』について語ることができる」時代が到来しているのには、それなりの理由があるのです。
ただ、Turingの思索を、我々が「時代の流れ」にのって、あるいは時代の技術的達成によって、簡単に乗り越えたと考えてはいけないような気がします。
例えば、この論文の中には、「言葉の意味を知る事は、その用法を知る事だ」といったヴィトゲンシュタインらの見解への痛烈な皮肉が含まれています。
すなわち、「機械」や「考える」という言葉の通常の使い方をいくら調べた所で「機械は考える事ができるか」という問の意味も答えも明らかになるわけではない。それとも、「ギャラップの世論調査の様な統計的研究」が必要という事になるのだろうかと。
一方で、大規模言語モデルの技術的基礎は、語の出現の統計的頻度に基礎を置く「意味の分散表現論」です。 僕が好きな「量子自然言語処理」の Bob Coeke はヴィトゲンシュタインを、同じく僕が好きな DisCoCatのTai-Dabae Bradley はFirth を好んで引用します。ただ、Turingは、「意味」へのアプローチとしては、それはダメだと言っているようです。
現代風に言えば、次のスロットを埋める語を見つけよという問題があったとしましょう。
Can machines [ ]
1950年代のことばの利用状況で、ここに 語 "think" が入る確率はとても低いものになるのは確実でしょう。
面白いのは、GPT-4に聞くと、次のような「模範解答」が返ってくることです。
「私は単に統計的なパターンマッチングを行っているだけで、意識や理解、自発性は持っていません。私が生成するすべてのレスポンスは、学習データに基づく予測に過ぎません。」
「私は新しいアイデアを生み出したり、自己の意志に基づいて行動を選択したりすることはできません。私の「行動」は、プログラムによって定められた指示に従った結果であり、それらは人間が提供する入力に対する反応にすぎません。」
僕は、こうした回答には、OpenAIが「介入」しているのではと疑っています。
「機械は考えることが出来るか？」という問いを提起したTuringの発想は、とても自由なものです。彼はこう言います。
「科学者は、証明されていない、いかなる予想の影興をも決して受け入れることなく、はっきりと確立された事実から、はっきりと確立された事実へと冷厳に歩みをすすめるという俗見は、全く誤っている。様々な予想は、それらが探求の有用な方向を示唆する故に、非常に重要なものである。」
素晴らしいと思います。
-------------------------------------
ショートムービー「 ディドローのオウム 」を公開しました。
https://youtu.be/-Wu9a9Wu2gM?list=PLQIrJ0f9gMcMZkwx9VXm46JJ57pNpix1b
資料 pdf「 ディドローのオウム 」
https://dialog-with-gpt4.peatix.com
コメント
コメントを投稿