3/31 マルレク「人工知能と数学」へのお誘い
【 3/31 マルレク「人工知能と数学」へのお誘い 】
3月31日 19:00からオンラインで「人工知能と数学」というタイトルでセミナーを開催します。
今日の「人工知能」は、その「言語能力」で、画期的な進歩を遂げています。
ある言語の文を他の言語に「翻訳」すること、言語を問わず膨大な文字データから「関連する」データをを見つけ出すこと、長い文章を短い文章に「要約」すること、ある話題に対して関連する話題を提供して「対話」を続けること。
こうした能力は、「大規模言語モデル」と呼ばれる人工知能技術の登場とその成長によって初めて可能になりました。その成長の秘密の鍵は、この技術が「ことばの意味」を、コンピュータ上で表現する方法を見つけたことにあります。
イメージの認識なら、イメージをピクセルの集まりとしてコンピュータ上で表現することは容易です。ただ、「ことばの意味」を、コンピュータの上で表現せよといわれたら、みなさんはどんな方法をイメージしますか？
Googleの検索は、膨大なネット上の文字データから、基本的には特定の「文字列」を探すものです。「意味」を「検索」しているわけではありません。「犬」の検索と「dog」の検索は、文字列が異なりますので、異なる検索です。
「大規模言語モデル」では、「意味」がコンピュータ上に表現されています。この「意味の表現」では、「意味が同じ」ことだけでなく「意味が近い」ことが表現できます。「意味の近さ」が表現できるということは、実践的にはとても大事です。
「翻訳」でしたら「意味が同じ」ことが重要です。話題の「関連性」を見つけるとか「要約」のケースでは「意味が近い」ことがポイントになります。こうした判断をコンピュータが自由に行えるようになったことが、コンピュータの「言語能力」の飛躍をもたらしました。それらは、「大規模言語モデル」が獲得した「意味の表現」のの力によるものです。
「意味の表現」については、現在公開中の次のページを参照ください。
「AIは意味をどのように 扱っているのか？ -- ChatGPT の不思議」https://www.marulabo.net/docs/meaning/
こうした発展は素晴らしいものです。ただ、問題は、その先にあるのです。
「大規模言語モデル」的アプローチには、大きな弱点があります。それは、こうしたアプローチでは、現状では、数学の問題を解くことができないことです。そのことは、2022年のOpenAIのTheorem ProverやDeep MindのAlpha Codeの失敗を見ればわかります。
人間の論理＝数学的能力は、言語能力に基礎を置いています。ことばなしには、数学を考えることはできません。それでは、「大規模言語モデル」の規模をさらに拡大すれば、数学の問題も解けるようになるのでしょうか？ それも難しいと思います。「大規模言語モデル」は、基本的には、人間の意味理解を中心とした言語能力のモデルだからです。
何よりも、OpenAIもGoogle Researchも、2022年の時点で、規模拡大による能力の向上には限界があることを認めています。ChatGPTは、こうした大規模言語モデルの「行き詰まり」の中から、大胆な路線転換として生まれたものだと僕は考えています。
今回のセミナーでは、まず、こうした大規模言語モデルと数学の問題を考えます。
今回のセミナーで強調したいことは、大規模言語モデルと数学の問題としてではなく、人工知能と数学の問題として問題を立てれば、全く別のアプローチがあるということです。
それは、ディープラーニング的・大規模言語モデル的回り道をしなくても、コンピュータ自身に、直接に数学的推論を行う能力があるのだと考えることです。数学を得意とする「もう一つの人工知能」の道があるのです。
詳しくは、セミナーでお話ししたいと思います。
https://ai-math.peatix.com/
コメント
コメントを投稿