「自明」だが不毛な会話

【「自明」だが不毛な会話】

少し、話が飛びますが、数学と論理の話をしましょう。数学では、1+1は、必ず2になります。論理では、「Aが成り立っていれば Bが成り立つ」がわかっていて、「Aが成り立っている」とすれば「Bが成り立っている」ことが、論理的に推論できます。

二人の数学者、俊英の若い不二夫と意固地な老人の丸山が、黒板を前にして、最近、不二夫が証明した定理について議論しています。

  不二夫:「あの定理とあれを使うと、これが分かります。」 
  丸 山:「自明じゃ」
  不二夫:「それに、この補題を使うと、こうなります。」 
  丸 山:「自明じゃ」

     ・・・ 中略 ・・・

  不二夫:「ここまで来ると、ほとんど自明です。」 
  丸 山:「自明じゃ」
  不二夫:「最後に、これを示して、定理が証明されます。」 
  丸 山:「自明じゃ」

本当は、丸山は、最初は、定理の意味を全然わかっていなかったのですが、最終的には、全ての証明の過程は、「自明」なものになってしまいます。丸山が、本当にわかったかは疑問ですが。わかってないとすれば、不毛な会話です。ただ、数学者の説明に、「自明だ」と答えるのは、いい戦略かもしれません。

どんな複雑な数学的命題も、厄介なその証明も、もともと自明なものに還元され、情報を持たないのです。

「納得がいかない」という人も多いと思います。

今度は、「自明なこと」をエントロピーで表してみましょう。

ある出来事が起きる確率が1ということは、その出来事が100%完全に起きるということです。この出来事は、どういう情報量=エントロピーを持つのでしょうか? この出来事のエントロピーHは, H=−ΣpLog(p)の式に p=1を入れれば、H=1x log(1) =1x0 = 0で、ゼロになることが分かります。確実に分かること、自明なことの情報量=エントロピーは、ゼロなのです。

今度は、現実の話をしましょう。

コインを投げて、表が出るか裏が出るかを当てることを考えましょう。ここでは、誰も、確実なことは言えません。次に表が出るか裏が出るかは、論理的に考えれば分かることではありません。コインを投げてみるしかないのです。

確実なことは、たくさんコイン投げをすれば、「表が出る確率は1/2に、裏が出る確率は1/2に近づく」ということぐらいです。それでは、「表が出る確率は1/2、裏が出る確率は1/2」という確率の分布はどういう意味を持つのでしょう? 実は、この確率分布が、「エントロピー」という量を決めています。

意外に思われる方もいると思いますが、エントロピーの単位は「bit」です。私たちIT技術者が、日常的に使っている bit のことです。bitというのは、エントロピーの単位なのです。そう思うと、エントロピー、急に身近な概念になりませんか? あのbitですよ。

答えを先に言いますが、先に見た、「表が出る確率は1/2、裏が出る確率は1/2」という確率分布が決めるエントロピーは、1 bit です。

「表」と「裏」ではなく、1 bitという情報量を、「0である確率が1/2、1である確率が1/2」である確率分布で与えられる情報量=エントロピーと考えてみませんか? 少し、bitがエントロピーの単位であることのイメージが掴めると思います。

6月26日開催マルゼミ「情報とエントロピー2」のショートムービー第一弾「確率分布とエントロピー -- シャノン・エントロピー」を公開しました。ご利用ください。

YouTube: https://youtu.be/atQ9nIUgciw?list=PLQIrJ0f9gMcM2_4wbtngkEvZEYfuv5HY2

pdf版の資料は、次のページからアクセスできます。
https://www.marulabo.net/docs/info-entropy2/

6/26マルゼミ「情報とエントロピー2」のお申し込みは、次のページから現在受付中です。https://info-entropy2.peatix.com/


コメント

このブログの人気の投稿

マルレク・ネット「エントロピーと情報理論」公開しました。

初めにことばありき

人間は、善と悪との重ね合わせというモデルの失敗について