驚くべく発見

【 驚くべく発見 】

シャノンが、「三つの条件」から、シャノン・エントロピーHの式を導いたことは、既に見てきました。

その後も、シャノン・エントロピーHの式を導く、数学的「条件」は何かという研究が行われます。代表的な研究は、Faddeev のものです。彼は、シャノンの「三つの条件」とは違った「三つの公理」から出発して、シャノン・エントロピーの式を導くことに成功します。

Faddeevの仕事で注目すべきことは、シャノンの「三つ目の条件」に含まれていた、「エントロピー＝不確実さ」を生み出すある「選択」を、二つの「選択」の「連鎖」に分解することができるなら、エントロピーの新しい量的規定が得られるというというアイデアに、明確な定式化を与えたことです。それがChain ルールです。

ただ、シャノン・エントロピーHの式を導く、数学的「条件」の研究は、これで終わったわけではありません。

21世紀に入って、Tom Leinster は、Faddeevの条件から出発して、さらに、次のことを証明します。

　「確率分布を実数に写す関数 Iが、
　　連続でChainルールを満たすなら、
　　I は、シャノン・エントロピーH
　　の定数倍である。」

要するに、シャノン・エントロピーの式Hは、連続性とChainルールによって、一意に特徴づけられるのです。驚くべき発見です。

対数を含まないChainルールの式を見ても、そこに対数を含むシャノン・エントロピーが隠れているようには見えません。ところがそうではないのです。ちょっと不思議な気がします。

ショートムービー：
https://youtu.be/rHtI99EpGzQ?list=PLQIrJ0f9gMcO_b7tZmh80ZE1T4QqAqL-A

ショートムービーのpdf:
https://maruyama097.blogspot.com/2022/05/blog-post_21.html

5/28 マルゼミ「エントロピー論の現在」のまとめページを作りました。ほぼ毎日更新されると思います。ご利用ください。https://www.marulabo.net/docs/info-entropy5/

5/28 マルゼミの申し込みページを作成しました。
https://entropy-theory.peatix.com/

お申し込みお待ちしています。