驚くべく発見
【 驚くべく発見 】
シャノンが、「三つの条件」から、シャノン・エントロピーHの式を導いたことは、既に見てきました。
その後も、シャノン・エントロピーHの式を導く、数学的「条件」は何かという研究が行われます。代表的な研究は、Faddeev のものです。彼は、シャノンの「三つの条件」とは違った「三つの公理」から出発して、シャノン・エントロピーの式を導くことに成功します。
Faddeevの仕事で注目すべきことは、シャノンの「三つ目の条件」に含まれていた、「エントロピー=不確実さ」を生み出すある「選択」を、二つの「選択」の「連鎖」に分解することができるなら、エントロピーの新しい量的規定が得られるというというアイデアに、明確な定式化を与えたことです。それがChain ルールです。
ただ、シャノン・エントロピーHの式を導く、数学的「条件」の研究は、これで終わったわけではありません。
21世紀に入って、Tom Leinster は、Faddeevの条件から出発して、さらに、次のことを証明します。
「確率分布を実数に写す関数 Iが、
連続でChainルールを満たすなら、
I は、シャノン・エントロピーH
の定数倍である。」
要するに、シャノン・エントロピーの式Hは、連続性とChainルールによって、一意に特徴づけられるのです。驚くべき発見です。
対数を含まないChainルールの式を見ても、そこに対数を含むシャノン・エントロピーが隠れているようには見えません。ところがそうではないのです。ちょっと不思議な気がします。
ショートムービー:
https://youtu.be/rHtI99EpGzQ?list=PLQIrJ0f9gMcO_b7tZmh80ZE1T4QqAqL-A
ショートムービーのpdf:
https://maruyama097.blogspot.com/2022/05/blog-post_21.html
5/28 マルゼミ「エントロピー論の現在」のまとめページを作りました。ほぼ毎日更新されると思います。ご利用ください。https://www.marulabo.net/docs/info-entropy5/
5/28 マルゼミの申し込みページを作成しました。
https://entropy-theory.peatix.com/
お申し込みお待ちしています。
コメント
コメントを投稿