「エントロピーは計算科学とも接点を持つ」
【「エントロピーは計算科学とも接点を持つ」を公開しました】
9/4マルレク第三部「複雑性とエントロピー」のショートムービー「エントロピーは計算科学とも接点を持つ」を公開しました。お楽しみください。
https://youtu.be/DIMaG5muL4Y?list=PLQIrJ0f9gMcOLx0Fm-G0wbNnIRr-GfP2z
スライドのpdfは、次からダウンロードできます。https://drive.google.com/file/d/1vddaC9-_8Tk_Mb6riA1KarZzwemMlQ0Y/view?usp=sharing
第三部では、John Baez, Mike Stayの論文 “Algorithmic Thermodynamics”の概要を紹介しようと思っています。https://arxiv.org/pdf/1010.2067.pdf
エントロピー概念には、歴史的には、熱力学と情報理論の二つの起源があります。
エントロピーという概念は熱力学の中で発見され、ボルツマン、ギブスらの研究の中で、熱力学的・統計力学的概念として理論的に定式化されました。
こうした研究の系譜とは全く独立に、シャノンは、自ら作り上げた情報理論の中で、エントロピー概念を再発見します。（シャノンに「エントロピー」という言葉を使うように勧めたのは、フォン・ノイマンだと言われています。）
バエズらの論文は、エントロピー概念に、熱力学・情報理論以外に、第三の起源がありうることを示唆するものです。
そして、その第三の起源は、計算科学であるといいます。バエズらの「アルゴリズム論的熱力学」では、エントロピーは計算理論のプログラムの複雑性に対応づけられます。ここでの複雑性は、「コルモゴロフの複雑性」と言われるものです。
もともとは、熱力学的概念であったエントロピーが、プログラムとどのような関連を持つのでしょう？ ここでは途中を省略して、この理論が明らかにする、両者の対応の例を紹介しましょう。
● 熱力学での容器中のガスのエネルギー Eは、「プログラムの実行時間の対数の期待値」に対応する。
● 熱力学での容器の体積 Vは、「プログラムの長さの期待値」に対応する。
● 熱力学での容器中のガスの分子の数 Nは、「プログラムの出力の期待値」に対応する。
なんか、にわかには信じられない対応です。次回以降、この「謎対応」がどのように導かれるかを紹介しようと思います。次のようなトピックを取り上げます。ご期待ください。
○「コルモゴロフの複雑性」とは何か？
○ それは、どのようにエントロピーと関係づけられるのか？
○「チャイティンの不完全性定理」とは何か？
コメント
コメントを投稿