エントロピー「極小史」
「エントロピー」という概念は、19世紀に、カルノー、クラジウスらの熱機関の熱効率の研究から生まれた。
それは、産業革命を引き起こした、当時の最先端技術であった蒸気機関の基礎理論として、極めて実践的な関心に裏付けられたものだった。
僕が、初めて熱力学にふれた何十年か前には、ピストンの絵や「カルノー・サイクル」のグラフが、必ずでてきていた。
ボルツマン、ギブス、ヘルムホルツらの統計力学の確立とともに、エントロピー、自由エネルギー、分配関数、Softmaxの原型である正準分布（カノニカル分布）といった理論体系が整備される。19世紀の後半のことだ。統計力学は、20世紀の量子力学を準備する。
エントロピー概念の次の飛躍は、20世紀の中頃のシャノン（写真）の「情報理論」の登場による。
シャノンは、熱力学とは全く独立に、情報量の概念を発見するのだが、その概念にエントロピーという名前をつけることを勧めたのは、フォン・ノイマンだと言われている。
「あなたは、それをエントロピーと呼ぶべきだ。二つの理由がある。第一に、あなたの不確実さの関数は、統計力学では、その名前で使われてきた。だから、それにはすでに名前がある。第二に、もっと大事なことだが、誰もエントロピーが実際に何なのかを知ってはいない。だから、論争では、あなたは常に優位に立てる。」
フォン・ノイマンは、コンピュータの世界でも大きな仕事をした天才だが、ちょっと変な人だ（先の二番目の理由も、ちょっと変だ）。
キューブリックの映画「博士の異常な愛情」（原題は、『博士の異常な愛情 または私は如何にして心配するのを止めて水爆を愛するようになったか』）の主人公のマッド・サイエンティストのモデルは、フォン・ノイマンだとも言われている。https://goo.gl/BHR4Pm
フォン・ノイマンは、エントロピーに関しても、大きな仕事をしている。
S = - Tr (ρ log ρ )
ここで、ρは密度行列、TrはそのTrace(行列の対角成分の和)。これを、フォン・ノイマンのエントロピーと呼ぶ。量子力学的なエントロピーの最初の定式化である。
エントロピー概念の次の飛躍は、1970年代に起きる。ベッケンシュタインが、ブラックホールがエントロピーを持ち、その大きさは、ブラックホールの地平面の面積に比例することを予想する。
時代はだいぶ飛ぶが、その次の飛躍を準備したのは、二人の日本人科学者 高柳 匡と笠 真生による、エンタングルメントのエントロピーの定式化である。2006年のことだ。
現在、物理学は、大きな変革期にあるのだが、そこでは、エンタングルメントとエントロピーと情報の理論が、中心的な役割を果たしているように見える。
21世紀のコンピュータ技術は、こうした基礎理論の急速な発展から、直接の影響を受けることになるのは、確実だと思われる。
コメント
コメントを投稿