ボルツマン


ボルツマンの墓には、彼が発見した、次のエントロピーの式が刻まれている。
  S = k log W
 
ここで、Sはエントロピーで、kはボルツマンの定数、Wはミクロな状態の数である。
先に、なぜ、熱力学的には エネルギーを温度で割った単位を持つ量であるエントロピーが、情報の理論と結びつくのだろうかと書いたのだが、表面的には、理由は意外と簡単である。
このボルツマンの式は、エントロピーが、ミクロな状態の数の対数 log W に「比例」するという彼の偉大な発見を表しているのだが、情報の理論と結びつくのは、この log W の部分なのである。この部分は、単なる整数の対数なので、次元(単位のこと)は無い。
先の関係式で、「エネルギー 割る 温度」というエントロピーの単位(次元のこと)は、すべて、k というボルツマンの定数の中に閉じ込められている。
もしも、 k = 1 なら(実際、そういう表記をすることもある)
 
  S = log W
 
となって、エントロピーと E/T(Joul/Kelvin)という熱力学的単位との関係は、ほとんど見えなくなる。
その意味では、ボルツマンの定数k は、熱力学的エントロピーと情報論的エントロピーを結びつける、重要な役割を持つのである。
スタンフォードの物理学講義で、サスキンドは、こんな冗談を言っていた。
「ボルツマンは、彼の定数を、誰も覚えてくれないので、それを悲しんで、自殺したんだ。」

コメント

このブログの人気の投稿

Google翻訳での日本語の点数の低さについて

誕生日

Google翻訳のアーキテクチャー(2) Encoder / Decoder