複雑さについて(8) 複雑さとエントロピー

今回は、複雑さについて、別の切り口から考えてみたいと思う。
コルモゴロフの複雑さでは、何の規則性もないランダムな文字の並びが、一番複雑であることになる。その意味では、エントロピーの大きさと複雑さの大きさは一致する。
ただ、それは、我々が複雑さに対して持つ直感と必ずしも一致しない。
ジャズでもクラッシックでも、印象的で耳に残る複雑な和音がある。ただ、「複雑さ=エントロピー」と考えれば、一番複雑な音は、いろんな周波数成分をランダムに含んだ音である。ホワイトノイズを聞いても、我々は、それを単なる雑音と感じるだけで、複雑さを感じることはない。
ほったて小屋より、ガウディのサグラダ・ファミリア教会の方が複雑である。ただ、もしも、サグラダ・ファミリアが、震災か戦災で、がれきの山になったとすれば、そのがれきの山の方が、エントロピーが増大しているので、元の建物より複雑さが大きいことになる。
現在の宇宙が始まったビッグバンの瞬間は、エネルギーは巨大だが、その構造はシンプルで、エントロピーは小さかった。宇宙のエントロピーは増大し続け、最後には全てがブラックホールに飲み込まれてエントロピー最大の「熱的死」を迎えるのだが、我々は、ビッグバンの瞬間も最後のブラックホールも、複雑なものとは感じないような気がする。
その中間に出現する、恒星系・銀河系の構造、生命、人間の脳の構造 等々に、我々は、複雑さを見出す。それらは決して、エントロピーが最大の状態ではない。
Scott Aaronsonは、次の図で表されるような「複雑さ」の尺度を提案している。秩序から無秩序への移行としてのエントロピーの増大(図の青い線)と、我々が感じる複雑さ(図の赤い線)とは、異なる。
すなわち、エントロピーの増大とともに複雑さも増大するのだが、ある時点を越えれば、エントロピーの増大(無秩序化)とともに、複雑さは、減少するというのだ。
彼があげている例が面白い。(図2)
コーヒーにミルクを加える。最初(図の左)は、コーヒーとミルクの層が完全に分離しているので構造はシンプルで、エントロピーは低く、複雑さも低い。
時間とともにコーヒーとミルクは混じり始める(図の中央)のだが、この状態は、エントロピーは、中程度だが、複雑さは高い。
最後(図の右)には、二つが完全に混ざり合う。この時、エントロピーは最大になるのだが、複雑さは低くなる。
こうした複雑さの考え方は、複雑さをエントロピーに還元する複雑さの考え方に、我々が感じる先に見たような違和感を、説明するものだと思う。
ブログ: "The First Law of Complexodynamics" http://www.scottaaronson.com/blog/?p=762
論文:"Quantifying the Rise and Fall of Complexity in Closed Systems: The Coffee Automaton" https://goo.gl/vyQ1Ej




コメント

このブログの人気の投稿

TensorFlow Foldについて

TPU論文の翻訳(1)

TPU論文の翻訳(2)