YouTube チャンネル に「エントロピー論」のセクションを追加しました
【 YouTube チャンネル に「エントロピー論」のセクションを追加しました 】
YouTube チャンネル Maruyama Lectures に「エントロピー論」のセクションを追加しました。ご利用ください。 https://www.youtube.com/c/MaruyamaLectures
あわせて、「エントロピー論」セクションの再生リストに、短いですが「説明」を追加しました。
今回の更新は、前回、MaruLaboの「エントロピー」関連ページのコンテンツをYouTube中心からpdfの資料中心に再構成したことに対応するものです。
各再生リストに追加した「説明」は次のようなものです。ざっと目を通していただけると、「エントロピー論」の大雑把な流れがわかるのではと思います。
3~4年前のポストも含まれているので、現在なら「エントロピー論」にもっと違った角度から光を当てられると感じているのですが、基本的には以前のコンテンツをそのまま使っていることご了承ください。
● 「情報とエントロピー入門」
https://www.youtube.com/playlist?list=PLQIrJ0f9gMcNUBuVzPZ2BXUB_vZp4e4Xq
マルレク基礎「情報とエントロピー入門」の講演資料公開しました。ご利用ください。https://www.marulabo.net/docs/info-entropy/
今回のセミナーは、技術者に「エントロピー」とは何かについて、基本的な知識を提供することを目的にしています。
熱力学の中で登場した「エントロピー」という概念は、熱力学から統計力学、統計力学から量子力学という、19世紀から20世紀にかけての科学の枠組みの歴史的変化の中で中心的役割を果たします。
重要なことは、「エントロピー」概念は、もっぱら抽象的な「科学の枠組み」にかかわる概念ではなかったということです。それは、それぞれの時代の具体的で実践的な「技術」と密接なつながりを持っていました。
蒸気機関が先端技術であった時代にも（熱効率の最大化）、電信・電話・ラジオ・テレビが先端技術であった時代にも（通信効率の最適化）、エントロピーを最小にしようという試みが、技術的チャレンジの中心課題でした。今日の最先端技術である、いわゆる「AI」技術の中核も、クロス・エントロピーの最小化と考えることができます。
科学者だけでなく、技術者も、実践的な概念としてエントロピーを理解することが重要だと、僕は考えています。
セミナーでは、ボルツマンとシャノンのエントロピーを紹介します。 ボルツマンが明らかにしたことは、可能なミクロな状態を全て数え上げた時、その「数」がエントロピーを決め、それが「温度」や「圧力」といったマクロな状態を規定するということです。ただ、ミクロの視点からマクロの視点に移る時、ミクロの状態が持っていた多くの情報は失われます。
シャノンが対象とした情報の世界には、もちろん、「温度」や「圧力」があるわけではありません。ただ、そこでもエントロピーは定義できます。確率分布が与えられるものには、その分布に対応したエントロピーが存在することをシャノンの仕事は示しています。
エントロピーについては、興味深い話題がたくさんあります。エントロピーの増大による宇宙の熱的死、エントロピーの増大に抗うものとしての生命、時間の流れとエントロピー ... 21世紀の科学は、エネルギーとエントロピー、すなわち、物質と情報の科学として発展すると僕は考えています。
残念ながら、今回は、そうした話題に触れることができませんでした。こうしたトピックについては、別の機会に紹介したいと思います。
● 「情報とエントロピー」
https://www.youtube.com/playlist?list=PLQIrJ0f9gMcOTEqcDzvVoZyzE8uFCWjpX
この再生リストのビデオ・スライドの文字情報は、次のページにあります。
https://www.marulabo.net/docs/info-entropy2/
今回のセミナーのメイン・ストーリーは、次のようなものです。
第一。確率的な分布は、いろんなところに現れます。重要なことは、どんなところに現れる確率分布にも、我々はエントロピーという共通の構造を見出すことができるということです。その意味で、エントロピーは、「物質＝エネルギー」とならんで、もっとも基本的な概念の一つです。
第二。確率的にしか物事を知り得ないということは、人間の主観の能力の特徴と深く結びついています。それは興味深いことです。ただ、それはそれ、これはこれ。エントロピーの法則は、人間の世界とは独立です。エントロピーは不断にその値を増大しようとします。
第三。エントロピーは、技術の世界と深い結びつきがあります。技術は、もちろん、エネルギーの効率的利用に関心があるのですが、多くの技術は、エントロピーを減少させることと結びついています。ITの世界は、現代のそうした努力の中心舞台です。技術者は、18世紀の「スチーム・エンジニア」も、現代の「AIエンジニア」も、エントロピーを減少させるという、同じ課題に取り組んでいます。
第四。19世紀起源の古い科学であるエントロピー論は、まだ、オワコンではありません。時代は変化しても、新しい相貌のもとで繰り返し現れるエントロピーをめぐる謎は、最先端の科学のトピックの一つです。量子情報理論は、未来の科学で中心的な役割を果たすことになるでしょう。
https://www.youtube.com/playlist?list=PLQIrJ0f9gMcMUBleCTf9mTcrcpnMU-HgG
この再生リストのビデオ・スライドの文字情報は、次のページにあります。https://www.marulabo.net/docs/info-entropy5/
熱力学的「エントロピー」は、産業革命の原動力となった蒸気機関の効率化の取り組みのなかで、19世紀に経験的に発見されたものです。熱力学は、19世紀末には、ボルツマンらの統計力学手法で整理されます。統計力学は、20世紀の原子論・化学反応論・量子力学の成立を準備します。
20世紀の自然認識は、量子論と相対論によって飛躍します。30年代には、ヒルベルト空間論に基づく量子力学の数学的基礎づけがフォン・ノイマンによって行われます。このノイマンの仕事は、量子力学的「エントロピー」を定義したものでした。
20世紀の技術を特長づけるものの一つは、通信技術の一貫した発展です。電信・電話・ラジオ・テレビ、… 。
20世紀の半ば、シャノンは、情報理論的「エントロピー」を発見します。シャノンの情報理論は、ノイズのある情報路での誤り訂正・通信量を削減する情報圧縮・暗号化等の技術に応用され、20世紀の通信技術の基礎となります。
20世紀末には、通信技術はコンピュータ技術と融合してインターネットの世界を生み出します。その上でのGAFAの成立と成功は、21世紀初頭の社会・経済を特長づけるものでした。
「エントロピーって何？」
たしかに、エントロピーは、エネルギーよりわかりにくい概念かもしれません。蒸気機関のエントロピーとインターネットのエントロピーには、ほとんど共通するものがないようにも見えます。
しかし、その見かけ上の抽象性にもかかわらず、エントロピーについての認識は、振り返ってみれば、つねにその時代の現実的で技術的な課題と深く結びついていたことには、特別の注意が必要です。
「振り返ってみれば」と書きましたが、同時に、エントロピー論は、我々の未来の課題についての洞察も与えてくれると、僕は考えています。
この地球には、8種の大型猿がいるそうです。ただ、そのうちの一種だけで、大型猿8種の個体数の99.99%を占めているそうです。その一種とは、もちろん、僕ら「人類」のことです。僕らが「生物多様性」に関心を持ち始めたとき、地質学的「人新世」への変化は始まっていました。「人新世」が、人間のいない世界にならないことを願っています。
現代の「エントロピー論」の代表的教科書（になるだろうと僕が思っているだけです）が 蒸気機関でもインターネットでもなく、「エントロピーと多様性」というタイトルであることは偶然ではないと思います。
https://www.amazon.co.jp/Entropy-Diversity-Axiomatic-Tom-Leinster/dp/1108965571
https://arxiv.org/pdf/2012.02113.pdf
21世紀、エントロピー論は、大きく変わろうとしています。今回のセミナーでは、そうした変化の一端を紹介したいと思っています。
具体的には、シャノン・エントロピーをどのように特長づけ、その特徴からシャノン・エントロピーの式をどのように導いたかにフォーカスしたいと思います。
まず、1948年のシャノンの論文を振り返ります。ついで、新しいエントロピー論の扉を開いた、2011年のバエズらの論文を紹介しようと思います。
J. Baez, T. Fritz, and T. Leinster. A characterization of entropy in terms of information loss. Entropy, 13:1945–1957, 2011. https://arxiv.org/pdf/1106.1791.pdf
● 「エントロピー論とカテゴリー論」
https://www.youtube.com/playlist?list=PLQIrJ0f9gMcO9a52VkdEjtFr-N4ihNrnS
この再生リストのビデオ・スライドの文字情報は、次のページにあります。https://www.marulabo.net/docs/info-entropy5-addendum/
タイトルを「エントロピー論とカテゴリー論」に改題し、このテーマをあつかった以前のセミナー「エントロピー論の現在」の第四部も、このタイトルのページから参照できるようにしました。
先日「エントロピー論の現在」というセミナーを終えたばかりなのですが、いくつかのトピックを積み残してしまいました。 このセミナーは、”Entropy as a Functor” という新しいエントロピー論を展開したBaezの仕事の紹介で終わっているのですが、実は、ここからさまざまな動きが生まれてきます。本当は、「エントロピー論の現在」で注目すべきなのは、そうした動きなのですが … 「あとのまつり」ですが、「エントロピー論の現在・補遺」として、エントロピー論へのカテゴリー論の応用を中心に、いくつかのトピックの紹介を、すこしのあいだ続けたいと思っています。
【 エントロピー概念の一般化 】
Boltzmann-Gibbs-Shannonらが作り上げたエントロピー概念は、驚くべき生命力を持っています。ただ、それをより一般化しようという試みも存在します。もっとも、そうした一般化によって、17世紀に始まった古典力学が、20世紀には量子論・相対論に置き換わったようなパラダイムの転換が、エントロピー論の世界で起きた訳ではありません。
エントロピー論がこれまで経験した認識の最大の飛躍は、熱力学的エントロピーと情報論的エントロピーの「同一性」の認識です。それは、エントロピー概念の拡大・一般化というよりはむしろ、エントロピーの「遍在」の認識なのですが、極めて重要な意味を持っています。それは、エントロピー論ばかりではなく、新しい自然認識の基礎となっていくと思います。
● 「量子情報とエントロピー論」
https://www.youtube.com/playlist?list=PLQIrJ0f9gMcO9a52VkdEjtFr-N4ihNrnS
この再生リストのビデオ・スライドの文字情報は、次のページにあります。https://www.marulabo.net/docs/info-entropy3/
この間、「情報とエントロピー入門」、「情報とエントロピー」と、情報とエントロピーについてのセミナーを開催してきたのですが、今回はそのシリーズの三回目です。
20世紀は、科学・技術が飛躍的に発展した時代でした。特筆すべきは、20世紀前半の量子論・相対論の成立を画期とした科学的自然認識の拡大と、20世紀後半のコンピュータ・通信技術の成立・発展による、技術的情報世界の拡大です。
自然科学が対象とする「物質の世界」と、IT技術が対象にする「情報の世界」は、異なる世界のように見えます。ただ、21世紀の科学・技術は、この二つの世界の交差するところで発展するだろうと、丸山は考えています。 物質の世界と情報の世界という二つの世界を結びつける、重要な概念が「エントロピー」です。
21世紀の科学が、物質の世界と情報の世界のより深いつながりを明らかにするのなら、既に巨視的・日常的な世界で、物質の世界と情報の世界という二つの世界を結びつけているエントロピーが、量子の世界で果たしている役割を知ることは重要なことです。
−−−−−−----−−−−--−−−−-−−
https://youtu.be/IzIRfeY-JuA?list=PLQIrJ0f9gMcOZLKdK6IfNYLNClKCYoYWb
コメント
コメントを投稿