過去・現在・未来

【 MaruLabo「エンタングルメント関連ページ」を作成しました 】 この間の、MaruLabo でのエンタングルメントに関連したトピックを取り上げたセミナーのまとめページ「エンタングルメント関連ページ」を作成しました。ページのリンクだけでなく、それぞれのコンテンツの見出しにもリンクを張りました。ご利用ください。 　 https://www.marulabo.net/marulabo-entanglement/ 現在、少しずつですが、MaruLabo のホームページの改善を進めています。 これまでのMaruLaboのページは、ビデオのコンテンツを前面に出していたのですが、これからは、まず、pdfの資料にアクセスしやすいページにしようと考えています。 同時に、YouTubeのコンテンツについては、「チャプター機能」を利用して、動画の必要な場所に、すぐジャンプできるようにしていきたいと考えています。 今回、「エンタングルメント」に関連して、細かなリンクとチャプターのタイムスタンプを作成できたのは、次の二つのページだけです。全体については、作業を進めますので、少しお待ちください。 　● 「エンタングルメントで理解する量子の世界 https://www.marulabo.net/docs/entangle-talk/ 　● 「密度行列 ρ で理解する量子の世界」 https://www.marulabo.net/docs/rho-talk/ 何年か前に、IT技術者を対象として量子論の基礎と量子ゲートの働きを教えたことがあるのですが、その人たちに次のステップとして、「エンタングルメント」を基礎から解説しようと思っています。もちろん、あたらしい人、歓迎です。

【 MaruLabo「エントロピー関連ページ」を作成しました 】 この間の、MaruLabo でのエントロピーに関連したトピックを取り上げたセミナーのまとめページ「エントロピー関連ページ」を作成しました。ページのリンクだけでなく、それぞれのコンテンツの見出しにもリンクを張りました。ご利用ください。 　https://www.marulabo.net/marulabo-entropy/ 現在、少しずつですが、MaruLabo のホームページの改善を進めています。 これまでのMaruLaboのページは、ビデオのコンテンツを前面に出していたのですが、これからは、まず、pdfの資料にアクセスしやすいページにしようと考えています。 先のコンテンツへの細かなリンクの設定も、ビデオを「見てもらう」ページから、資料を「読んでもらう」ページに重点を移すのに役立つと思っています。ビデオを開かなくても、簡単に資料の一部分を確認することができます。 資料のpdf Viewer は、画面にカーソルをおけば、上下に資料のスクロールが可能です。 もちろん、動画の配信は引き続き頑張っていこうと思います。 MaruLaboのページからも、資料のタイトルをクリックすれば、すぐにYouTubeが開きます。 動画中心にアクセスしたい方は、丸山のYouTubeチャンネル "Maruyama  Lectures" https://www.youtube.com/c/MaruyamaLectures の方が便利かもしれません。こちらへのチャンネル登録、よろしくお願いします。 ======================= 先の「エントロピー関連ページ」は、次のページたちへのポインターになっています。 是非、資料として、ご利用ください。 　● 「情報とエントロピー入門」 https://www.marulabo.net/docs/info-entropy/ 　● 「情報とエントロピー」 https://www.marulabo.net/docs/info-entropy2/ 　● 「量子情報とエントロピー」 https://www.marulabo.net/docs/info-entropy3/ 　●  「量子、情報、物理 — 量子情報と物理学入門 」https://www.marulabo.

【 Deep Learning と相対エントロピー 】 11/26 マルゼミ「認識について2 -- 認識の認識 –」の第二部「認識の発展のモデル」の資料です。ご利用ください。 ページの構成変えました。下のリンクに飛べば、pdfのviewerに着地しますので、そのままでスライドの資料が読めます。viewerのタイトルをクリックすれば、YouTube 動画をみることができます。お試しください。 https://www.marulabo.net/docs/philosophy02/#Deep_Learning_%E3%81%A8%E7%9B%B8%E5%AF%BE%E3%82%A8%E3%83%B3%E3%83%88%E3%83%AD%E3%83%94%E3%83%BC 本投稿のもっと詳しい情報は、こちらです。 https://www.marulabo.net/docs/philosophy02/ ====================== 11/26 マルゼミへのお申し込みは、次のページからお願いします。 https://philosophy02.peatix.com ====================== 【 「学習」のBayesian的解釈 】 前回見た「認識の発展」解釈とは逆に、もしも、最初から正しい分布q を、何らかの方法で我々が知っていて、実験 𝑝(𝑡)を繰り返すのなら、 H(𝑞||𝑝(𝑡)) は、実測値𝑝(𝑡)から、正しい答えq に至るために「学習しなければいけない情報量」を表すことになります。 q は、「常に正しい」と仮定しているので、それは時間には依存しません。qは、tを含まないことに注意してください。 ここでは、 H(𝑞||𝑝(𝑡))=0 は、「もはや、学習すべき情報が残されていない」ことを意味して、その状態で、学習は終わります。 【 クロス・エントロピー 】 ディープラーニングでコスト関数として利用される「クロス・エントロピー」は、こうした「相対エントロピー」の一種です。 「正しい」分布をq、実測値を pとしたとき、クロス・エントロピー 𝐻_𝑐𝑟𝑜𝑠𝑠 (𝑞, 𝑝)は、次の式で定義されます。 　　𝐻_𝑐𝑟𝑜𝑠𝑠 (q, p)  = ∑  q_i  log ⁡p_i   シャノン・エントロピー H

【 グロタンディーク七周忌 】 7年前の今日、グロタンディークが亡くなった。 日本風に言えば、今日が七周忌だ。 もっとも、そんなこと覚えていたわけではない。 Facebookの「過去のこの日」「思い出」というページに、7年前の僕の短い投稿が残っていた。 ---------------------------------------- グロタンディークがなくなった。 Toposも、最近のHomotopy Type Theoryも、彼なしには生まれなかったと思う。ただ、それは彼の仕事が及ぼした影響の一部に過ぎない。彼のビジョンは、今もまだ、生きている。 東京から稚内に行こうとしたとき、友人が、SGAをプレゼントしてくれた。 一番嬉しいたむけだった。 冥福を祈る。 ---------------------------------------- Facebookの「過去のこの日」の機能は、素晴らしい。なんせ、自分が忘れたことを覚えてくれているのだから。でも、グロタンディックが亡くなってから、Facebookに彼について投稿したことを思いだした。 Facebookへの投稿は、タイムラインの流れとともに消えていく。改めて、シェアし直したところで、やはり、いっときは何人かの目には止まるだろうが、やはり消えていくだろう。悪いことに、自分だって何を書いたのか忘れてしまうこともある。すこし、虚しいと思う。 いくつかのFacebookへの投稿を、自分のblogに再収録しようかなと思っている。 グロタンディック 追悼投稿 「無言の誓い」 　 「有名な数学者も間違える」 丸山 blog https://maruyama097.blogspot.com/

難しい論文を、ウンウンわかったつもりになって読み進んでいたら、途中で「なんちゃって」とか「うそピョーン」とか書かれていれば、やる気は失せるだろう。 1983年のグロタンディックの仕事 ‘Pursuing Stacks’ は、ある分野（presheaf Topos）のホモトピー論について、非常に多くの問題を論じている。それは、600ページもある。グロタンディックは、数週間にわたって、夜通しタイプライターに向かっていたと思う。 グロタンディックだって、疲れがたまれば間違いを犯す。朝になると、グロタンディックは、前夜に行った証明・説明の誤りに気づく。ただ、彼は、前夜の間違いを草稿から消そうとせず、それはそのままにして、訂正された証明・説明を朝には草稿に付け加えて、仕事を続けたのだ。 グロタンディックのこの草稿を、どのような形で世に出すべきかで、ローヴェールとグロタンディックで意見の違いが起きてしまう。ローヴェールは、良心的な編者としては、間違った部分は削除し、それについては編者のコメントをつけて出すべきだと言ったのだが、グロタンディックは、草稿の間違いをそのまま残すことに固執した。 その理由が面白い。 「そうすれば、学生たちに、有名な数学者でさえ間違いを犯すということを学ばせるいい機会を提供することになる。」 ローヴェールは反対する。学生に提供すべきは、そんなことではなく、この本をちゃんと学生たちに読んでもらう機会を作ること。科学的な対象は、それでなくとも学ぶのが難しいのに、罰ゲームみたいな回り道を学生にさせる必要はないと、譲らない。 両者の議論は平行線で（そういえば、二人とも頑固そう）、結局、ローヴェールが編者になって、グロタンディックの‘Pursuing Stacks’ を出版するという世紀のプロジェクトは幻に終わった。 （僕が、そうした試みがあったことに、ようやく気づいたのは、今年の夏だった。もっとも、2013年のローヴェールの発言 "FAREWELL TO AURELIO" http://www.acsu.buffalo.edu/~wlawvere/FarewellAurelio.htm   まで、そのことを知っていた人は、ほとんどいなかったはずだ。） ただ、無茶振りをしているかに見える、グロタンディックの「数学者も間違える」ものだという認識は

グロタンディックに頼まれたカルボーニは、自分のアルファ・ロメオにローヴェールを乗せ、南仏の田舎のラベンダー畑の中のグロタンディックのボロ家に、彼を連れて行った。1989年のことだ。 2013年にカルボーニが亡くなった時、ローヴェールは、追悼文の中で、今まで知られてなかった事実を、初めて明かしている。 この時、グロタンディックはローヴェールに、自分が書きためた "Pursuing Stacks" の草稿の編集と出版を引き受けてもらおうとしていたというのだ。僕はローヴェールの「おっかけ」だったので、この「人選」は妥当なものだと思う。 （IT業界でたとえれば、ビル・ゲイツとスティーブ・ジョブスが、大事なビジネスの話で密会したようなもの） グロタンディック後期の代表的な論稿 "Pursuing Stacks" は、1983年頃に書かれたものだ。ただ、数学のアカデミーに背を向け田舎に隠棲していたグロタンディックのこの草稿の存在が広く知られるようになったのは、1990年代に入ってからだと思う。それは、草稿のコピーの形で人から人へと回覧された。 ローヴェールとグロタンディックの1989年の話に戻るが、面白いのは、この時、グロタンディックは、宗教的な「無言の誓い」の行の真っ最中で、話すことも数学について語ることも自分に禁じていたらしい。 人に頼みごとをしようとしていて、「無言の誓い」もないものだが、こんなすれ違いが起きるのは、グロタンディックの家には、電話がなかったからだと思う。（ビル・ゲイツが貧乏で、電話を止められていたと思えばいい。） でも、ローヴェールの突然の訪問が、嬉しくないわけはない。グロタンディックは、紙に "Bill !" と書いて、ローヴェールに示したという。 二人が会って数学の話をしないわけはない。数学については語らないというグロタンディックの誓いを、彼は自分で破ることになる。でも、しばらくは、筆談で数学の話をしたらしい。 最初から前途多難だが、まだ、続きがある。それについては、次回に。 ============================= 4年前( 2017年11月19日  )のFBへの投稿から

【 prior と posterior で認識の発展を記述する 】 11/26 マルゼミ「認識について2 -- 認識の認識 –」の第二部「認識の発展のモデル」の資料です。ご利用ください。 ページの構成変えました。下のリンクに飛べば、pdfのviewerに着地しますので、そのままでスライドの資料が読めます。viewerのタイトルをクリックすれば、YouTube 動画をみることができます。お試しください。 https://www.marulabo.net/docs/philosophy02/#Prior%E3%81%A8Posterior%E3%81%A7%E3%80%8C%E8%AA%8D%E8%AD%98%E3%81%AE%E7%99%BA%E5%B1%95%E3%80%8D%E3%82%92%E8%A8%98%E8%BF%B0%E3%81%99%E3%82%8B 本投稿のもっと詳しい情報は、こちらです。 https://www.marulabo.net/docs/philosophy02/ ====================== 11/26 マルゼミへのお申し込みは、次のページからお願いします。 https://philosophy02.peatix.com ====================== 【 相対エントロピーの直観的意味】 直観的に言えば、相対エントロピー H(q||p) は、あるシステムが確率分布 p に従っているという仮説的認識から出発して（これが ‘Prior’ です）、 その後、そのシステムの「正しい」あるいは「実際」は、確率分布 qに従っていることを学んだ（これが‘Posterior’）時に、得られる情報量です。 【 コイン・トスを例に相対エントロピーを計算する 】  Case 1:例えば、コイントスに使われるコインが、かたよりがなく公正なものだという仮定から出発して、実際に、コインの表がでたとすれば、その相対エントロピーは、log 2 となって、我々は1bitの情報を得たことになります。 Case 2:しかし、コインは常に表が出るという仮説から出発すれば、表が出たとしても、我々の得る情報、すなわち相対エントロピーはゼロになります。 【 PriorとPosteriorで「認識の発展」を記述する 】 認識のある段階で、我々はあるシス