マルレク「マグニチュード論の展開」へのお誘い

【 マルレク「マグニチュード論の展開」へのお誘い 】

今月のマルレク　「マグニチュード論の展開」へのお誘いです。
今回のセミナーの概要を紹介します。

【 お詫び：タイトルを「マグニチュード論の展開」に変更しました 】

セミナーのタイトルを、「Bradleyのマグニチュード論」から「マグニチュード論の展開」 に変更しました。すみません。

当初、今月は、Tai−Danae Bradleyの論文”The Magnitude of Categories of Texts Enriched by Language Models” https://arxiv.org/pdf/2501.06662　を素材としてで、次のような構成を考えていました。

「Bradleyのマグニチュード論」
    Part 1  マグニチュード論の展開
    Part 2  LLMモデルの拡大　 　 （論文の第二セクション）
    Part 3  LLMとマグニチュード論 （論文の第三セクション）

今回のセミナーは、予告した内容の Part 1 を、一つのセミナーに独立させたものになります。

次回のセミナーは、今回入り口の前で止まってしまった「Bradleyのマグニチュード論」をキチンと紹介したいと思っています。新しいURLで「Bradleyのマグニチュード論」のまとめページを作りました。（Part 1 だけで未完に終わったページをうつしただけです。）

【 セミナー「マグニチュード論の展開」の構成 】

今回のセミナーは、次のような構成をしています。

「マグニチュード論の展開」
    Part 1  マグニチュード論の基礎
    Part 2  enriched カテゴリー論とマグニチュード
    Part 3  Lawvereのenriched カテゴリー論

以下、それぞれの内容を簡単に見ていきましょう。

【 マグニチュード論の基礎 】

このセクションでは、論理的にも歴史的にも、雑多なトピックが取り上げられています。「マグニチュード論の基礎」としていますが、このセクションの役割は、前回のセミナーと今回のセミナーをつなぐものです。ただ、個別のトピックは理解しやすいものだと思います。それらは、マグニチュード論の理解に役に立つものだと思います。

このセクションでは、論理的にも歴史的にも、雑多なトピックが取り上げられています。「マグニチュード論の基礎」としていますが、このセクションの役割は、前回のセミナーと今回のセミナーをつなぐものです。ただ、個別のトピックは理解しやすいものだと思います。それらは、マグニチュード論の理解に役に立つものだと思います。

このセクションでは、まず最初に（少し天下りです。ただ、その方が全体の見通しは良くなると思います）、マグニチュードの計算の基礎となる「行列のマグニチュード」の計算法を学びます。ここで導入される「重み付け」とその双対の「co重み付」の概念は基本的なものです。それは前回のセミナーのLeinsterの「生物多様性」の定義でも出てきていたものです。

次に（話は飛びます）、マグニチュード論のテキストの中でしばしば登場する「ゼータ関数」や「メビウス関数」という名前が、古典的・数論的な「リーマンのζ関数」と「メビウスのμ関数」に起源を持つものだという話をします。さらに遡って、両者の関係はオイラーの「ゼータ関数の無限積表示」を用いると明らかになるという話をします。またしてもオイラーが出てきます。ただ、その計算は初頭的なものです。

このセクションの最後は、現代のマグニチュード論の最初の論文と見なされている Leinsterの論文を紹介します。ただ、この論文ではマグニチュードという言葉は登場せず、それは「カテゴリーのオイラー特性数」として扱われています。前回のセミナーで見てきたシャニュエルのオイラー特性数の解釈が、現代のマグニチュード論につながっていることが述べられています。

【 enriched カテゴリー論とマグニチュード 】

このセクションの目的は、Leinsterのマグニチュード論の展開にとっても、また、今回のセミナーの本来のターゲットであったBradleyのマグニチュード論にとっても、両者にとって重要な数学的ツールである「enrichedカテゴリー論」の紹介です。
重要なことは、マグニチュードの理解には、こうしたカテゴリー論的なアプローチが不可欠だということです。

カテゴリー論の利用では、LLMの意味理解の構造の解明にカテゴリー論のco−presheafの概念を導入したBradleyの研究は画期的なものだったと思います。その点では、Leinsterのマグニチュード論とBradleyの新しいLLM論は、理論的土台の多くを共有していると、僕は考えています。別のセミナーで紹介する予定のCoeckeらのQNLP（量子コンピュータを使った言語理解の取り組み）も同じ土台に立っています。カテゴリー論という共通の武器を得て、さまざまな分野で同時多発的に進行する研究の展開は、21世紀の科学・技術の発展の大きな特徴です。

前半は、「enrichedカテゴリー論」の基本的な紹介に当てられています。後半は、enrich化されたカテゴリーのマグニチュードをどのように定義できるのかという話をしています。

【 Lawvereのenriched カテゴリー論 】

このセクションでは、こうした展開を明確にビジョンとして持っていただけでなく、そうしたカテゴリー論の概念装置を数多く作り上げた数学者Lawvereの研究の一部を紹介します。

enrichedカテゴリー論とその応用について、最大の貢献者の一人は、Lawvereだと思います。前回のセミナーで紹介したシャニュエルは、Lawvereの共同研究者でした。現代のマグニチュード論は、Lawvereのビジョンにその多くを負っています。

ここでは、彼の「一般化された距離空間」の概念を紹介します。

−−−--−−−−−−−−−-------−−−−−
セミナーへの申し込みページ

blog 「 マルレク「マグニチュード論の展開」へのお誘い 」
https://maruyama097.blogspot.com/2025/10/blog-post_21.html

スライド「 マルレク「マグニチュード論の展開」へのお誘い 」のpdf ファイル
https://drive.google.com/file/d/14_W5T1QUgPxFHoO9mcXTEBWP5KfwA0NM/view?usp=sharing

セミナーのまとめページ
https://www.marulabo.net/docs/llm1bradley/

セミナーに向けたショートムービーの再生リスト
https://www.youtube.com/playlist?list=PLQIrJ0f9gMcMBg47ryEOaF7o6TDZgipNN

ショートムービー「 マルレク「マグニチュード論の展開」へのお誘い 」
https://youtu.be/eTb7_8lswtc?list=PLQIrJ0f9gMcMBg47ryEOaF7o6TDZgipNN

コメント

コメントを投稿

このブログの人気の投稿

初めにことばありき

旧約の「創世記」の「光よあれ」は、ビッグバンを思わせて、物理学者はちょっと萌えるかもしれないのだが、新約の「ヨハネによる福音書」には、言語学者が喜びそうなフレーズがある。 「初めに言があった。言は神と共にあった。言は神であった。」 僕が知っていたのは、「はじめにことばありき」という訳だったのだが。この口語訳での「言」は、英訳だとこうなっている。 "In the beginning was the Word, and the Word was with God, and the Word was God." 「言」= "Word" である。はじめにあったのは、Wordであって、Language ではない。だから、新しい口語訳では、普段、あまり馴染みない「言」という訳語を使ったのかも。「初めに語があった」では、なんかしまらないんだろうな。（僕は、「はじめにことばありき」というフレーズの方が好きだ。） ちなみに、「ヨハネによる福音書」は、英語では、"Gospel of John" という。「ジョンのゴスペル」である。でも、そう日本語に訳してしまうと、ジョン・レノンがバラードではなく、ゴスペルを歌っているようで、まずいんだろうな。 「ことば」・「言」・"Word" と訳されている、元々の言葉を調べてみると面白い。 キリスト教のオーソドックスな原典であるラテン語訳聖書では、この部分は、こうなる。 "In principio erat Verbum, et Verbum erat apud Deum, et Deus erat Verbum" 「イン・プリンキピオー・エラト・ウェルブム」 英訳 Word のラテン語の原語は、Verbum である。この単語、英語に直訳すれば、Verbである。「初めに、動詞があった。」　言語学の「従属性文法 (Dependency Grammar) 」理論の人たち、喜びそう。 もっとも、英語のVerbは、元々は、動詞というより広く言葉全体をさしてたらしい。そのことは、「ノンバーバル・コミュニケーション (Non-Verbal Communication) 」というのが、動詞を使わないコミュニケーション...
続きを読む

密度行列とは何か？

これまで、量子の状態をベクトルで表現してきました。例えば、量子ビットの状態は、状態ベクトルで表せば、|qubit> = a|0>+b|1> と、二つの状態ベクトルの「重ね合わせ」（ベクトルの和です）で表現されました。 それに対して、密度行列は、量子のシステムの状態を行列で表現したものです。では、どの　ようにしてベクトルで表される量子の状態を、行列で表すのでしょう？ 次のように考えます。ある量子システムで、状態|ψ_i>である確率をp_iとしましょう。この時、確率p_iを成分とする行列を考えます。 |qubit> = a|0>+b|1> の場合なら、|0>である確率p_0は |a|^2で、|1>である確率p_1は |b|^2になりますので、p_0とp_1、すなわち、|a|^2と|b|^2を成分とする行列を考えることにします。 ここでは、ベクトルの外積が行列になることを利用します。それでは、外積で作られる行列のどこにこの成分を割り当てるか考えましょう。うまい方法があります。 外積 |0><0|は、0行0列目の成分だけが1で、残りの成分は全て0の行列です。同様に、外積|1><1|は、1行1列目の成分だけが1で、残りの成分は全て0の行列です。 この時、p_0|0><0| + p_1|1><1|という行列として密度行列を定義します。0行0列目の成分がp_0で、1行1列目の成分がp_1の行列です。 　● 状態ベクトルを使った表示 　　　|qubit> = a|0>+b|1> 　● 密度行列を使った表示 　　　ρ = p_0|0><0| + p_1|1><1| = |a|^2|0><0| + |b|^2|1><1| 状態ベクトルを使った表示に出てくる a, bは複素数ですが、密度行列を使った表示に出てくる p_0, p_1 は、確率ですので 0と1の間に値を持つ実数です。これは、二つの表示スタイルの大きな違いです。 密度行列を作るのに利用した、確率 p_iと状態|ψ_i>のペア { p_i, |ψ_i> }の集まりを、「pureな状態のアンサンブル」といいます。その意味は、この量子システムで、状態|ψ_...
続きを読む

「複雑性理論」は「複雑系」の議論とは別のものです

イメージ
「複雑性理論」を、以前に少し流行したことのある「複雑系」の議論と同じものだろうと誤解されていることに、最近気づきました。当然ありうる誤解なのに、迂闊でした。 確かに、対象が「複雑さ」だと思えば、一部分は重なるところもあるのですが、「複雑性理論」と「複雑系」の議論は、まったく違うものです。 現在の「複雑性理論」の歴史をたどると、二つの起源にたどり着きます。 一つは、20世紀初頭からの数学の基礎付けをめぐる探求です。ヒルベルトの「有限の立場」にはじまり、ゲーデルの「不完全性定理」が衝撃を与え、「チャーチ＝チューリングの提言」で「実効的な」「計算可能性」概念が、いったん定式化されるといった一連の流れです。 もう一つは、20世紀の中盤以降、コンピュータ技術が爆発的に発達する中で生まれた「計算量理論」「計算複雑性理論」です。そこでの最大の気づきは、「実際に」コンピュータで計算できるものを考えると、「多項式」で表現される計算時間と、「指数関数」で表現される計算時間とには、「質的」な違いがあるのではというものでした。（この計算複雑性理論の中心的な問題である「P=NP？問題」は、今に至るも解決されていません。） 二つの流れは、別々のものでした。 前者は、人間の数学的認識の原理的「限界」に関わるもので、後者はコンピュータによる計算の具体的「限界」に関わるものです。 ただ、人工知能をめぐる基本的な問題が、最終的には、人間の知能の機械による実現は可能かということであるなら、両者は結びつきます。なぜなら、人工知能は人間の数学的認識をも実現するものでなければならないし、それはまた、実際のコンピュータ上で実装されなければならないからです。 人間の知能の本質を、「計算」として捉える立場を、「計算主義」と言います。それは、現在のディープラーニング技術が、よって立つ、「コネクショニズム」とは異なる立場です。僕は、人工知能論では、この「計算主義」の立場に立っています。それは、コネクショニズムは、数学的認識に関しては、無力だと考えているからです。 現代の複雑性理論には、第三の起源があります。 理論史的には、それは、ファインマンによる「量子コンピュータ」の提唱にはじまるものです。 ただ、その背景には、とても重大な認識の発展があります。それは、全ての情報過程が...
続きを読む