投稿

ラベル(Phylosophy)が付いた投稿を表示しています

関数の増大のイメージとBig O記法

イメージ
先に、「\(n^2\) あるいは\(n \log(n)\)に対応した計算複雑性を考えることは、もちろんできます。\(n^2\)は、多項式時間のPに属しますが、\(n\log(n)\)は、nの多項式ではありません。Pとは別の、\(n\log(n)\)という計算複雑性を考えることは可能です。」と書きました。 ここでは、ある関数f(n)が、nが増えるにつれてどのように増大するかを具体的に見ておきましょう。次の図を見てください。 ここでは、次の8つの関数が表示されています。\(n!,  2^n,  n^2, n\log{n}, n, \sqrt {n}, \log {n}, 1 \) \(n!,  2^n,  n^2, n\log{n} \)が nと比べて急速に大きくなることがわかります。それでも、\(n! > 2^n >  n^2 > n\log{n} \)ですね。nが大きくなるにつれて、その差はもっと大きなものになります。例えば、n=10の時、\(2^n\)は1024ですが、\(n^2\)は100、\(n\log{n}\)は、10の自然対数は、2.302... ですので、約23になります。 二つの関数 f(x)とg(x)があって、xがある値以上の時、ある正の定数cが存在して、常に f(x)よりcg(x)が大きい時、\(f(x) \in O(g(x))\)と表します。これをBig O記法と言います。イメージとしては、関数の値の増大に一番寄与している項を上限として取り出したものです(他の項は捨てます)。関数の定数倍の定数cも捨てます。 例えば、\(f(x)=4x^3-2x^2+5 \)という関数のBig O 表記を考えましょう。xが大きくなるにつれてf(x)の値の増大に一番寄与するのは、\(4x^3\)の項です。\(f(x)=O(4x^3)\)ですが、この定数の部分も省略して、\(f(x)=O(x^3)\)と表すことができます。 この表記で、多項式中のnの最大次数をkとして、多項式 poly(n)は、\(O(n^k)\)と表すことができます。

長い長い計算

 複雑性理論で、もっとも基本的なクラスは、「多項式時間で計算可能なクラス P」です。このクラスは、人間にとってコンピュータで実際に計算できる計算と、ほぼ同じものです。 「人間にとって」というのが、奇妙におもわれるかもしれませんが、これはこれで大事なことです。見かけは単純に見える問題でも、アルゴリズムによっては、その計算には信じられないほど長い時間がかかる計算があります。人間は、多分、計算終了まで待つことができません。 だいぶ前になりますが、一部では話題になった動画があります。「『フカシギの数え方』 おねえさんといっしょ! みんなで数えてみよう!」 https://www.youtube.com/watch?v=Q4gTV4r0zRs 是非、ご覧になってください。 こうした問題を「数え上げ問題」というのですが、複雑性理論で個数の数え上げが、重要な意味を持つことを初めて示したのは、日本のコンピュータ・サイエンティスト 戸田誠之助 氏です。彼は、日本人で唯一人のゲーデル賞の受賞者(19998年)です。

「多項式時間」について

ここでは複雑性理論での「多項式時間」について話してみようと思います。 \(xもx^2もx^3もx\)の多項式です。もっと一般に、\(a_0+a_1x+a_2x^2+a_3x^3+...+a_nx^n \)の形の式を「xの多項式関数」と呼びます。それぞれの項が、\(x^n\)に係数\(a_n\)が掛かった形をしていて、それらの和で表される関数です。xの多項式関数を\(poly(x)\)で表します。 ただ、\(2^xや3^x\)は、xの多項式とは呼びません。\(a^x\)は、aについてみればaの多項式ですがxについてみればxの多項式ではありません。変数xが「x乗」の形である項の肩に現れる関数を「xの指数関数」と言います。 複雑性の理論では、多項式時間で計算される問題のクラスを Pで表します。 ただ、いくつか注意すべきことがあります。 第一に、何についての多項式かを決めておく必要があります。1+1よりは、1000+1000の方が計算には時間がかかります。一般に、入力に与えられるデータが単純なものより複雑なものに計算には時間がかかるはずです。入力の大きさをnで表した時、計算時間をnの関数\(f(n)\)で表します。「多項式時間で計算される」というのは、入力の大きさをnとする時、その計算時間が、多項式\( poly(n)\)で表せるということです。 第二に、注意すべきことは、計算量を時間ではかるには、二つのやり方があるということです。一つは、実際に実行時間を実時間ではかるやり方です。もう一つは、たとえて言えば、コンピュータで何クロックその処理にかかるのかをはかるやり方です。 複雑性理論での時間計算量は、後者のアプローチをとります。計算を、基本的な要素に分解して、その基本操作の何ステップで処理が終わるかで、時間をはかります。正確な定義は後で述べますが、直感的にいうとチューリングマシンの一命令の実行を時間の単位にします。 そうすると面白いことが起きます。 ある問題が多項式時間で計算される複雑性のクラスPに属するとします。ムーアの法則で、コンピュータの処理速度が指数関数的に増大したとしても、基本動作が早くなるだけで、処理に必要なステップが短くなる訳ではありません。ですので、実際の実行時間がいくら速くなっても、その問題が多項式時間のクラスPに属することに変わりはありません。 もっと面

複雑さについて

イメージ
私たちの認識は単純なものから複雑なものに進みます。世界は複雑なものであふれているので、我々の認識もどんどん複雑になっていきます。ただ、こうした私たちの認識の前進がいつまでも続くとは限りません。私たちの認識は、しばしば、複雑さの前に立ちすくみます。複雑なものを理解するのには、長い時間と膨大な知識の集積が必要であることは、科学の歴史を見れば分かります。 僕は、対象の複雑さと認識の複雑さは同じものだと考えています。そうした認識は「複雑さ」そのものを対象とした認識が可能だということを意味します。現代の計算科学のもっとも活発な研究分野はの一つは「複雑性理論」なのですが、そうした理論が登場したことの意味は、そう考えれば、よく理解できると思います。 今回のセミナーでは、様々なチューリングマシンの拡大と複雑性のクラスの対応を紹介したいと思います。次のようなチューリングマシンを取りあげます。 https://turing-complex.peatix.com/view  ● 決定性チューリングマシン  ● 非決定性チューリングマシン  ● 確率性チューリングマシン  ● 量子チューリングマシン 先に、「複雑なものを理解するのには、長い時間と膨大な知識の集積が必要である」と書きましたが、このチューリングマシンによる複雑さのモデルでは、複雑なものを理解するのに必要な「長い時間」がチューリングマシンの「計算時間」に、「膨大な知識の集積」がチューリングマシンの「テープの長さ」に対応すると思って構いません。 「そんな単純化で大丈夫か?」 確かに。 もちろん、科学の歴史をチューリングマシンに喩えようと思っているわけではありません。ただ、こうした単純化(「抽象化」は、単純化に他なりません)された切り口が、「認識の有限性と対象の無限性」「古典論と量子論」「決定論と確率論」といった認識の大きな問題にアプローチする一つの有効な手段を提供するという話ができればと思っています。

有限の「限界」を考える

有限と無限は対の概念です。英語でも、"finite"と "infinite" と対になっていますね。ただ、有限と無限の対比の仕方は、日本語と英語とでは、少し違います。日本語では、有限は「限界があるもの」で、無限は「限界がないもの」ですが、英語では、「無限」は「有限でないもの」です。日本語の方が、定義が踏み込んでいます。 ここでは、「限界がある」という有限の定義で、有限には、どんな限界があるのかを考えてみましょう。 有限の身近なモデルとして、自然数を考えましょう。ある具体的な自然数nを考えて、nは有限であると考えることは自然なことのように思われます。具体的な自然数を有限のモデルだとして、今度は、有限の「限界」を、どんな自然数nに対しても、n < N なるNが存在することだと考えましょう。有限な自然数には、大きさで超えられない壁があって、それが有限の「限界」だと考えるということです。 ただ、この有限の「限界」の特徴づけは、いくつか奇妙なところがあります。 限界Nが存在して、それが自然数だとします。その時、N+1も自然数で、N < N+1 ですので、限界はNではなく、N+1になります。これは矛盾です。ですから限界Nが、自然数だと考えることはできません。これは、素直に考えれば、最大の自然数は存在しないということです。また、それは、具体的に与えられた自然数nより大きい自然数は「無限」に存在することを意味します。 先に、ユークリッドが素数が無限に存在することの証明を、無限という言葉を使わずに行ったと書きましたが、彼が行ったのは、次のような証明です。基本的には、上と同じ論理です。 最大の素数pが存在するとする。p以下の全ての素数の積に1を加えた数をPとする。Pは、全ての素数で割っても、1が余って割り切れない。よってPは素数で、p < P で、pは最大の素数ではない。これは矛盾。よって、最大の素数は存在しない。 色々奇妙なところもあるのですが、「具体的に与えられた自然数=有限」というモデルを維持することにこだわりましょう。このモデルは、自然なものにおもえますので。 それでは、この有限のモデルで、その「限界」は、どう考えればいいのでしょう? 次のようなωを考えます(先に見たように、ωは自然数ではありません)。    「全ての自

無限について

無限は、古来から、多くの哲学的・数学的な関心を引き付けてきました。 時間や空間が連続的で無限であると仮定すると引き起こされる「ゼノンの逆理(アキレスはかめに追いつけない)」は有名ですね。 ユークリッドは、素数が無限にあることを証明したのですが、その証明では、慎重に、「無限」という言葉を使うことを避けました。アリストテレスは、もっと踏み込んで、無限について語っています。彼は、無限を「実無限」と「可能的無限」に分けました。 数学では、連続と無限の問題は、ニュートンやライブニッツが微積分法を始めた時にも、「無限大」「無限小」の概念を巡って大きな議論が巻き起こりました。現代の数学の出発点の一つであるカントールの集合論は、無限についての数学といってもいいのですが、ここでも多くの論争がありました。 20世紀になっても、超限解析(Non-Standard Analysis)の登場や、連続体仮説の独立性証明といったトピックでも、議論は尽きません。 物理学についても、現代の物理学の歴史を「連続的なものとの格闘」という視点から振り返った数理物理学者のJohn Baezは、次のように述べています。"Struggles with the Continuum"  https://johncarlosbaez.wordpress.com/2016/09/08/struggles-with-the-continuum-part-1/ 「すべての主要な物理学の理論は、時空が連続的なものであるという想定から生まれる数学的問題に対する挑戦であることを、この一連の投稿でみてきた。連続的なものは、無限によって、我々をおびやかす! これらの無限は、これらの理論から予測を行う我々の能力を脅かすのだろうか? あるいは、これらの無限は、こうした理論を正確な形で定式化する我々の能力さえも脅かしているのであろうか?」 こうした無限と連続をめぐる議論は、とても興味深いものです。昨年発見された、MIP*=RE定理も、こうした議論に一石を投じることになるのは確実です。ただ、今回は、そうした議論の紹介は、割愛します。 と言いますのは、今回フォーカスしたいのは、複雑性理論での無限と有限の捉え方だからです。誤解を恐れず単純化していうと、複雑性理論は無限を直接の対象とはしません。複雑性理論がまず関心を持つのは、

「楽しい数学」「同じ」を考える--「型の理論入門」

明日開催の「楽しい数学」「同じ」を考える--「型の理論入門」 https://mathnight4.peatix.com/   の講演資料です。ご利用ください。 https://goo.gl/nbrFcU 本資料の第三部は、次次回開催のマルレク「コンピュータで数学する -- Yet Another AI」につながっていきます。この分野に興味のあるかた、目を通しておいてもらえますか?  ------------------  「はじめに」から  ------------------ 「同じ」あるいは「同じではない」という判断は、知覚にとっても認識にとっても、最も基本的な判断の一つである。認識の対象が、自然であれ、人間であれ、あるいは、思惟が産み出す抽象的な概念であれ、その認識の土台には、対象の「同一性」についての判断があるように思う。 小論の第一部では、まず、日常の生活の中にも現れる「同じ」をめぐる問題を、いくつかのサンプルで考えてみようと思う。その後で、「哲学者」たちが、こうした問題をどのように考えていたのかを、きわめて簡単に振り返ろうと思う。 残念ながら、小論は、「同一性」についての、「哲学的」議論を紹介することを目的とはしていない。ただ、第一部での議論を通じて、日常の中にも、浅からぬ哲学への入り口が存在していることを意識することを楽しんでもらえれば嬉しいと思う。 小論の第二部では、20世紀の科学が、すくなくとも自然認識の領域では、「同一性」概念の大きな変化を引き起こしたことを述べようと思う。 相対論は、宇宙規模の巨大な空間では、時間の「同時性」が成り立たないことを示し、量子論は、極めて微小な領域では、すべての物質と力は、「同じ」性質を持つ不断に変化する素粒子の運動として記述できることを示した。同時に、両者ともに、その法則性は、ある種の「不変性」として記述される。 物理的な「同一性」は、基本的には「情報」の「同一性」として表現されるのだが、この分野でも、量子情報理論の発展は、エンタングルメントや量子テレポーテーションといった、「同一性」にかかわる思いがけない知見を我々にもたらしている。 小論の第三部は、数学での「同一性」にまつわる議論を、「型の理論」の成立と発展を中心に概観したものである。 「

応用カテゴリー論と環境問題

バエズの地球環境への関心が、彼の「応用カテゴリー理論」とどのように結びついているかの話をしようと思う。 バエズは、数学者に何ができるだろうかと自問する。彼は、それを「有限な地球上の生命に必要とされる数学を作り上げること」だと考える。 それは、どのような数学か? 彼の考えの飛躍のポイントは、「ネットワーク」への注目にある。 「環境システムを理解するということは、最終的には、ネットワークを理解すると言うことになるだろう」 「我々は、環境システムから、素粒子物理からと同じように数学的なインスピレーションを得ることができる。そして、我々がそこで見いだすことは、もっと役に立つだろう」 「エンジニアも化学者も生物学者もそのほかの人たちも、ネットワークを記述するのに、多くの異なった図的な言語を利用している。我々は、今、それらをカテゴリー理論で統一しようとしているのだ!」 この7年間、バエズを中心とするグループが、カテゴリー論の「応用」を目指して行ってきた研究分野は、きわめて広範で、かつ実践的なものである。  ・ 信号の流れのグラフと電子回路図  ・ ペトリ・ネットと化学反応ネットワーク  ・ ベイジアン・ネットワークと情報理論 もちろん、これで全てではない。ちなみに、この間僕が紹介してきた、Coeckeの"String Diagram"による量子論の書き換えの試みも、形式意味論でのDisCoCatの取り組みも、バエズの言う「応用カテゴリー論」の一部である。 技術とその基礎としての科学の接点は、今、大きく変わりつつある。その目覚ましい変化の中心の一つに、カテゴリー論の「応用」があるのだと考えている。バエズが「21世紀の数学」というのは、そのことを指しているのだと思う。 僕は、ITの世界には長くいるし、「ネットワーク」と言う言葉を、何度も何度も使ってきたのだが、残念ながら、こうしたパースペクティブで「ネットワーク」という概念を捉えたことがなかった。 もっと恥ずかしいことなのかも知らないが、若い優秀な技術者に、「先生、そんなんでいいんですか」と言われるほど、環境問題には無関心だった。 数学理論としてのカテゴリー論の初歩は、僕は理解できるのだが。 いつもなら、「まあ、いいか」で終わるところだが、まあ、そう言う

マリア・パポーヴァの新刊

Brain Pickingのマリア・パポーヴァの本が出るというので予約する。 kindle版がハードカバーより高い値付けになっていた。これは初めての経験。彼女のようなBlogベースで活動してきた人の読者は、ディジタルに抵抗ないんだろうなとも思う。 "Figuring" という題名の本だ。僕が、直前に買った本が "Picturing ... "という題名の本だったのが、僕には面白かった。 きっと、みんな何かを新しい角度から理解しようとし、理解したものを説明したいのだと思う。今の時代、その「何か」は、部分的・個別的なものではなく、全体的で、一見すると連関が明らかではないものだ。それは、世界が変わるという「予兆」を、感じているからだと僕は思う。 マリアはいう。 「この本は、さまざまの複雑さと多様さ、そして愛のさまざまな矛盾について語っています。また、この400年を通じて、真理と意味と超越性について人間が行ってきた探求について、歴史的な人物達がおりなした人生を通じて語っています。」 彼女が、僕には興味ふかいのは、広い教養と詩人の心を持ちながら、科学に対する愛情を失っていないということ。この本の表紙を飾っているのは、ブラックホールだ。内容も、ケプラーに始まりレイチェル・カールソンで終わるらしい。 感性と科学性の両立はとても大事なことだと僕は思っている。その点で、彼女は、新しいタイプの文化人だと思う。 ブルックリンで活動する彼女は、ブルガリア生まれだ。ハラリもそうだが、現代の文化・文明の総体を相対化するのは、「周縁」からの視点なのだと思う。 あるいは、昨日も書いたのだが、歴史の「メインストリーム」にしがみつく男性に代わって、これからますます女性の果たす役割が大きくなるということなのかもしれない。 「私は、棚の上のバナナのように売れる本を世に出すことに興味はありません。この本が、本棚に長く置かれる本になることを望んでいます。」 そうなんだ。だったら、僕もkindle版じゃなくて、ハードカバーを買ったほうがよかったんだ。ポチってしまったので、もう間に合わない。 しょうがない。今日は、バナナを買おう。

1/8 マルレク「意味の形式的理論」資料公開

明日のマルレクの講演資料です。 https://goo.gl/CPXndH  ご利用ください。資料長いのですが、背景がピンクのスライドをザッピングすれば、大まかな流れは伝わると思います。 ---------------- 「はじめに」 ---------------- 人工知能技術にとって、自然言語の意味の理解は、重要な課題である。小論は、自然言語の意味を形式的に把握しようという試みを概観したものである。 第一部では、まず、現在の主要な三つの自然言語処理技術の現状を紹介し、あわせて、言語の意味理解にフォーカスして、様々な取り組みを取り上げた。 こうした技術を評価する上で、筆者の取っている基本的な視点は、次のようなものである。   文と意味の「構成性(compositionality)」   意味の「同一性」 / 意味の共通表現の存在 残念ながら、文が語から文法に基づいて構成されることは、現在主流の自然言語処理技術では、ほとんど考慮されていない。文法性の認識がないのでは、文の意味の構成性の認識を持つことは難しい。 ただ、文の意味の構成性の認識なしにでも、意味については考えることができる。一つには文を構成する「語の意味」、もう一つには「意味の同一性」に基づく「意味の共通表現」の模索である。第一部の後半では、これらの取り組みを取り上げた。 「語の意味」の表現では、その客観性・共通性を「実在」の関係に基礎をもつOntology、語の利用の頻度の統計的分析に帰着させるWord2Vec的「分散表現」、辞書項目に諸特徴を枚挙するスタイル、 conceptual spacesを構成するアプローチ等多様な試みが行われている。 「文の意味」の表現については、論理式(あるいは、ラムダ式)による表現と多次元ベクトルによる分散表現の二つがある。後者は、実装者にはそういうものとしては、あまり自覚されていないようにみえるのだが。 機械翻訳技術の成功は、二つの言語の意味の「共通表現」を多次元ベクトルによる分散表現として抽出しているところにあると筆者は考えている。もっとも、語の意味も、文の文法性も、このアプローチでは、直接には考慮されていない。 筆者は、論理式による表現が「好み」なのだが、文から論理式への還元は、文法に応じて様々の流儀がある。この点

Inventing Ourselves: The Secret Life of the Teenage Brain

 恋は盲目。  恋人たちは、自分たちが犯している  ひどい愚行を、自分では見ることができないのだ。 シャイロックの娘ジェシカは、父の財産を持ち出してキリスト教徒と駆け落ちする。これが金貸しシャイロックが、キリスト教徒のアントーニオを憎む理由の一つとなる。かわいそうなシャイロックと馬鹿な若い娘。 ジェシカに限らず、シャークスピアの作品に登場する「若者」は、とても若い。 佯狂ハムレットに「尼寺に行け」と罵倒され、身勝手な狂言に翻弄されて、川に身を投げるオフィーリアは、多分、10代前半だ。可哀想な幼いオフィーリア。ハムレットは生き延びる。 イギリスの脳科学者、サラ・J・ブレークモアの"Inventing Ourselves: The Secret Life of the Teenage Brain" を読む。https://goo.gl/QoLX6o  「思春期の若者の脳を研究しているの。」  「十代に脳なんかあったっけ?」 彼女の研究手法は、MRIを使って脳を観察するのだが、同じ集団をずっと追いかけて、その経年変化を見るというもの。この本の大事な結論は、子供の脳とも大人の脳とも、思春期の脳は違うということ。思春期に起きる脳の変化は、特別なのだという。 確かに、男子なら声変わりしヒゲが生え、女子なら生理が始まり胸が大きくなる。(あいみょんが歌っている) こうしたドラスティックな変化が脳の中でも起きるというのだ。言われてみれば、確かにそうだろうと思う。 自意識が芽生え、危険を顧みず行動し、仲間の影響を強く受けること。そうした思春期の行動の特徴は、古今東西・民族・文化を問わず共通しているという。(「学校」ができる遥か以前から)こうした向こう見ずな若者の行動が、芸術にインスピレーションを与え、歴史的なインパクトを与えたことも数多くある。 日本には、「中二病」という言葉があるのだけれど、この本のサブタイトルの「十代の脳の秘密の生活」は、同じ問題を分析しているのだ。ただ、彼女は、それを単なる逸脱行動とも、知能の弱さ、常識・大人らしさの欠如としては捉えない。そうした時期を過ごすことは、人間が人間になるためのとても大事な経験なのだという。創造性も感情の豊かさもこの時期に生まれる。ど

科学と哲学

12月14日開催の連続ナイトセミナー「人工知能を科学する」の今回のテーマは、「人工知能と哲学」です。https://lab-kadokawa72.peatix.com/ 「人工知能を科学するのに、哲学必要ですか?」と思われた人も少なくないと思います。たしかに。 科学や数学は、確立された体系(少なくとも「これまでに確立された」という意味ですが)を持っています。その成果は、多くの人に等しく共有されています。今では誰もが、「地球が太陽のまわりを回っている」「リンゴが木から落ちるのは重力があるから」と考えています。もちろん「1+1=2」で「直角三角形ではピタゴラスの定理が成り立つ」ことも。そういう知識のあり方を「累積的知」と呼ぶことがあります。 哲学には、残念ながら、確立された体系も万人が認める真理も存在しないように見えます。人によって物事の捉え方が異なるのですから、哲学にも色々な立場があります。「残念ながら」と書きましたが、それはそれでいいことだし、これからも哲学が「完成」するようには思えません。 そうした意味では、科学と哲学は、かなり違っています。 ただ、科学と哲学は、想像以上に広い接点を持っています。それは、おそらく、技術がビジネスや経済合理性と強い結びつきを持っているのと同じだと思います。「科学と哲学」と「技術とビジネス」の二つの結びつきをくらべれば、その結びつきのの質はずいぶん違うし、「科学と哲学」のつながりはあまり意識されることは少ないのですが。 科学も数学も「発展」して、その体系を「更新」します。現在の科学が全ての問題に解答を用意しているわけではないのです。現在の科学では説明できない「謎」の存在こそ、科学を発展させる原動力です。「謎」に立ち向かうには、様々な「立場」、ある場合には矛盾する「仮説」が必要になります。そのような局面では、科学者も哲学していると考えていいのだと、僕は考えています。 今回のセミナーでは、三つの話をしようと思います。 一つ目は、「コンピュータは人間を超える」という「シンギュラリティ論」や、「そんなことはない。人間の脳の働きはコンピュータのアルゴリズムを超えている」というペンローズらの「量子脳」理論を、「計算主義」の立場から批判してみようと思います。 二つ目は、言語の意味の理解を例に、文法の理論と双対の意

丸山の今後の講演について -- 冬は「哲学」しようと思います

11月17日角川さんで開催の、連続ナイトセミナー「人工知能を科学する」の第三回のテーマは、「人工知能と量子コンピュータ」です。講演概要については、最後をご覧ください。https://lab-kadokawa71.peatix.com/ 12月14日開催の「人工知能を科学する」の第四回目のテーマは、「人工知能と哲学」です。こちらもご期待ください。 この「人工知能と哲学」では、ペンローズの計算主義批判を取り上げたいと思っています。僕は、ペンローズの大ファンなのですが、彼の「量子脳」の議論には反対なのです。 この「人工知能と哲学」を皮切りに、冬の間、すこし「哲学」的な話もしたいと思っています。 次回のマルレクのテーマは、「意味の形式的理論」です。「意味の意味」については、様々な議論があるのですが、「理論とそのモデル」というモデル論的なアプローチを中心に、意味の形式的な理論について考えたいと思っています。現実的な話題としては、DiffbotやBERTの話題も取り上げようと思います。 次回の「楽しい数学」のテーマは、「数理哲学入門2 -- 「同じ」を考える」です。一年前に亡くなったヴョブドスキーのメモリアルで、彼が根本的に刷新した「型の理論」の話をしようと思います。その理論が、数学の基礎づけに大きな影響を与えたことを、「「同じ」とは何か?」という問いに対する探求として説明できればいいと思っています。 少し違う角度から、また、専門家でなくてもわかることから、我々の「認識」の能力の不思議さについて考えられればいいと思っています。冬の哲学三講座、ご期待ください。 最後に、量子コンピュータ関連の取り組みについてです。 先日のマルレク、量子フーリエ変換にフォーカスしようとしたのですが、テクニカルな議論が多すぎて、あまりうまく伝わらなかったのではと、反省しています。こちらは、「紙と鉛筆で学ぶ量子情報理論 II」でフォローします。 今月の「人工知能と量子コンピュータ」ですが、次のような話をしようと思っています。 --------------------- 11/17「人工知能と量子コンピュータ」講演概要 --------------------- 量子コンピュータが、人間の認識の「限界」をどのように拡大するかは、人工知能の未来を考える上で、

神託、魔法使い、数学的証明 (1)

「オラクル(神託)」は、かつてギリシャのデルファイのアポロ神殿の巫女が行った予言のこと。古代ギリシャでは、社会的に重要な意思決定は、すべてこのデルファイの神託を仰いで行われたらしい。最高位の巫女は、Phythiaという。この名前は、地球の中心に存在すると信じられていた巨大な蛇 Python に由来する。 OracleもDelphiもApolloもPythonも、IT業界では別の意味で、会社名・プロダクト名として有名なのだが、欧米人にはギリシャの古典を愛する人が、現在も(IT業界にも)存在するのだと思う。それは、かつての日本人が、中国の古典を愛していたのと同じだ。 ところで、数学にも "Oracle" という概念があるのだ。それは、どんな問題に対しても瞬時に正しい答えを返してくれるシステムを仮定して、それを Oracle という。 それは、複雑性理論の中心的なツールだ。例えば、次のように使う。 $$P^A$$ という複雑性のクラスは、クラスA-完全のOracleが与えられたときに、P(決定問題が多項式時間)で解ける問題のクラスで、$$NP^A$$は、クラスA-完全のOracleが与えられたときに、NP(yesの場合の決定問題が多項式時間)で解ける問題のクラスということにするのである。だから、$$P^{NP}$$は、NP-完全な問題へのOracleが与えられたとき、決定問題が多項式時間で解ける問題のクラスになる。 なんて勝手な想定なんだ、数学に「神託」を導入するなんてトンデモナイと思うかもしれないが、そうすることによって「複雑性の階層」に対する見通しが、とてもよくなるのだ。ここでは、そのことを詳しくは論じないが、我々の日常でも、このOracleの利用に相当することが実際にあるのである。 たとえば、Pythonでプログラムを組んでいるとしよう。数値計算にnumpyを使う時、我々は必ずしもnumpyが行っている処理の詳細を理解する必要はない。我々が、それに期待するのは、それが「正しい答え」を「確実」に返してくれることである。 数学でも同様である。数学の証明は「厳密」なことを是とするのだが、全ての証明の細部を書く必要はない。例えば、何千年前の「ピタゴラスの定理」の証明を、全ての数学的証明がくりかえす必要はないのだ。数学的に「確定」

「人工知能を科学する」の第一回目「人工知能と複雑性理論」

イメージ
角川さんでの連続講座「人工知能を科学する」の第一回目「人工知能と複雑性理論」の様子です。3時間コースでした。長ければいいというわけではないのですが、MA(Merlin-Arthur)クラスの説明、もう少しきちんとできればよかったかなと思っています。 「人工知能を科学する」の第二回は、「人工知能と自然言語」で、10月26日の開催です。申し込みは、こちらから。 https://lab-kadokawa70.peatix.com/   セミナーが終わった後は、遠藤さんとMaruLaboメンバー4人で、中華を食べに行きました。

「人工知能と複雑性理論」:はじめに

イメージ
9/27 角川さんで開催の「人工知能と複雑性理論」の「はじめに」の部分できました。ご利用ください。 https://lab-kadokawa67.peatix.com/ ---------------- 小論は、人口知能研究の今後の発展の方向を、数学的・物理学的認識可能性の理論でもある「複雑性理論」の成立・発展を中軸にして考察したものである。 なぜ、数学的・物理学的認識が問題になるのか? もちろん、人工知能研究の基本的な問題は、「機械は考えることができるか?」という、チューリング以来の問題である。 「機械が考えること」の中に、感覚=運動的な認識能力だけでなく、言語的な認識や数学的認識を含めると問題は急に難しくなる。ただ、こうした問題を避けるわけにはいかないと、筆者は考えている。また、人工知能は、理論的な構成物としてではなく、物理的なものとして実装されねばならない。 人間と機械の数学的・物理的認識の限界を(筆者は、両者は同じ限界を持つと考えている)、知ることは、すなわち、人工知能の認識の限界を知ることに他ならない。 人工知能研究の現状からいうと、問題をかえって難しくしているだけと感じる人もいるかもしれない。ただ、「複雑性理論」を視野に入れると、未来についての見通しは、むしろ良くなると筆者は感じている。 「複雑性理論」の第一世代は、1950年代に定式化される「計算可能性理論」である。それは、数学的・形式的な抽象的なものでしかなかった。 「複雑性理論」の第二世代は、1970年代に始まる「計算複雑性理論」である。それは、コンピュータの爆発的普及に刺激を受け、コンピュータの能力を意識したものであったが、数学的・形式的なものであった。(もっとも、その基本問題である P=NP? 問題は、そうした性質を持ち続けている) 「複雑性理論」の第三世代は、1980年代の「理論的可能性」としての「量子コンピュータ」の登場とともに始まる。 この第三世代は、「複雑性理論」の発展としては、「量子複雑性理論」の成立として特徴付けられるのだが、その過程は、 「情報過程=物理過程」という認識によって支えられていた。 同時に、それは、「物理過程=情報過程」という認識の成熟でもあった。ブラックホールやエンタングルメントのエントロピーの発見、ブラックホー

「複雑性理論」は「複雑系」の議論とは別のものです

イメージ
「複雑性理論」を、以前に少し流行したことのある「複雑系」の議論と同じものだろうと誤解されていることに、最近気づきました。当然ありうる誤解なのに、迂闊でした。 確かに、対象が「複雑さ」だと思えば、一部分は重なるところもあるのですが、「複雑性理論」と「複雑系」の議論は、まったく違うものです。 現在の「複雑性理論」の歴史をたどると、二つの起源にたどり着きます。 一つは、20世紀初頭からの数学の基礎付けをめぐる探求です。ヒルベルトの「有限の立場」にはじまり、ゲーデルの「不完全性定理」が衝撃を与え、「チャーチ=チューリングの提言」で「実効的な」「計算可能性」概念が、いったん定式化されるといった一連の流れです。 もう一つは、20世紀の中盤以降、コンピュータ技術が爆発的に発達する中で生まれた「計算量理論」「計算複雑性理論」です。そこでの最大の気づきは、「実際に」コンピュータで計算できるものを考えると、「多項式」で表現される計算時間と、「指数関数」で表現される計算時間とには、「質的」な違いがあるのではというものでした。(この計算複雑性理論の中心的な問題である「P=NP?問題」は、今に至るも解決されていません。) 二つの流れは、別々のものでした。 前者は、人間の数学的認識の原理的「限界」に関わるもので、後者はコンピュータによる計算の具体的「限界」に関わるものです。 ただ、人工知能をめぐる基本的な問題が、最終的には、人間の知能の機械による実現は可能かということであるなら、両者は結びつきます。なぜなら、人工知能は人間の数学的認識をも実現するものでなければならないし、それはまた、実際のコンピュータ上で実装されなければならないからです。 人間の知能の本質を、「計算」として捉える立場を、「計算主義」と言います。それは、現在のディープラーニング技術が、よって立つ、「コネクショニズム」とは異なる立場です。僕は、人工知能論では、この「計算主義」の立場に立っています。それは、コネクショニズムは、数学的認識に関しては、無力だと考えているからです。 現代の複雑性理論には、第三の起源があります。 理論史的には、それは、ファインマンによる「量子コンピュータ」の提唱にはじまるものです。 ただ、その背景には、とても重大な認識の発展があります。それは、全ての情報過程が

「人工知能」の「力」は誰のもの?

「人工知能」の「力」は誰のものかと考えることがある。 運動選手やアーティストの力は、素晴らしい。その力は、彼ら個人のものだ。 金足農業の吉田選手の力は、同じ秋田出身でも、運動音痴の僕とは無関係だ。僕が、いくらバンプの藤原(両親が秋田出身)が好きでも、親と同郷だからといって、僕の歌が上手くなるわけでもない。人間の感覚・運動能力は、個人に帰属する。 それでは、人間にはできない力を持つ機械、例えば重いものを押したり持ち上げるブルドーザーやクレーン、空を飛ぶ飛行機は、その力を自分のものだと思っているだろうか? もちろん、そんなことはない。これらの機械に「意識」はないのだから。 F1ドライバーは、自分の身体能力の「延長」として、自分のドライバーの力を感じているように思う。普通のドライバーも、スピードを楽しむ時、遠くに出かける時、我々は、我々の「力」が拡大していると感じているはずだ。 実際には、その「力」を可能にしているのは、機械の「力」なのだが。それは、無意識のうちには人間の「力」として意識される。(事故や故障で車が動かなくなったときに、我々の力でなかったことに気づく。)車のように、個人が所有できる機械の力は、個人のものである。 ただ、別の考えもある。フェラーリの車の力は、それを作ったフェラーリのものだし、iPhoneの力は、アップルのものでもある。技術的な製造物の力は、それを作った企業に帰属する。 北朝鮮のミサイルや核兵器の力は、金正恩の力である。(個人に戻っちゃった。)戦争する「力」は、たいていは、国家の能力である。 もっと面倒なものもある。電気・水道・ガスといった「社会的インフラ」の力だ。それが上手く機能しないと大変なことになるのを、最近、経験したばかりなのだが。 北海道の電気の力の「所有者」は、北海道電力なのかな? そうかもしれないし、そうじゃないのかもしれない。 我々には身近な「インターネット」や「ネットワーク」についても、その力の淵源がどのあたりにあるのjか、また、その力は誰のものなのかを考えると、いろいろ面白い問題にぶつかる。 注意して欲しいのは、こうした議論に迷いこむのは、機械あるいは機械から構成されるシステムの「力」の概念が曖昧だというわけではないということだ。それらの「力」は、その「力」の欠如と対比すれば、誰

意味の形式的理論 -- Entityモデル

「二つのものの関係の中に意味が現れる」と先に書いたのだが、少し、先回りしすぎたかもしれない。小論は、こうした方向と関係の基本である「同一性」概念にそって「意味の形式的理論」を考えることを目標にしているのだが、その前に、触れておかなければならないことが、いくつかあることに気づく。 一つは、「形式的理論」の「形式」を与える認識の数学的モデルの妥当性についてである。これについては、いろいろ語るべきことが残されている。それについては、いずれ、ゆっくり説明していこうと思う。(「名付け」と「参照」のfibrationモデルは、「意味不明」だったかも。) もう一つは、先の問題に比べると極めて具体的な問題なのだが、「意味の形式的理論」の一種である「知識の表現理論」について語ることである。これについては、簡単なオーバービューを与えることができるとおもう。(「意味」と「知識」とは、正確に言えば、異なるものである。) コンピュータ上での実装を見る限りでは、検索でもボイス・アシスタント技術でも、現代の「知識の表現理論」の主流は、次のような「Entityモデル」である。 「パンダ」はEntityである。Entityは型(Type)を持つ。「パンダ Entity」は「パンダ Type」を持つ。別の言い方をすれば、「パンダ(Entity)は、パンダ(Type)である。」ということになる。 Entityモデルでは、それぞれのEntityは、Propertyを持つ。パンダのEntityはパンダのPropertyを持つ。「笹が好き」「指が6本ある」「パンダ色をしている」とかが、パンダ entityのパンダPropertyになる。 だから、Entityモデルでは、パンダについての知識は、基本的には、パンダEntityのパンダPropertyで表現されることになる。 Entityモデルには、「Entityは型を持つ」「EntityはPropertyを持つ」の他に、もう一つの重要な特徴がある。それは、Entityの型が、概念の包含関係を反映した階層構造を持つということである。パンダは哺乳類である。哺乳類は動物である。動物は生物である。(かなり、いい加減な「階層」だが)    パンダ < 哺乳類 < 動物 < 生物 このEntityの型の階層が「知識の表現」で意味を持つ

意味の形式的理論 -- 文の意味

外国語の翻訳をする時、個々の語の意味は分かるのだが -- 辞書を引けばそれは分かる -- 文の意味が取れないことがよくある。そうした意味では、シンボルや記号の意味論は、プリミティブで重要なものだが、文の意味は、それらに還元されるわけではない。 シンボルの素朴な意味論に、思考の中のシンボルとそれが指示する実在のものの対応関係が登場する様に、文の素朴な意味論には、文とそれが指示する現実との対応関係が現れる。  「太陽が東から昇る」  「一つの林檎ともう一つの蜜柑で、果物は二つ。」 文が、ある範囲では正確に、現実を反映しうるということは、とても大事な言語の性質である。このことを否定する必要はない。 ただ、文の意味の素朴な実在との対応理論は、シンボルの対応理論より、やや、つまらない。文は、必ずしも現実の関係を反映したものとは限らないからだ。現実にはないことを、我々は、文で表現できる。  「僕は、巨大な虫に変身した。」  「地球には、もはや生命は存在しない。」 (我々は、意味の表象は難しいが、"Colorles green sleeps furiously" のような「正しい文」を生み出すこともできる。) 人間以外の生物の認識能力は、基本的には、環境の中でよりよく生存するために必要なものに限られている。言語能力が我々にもたらした認識の最大の飛躍は、むしろ、そうした現実の認識という束縛から我々を解放したことにあるとさえ言っていい。 先に、言語能力の獲得と宗教の発生は、同じ時期に遡ると書いたが、芸術の起源も同じ時期に遡る。「ものがたり」は、「もの」を「かたる」ことから始まるのだが、いつか「もの」の世界は拡大し、実在する「もの」の背後にあるものを、人は語り始める。 現実は、見かけの現象のとおりではない。その背後には共通の実体があり、さらにはより深い本質がある。言語能力による認識能力は、一つのものを、一つのものではない、もっと複雑なものに分裂させる。それは、現代の「科学」の母胎でもある。 別の例で、文の意味について考えてみよう。 ある英語の文について、「その意味は?」と日本人に問われたら、その英文を日本語に訳すのは不自然なことではない。ただ、日本語の文について、「その意味は?」と日本人に問われたら、意味を問われた人は