数学とAI -- AIの数学での利用についてのフィールド・メダリストの声明
フィールド・メダリストが連名で、”A Severe Misalignment of AI in Mathematics”という声明を出しています。
https://mathandai.org/
数学者の声明では「ライデン宣言」がありましたが、それには僕は部分的に同意できなかったのですが、今回の声明には、基本的に賛成しています。
ヴェイユ予想を解いたPierre Deligneが参加しています。日本では、森重文さんが名前を連ねています。
短いものなので、全文を翻訳しました。興味がある方はお読みください。
---------------------------------------------
数学におけるAIの深刻な方向性の不一致
---------------------------------------------
ここ数ヶ月で、LLMの数学的能力は劇的に向上し、数学の多くの分野における主要な未解決問題を解けるほどになった。しかし、AI企業がベンチマークとして数学の問題を解こうとする動きは、数学という科学そのものや数学コミュニティにとって有害である。AI企業の目標と数学コミュニティの目標は、深刻な不一致を来している。我々は、これを他の科学的・創造的な専門職、ひいては社会全体に影響を及ぼす、より広範な整合性の問題の一部であると捉えている。
研究数学は、図形、数、自然現象の基本的な構造を理解することを扱う。何世代にもわたり、数学の全体像を把握するための洗練されたアイデア、手法、抽象化、その他のツールの膨大な体系が築き上げられてきた。その一方で、現代の技術や科学は数学的ツールに基づいている。
著名な問題は、しばしばこの数学的風景に対する理解の深化を測るための目印や灯台としての役割を果たしてきた。こうした問題の解決は、新たな洞察や興味深い手法が生まれた確かな証であり、それらはその後、数学者のコミュニティによって、長きにわたる困難な議論、検討、簡略化のプロセスを経て研究されてきた。このプロセスの最終段階では、理想的には、大学院生はもちろん、学部生であっても学習できるような、教科書的な成果の提示が得られることになる。数学的アイデアの中には、その旅をさらに進め、数十年あるいは数世紀を経て、一般の人々にも理解され、利用されるツールとなるものもある。
数学コミュニティは、多くの点で人類の縮図として機能している。それは、中核となる価値観によって結ばれ、多種多様なアプローチを用いる個人から構成されている。私たちの専門分野において最も貴重な資源は学生とアイデアであり、私たちはこれらを細心の注意を払って育んでいる。私たちは、学生たちが数学の世界で自立した生き方ができるようになるまで、彼らの潜在能力を最大限に引き出す責任を感じている。学生に対しては、研究やその他の分野での進歩に向けて有利な立場に立てるよう、スキルを養うことを主眼とした問題をしばしば提示する。私たちのアイデアは、講演や個人的な議論、そして入念な論文執筆を通じて広められ、他者の先行するアイデアと結びつけられる。こうしたプロセスには常に時間がかかり、人間同士の交流に基づいている。
ここ数ヶ月、主要な数学的問題の解決におけるAIの成功は、数学界の外でも大きな話題となっている。しかし、問題解決はあくまで手段であり、概念的な理解と洞察という主要な目標を達成するための代用手段に過ぎない。AIの世界においてこの点を忘れてしまうと、その手段が本来の目標に逆らう結果となる恐れがある。実際、「真／偽」の判定がますます速いペースで大量生産されることは、新しいアイデアに命を吹き込むどころか、豊かな土壌を破壊しかねない。
多くの場合、こうした解法は急いで発表されるため、適切な論文執筆や、新しい手法・アイデアの抽出、他者の関連する先行研究の引用を行う時間が残されていない。あらゆる創造的な職業と同様に、これは著作者帰属や剽窃に関する深刻な問題を提起する。さらに、その発展や数学の正典への統合に尽力する意欲的な数学者がいなければ、AIによって考案されたアイデアは決して完全に息吹を吹き込まれることはなく、数学者間の重要な人的伝達チェーンが失われてしまうだろう。
私たちは現在、知的活動に対する全般的な脅威を目の当たりにしており、AIの利用結果とその当初の目的との間に不整合が生じている。多くの分野や活動において、長年の訓練は伝統的に、最終的な答えや成果を生み出すだけでなく、理解を深め、新たな疑問やアイデアを構築する能力を養うためにも役立ってきた。しかし、過去の膨大な人間の研究成果を基盤として、AIシステムはそうした成果を直接生み出す能力をますます高めており、これらの目標はもはや一致しなくなっている。数学界が現在直面している課題は、他の科学的・創造的な専門職が直面している課題と類似しており、人類全体が直面しうる問題を指し示している。すなわち、AIが仕事の進め方を変えていく中で、その仕事が本来達成すべきだった目的を見失わないようにするにはどうすればよいか、という課題である。
AIには、真の数学的研究と理解を強化し、加速させる可能性が秘められている。数学という専門分野は、いくつかの点でこうした変化に適応していく必要がある。しかし、これらの変化が最終的にこの分野に利益をもたらすのか、それとも破壊的な影響を与えるのかは、この新しい技術を掌握する人間たちの判断に大きく左右されるだろう。
これらの課題は、数学界において、またこれらの技術を開発する企業において、さらに広くは、他の多くの知的労働の形態においても同様の問題に直面することになる社会全体において、早急に解決されなければならない。
Artur Avila (Fields Medal 2014)
Manjul Bhargava (Fields Medal 2014)
Caucher Birkar (Fields Medal 2018)
Pierre Deligne (Fields Medal 1978)
Yu Deng (Fields Medal 2026)
Simon Donaldson (Fields Medal 1986)
Hugo Duminil-Copin (Fields Medal 2022)
Alessio Figalli (Fields Medal 2018)
Martin Hairer (Fields Medal 2014)
June Huh (Fields Medal 2022)
Maxim Kontsevich (Fields Medal 1998)
Elon Lindenstrauss (Fields Medal 2010)
Pierre-Louis Lions (Fields Medal 1994)
James Maynard (Fields Medal 2022)
Curtis McMullen (Fields Medal 1998)
Shigefumi Mori (Fields Medal 1990)
Ngô Bảo Châu (Fields Medal 2010)
Andrei Okounkov (Fields Medal 2006)
Peter Scholze (Fields Medal 2018)
Stanislav Smirnov (Fields Medal 2010)
Terence Tao (Fields Medal 2006)
Maryna Viazovska (Fields Medal 2022)
Cédric Villani (Fields Medal 2010)
Wendelin Werner (Fields Medal 2006)
Efim Zelmanov (Fields Medal 1994)
コメント
コメントを投稿