マルレク「プロンプトで遊ぶ -- GPT-4 との対話 」へのお誘い
【 マルレク「プロンプトで遊ぶ -- GPT-4 との対話 」へのお誘い 】
6月のマルレクを「プロンプトで遊ぶ -- GPT-4 との対話 」と いうテーマで開こうと思っています。
【 「プロンプトで遊ぶ」？ 】
「プロンプトで遊ぶ」というタイトルは、「生成系AI」の技術を、自分の仕事に真剣に活用しようとしている人や、この技術の登場を絶好のビジネスチャンスと考えている人にとっては、不適切だったかもしれません。
また、「生成系AI」技術の浸透を、「社会に対する重大な脅威の拡大」と捉える人からすれば、「遊んでいる場合ではない。不謹慎だ。」と思われるかもしれません。もっとも、僕自身は、基本的には、このこの後者の立場に近いのですが。（マルレク「GPT-4 Technical Report を読む」 https://www.marulabo.net/docs/gpt-4-technical-report/ を参照ください。）
【 OpenAIの「過信」への警告 】
このように評価が分かれる理由の一端を、OpenAI自身が、見事に分析しています。それは、直接にはChatGPTの登場を熱烈に歓迎した多くの人々への警鐘なのですが。
「 GPT-4は「幻覚」を作り出す傾向がある。この傾向は、モデルの説得力や信憑性が増し、ユーザーによる過信を招くと特に有害となり得る。逆説的だが、幻覚は、モデルがより真実味を帯びるにつれて、より危険になる可能性がある。なぜなら、ユーザーは、自分がある程度精通している領域で真実の情報を提供するモデルに対して信頼を築くからである。」
ただ、この「過信」への警告は、同じ論理で、「自分がある程度精通している領域で真実の情報を提供するモデル」に基づいた、この技術への「不信」への警告になるのかもしれません。
【 言語ネイティブな人間と言語ネイティブな人工知能 】
「生成系AI」技術が、多くの人に驚きを与えたのは、それが人間のみが持つと考えられていたことばを自在に操る能力をコンピュータが獲得したことを示したことにあると僕は考えています。それは、人工知能技術の発展の中でも特筆すべき達成です。
冷静に言えば、言語ネイティブな知能を持つ人間は、人間と同じ言語ネイティブな知能を持つ人工知能を作ることができたということだと、僕は考えています。人間の知能は数学ネイティブではありません。でも、数学ネイティブな知能は存在し得ます。もっと言えば、量子ネイティブな知能があるのかもしれません。
【 機械の言語能力 】
今回のセミナーで、僕が取り上げることは、おそらく多くの人の関心の高い、その技術の実践的な応用の可能性でもその技術の社会的インパクトでもありません。また、両者の「折り合い」をどうつけるかを考えることでもありません。あまり適切ではないかもしれない「遊ぶ」という言葉をつかったのは、そのせいだと思います。
僕が、今回のセミナーでやってみたいと思っていることは、機械の言語能力に焦点を絞って、現在の機械の言語能力がどのようなものであるかを、改めてチェックしてみることです。
【 機械との対話 】
機械の言語能力の到達点を知る、一番簡単で確実な方法は、機械と「対話」することです。こうした機械の能力の評価のスタイルは、機械が人間並の言語能力をもって初めて可能になったことです。
何を「彼」または「彼女」に尋ねるかは、いろいろな選択肢があります。これは、これで面白いことだと思います。おおよそ、人間が考えることは、ことばで表現できます。「彼」または「彼女」が「考え」ていることは、そのことばで表現されるのでしょうか？
もっとも、こうした「擬人化」が適切かは、よく考えなければいけないことかもしれません。
【 プロンプトは対話の手段 】
機械との対話には、APIを叩くのではなく、もちろん、プロンプトを使います。
そうしてみると、機械と人間のコミュニケーションの手段であるのプロンプトが、人工的なプログラム言語ではなく自然言語そのものであることが、よくわかります。それは、言語ネイティブな知能として構成された機械にとっては、当然のことかもしれません。
ただ、機械に命令を出すのにプログラム言語を使うのに慣れた我々には、プロンプトは、むしろ窮屈で制限が大きいものであると感じると思います。
「対話」を通じて、プロンプトでできることできないことを整理できたらと思います。
【 やってみなければわからないこと 】
いつもは、論文の紹介や、自分の考えでセミナーをしているのですが、今回は「相手」がいるので、やってみなければわからないことがいろいろあります。
そのあたりは、ご容赦ください。
ショートムービー「 マルレク「プロンプトで遊ぶ -- GPT-4 との対話 」へのお誘い 」を公開しました。
https://www.youtube.com/watch?v=QftuiquIHU&list=PLQIrJ0f9gMcMZkwx9VXm46JJ57pNpix1b
資料 pdf「 マルレク「プロンプトで遊ぶ -- GPT-4 との対話 」へのお誘い 」
コメント
コメントを投稿