AIの遠い未来 「12のシナリオ」by Tegmark

Tegmarkの"Life 3.0"をザッピングして、少し嫌になる。Huluで「パーソン・オブ・インタレスト」の残りを見た方がよかったかも。

今世紀中に、大きなAI技術の飛躍が起きるというところは、同意。また、自分は、"Digital Utopian"ではなく、著者と同じく、現時点では、"Beneficial AI Movement"の立場に立つことでも同意。

ただ、その先が良くない。

"CHAPTER 5 Aftermath: The Next 10,000 Years"

10個以上の、Next 10,000 yearsのシナリオが示されている。

そんな先まで、議論しようというのがおかしい。もちろん、何を想像するのも何を問題提起するのも自由なのだが。ただ、SF作家の想像力の方が、よほど魅力的かもしれない。

こんな未来像を煽っていたら、現実的には、4番の「人間Gatekeeper」版が、今のうちに必要だということに落ち着くだけだと思う。

最初の三つは、現在の社会・経済思想を、一万年後に投影したものでしかない。縄文人に、「オープンソース」や「ビット・コイン」を想像させるのは、難しい。

神についてのシナリオでは、歴史的には機械の「創造主」は人間に他ならないのだから、「機械の神に人間がなる」（きっと偶像は、ビル・ゲイツかスティーブ・ジョブスになるのかも）というシナリオがないのが残念。（Descendants の派生系だが）

個人的には、もちろん、想像の世界での話だが、8番のDescendants が好き。ただ、きわめて現実的には、12番のSelf-destruction が、一番ありそうなシナリオに思えるのが悲しい。

彼があげている、12のシナリオを訳して見た。

------------------------
1. Libertarian utopia （リバタリアンのユートピア）
人間、サイボーグ、アップロード、スーパー・インテリジェントAIは、財産権を保証することで平和的に共存する。

2. Benevolent dictator （情深い独裁者）
AIが社会を運営する上で厳格なルールを強制することは誰もが知っている。ほとんどの人間はこれを良いことと見ている。

3. Egalitarian utopia （平等主義のユートピア）
人間、サイボーグ、アップロードは、財産権を廃止し、収入を保証することで平和的に共存する。

4. Gatekeeper
スーパー・インテリジェントAIは、別の超インテリジェンスAIの創造を妨げるために、必要な干渉することを目標として作成される。その結果、多少の人間工学的な知能を持つヘルパーロボットが多く生まれ、人間機械のサイボーグは存在するが、技術の進歩は永遠に阻害されている。

5. Protector god （守護神）
本質的に全知全能なAIは、我々が自身の運命を支配しているという感情を持たせたまま、多くの人間がAIの存在を疑うほどうまく隠れた方法で介入して、人間の幸福を最大にする。

6. Enslaved god （囚われた神）
スーパー・インテリジェントなAIは、人間によって閉じ込められる。人間は、その力を使って、想像を絶する技術と富を、良い目的であれ悪い目的であれ、人間のコントローラに応じて使うことができる。

7. Conquerors （征服者）
AIが支配権を取る。AIは、人間を脅威/厄介者/資源の浪費者であると判断し、我々には理解もできない方法で人間を取り除く。

8. Descendants （子孫たち）
AIは人間に取って代わる。ただ、人間には、AIを我々人間の価値ある子孫とみなすような優雅な逃げ道を与える。親たちが、自分より賢い子供を持つことに、幸せと誇りを持つように、AIは人間から学び、人間が夢見たことを実現するのだと思うようになる。たとえ、生きているうちに、その全てを見ることはできないにしても。

9. Zookeeper （動物園）
全能のAIは、何人かの人間たちを残し、近くに置く。動物園の動物のように扱われ、人間は自らの運命を嘆く。

10. 1984
スーパー・インテリジェンスのための技術進歩は、AIによってではなく、オーウェル型の監視国家で人間主導で恒常的に縮小される。そこでは、ある種のAI研究は禁止される。

11. Reversion （退行）
スーパー・インテリジェンスへの技術進歩は、アーミッシュのスタイルで、テクノロジー以前の社会に戻ることで防止される。

12. Self-destruction （自滅）
スーパー・インテリジェンスは創造されない。人類は核あるいは気候変動による生物学的障害といった、別の理由で、絶滅へと突き進む。