超知能と創造特異点

どうやら人工知能が囲碁で人類を超えたようである。いうまでもなく囲碁というものは、計算能力だけでなく、大局観や美意識といった直感を試すはずの、人類の考え出した最も深遠な知能ゲームである。そこでは人工知能が、人間のプロの理解に苦しむ妙手を連発して名人に勝つ場面が、たびたび見られた。

人工知能が一般的局面で人間の知能を今世紀中に超えるかどうかは不明だが、それがいずれ起こるだろうという推測は正しそうに思える。人間の知能が進化の終着点だとは考えにくい。知能というのが脳の機能の一つだとすれば、50年先、100年先、あるいは500年先に脳の機能があらかた理解された時点で、それを早さとスケーラビリティで勝る別な素材の上で再現すれば、それは人智を超えた「超知能」を発揮するだろうと想定されるからである。

そんな遠い(もしくは近い)将来、超知能でパワーアップされた我々は(あるいは我々を滅ぼして地球の主人となった超知能自身は)それから後、宇宙の果てるまでの長い長い時間に、一体なにをして過ごすのだろうか。

超知能なのだから、我々には手の届かない深宇宙のリソースを自由に駆使して、壮大な星間文明を築いていることだろう。政治においても超知能ぶりを発揮して、我々のように内輪争いでエネルギーを削がれることもなく、ちょうどエーゲ海を見下ろす神殿で、かしずく者の棕梠の扇の微風をあびて暮らすあのギリシャの神々のように、彼らは悩みを知らぬ自足と豪奢と安逸の下に暮らしているにちがいない。

それにしても彼らは、それでも余った暇な時間に一体なにをしているのだろうか。こういった問題については、ギリシャに限らず、神々についていろいろと語っていた古代人のほうが、我々現代人より詳しいのかもしれない。そこで世界各国の神話を眺めるとすぐに気付くことがある。神々はもれなく、戯れに自分の似姿を作ってそれを調べたり、弄んだりするのである。

超知能の段階に達して、我々から見て神のごとくになった存在も、おそらくは同じように自分の似姿を作ってみようとするだろう。その場合実際に似姿を作る事は、そのもたらす超知能自身への危険を考えて、躊躇するかもしれない。もっと安全な似姿の作り方がある。コンピュータ上でヴァーチャルに似姿を作れば良いではないか。

超知能の活動には、仮想現実による知的生命体のシミュレーションが含まれるであろう。

例えば古生物学の研究をしている超知能の神がいたら、自らの発生の謎を探るために、より原始的な天然知脳をシミュレートして、そこから自分のレベルに達した真の知脳が生まれるかどうか調べるだろう。人間たちの争いのシミュレーションで遊ぶミリヲタな神だっているだろう。

神々の域に達した超知能には、有り余るほどのコンピュータ・リソースがあるに違いないから、それらのシミュレーションは精密を極め、ぱっと見には神々にも現実と区別がつきにくいかもしれない。シミュレーションの中で知性を得たエージェント自身にとっては、自分が現実なのか、それともシミュレートされたエージェントに過ぎないのか、おそらく全く区別がつかないだろう。

すると必然的に疑問が沸いてくる。

我々自身がそのような多くのシミュレーションのうちの一つでないと、どうやって断言するのだろうか。

この真面目とも冗談ともつかない推測をおこない、我々が誰かのヴァーチャルなシミュレーションである確率を推定した哲学者がいる。スウェーデン出身のオックスフォード大教授、ニコラス・ボストロムである。なんと彼はそのような確率を表す「ボストロム公式」という数式まで書き下している。

そもそも「超知能 Superintelligence」という言葉自身、ボストロム博士の造語である。彼は同名の著書の中で、超知能の出現した世界について、さまざまな興味深い議論を行っている。ボストロムが特に強調しているのが、人類がそのうち超知能を生む能力を得たとき、生み出した超知能をコントロールできず、逆にそれに支配される「実存的危機 existential risk」の高さである。著書では人工超知能が人間より先に「単一政体 singleton」を確立して人類を滅ぼす、という恐怖のシナリオが生々しく描かれる。

書物の後半では、人類の主権をポスト人工超知能の時代においても保つために、我々はどんな準備をしなければならないか、多くのページを割いた警告がなされている。そこで重要な概念として説かれるのが、「認知力強化 cognitive enhancement」というもので、これは技術的社会的なこんぐらかった諸問題の先を見通し、合理的な理論で対処する能力を指している。人工知能が超知能段階に達する前に、人間自身の認識的才覚を向上させるために遺伝子操作を大々的に活用した「スマートな優生学」も排除すべきではない、という大胆な立論も行なわれる。また超知能段階に達する以前に人工知能に人間の価値を教え込んで訓馴するための「価値充填 value loading」のテクニックなども詳説されていて興味深い。

しかし考えてみれば、もし我々がリアルな存在ではなく、どこかの超知能のシミュレーションのエージェントに過ぎないのだとしょたら、そんなことを心配して何になろうか。自分の行く末を心配する知性を持ったシミュレーション上のエージェントを見つけたとしたら、超知能はきっと腹を抱えて笑っていることだろう。むしろ、心配すべきはシミュレーション結果が退屈なものになって、我々をシミュレートしている超知能が飽きてしまい、シミュレーションを中断してしまうことだろう。我々が直面するのは「リセット」の実存的脅威かもしれない。

シミュレーション仮説を前提として、我々をシミュレートしている神のごとき超知能と我々との関係性から、倫理や道徳を考えることも可能であろう。神、または神々を怒らて「リセット」が起こることの無いように、個人として人類全体として如何に生きるべきかを考える立場である。もし超知能の属性として、我々と類似なものを想定するならば、それは、伝統的宗教の説く倫理や道徳と似たものになるのかもしれない。

しかし我々は、我々をシミュレートしているかもしれない超知能の嗜好について何を知ってるというのだろうか。考えれば考えるほど虚無的な不可知論に陥りそうである。道徳感も好みも何もかも未知の神々に対して、どんな貢物を捧げれば良いのだろう。一体何をすればリセットを避けられるのか、超知能への円滑な移行を目指すべきかどうか、それすらも不明である。

だがそれはそれとして、ちょっと考えてみたいのは、仮に我々がボストロムの助言をうまく消化して、超知能への移行を無事生きながらえたとして、いったい何が起こるのだろうか、ということである。

シミュレーションの中のエージェントとして超知能を得た我々は、多くのSFが予想するように有限の地球を飛び出し、無限のリソースの待つ宇宙への進出を図るだろう。きっと自己増殖するフォンノイマン探査機を作り、惑星を壊してダイソン球を作り、(シミュレーションの中での話ではあるが)無窮の空間に進出していくだろう。

そしてその間にも暇な時間を見つけては、戯れに知的生命体のシミュレーションを行っていることだろう。シュミュレーションの中の超知能がシミュレーションを行う。そしてそのシミュレーションの中で超知能が生み出され、それがまたシミュレーションを行う。

自ら世界を創造できる存在をその中に取り込んだ世界のモデルや理論では、このように入れ子状の無限の創造が行われ得るのは、後付けで考えれば自明のことである。そこでは無限の創造の連鎖が開始される時点があり、それこそが有限と無限を分かつ真の特異点をなしている。これに名前を与えるとすれば、「創造特異点Creation Singularity」とでも呼ぶしかないだろう。

そのような無限のシミュレーションで満たされた宇宙で、任意の知的生命体がシミュレーションでなく現実のものである確率を考えてみると、それはほぼゼロに等しいであろう。ほぼ全ての存在は、無限の階層のヴァーチャルリアリティのどれかの中に住まうだけの、虚の虚、空の空なのではないか。そしてこのような場合、リアルとヴァーチャルを区別することに、何か実際上の意味があるのだろうか。世界は空の空と最初から見切って、それでも世界と折り合いをつけて生きていくしかないのではないか。虚無の無限の累積する宇宙のただ中に、穏やかな諦念のなかに生きていく以外ないのではないか。

創造特異点の想定は、そのような一種仏教的な世界観を内包しているようである。

いやひょっとすると創造特異点は、なにも今ここで筆者によって発見されたのではなく、幾千年の昔にインドの小王国の王子ガウタマ・シッダルタによって見つかっていたのかもしれない。王子が瞑想の中で見たものは、無数の別の世に異なった姿で生を受けた自分、現世の行いと不可思議なカルマでつながっている無数の自分の姿であったのだろうか。けだるい南国の夕暮れに彼が幻視したのは、創造特異点で産出されるシミュレーション世界の目眩く無限階層だったのではないか。この合わせ鏡のような無限階層のシミュレーションの中の、無数のエージェントたちの喜怒哀楽の総和の作る無窮の唸りで満たされた宇宙は、いかに耳を聾する沈黙の轟音で溢れかえっていたことだろうか。

そこまで考えて、ものすごい轟音にふと目をさますと、飛行機がストックホルム空港に着陸したところであった。日足の長い管制塔の寒々とした影が、見渡す限りの針葉樹の森に黒々とかかっていた。手元にはもちろんボストロム著「Superintelligence」オックスフォード出版2014年が開かれたままであった。