人間の知能を超えるAIが登場するのは時間の問題。 AIが人間を攻撃しないなんて誰も保証してくれない。 人類はAIによって滅ぼされる。 あなたは、このような表現を聴いて、 どのようなに感じるだろうか。
2016年上半期時点での、 日本人のマジョリティにとっては、 このような表現は、 「大げさだなぁ」程度に受け取られるのではないだろうか。 逆に、ある程度、 現代の未来予測やテクノロジーの発展に詳しい人達にとって見れば、 このような表現は、 「まだそんな話をしてるの？」程度に受け取られているだろう。
知る人ぞ知る「シンギュラリティ」を世界に広めたレイ・カーツワイル氏の書籍を読み、 いやはや、奥深い考察に、僕はハマってしまった。 少々大げさなところもあるかもしれない。 誰かにとっては、途方も無く、くだらない未来予測かもしれないが、 僕にとっては、人生の貴重な命を削ってでも、学び続けたい分野となってしまった。
SF的な世界は、 あくまで映画の中の世界であり、 あくまで小説、フィクションの世界だった。 しかし、学べば学ぶほど、 虚構で出来た世界じゃない、 絵空事、他人事じゃない、 そう心の底から思うようになってしまった。 客観的に見れば、 このような現時点から見る世界観、常識論みたいなものに照らし合わせれば、 なんとも変態的で、なんとも突拍子もない発想でしかない。 それでも、取り憑かれたように、 今、自分の身の回りにある汎ゆる事象が、 未来に繋がり始めている。
何年何月に、訪れるかも分からない未来に、 僕は、オーガズムを感じている。 AI志向のシンギュラリティも、 人間志向のシンギュラリティも、 いずれにせよ、自分たちが生きている時代の中で、 何らかの予測しようのない未来が待っていることは、 人生を官能的なものにし得るのではないかと思っている。 レイ・カーツワイル氏は、 あまりにも楽観的ではあるかもしれない。 でも、彼は、もしかすると、 意図的に、楽観的に演じているだけかもしれない。
いずれにせよ、 僕たちは、未来に悲観的になり過ぎても、 得られるものが少ないではないか、ということに気付くべきなんだと思う。 楽観的であり過ぎることを否定しているわけではない、 逆に、悲観的であり過ぎることが正しいとも言っていない。 楽観的すぎても、悲観的すぎても、 人生との、世界との、正しい距離を測りづらいのではないかと思う。
【抜粋】
● 迫りくる特異点という概念の根本には、次のような基本的な考え方がある。人間が生みだしたテクノロジーの変化の速度は加速していて、その威力は、指数関数的な速度で拡大している、というものだ。指数関数的な成長というものは、つい見過ごしてしまいがちなものである。最初は目に見えないほどなのに、そのうち予期しなかったほど激しく、爆発的に成長する。変化の軌跡を注意深く見守っていないと、まったく思いもよらない結果になる。
● 特異点とは、われわれの生物としての思考と存在が、みずからの作りだしたテクノロジーと融合する臨界点であり、その世界は、依然として人間的ではあっても生物としての基盤を超越している。特異点以後の世界では、人間と機械、物理的な現実とヴァーチャル・リアリティとの間には、区別が存在しない。
● そんな世界で、確かに人間的だと言えるものが残っているのかと問われれば、あるひとつの性質は変わらずにあり続ける、と答えよう。それは、人間という種は、生まれながらにして、物理的および精神的な力が及ぶ範囲を、その時々の限界を超えて広げようとするものだ、という性質である。
● こうした変化にたいして、否定的な意見を述べる人たちがいる。特異点以後の世界に移行すると、人間性のなくてはならない面が失われてしまう、というのだ。だが、テクノロジーがどのように発展していくかが誤解されているから、こうした意見が出てくるのだ。これまでに存在した機械は、人間特有の生物的な性質に必須な繊細さが欠けていた。特異点にはさまざまな特徴があるが、それが指し示すもっとも重要な点は、テクノロジーが、人間性の粋とされる精巧さと柔軟さに追いつき、そのうち大幅に抜き去る、というものだ。
● で、加速度と特異点という二つの重要な概念に触れている。加速度の意味するところは、人類の進歩は指数関数的なものであり（定数を掛けることで繰り返し拡大する）、線形的（定数を足すことにより繰り返し拡大する）なものではない、ということ
● 人はたいてい、今の進歩率がそのまま未来まで続くと直感的に思い込む。長年生きてきて、変化のペースが時代とともに速くなることを身をもって経験している人でさえ、うっかりと直感に頼り、つい最近に経験した変化と同じ程度のペースでこれからも変化が続くと感じてしまう。なぜなら、数学的に考えると、指数関数曲線は、ほんの短い期間だけをとってみれば、まるで直線のように見えるからだ。そのため、識者でさえも、未来を予測するとなると、概して、現在の変化のペースをもとにして、次の一〇年や一〇〇年の見通しを立ててしまう。だからわたしは、こうした未来の見方を「直感的線形的」展望と名づけた。
● しかし、テクノロジーの歴史を徹底して研究すれば、テクノロジーの変化は指数関数的なものだということが明らかになる。指数関数的な成長は、どのような進化のプロセスにも見られる特徴で、中でもテクノロジーにおいて顕著である。
● 短期的に達成できることは必要以上に高く見積もるのに（細部の必要条件を見落としてしまいがちだから）、長期的に達成されることを必要以上に低く見積もってしまう（指数関数的な成長に気づかないから。）
● 人間の知能を上回る非生物的な知能体が出現することを警戒する研究者はたくさんいる。われわれ自身の知能を、外部の思考する基板と直接つなげて向上させることができるだろうと言っても、そうした懸念が軽減されるとは限らない。「強化」されないままでいながら、知能ヒエラルキーの頂点の地位は守りとおしたい、と願う人もいるのだから。生物としての人道精神にのっとれば、超人的な知能は、献身的な従僕で、われわれ人間の必要や欲求を満たしてくれる存在とも受け止められる。しかし、尊敬すべき生物としての遺産の欲求を満たすことは、特異点の到来とともに出現する知的な力にとっては、苦もなくできることであるに違いない。
● 遺伝学（あるいは生命工学）革命が、その能力とコストパフォーマンスを指数関数的に増大させ、生物学の分野に情報革命を引き起こしている。これと同様に、ナノテクノロジー革命により、材料や機械システムについての情報統御が急速に前進するだろう。ロボット工学（あるいは「強いＡＩ」）革命には人間の脳のリバースエンジニアリングがかかわっている。つまり、人間の知能を情報という観点から理解し、そこで得た洞察を、ますます強力になるコンピューティングのプラットフォーム（基盤技術）に結びつけるということだ。このように、遺伝学、ナノテクノロジー、ロボット工学といった、互いに重なり合う三つの変革が、二一世紀の前半を席巻し、情報革命のさまざまな面を表すようになる。
● 道理をわきまえた人は自分を世界に合わせる。道理をわきまえない人は、世界のほうを自分に合わせようとして譲らない。したがって、全ての進歩は、道理をわきまえない人のおかげなのだ。 ──ジョージ・バーナード・ショー「革命家への金言」『人と超人』収載、一九〇三
● 視覚的聴覚的に完全なヴァーチャル・リアリティ環境は、今世紀の最初の二〇年間で全面的に普及して、どこでも好きなところに住んで仕事をするという傾向がいっそう強くなるだろう。五感全てを組み込んだ完全没入型のヴァーチャル・リアリティ環境は、二〇二〇年代の終わりには実際に手に入ることになるが、そうなると、現実のオフィスを使う理由はまったくなくなる。不動産は、ヴァーチャルなものになる。
● 人間の脳のもっとも複雑な能力──わたしはこれがもっとも決定的なものだと思う──が、感情に関わる知能だ。われわれの脳の複雑で相互に連結された階層の最上部に不安定に位置するのは、さまざまある高次の機能の中でも、感情を知覚し適切に反応し、社会的な状況において互いに交流し、道徳観をもち、冗談を理解し、絵画や音楽に感情的に反応する能力だ。知覚や分析のより低次の機能が脳の感情のプロセスに送り込まれているのは確かだが、脳のこの領域についての理解はようやく始まったばかりであり、こうした問題を扱う特殊なタイプのニューロンのモデル化も着手されつつある。
●二一世紀前半は三つの革命が同時に起きた時代であったと、いずれ語られることになるだろう。その三つとは、遺伝学（Ｇ）、ナノテクノロジー（Ｎ）、ロボット工学（Ｒ）である。これらの革命は、先に述べたエポック５、すなわち特異点の黎明を告げるものだ。
● 世界の飢餓を克服する クローニング技術によって、世界の飢餓も解消できるかもしれない。肉などのタンパク質源を、動物がいない畜産場で、動物の筋組織をクローニングして生産するのだ。メリットは多い。極めてコストが低く、動物の肉に含まれる農薬やホルモンの心配がなく、環境への影響も（工場式畜産と比べて）著しく抑えられ、肉の栄養価が高まり、動物を苦しめなくて済むようになる。治療目的のクローニングと同じく、動物を一匹まるごと作りだすのではなく、必要とされる部位や肉を直接生産するのだ。基本的に、すべての肉、膨大な量の肉が、たった一匹の動物から取れるようになる。
● 超知能がいずれ技術的に実現できるとなれば、人間はそれを発達させていく道を選ぶだろうか。確信をもって、答えはイエスだと言いたい。超知能へと至る各段階には膨大な経済的利益が伴う。コンピュータ業界は次世代のハードウェアとソフトウェアに巨額を投じ、その傾向は競争と利益がある限り続くだろう。人はより優れたコンピュータとより賢いソフトウェアを欲しがり、そうした機械によって生みだされる利益を求める。効果が高い医薬品、たいくつな作業や危険な仕事からの解放、娯楽──消費者が求める利益にはきりがない。また、ＡＩの開発の背景では、軍事的な動機も強く働いている。そして、ひとたびこの道を進み始めれば、テクノロジー恐怖症の人が「ここまではいいが、ここから先に行ってはいけない」ともっともらしく言えるような停止点はどこにもない。
● 特異点の核となる問いは、「ニワトリ」（優れたＡＩ）と「卵」（ナノテクノロジー）のどちらが先になるか、である。言い換えれば、強いＡＩがナノテクノロジー（情報から物理的な製品を作りだす分子製造アセンブラー）を完成するのか、それとも完全なナノテクノロジーが強いＡＩを実現させるのだろうか。前者の論理の前提となっているのは、先にあげた理由からもわかるように、強いＡＩは超人的なＡＩを意味し、超人的なＡＩこそがナノテクノロジーの設計上の障害を解決し、その完全な実現を導くという見方だ。
●仕事の意義は、音楽や芸術から数学、科学まで、あらゆる種類の知識の創造に向けられる。遊びの意義は、こちらも知識を生みだすところにあり、仕事と遊びにはっきりした区別はなくなるだろう。
● きみはどこで線を引こうとしているんだ？ 人間はすでに体や脳の一部を非生物的なものと交換していて、それが「人間」としての機能を果たすのにうまく役立ってるじゃないか。
● 人間のアイデンティティはしばしば体と密接に結びついている（「わたしは鼻が大きい」「わたしはやせっぽちだ」「おれは大男だ」というように）。別の人物になる機会は、人を解放してくれるということにわたしは気づいた。人はみな多様な個性を併せもち、それを伝える能力もあるが、ふだんは簡単に表現する方法がないため、個性を全て押し隠してしまう。現在では、異なる人間関係や場面に合わせて自分を変えようとしても、すぐに使える技術は──ファッションやメイクや髪型といった具合に──ひじょうに限られているわけだが、未来の完全没入型のヴァーチャル・リアリティ環境では、個性を表現するためのパレットはとても色彩豊かなものになっているだろう。
● わたしの考えでは、生命の目的──そしてわれわれの人生の目的──は、より偉大な知識を創造して評価し、そして、より素晴らしい「秩序」に近づくことである。秩序が増加していくと通常は複雑さも増していく。だが時には、深い洞察により、複雑さを減少させつつ秩序を増加させることも可能となる。
● 「スピリチュアリティ」のもうひとつの含意は「魂をもつ」ということで、いうなれば、「意識がある」ということだ。「個人性」の土台である意識は、多くの哲学的、宗教的伝統において、真実を意味すると考えられている。一般的な仏教の存在論では、むしろ主観的──すなわち意識的な──経験こそが究極の真実だとされており、物理的または客観的現象はマーヤー（幻影）だと考えられている。
● われわれは過去を美化しがちだ。しかし多くの人はごく最近まで、ささいな事件でさえ大災害と感じられるほど極度に脆弱な生活を送っていた。二〇〇年前、女性の平均寿命はその記録保持国であるスウェーデンで約三五歳であり、現在最高の日本女性の平均寿命である約八五歳に比べて極端に短い。男性の寿命は約三三歳で、現在は記録保持国で七九歳だ028。夕食の準備に半日もかかり、多くの人が重労働にあえいでいた。社会的な救済策もなかった。今でもかなりの人々がこうした不安定な生活を送っている。
● テクノロジーは両刃の剣であり続けるだろう。それは全ての人類の目的をかなえるほどに巨大な力を表している。ＧＮＲは病気や貧困など昔からの問題を克服する手段を与えてくれるだろう。しかしそれは同時に、破壊的なイデオロギーにも力を与えることになる。われわれは防御を強化する一方で、これら加速するテクノロジーを適用して人類の価値を高めるしかない。たとえその価値がなんであるかについて、全員の合意が明らかにまだできてはいなくても。