2022/8/11頃。
脳というデバイス（アルゴリズム）が、インプットとアウトプット間に、どんな処理をさせているか、ということを新たなパラダイムで示してくれている本書。
””私の脳、厳密には私の新皮質は、何を見たり聞いたり感じたりしようとしているか、同時に複数の予測を立てているのだ。私が眼を動かすたびに、新皮質はこれから何を見るのかを予測する。私が何かを手に取るたびに、新皮質は指が何を感じるはずかを予測する。そして私が行動を起こすたびに、何が聞こえるはずかを予測することになる。コーヒーカップの取っ手の手ざわりのようなごく小さい刺激も、カレンダーに示されるはずの正しい月のような包括的な概念も、脳は予測する。こうした予測は、低次の感覚特性のためにも高次の概念のためにも、あらゆる感覚様相で起こる。このことから、新皮質のあらゆる部位、ひいてはあらゆる皮質コラムが、予測をしていることがわかった。予測は新皮質の普遍的な機能なの””
””現在、私は「記憶による予測の枠組み」という表現は使っていない。同じ考えを説明するのに、新皮質は世界のモデルを学び、そのモデルにもとづいて予測するのだと言っている。「モデル」という言葉のほうを好む理由は、新皮質が学習する情報の種類を、より正確に表現するからだ。たとえば、私の脳には私のホチキスのモデルがある。そのホチキスのモデルには、ホチキスがどう見えるか、どういう感触か、使われているときにどんな音を立てるかが組み込まれて””
””脳は予測モデルをつくる。これは、脳は入力が何かをたえず予測する、という意味だ。予測は脳がときおりやることではない。けっして止まることのない固有の属性であって、学習にきわめて重要な役割を果たす。脳の予測が正しいと証明されたとき、それはつまり、脳がもつ世界のモデルが正確だということだ。予測がまちがっていたら、人はその誤りに注意を向けて、モデルを更新””
””思考と経験はつねに、一連の同時に活性化するニューロンが生み出すものである。個々のニューロンはさまざまな思考や経験に参加できる。あなたの思考はどれもニューロンの活動だ。あなたが見るもの、聞くもの、感じるものもまたすべて、ニューロンの活動だ。私たちの精神状態とニューロンの活動は同一で ””
””私の重要なひらめきとは、樹状突起活動電位は予測である、ということだ。樹状突起活動電位が発生するのは、遠位樹状突起上の隣り合うシナプス集団が同時に入力を受け取ったときであり、つまり、そのニューロンがほかのニューロン内の活動パターンを認識しているということだ。活動パターンを検出すると、ニューロンは樹状突起活動電位を発生し、それが細胞体の電圧を上昇させ、細胞をいわゆる予測状態にする。そうするとニューロンは活動電位発生の準備が整う。「位置について、用意……」の合図を聞くランナーが、走り始める準備を整える様子に似ている。予測状態にあるニューロンが次に、活動電位を発生するのに十分な近位入力を受ければ、ニューロンが予測状態ではなかった場合よりも少し早く、細胞は活動電位を発生””
脳（新皮質）は、モデルを学び、モデルをつくり、モデルにもとづいて予測している。
””皮質コラムが何をするかについて、いまでは多くのことがわかっている。コラムそれぞれが感覚運動システムだとわかっている。コラムそれぞれが何百という物体のモデルを学習できることも、モデルの基礎が座標系であることもわかっている。コラムがそういうことをするのだとわかったとたん、新皮質全体は以前に考えられていたのとちがう働きをしていることがはっきりした。われわれはこの新しい見方を「知能の一〇〇〇の脳理論（Thousand Brains Theory of Intelligence）」と呼ぶ。一〇〇〇の脳理論が何かを説明する前に、それが何に取って代わっているかを知ることが役に立つ。””
””こうして世界全体が学習される。つまり、物体どうしの相対的位置の複雑な階層として学習される。新皮質が具体的にどうやってそれをしているかは、まだ明らかではない。われわれの考えでは、各コラム内で一定量の階層的学習が起こっているが、すべてがそうでないことは確実で””
””ここで再び強調しておきたい。機械がひとつの仕事を、というか複数の仕事でも、どれだけうまくこなすかでは、知能のあるなしを判断できない。そうではなく、機械がどうやって世界についての知識を学習して保存するかで、知能は決まる。私たちが知的なのは、ひとつのことを特別にうまくできるからではなく、ほぼどんなことでもやり方を学習できるからだ。人間の知能の極端な柔軟性には、本章で説明した特性が必要である。たえず学習し、動きによって学習し、たくさんのモデルを学習し、知識の保存と目標指向の行動のために汎用の座標系を使う。将来的には、ほぼあらゆる形の機械知能は、こうした特性を備えることになる、と私は信じている。ただし、これからの道のりは ””
「知能の一〇〇〇の脳理論（Thousand Brains Theory of Intelligence）」。
知能の謎を解くカギは、大脳新皮質の構成単位「皮質コラム」にある。僕たちが動くことによって、感覚入力が変わり、脳は世界の「モデル」を学習する。モデルの基礎をなすのは、物体の位置とその変化を記述する「座標系」だと仮定される。あらゆる皮質コラムに座標系をつくる細胞があり、あらゆる皮質コラムがモデルを持ている、と。
たとえば、いま、目の前にコーヒーカップがあるとする。それをつかもうと手を伸ばすとき、コーヒーカップのモデルを持つ何千ものコラムが、次にどんな入力があるかを予測し、手ざわり、重さ、温度、机にもどしたときに立てる音など、知覚とは、コラム間の「投票」によってたどり着いた合意であるという。
このメカニズムは、物体の認知にとどまらず、民主主義、人権、数学、すべての概念は座標系内に保存される。思考とは、座標系内を動きまわることである、と。
座標系はカップのような外の世界の物体を認知するためだけでなく、人が直接感知できない知識を整理するのにも使えるという。たとえば政治や数学といった、概念についての知識もすべて座標系に保存されるので、物理的空間内を歩きまわるのと同じように、座標系内の概念から概念へと動いていくことが思考だという。数学者は方程式という数学の概念を座標系にきちんと保存しているので、似たような方程式に遭遇したとき、どういう演算でその座標系内を動きまわればいいかがわかる。しかし数学に疎い人の場合、脳が座標系をつくっていないので、方程式を解こうとしても数学の空間で迷子になる。地図がないと森で迷子になるのと同じだ。このように脳の働きを動的にとらえ、どこも同じように見えるのに異なる機能を果たす新皮質の各領域が、じつは共通の基本アルゴリズムを実行している、と。
””概念知識の学習が難しい理由のひとつがこれだ。私があなたに民主主義に関係する歴史的出来事を一〇個示すとして、あなたはそれをどうやって並べるべきなのか？ ある教師は、出来事を時系列で並べて示すかもしれない。時系列は一次元の座標系だ。出来事の時間的順序を把握して、どの出来事どうしが因果関係にあるかを時間的近さから評価するのに役立つ。別の教師は同じ歴史的出来事を、世界地図上に配置するかもしれない。地図の座標系は、同じ出来事に関する異なる考え方を示す。どの出来事どうしが因果関係にあるかを空間的近さ、あるいは海や砂漠や山との近さから評価できる。時系列と地理はどちらも、歴史的出来事を整理する有効な方法だが、歴史についての異なる考え方に””
””民主主義について学習するための最善の構造には、まったく新しい地図、公正と権利に対応する複数の概念上の次元をもつ地図が必要になる。「公正」と「権利」は脳が使う実際の次元であると言っているのではない。私が言いたいのは、研究分野の専門家になるには、関連するデータと事実を表わす優れた枠組みを発見する必要がある、ということだ。 正しい 座標系はないかもしれないし、ふたりの個人は事実をちがうやり方で並べるかもしれない。私たちはほとんど意識していないが、役に立つ座標系を発見することは、学習の最も難しい部分なの””
””先ほどの数学の例は完全に観念的な話だが、明らかに物理的とは言えないどんな問題でも、プロセスは同じだ。たとえば、政治家が新しい法律を制定したいとしよう。その法律の原案を書かなくてはならないが、制定という最終目標に到達するために必要なステップはいくつもある。途中、政治的障害もあるので、政治家は講じられるさまざまな対応策すべてについて考える。ベテラン政治家は、自分たちが記者会見を開いたり、住民投票を強要したり、政策文書を書いたり、別の法案を支持する取引をもちかけたりしたら、何が起こりそうかを知っている。腕の立つ政治家は、政治のための座標系を学習しているのだ。政治活動が座標系内の位置をどう変えるかも座標系の一部であり、政治家はそうした活動をすればどうなるかを想像する。目指すのは、新しい法律を制定させるという望みどおりの結果につながる、一連の活動を見つけること””
感覚的にではなく、科学的（脳科学的）に、人間が、脳が、新皮質が、このように世界（モデル）を学習しているというモデルを知ることが出来て、とてもワクワクしました。本論を踏まえ、第2部、第3部では、機械知能（AIないしAGI）の未来や、それを扱う人間や人間と機械の融合した先にある未来が、どうなっていくか、リスクや可能性についての論考も、とても興味深いものがありました。この10～20年の間に、どのような未来になっているかは誰も予測できずとも、想像を超える未来が訪れることだけは疑いの余地が無いでしょう。引き続き、最先端の潮流をキャッチアップしていきたいものです。
目次
第１部 脳についての新しい理解（古い脳と新しい脳；ヴァーノン・マウントキャッスルのすばらしい発想；頭のなかの世界モデル ほか）
第２部 機械の知能（なぜＡＩに「Ｉ」はないのか；機械に意識があるのはどういうときか；機械知能の未来 ほか）
第３部 人間の知能（誤った信念；人間の知能による人類存亡のリスク；脳と機械の融合 ほか）
””要するに、運動野には本質的に運動であるものはないし、感覚野には本質的に感覚であるものはない。したがって、どこであれ新皮質の局所的なモジュール回路について、その動作モードの解明を一般化することには大きな意味がある。 この二文でマウントキャッスルは、自分の小論が提案する主要な考えを要約している。それによると新皮質の部位はどれも同じ原理で働くのだという。私たちが知能と考えるもの──視覚から触覚、言語、高次の思考まで──すべて、根本的に同じなの～””
””マウントキャッスルは、領域が同じように見える理由はみな同じことをしているからだ、と提案した。ちがうのは本質的な機能ではなく、何とつながっているかである。皮質のある領域を眼とつなげれば、視覚が生まれる。同じ皮質領域を耳とつなげれば、聴覚が生まれる。領域をほかの領域とつなげれば、言語のような高次の思考が生まれる。そして、新皮質のあらゆる部位にある基本機能を見つけられれば、全体の仕組みを理解できる、とマウントキャッスルは指摘 ””
””最後に、極端な柔軟性の根拠がある。人間は進化圧力のないさまざまなことができる。たとえば、私たちの脳はコンピューターをプログラムしたり、アイスクリームをつくったりするように進化してはいない──どちらも最近の発明だ。私たちがこういうことをできるという事実から、脳は汎用の学習手法に頼っていることがわかる。私にとって、この最後の論拠が最も説得力がある。事実上どんなことでも学習可能であるためには、脳が普遍の原理にもとづいて働く必要が ””
””なぜ、何かが理解できないと考えるのだろう？ 人間による発見の長い歴史が、最初は理解できないように思えることも、最終的には論理的に説明できることを、繰り返し示してきた。意識は神経活動によって説明できないと科学者が強く主張するのであれば、私たちは疑ってかかるべきであり、理由を示す責任は彼らにあるはず””
””知能とは、世界のモデルを学習するシステムの能力だ。しかし、結果としてでき上がるモデルそのものには価値観も、感情も、目標もない。目標や価値観は、なんであれモデルを使っているシステムによって提供される。知能の働きは、一六世紀から二〇世紀にかけての探検家が、地球の正確な地図の作成に果たした役割に似ている。無慈悲な将軍は、敵軍を包囲して殺す最善の方法を計画するために、地図を使うかもしれない。貿易商は同じ地図を使って、平和裏に商品を取引する可能性がある。地図そのものがこうした利用法を決定するわけではないし、使われ方に価値をつけることもない。地図は地図であって、残忍でも平和的でもない。もちろん、地図は細部や内容がさまざまだ。したがって、戦争に適した地図もあれば、貿易に適したものもあるかもしれない。しかし、戦争をしたいとか、貿易をしたいという願望は、地図を使っている人から生まれる。 同じように、新皮質は世界のモデルを学習するが、モデルそのものには目標も価値観もない。私たちの行動を導く感情は、古い脳によって決まる。ある人の古い脳が攻撃的なら、攻撃行動をうまく実行するために新皮質のモデルを使う。別の人の古い脳が情け深ければ、情け深い目標をうまく達成するために新皮質内のモデルを使う。地図と同じように、ある人の世界モデルは特定の目標に適しているかもしれないが、新皮質は目標を生み出さない。””
””まず覚えておいてほしいのは、新皮質が自力で目標や動機や感情を生み出すことはない、ということだ。新皮質を説明するのに使った、世界の地図のたとえ話を思い出してほしい。地図は私たちに、現在地から目的地への行き方や、なんらかの動きをしたらどうなるか、さまざまな場所に何があるかを教えてくれる。しかし地図そのものに動機はない。地図はどこかに行きたいと望まないし、自発的に目標や野心を考え出すこともない。同じことが新皮質についても””
””機械に目標と動機を与えるには、目標と動機のための具体的なメカニズムを設計してから、それを機械の身体性に埋め込む必要がある。目標には、遺伝子で決まっている食欲のように不変のものもあれば、幸せな人生を送るという社会に左右される目標のように、学習される場合もある。もちろんどんな目標も、アシモフの第一および第二原則のような、安全対策をふまえて立てられるべきだ。要するに、知的機械にはなんらかの形の目標と動機が必要だが、目標と動機は知能がもたらす結果ではなく、しかも勝手には現われ ””
””人口過剰の妙なところは、人口を減らすという考えは論争の的にはならないのに、どうやって現状からそれを達成するかについて話すことは、社会的にも政治的にも許されていないことだ。私たちは激しく非難された中国の一人っ子政策を思い出すのかもしれない。無意識に、人口を減らすことを大虐殺や優生学と結びつけるのかもしれない。理由はどうあれ、意図的に人口減少を目指すことについて検討されることはめったにない。それどころか現在の日本のように、国の人口が減っているとそれは経済危機と見なされる。日本の人口減少が世界のロールモデルとして語られることはほとんど””
””脳をアップロードするのは、最初はすばらしいアイデアに思える。永遠に生きたくない人がいるだろうか？ しかし脳をコンピューターにアップロードして自分のコピーをつくることは、子どもをつくることと同じように、不死を実現しない。自分をコピーするのは分かれ道であって、道の延長ではない。分かれ道のあとには、知覚できる存在がひとつではなく二つになる。ひとたびこのことに気づくと、脳のアップロードの魅力は薄れ ””
””何もしないという選択肢はない。知的生命体として、私たちは選択をしなくてはならず、その選択が未来をいずれかの方向に向かわせる。地球上の動物に関して、私たちは助けるかどうかを選ぶことができる。しかし私たちがここにいるかぎり、事態を「自然」に任せる選択肢はない。私たちは自然の一部であり、未来に影響をおよぼす選択をしなくてはなら ””
””私の目から見ると、私たちは難しい選択に直面している。古い脳か新しい脳、どちらに味方するかの選択だ。もっと具体的には、いまの私たちをつくり上げたプロセス、すなわち自然選択、生存競争、そして利己的な遺伝子の欲求によって、自分たちの未来が決定されるのを望むのか？ それとも、世界を理解したいという欲求と知能によって、未来が決定されるのを望むのか？ 主要な原動力が知識の創造と普及である未来か、主要な原動力が遺伝子の複製と伝播である未来か、選択するチャンスが ””
””私がいつも楽しむ空想がある。広大な宇宙と何千億もの銀河を想像するのだ。銀河それぞれに何千億という恒星がある。恒星それぞれの周囲に、果てしなく変化に富んだ惑星を思い描く。そうしたものすごく大きな物体が何兆も、広大な何もない宇宙の中で、ゆっくりと互いの周りを何十億年も回り合う。私が感心するのは、このことを知っているのは、というか、そもそも宇宙が存在することを知っているのは、宇宙の中で私たちの脳だけであること””
””宇宙と知能の特異性についての考察は、私が脳について研究したかった理由のひとつだ。しかし地球上にほかにも理由がたくさんある。たとえば、脳の仕組みを理解することは、医薬や精神衛生にも影響する。脳の謎を解くことは真の機械知能につながり、それは社会のあらゆる面でプラスになる。かつてコンピューターがそうだったのと同じだ。さらには子どもへのより良い教育法につながる。しかし最終的に話は、類を見ない私たちの知能にもどる。私たちは最も知的な種である。私たちが何ものであるかを理解したければ、どうやって脳が知能をつくり出すかを理解しなくてはならない。脳のリバースエンジニアリングを行ない知能を理解することが、私に言わせれば、人間が取り組む最も重要な科学的探求で ””
””本書の第１部では、新皮質の仕組みとどうやって新皮質が世界モデルを学習するかについて、新しい理論を説明した。われわれはこれを知能の一〇〇〇の脳理論と呼ぶ。私の解説はわかりやすく、私の主張には説得力があったと信じたい。途中、そこで終わりにすべきかどうか熟慮した。一冊の本に書く内容として、新皮質を理解するための枠組みだけで十分に野心的であることはたしかだ。それでも、脳を理解することは当然ほかの重要な問題につながるので、私は進み続け ””
””第２部では、現在のＡＩが知的でないと主張した。真の知能であるには、新皮質がやるのと同じように、機械が世界のモデルを学習しなくてはならない。そして、大勢の人が考えるように、機械知能が人類存亡のリスクではない理由を説明した。機械知能は、私たちがつくり出す最も役立つテクノロジーになる。ほかのあらゆるテクノロジーと同様、それを悪用する人はいるだろう。そのことのほうがＡＩそのものより心配だ。機械知能そのものは、人類存亡のリスクにはならない。そしてメリットのほうがデメリットよりはるかに大きいと””
””最後に第３部では、知能と脳の理論をとおして人類の状況を見てきた。おわかりのように、私は未来について心配している。人間社会の幸福と人類の長期生存についても心配している。私の目標のひとつは、古い脳と誤った信念の組み合わせが、現実的な人類存亡のリスクであることの認識を高めることだ。考えられているＡＩの脅威より、よほど大きなリスクで””
””私たちが直面する問題の多くは──戦争から気候変動まで──誤った信念、または古い脳の利己的な欲望、またはその両方によって生み出される。あらゆる人間が自分の脳内で起きていることを理解したら、対立は減り、私たちの未来予想はもっと明るくなると””
””知的生命体としての私たちについても、同じような疑問を投げかけることができる。 なぜ私たちは知的で、自己を認識しているのか？ 人類はどういう経緯で知的になったのか？ 知能と知識の運命はどうなる？ こうした疑問に答えがあることだけでなく、私たちは答えを見つけることにすばらしい進歩をとげつつあることを、あなたに納得してもらえたと信じたい。人類の未来についての懸念とは別に、知能と知識の未来についても懸念すべきであることも、納得してもらえたと信じたい。私たちの優れた知能は唯一無二であり、わかっているかぎり、広大な宇宙が存在することを知っているのは、宇宙で人間の脳だけである。人間の脳だけが、宇宙の大きさ、その年齢、そして動きの法則を知っている。だからこそ、私たちの知能と知識は保存に値するのだ。そしていつの日か、私たちはすべてを理解するかもしれないという希望が ””
””ホーキンスの脳理論には大きな進歩があった。脳がどうやって予測するかを解明したのだ。第１部でその理論的枠組みが明らかにされる。カギは「動き」と「座標系」。予測するにはまず、世界はこういうものだというモデルを学習する必要がある。たとえばコーヒーカップという物体がどういうものかを知るのに、一点に触れたままでは何も学習できない。指を動かすことによって、指で感じるものがどう変わるかを知るのが学習だ。そうするとカップのふちや底や取っ手のような特徴の位置関係、つまり物体の構造を記憶することになり、その記憶をしまうために脳がつくり出すのが、地図に似た座標系である。しかもその座標系を、新皮質を構成する何千何万という「皮質コラム」という要素それぞれがつくり出し、それをもとに皮質コラムそれぞれが予測を行なう。言ってみれば、脳はひとつではなく何千もあるというのが「一〇〇〇の脳」の意味なの””
””座標系はカップのような外の世界の物体を認知するためだけでなく、人が直接感知できない知識を整理するのにも使えるという主張だ。たとえば政治や数学といった、概念についての知識もすべて座標系に保存されるので、物理的空間内を歩きまわるのと同じように、座標系内の概念から概念へと動いていくことが思考だという。数学者は方程式という数学の概念を座標系にきちんと保存しているので、似たような方程式に遭遇したとき、どういう演算でその座標系内を動きまわればいいかがわかる。しかし数学に疎い人の場合、脳が座標系をつくっていないので、方程式を解こうとしても数学の空間で迷子になる。地図がないと森で迷子になるのと同じだ。このように脳の働きを動的にとらえ、どこも同じように見えるのに異なる機能を果たす新皮質の各領域が、じつは共通の基本アルゴリズムを実行しているとする理論は画期的で””