「ディープ・シンキング 知のトップランナー25人が語るAIと人類の未来」（青土社）は、サブタイトルにある通り、25人の各分野の専門家が、AIと人類の未来について論じたものである。
25人の専門家の分野は、理論物理学やコンピュータ・サイエンス、哲学、AI研究、心理学、量子物理学、起業家、アートディレクター、遺伝子工学など多彩だ。25人の論考で構成されているため、各論考はコンパクトにまとめられている。
分野が広くコンパクトであるが故に、私には論旨が分からないものも多いが、それは多分私の前提知識（各分野の基本知識）が不足しているためだと思う。それでもなかには興味深い指摘や新しい発見もあった。
AI（人工知能）については、ハンス・ウルリッヒ・オブリストが指摘しているように、その呼び名が人々に過度な期待や誤解を招いている側面があると思う。
「人々のAIに対する期待は高すぎ、”知能”という名詞が紛らわしい。ヒト・スタヤルは”人口愚者（アーティフィッシャル・スチュービディティ”という言葉を使っている」人々の過度な期待や恐れも手伝って、AIの将来については悲観的な意見と楽観的な意見とが対立している。極端に悲観的な見方の典型は、将来AIが知的労働を担うことになり、人間はその奴隷と化すというものである。
「コンピュータは人間を支配するか？」という問いかけである。この問いかけの根本には「価値観の一致（あるいは価値の整合性）」と呼ばれる問題がある。
すなわち、AIの価値観と人間の価値観は一致させることができるのか、という問題である。これが上手くいかないと、
「私たち自身の思いに反する目的を機械に吹き込んでしまう」
AIの将来（いわゆる汎用人工知能と呼ばれるもの）の話に入る前に、私たちは今のAIの知的レベルを確認する必要があるだろう。発達心理学教授であるアリソン・ゴブニックは今のAIの知的レベルは、人間の4歳児にも到底及ばないと指摘している。
「もっとも優れた性能を持つAIでさえ、4歳児が易々とやってのけるような問題解決能力には到底かなわない」
そこで、幼児の知能の発達過程を研究してAIに応用しようと思っても、そこには壁がある。「今のところ、子どものなかにみられる創造性の類がどのように生まれるか、ということについて、私たちは何もわかっていないに等しい」からだ。
そうはいっても、現在のAI（機械学習や深層学習、あるいは強化学習とよばれるもの）はチェスや将棋、囲碁で人間を負かすほどに強い。
これは、「ディープ・ラーニングやニューロモーフィック・コンピュータは人間の知能のある一面（パターン処理や認識など）を再現するのが非常にうまい」からだろう。
現在のAIが行っているのはある意味、猿真似に近い（もっとも、人間よりもうまく真似るけれども）。そこに欠けているのは、「創造的な批判」と「創造的な推測」だと、デイヴィッド・ドイッチュ（量子物理学者）が指摘している。
「哲学者カール・ポパーが説明したように、創造的な批判を創造的な推測と組み合わせることにより、人間は言語を含む互いの行動を学び、お互いの発話から意味を抽出する」
いまの機械学習の問題は、
「うまくいくが、なぜうまくいくのか分からない」という点だろう。
さらに、「うまくいかなかったとき、その原因（欠陥）が、プログラムにあるのか手法にあるのかが分からない」
これは、（本書には言及がないが）「説明可能なAI」として現在研究が進められている分野だと思われる。（私は専門家ではないので詳しいことは分からないが）
AIが将来、人間を超えるスーパーインテリジェンスに向かうとの指摘は、レイ・カーツワイルの「ポスト・ヒューマン誕生 －コンピュータが人類の知性を超えるとき」（2005年）がきっかけの様だが、最初に「特異点（シンギュラリティ）」という単語を使ったのはフォン・ノイマンらしい。（1950年代、ジョン・フォン・ノイマンが「テクノロジーの特異点（シンギュラリティ）」という概念を持ち出した）
AIが汎用人工知能（AGI)へと向かうとき、「AIの安全性の研究」が重要になると、マックス・テグマーク（物理学者でありAI研究者）が指摘している。
「AGI（汎用人工知能）は、1世紀以内に実現するという強い期待があり、その中央値予測はわずか数十年先だ」
「AGIが到来する前に、・・・我々のゴールと機械のゴールを調整することが重要になる」
数十年後に汎用人工知能に到達すると考える人がいる一方で、汎用人工知能に到達するまでにはまだまだ多くの課題がある。例えば、ヴェンキ・ラマクリシュナン（分子生物学者）は、
「汎用人工知能に関する誇張された表現が私にはSF小説めいたものに感じられる。その理由の一つは、私たちがそこまで詳細には（人間の）脳を理解していないからである。意識とは何かを理解していないだけでなく・・・」
汎用人工知能に到達したとしても（あるいは、現在のAIがより進化したとしても）問題がないわけではなさそうだ。
例えば、「証明も概念さえも人間には理解不能な数学の定理」をAIが導出する、などである。「それは、私たちの行ってきた科学の方法とは異なる」かもしれない。
こうなると人間はAIが導出した定理が本当に正しいのか検証しなければならないのだろうか？
なんだか変な世界になりそうだ。
先に紹介したアリソン・ゴブニックは、知識の習得には二通りの方法がある、と言っている。ひとつはボトムアップ方式で、全ての作業は関連付けとパターン抽出によって行うことができる、とするものである。ディープラーニングや強化学習はボトムアップ方式に該当する。
いまひとつはトップダウン方式で、確率的生成モデルやベイズ式生成モデルが該当する。ベイズモデルは、生成モデルと仮説検証を確率論と組み合わせたものだそうだ。
「（人間の）４歳児はトップダウン方式がするように、たった一つか二つの例を見て全く異なる概念へと一般化することで学習できる。その一方でボトムアップ方式のシステム同様、データそのものから新しい概念とモデルを学ぶことができる」
人間の知能はまだまだAIよりも勝っている面があるとともに、その知識獲得の方法には分からない点が多くあるようだ。
今後AIはどのような進歩を遂げるのだろうか。
人間の脳の仕組みや知識獲得の方法の解明が進んで、汎用人工知能へと進化するのか？それとも人間とは異なったやり方でAIは進化するのだろうか？
量子コンピュータの分野の専門家でもあるセス・ロイドが言うように、「テクノロジーの先行きは本当に予測がつかない」 |
