クララは感情やこころを獲得できるのだろうか

感情を学習するというのも簡単ではない。
感情にに関しては、”感情の二要因論”というのがあるようだ。この仮説では、「感情は内蔵の状態を知らせる自律神経反応を脳が理解することと、その反応が生じた原因の推定という、二つの要因によって決定される」そうだ。（「感情とはそもそも何なのか」乾敏郎：著、ミネルヴァ書房）
この仮説に従うと、感情には内臓も関係しているようだ。虫の知らせ、とか第六感というのは、腸の状態の感情らしい。
つまり、感情を学習するためには、ロボットにも内臓（あるいは、内臓のようなもの）が必要になるかもしれない。
もちろん、視覚や聴覚、味覚、嗅覚、触覚を感知するセンサーも必要になるだろう。
仮に、AIロボットが感情を学習できたとしても、それが正しく学習できたのかを検証することはさらに難しい。
例として、ジョジーと（ジョジーを複製した）クララが同一の体験（楽しい体験）をしたとしよう。このとき、ジョジーが感じた喜びと、クララが感じた喜びが「同一である」ことを証明することは難しい、ということだ。
これには、喜びを１０段階の数値で評価する、などの方法が考えられるが、ことはそれほど単純ではない。
喜びは８種類の基本感情の一つではあるが、実際の感情はもう少し多面的・複合的、あるいは質感のようなものがあるに違いない。さらに人間は、喜びと悲しみ、あるいは愛情と憎しみなどの相反する感情を同時に持つことすらある。
結局、人間の感情がどのようにして生起するのかも良く分かっていないところがある、ということだ。

脳とコンピュータという観点では、脳とコンピュータを同じような機構だと考える人たちがいる。
一方「脳はコンピュータではない」と指摘する人もいる（ダニエル・L・エヴェレット「言語の起源」）。
脳のニューロンの配線と、その配線の意味が解明できたとしても、それをコンピュータに実装できる保証はないのかもしれない。
さらに、脳は常に変化している（ニューロンの配線は動的である）のに対して、コンピュータは硬直的である。（一度完成したAIに追加データを加えて再学習させる過程は、ニューロンの配線や結合強度を変化させているようにも見えるけれど、自律的とは言えない）
脳とコンピュータでは根本的な仕組みが異なるから、コンピュータが脳のはたらきを完全にシミュレートできるとは限らない。
先に記した人間の記憶に関して言えば、コンピュータではハードディスクやメモリーに記憶が存在するが、人間の記憶の仕組みはそのようにはなっていないようだ。
実際、人間の記憶は時間の経過とともに変化する（脚色される）ことを私たちは経験上知っている。

このように考えてくると、AIが将来人間の感情やこころを学習することは相当に難しい（乗り越えるべき未解決課題が多すぎる）と思われる。
もしも完全にコピーすることができれば、ジョジーは（あるいは私たちは）永遠のいのちを得ることができる、といえるのだろうか？

本書にはAIに関する面白い話も出てくる。
現在のAIにはブラックボックスの部分がある、という指摘を耳にする。これは、AIがどのようにしてその結論を導いたのか推論の過程が見えない（ブラックボックス化している）ということだろう。
本書では、AFのような高度なAIを有するロボットが登場する未来においても状況は変わっていないようだ。
「AIは賢くなりすぎた。中で何が起こっているのかわからない。だから怖いと言う。AFの意思決定やお勧めは堅実で信頼出来て、ほとんどの場合、正しい。だが、どうやってその決定やお勧めに至ったのか、それがわからないのが気に入らない」
この問題は今現在でも存在する課題であるが、未来でも果たしてそうなのだろうか？
AIが利用される領域によっては、説明責任を求められることがあるだろうから、この問題は近い将来には解決されなければならない課題である。