クララは感情やこころを獲得できるのだろうか

AI(人工知能)は、将来人間の感情やこころを学び、それを獲得することができるだろうか?  この問いに回答することは専門家でも難しいに違いない。
そもそも、この設問にある「感情」や「こころ」とは何か? が明確にできるかも少々怪しい。特に「こころ」は人によって定義が異なっているかもしれない。クララとお日さま
さらに、人間が持つ感情や心の概念を定義できたとしても、その仕組み自体に良く分からないことが多い。
2017年にノーベル文学賞を受賞したカズオ・イシグロ氏の小説「クララとお日さま」にこの設問が登場する。
クララはB2型、第3世代のAFとして登場する。実は本書を読んでもAFが何なのか、明確な記載がないが、解説によると「人工親友」を指すようだ。
AFは人工知能を搭載したロボット(またはアンドロイド)であり、特定の人間の親友となり、その人に寄り添うことが目的のようだ。作品の主人公である少女、ジョジーは向上処置(これも本書のなかに明確な説明はないが、遺伝子編集に関わる何らかの処置のようだ)を受けた後病気になり、近い将来、命に係わるような事態も考えられるという。
このような背景から、カパルディさんは母親からの依頼を受けて、AFであるクララをジョジーと全く変わらない存在に育てようとする。カパルディさんがクララに語りかけ、そしてお願いをする場面がある。
「君にジョジーになってもらいたい。・・・・表面的なことだけでなく、深い、ジョジーそのものの学習だ。最初のジョジーと二人目のジョジーのあいだに何の差もないほどに学習できると信じた・・」
AIにジョジーの感情やこころを学習させて、ジョジーと全く同じ存在に育てる(すなわち、ジョジーを複製する)考えのようだ。これを実現するためには、ジョジーの記憶もコピーする必要があるだろう。
一方で、AIにジョジー(の感情やこころ)をコピーすることは不可能ではないか、との疑念が読み取れる箇所もある。
「誰のなかにも探り切れない何かがあるとか、唯一無二で、他へ移しえない何かがあるとか、どこかで信じている。だが実際にはそんなものはないんだ」
これは、私を唯一無二の存在にしているものは何なのか、という問いかけであろう。言い換えれば、私のアイデンティティは何か? 私のアイデンティティは複製可能か? という問いかけである。
この設問も、(良く分からないけれども。良く分からないから)難しい・・・。
ちなみに、この”私のアイデンティティとは何か?”の問いかけがテーマになっている小説がある。川上 弘美の”某”という小説である。が、ここでは横道に逸れるのでこれ以上は言及しない。 

そもそも感情やこころは人間の身体のどこから生まれるのだろうか?
この設問に対する答え(あるいは向き合い方)には幾つかの立場がある。一つは、人間の記憶や感情、こころは脳にあると考える立場である。このような立場の人は次のように考えるだろう。
「脳のニューロンの配線(コネクトーム)が解明されればそれらの仕組みが分かるだろう。その仕組みをコンピュータ上で再現できればAIも感情やこころを学習できるに違いない」と。
この方向性は正しいのだろうか?
福岡伸一氏は、その著書「動的平衡」のなかで次の指摘をしている。
「消化管神経回路網を”リトル・ブレイン”と呼ぶ学者もいる。私たちはひょっとすると消化管で考えているのかもしれない」
「人間の記憶とは、脳のどこかにビデオテープのようなものが古い順に並んでいるのではなく、”想起した瞬間に作り出される何ものか”なのである」
どうやら、人間の記憶の仕組みも良く分かっていないようだし、こころが脳で完結していると考えるのも早計のようだ。
実際、こころは外界との相互作用によって生じると考える人たちもいる。

感情を学習するというのも簡単ではない。
感情にに関しては、”感情の二要因論”というのがあるようだ。この仮説では、「感情は内蔵の状態を知らせる自律神経反応を脳が理解することと、その反応が生じた原因の推定という、二つの要因によって決定される」そうだ。(「感情とはそもそも何なのか」乾敏郎:著、ミネルヴァ書房)
この仮説に従うと、感情には内臓も関係しているようだ。虫の知らせ、とか第六感というのは、腸の状態の感情らしい。
つまり、感情を学習するためには、ロボットにも内臓(あるいは、内臓のようなもの)が必要になるかもしれない。
もちろん、視覚や聴覚、味覚、嗅覚、触覚を感知するセンサーも必要になるだろう。
仮に、AIロボットが感情を学習できたとしても、それが正しく学習できたのかを検証することはさらに難しい。
例として、ジョジーと(ジョジーを複製した)クララが同一の体験(楽しい体験)をしたとしよう。このとき、ジョジーが感じた喜びと、クララが感じた喜びが「同一である」ことを証明することは難しい、ということだ。
これには、喜びを10段階の数値で評価する、などの方法が考えられるが、ことはそれほど単純ではない。
喜びは8種類の基本感情の一つではあるが、実際の感情はもう少し多面的・複合的、あるいは質感のようなものがあるに違いない。さらに人間は、喜びと悲しみ、あるいは愛情と憎しみなどの相反する感情を同時に持つことすらある。
結局、人間の感情がどのようにして生起するのかも良く分かっていないところがある、ということだ。

脳とコンピュータという観点では、脳とコンピュータを同じような機構だと考える人たちがいる。
一方「脳はコンピュータではない」と指摘する人もいる(ダニエル・L・エヴェレット「言語の起源」)。
脳のニューロンの配線と、その配線の意味が解明できたとしても、それをコンピュータに実装できる保証はないのかもしれない。
さらに、脳は常に変化している(ニューロンの配線は動的である)のに対して、コンピュータは硬直的である。(一度完成したAIに追加データを加えて再学習させる過程は、ニューロンの配線や結合強度を変化させているようにも見えるけれど、自律的とは言えない)
脳とコンピュータでは根本的な仕組みが異なるから、コンピュータが脳のはたらきを完全にシミュレートできるとは限らない。
先に記した人間の記憶に関して言えば、コンピュータではハードディスクやメモリーに記憶が存在するが、人間の記憶の仕組みはそのようにはなっていないようだ。
実際、人間の記憶は時間の経過とともに変化する(脚色される)ことを私たちは経験上知っている。

このように考えてくると、AIが将来人間の感情やこころを学習することは相当に難しい(乗り越えるべき未解決課題が多すぎる)と思われる。
もしも完全にコピーすることができれば、ジョジーは(あるいは私たちは)永遠のいのちを得ることができる、といえるのだろうか?

本書にはAIに関する面白い話も出てくる。
現在のAIにはブラックボックスの部分がある、という指摘を耳にする。これは、AIがどのようにしてその結論を導いたのか推論の過程が見えない(ブラックボックス化している)ということだろう。
本書では、AFのような高度なAIを有するロボットが登場する未来においても状況は変わっていないようだ。
「AIは賢くなりすぎた。中で何が起こっているのかわからない。だから怖いと言う。AFの意思決定やお勧めは堅実で信頼出来て、ほとんどの場合、正しい。だが、どうやってその決定やお勧めに至ったのか、それがわからないのが気に入らない」
この問題は今現在でも存在する課題であるが、未来でも果たしてそうなのだろうか?
AIが利用される領域によっては、説明責任を求められることがあるだろうから、この問題は近い将来には解決されなければならない課題である。

 


 

補足説明:
2021年時点で、AIに関する倫理や、プライバシー、公平性、透明性、解釈可能性(XAI:説明可能なAI)、アカウンタビリティーといった、人間が守るべきAIの基本原則は「責任あるAI」として整備されつつある。
「責任あるAI」の実現には6つの課題がある。
1. 公平なAIの実現
2. 説明可能、証明可能、透明性のあるAIの実現
3. AIの信頼性をどこまで求めるか
4. 安全性・堅ろう性の担保
5. AIガバナンス(統制)
6. 企業倫理との適合

 


トラックバック

このブログ記事に対するトラックバックURL:

コメント & トラックバック

コメントはまだありません。

コメントする

Update

2022年5月
« 4月    
 1
2345678
9101112131415
16171819202122
23242526272829
3031  

Archive

Navigation