AIの進化とサイボーグ化への思い
有園：生成AIブームが始まって1年以上が経ちました。今回は、AIと量子コンピュータがライフワークである村上さんに、あらためてご意見をお聞きしたいと考えています。
まずはこの話から。以前の対談で、村上さんは何度か「サイボーグになりたい」と話していました。村上さんが本気なので、私も後を追いたいと思うようになりましたよ。
村上：サイボーグになりたいと考えたのは、（AI研究の第一人者の）レイ・カーツワイルと話したことがきっかけ。彼の研究成果を期待して待ちたいですね。また、2022年6月に亡くなったピーター・スコット-モーガンは、著書『ネオ・ヒューマン』で、難病のALSによって余命宣告を受けたことをきっかけに、自分自身を機械化するためにいろいろと実践したことを記しています。
有園：本の後半では、自分の脳をAIに接続したことで、どこまでが自分自身の考えで、どこからがAIのインプットによるものなのか、境界線がわからない感覚になったと書いていますね。
村上：彼が亡くなった後、もしかしたら今もインターネット上で人工知能として存在しているのではないか、と囁かれていますね。
「真」の判断も求められるように
有園：村上さんは以前、検索エンジンは情報の「真善美」を判断しているわけではない、という発言をしていました。生成AIも広がっている今、どう考えていますか。
村上：Google検索は、ページランク（重要度）によって検索結果の序列を決めています。開発当初は、正しいかどうか、道徳的に良いのか、美しいかといった判断はアルゴリズムに含めない方針でした。
しかし、その後に何が起きたか。2016年や2020年の米国大統領選挙では、Facebookなどをロシアのハッカー集団が利用してフェイクニュースをたくさん流しました。そこで、真善美、特に「真」の判断については、プラットフォーマーにも責任があるのではないか、可能な限りやるべきではないかという風潮になりました。
その後のGoogle検索は、正しいかどうか、つまり「真偽」も考慮され始めているのだと思います。ただし、「善」と「美」、特に美については計算が難しく、そこまでは手を付けていないと推測しています。
有園：生成AIによる価値判断については、どう考えますか。
村上：生成AIに価値判断は「できない」だろうと思っています。AIはネット上のさまざまな言説をひたすら学ぶことから始まっています。そのデータセットが魑魅魍魎になっていて、嘘や偏見にあふれているからです。
有園：私もできないと思います。一方で、「正しい」とされるデータを繰り返し教えていけば、「正しいとは何か」を数学的に学んでいくことはできるのでは。
村上：データセットをクリーンにすれば、AIが判断力を学んでいく可能性はあると思います。ただ、最終的にはヒューマンセントリックでないといけません。AIがある程度まで判断できるようになる可能性は認めますが、最終的には人間がチェックすることが必要です。
