「人間による判断」が必要な理由

有園：例えば、実際の医療現場でもAIが活用されつつあると聞いています。

村上：活用には2段階あるのでは。まずは“診断”。これについては精度が上がってくるため、活用が進むと思います。しかし、次の段階である“施術”もロボットアームが担うのか。そこに至るまでには一区切りあると思います。あくまでも主治医が責任を持って、自分の手でやるか、ロボットに任せるかの判断が必要です。

有園：村上さんは人間による診断を挟むべきだと考えているのですね。なぜでしょうか。

村上：AIには自己意識が存在していないから。その一点に絞り込めますね。私たちの意識は、育ってきた環境による影響を受けています。計算で正しい答えを導き出せるだけでは自己意識は形成されません。医者が職業倫理として、最終的な責任を取るという形で診断し、施術する。そこに信頼を置きたいと思っています。

有園：このことは、医療に限らず、マーケティングにも通ずると思います。クリエイティブを作ったり、プランニングをしたりする際、AIに任せることで良い結果を出せます。しかし、成功させるためには、どこかのポイントで人間の判断を挟まないといけません。

AIはフェイクを見破れるか

有園：先ほどの大統領選挙の話のように、フェイクニュースについてはどうでしょうか。オルタナティブファクトという言葉も出てきましたが、AIはこういった嘘を見破れるのでしょうか。

村上：その事例のように、動画などの明確なエビデンスがあればわかりますよね。一方で、エビデンスがない状態だったら難しいでしょう。大統領選挙で「ヒラリー・クリントンが子ども達にひどいことをしていた」といったデマが流れましたが、真偽は判断できません。「していない」という証明は難しい。

　冒頭の話につながりますが、人間の脳がコンピュータにつながって、記憶をアップロードできるなら、ヒラリー・クリントンの記憶を読み込んで「やっていない」と証明できるかもしれないです。脳科学者ではないので正確にはわかりませんが、記憶がデジタル化されて検索できれば、エビデンスにはなり得るでしょう。

有園：なるほど。

村上：昨今、AGI（汎用人工知能）についても注目されています。あと10年ぐらいで実現できるという話もありますが、時期はわかりませんが、いずれできるだろうと思います。具体的には、人間の持つ知能を小分けして、「このAIはここを担当」という形で、複数のAIの総合力としてAGIを形成する。そういうことは起こり得ると思います。