企業理念を体現する「自動化しない聖域」とは

──技術的に「できること」と、ブランドとして「やっていいこと」のギャップは、なぜ生まれるのでしょうか。

　これまで判断のよりどころだった法律には、後追いで成立する特性があります。いまは数ヵ月、場合によっては数日、数週間で事情が変わりますから、法律はよりどころになりません。国も「やっていいことの線引きを企業が能動的に作りなさい」と言っていますから、まさに「企業の倫理任せ」なんです。

──その線引きについて、以前「スターバックスがセルフレジを置かないとしたら、それはブランドの哲学だ」とたとえていらっしゃったのが印象的でした。各社があえて「AIを活用しない聖域」を見極めるには、何を指針にすべきでしょうか。

　スターバックスの店舗の接客に感動した経験をお持ちの方は多いでしょう。この例で伝えたかったのは、お客様や自分たちが考える「自社らしさ」を指針にすべきということです。

　チャットボットを作るにしても、チャットボットの掲出場所、デザイン、語り口、すべてに自社らしさを反映することができるはずです。AIを活用した新たな施策を検討する際には、「自分たちのらしさって何なんだっけ？」を考えるきっかけになるはずです。

　「らしさの集合体」が、お客様にとってのその企業のブランドです。スーパーブランドと言われる企業は、よりどころが法律ではなく自分たちのコア、企業理念にあるんですよね。

AI活用において「らしさ」を問われた企業の実例

──そのような「聖域」を持たずにAIを活用して、批判された例はありますか。

　エア・カナダのチャットボットが、実際のキャンセルポリシーにない返金案内──つまりハルシネーションでお客様に応対した件があります。エア・カナダは「ポリシーにないから返金できません」と断り、訴えられて負けました。この判例が「企業は自社のAIの言ったことに責任を持たなくてはいけない」という、AI活用の1つの基準になっています。

　もし顧客ファーストを徹底できている企業なら、そもそもお客様に寄り添って返金していたかもしれません。AIエージェントが自律的に行動していく時代、企業はその行動すべてに責任を持つ必要もあります。

──AIの「使い方」で、らしさを問われた例も複数ありますね。

　はい。たとえば、クリエイターを応援することを掲げてきた企業が、制作物に生成AIを使ったことで、「クリエイターを軽視しているのでは」と受け取られてしまう。こういうことは、正直どの企業にも起こりうると思います。自分たちが大切にしてきたはずの相手を、かえって軽んじているように見えてしまう、という難しさですね。

　大事なのは、誰の意思決定で出したのか、批判を受けたときにどう対応するかという、エスカレーションのプロセスを整えておくこと。世に出したときの波及を想像し、批判されたときの自分たちの振る舞いまで準備しなければいけない時代です。

　逆にうまいのは、メルカリさんでしょうか。取引のやりとりのうち、発送連絡などのコメントは以前からAIで自動生成できましたが、取引相手への「評価」だけは、しばらく自分の言葉で書く仕様を残していたんです。それが最近、評価もAIで生成できるようになった。私が興味深いと思ったのは、その見極めです。

　以前は「せめて最後のひと言くらいは、人が書くべきだよね」という空気があった。それが「いまはここまでAIに任せても許される」という空気に変わってきた。その変化をちゃんと読んで、タイミングを計っている。ユーザーがどう感じるかへの想像力を、すごく働かせているのだと思います。