企業ができる、AIの誤回答への対策は？

　それでは、AIの回答に誤りがある場合、どのように対策を行うと良いのでしょうか。ナイルでは下図の流れで対策を進めることをおすすめしています。

　まずは、自社がAIにどう紹介されているかを確認します。社名やサービス名を含む質問に加えて、料金や利用条件、他社との違いなど、比較検討の段階で顧客が尋ねそうな質問をAIに聞いて回答を集めます。ChatGPTやGoogleの「AIによる概要」など、利用者が多いAI検索を中心に収集するのが良いでしょう。

　回答を集めたら、内容が正しいかチェックします。ナイルでは一次チェックをAIで行い、その中から重要な項目を人間が目視でチェックしています。AIでのチェックは、あらかじめ定義や条件を定めることでかなり高い精度で誤りを検出してくれます。とはいえ、優先度や解釈などの部分でズレが出るので、最終的には人間が確認することをおすすめします。

　回答チェックで誤回答が見つかった場合は、原因を特定して対応を実施します。

　1つ目は、AIへのフィードバックです。Google検索と一体化している「AIによる概要」と「AIモード」については、フィードバック機能が設けられているので、事実と異なる回答だった場合はフィードバックしましょう。

　内容にもよりますが、フィードバック後に比較的早く修正されるケースは多く見られます。一方、ChatGPTにも回答を評価するボタンはありますが、モデル改善の参考として使われるもので、誤りを報告しても他のユーザーへの回答がすぐに修正される仕組みではありません。

　2つ目は、公式サイトの古い情報を整理することです。公式サイトが情報源となって誤回答が発生している場合は、過去のプレスリリースや終了しているキャンペーンページなどが参照されていることが多いため、残す必要がある情報か精査しましょう。

　合わせて、重要な情報が画像やPDFの中だけに書かれていたり、JavaScriptで後から表示される形になっていたりすると、AIが情報を取得できない場合もあるため、AIが読み取りやすい形になっているかも確認しておくと良いでしょう。

　3つ目は、AIが参照している外部の情報源を確認することです。比較サイトや口コミサイトなどの古い情報や誤った情報が引用されている場合は、運営者に修正を依頼します。ナイルの支援先では、グループ会社のサイトに古い情報が残っており、それがAIに引用されているケースを比較的よく見かけます。

　4つ目は、公式サイトに必要な情報を載せることです。基本となるサービス情報はもちろん、状況別や条件別の細かい情報まで載せることが望ましいです。ユーザーはAIとの対話の中で、細かい条件を提示して質問するケースが多く、公式サイトに情報がないと第三者サイトの情報だけが引用されてしまいます。

　たとえば、採用情報で全社の平均残業時間は記載していたものの、募集部署の残業時間は記載していなかったため、AIに尋ねると口コミサイトにある長時間労働の情報だけが引用されるケースがありました。公式サイトにも記載があれば、一緒に引用される可能性が高くなるため、ユーザーに公式の情報と口コミの情報をフェアな形で届けることができます。

　ここまで紹介したとおり、AIの誤回答への対策に難しいものはありません。ただし、手間がかかるものが多いため、優先順位をつけて重要なところから確認するのが良いでしょう。

まとめ：まずはAIでの紹介のされ方を把握する

　AIは急速に進化しており、日本国内でも利用者は増えています。一方、情報の正確性という観点ではまだ課題が多く、当社のチェックでも多くの企業で15％程度の回答に誤りが見られます。

　現時点では、日本のユーザーはAIの回答を鵜呑みにせず、裏取りをする方が多数ですが、AIの利用が広がるにつれて、誤った回答がそのまま信じられてしまう場面は増えていくでしょう。海外では、既にAIの誤った回答をめぐって裁判に発展した事例も出てきています。

　誤回答への対策に難しいものはありませんが、地道で手間のかかる作業が中心です。まずは自社がAIにどう紹介されているかを把握し、料金や営業時間、提供サービスなど、誤っているとユーザーに実害が出る情報から優先して対応していくようにしましょう。