短い答え: 誰に影響するか、最悪の事態がどれほど深刻か、そして間違いを取り消せるかによって異なります。構築する前に評価してください。営業時間を案内する返信と、返金を約束したり、価格を提示したり、苦情に対応したりする返信とでは、リスクの大きさがまったく異なります。
私は Vinay Pasricha です。GoodSpace AI の創業者であり、AI for Business Leaders の著者です。GoodSpace では現在、AIが私たちの代わりに多くの人々と会話しているため、私はこの問いについて机の上だけでなく、実践において考えてきました。
問いは「AIか非AIか」ではない
経営者はよく、そもそもAIに顧客対応をさせるべきかどうかを尋ねます。それは間違った枠組みです。返信の中には、ほとんどリスクのないものもあります。一方で、顧客を失ったり、金銭的な損失を出したり、市場での評判を落としたりするものもあります。役に立つ問いは、「この種類の返信に対して、どのような管理策が必要か？」ということです。
構築する前にユースケースを評価する
本の中では、管理策をリスクの大きさに合わせるために、Tier 1（低い）から Tier 4（極めて重要）までの4つの段を持つラダー（梯子）を使用しています。顧客への返信をこのラダーに配置するには、次の質問をしてください。
- 誰に影響するか？ 1人の顧客か、多くの顧客か、あるいは一般大衆か？
- 最悪の事態はどれほど深刻か？ 少し不自然なメッセージか、誤った約束か、あるいは誰かに害を及ぼすものか？
- 取り消すことができるか？ 誤った配達時間は訂正できます。公開された返信や、合意されてしまった誤った価格、漏洩した詳細情報は、多くの場合取り消せません。
- 金銭、安全性、法的条件、または個人情報が関わっているか？ 「はい」の場合、ラダーを急速に駆け上がります。
実践における具体例
- 低い (Low): 注文状況、営業時間、ドキュメントの場所。AIが単独で返信し、人に連絡するための明確な方法を用意しておきます。
- 中程度 (Moderate): 製品に関する質問や、問い合わせへの最初の返信。AIが下書きを作成し、厳しい制限の中で送信するか、あるいは担当者が毎日サンプルをチェックします。
- 高い (High): 価格、割引、配達の約束、苦情。AIが返信を用意し、送信前に指定された担当者が承認します。
- 極めて重要 (Critical): 法的な事柄、安全性に関する事柄、あらゆる紛争。人間が対応します。AIは事実を見つけるための支援ができます。
4つの段すべてに共通するルールは、「AIが提案し、人間が決定する」ということです。段が高くなるほど、これがより厳密に適用されます。
すべての段で重要な管理策
- 顧客に対して、AIと話していること、そして人への連絡方法を伝えてください。
- その種類の返信に必要な情報だけをAIに与えてください。
- 毎週、実際の会話のサンプル（特にうまくいかなかったもの）を確認してください。
- どのような言葉やトピックがあった場合に、会話を人間に引き継ぐかを事前に決めておいてください。
今週やるべきこと
顧客から最も頻繁に届く5つのメッセージの種類をリストアップしてください。無料の Risk Ladder ツールを使ってそれぞれを評価します。このツールは、ユースケースを適切なTierに配置し、それに合う安全対策を提案します。まずは最も評価の低い種類から始め、低いものがどのように機能するかを確認するまでは、高い評価のものは手をつけずに残しておいてください。
この答えの出典
この答えは、AI for Business Leaders のフレームワークのひとつである The Risk Ladder に基づいています。本はハードカバーと Kindle で読めます。
特定のユースケースを確認したい場合は、Ask Vinay's books で説明を入力してください。
Vinay Pasricha は GoodSpace AI の創業者で、AI for Business Leaders をはじめ6冊の本の著者です。