AIエージェントはカスタマーサービスを運営できるか？

短い回答: 彼らは、注文状況の確認、用意された回答の提供、人間が送信するための下書きといった、反復的で後戻りできる作業を引き受けることができます。エージェントが単独で、約束をしたり、返金を実行したり、顧客が怒っているかリスクのある状態の苦情に対応したりするべきではありません。受信トレイに接続する前に、そのユースケースを評価してください。

私はVinay Pasrichaです。NoidaでGoodSpace AIを運営しており、AI for Business Leadersを執筆しました。カスタマーサービスは、受信トレイが可視化されており、チームが疲弊しているため、創業者が最初にエージェントを導入したいと考える場所です。同時に、誤った一文があなたの名前を背負って社外に出ていってしまう場所でもあります。

エージェントが担当できること

大半のサービス業務は単一のものではありません。あるものは検索であり、あるものは判断であり、またあるものは人間から伝えるべき謝罪です。本書のファンクション・プレイブックではこれらを切り分けており、その切り分けこそがすべての答えです。

エージェントは、人間も信頼しているシステム内にデータが存在するならば、注文がどこにあるかを顧客に伝えることができます。また、すでに承認済みの回答から返信のドラフトを作成することもできます。次の担当者がゼロから始めなくて済むように、会話を記録に残すことも可能です。これらは有用な機能であり、最初の1ヶ月目としては十分なものです。

エージェントは、顧客が間違っていると判断したり、事前に承認していない解決策を提示したり、顧客が人間を求めた後も書き続けたりすべきではありません。引き継ぎは本物である必要があります。名前のある実在の人間、誰かが監視しているキュー、そしてどれだけ早く回答するかというルールが必要です。誰も読まない隠された「人間に相談する」リンクは、引き継ぎとは言えません。

導入する前に評価する

• 誰に影響するか： 社内向けのメモではなく、顧客です。バックオフィスのドラフトよりも、最初からリスクは高くなります。
• 最悪のケース： 誤った約束、情報の漏洩、誰も助けてくれないまま放置される人。最悪のケースを1文で書き出してください。
• 取り消し： メッセージの撤回、誤りの返金が可能なのか、それとも謝罪することしかできないのか。もし謝罪しかできないのであれば、人間が送信すべきです。
• そのはしご（The ladder）: リスクの低いルックアップは下位に置くことができます。会社を拘束するようなものはすべて、人が判断する上位に位置づけます。

本書における「Risk Ladder（リスクの階段）」は、リスクとコントロールの大きさを一致させるために、低層から危険な階層までを網羅しています。ここでも同様の習慣を取り入れてください。ベンダーのデモが流暢だったからという理由でコントロールを選んではいけません。

流暢な返答が正しい返答とは限りません。20件の下書きを、チームが実際に送信した直近の20件の返信と比較して読み込んでみてください。もしそのエージェントが、存在しないポリシーを勝手に作り出しているなら、どれほど丁寧な表現であっても、顧客に提供できる状態ではありません。そのポリシーのソースとなる記述を修正し、再度20件のテストを実行してください。

安全を維持する最初の1ヶ月

エージェントに下書きをさせ、人間が送信するようにします。人間が下書きをそのまま送信した回数、書き直した回数、そして破棄した回数をカウントしてください。そのカウント数があなたのエビデンスになります。エージェントが単独で送信してよい範囲を広げるのは、下書きのまま変更されず、かつ顧客に再度喜んで見せられるような返信に対してのみにしてください。

エージェントが「クローズした」チケットの数でその月を評価してはいけません。クローズされたチケットとは、顧客が諦めただけかもしれません。正しかった返信と、人間が救い出さなければならなかった返信を測定してください。

エージェントの活動を許可する前に、無料のRisk Ladderを使用し、その周辺のタスクを整理するためにAutomate, Assist, Escalateを使用してください。これら8つのステップはAI strategy for businessに記載されています。Collapse or Collapseでは、1人の人間が1つの成果に責任を持ち、それを達成するためにエージェントを動かすという、より詳細な議論を展開しています。

今週やるべきこと

先週の顧客メッセージを例にとりましょう。それぞれを「検索」、「下書き」、「担当者」に分類します。「検索」に分類されたものだけが、エージェント単独で回答する候補となります。それも、引用する事実が実際にシステム内に存在することを確認した後に限られます。

この答えの出典

この回答は、AI for Business LeadersのThe Risk LadderおよびFunction-by-function playbooksに基づいています。

御社ならではの事情もあるでしょう。ご自身の言葉で追加の質問をするには、Ask Vinay's booksをお試しください。

Vinay Pasricha は GoodSpace AI の創業者で、AI for Business Leaders をはじめ6冊の本の著者です。