简短回答： 这取决于谁受影响、最坏的情况有多糟以及错误是否可以挽回。在构建之前，先评估。确认配送时间的回复，与承诺退款、报价或回应投诉的回复，其风险是完全不同的。
我是 Vinay Pasricha，GoodSpace AI 的创始人，也是 AI for Business Leaders 的作者。在 GoodSpace，AI 现在代表我们与许多人对话，所以我在实践中思考过这个问题，而不仅仅是在纸面上。
问题不在于“用不用 AI”
企业主经常会问，到底该不该让 AI 接触客户。这是一个错误的框架。有些回复几乎是零风险的，而另一些则可能让你失去一个客户、一笔资金或在市场上的名声。更有价值的问题是：对于这种回复，我们需要什么样的控制？
在构建之前评估使用场景
在书中，我使用了一个有四个阶梯的梯子，从 Tier 1（低风险）到 Tier 4（关键任务），以便让控制措施与风险对等。要将某类客户回复定位在上面，请问自己：
- 谁会受到影响？ 一个客户、多个客户，还是公众？
- 最坏的情况有多糟？ 一条稍微有些尴尬的信息、一个错误的承诺，还是对某些人造成伤害的事情？
- 它能被挽回吗？ 错误的配送时间可以被修正。而公开的回复、被接受的错误价格或泄露的细节，往往无法挽回。
- 它是否涉及资金、安全、法律条款或个人数据？ 如果是，它的风险评级会迅速攀升。
这在实践中是什么样子的
- 低风险： 订单状态、营业时间、在哪里可以找到某个文件。AI 可以自行回复，并提供联系人工客服的明确途径。
- 中度风险： 产品咨询和对问询的初步回复。AI 起草，要么在严格的限制内发送，要么由人工每天抽样检查。
- 高风险： 价格、折扣、配送承诺和投诉。AI 准备回复；在发送前由指定的人员审批。
- 关键任务： 任何涉及法律、安全或任何纠纷的内容。由人工处理。AI 可以帮助他们查找事实。
这四个阶梯背后的规则是：AI 建议，人类决定。层级越高，这条规则就应用得越彻底。
在每个层级都至关重要的控制措施
- 告知客户他们正在与 AI 对话，以及如何联系到人工。
- 仅向 AI 提供该类回复所需的信息。
- 每周审查真实对话的样本，尤其是那些进展不顺利的对话。
- 预先设定哪些词汇或主题需要将对话转接给人工。
本周要做的一件事
列出客户最常发给你的五类信息。使用免费的 Risk Ladder 工具对每一类进行评估，该工具会将一个使用场景定位到其所属层级，并建议相匹配的安全保障措施。从评级最低的一类开始，在看到低风险场景的表现之前，先不要动高风险场景。
这个回答的出处
这个回答基于 The Risk Ladder，它是 AI for Business Leaders 中的框架之一。这本书有精装版和 Kindle 版。
要评估某个具体的使用场景，可以在 Ask Vinay's books 上描述它。
Vinay Pasricha 是 GoodSpace AI 的创始人，著有六本书，其中包括 AI for Business Leaders。