Resposta curta: Depende de quem é afetado, do quão ruim é o pior cenário e se um erro pode ser desfeito. Avalie antes de construir. Uma resposta que confirma o horário de entrega é um risco muito diferente de uma resposta que promete um reembolso, define um preço ou responde a uma reclamação.
Sou Vinay Pasricha, fundador da GoodSpace AI e autor de AI for Business Leaders. Na GoodSpace, a AI agora fala com muitas pessoas em nosso nome, por isso tenho pensado nessa questão na prática, e não apenas no papel.
A questão não é "AI ou sem AI"
Os fundadores costumam perguntar se a AI deve ou não falar com os clientes. Esse é o enquadramento errado. Algumas respostas são quase isentas de risco. Outras podem custar um cliente, dinheiro ou o seu nome no mercado. A pergunta útil é: para este tipo de resposta, de quais controles precisamos?
Avalie o caso de uso antes de construí-lo
No livro, utilizo uma escada de quatro degraus, do Tier 1 (baixo) ao Tier 4 (crítico), para que os controles correspondam ao que está em jogo. Para posicionar uma resposta ao cliente nela, pergunte:
- Quem é afetado? Um cliente, muitos clientes ou o público geral?
- Quão ruim é o pior cenário? Uma mensagem ligeiramente estranha, uma promessa errada ou algo que prejudique alguém?
- Pode ser desfeito? Um horário de entrega errado pode ser corrigido. Uma resposta pública, um preço errado que foi aceito ou o vazamento de um detalhe muitas vezes não podem.
- Envolve dinheiro, segurança, termos legais ou dados pessoais? Se sim, sobe a escada rapidamente.
Como isso se parece na prática
- Baixo: status do pedido, horário de funcionamento, onde encontrar um documento. A AI pode responder por conta própria, com um caminho claro para falar com uma pessoa.
- Moderado: perguntas sobre produtos e primeiras respostas a consultas. A AI elabora o rascunho e envia dentro de limites rígidos ou uma pessoa verifica uma amostra todos os dias.
- Alto: preços, descontos, compromissos de entrega e reclamações. A AI prepara a resposta; uma pessoa específica a aprova antes do envio.
- Crítico: qualquer assunto jurídico, de segurança ou disputa. Pessoas resolvem. A AI pode ajudá-las a encontrar os fatos.
A regra por trás de todos os quatro degraus: a AI recomenda, os humanos decidem. Quanto mais alto o degrau, mais literalmente isso se aplica.
Controles que importam em todos os degraus
- Avise os clientes quando eles estiverem falando com uma AI e como falar com uma pessoa.
- Dê à AI apenas as informações necessárias para aquele tipo de resposta.
- Revise uma amostra de conversas reais todas as semanas, especialmente as que correram mal.
- Decida com antecedência quais palavras ou tópicos transferem a conversa para uma pessoa.
Uma coisa para fazer esta semana
Liste os cinco tipos de mensagens que os clientes mais enviam para você. Avalie cada uma com a ferramenta gratuita Risk Ladder, que posiciona um caso de uso em seu respectivo nível e sugere as salvaguardas correspondentes. Comece pelo tipo de menor risco e deixe os de alto risco para quando já tiver visto como os de baixo risco se comportam.
De onde vem esta resposta
Esta resposta vem do The Risk Ladder, uma das estruturas em AI for Business Leaders. O livro está disponível em capa dura e no Kindle.
Para verificar um caso de uso específico, descreva-o em Ask Vinay's books.
Vinay Pasricha é o fundador da GoodSpace AI e autor de seis livros, entre eles AI for Business Leaders.