Respuesta breve: Depende de quién se vea afectado, qué tan malo sea el peor de los casos y si un error se puede deshacer. Evalúe el riesgo antes de construir. Una respuesta que confirma el horario de entrega tiene un riesgo muy diferente al de una respuesta que promete un reembolso, cotiza un precio o responde a una queja.
Soy Vinay Pasricha, fundador de GoodSpace AI y autor de AI for Business Leaders. En GoodSpace, la IA ahora habla con muchas personas en nuestro nombre, por lo que he pensado en esta cuestión en la práctica, no solo en el papel.
La pregunta no es "IA o no IA"
Los propietarios a menudo se preguntan si la IA debería hablar con los clientes en absoluto. Ese es el enfoque equivocado. Algunas respuestas carecen casi por completo de riesgo. Otras pueden costarle un cliente, dinero o su reputación en el mercado. La pregunta útil es: para este tipo de respuesta, ¿qué controles necesitamos?
Evalúe el uso antes de construirlo
En el libro utilizo una escalera de cuatro peldaños, desde el Nivel 1 (bajo) hasta el Nivel 4 (crítico), para que los controles se correspondan con los riesgos. Para ubicar una respuesta al cliente en ella, pregúntese:
- ¿Quién se ve afectado? ¿Un cliente, muchos clientes o el público en general?
- ¿Qué tan malo es el peor de los casos? ¿Un mensaje ligeramente incómodo, una promesa incorrecta o algo que cause un daño?
- ¿Se puede deshacer? Una hora de entrega incorrecta se puede corregir. Una respuesta pública, un precio incorrecto que fue aceptado o una filtración de detalles a menudo no se pueden deshacer.
- ¿Involucra dinero, seguridad, términos legales o datos personales? Si es así, sube rápidamente por la escalera.
Cómo se ve esto en la práctica
- Bajo: estado del pedido, horarios de apertura, dónde encontrar un documento. La IA puede responder por sí sola, con una vía clara para contactar a una persona.
- Moderado: preguntas sobre productos y primeras respuestas a consultas. La IA redacta y envía dentro de límites estrictos, o bien una persona revisa una muestra todos los días.
- Alto: precios, descuentos, compromisos de entrega y quejas. La IA prepara la respuesta; una persona designada la aprueba antes de que se envíe.
- Crítico: cualquier asunto legal, relacionado con la seguridad o cualquier disputa. Las personas se encargan de ello. La IA puede ayudarles a encontrar los datos.
La regla detrás de los cuatro peldaños: la IA recomienda, los humanos deciden. Cuanto más alto sea el peldaño, más literalmente se aplica esto.
Controles que importan en cada peldaño
- Informe a los clientes cuando estén hablando con una IA y cómo comunicarse con una persona.
- Entregue a la IA únicamente la información que necesita para ese tipo de respuesta.
- Revise una muestra de conversaciones reales cada semana, especialmente aquellas que salieron mal.
- Decida de antemano qué palabras o temas transfieren la conversación a una persona.
Una cosa que hacer esta semana
Haga una lista de los cinco tipos de mensajes que los clientes le envían con más frecuencia. Evalúe cada uno con la herramienta gratuita Risk Ladder, que ubica un uso en su nivel correspondiente y sugiere las salvaguardas adecuadas. Comience con el tipo de menor riesgo y deje los de mayor riesgo para cuando haya visto cómo se comportan los primeros.
De dónde viene esta respuesta
Esta respuesta proviene de The Risk Ladder, uno de los marcos de referencia de AI for Business Leaders. El libro está disponible en tapa dura y en Kindle.
Para verificar un uso específico, descríbalo en Ask Vinay's books.
Vinay Pasricha es el fundador de GoodSpace AI y autor de seis libros, entre ellos AI for Business Leaders.