짧은 답: 누구에게 영향을 미치는지, 최악의 경우가 얼마나 심각한지, 그리고 실수를 되돌릴 수 있는지에 따라 다릅니다. 솔루션을 구축하기 전에 등급을 매겨보세요. 배송 시간을 확인해 주는 답변과 환불을 약속하거나, 가격을 제안하거나, 불만 사항에 대응하는 답변은 위험의 차원이 완전히 다릅니다.
저는 Vinay Pasricha입니다. GoodSpace AI의 창업자이자 AI for Business Leaders의 저자입니다. GoodSpace AI에서는 현재 AI가 우리를 대신해 많은 사람들과 대화하고 있으며, 그렇기에 저는 이 문제를 이론이 아닌 실제 현장에서 깊이 고민해 왔습니다.
질문은 "AI를 쓸 것인가 말 것인가"가 아닙니다
경영자들은 흔히 AI가 고객과 대화하게 해도 되는지 자체를 묻곤 합니다. 이는 잘못된 프레임입니다. 어떤 답변은 리스크가 거의 제로에 가깝습니다. 반면 어떤 답변은 고객이나 비용, 혹은 시장에서의 평판을 잃게 만들 수 있습니다. 진짜 유용한 질문은 이것입니다. '이러한 종류의 답변을 위해 어떤 통제 장치가 필요한가?'
구축하기 전에 사용 사례의 등급을 매기세요
책에서 저는 통제 장치가 리스크 수준에 맞물리도록 Tier 1(낮음)부터 Tier 4(최고조)까지 4단계로 구성된 사다리를 제안합니다. 고객 답변을 이 사다리에 배치하려면 다음을 질문해 보세요.
- 누구에게 영향을 미치는가? 고객 한 명인가, 여러 명인가, 아니면 대중 전체인가?
- 최악의 경우는 얼마나 심각한가? 약간 어색한 메시지인가, 잘못된 약속인가, 아니면 누군가에게 피해를 주는 일인가?
- 되돌릴 수 있는가? 잘못 안내한 배송 시간은 정정할 수 있습니다. 하지만 공개적인 답변, 고객이 수락해 버린 잘못된 가격 책정, 혹은 유출된 상세 정보는 되돌릴 수 없는 경우가 많습니다.
- 돈, 안전, 법적 조항, 또는 개인 정보가 포함되어 있는가? 그렇다면 사다리의 위쪽 단계로 빠르게 올라갑니다.
실제 현장에서는 어떻게 보일까
- 낮음 (Low): 주문 상태, 영업시간, 문서 위치 안내. AI가 직접 답변하되, 담당 직원에게 연결할 수 있는 명확한 방법을 함께 제공합니다.
- 보통 (Moderate): 제품에 대한 질문 및 문의에 대한 1차 답변. AI가 초안을 작성하며, 좁은 가이드라인 범위 안에서 직접 발송하거나 담당자가 매일 샘플을 검수합니다.
- 높음 (High): 가격, 할인, 배송 약속 및 고객 불만 사항. AI가 답변을 준비하고, 지정된 담당자가 발송 전에 이를 승인합니다.
- 최고조 (Critical): 법적 사항, 안전 관련 사안, 모든 종류의 분쟁. 사람이 직접 처리합니다. AI는 담당자가 사실관계를 확인하는 데 도움을 줄 수 있습니다.
이 4개 단계 모두를 관통하는 규칙은 이것입니다. 'AI가 추천하고, 사람은 결정한다.' 단계가 올라갈수록 이 규칙은 더욱 문자 그대로 엄격하게 적용되어야 합니다.
모든 단계에서 중요한 통제 장치들
- 고객에게 AI와 대화 중임을 알리고, 사람에게 연결하는 방법을 제공하세요.
- AI에게 해당 답변 유형에 꼭 필요한 정보만 제공하세요.
- 매주 실제 대화의 샘플을 검토하되, 특히 매끄럽지 못했던 대화들을 집중적으로 보세요.
- 대화를 사람에게 즉시 넘겨야 하는 특정 단어나 주제를 미리 정의해 두세요.
이번 주에 할 일 하나
고객이 가장 자주 보내는 메시지 유형 5가지를 적어보세요. 각각을 무료 도구인 Risk Ladder로 평가해 보세요. 이 도구는 사용 사례가 어느 단계에 속하는지 배치하고 그에 걸맞은 안전장치를 제안해 줍니다. 가장 낮은 등급의 유형부터 시작하고, 낮은 등급이 어떻게 작동하는지 충분히 확인하기 전까지 높은 등급은 손대지 않은 채로 두세요.
이 답의 출처
이 답은 AI for Business Leaders에 소개된 프레임워크 중 하나인 The Risk Ladder에서 나왔습니다. 이 책은 양장본과 Kindle로 만나보실 수 있습니다.
구체적인 사용 사례를 검토하고 싶다면, Ask Vinay's books에 설명해 보세요.
Vinay Pasricha는 GoodSpace AI의 창업자이자, AI for Business Leaders를 포함해 여섯 권의 책을 쓴 저자입니다.