Quels sont les risques des agents d'IA qui utilisent les données clients ?

Short answer: Les risques concernent ce que l'agent est autorisé à voir, où vont ces données, qui approuve ce qu'il envoie, et si une erreur peut être annulée. Nommez ces quatre éléments avant de connecter un dossier client. La fluidité n'est pas un moyen de contrôle.

Je m'appelle Vinay Pasricha. Je dirige GoodSpace AI à Noida, et j'ai écrit AI for Business Leaders. Les données clients sont le carburant que les gens veulent injecter dans un agent, car les réponses s'améliorent lorsque l'agent « connaît le client ». Des réponses de meilleure qualité, c'est aussi ainsi qu'une information privée quitte l'entreprise dans une phrase que personne n'a relue.

Ce qui tourne mal

L'agent répète un fait à la mauvaise personne, parce que la session, l'identité ou la consigne était confuse. Il envoie un détail client à un modèle ou à un fournisseur que vous ne souhaitiez pas inclure. Il stocke une conversation dans un endroit que votre propre équipe ne peut ni rechercher ni supprimer. Il rédige une réponse qui mélange deux clients. Rien de tout cela ne nécessite une faille de sécurité spectaculaire. Il suffit d'un agent capable de voir plus que ce que la tâche exige, et d'une équipe qui n'a pas regardé.

Un second type d'échec est plus discret. Les collaborateurs collent des exports dans un outil de discussion pour « juste obtenir le résumé », en dehors de tout agent que vous avez approuvé. Le risque n'est alors pas le projet que vous avez évalué. C'est le chemin de contournement. Une politique qui désigne l'outil approuvé, et précise ce qui ne doit jamais être collé, fait partie du contrôle. Le Risk Ladder permet de décider du niveau. La politique est ce qui permet à ce niveau de survivre à l'épreuve d'un après-midi chargé.

Il y a aussi la question de l'entraînement. Vous devez savoir si les propos d'un client sont utilisés pour améliorer un modèle que vous ne contrôlez pas. Si vous ne pouvez pas obtenir de réponse claire, partez du principe que vous ne voulez pas des données de ce client dans l'outil, et conservez ces données de votre côté de la ligne. Ne comblez pas ce manque par une supposition en appelant cela une évaluation.

Quatre contrôles, avant la connexion

• See : les champs dont la tâche a besoin, et rien d'autre. Un solde, un ticket, un statut de commande. Pas l'enregistrement complet sous prétexte que c'était plus facile à exporter.
• Go : les systèmes nommés dans lesquels les données peuvent entrer. Si un fournisseur ne peut pas les lister, ne le connectez pas.
• Approve : une personne physique valide tout ce qu'un client lira, jusqu'à ce que le niveau et les preuves prouvent le contraire.
• Annuler : vous pouvez retrouver ce qui a été envoyé, supprimer ce que vous avez stocké, et dire au client ce qui s'est passé. Si vous ne pouvez pas le retrouver, vous ne pouvez pas l'annuler.

Évaluez l'usage. Un brouillon qui ne sort jamais de l'entreprise appartient à un niveau inférieur à celui d'un agent qui répond de lui-même. Les contrôles doivent s'adapter au niveau. Une entreprise qui utilise un contrôle unique pour chaque agent n'a rien évalué. Elle a acheté une configuration par défaut.

Lisez la réponse du fournisseur sur la conservation en langage clair. Combien de temps les requêtes sont-elles conservées. Qui chez le fournisseur peut les ouvrir. Ce que vous faites lorsqu'un client vous demande de les supprimer. Si les réponses mènent à un lien vers une politique que personne dans votre entreprise n'a lue, le contrôle n'est pas encore en place. Demandez à quelqu'un de la lire, et écrivez ces quatre lignes avec vos propres mots.

Ce qu'une petite entreprise peut faire dès maintenant

Vous n'avez pas besoin d'un grand programme pour commencer. Vous avez besoin de ces quatre lignes sur une page que les personnes en contact avec les données clients ont réellement vue. Gardez les données clients hors de tout outil qui ne figure pas sur cette page. Examinez un agent par mois, et non tous les outils du marché.

Si un projet a besoin de tout l'historique du client pour effectuer une petite tâche, limitez la tâche. Le risque réside dans l'étendue des données, pas seulement dans l'intelligence de l'agent. Une tâche ciblée avec une vue restreinte est celle qu'il faut lancer en premier.

Utilisez l'outil gratuit Risk Ladder avant de laisser l'agent agir, et Automate, Assist, Escalate pour organiser les tâches autour de lui. Les huit étapes se trouvent dans AI strategy for business. Collapse or Collapse développe l'argument plus en détail : une seule personne est responsable d'un résultat et pilote des agents pour l'atteindre.

Une chose à faire cette semaine

Pour l'agent que vous envisagez, listez les champs clients qu'il verrait. Rayez chaque champ dont la tâche n'a pas besoin. Si vous ne pouvez pas dire où vont les champs restants, interrompez la connexion jusqu'à ce que vous le puissiez.

D'où vient cette réponse

Cette réponse s'appuie sur The Risk Ladder dans AI for Business Leaders.

Votre entreprise aura ses propres spécificités. Pour poser une question complémentaire avec vos propres mots, essayez Ask Vinay's books.

Vinay Pasricha est le fondateur de GoodSpace AI et l'auteur de six livres, dont AI for Business Leaders.