కొత్తది · AI for Business Leaders (రెండవ ఎడిషన్) — హార్డ్‌కవర్‌ను నేరుగా కొనండి, ₹1,799 →
Vinay Pasricha ఆవిర్భావ అన్వేషకుడు
ఇప్పుడు The Signal వచ్చేసింది Collapse రాస్తున్నాను నిర్మించడం GoodSpace AI

కస్టమర్ డేటాను ఉపయోగించే AI ఏజెంట్ల వల్ల కలిగే ప్రమాదాలు ఏమిటి?

ಸంక్షిప్త సమాధానం: ఏజెంట్ ఏమి చూడటానికి అనుమతించబడుతుంది, ఆ డేటా ఎక్కడికి వెళ్తుంది, అది పంపే దేనినైనా ఎవరు ఆమోదిస్తారు మరియు తప్పును సరిదిద్దవచ్చా లేదా అనేవే ఆ ప్రమాదాలు. మీరు కస్టమర్ రికార్డును అనుసంధానించడానికి ముందే ఈ నాలుగింటిని పేర్కొనండి. నిరాటంకత (Fluency) అనేది ఒక నియంత్రణ కాదు.

నేను Vinay Pasricha. నేను Noida లో GoodSpace AI ని నడుపుతున్నాను, మరియు నేను AI for Business Leaders రాశాను. కస్టమర్ డేటా అనేది ప్రజలు ఏజెంట్‌లో పోయాలనుకునే ఇంధనం వంటిది, ఎందుకంటే ఏజెంట్‌కు "కస్టమర్ గురించి తెలిసినప్పుడు" సమాధానాలు మరింత మెరుగ్గా ఉంటాయి. ఎవరూ సమీక్షించని ఒక వాక్యం ద్వారా ఒక వ్యక్తిగత విషయం సంస్థ వెలుపలికి వెళ్ళడానికి కూడా మెరుగైన సమాధానాలే కారణమవుతాయి.

ఏమి తప్పు జరగవచ్చు

సెషన్, గుర్తింపు లేదా ప్రాంప్ట్ అస్పష్టంగా ఉండటం వల్ల ఏజెంట్ ఒక విషయాన్ని తప్పుడు వ్యక్తికి పునరావృతం చేస్తుంది. ఇది మీరు చేర్చకూడదనుకున్న మోడల్ లేదా వెండర్‌కు కస్టమర్ వివరాలను పంపుతుంది. ఇది మీ స్వంత బృందం శోధించలేని లేదా తొలగించలేని స్థలంలో సంభాషణను నిల్వ చేస్తుంది. ఇది ఇద్దరు కస్టమర్ల వివరాలను కలిపి ఒక ప్రత్యుత్తరాన్ని ముసాయిదా చేస్తుంది. వీటికి ఎటువంటి పెద్ద భద్రతా ఉల్లంఘనలు అవసరం లేదు. కేవలం టాస్క్‌కు అవసరమైన దానికంటే ఎక్కువ చూడగలిగే ఏజెంట్, మరియు దానిని గమనించని బృందం ఉంటే చాలు.

రెండవ వైఫల్యం చాలా నిశ్శబ్దంగా జరుగుతుంది. మీరు అనుమతించిన ఏజెంట్‌కు వెలుపల, ప్రజలు "కేవలం సారాంశాన్ని పొందడానికి" ఎగుమతి చేసిన సమాచారాన్ని చాట్ టూల్‌లో పేస్ట్ చేస్తారు. అప్పుడు రిస్క్ అనేది మీరు రేట్ చేసిన ప్రాజెక్ట్ కాదు. దాని చుట్టూ ఉన్న మార్గం. అనుమతించబడిన టూల్‌ను పేర్కొంటూ, దేనిని ఎప్పుడూ పేస్ట్ చేయకూడదో చెప్పే పాలసీ అనేది నియంత్రణలో భాగం. Risk Ladder ద్వారా మీరు టైర్‌ను నిర్ణయిస్తారు. బిజీగా ఉండే మధ్యాహ్న సమయాల్లో ఆ టైర్ నియమాలను పాటించేలా చేసేదే పాలసీ.

శిక్షణకు సంబంధించిన ప్రశ్న కూడా ఉంది. మీరు నియంత్రించని మోడల్‌ను మెరుగుపరచడానికి కస్టమర్ యొక్క పదాలు ఉపయోగించబడుతున్నాయా లేదా అనేది మీరు తెలుసుకోవాలి. మీకు స్పష్టమైన సమాధానం లభించకపోతే, ఆ కస్టమర్ డేటాను ఆ టూల్‌లో ఉంచడానికి మీరు ఇష్టపడటం లేదని భావించి, డేటాను మీ పరిధిలోనే ఉంచుకోండి. ఆ అస్పష్టతను ఒక ఊహతో భర్తీ చేసి, దానిని సమీక్ష అని పిలవకండి.

అనుసంధానానికి ముందు, నాలుగు నియంత్రణలు

  • See: టాస్క్‌కు అవసరమైన ఫీల్డ్‌లు మాత్రమే, అంతకు మించి ఏమీ వద్దు. బ్యాలెన్స్, టికెట్ లేదా ఆర్డర్ స్టేటస్ మాత్రమే. ఎగుమతి చేయడం సులభం కదా అని మొత్తం రికార్డును పంపకూడదు.
  • Go: డేటా ప్రవేశించగల నిర్దేశిత వ్యవస్థలు. ఒక వెండర్ వాటిని జాబితా చేయలేకపోతే, కనెక్ట్ చేయవద్దు.
  • Approve: టైర్ మరియు ఆధారాలు ఇతరత్రా చెప్పేంతవరకు, కస్టమర్ చదివే ప్రతిదాన్ని ఒక వ్యక్తి పంపాలి.
  • రద్దు చేయడం (Undo): పంపిన సమాచారాన్ని మీరు కనుగొనవచ్చు, మీరు నిల్వ చేసిన దాన్ని తొలగించవచ్చు మరియు వినియోగదారునికి ఏమి జరిగిందో చెప్పవచ్చు. మీరు దాన్ని కనుగొనలేకపోతే, దానిని రద్దు చేయలేరు.

ఉపయోగాన్ని అంచనా వేయండి. సంస్థ వెలుపలికి వెళ్ళని ముసాయిదా (draft) అనేది, స్వయంగా సమాధానమిచ్చే ఒక ఏజెంట్ కంటే తక్కువ స్థాయికి చెందినది. స్థాయిని బట్టి నియంత్రణలు మారాలి. ప్రతి ఏజెంట్‌కు ఒకే నియంత్రణను ఉపయోగించే కంపెనీ దేనినీ అంచనా వేయలేదు. అది కేవలం డిఫాల్ట్ పద్ధతిని కొనుగోలు చేసింది.

డేటా నిల్వ (retention) గురించి వెండర్ ఇచ్చిన సమాధానాన్ని సరళమైన భాషలో చదవండి. ప్రాంప్ట్‌లు ఎంతకాలం ఉంచబడతాయి. వెండర్ వద్ద ఉన్న వారిలో ఎవరు వాటిని తెరవగలరు. ఒక కస్టమర్ వాటిని తొలగించమని మిమ్మల్ని అడిగినప్పుడు మీరు ఏమి చేస్తారు. ఈ సమాధానాలు మీ కంపెనీలో ఎవరూ చదవని ఒక పాలసీ లింక్ రూపంలో ఉంటే, ఆ నియంత్రణ ఇంకా అమలులోకి రాలేదని అర్థం. ఎవరినైనా దానిని చదవమని చెప్పి, ఆ నాలుగు లైన్లను మీ స్వంత మాటలలో రాయండి.

ఒక చిన్న కంపెనీ ఇప్పుడు ఏమి చేయగలదు

ప్రారంభించడానికి మీకు పెద్ద ప్రోగ్రామ్ అవసరం లేదు. కస్టమర్ డేటాను ఉపయోగించే వ్యక్తులు నిజంగా చూసిన ఒక పేజీలోని నాలుగు లైన్లు మీకు అవసరం. ఆ పేజీలో లేని ఏ సాధనంలోనూ కస్టమర్ డేటాను ఉంచవద్దు. మార్కెట్లో ఉన్న ప్రతి సాధనాన్ని కాకుండా, నెలకు ఒక ఏజెంట్‌ను సమీక్షించండి.

ఒక చిన్న పనిని చేయడానికి ఒక ప్రాజెక్ట్‌కు కస్టమర్ యొక్క పూర్తి హిస్టరీ అవసరమైతే, ఆ పని పరిధిని పరిమితం చేయండి. రిస్క్ అనేది డేటా యొక్క విస్తృతిలో ఉంటుంది, కేవలం ఏజెంట్ యొక్క చాతుర్యంలో మాత్రమే కాదు. తక్కువ డేటా పరిధి కలిగిన ఒక చిన్న పనిని మొదటగా రన్ చేయడం మంచిది.

ఏజెంట్ పనిని ప్రారంభించడానికి అనుమతించే ముందు ఉచిత Risk Ladder ను ఉపయోగించండి, మరియు దాని చుట్టూ ఉన్న పనులను వర్గీకరించడానికి Automate, Assist, Escalate ని ఉపయోగించండి. ఈ ఎనిమిది దశలు AI strategy for business లో ఉన్నాయి. దీనికి సంబంధించిన మరింత సుదీర్ఘమైన వివరణ Collapse or Collapse లో ఉంది: ఒక వ్యక్తి ఒక ఫలితానికి పూర్తి బాధ్యత వహిస్తూ, దానిని సాధించడానికి ఏజెంట్లను నడుపుతారు.

ఈ వారం చేయాల్సిన ఒక పని

మీరు పరిశీలిస్తున్న ఏజెంట్ కోసం, అది చూడగలిగే కస్టమర్ ఫీల్డ్‌లను జాబితా చేయండి. టాస్క్‌కు అవసరం లేని ప్రతి ఫీల్డ్‌ను కొట్టివేయండి. మిగిలిన ఫీల్డ్‌లు ఎక్కడికి వెళ్తాయో మీరు చెప్పలేకపోతే, చెప్పగలిగే వరకు కనెక్షన్‌ను నిలిపివేయండి.

ఈ సమాధానం ఎక్కడ నుండి వచ్చింది

ఈ సమాధానం AI for Business Leaders లోని The Risk Ladder ఆధారంగా రూపొందించబడింది.

మీ కంపెనీకి స్వంత ప్రత్యేకతలు ఉండవచ్చు. మీ స్వంత మాటలలో తదుపరి ప్రశ్న అడగడానికి, Ask Vinay's books ని ప్రయత్నించండి.

Vinay Pasricha GoodSpace AI వ్యవస్థాపకులు, ఆరు పుస్తకాల రచయిత; వాటిలో ఒకటి AI for Business Leaders.

AI for Business Leadersలో మరింత లోతుగా తెలుసుకోండి

ఈ సమాధానం సంక్షిప్త రూపం మాత్రమే. పూర్తి విశ్లేషణ, మరియు దాని వెనుక ఉన్న పద్ధతి, పుస్తకంలో ఉన్నాయి.

దీనిని Kindleలో చదవండి Amazon

పుస్తకం గురించి · Kindleలో మొత్తం ఆరు పుస్తకాలు

వారానికి ఒక ఇమెయిల్

కొత్త వ్యాసాలు మాత్రమే, మరేమీ కాదు. ఒక వారంలో ఎన్ని వచ్చినా ఒకే నోట్‌గా వస్తాయి. ఒక్క క్లిక్‌తో చందా రద్దు చేయండి.