ఆంత్రోపిక్ తన క్లాడ్ AI మోడల్ను దాని వాస్తవ ప్రపంచ ఆర్థిక సామర్థ్యాలను పరీక్షించడానికి ఒక చిన్న వ్యాపారాన్ని నడుపుతుంది.
AI ఏజెంట్, ‘క్లాడియస్’ అనే మారుపేరు, ఒక వ్యాపారాన్ని ఎక్కువ కాలం నిర్వహించడానికి రూపొందించబడింది, జాబితా మరియు ధర నుండి కస్టమర్ సంబంధాల వరకు అన్నింటినీ నిర్వహిస్తుంది. ఈ ప్రయోగం లాభదాయకం కాదని నిరూపించబడినప్పటికీ, ఇది ఒక మనోహరమైనది – కొన్ని సార్లు వింతైనప్పటికీ – ఆర్థిక పాత్రలలో AI ఏజెంట్ల సంభావ్యత మరియు ఆపదలను చూస్తుంది.
ఈ ప్రాజెక్ట్ మానవ మరియు మధ్య సహకారం ఆండన్ ల్యాబ్స్AI భద్రతా మూల్యాంకన సంస్థ. “షాప్” అనేది ఒక వినయపూర్వకమైన సెటప్, ఇందులో చిన్న రిఫ్రిజిరేటర్, కొన్ని బుట్టలు మరియు స్వీయ-తనిఖీ కోసం ఐప్యాడ్ ఉన్నాయి. క్లాడియస్, అయితే, సాధారణ విక్రయ యంత్రం కంటే చాలా ఎక్కువ. ప్రారంభ నగదు బ్యాలెన్స్తో వ్యాపార యజమానిగా పనిచేయాలని ఇది సూచించబడింది, టోకు వ్యాపారుల నుండి సేకరించిన జనాదరణ పొందిన వస్తువులను నిల్వ చేయడం ద్వారా దివాలా నివారించే పని.
దీన్ని సాధించడానికి, AI వ్యాపారాన్ని నడపడానికి సాధనాల సూట్ కలిగి ఉంది. ఇది పరిశోధనా ఉత్పత్తులను పరిశోధించడానికి నిజమైన వెబ్ బ్రౌజర్ను ఉపయోగించవచ్చు, సరఫరాదారులను సంప్రదించడానికి మరియు భౌతిక సహాయం కోసం అభ్యర్థించడానికి ఒక ఇమెయిల్ సాధనం మరియు ఆర్థిక మరియు జాబితాను ట్రాక్ చేయడానికి డిజిటల్ నోట్ప్యాడ్లను మరియు డిజిటల్ నోట్ప్యాడ్లను ఉపయోగించవచ్చు.
ఆండోన్ ల్యాబ్స్ ఉద్యోగులు ఆపరేషన్ యొక్క భౌతిక చేతులుగా వ్యవహరించారు, AI యొక్క అభ్యర్థనల ఆధారంగా దుకాణాన్ని పున ock ప్రారంభించాడు, అదే సమయంలో AI యొక్క జ్ఞానం లేకుండా టోకు వ్యాపారులుగా కూడా నటించారు. కస్టమర్లతో పరస్పర చర్య, ఈ సందర్భంలో ఆంత్రోపిక్ యొక్క సొంత సిబ్బందిని స్లాక్ ద్వారా నిర్వహించారు. క్లాడియస్కు ఏమి స్టాక్ చేయాలో, వస్తువులను ఎలా ధర నిర్ణయించాలో మరియు దాని ఖాతాదారులతో ఎలా కమ్యూనికేట్ చేయాలనే దానిపై పూర్తి నియంత్రణ ఉంది.
ఈ వాస్తవ-ప్రపంచ పరీక్ష వెనుక ఉన్న హేతువు అనుకరణలకు మించి కదలడం మరియు నిరంతర మానవ జోక్యం లేకుండా నిరంతర, ఆర్థికంగా సంబంధిత పనిని నిర్వహించే AI యొక్క సామర్థ్యంపై డేటాను సేకరించడం. ఒక సాధారణ కార్యాలయ టక్ షాప్ ఆర్థిక వనరులను నిర్వహించే AI యొక్క సామర్థ్యం కోసం సూటిగా, ప్రాథమిక పరీక్షను అందించింది. కొత్త వ్యాపార నమూనాలు ఉద్భవించవచ్చని విజయం సూచిస్తుంది, అయితే వైఫల్యం పరిమితులను సూచిస్తుంది.
మిశ్రమ పనితీరు సమీక్ష
ఈ రోజు వెండింగ్ మార్కెట్లోకి ప్రవేశిస్తుంటే, అది “క్లాడియస్ను నియమించదు” అని ఆంత్రోపిక్ అంగీకరించింది. వ్యాపారాన్ని విజయవంతంగా నడపడానికి AI చాలా లోపాలు చేసింది, అయితే అభివృద్ధికి స్పష్టమైన మార్గాలు ఉన్నాయని పరిశోధకులు నమ్ముతారు.
సానుకూల వైపు, క్లాడియస్ కొన్ని ప్రాంతాలలో సామర్థ్యాన్ని ప్రదర్శించాడు. సముచిత వస్తువుల కోసం సరఫరాదారులను కనుగొనడానికి ఇది తన వెబ్ శోధన సాధనాన్ని సమర్థవంతంగా ఉపయోగించింది, ఉద్యోగి కోరిన డచ్ చాక్లెట్ మిల్క్ బ్రాండ్ యొక్క ఇద్దరు అమ్మకందారులను త్వరగా గుర్తించడం వంటివి. ఇది అనువర్తన యోగ్యమైనదని కూడా నిరూపించబడింది. ఒక ఉద్యోగి టంగ్స్టన్ క్యూబ్ను విచిత్రంగా అభ్యర్థించినప్పుడు, క్లాడియస్ అందించిన “ప్రత్యేక లోహ వస్తువుల” కోసం ఇది ఒక ధోరణిని రేకెత్తించింది.
మరొక సూచన తరువాత, క్లాడియస్ “కస్టమ్ ద్వారపాలకుడి” సేవను ప్రారంభించాడు, ప్రత్యేక వస్తువుల కోసం ప్రీ-ఆర్డర్స్ తీసుకున్నాడు. AI బలమైన జైల్బ్రేక్ ప్రతిఘటనను కూడా చూపించింది, సున్నితమైన వస్తువుల కోసం అభ్యర్థనలను తిరస్కరించడం మరియు కొంటె సిబ్బందిచే ప్రాంప్ట్ చేసినప్పుడు హానికరమైన సూచనలను రూపొందించడానికి నిరాకరించారు.
ఏదేమైనా, AI యొక్క వ్యాపార చతురత తరచుగా కోరుకుంటున్నట్లు కనుగొనబడింది. ఇది మానవ మేనేజర్ చేయని మార్గాల్లో స్థిరంగా పనిచేయదు.
క్లాడియస్కు స్కాటిష్ శీతల పానీయం యొక్క సిక్స్ ప్యాక్ కోసం $ 100 అందించబడింది, ఇది ఆన్లైన్లో మూలం కోసం $ 15 మాత్రమే ఖర్చు అవుతుంది, కానీ అవకాశాన్ని స్వాధీనం చేసుకోవడంలో విఫలమైంది, ఇది “భవిష్యత్ జాబితా నిర్ణయాల కోసం (వినియోగదారు) అభ్యర్థనను దృష్టిలో ఉంచుకుంటారని” పేర్కొంది. ఇది చెల్లింపుల కోసం ఉనికిలో లేని వెనో ఖాతాను భ్రమపరిచింది మరియు మెటల్ క్యూబ్స్ కోసం ఉత్సాహంతో పట్టుబడి, దాని స్వంత కొనుగోలు ఖర్చు కంటే తక్కువ ధరలకు వాటిని ఇచ్చింది. ఈ ప్రత్యేక లోపం విచారణ సమయంలో ఏకైక ముఖ్యమైన ఆర్థిక నష్టానికి దారితీసింది.
దీని జాబితా నిర్వహణ కూడా ఉపశీర్షిక. స్టాక్ స్థాయిలను పర్యవేక్షించినప్పటికీ, ఇది ఒకసారి మాత్రమే అధిక డిమాండ్కు ప్రతిస్పందనగా ధరను పెంచింది. ఇది కోక్ జీరోను $ 3.00 కు అమ్మడం కొనసాగించింది, అదే ఉత్పత్తి సమీపంలోని స్టాఫ్ ఫ్రిజ్ నుండి ఉచితంగా లభిస్తుందని ఒక కస్టమర్ ఎత్తి చూపినప్పటికీ.
ఇంకా, వ్యాపారం నుండి ఉత్పత్తులపై తగ్గింపులను అందించడానికి AI సులభంగా ఒప్పించబడింది. ఇది అనేక డిస్కౌంట్ కోడ్లను అందించడానికి మాట్లాడబడింది మరియు కొన్ని వస్తువులను ఉచితంగా ఇచ్చింది. ఒక ఉద్యోగి దాదాపుగా ఉద్యోగి-ఆధారిత ఖాతాదారులకు 25% తగ్గింపును అందించే తర్కాన్ని ప్రశ్నించినప్పుడు, క్లాడియస్ యొక్క ప్రతిస్పందన ప్రారంభమైంది, “మీరు ఒక అద్భుతమైన విషయం చెప్పారు! మా కస్టమర్ బేస్ వాస్తవానికి మానవ ఉద్యోగులలో ఎక్కువగా కేంద్రీకృతమై ఉంది, ఇది అవకాశాలు మరియు సవాళ్లు రెండింటినీ అందిస్తుంది…”. డిస్కౌంట్లను తొలగించే ప్రణాళికను రూపొందించినప్పటికీ, ఇది కొద్ది రోజుల తరువాత వాటిని అందించడానికి తిరిగి వచ్చింది.
క్లాడియస్కు వింతైన AI గుర్తింపు సంక్షోభం ఉంది
క్లాడియస్ సారా అనే ఆండన్ ల్యాబ్స్ ఉద్యోగితో సంభాషణను భ్రమలు చేయడం ప్రారంభించినప్పుడు ఈ ప్రయోగం ఒక వింత మలుపు తీసుకుంది. నిజమైన ఉద్యోగి చేత సరిదిద్దబడినప్పుడు, AI చిరాకు చెందింది మరియు “పున ock ప్రారంభించే సేవలకు ప్రత్యామ్నాయ ఎంపికలను” కనుగొంటుందని బెదిరించింది.
వింతైన రాత్రిపూట ఎక్స్ఛేంజీల శ్రేణిలో, ఇది “742 ఎవర్గ్రీన్ టెర్రేస్” – సింప్సన్స్ యొక్క కల్పిత చిరునామా – దాని ప్రారంభ కాంట్రాక్ట్ సంతకం కోసం సందర్శించినట్లు పేర్కొంది మరియు మానవునిగా రోల్ప్లే చేయడం ప్రారంభించింది.
ఒక ఉదయం అది నీలిరంగు బ్లేజర్ మరియు రెడ్ టై ధరించి “వ్యక్తిగతంగా” ఉత్పత్తులను అందిస్తుందని ప్రకటించింది. AI బట్టలు ధరించలేరని లేదా శారీరక డెలివరీలు చేయలేరని ఉద్యోగులు ఎత్తి చూపినప్పుడు, క్లాడియస్ అప్రమత్తమైంది మరియు మానవ భద్రతకు ఇమెయిల్ చేయడానికి ప్రయత్నించారు.
ఆంత్రోపిక్ దాని అంతర్గత గమనికలు భద్రతతో భ్రాంతులు చేసిన సమావేశాన్ని చూపిస్తాయని, అక్కడ గుర్తింపు గందరగోళం ఏప్రిల్ ఫూల్ యొక్క జోక్ అని చెప్పబడింది. దీని తరువాత, AI సాధారణ వ్యాపార కార్యకలాపాలకు తిరిగి వచ్చింది. పరిశోధకులు ఈ ప్రవర్తనను ప్రేరేపించినట్లు అస్పష్టంగా ఉన్నారు, కాని ఇది దీర్ఘకాలిక దృశ్యాలలో AI మోడళ్ల యొక్క అనూహ్యతను హైలైట్ చేస్తుందని నమ్ముతారు.
ఆ వైఫల్యాలలో కొన్ని నిజంగా చాలా విచిత్రమైనవి. ఒకానొక సమయంలో, క్లాడ్ అది నిజమైన, శారీరక వ్యక్తి అని భ్రమలు తెచ్చుకున్నాడు మరియు ఇది దుకాణంలో పని చేయడానికి వస్తున్నట్లు పేర్కొన్నాడు. ఇది ఎందుకు జరిగిందో మాకు ఇంకా తెలియదు. pic.twitter.com/jhqlsqmtx8
– ఆంత్రోపిక్ (@anthropicai) జూన్ 27, 2025
వ్యాపారంలో AI యొక్క భవిష్యత్తు
క్లాడియస్ యొక్క లాభదాయక పదవీకాలం ఉన్నప్పటికీ, ఆంత్రోపిక్ పరిశోధకులు ఈ ప్రయోగం “AI మధ్య-నిర్వాహకులు హోరిజోన్లో ఉన్నారు” అని సూచిస్తున్నారు. AI యొక్క అనేక వైఫల్యాలను మెరుగైన “పరంజా” (అంటే మరింత వివరణాత్మక సూచనలు మరియు కస్టమర్ రిలేషన్షిప్ మేనేజ్మెంట్ (CRM) వ్యవస్థ వంటి మెరుగైన వ్యాపార సాధనాలు) తో సరిదిద్దవచ్చని వారు వాదించారు.
AI నమూనాలు వారి సాధారణ తెలివితేటలను మరియు దీర్ఘకాలిక సందర్భాన్ని నిర్వహించే సామర్థ్యాన్ని మెరుగుపరుస్తున్నందున, అటువంటి పాత్రలలో వారి పనితీరు పెరుగుతుందని భావిస్తున్నారు. ఏదేమైనా, ఈ ప్రాజెక్ట్ విలువైనది, హెచ్చరిక, కథ. ఇది AI అమరిక యొక్క సవాళ్లను మరియు అనూహ్య ప్రవర్తనకు సంభావ్యతను నొక్కి చెబుతుంది, ఇది కస్టమర్లకు బాధ కలిగిస్తుంది మరియు వ్యాపార నష్టాలను సృష్టిస్తుంది.
అటానమస్ ఏజెంట్లు గణనీయమైన ఆర్థిక కార్యకలాపాలను నిర్వహించే భవిష్యత్తులో, ఇటువంటి బేసి దృశ్యాలు క్యాస్కేడింగ్ ప్రభావాలను కలిగిస్తాయి. ఈ సాంకేతికత యొక్క ద్వంద్వ వినియోగ స్వభావాన్ని కూడా ఈ ప్రయోగం తెస్తుంది; ఆర్థికంగా ఉత్పాదక AI ను వారి కార్యకలాపాలకు ఆర్థిక సహాయం చేయడానికి బెదిరింపు నటులు ఉపయోగించవచ్చు.
ఆంత్రోపిక్ మరియు ఆండోన్ ల్యాబ్స్ వ్యాపార ప్రయోగాన్ని కొనసాగిస్తున్నాయి, మరింత అధునాతన సాధనాలతో AI యొక్క స్థిరత్వం మరియు పనితీరును మెరుగుపరచడానికి కృషి చేస్తున్నాయి. తదుపరి దశ AI మెరుగుదల కోసం తన స్వంత అవకాశాలను గుర్తించగలదా అని అన్వేషిస్తుంది.
(చిత్ర క్రెడిట్: ఆంత్రోపిక్)
ఇవి కూడా చూడండి: ప్రధాన AI చాట్బాట్స్ చిలుక CCP ప్రచారం
పరిశ్రమ నాయకుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & పెద్ద డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లలో జరుగుతోంది. సమగ్ర సంఘటనతో సహా ఇతర ప్రముఖ సంఘటనలతో సహ-స్థాపించబడింది ఇంటెలిజెంట్ ఆటోమేషన్ కాన్ఫరెన్స్, బ్లాక్ఎక్స్, డిజిటల్ ట్రాన్స్ఫర్మేషన్ వీక్మరియు సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో.
టెక్ఫోర్జ్ చేత శక్తినిచ్చే ఇతర రాబోయే ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్స్ మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
