Hot News

Franny Hsiao, సేల్స్‌ఫోర్స్: స్కేలింగ్ ఎంటర్‌ప్రైజ్ AI

స్కేలింగ్ ఎంటర్‌ప్రైజ్ AIకి నిర్మాణ పర్యవేక్షణలను అధిగమించడం అవసరం, ఇది తరచుగా ఉత్పత్తికి ముందు పైలట్‌లను నిలిపివేస్తుంది, ఇది మోడల్ ఎంపికకు మించిన సవాలు. ఉత్పాదక AI ప్రోటోటైప్‌లు స్పిన్ అప్ చేయడం సులభం అయితే, వాటిని విశ్వసనీయ వ్యాపార ఆస్తులుగా మార్చడం అనేది డేటా ఇంజనీరింగ్ మరియు గవర్నెన్స్‌లోని క్లిష్ట సమస్యలను పరిష్కరించడం.

ముందుకు AI & బిగ్ డేటా గ్లోబల్ 2026 లండన్‌లో, ఫ్రన్నీ హ్సియావో, EMEA లీడర్ ఆఫ్ AI ఆర్కిటెక్ట్స్ సేల్స్‌ఫోర్స్అనేక కార్యక్రమాలు గోడను ఎందుకు తాకాయి మరియు వాస్తవ ప్రపంచాన్ని మనుగడ సాగించే వ్యవస్థలను సంస్థలు ఎలా నిర్మించగలవో చర్చించారు.

స్కేలింగ్ ఎంటర్‌ప్రైజ్ AI యొక్క ‘ప్రిస్టైన్ ఐలాండ్’ సమస్య

చాలా వైఫల్యాలు AI నిర్మించబడిన వాతావరణం నుండి ఉత్పన్నమవుతాయి. పైలట్‌లు తరచుగా నియంత్రిత సెట్టింగ్‌లలో ప్రారంభిస్తారు, అది భద్రతా భావం యొక్క తప్పుడు భావాన్ని సృష్టిస్తుంది, ఎంటర్‌ప్రైజ్ స్కేల్‌ను ఎదుర్కొన్నప్పుడు మాత్రమే విరిగిపోతుంది.

సేల్స్‌ఫోర్స్‌లోని AI ఆర్కిటెక్ట్‌ల EMEA లీడర్ ఫ్రాంనీ హ్సియావో యొక్క హెడ్‌షాట్.

“AI పైలట్‌లను స్కేలింగ్ నుండి నిరోధించే ఏకైక అత్యంత సాధారణ నిర్మాణ పర్యవేక్షణ ఏమిటంటే, అంతర్నిర్మిత ముగింపుతో అంతర్నిర్మిత ముగింపుతో ఉత్పత్తి-గ్రేడ్ డేటా మౌలిక సదుపాయాలను రూపొందించడంలో వైఫల్యం,” Hsiao వివరించాడు.

“అర్థమయ్యేలా, పైలట్‌లు తరచుగా ‘ప్రిస్టైన్ ఐలాండ్స్’లో ప్రారంభమవుతారు – చిన్న, క్యూరేటెడ్ డేటాసెట్‌లు మరియు సరళీకృత వర్క్‌ఫ్లోలను ఉపయోగించడం. కానీ ఇది ఎంటర్‌ప్రైజ్ డేటా యొక్క గజిబిజి వాస్తవికతను విస్మరిస్తుంది: వాస్తవ-ప్రపంచ వాల్యూమ్ మరియు వైవిధ్యాన్ని నిర్వహించడానికి అవసరమైన సంక్లిష్ట ఏకీకరణ, సాధారణీకరణ మరియు పరివర్తన.”

అంతర్లీన డేటా గందరగోళాన్ని పరిష్కరించకుండా కంపెనీలు ఈ ద్వీపం-ఆధారిత పైలట్‌లను స్కేల్ చేయడానికి ప్రయత్నించినప్పుడు, సిస్టమ్‌లు విచ్ఛిన్నమవుతాయి. Hsiao “ఫలితంగా డేటా ఖాళీలు మరియు అనుమితి జాప్యం వంటి పనితీరు సమస్యలు AI సిస్టమ్‌లను నిరుపయోగంగా మారుస్తాయి-మరియు, ముఖ్యంగా, అవిశ్వసనీయమైనవి” అని హెచ్చరించింది.

Hsiao ఈ అంతరాన్ని విజయవంతంగా తగ్గించే కంపెనీలు “మొత్తం జీవితచక్రంలోకి ఎండ్-టు-ఎండ్ అబ్జర్బిలిటీని మరియు గార్డ్‌రైల్స్‌ను దోచుకునేవి” అని వాదించారు. ఈ విధానం “AI సిస్టమ్‌లు ఎంత ప్రభావవంతంగా ఉన్నాయి మరియు వినియోగదారులు కొత్త సాంకేతికతను ఎలా అవలంబిస్తున్నారనే దానిపై దృశ్యమానత మరియు నియంత్రణను అందిస్తుంది.”

గ్రహించిన ప్రతిస్పందన కోసం ఇంజనీరింగ్

ఎంటర్‌ప్రైజెస్ పెద్ద రీజనింగ్ మోడల్‌లను అమలు చేస్తున్నందున – వంటివి ‘అట్లాస్ రీజనింగ్ ఇంజిన్’ – వారు మోడల్ యొక్క “ఆలోచన” యొక్క లోతు మరియు వినియోగదారు యొక్క సహనానికి మధ్య లావాదేవీని ఎదుర్కొంటారు. భారీ గణన జాప్యాన్ని సృష్టిస్తుంది.

Hsiao ప్రకారం, “Agentforce స్ట్రీమింగ్ ద్వారా గ్రహించిన ప్రతిస్పందన”పై దృష్టి సారించడం ద్వారా సేల్స్‌ఫోర్స్ దీనిని పరిష్కరిస్తుంది.

“ఈ నేపథ్యంలో రీజనింగ్ ఇంజిన్ భారీ గణనను నిర్వహిస్తున్నప్పటికీ, AI- రూపొందించిన ప్రతిస్పందనలను క్రమంగా అందించడానికి ఇది మాకు అనుమతిస్తుంది. ఇది గ్రహించిన జాప్యాన్ని తగ్గించడానికి చాలా ప్రభావవంతమైన విధానం, ఇది తరచుగా ఉత్పత్తి AIని నిలిపివేస్తుంది.”

ఎంటర్‌ప్రైజ్ AIని స్కేలింగ్ చేసేటప్పుడు వినియోగదారు అంచనాలను నిర్వహించడంలో పారదర్శకత కూడా క్రియాత్మక పాత్ర పోషిస్తుంది. డిజైన్‌ను ట్రస్ట్ మెకానిజమ్‌గా ఉపయోగించడం గురించి Hsiao వివరిస్తుంది: “తార్కిక దశలు లేదా ఉపయోగించిన సాధనాలను చూపే ప్రోగ్రెస్ సూచికలను, అలాగే స్పిన్నర్లు మరియు ప్రోగ్రెస్ బార్‌ల వంటి చిత్రాలను చూపడం ద్వారా, మేము వినియోగదారులను నిమగ్నమై ఉంచము; మేము గ్రహించిన ప్రతిస్పందనను మెరుగుపరుస్తాము మరియు నమ్మకాన్ని పెంచుతాము.

“ఈ దృశ్యమానత, వ్యూహాత్మక మోడల్ ఎంపికతో కలిపి – తక్కువ గణనల కోసం చిన్న మోడళ్లను ఎంచుకోవడం, వేగవంతమైన ప్రతిస్పందన సమయాలను సూచిస్తుంది – మరియు స్పష్టమైన పొడవు పరిమితులు, సిస్టమ్ ఉద్దేశపూర్వకంగా మరియు ప్రతిస్పందించేలా అనిపిస్తుంది.”

అంచు వద్ద ఆఫ్‌లైన్ మేధస్సు

యుటిలిటీస్ లేదా లాజిస్టిక్స్ వంటి ఫీల్డ్ కార్యకలాపాలతో కూడిన పరిశ్రమల కోసం, నిరంతర క్లౌడ్ కనెక్టివిటీపై ఆధారపడటం నాన్-స్టార్టర్. “మా ఎంటర్‌ప్రైజ్ కస్టమర్‌లలో చాలా మందికి, అతిపెద్ద ప్రాక్టికల్ డ్రైవర్ ఆఫ్‌లైన్ కార్యాచరణ,” అని Hsiao పేర్కొంది.

Hsiao ఆన్-డివైస్ ఇంటెలిజెన్స్ వైపు మారడాన్ని హైలైట్ చేస్తుంది, ముఖ్యంగా ఫీల్డ్ సర్వీసెస్‌లో, సిగ్నల్ బలంతో సంబంధం లేకుండా వర్క్‌ఫ్లో కొనసాగాలి.

“ఒక సాంకేతిక నిపుణుడు ఆఫ్‌లైన్‌లో ఉన్నప్పుడు తప్పు భాగం, ఎర్రర్ కోడ్ లేదా సీరియల్ నంబర్‌ను చిత్రీకరించవచ్చు. ఆపై పరికరంలోని LLM ఆస్తి లేదా లోపాన్ని గుర్తించగలదు మరియు కాష్ చేయబడిన నాలెడ్జ్ బేస్ నుండి గైడెడ్ ట్రబుల్షూటింగ్ దశలను తక్షణమే అందిస్తుంది” అని Hsiao వివరించాడు.

కనెక్టివిటీ తిరిగి వచ్చిన తర్వాత డేటా సింక్రొనైజేషన్ స్వయంచాలకంగా జరుగుతుంది. “ఒకసారి కనెక్షన్ పునరుద్ధరింపబడిన తర్వాత, ఒకే ఒక్క సోర్స్ ఆఫ్ ట్రూత్‌ను నిర్వహించడానికి ఆ డేటాను క్లౌడ్‌కి తిరిగి సమకాలీకరించే ‘భారీ లిఫ్టింగ్’ని సిస్టమ్ నిర్వహిస్తుంది. ఇది చాలా డిస్‌కనెక్ట్ చేయబడిన వాతావరణంలో కూడా పనిని పూర్తి చేస్తుందని నిర్ధారిస్తుంది.”

Hsiao “అల్ట్రా-తక్కువ జాప్యం, మెరుగైన గోప్యత మరియు డేటా భద్రత, శక్తి సామర్థ్యం మరియు ఖర్చు ఆదా” వంటి ప్రయోజనాల కారణంగా ఎడ్జ్ AIలో నిరంతర ఆవిష్కరణలను ఆశిస్తోంది.

హై-స్టేక్స్ గేట్‌వేలు

స్వయంప్రతిపత్త ఏజెంట్లు సెట్ మరియు మరచిపోయే సాధనాలు కాదు. ఎంటర్‌ప్రైజ్ AI డిప్లాయ్‌మెంట్‌లను స్కేలింగ్ చేస్తున్నప్పుడు, మానవుడు ఒక చర్యను ఎప్పుడు ధృవీకరించాలి అనేది పాలనకు ఖచ్చితంగా నిర్వచించడం అవసరం. Hsiao దీనిని డిపెండెన్సీగా కాదు, “జవాబుదారీతనం మరియు నిరంతర అభ్యాసం కోసం ఆర్కిటెక్టింగ్”గా వర్ణించాడు.

సేల్స్‌ఫోర్స్ నిర్దిష్ట ప్రాంతాల కోసం “హ్యూమన్-ఇన్-ది-లూప్”ని తప్పనిసరి చేస్తుంది Hsiao “హై-స్టేక్స్ గేట్‌వేస్” అని పిలుస్తుంది:

“ఇది ఏదైనా ‘CUD’ (సృష్టించడం, అప్‌లోడ్ చేయడం లేదా తొలగించడం) చర్యలు, అలాగే ధృవీకరించబడిన పరిచయం మరియు కస్టమర్ సంప్రదింపు చర్యలతో సహా నిర్దిష్ట చర్య వర్గాలను కలిగి ఉంటుంది” అని Hsiao చెప్పారు. “క్లిష్టమైన నిర్ణయం తీసుకోవడం లేదా ప్రాంప్ట్ మానిప్యులేషన్ ద్వారా సమర్థవంతంగా ఉపయోగించబడే ఏదైనా చర్య కోసం మేము మానవ నిర్ధారణకు కూడా డిఫాల్ట్ చేస్తాము.”

ఈ నిర్మాణం ఫీడ్‌బ్యాక్ లూప్‌ను సృష్టిస్తుంది, ఇక్కడ “ఏజెంట్‌లు మానవ నైపుణ్యం నుండి నేర్చుకుంటారు,” తనిఖీ చేయని ఆటోమేషన్ కాకుండా “సహకార మేధస్సు” వ్యవస్థను సృష్టిస్తుంది.

ఏజెంట్‌ను విశ్వసించాలంటే దాని పనిని చూడటం అవసరం. ఈ దృశ్యమానతను అందించడానికి సేల్స్‌ఫోర్స్ “సెషన్ ట్రేసింగ్ డేటా మోడల్ (STDM)”ని రూపొందించింది. ఇది ఏజెంట్ యొక్క లాజిక్‌పై గ్రాన్యులర్ అంతర్దృష్టిని అందించే “టర్న్-బై-టర్న్ లాగ్‌లను” క్యాప్చర్ చేస్తుంది.

“ఇది వినియోగదారు ప్రశ్నలు, ప్లానర్ స్టెప్స్, టూల్ కాల్‌లు, ఇన్‌పుట్‌లు/అవుట్‌పుట్‌లు, తిరిగి పొందిన భాగాలు, ప్రతిస్పందనలు, టైమింగ్ మరియు ఎర్రర్‌లతో సహా ప్రతి ఇంటరాక్షన్‌ను క్యాప్చర్ చేసే గ్రాన్యులర్ స్టెప్-బై-స్టెప్ విజిబిలిటీని అందిస్తుంది” అని హ్సియావో చెప్పారు.

ఈ డేటా సంస్థలను అడాప్షన్ మెట్రిక్‌ల కోసం ‘ఏజెంట్ అనలిటిక్స్’ని అమలు చేయడానికి, పనితీరును తగ్గించడానికి ‘ఏజెంట్ ఆప్టిమైజేషన్’ మరియు సమయ వ్యవధి మరియు జాప్యం ట్రాకింగ్ కోసం ‘హెల్త్ మానిటరింగ్’ని అమలు చేయడానికి అనుమతిస్తుంది.

“ఏజెంట్‌ఫోర్స్ అబ్జర్బిలిటీ అనేది మీ ఏజెంట్‌ఫోర్స్ ఏజెంట్లందరికీ ఏకీకృత దృశ్యమానత, పర్యవేక్షణ మరియు ఆప్టిమైజేషన్ కోసం ఒకే మిషన్ నియంత్రణ” అని Hsiao సారాంశం.

ప్రామాణీకరణ ఏజెంట్ కమ్యూనికేషన్

వ్యాపారాలు వేర్వేరు విక్రేతల నుండి ఏజెంట్లను అమలు చేస్తున్నందున, ఈ సిస్టమ్‌లకు సహకరించడానికి భాగస్వామ్య ప్రోటోకాల్ అవసరం. “బహుళ-ఏజెంట్ ఆర్కెస్ట్రేషన్ పని చేయడానికి, ఏజెంట్లు శూన్యంలో ఉండలేరు; వారికి సాధారణ భాష అవసరం,” Hsiao వాదించాడు.

Hsiao ప్రామాణీకరణ యొక్క రెండు పొరలను వివరిస్తుంది: ఆర్కెస్ట్రేషన్ మరియు అర్థం. ఆర్కెస్ట్రేషన్ కోసం, సేల్స్‌ఫోర్స్ MCP (మోడల్ కాంటెక్స్ట్ ప్రోటోకాల్) మరియు A2A (ఏజెంట్ నుండి ఏజెంట్ ప్రోటోకాల్) వంటి ఓపెన్ సోర్స్ ప్రమాణాలను అవలంబిస్తోంది.

“ఓపెన్ సోర్స్ ప్రమాణాలు చర్చలు చేయలేవని మేము విశ్వసిస్తున్నాము; అవి విక్రేత లాక్-ఇన్‌ను నిరోధిస్తాయి, పరస్పర చర్యను ప్రారంభిస్తాయి మరియు ఆవిష్కరణలను వేగవంతం చేస్తాయి.”

అయితే, ఏజెంట్లు డేటాను భిన్నంగా అర్థం చేసుకుంటే కమ్యూనికేషన్ పనికిరాదు. ఫ్రాగ్మెంటెడ్ డేటాను పరిష్కరించడానికి, సేల్స్‌ఫోర్స్ సహ-స్థాపన చేసింది OSI (సెమాంటిక్ ఇంటర్‌చేంజ్‌ని తెరవండి) సెమాంటిక్స్‌ను ఏకీకృతం చేయడానికి, ఒక సిస్టమ్‌లోని ఏజెంట్ “మరో వ్యవస్థలో ఏజెంట్ యొక్క ఉద్దేశాన్ని నిజంగా అర్థం చేసుకుంటాడు.”

భవిష్యత్ ఎంటర్‌ప్రైజ్ AI స్కేలింగ్ అడ్డంకి: ఏజెంట్ సిద్ధంగా ఉన్న డేటా

ఎదురు చూస్తున్నప్పుడు, సవాలు మోడల్ సామర్థ్యం నుండి డేటా యాక్సెసిబిలిటీకి మారుతుంది. అనేక సంస్థలు ఇప్పటికీ వారసత్వం, విచ్ఛిన్నమైన మౌలిక సదుపాయాలతో పోరాడుతున్నాయి, ఇక్కడ “శోధన మరియు పునర్వినియోగం” కష్టంగా ఉన్నాయి.

సాంప్రదాయ, దృఢమైన ETL పైప్‌లైన్‌లను భర్తీ చేసే శోధించదగిన, సందర్భోచిత-అవగాహన ఆర్కిటెక్చర్‌ల ద్వారా ఎంటర్‌ప్రైజ్ డేటాను “ఏజెంట్-సిద్ధంగా” చేయడం ద్వారా తదుపరి ప్రధాన అడ్డంకి మరియు పరిష్కారం – Hsiao అంచనా వేసింది. “హైపర్-వ్యక్తిగతీకరించబడిన మరియు రూపాంతరం చెందిన వినియోగదారు అనుభవాన్ని ప్రారంభించడానికి ఈ మార్పు అవసరం ఎందుకంటే ఏజెంట్లు ఎల్లప్పుడూ సరైన సందర్భాన్ని యాక్సెస్ చేయగలరు.”

“అంతిమంగా, తరువాతి సంవత్సరం పెద్ద, కొత్త మోడళ్ల కోసం రేసు గురించి కాదు; ఇది ఉత్పత్తి-గ్రేడ్ ఏజెంట్ సిస్టమ్‌లు వృద్ధి చెందడానికి అనుమతించే ఆర్కెస్ట్రేషన్ మరియు డేటా ఇన్‌ఫ్రాస్ట్రక్చర్‌ను నిర్మించడం గురించి,” Hsiao ముగించారు.

ఈ ఏడాదికి సేల్స్‌ఫోర్స్ కీలక స్పాన్సర్ AI & బిగ్ డేటా గ్లోబల్ లండన్‌లో మరియు ఈవెంట్ సందర్భంగా వారి అంతర్దృష్టులను పంచుకునే ఫ్రానీ హ్సియావోతో సహా పలు వక్తలు ఉంటారు. కంపెనీ నిపుణుల నుండి మరిన్నింటి కోసం స్టాండ్ #163 వద్ద సేల్స్‌ఫోర్స్ బూత్ ద్వారా స్వింగ్ చేయండి.

ఇవి కూడా చూడండి: డేటాబ్రిక్స్: ఎంటర్‌ప్రైజ్ AI అడాప్షన్ ఏజెంట్ సిస్టమ్‌లకు మారుతుంది

TechEx ఈవెంట్‌ల ద్వారా AI & బిగ్ డేటా ఎక్స్‌పో కోసం బ్యానర్.

పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్‌పో ఆమ్‌స్టర్‌డామ్, కాలిఫోర్నియా మరియు లండన్‌లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు సహా ఇతర ప్రముఖ సాంకేతిక ఈవెంట్‌లతో కలిసి ఉంది సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్‌పో. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.

AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్‌ప్రైజ్ టెక్నాలజీ ఈవెంట్‌లు మరియు వెబ్‌నార్‌లను అన్వేషించండి ఇక్కడ.

Source link

Leave a Reply

Your email address will not be published. Required fields are marked *

Top