ఒక కొత్త ఓపెన్ సోర్స్ టూల్కిట్ మైక్రోసాఫ్ట్ నుండి ఎంటర్ప్రైజ్ AI ఏజెంట్లపై కఠినమైన పాలనను బలవంతంగా అమలు చేయడానికి రన్టైమ్ భద్రతపై దృష్టి సారిస్తుంది. విడుదల పెరుగుతున్న ఆందోళనను పరిష్కరిస్తుంది: స్వయంప్రతిపత్త భాషా నమూనాలు ఇప్పుడు కోడ్ని అమలు చేస్తున్నాయి మరియు సాంప్రదాయ పాలసీ నియంత్రణలు కొనసాగించగల దానికంటే వేగంగా కార్పొరేట్ నెట్వర్క్లను తాకుతున్నాయి.
AI ఇంటిగ్రేషన్ అంటే సంభాషణ ఇంటర్ఫేస్లు మరియు అడ్వైజరీ కోపైలట్లు అని అర్థం. ఆ సిస్టమ్లు నిర్దిష్ట డేటాసెట్లకు చదవడానికి-మాత్రమే యాక్సెస్ను కలిగి ఉన్నాయి, మానవులను ఖచ్చితంగా ఎగ్జిక్యూషన్ లూప్లో ఉంచుతాయి. సంస్థలు ప్రస్తుతం స్వతంత్ర చర్య తీసుకునే ఏజెంట్ ఫ్రేమ్వర్క్లను అమలు చేస్తున్నాయి, ఈ మోడల్లను నేరుగా అంతర్గత అప్లికేషన్ ప్రోగ్రామింగ్ ఇంటర్ఫేస్లు, క్లౌడ్ స్టోరేజ్ రిపోజిటరీలు మరియు నిరంతర ఇంటిగ్రేషన్ పైప్లైన్లలోకి వైరింగ్ చేస్తున్నాయి.
స్వయంప్రతిపత్త ఏజెంట్ ఇమెయిల్ను చదవగలిగినప్పుడు, స్క్రిప్ట్ను వ్రాయాలని నిర్ణయించుకుని, ఆ స్క్రిప్ట్ను సర్వర్కు నెట్టగలిగినప్పుడు, కఠినమైన పాలన చాలా ముఖ్యమైనది. స్టాటిక్ కోడ్ విశ్లేషణ మరియు ప్రీ-డిప్లాయ్మెంట్ వల్నరబిలిటీ స్కానింగ్ పెద్ద భాషా నమూనాల నిర్ణయాత్మక స్వభావాన్ని నిర్వహించలేవు. ఒక ప్రాంప్ట్ ఇంజెక్షన్ దాడి (లేదా ప్రాథమిక భ్రాంతి) డేటాబేస్ను ఓవర్రైట్ చేయడానికి లేదా కస్టమర్ రికార్డ్లను బయటకు తీయడానికి ఏజెంట్ని పంపవచ్చు.
మైక్రోసాఫ్ట్ యొక్క కొత్త టూల్కిట్ బదులుగా రన్టైమ్ భద్రతను చూస్తుంది, మోడల్ వాటిని అమలు చేయడానికి ప్రయత్నిస్తున్న సమయంలో చర్యలను పర్యవేక్షించడానికి, మూల్యాంకనం చేయడానికి మరియు నిరోధించడానికి ఒక మార్గాన్ని అందిస్తుంది. ఇది ముందస్తు శిక్షణ లేదా స్టాటిక్ పారామితి తనిఖీలపై ఆధారపడి ఉంటుంది.
నిజ సమయంలో టూల్-కాలింగ్ లేయర్ను అడ్డగించడం
ఏజెంట్ టూల్ కాలింగ్ యొక్క మెకానిక్లను చూస్తే ఇది ఎలా పని చేస్తుందో చూపిస్తుంది. ఇన్వెంటరీ సిస్టమ్ను ప్రశ్నించడం వంటి పనిని చేయడానికి ఎంటర్ప్రైజ్ AI ఏజెంట్ దాని కోర్ న్యూరల్ నెట్వర్క్ వెలుపల అడుగు పెట్టవలసి వచ్చినప్పుడు, అది బాహ్య సాధనాన్ని కొట్టడానికి ఆదేశాన్ని ఉత్పత్తి చేస్తుంది.
Microsoft యొక్క ఫ్రేమ్వర్క్ భాషా నమూనా మరియు విస్తృత కార్పొరేట్ నెట్వర్క్ మధ్య విధాన అమలు ఇంజిన్ను తగ్గిస్తుంది. ఏజెంట్ బయటి ఫంక్షన్ను ట్రిగ్గర్ చేయడానికి ప్రయత్నించిన ప్రతిసారీ, టూల్కిట్ అభ్యర్థనను గ్రహిస్తుంది మరియు కేంద్ర పాలనా నియమాలకు వ్యతిరేకంగా ఉద్దేశించిన చర్యను తనిఖీ చేస్తుంది. చర్య విధానానికి విఘాతం కలిగిస్తే (ఉదా. ఇన్వెంటరీ డేటాను చదవడానికి మాత్రమే అధికారం ఉన్న ఏజెంట్ కొనుగోలు ఆర్డర్ను తొలగించడానికి ప్రయత్నిస్తాడు) టూల్కిట్ API కాల్ను బ్లాక్ చేస్తుంది మరియు ఈవెంట్ను లాగ్ చేస్తుంది కాబట్టి మానవుడు దానిని సమీక్షించవచ్చు.
భద్రతా బృందాలు ప్రతి ఒక్క స్వయంప్రతిపత్తి నిర్ణయం యొక్క ధృవీకరించదగిన, ఆడిట్ చేయగల ట్రయల్ను పొందుతాయి. డెవలపర్లు కూడా ఇక్కడ గెలుస్తారు; వారు ప్రతి ఒక్క మోడల్ ప్రాంప్ట్లో భద్రతా ప్రోటోకాల్లను హార్డ్కోడ్ చేయకుండా సంక్లిష్టమైన బహుళ-ఏజెంట్ సిస్టమ్లను నిర్మించగలరు. భద్రతా విధానాలు పూర్తిగా కోర్ అప్లికేషన్ లాజిక్ నుండి విడదీయబడతాయి మరియు అవస్థాపన స్థాయిలో నిర్వహించబడతాయి.
చాలా లెగసీ సిస్టమ్లు నిర్ణయాత్మక సాఫ్ట్వేర్తో మాట్లాడటానికి ఎప్పుడూ నిర్మించబడలేదు. పాత మెయిన్ఫ్రేమ్ డేటాబేస్ లేదా అనుకూలీకరించిన ఎంటర్ప్రైజ్ రిసోర్స్ ప్లానింగ్ సూట్లో మెషిన్ లెర్నింగ్ మోడల్ తప్పుగా రూపొందించబడిన అభ్యర్థనల షూటింగ్కు వ్యతిరేకంగా స్థానిక రక్షణ లేదు. మైక్రోసాఫ్ట్ టూల్కిట్ రక్షణాత్మక అనువాద లేయర్గా అడుగులు వేస్తుంది. ఒక అంతర్లీన భాషా నమూనా బాహ్య ఇన్పుట్ల ద్వారా రాజీ పడినప్పటికీ; సిస్టమ్ యొక్క చుట్టుకొలత కలిగి ఉంటుంది.
మైక్రోసాఫ్ట్ ఈ రన్టైమ్ టూల్కిట్ను ఓపెన్ సోర్స్ లైసెన్స్ క్రింద ఎందుకు విడుదల చేయాలని నిర్ణయించుకుందో భద్రతా నాయకులు ఆశ్చర్యపోవచ్చు. ఆధునిక సాఫ్ట్వేర్ సరఫరా గొలుసులు వాస్తవానికి ఎలా పనిచేస్తాయో ఇది క్రిందికి వస్తుంది.
డెవలపర్లు ప్రస్తుతం ఓపెన్ సోర్స్ లైబ్రరీలు, ఫ్రేమ్వర్క్లు మరియు థర్డ్-పార్టీ మోడల్ల యొక్క భారీ మిశ్రమాన్ని ఉపయోగించి స్వయంప్రతిపత్త వర్క్ఫ్లోలను రూపొందించడానికి పరుగెత్తుతున్నారు. మైక్రోసాఫ్ట్ ఈ రన్టైమ్ సెక్యూరిటీ ఫీచర్ని దాని యాజమాన్య ప్లాట్ఫారమ్లకు లాక్ చేసినట్లయితే, డెవలప్మెంట్ టీమ్లు తమ గడువును తాకేందుకు వేగవంతమైన, అన్వెట్ చేయని పరిష్కారాల కోసం దీన్ని దాటవేస్తాయి.
టూల్కిట్ను బహిరంగంగా బయటకు నెట్టడం అంటే భద్రత మరియు పాలన నియంత్రణలు ఏదైనా టెక్నాలజీ స్టాక్లో సరిపోతాయి. ఒక సంస్థ స్థానిక ఓపెన్-వెయిట్ మోడల్లను నడుపుతున్నా, ఆంత్రోపిక్ వంటి పోటీదారులపై మొగ్గు చూపినా లేదా హైబ్రిడ్ ఆర్కిటెక్చర్లను అమలు చేసినా పర్వాలేదు.
AI ఏజెంట్ భద్రత కోసం ఓపెన్ స్టాండర్డ్ను సెటప్ చేయడం వలన విస్తృత సైబర్ సెక్యూరిటీ కమ్యూనిటీ చిప్ కూడా అందుబాటులోకి వస్తుంది. సెక్యూరిటీ విక్రేతలు ఈ ఓపెన్ ఫౌండేషన్ పైన వాణిజ్య డాష్బోర్డ్లు మరియు ఇన్సిడెంట్ రెస్పాన్స్ ఇంటిగ్రేషన్లను పేర్చవచ్చు, ఇది మొత్తం పర్యావరణ వ్యవస్థ యొక్క పరిపక్వతను వేగవంతం చేస్తుంది. వ్యాపారాల కోసం, వారు విక్రేత లాక్-ఇన్ను నివారిస్తారు కానీ ఇప్పటికీ విశ్వవ్యాప్తంగా పరిశీలించబడిన భద్రతా బేస్లైన్ను పొందుతారు.
ఎంటర్ప్రైజ్ AI గవర్నెన్స్ యొక్క తదుపరి దశ
ఎంటర్ప్రైజ్ గవర్నెన్స్ కేవలం భద్రతతో ఆగదు; ఇది ఆర్థిక మరియు కార్యాచరణ పర్యవేక్షణను కూడా తాకుతుంది. స్వయంప్రతిపత్త ఏజెంట్లు నిరంతరం తార్కికం మరియు అమలు యొక్క లూప్లో నడుస్తారు, అడుగడుగునా API టోకెన్లను బర్న్ చేస్తారు. స్టార్టప్లు మరియు ఎంటర్ప్రైజెస్ ఇప్పటికే ఏజెంట్ సిస్టమ్లను అమలు చేసినప్పుడు టోకెన్ ఖర్చులు పేలడాన్ని చూస్తున్నాయి.
రన్టైమ్ గవర్నెన్స్ లేకుండా, మార్కెట్ ట్రెండ్ను చూసే పనిలో ఉన్న ఏజెంట్ ఖరీదైన యాజమాన్య డేటాబేస్ను పూర్తి చేయడానికి ముందు వేలసార్లు కొట్టాలని నిర్ణయించుకోవచ్చు. ఒంటరిగా వదిలేస్తే, రికర్సివ్ లూప్లో చిక్కుకున్న చెడుగా కాన్ఫిగర్ చేయబడిన ఏజెంట్ కొన్ని గంటల్లో భారీ క్లౌడ్ కంప్యూటింగ్ బిల్లులను ర్యాక్ చేయవచ్చు.
రన్టైమ్ టూల్కిట్ బృందాలకు టోకెన్ వినియోగం మరియు API కాల్ ఫ్రీక్వెన్సీపై కఠినమైన పరిమితులను స్లాప్ చేయడానికి ఒక మార్గాన్ని అందిస్తుంది. నిర్దిష్ట సమయ వ్యవధిలో ఏజెంట్ ఎన్ని చర్యలు తీసుకోవచ్చనే దానిపై సరిహద్దులను సెట్ చేయడం ద్వారా, కంప్యూటింగ్ ఖర్చులను అంచనా వేయడం చాలా సులభం అవుతుంది. ఇది సిస్టమ్ వనరులను తినడం నుండి రన్అవే ప్రక్రియలను కూడా ఆపివేస్తుంది.
రన్టైమ్ గవర్నెన్స్ లేయర్ సమ్మతి ఆదేశాలకు అనుగుణంగా అవసరమైన పరిమాణాత్మక కొలమానాలు మరియు నియంత్రణ యంత్రాంగాలను అందజేస్తుంది. చెడు అవుట్పుట్లను ఫిల్టర్ చేయడానికి మోడల్ ప్రొవైడర్లను విశ్వసించే రోజులు ముగిశాయి. సిస్టమ్ భద్రత ఇప్పుడు మోడల్ల నిర్ణయాలను అమలు చేసే మౌలిక సదుపాయాలపై వస్తుంది
అభివృద్ధి కార్యకలాపాలు, చట్టపరమైన మరియు భద్రతా బృందాల మధ్య ఒక పరిణతి చెందిన పాలనా కార్యక్రమాన్ని పొందడం గట్టి సహకారాన్ని కోరుతుంది. భాషా నమూనాలు సామర్థ్యంలో మాత్రమే పెరుగుతున్నాయి మరియు ఈ రోజు కఠినమైన రన్టైమ్ నియంత్రణలను ఉంచే సంస్థలు మాత్రమే రేపటి స్వయంప్రతిపత్త వర్క్ఫ్లోలను నిర్వహించడానికి సన్నద్ధమవుతాయి.
ఇవి కూడా చూడండి: AI ఏజెంట్లు మరిన్ని టాస్క్లను చేజిక్కించుకున్నందున, పాలనకు ప్రాధాన్యత ఏర్పడుతుంది
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు సహా ఇతర ప్రముఖ సాంకేతిక ఈవెంట్లతో కలిసి ఉంది సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
