నుండి కొత్త నివేదిక డెలాయిట్ వ్యాపారాలు తమ సేఫ్టీ ప్రోటోకాల్ల కంటే వేగంగా AI ఏజెంట్లను మోహరిస్తున్నాయని హెచ్చరించింది. అందువల్ల, భద్రత, డేటా గోప్యత మరియు జవాబుదారీతనం గురించి తీవ్రమైన ఆందోళనలు వ్యాప్తి చెందుతున్నాయి.
సర్వే ప్రకారం, ఏజెంట్ సిస్టమ్లు పైలట్ నుండి ఉత్పత్తికి చాలా త్వరగా మారుతున్నాయి, తద్వారా ఎక్కువ మానవ-కేంద్రీకృత కార్యకలాపాల కోసం రూపొందించబడిన సాంప్రదాయ ప్రమాద నియంత్రణలు భద్రతా డిమాండ్లను తీర్చడానికి కష్టపడుతున్నాయి.
దత్తత రేటు పెరిగినప్పటికీ, కేవలం 21% సంస్థలు AI ఏజెంట్ల కోసం కఠినమైన పాలన లేదా పర్యవేక్షణను అమలు చేశాయి. 23% కంపెనీలు ప్రస్తుతం AI ఏజెంట్లను ఉపయోగిస్తున్నట్లు పేర్కొన్నాయి, ఇది రాబోయే రెండేళ్లలో 74%కి పెరుగుతుందని అంచనా. ఇంకా ఈ సాంకేతికతను అవలంబించని వ్యాపారాల వాటా అదే కాలంలో 25% నుండి కేవలం 5%కి తగ్గుతుందని అంచనా.
పేలవమైన పాలన ముప్పు
డెలాయిట్ AI ఏజెంట్లను అంతర్లీనంగా ప్రమాదకరమని హైలైట్ చేయడం లేదు, కానీ నిజమైన నష్టాలు పేలవమైన సందర్భం మరియు బలహీనమైన పాలనతో ముడిపడి ఉన్నాయని పేర్కొంది. ఏజెంట్లు వారి స్వంత సంస్థలుగా పనిచేస్తే, వారి నిర్ణయాలు మరియు చర్యలు సులభంగా అపారదర్శకంగా మారవచ్చు. పటిష్టమైన పాలన లేకుండా, నిర్వహించడం కష్టమవుతుంది మరియు తప్పుల నుండి బీమా చేయడం దాదాపు అసాధ్యం అవుతుంది.
యొక్క CEO & వ్యవస్థాపకుడు అలీ సర్రాఫీ ప్రకారం కోవంత్సమాధానం నియంత్రించబడిన స్వయంప్రతిపత్తి. “స్పష్టమైన సరిహద్దులు, విధానాలు మరియు నిర్వచనాలతో చక్కగా రూపొందించబడిన ఏజెంట్లు ఒక సంస్థ నిర్వహించే విధంగానే నిర్వహించబడతాయి, ఏ కార్మికుడైనా స్పష్టమైన గార్డ్రైల్స్లో తక్కువ-ప్రమాదకర పనిపై వేగంగా కదలగలడు, కానీ చర్యలు నిర్వచించబడిన రిస్క్ థ్రెషోల్డ్లను దాటినప్పుడు మానవులకు పెరుగుతాయి.”
“వివరమైన చర్య లాగ్లు, పరిశీలన మరియు అధిక-ప్రభావ నిర్ణయాల కోసం మానవ గేట్ కీపింగ్తో, ఏజెంట్లు రహస్యమైన బాట్లుగా మారడం మానేస్తారు మరియు మీరు తనిఖీ చేయగల, ఆడిట్ చేయగల మరియు విశ్వసించగల వ్యవస్థలుగా మారతారు.”
డెలాయిట్ యొక్క నివేదిక సూచించినట్లుగా, AI ఏజెంట్ స్వీకరణ రాబోయే సంవత్సరాల్లో వేగవంతం కానుంది మరియు సాంకేతికతను దృశ్యమానత మరియు నియంత్రణతో అమలు చేసే కంపెనీలు మాత్రమే పోటీదారులపై పైచేయి సాధిస్తాయి, వాటిని వేగంగా అమలు చేసే వారిపై కాదు.
AI ఏజెంట్లకు బలమైన గార్డులు ఎందుకు అవసరం
AI ఏజెంట్లు నియంత్రిత డెమోలలో బాగా పని చేయవచ్చు, కానీ వాస్తవ ప్రపంచ వ్యాపార సెట్టింగ్లలో వారు కష్టపడతారు, ఇక్కడ సిస్టమ్లు విభజించవచ్చు మరియు డేటా అస్థిరంగా ఉండవచ్చు.
ఈ దృశ్యాలలో AI ఏజెంట్ల అనూహ్య స్వభావంపై సర్రాఫీ వ్యాఖ్యానించారు. “ఏజెంటుకు ఒకేసారి ఎక్కువ సందర్భం లేదా పరిధిని ఇచ్చినప్పుడు, అది భ్రాంతులు మరియు అనూహ్య ప్రవర్తనకు గురవుతుంది.”
“దీనికి విరుద్ధంగా, ప్రొడక్షన్-గ్రేడ్ సిస్టమ్లు మోడల్లతో పనిచేసే నిర్ణయం మరియు సందర్భ పరిధిని పరిమితం చేస్తాయి. అవి వ్యక్తిగత ఏజెంట్ల కోసం కార్యకలాపాలను ఇరుకైన, కేంద్రీకృత పనులుగా విడదీస్తాయి, ప్రవర్తనను మరింత ఊహాజనిత మరియు సులభంగా నియంత్రించేలా చేస్తుంది. ఈ నిర్మాణం ట్రేస్బిలిటీ మరియు జోక్యాన్ని కూడా అనుమతిస్తుంది, కాబట్టి వైఫల్యాలను క్యాస్కేడింగ్ లోపాలను కలిగించడం కంటే ముందుగానే గుర్తించి తగిన విధంగా పెంచవచ్చు.”
బీమా చేయదగిన AI కోసం జవాబుదారీతనం
వ్యాపార వ్యవస్థలలో ఏజెంట్లు నిజమైన చర్యలను తీసుకుంటే, వివరణాత్మక చర్య లాగ్లను ఉంచడం వంటివి, ప్రమాదం మరియు సమ్మతి భిన్నంగా చూడబడతాయి. నమోదు చేయబడిన ప్రతి చర్యతో, ఏజెంట్ల కార్యకలాపాలు స్పష్టంగా మరియు మూల్యాంకనం చేయబడతాయి, చర్యలను వివరంగా తనిఖీ చేయడానికి సంస్థలను అనుమతిస్తుంది.
అపారదర్శక AI సిస్టమ్లను కవర్ చేయడానికి ఇష్టపడని బీమా సంస్థలకు ఇటువంటి పారదర్శకత చాలా కీలకం. ఈ స్థాయి వివరాలు బీమాదారులకు ఏజెంట్లు ఏమి చేశారో మరియు ఇందులో ఉన్న నియంత్రణలను అర్థం చేసుకోవడంలో సహాయపడుతుంది, తద్వారా ప్రమాదాన్ని అంచనా వేయడం సులభం అవుతుంది. రిస్క్-క్రిటికల్ చర్యలు మరియు ఆడిట్ చేయదగిన, రీప్లే చేయగల వర్క్ఫ్లోల కోసం మానవ పర్యవేక్షణతో, సంస్థలు రిస్క్ అసెస్మెంట్ కోసం మరింత నిర్వహించగలిగే సిస్టమ్లను ఉత్పత్తి చేయగలవు.
AAIF ప్రమాణాలు మంచి మొదటి అడుగు
భాగస్వామ్య ప్రమాణాలు, వాటి ద్వారా అభివృద్ధి చేయబడుతున్నాయి ఏజెంట్ AI ఫౌండేషన్ (AAIF)వివిధ ఏజెంట్ సిస్టమ్లను ఏకీకృతం చేయడంలో వ్యాపారాలకు సహాయపడతాయి, అయితే ప్రస్తుత ప్రామాణీకరణ ప్రయత్నాలు ఏజెంటిక్ సిస్టమ్లను సురక్షితంగా ఆపరేట్ చేయడానికి పెద్ద సంస్థలకు అవసరమైన వాటిపై కాకుండా సరళమైన నిర్మాణాలపై దృష్టి పెడుతుంది.
ఎంటర్ప్రైజ్లకు ఆపరేషన్ నియంత్రణకు మద్దతు ఇచ్చే ప్రమాణాలు అవసరమని, అలాగే “యాక్సెస్ పర్మిషన్లు, అధిక-ప్రభావ చర్యలకు ఆమోదం వర్క్ఫ్లోలు మరియు ఆడిట్ చేయదగిన లాగ్లు మరియు పరిశీలనా సామర్థ్యాన్ని కలిగి ఉంటాయి, కాబట్టి బృందాలు ప్రవర్తనను పర్యవేక్షించగలవు, సంఘటనలను పరిశోధించగలవు మరియు సమ్మతిని నిరూపించగలవు” అని సర్రాఫీ చెప్పారు.
గుర్తింపు మరియు అనుమతులు రక్షణ యొక్క మొదటి వరుస
నిజమైన వ్యాపార వాతావరణంలో భద్రతను నిర్ధారించడానికి AI ఏజెంట్లు యాక్సెస్ చేయగల వాటిని మరియు వారు చేయగల చర్యలను పరిమితం చేయడం ముఖ్యం. సర్రాఫీ మాట్లాడుతూ, “ఏజెంట్లకు విస్తృత అధికారాలు లేదా చాలా సందర్భాలు ఇచ్చినప్పుడు, వారు అనూహ్యంగా మారతారు మరియు భద్రత లేదా సమ్మతి ప్రమాదాలను కలిగి ఉంటారు.”
ఏజెంట్లను పరిమితుల్లో ఆపరేట్ చేయడానికి దృశ్యమానత మరియు పర్యవేక్షణ ముఖ్యమైనవి. అప్పుడే సాంకేతిక పరిజ్ఞానాన్ని అందిపుచ్చుకోవడంపై వాటాదారులకు నమ్మకం కలుగుతుంది. ప్రతి చర్య లాగ్ చేయబడి, నిర్వహించగలిగేలా ఉంటే, బృందాలు ఏమి జరిగిందో చూడగలవు, సమస్యలను గుర్తించగలవు మరియు ఈవెంట్లు ఎందుకు సంభవించాయో బాగా అర్థం చేసుకోగలవు.
సర్రాఫీ కొనసాగించాడు, “ఈ విజిబిలిటీ, మానవ పర్యవేక్షణతో కలిపి, AI ఏజెంట్లను ఇన్స్క్రూట్బుల్ కాంపోనెంట్ల నుండి తనిఖీ చేయగల, రీప్లే చేయగల మరియు ఆడిట్ చేయగల సిస్టమ్లుగా మారుస్తుంది. ఇది సమస్యలు తలెత్తినప్పుడు వేగవంతమైన దర్యాప్తు మరియు దిద్దుబాటును కూడా అనుమతిస్తుంది, ఇది ఆపరేటర్లు, రిస్క్ టీమ్లు మరియు బీమా సంస్థలలో నమ్మకాన్ని పెంచుతుంది.”
డెలాయిట్ యొక్క బ్లూప్రింట్
సురక్షితమైన AI ఏజెంట్ గవర్నెన్స్ కోసం డెలాయిట్ యొక్క వ్యూహం ఏజెంట్ సిస్టమ్లు తీసుకోగల నిర్ణయాల కోసం నిర్వచించిన సరిహద్దులను నిర్దేశిస్తుంది. ఉదాహరణకు, వారు అంచెల స్వయంప్రతిపత్తితో పని చేయవచ్చు, ఇక్కడ ఏజెంట్లు సమాచారాన్ని మాత్రమే చూడగలరు లేదా సూచనలను అందించగలరు. ఇక్కడ నుండి, వారు పరిమిత చర్యలు తీసుకోవడానికి అనుమతించబడతారు, కానీ మానవ ఆమోదంతో. తక్కువ-ప్రమాదకర ప్రాంతాలలో అవి విశ్వసనీయమైనవిగా నిరూపించబడిన తర్వాత, అవి స్వయంచాలకంగా పనిచేయడానికి అనుమతించబడతాయి.
డెలాయిట్ యొక్క “సైబర్ AI బ్లూప్రింట్లు” సంస్థాగత నియంత్రణలలోకి పాలనా పొరలు మరియు పొందుపరిచే విధానాలు మరియు సమ్మతి సామర్థ్య రోడ్మ్యాప్లను సూచించండి.అంతిమంగా, AI ఉపయోగం మరియు ప్రమాదాన్ని ట్రాక్ చేసే పాలనా నిర్మాణాలు మరియు రోజువారీ కార్యకలాపాలలో పర్యవేక్షణను పొందుపరచడం సురక్షితమైన ఏజెంట్ AI ఉపయోగం కోసం ముఖ్యమైనవి.
శిక్షణతో శ్రామిక శక్తిని సిద్ధం చేయడం సురక్షితమైన పాలన యొక్క మరొక అంశం. డెలాయిట్ ఉద్యోగులకు AI సిస్టమ్లతో ఏమి భాగస్వామ్యం చేయకూడదు, ఏజెంట్లు ట్రాక్లోకి వెళ్లకపోతే ఏమి చేయాలి మరియు అసాధారణమైన, ప్రమాదకరమైన ప్రవర్తనను ఎలా గుర్తించాలి అనే విషయాలపై శిక్షణ ఇవ్వాలని డెలాయిట్ సిఫార్సు చేస్తోంది. AI వ్యవస్థలు ఎలా పని చేస్తాయో మరియు వాటి సంభావ్య ప్రమాదాలను అర్థం చేసుకోవడంలో ఉద్యోగులు విఫలమైతే, వారు అనుకోకుండానే భద్రతా నియంత్రణలను బలహీనపరచవచ్చు.
AI ఏజెంట్ల యొక్క సురక్షిత విస్తరణ మరియు ఆపరేషన్కు, వాస్తవ ప్రపంచ వాతావరణాలలో సురక్షితమైన, అనుకూలమైన మరియు జవాబుదారీ పనితీరును ఎనేబుల్ చేయడంలో భాగస్వామ్య అక్షరాస్యతతో పాటు బలమైన పాలన మరియు నియంత్రణ ప్రాథమికమైనవి.
(చిత్ర మూలం: “గ్లోబల్ హాక్, NASA యొక్క కొత్త రిమోట్-కంట్రోల్డ్ ప్లేన్” NASA గొడ్దార్డ్ ఫోటో మరియు వీడియో ద్వారా CC BY 2.0 ప్రకారం లైసెన్స్ పొందింది. )
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు ఇతర ప్రముఖ సాంకేతిక ఈవెంట్లతో కలిసి ఉంది. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
