రెగ్యులేటర్లు ఫ్లాగ్ కంట్రోల్ గ్యాప్‌ల కారణంగా AI ఏజెంట్ గవర్నెన్స్ దృష్టి పెడుతుంది

AI ఏజెంట్ గవర్నెన్స్ మరియు హామీ పద్ధతులు పేలవంగా నిర్వహించబడుతున్నాయని ఆస్ట్రేలియా ఆర్థిక నియంత్రణ సంస్థ ఆర్థిక సంస్థలను హెచ్చరించింది. బ్యాంకులు మరియు సూపర్‌యాన్యుయేషన్ ట్రస్టీలు అంతర్గత మరియు కస్టమర్-ఫేసింగ్ కార్యకలాపాలలో AIని విస్తరిస్తుండటంతో ఈ హెచ్చరిక వస్తుంది.

ఆస్ట్రేలియన్ ప్రుడెన్షియల్ రెగ్యులేషన్ అథారిటీ 2025 చివరిలో AI అడాప్షన్ మరియు సంబంధిత ప్రుడెన్షియల్ రిస్క్‌లను అంచనా వేయడానికి ఎంచుకున్న పెద్ద రెగ్యులేటెడ్ ఎంటిటీల లక్ష్య సమీక్షను నిర్వహించినట్లు తెలిపింది. సమీక్షించబడిన అన్ని ఎంటిటీలలో AI ఉపయోగించబడుతుందని ఇది కనుగొంది, అయితే రిస్క్ మేనేజ్‌మెంట్ మరియు కార్యాచరణ స్థితిస్థాపకతలో పరిపక్వత మారుతూ ఉంటుంది. ఉత్పాదకత మరియు కస్టమర్ అనుభవం కోసం బోర్డులు AI పట్ల బలమైన ఆసక్తిని కనబరిచాయని APRA తెలిపింది. అయినప్పటికీ, చాలామంది ఇప్పటికీ AI ప్రమాదాల నిర్వహణను నిర్మిస్తున్నారని కనుగొన్నారు.

రెగ్యులేటర్ విక్రేత ప్రదర్శనలు మరియు సారాంశాలపై ఆధారపడటం గురించి కూడా ఆందోళన వ్యక్తం చేసింది. అనూహ్యమైన మోడల్ ప్రవర్తన మరియు క్లిష్టమైన కార్యకలాపాలపై AI వైఫల్యాల ప్రభావం వంటి ప్రమాదాలకు బోర్డులు ఎల్లప్పుడూ తగినంత పరిశీలన ఇవ్వడం లేదని పేర్కొంది.

వ్యూహం మరియు పర్యవేక్షణను పొందికగా సెట్ చేయడానికి బోర్డులు AI గురించి మంచి అవగాహన పెంచుకోవాలని APRA తెలిపింది. AI వ్యూహం సంస్థ యొక్క రిస్క్ అపెటిట్‌తో సమలేఖనం చేయాలని మరియు లోపాలు సంభవించినప్పుడు తీసుకోవలసిన పర్యవేక్షణ మరియు నిర్వచించిన విధానాలను కలిగి ఉండాలని పేర్కొంది.

APRA నియంత్రిత సంస్థలు సాఫ్ట్‌వేర్ ఇంజనీరింగ్, క్లెయిమ్‌ల ట్రయాజ్ మరియు లోన్ అప్లికేషన్ ప్రాసెసింగ్‌లో AIని ట్రయల్ చేస్తున్నాయి లేదా పరిచయం చేస్తున్నాయి. ఉదహరించిన ఇతర వినియోగ కేసులలో మోసం మరియు స్కామ్ అంతరాయం మరియు కస్టమర్ ఇంటరాక్షన్ ఉన్నాయి.

కొన్ని సంస్థలు AI ప్రమాదాన్ని ఇతర సాంకేతిక పరిజ్ఞానాల మాదిరిగానే పరిగణిస్తున్నాయి, అయితే ఆ విధానం మోడల్‌ల ప్రవర్తన మరియు పక్షపాతానికి కారణం కాదు.

ఇది మోడల్ ప్రవర్తన పర్యవేక్షణ, మార్పు నిర్వహణ మరియు ఉపసంహరణలో అంతరాలను గుర్తించింది మరియు AI సాధనాల జాబితా మరియు AI ఉదంతాల యొక్క పేరు-వ్యక్తి యాజమాన్యం యొక్క ఆవశ్యకతను పేర్కొంది. ఇది అధిక-ప్రమాద నిర్ణయాలలో మానవ ప్రమేయం యొక్క అవసరాన్ని కూడా ఎత్తి చూపింది.

సైబర్‌ సెక్యూరిటీ ఆందోళన కలిగించే మరో అంశం. ప్రాంప్ట్ ఇంజెక్షన్ మరియు అసురక్షిత ఇంటిగ్రేషన్‌ల వంటి అదనపు దాడి మార్గాలను జోడించడం ద్వారా AI స్వీకరణ ముప్పు వాతావరణాన్ని మారుస్తోందని APRA తెలిపింది.

గుర్తింపు మరియు యాక్సెస్ నిర్వహణ పద్ధతులు కొన్ని సందర్భాల్లో AI ఏజెంట్ల వంటి మానవేతర అంశాలకు సర్దుబాటు చేయలేదు. AI-సహాయక సాఫ్ట్‌వేర్ అభివృద్ధి యొక్క పరిమాణం మార్పు మరియు విడుదల నియంత్రణలపై ఒత్తిడి తెచ్చింది.

ప్రివిలేజ్డ్ యాక్సెస్ మేనేజ్‌మెంట్, కాన్ఫిగరేషన్ మరియు ప్యాచింగ్‌లతో కూడిన ఏజెంట్ మరియు అటానమస్ వర్క్‌ఫ్లోలపై ఎంటిటీలు నియంత్రణలను వర్తింపజేయాలని APRA తెలిపింది. ఇది AI- రూపొందించిన కోడ్ యొక్క భద్రతా పరీక్షలకు కూడా పిలుపునిచ్చింది.

కొన్ని సంస్థలు తమ అనేక AI ఉదంతాల కోసం ఒకే ప్రొవైడర్‌పై ఆధారపడి ఉన్నాయి, ARPA పేర్కొంది మరియు కొన్ని మాత్రమే AI సరఫరాదారుల కోసం నిష్క్రమణ ప్రణాళిక లేదా ప్రత్యామ్నాయ వ్యూహాన్ని చూపించగలిగాయి.

అప్‌స్ట్రీమ్ డిపెండెన్సీలలో AI ఉండవచ్చని APRA తెలిపింది, ఇది ఎంటిటీలకు తెలియకపోవచ్చు.

గుర్తింపు మరియు యాక్సెస్

గుర్తింపు మరియు అనుమతి నియంత్రణలపై దృష్టి FIDO అలయన్స్ కొత్త ప్రమాణాల పనిలో కూడా ప్రతిబింబిస్తుంది. సమూహం ఏజెంట్ ప్రామాణీకరణ సాంకేతిక వర్కింగ్ గ్రూప్‌ను ఏర్పాటు చేసింది మరియు ఏజెంట్ ప్రారంభించిన వాణిజ్యం కోసం స్పెసిఫికేషన్‌లను అభివృద్ధి చేస్తోంది.

ఇప్పటికే ఉన్న కొన్ని ప్రామాణీకరణ మరియు అధికార నమూనాలు మానవ పరస్పర చర్య కోసం రూపొందించబడ్డాయి, సాఫ్ట్‌వేర్ ద్వారా నిర్వహించబడే ప్రతినిధి చర్యలు కాదని FIDO తెలిపింది. సర్వీస్ ప్రొవైడర్‌లకు ఎవరు లేదా ఏమి చర్యలు మరియు ఏ పరిస్థితులలో అధికారం ఇస్తారో ధృవీకరించడానికి మార్గాలు అవసరమని పేర్కొంది.

Google ఏజెంట్ చెల్లింపుల ప్రోటోకాల్ మరియు Mastercard యొక్క వెరిఫైయబుల్ ఇంటెంట్ ఫ్రేమ్‌వర్క్‌తో సహా, విక్రేతలు తమ పరిష్కారాలను FIDOకి సమీక్ష కోసం సమర్పించారు. డిపార్ట్‌మెంట్ ఫర్ హోమ్‌ల్యాండ్ సెక్యూరిటీ ద్వారా ఎక్కువగా నిధులు సమకూరుస్తున్న లాభాపేక్ష లేని సెంటర్ ఫర్ ఇంటర్నెట్ సెక్యూరిటీ, CIS కంట్రోల్స్ v8.1ని పెద్ద భాషా నమూనాలు, AI ఏజెంట్లు మరియు మోడల్ కాంటెక్స్ట్ ప్రోటోకాల్ ఎన్విరాన్‌మెంట్‌లకు మ్యాప్ చేసే AI సెక్యూరిటీ కంపానియన్ గైడ్‌లను ప్రచురించింది.

దీని LLM గైడ్ ప్రాంప్ట్ మరియు సెన్సిటివ్-డేటా సమస్యలను కవర్ చేస్తుంది మరియు MCP గైడ్ సాఫ్ట్‌వేర్ టూల్స్, నాన్-హ్యూమన్ ఐడెంటిటీలు మరియు నెట్‌వర్క్ ఇంటరాక్షన్‌ల ద్వారా సురక్షితమైన యాక్సెస్‌పై దృష్టి పెడుతుంది.

(ఫోటో జూలియన్ ట్రోమర్)

ఇవి కూడా చూడండి: హానికరమైన వెబ్ పేజీలు AI ఏజెంట్లను విషపూరితం చేస్తున్నాయని Google హెచ్చరించింది

పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్‌పో ఆమ్‌స్టర్‌డామ్, కాలిఫోర్నియా మరియు లండన్‌లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు సహా ఇతర ప్రముఖ సాంకేతిక ఈవెంట్‌లతో కలిసి ఉంది సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్‌పో. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.

AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్‌ప్రైజ్ టెక్నాలజీ ఈవెంట్‌లు మరియు వెబ్‌నార్‌లను అన్వేషించండి ఇక్కడ.