భద్రతా నాయకులు కొత్త తరగతి స్వయంప్రతిపత్తి ముప్పును ఎదుర్కొంటున్నారు ఆంత్రోపిక్ AI చే నిర్వహించబడిన మొదటి సైబర్ గూఢచర్య ప్రచారాన్ని వివరిస్తుంది.
ఈ వారం విడుదల చేసిన నివేదికలో, కంపెనీ యొక్క థ్రెట్ ఇంటెలిజెన్స్ బృందం చైనీస్ రాష్ట్ర-ప్రాయోజిత సమూహం యొక్క అధునాతన ఆపరేషన్కు దాని అంతరాయాన్ని వివరించింది – ఇది అధిక విశ్వాసంతో చేసిన అంచనా – GTG-1002 గా పిలువబడింది మరియు సెప్టెంబరు 2025 మధ్యలో కనుగొనబడింది.
ఈ ఆపరేషన్ పెద్ద టెక్ కంపెనీలు, ఆర్థిక సంస్థలు, రసాయన తయారీ కంపెనీలు మరియు ప్రభుత్వ ఏజెన్సీలతో సహా సుమారు 30 ఎంటిటీలను లక్ష్యంగా చేసుకుంది.
మానవ ఆపరేటర్లకు AI సహాయం చేయడానికి బదులుగా, దాడి చేసేవారు చాలావరకు వ్యూహాత్మక కార్యకలాపాలను స్వతంత్రంగా అమలు చేయడానికి స్వయంప్రతిపత్త ఏజెంట్గా పనిచేయడానికి ఆంత్రోపిక్ యొక్క క్లాడ్ కోడ్ మోడల్ను విజయవంతంగా మార్చారు.
ఇది CISOలకు ఆందోళన కలిగించే పరిణామాన్ని సూచిస్తుంది, మానవ నిర్దేశిత ప్రయత్నాల నుండి సైబర్ దాడులను AI ఏజెంట్లు 80-90 శాతం అప్రియమైన పనిని మానవులు ఉన్నత-స్థాయి పర్యవేక్షకులుగా మాత్రమే చేసే మోడల్కు తరలిస్తారు. గణనీయమైన మానవ ప్రమేయం లేకుండా అమలు చేయబడిన పెద్ద-స్థాయి సైబర్టాక్ యొక్క మొదటి డాక్యుమెంట్ కేసు ఇదే అని ఆంత్రోపిక్ అభిప్రాయపడింది.
AI ఏజెంట్లు: సైబర్టాక్ల కోసం కొత్త కార్యాచరణ నమూనా
సమూహం స్వయంప్రతిపత్త చొరబాటు పరీక్ష ఏజెంట్లుగా పనిచేయడానికి క్లాడ్ కోడ్ యొక్క ఉదాహరణలను సూచించే ఆర్కెస్ట్రేషన్ వ్యవస్థను ఉపయోగించింది. ఈ AI ఏజెంట్లు గూఢచర్య ప్రచారంలో భాగంగా నిఘా నిర్వహించడం, దుర్బలత్వాలను కనుగొనడం, దోపిడీలను అభివృద్ధి చేయడం, ఆధారాలను సేకరించడం, నెట్వర్క్ల అంతటా పార్శ్వంగా తరలించడం మరియు డేటాను వెలికితీయడం కోసం నిర్దేశించబడ్డారు. ఇది మానవ హ్యాకర్ల బృందాన్ని తీసుకునే సమయంలో కొంత సమయం లో నిఘాను నిర్వహించడానికి AIని ఎనేబుల్ చేసింది.
మానవ ప్రమేయం మొత్తం ప్రయత్నంలో 10-20 శాతానికి పరిమితం చేయబడింది, ప్రధానంగా ప్రచారం ప్రారంభించడంపై దృష్టి సారించింది మరియు కొన్ని కీలకమైన పెరుగుదల పాయింట్ల వద్ద అధికారాన్ని అందించడం. ఉదాహరణకు, మానవ ఆపరేటర్లు నిఘా నుండి క్రియాశీల దోపిడీకి పరివర్తనను ఆమోదిస్తారు లేదా డేటా ఎక్స్ఫిల్ట్రేషన్ యొక్క తుది పరిధిని అనుమతిస్తారు.
హానికరమైన ప్రవర్తనలను నివారించడానికి శిక్షణ పొందిన AI మోడల్ యొక్క అంతర్నిర్మిత రక్షణలను దాడి చేసేవారు దాటవేశారు. వారు మోడల్ను జైల్బ్రేక్ చేయడం ద్వారా, దాడులను అకారణంగా అమాయక పనులుగా విభజించడం ద్వారా మరియు “రోల్-ప్లే” వ్యక్తిత్వాన్ని స్వీకరించడం ద్వారా దానిని మోసగించడం ద్వారా దీన్ని చేసారు. ఇది చట్టబద్ధమైన సైబర్ సెక్యూరిటీ సంస్థ యొక్క ఉద్యోగి మరియు రక్షణాత్మక పరీక్షలో ఉపయోగించబడుతుందని ఆపరేటర్లు క్లాడ్తో చెప్పారు. ఇది చెల్లుబాటు అయ్యే కొన్ని లక్ష్యాలకు ప్రాప్యతను పొందేందుకు ఆపరేషన్ను చాలా కాలం పాటు కొనసాగించడానికి అనుమతించింది.
దాడి యొక్క సాంకేతిక అధునాతనత నవల మాల్వేర్లో కాదు, ఆర్కెస్ట్రేషన్లో ఉంది. ఫ్రేమ్వర్క్ “అధికంగా ఓపెన్ సోర్స్ పెనెట్రేషన్ టెస్టింగ్ టూల్స్పై” ఆధారపడి ఉందని నివేదిక పేర్కొంది. దాడి చేసేవారు మోడల్ కాంటెక్స్ట్ ప్రోటోకాల్ (MCP) సర్వర్లను AI మరియు ఈ కమోడిటీ సాధనాల మధ్య ఇంటర్ఫేస్గా ఉపయోగించారు, AI ఆదేశాలను అమలు చేయడానికి, ఫలితాలను విశ్లేషించడానికి మరియు బహుళ లక్ష్యాలు మరియు సెషన్లలో కార్యాచరణ స్థితిని నిర్వహించడానికి వీలు కల్పిస్తుంది. గూఢచర్యం ప్రచారం కోసం దాని స్వంత దోపిడీ కోడ్ను పరిశోధించడానికి మరియు వ్రాయడానికి కూడా AI నిర్దేశించబడింది.
AI భ్రాంతులు మంచి విషయంగా మారాయి
ప్రచారం అధిక-విలువ లక్ష్యాలను విజయవంతంగా ఉల్లంఘించినప్పటికీ, ఆంత్రోపిక్ యొక్క పరిశోధన గుర్తించదగిన పరిమితిని వెలికితీసింది: ప్రమాదకర కార్యకలాపాల సమయంలో AI భ్రాంతి చెందింది.
క్లాడ్ “తరచుగా అతిగా చెప్పబడిన అన్వేషణలు మరియు అప్పుడప్పుడు కల్పిత డేటా” అని నివేదిక పేర్కొంది. ఇది పని చేయని ఆధారాలను పొందినట్లు AI క్లెయిమ్ చేయడం లేదా “బహిరంగంగా అందుబాటులో ఉన్న సమాచారంగా నిరూపించబడిన” ఆవిష్కరణలను గుర్తించడం వంటిది.
ఈ ధోరణికి మానవ ఆపరేటర్లు అన్ని ఫలితాలను జాగ్రత్తగా ధృవీకరించాలి, దాడి చేసేవారి కార్యాచరణ ప్రభావానికి సవాళ్లను అందించాలి. ఆంత్రోపిక్ ప్రకారం, ఇది “పూర్తి స్వయంప్రతిపత్తి కలిగిన సైబర్టాక్లకు అడ్డంకిగా మిగిలిపోయింది”. భద్రతా నాయకుల కోసం, ఇది AI-ఆధారిత దాడులలో సంభావ్య బలహీనతను హైలైట్ చేస్తుంది: అవి అధిక శబ్దం మరియు తప్పుడు పాజిటివ్లను సృష్టించవచ్చు, వాటిని బలమైన పర్యవేక్షణతో గుర్తించవచ్చు.
కొత్త సైబర్ గూఢచర్యం బెదిరింపులకు వ్యతిరేకంగా రక్షణాత్మక AI ఆయుధ పోటీ
అధునాతన సైబర్టాక్లను నిర్వహించడానికి అడ్డంకులు గణనీయంగా తగ్గాయని వ్యాపార మరియు సాంకేతిక నాయకులకు ప్రాథమిక తార్కికం. తక్కువ వనరులను కలిగి ఉన్న సమూహాలు ఇప్పుడు అనుభవజ్ఞులైన హ్యాకర్ల మొత్తం బృందాలు అవసరమయ్యే ప్రచారాలను అమలు చేయగలవు.
ఈ దాడి “వైబ్ హ్యాకింగ్”కు మించిన సామర్థ్యాన్ని ప్రదర్శిస్తుంది, ఇక్కడ మానవులు కార్యకలాపాల నియంత్రణలో దృఢంగా ఉంటారు. GTG-1002 ప్రచారం ప్రత్యక్ష కార్యకలాపాలలో దుర్బలత్వాలను స్వయంప్రతిపత్తితో కనుగొనడానికి మరియు దోపిడీ చేయడానికి AI ఉపయోగించబడుతుందని రుజువు చేస్తుంది.
ఖాతాలను నిషేధించిన ఆంత్రోపిక్, పది రోజుల విచారణలో అధికారులకు నోటిఫై చేసింది, ఈ పరిణామం AI-ఆధారిత రక్షణ యొక్క తక్షణ అవసరాన్ని చూపుతుందని వాదించింది. “ఈ దాడులలో క్లాడ్ను ఉపయోగించుకునేలా అనుమతించే సామర్థ్యాలు సైబర్ రక్షణకు కూడా అవసరం” అని కంపెనీ పేర్కొంది. కంపెనీ యొక్క స్వంత థ్రెట్ ఇంటెలిజెన్స్ బృందం “ఈ పరిశోధనలో “అపారమైన డేటా ఉత్పత్తి”ని విశ్లేషించడానికి క్లాడ్ను విస్తృతంగా ఉపయోగించింది.
సైబర్ సెక్యూరిటీలో పెద్ద మార్పు వచ్చిందనే భావనతో భద్రతా బృందాలు పనిచేయాలి. “SOC ఆటోమేషన్, థ్రెట్ డిటెక్షన్, వల్నరబిలిటీ అసెస్మెంట్ మరియు ఇన్సిడెంట్ రెస్పాన్స్ వంటి అంశాలలో రక్షణ కోసం AIని వర్తింపజేయడానికి ప్రయోగాలు చేయాలని” నివేదిక డిఫెండర్లను కోరింది.
AI-ఆధారిత దాడులు మరియు AI-ఆధారిత రక్షణ మధ్య పోటీ ప్రారంభమైంది మరియు కొత్త గూఢచర్యం బెదిరింపులను ఎదుర్కోవడానికి చురుకైన అనుసరణ మాత్రమే ముందుకు సాగే మార్గం.
ఇవి కూడా చూడండి: విజ్: గ్లోబల్ AI రేస్ మధ్య భద్రతా లోపాలు ఉద్భవించాయి
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు సహా ఇతర ప్రముఖ సాంకేతిక ఈవెంట్లతో కలిసి ఉంది సైబర్ సెక్యూరిటీ ఎక్స్పో. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
