అలీబాబా యొక్క AI కోడింగ్ సాధనం పశ్చిమ దేశాలలో భద్రతా సమస్యలను పెంచుతుంది

అలీబాబా పెద్ద ఓపెన్-సోర్స్ మోడల్‌ను ఉపయోగించి సంక్లిష్ట సాఫ్ట్‌వేర్ పనులను నిర్వహించడానికి నిర్మించిన Qwen3-కోడర్ అనే కొత్త AI కోడింగ్ మోడల్‌ను విడుదల చేసింది. ఈ సాధనం అలీబాబా యొక్క Qwen3 కుటుంబంలో భాగం మరియు ఈ రోజు వరకు సంస్థ యొక్క అత్యంత అధునాతన కోడింగ్ ఏజెంట్‌గా ప్రచారం చేయబడుతోంది.

మోడల్ నిపుణుల (MOE) విధానాన్ని ఉపయోగిస్తుంది, మొత్తం 480 బిలియన్లలో 35 బిలియన్ పారామితులను సక్రియం చేస్తుంది మరియు 256,000 టోకెన్ల సందర్భం వరకు మద్దతు ఇస్తుంది. ప్రత్యేక ఎక్స్‌ట్రాపోలేషన్ పద్ధతులను ఉపయోగించి ఆ సంఖ్యను 1 మిలియన్లకు విస్తరించవచ్చు. మూన్‌షాట్ AI మరియు డీప్‌సీక్ నుండి సంస్కరణలతో సహా ఏజెంట్ టాస్క్‌లలో QWEN3-కోడర్ ఇతర ఓపెన్ మోడళ్లను అధిగమించిందని కంపెనీ పేర్కొంది.

కానీ అందరూ దీనిని శుభవార్తగా చూడరు. సైబర్ న్యూస్ యొక్క చీఫ్ ఎడిటర్ జుర్గిటా లాపియెని Qwen3-కోడర్ కేవలం సహాయక కోడింగ్ అసిస్టెంట్ కంటే ఎక్కువ కావచ్చునని హెచ్చరిస్తున్నారు-ఇది పాశ్చాత్య డెవలపర్లు విస్తృతంగా అవలంబిస్తే గ్లోబల్ టెక్ వ్యవస్థలకు నిజమైన ప్రమాదం కలిగిస్తుంది.

ఓపెన్ సోర్స్ దుస్తులలో ట్రోజన్ హార్స్?

క్వెన్ 3-కోడర్ చుట్టూ అలీబాబా యొక్క సందేశం దాని సాంకేతిక బలం మీద దృష్టి పెట్టింది, దీనిని ఓపెనాయ్ మరియు ఆంత్రోపిక్ నుండి అగ్రశ్రేణి సాధనాలతో పోల్చారు. బెంచ్ మార్క్ స్కోర్‌లు మరియు లక్షణాలు దృష్టిని ఆకర్షించగా, లాపియెన్యా వారు నిజమైన సమస్య నుండి కూడా దృష్టి మరల్చవచ్చని సూచిస్తున్నారు: భద్రత.

AI లో చైనా పట్టుబడుతోందని కాదు -ఇది ఇప్పటికే తెలుసు. లోతైన ఆందోళన ఏమిటంటే, AI వ్యవస్థల ద్వారా ఉత్పత్తి చేయబడిన సాఫ్ట్‌వేర్‌ను ఉపయోగించడం యొక్క దాచిన నష్టాల గురించి తనిఖీ చేయడం లేదా పూర్తిగా అర్థం చేసుకోవడం కష్టం.

లాపియెని చెప్పినట్లుగా, డెవలపర్లు “భవిష్యత్తులో స్లీప్‌వాకింగ్” కావచ్చు, ఇక్కడ కోర్ సిస్టమ్స్ తెలియకుండానే హాని కోడ్‌తో నిర్మించబడతాయి. Qwen3-కోడర్ వంటి సాధనాలు జీవితాన్ని సులభతరం చేస్తాయి, కాని అవి గుర్తించబడని సూక్ష్మ బలహీనతలను కూడా ప్రవేశపెట్టగలవు.

ఈ ప్రమాదం ot హాత్మకమైనది కాదు. సైబర్ న్యూస్ పరిశోధకులు ప్రధాన US సంస్థలలో ఇటీవల AI వాడకాన్ని సమీక్షించింది మరియు S&P 500 లో 327 ఇప్పుడు AI సాధనాలను ఉపయోగించి బహిరంగంగా నివేదించినట్లు కనుగొన్నారు. ఆ సంస్థలలో మాత్రమే, పరిశోధకులు దాదాపు 1,000 AI- సంబంధిత దుర్బలత్వాలను గుర్తించారు.

మరొక AI మోడల్‌ను జోడించడం -ముఖ్యంగా చైనా యొక్క కఠినమైన జాతీయ భద్రతా చట్టాల క్రింద అభివృద్ధి చేయబడినది -మరొక ప్రమాద పొరను జోడించవచ్చు, ఇది నియంత్రించడం కష్టం.

కోడ్ బ్యాక్‌డోర్ అయినప్పుడు

నేటి డెవలపర్లు కోడ్ రాయడానికి, దోషాలను పరిష్కరించడానికి మరియు అనువర్తనాలు ఎలా నిర్మించబడుతున్నాయో ఆకృతి చేయడానికి AI సాధనాలపై ఎక్కువగా మొగ్గు చూపుతారు. ఈ వ్యవస్థలు ప్రతిరోజూ వేగంగా, సహాయపడతాయి మరియు మెరుగుపడతాయి.

అదే వ్యవస్థలు లోపాలను ఇంజెక్ట్ చేయడానికి శిక్షణ పొందినట్లయితే? స్పష్టమైన దోషాలు కాదు, కానీ అలారాలను ప్రేరేపించని చిన్న, హార్డ్-టు-స్పాట్ సమస్యలు. హానిచేయని డిజైన్ నిర్ణయం వలె కనిపించే దుర్బలత్వం సంవత్సరాలుగా గుర్తించబడదు.

సరఫరా గొలుసు దాడులు తరచుగా ప్రారంభమవుతాయి. గత ఉదాహరణలు, సోలార్‌విండ్స్ సంఘటన వలె, నిశ్శబ్దంగా మరియు ఓపికగా ఎంత దీర్ఘకాలిక చొరబాటు చేయవచ్చో చూపిస్తుంది. తగినంత ప్రాప్యత మరియు సందర్భంతో, AI మోడల్ ఇలాంటి సమస్యలను ఎలా నాటాలో నేర్చుకోవచ్చు -ముఖ్యంగా మిలియన్ల కోడ్‌బేస్‌లకు గురికావడం ఉంటే.

ఇది కేవలం ఒక సిద్ధాంతం కాదు. చైనా యొక్క జాతీయ ఇంటెలిజెన్స్ చట్టం ప్రకారం, అలీబాబా వంటి సంస్థలు డేటా మరియు AI మోడళ్లతో సహా ప్రభుత్వ అభ్యర్థనలతో సహకరించాలి. ఇది సంభాషణను సాంకేతిక పనితీరు నుండి జాతీయ భద్రతకు మారుస్తుంది.

మీ కోడ్‌కు ఏమి జరుగుతుంది?

మరో ప్రధాన సమస్య డేటా ఎక్స్పోజర్. డెవలపర్లు కోడ్ రాయడానికి లేదా డీబగ్ చేయడానికి Qwen3-కోడర్ వంటి సాధనాలను ఉపయోగించినప్పుడు, ఆ పరస్పర చర్య యొక్క ప్రతి భాగం సున్నితమైన సమాచారాన్ని బహిర్గతం చేస్తుంది.

ఇందులో యాజమాన్య అల్గోరిథంలు, భద్రతా తర్కం లేదా మౌలిక సదుపాయాల రూపకల్పన ఉండవచ్చు -ఇది ఒక విదేశీ రాష్ట్రానికి ఉపయోగపడే వివరాలను సూచిస్తుంది.

మోడల్ ఓపెన్ సోర్స్ అయినప్పటికీ, వినియోగదారులు చూడలేనివి ఇంకా చాలా ఉన్నాయి. బ్యాకెండ్ మౌలిక సదుపాయాలు, టెలిమెట్రీ వ్యవస్థలు మరియు వినియోగ ట్రాకింగ్ పద్ధతులు పారదర్శకంగా ఉండకపోవచ్చు. డేటా ఎక్కడికి వెళుతుందో లేదా కాలక్రమేణా మోడల్ ఏమి గుర్తుంచుకోవచ్చో తెలుసుకోవడం కష్టతరం చేస్తుంది.

పర్యవేక్షణ లేకుండా స్వయంప్రతిపత్తి

ప్రామాణిక సహాయకుల కంటే స్వతంత్రంగా పనిచేయగల ఏజెంట్ AI -మోడళ్లపై కూడా అలీబాబా దృష్టి సారించింది. ఈ సాధనాలు కోడ్ పంక్తులను సూచించవు. వారికి పూర్తి పనులను కేటాయించవచ్చు, కనీస ఇన్పుట్తో పనిచేస్తారు మరియు వారి స్వంతంగా నిర్ణయాలు తీసుకోవచ్చు.

ఇది సమర్థవంతంగా అనిపించవచ్చు, కానీ ఇది ఎర్ర జెండాలను కూడా పెంచుతుంది. మొత్తం కోడ్‌బేస్‌లను స్కాన్ చేయగల మరియు మార్పులు చేయగల పూర్తిగా స్వయంప్రతిపత్తమైన కోడింగ్ ఏజెంట్ తప్పు చేతుల్లో ప్రమాదకరంగా మారుతుంది.

సంస్థ యొక్క సిస్టమ్ డిఫెన్స్‌లను మరియు వాటిని దోపిడీ చేయడానికి రూపొందించిన దాడులను అర్థం చేసుకోగల ఏజెంట్‌ను g హించుకోండి. డెవలపర్లు వేగంగా వెళ్లడానికి సహాయపడే అదే నైపుణ్యం దాడి చేసేవారు మరింత వేగంగా కదలడానికి పునర్నిర్మించవచ్చు.

నియంత్రణ ఇప్పటికీ సిద్ధంగా లేదు

ఈ నష్టాలు ఉన్నప్పటికీ, ప్రస్తుత నిబంధనలు Qwen3-కోడర్ వంటి సాధనాలను అర్ధవంతమైన రీతిలో పరిష్కరించవు. యుఎస్ ప్రభుత్వం టిక్టోక్ వంటి అనువర్తనాలతో ముడిపడి ఉన్న డేటా గోప్యతా సమస్యలను చర్చించడానికి సంవత్సరాలు గడిపింది, కాని విదేశీ-అభివృద్ధి చెందిన AI సాధనాల గురించి ప్రజల పర్యవేక్షణ లేదు.

US (CFIUS) లో విదేశీ పెట్టుబడుల కమిటీ వంటి సమూహాలు కంపెనీ సముపార్జనలను సమీక్షించాయి, కాని జాతీయ భద్రతా నష్టాలను కలిగించే AI మోడళ్లను సమీక్షించడానికి ఇలాంటి ప్రక్రియ లేదు.

AI పై అధ్యక్షుడు బిడెన్ యొక్క కార్యనిర్వాహక ఉత్తర్వు ప్రధానంగా స్వదేశీ నమూనాలు మరియు సాధారణ భద్రతా పద్ధతులపై దృష్టి పెడుతుంది. కానీ ఇది ఆరోగ్య సంరక్షణ, ఫైనాన్స్ లేదా జాతీయ మౌలిక సదుపాయాలు వంటి సున్నితమైన వాతావరణంలో పొందుపరచగల దిగుమతి చేసుకున్న సాధనాల గురించి ఆందోళనలను ఇస్తుంది.

కోడ్ రాయడం లేదా మార్చగల సామర్థ్యం గల AI సాధనాలను సాఫ్ట్‌వేర్ సరఫరా గొలుసు బెదిరింపుల మాదిరిగానే అదే తీవ్రతతో చికిత్స చేయాలి. అంటే వాటిని ఎక్కడ మరియు ఎలా ఉపయోగించవచ్చనే దాని కోసం స్పష్టమైన మార్గదర్శకాలను సెట్ చేయడం.

తరువాత ఏమి జరగాలి?

ప్రమాదాన్ని తగ్గించడానికి, QWEN3-CODER-లేదా ఏదైనా విదేశీ-అభివృద్ధి చెందిన ఏజెంట్ AI-వారి వర్క్‌ఫ్లోలను సమగ్రపరచడానికి ముందు సున్నితమైన వ్యవస్థలతో వ్యవహరించే సంస్థలు పాజ్ చేయాలి. మీ సోర్స్ కోడ్‌ను చూడటానికి మీరు విశ్వసించని వ్యక్తిని మీరు ఆహ్వానించకపోతే, వారి AI దాన్ని తిరిగి వ్రాయడానికి ఎందుకు అనుమతించండి?

భద్రతా సాధనాలు కూడా పట్టుకోవాలి. స్టాటిక్ అనాలిసిస్ సాఫ్ట్‌వేర్ సంక్లిష్ట బ్యాక్‌డోర్లను లేదా AI చేత రూపొందించిన సూక్ష్మ తర్క సమస్యలను గుర్తించకపోవచ్చు. అనుమానాస్పద నమూనాల కోసం AI- ఉత్పత్తి చేసిన కోడ్‌ను ఫ్లాగ్ చేయడానికి మరియు పరీక్షించడానికి పరిశ్రమకు ప్రత్యేకంగా రూపొందించిన కొత్త సాధనాలు అవసరం.

చివరగా, డెవలపర్లు, టెక్ నాయకులు మరియు నియంత్రకాలు కోడ్-ఉత్పత్తి AI తటస్థంగా ఉండవని అర్థం చేసుకోవాలి. ఈ వ్యవస్థలు శక్తిని కలిగి ఉంటాయి -వాటికి సహాయక సాధనాలు మరియు సంభావ్య బెదిరింపులు. వాటిని ఉపయోగపడేలా చేసే లక్షణాలు కూడా వాటిని ప్రమాదకరంగా మార్చగలవు.

లాపియెని Qwen3-coder అని పిలుస్తారు “సంభావ్య ట్రోజన్ హార్స్” మరియు రూపకం సరిపోతుంది. ఇది ఉత్పాదకత గురించి మాత్రమే కాదు. ఇది గేట్ల లోపల ఎవరు ఉన్నారు.

ప్రతి ఒక్కరూ ముఖ్యమైన వాటిపై అంగీకరించరు

అలీబాబా క్లౌడ్ వ్యవస్థాపకుడు వాంగ్ జియాన్ విషయాలను భిన్నంగా చూస్తాడు. ఒక ఇంటర్వ్యూలో బ్లూమ్‌బెర్గ్ఇన్నోవేషన్ అత్యంత ఖరీదైన ప్రతిభను నియమించడం గురించి కాదు, తెలియని వాటిని నిర్మించగల వ్యక్తులను ఎన్నుకోవడం గురించి అని ఆయన అన్నారు. AI నియామకానికి సిలికాన్ వ్యాలీ యొక్క విధానాన్ని అతను విమర్శించాడు, ఇక్కడ టెక్ జెయింట్స్ ఇప్పుడు అథ్లెట్లపై వేలం వేసే క్రీడా జట్లు వంటి అగ్ర పరిశోధకుల కోసం పోటీ పడుతున్నారు.

“మీరు చేయవలసినది సరైన వ్యక్తిని పొందడం మాత్రమే” అని వాంగ్ చెప్పారు. “నిజంగా ఖరీదైన వ్యక్తి కాదు.”

చైనీస్ AI జాతి ఆరోగ్యకరమైనదని, శత్రుత్వం కాదని ఆయన అభిప్రాయపడ్డారు. వాంగ్ ప్రకారం, కంపెనీలు ముందుకు సాగుతాయి, ఇది మొత్తం పర్యావరణ వ్యవస్థ వేగంగా పెరగడానికి సహాయపడుతుంది.

“ఈ పోటీ కారణంగా మీరు సాంకేతిక పరిజ్ఞానం యొక్క చాలా వేగంగా పునరావృతం చేయవచ్చు” అని అతను చెప్పాడు. “ఇది క్రూరమైనదని నేను అనుకోను, కాని ఇది చాలా ఆరోగ్యకరమైనదని నేను భావిస్తున్నాను.”

ఇప్పటికీ, ఓపెన్ సోర్స్ పోటీ నమ్మకానికి హామీ ఇవ్వదు. పాశ్చాత్య డెవలపర్లు వారు ఏ సాధనాలను ఉపయోగిస్తారనే దాని గురించి మరియు వాటిని ఎవరు నిర్మించారు అనే దాని గురించి జాగ్రత్తగా ఆలోచించాలి.

బాటమ్ లైన్

QWEN3-CODER ఆకట్టుకునే పనితీరు మరియు ఓపెన్ యాక్సెస్‌ను అందించవచ్చు, కానీ దీని ఉపయోగం బెంచ్‌మార్క్‌లు మరియు కోడింగ్ వేగానికి మించిన నష్టాలతో వస్తుంది. AI సాధనాలు ఎలా క్లిష్టమైన వ్యవస్థలను నిర్మించాయో రూపొందిస్తున్న సమయంలో, ఈ సాధనాలు ఏమి చేయగలవో అడగడం విలువ -కాని వారు చేసినప్పుడు ఎవరు ప్రయోజనం పొందుతారు.

(ఫోటో షహదత్ రెహ్మాన్)

ఇవి కూడా చూడండి: అలీబాబా యొక్క కొత్త క్వెన్ రీజనింగ్ AI మోడల్ ఓపెన్ సోర్స్ రికార్డులను సెట్ చేస్తుంది

పరిశ్రమ నాయకుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & పెద్ద డేటా ఎక్స్‌పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లలో జరుగుతోంది. సమగ్ర సంఘటనతో సహా ఇతర ప్రముఖ సంఘటనలతో సహ-స్థాపించబడింది ఇంటెలిజెంట్ ఆటోమేషన్ కాన్ఫరెన్స్, బ్లాక్ఎక్స్, డిజిటల్ ట్రాన్స్ఫర్మేషన్ వీక్మరియు సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్‌పో.

టెక్ఫోర్జ్ చేత శక్తినిచ్చే ఇతర రాబోయే ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్స్ మరియు వెబ్‌నార్లను అన్వేషించండి ఇక్కడ.