ఆంత్రోపిక్ క్లౌడ్ నుండి సామర్థ్యాలను సేకరించేందుకు రూపొందించబడిన విదేశీ ల్యాబ్ల ద్వారా మూడు “పారిశ్రామిక-స్థాయి” AI మోడల్ స్వేదనం ప్రచారాలను వివరించింది.
ఈ పోటీదారులు సుమారు 24,000 మోసపూరిత ఖాతాలను ఉపయోగించి 16 మిలియన్లకు పైగా మార్పిడిని సృష్టించారు. వారి పోటీ ప్లాట్ఫారమ్లను మెరుగుపరచడానికి యాజమాన్య తర్కాన్ని పొందడం వారి లక్ష్యం.
స్వేదనం అని పిలువబడే వెలికితీత సాంకేతికత, బలమైన దాని యొక్క అధిక-నాణ్యత అవుట్పుట్లపై బలహీనమైన వ్యవస్థకు శిక్షణనిస్తుంది.
చట్టబద్ధంగా వర్తింపజేసినప్పుడు, స్వేదనం కంపెనీలు కస్టమర్ల కోసం వారి అప్లికేషన్ల యొక్క చిన్న మరియు చౌక వెర్షన్లను రూపొందించడంలో సహాయపడుతుంది. అయినప్పటికీ, హానికరమైన నటీనటులు స్వతంత్ర అభివృద్ధికి అవసరమైన సమయం మరియు ఖర్చులో కొంత భాగానికి శక్తివంతమైన సామర్థ్యాలను పొందేందుకు ఈ పద్ధతిని ఆయుధంగా ఉపయోగిస్తారు.
ఆంత్రోపిక్స్ క్లాడ్ వంటి మేధో సంపత్తిని రక్షించడం
అపరిమిత స్వేదనం తీవ్రమైన మేధో సంపత్తి సవాలును అందిస్తుంది. జాతీయ భద్రతా కారణాల దృష్ట్యా ఆంత్రోపిక్ చైనాలో వాణిజ్య ప్రాప్యతను బ్లాక్ చేసినందున, దాడి చేసేవారు వాణిజ్య ప్రాక్సీ నెట్వర్క్లను అమలు చేయడం ద్వారా ప్రాంతీయ యాక్సెస్ పరిమితులను దాటవేస్తారు.
ఈ సేవలు APIలు మరియు థర్డ్-పార్టీ క్లౌడ్ ప్లాట్ఫారమ్లలో ట్రాఫిక్ను పంపిణీ చేసే ఆంత్రోపిక్ “హైడ్రా క్లస్టర్” ఆర్కిటెక్చర్లను అమలు చేస్తాయి. ఈ నెట్వర్క్ల యొక్క భారీ వెడల్పు వైఫల్యం యొక్క ఏ ఒక్క పాయింట్లు లేవు. ఆంత్రోపిక్ పేర్కొన్నట్లుగా, “ఒక ఖాతా నిషేధించబడినప్పుడు, దాని స్థానంలో కొత్తది వస్తుంది.”
గుర్తించబడిన ఒక సందర్భంలో, ఒకే ప్రాక్సీ నెట్వర్క్ ఏకకాలంలో 20,000 కంటే ఎక్కువ మోసపూరిత ఖాతాలను నిర్వహించింది. ఈ నెట్వర్క్లు గుర్తింపును తప్పించుకోవడానికి ప్రామాణిక కస్టమర్ అభ్యర్థనలతో AI మోడల్ స్వేదనం ట్రాఫిక్ను మిళితం చేస్తాయి. ఇది నేరుగా కార్పొరేట్ స్థితిస్థాపకతపై ప్రభావం చూపుతుంది మరియు క్లౌడ్ API ట్రాఫిక్ను ఎలా పర్యవేక్షిస్తాయో పునఃపరిశీలించవలసిందిగా భద్రతా బృందాలను బలవంతం చేస్తుంది.
చట్టవిరుద్ధంగా-శిక్షణ పొందిన మోడల్లు ఏర్పాటు చేసిన భద్రతా గార్డులను కూడా దాటవేసి, తీవ్రమైన జాతీయ భద్రతా ప్రమాదాలను సృష్టిస్తాయి. US డెవలపర్లు, ఉదాహరణకు, బయోవెపన్లను అభివృద్ధి చేయడానికి లేదా హానికరమైన సైబర్ కార్యకలాపాలను నిర్వహించడానికి ఈ వ్యవస్థలను ఉపయోగించకుండా రాష్ట్ర మరియు నాన్-స్టేట్ యాక్టర్లను నిరోధించడానికి రక్షణలను నిర్మిస్తారు.
క్లోన్ చేయబడిన వ్యవస్థలు ఆంత్రోపిక్స్ క్లాడ్ వంటి వ్యవస్థలచే అమలు చేయబడిన రక్షణలను కలిగి ఉండవు, ప్రమాదకరమైన సామర్థ్యాలు పూర్తిగా తొలగించబడిన రక్షణతో విస్తరించేందుకు వీలు కల్పిస్తాయి. విదేశీ పోటీదారులు ఈ అసురక్షిత సామర్థ్యాలను మిలిటరీ, ఇంటెలిజెన్స్ మరియు నిఘా వ్యవస్థలకు అందించవచ్చు, అధికార ప్రభుత్వాలు వారిని ప్రమాదకర కార్యకలాపాలకు మోహరించడానికి వీలు కల్పిస్తాయి.
ఈ డిస్టిల్డ్ వెర్షన్లు ఓపెన్ సోర్స్ అయితే, సామర్థ్యాలు ఏ ఒక్క ప్రభుత్వ నియంత్రణకు మించి స్వేచ్ఛగా వ్యాపించడంతో ప్రమాదం మరింత పెరుగుతుంది.
చట్టవిరుద్ధమైన వెలికితీత చైనీస్ కమ్యూనిస్ట్ పార్టీ నియంత్రణలో ఉన్న విదేశీ సంస్థలను ఎగుమతి నియంత్రణల ద్వారా రక్షించబడిన పోటీ ప్రయోజనాన్ని మూసివేయడానికి అనుమతిస్తుంది. ఈ దాడులకు దృశ్యమానత లేకుండా, విదేశీ డెవలపర్ల వేగవంతమైన పురోగతి ఎగుమతి నియంత్రణలను అధిగమించే ఆవిష్కరణగా తప్పుగా కనిపిస్తుంది.
వాస్తవానికి, ఈ పురోగతులు అమెరికన్ మేధో సంపత్తిని స్కేల్లో సేకరించడంపై ఎక్కువగా ఆధారపడి ఉంటాయి, ఈ ప్రయత్నం ఇప్పటికీ అధునాతన చిప్లకు ప్రాప్యత అవసరం. నిరోధిత చిప్ యాక్సెస్ ప్రత్యక్ష మోడల్ శిక్షణ మరియు అక్రమ స్వేదనం యొక్క స్థాయి రెండింటినీ పరిమితం చేస్తుంది.
AI మోడల్ స్వేదనం కోసం ప్లేబుక్
నేరస్థులు ఇదే విధమైన కార్యాచరణ ప్లేబుక్ను అనుసరించారు, మోసపూరిత ఖాతాలు మరియు ప్రాక్సీ సేవలను ఉపయోగించి, గుర్తించకుండా తప్పించుకుంటూ సిస్టమ్లను స్కేల్లో యాక్సెస్ చేశారు. వాటి ప్రాంప్ట్ల వాల్యూమ్, స్ట్రక్చర్ మరియు ఫోకస్ సాధారణ వినియోగ నమూనాల నుండి భిన్నంగా ఉంటాయి, ఇది చట్టబద్ధమైన ఉపయోగం కంటే ఉద్దేశపూర్వకంగా సామర్ధ్యం వెలికితీతను ప్రతిబింబిస్తుంది.
IP చిరునామా సహసంబంధం, అభ్యర్థన మెటాడేటా మరియు ఇన్ఫ్రాస్ట్రక్చర్ సూచికల ద్వారా క్లాడ్ను లక్ష్యంగా చేసుకుని ఈ ప్రచారాలను ఆంత్రోపిక్ ఆపాదించింది. ప్రతి ఆపరేషన్ అత్యంత విభిన్నమైన విధులను లక్ష్యంగా చేసుకుంది: ఏజెంట్ రీజనింగ్, టూల్ యూజ్ మరియు కోడింగ్.
ఒక ప్రచారం ఏజెంట్ కోడింగ్ మరియు టూల్ ఆర్కెస్ట్రేషన్ లక్ష్యంగా 13 మిలియన్ ఎక్స్ఛేంజీలను సృష్టించింది. Anthropic ఈ ఆపరేషన్ సక్రియంగా ఉన్నప్పుడు గుర్తించింది, పోటీదారు యొక్క పబ్లిక్ ఉత్పత్తి రోడ్మ్యాప్కు వ్యతిరేకంగా సమయాలను మ్యాపింగ్ చేస్తుంది. ఆంత్రోపిక్ కొత్త మోడల్ను విడుదల చేసినప్పుడు, పోటీదారు 24 గంటలలోపు పైవట్ చేసాడు, తాజా సిస్టమ్ నుండి సామర్థ్యాలను వెలికితీసేందుకు దాదాపు సగం ట్రాఫిక్ను దారి మళ్లించాడు.
కంప్యూటర్ దృష్టి, డేటా విశ్లేషణ మరియు ఏజెంట్ రీజనింగ్పై దృష్టి సారించిన మరో ఆపరేషన్ 3.4 మిలియన్లకు పైగా అభ్యర్థనలను రూపొందించింది. ఈ సమూహం వారి సమన్వయ ప్రయత్నాలను అస్పష్టం చేయడానికి వందలాది విభిన్న ఖాతాలను ఉపయోగించుకుంది. విదేశీ ప్రయోగశాలలోని సీనియర్ సిబ్బంది పబ్లిక్ ప్రొఫైల్లకు అభ్యర్థన మెటాడేటాను సరిపోల్చడం ద్వారా ఆంత్రోపిక్ ఈ ప్రచారాన్ని ఆపాదించింది. తరువాతి దశలో, ఈ పోటీదారు హోస్ట్ సిస్టమ్ యొక్క తార్కిక జాడలను సంగ్రహించడానికి మరియు పునర్నిర్మించడానికి ప్రయత్నించాడు.
క్లాడ్ను లక్ష్యంగా చేసుకుని మూడవ AI మోడల్ స్వేదనం ప్రచారం 150,000 కంటే ఎక్కువ పరస్పర చర్యల ద్వారా తార్కిక సామర్థ్యాలు మరియు రూబ్రిక్-ఆధారిత గ్రేడింగ్ డేటాను సేకరించిందని ఆంత్రోపిక్ చెప్పింది. ఈ సమూహం లక్ష్య వ్యవస్థను దాని అంతర్గత తర్కాన్ని దశల వారీగా మ్యాప్ చేయడానికి బలవంతం చేసింది, చైన్-ఆఫ్-థాట్ ట్రైనింగ్ డేటా యొక్క భారీ వాల్యూమ్లను సమర్థవంతంగా ఉత్పత్తి చేస్తుంది. వారు రాజకీయంగా సున్నితమైన ప్రశ్నలకు సెన్సార్షిప్-సురక్షిత ప్రత్యామ్నాయాలను కూడా సంగ్రహించారు, వారి స్వంత సిస్టమ్లకు నియంత్రిత అంశాల నుండి సంభాషణలను దూరంగా ఉంచడానికి శిక్షణ ఇచ్చారు. నేరస్థులు లోడ్ బ్యాలెన్సింగ్ను ప్రారంభించడానికి ఒకే విధమైన నమూనాలు మరియు భాగస్వామ్య చెల్లింపు పద్ధతులను ఉపయోగించి సమకాలీకరించబడిన ట్రాఫిక్ను రూపొందించారు.
ఈ మూడవ ప్రచారం కోసం అభ్యర్థన మెటాడేటా ఈ ఖాతాలను ప్రయోగశాలలోని నిర్దిష్ట పరిశోధకుల నుండి గుర్తించింది. ఈ అభ్యర్థనలు తరచుగా వాటంతట అవే నిరపాయమైనవిగా కనిపిస్తాయి, పూర్తి తార్కికం ఆధారంగా అంతర్దృష్టులను అందించే నిపుణులైన డేటా విశ్లేషకుడిగా పని చేయమని సిస్టమ్ని కోరడం వంటివి. కానీ అదే ఇరుకైన సామర్థ్యాన్ని లక్ష్యంగా చేసుకుని ఆ ఖచ్చితమైన ప్రాంప్ట్ యొక్క వైవిధ్యాలు వందలకొద్దీ కోఆర్డినేటెడ్ ఖాతాలలో పదివేల సార్లు వచ్చినప్పుడు, వెలికితీత విధానం స్పష్టమవుతుంది.
నిర్దిష్ట ప్రాంతాల్లో కేంద్రీకృతమై ఉన్న భారీ వాల్యూమ్, అత్యంత పునరావృతమయ్యే నిర్మాణాలు మరియు శిక్షణ అవసరాలకు నేరుగా కంటెంట్ మ్యాపింగ్ స్వేదనం దాడి యొక్క లక్షణాలు.
చర్య తీసుకోగల రక్షణలను అమలు చేయడం
ఎంటర్ప్రైజ్ ఎన్విరాన్మెంట్లను రక్షించడం కోసం, అటువంటి వెలికితీత ప్రయత్నాలను అమలు చేయడం కష్టతరం చేయడానికి మరియు సులభంగా గుర్తించడానికి బహుళ-లేయర్డ్ డిఫెన్స్లను అవలంబించడం అవసరం. API ట్రాఫిక్లో AI మోడల్ స్వేదనం నమూనాలను గుర్తించడానికి రూపొందించిన ప్రవర్తనా వేలిముద్రలు మరియు ట్రాఫిక్ వర్గీకరణలను అమలు చేయాలని ఆంత్రోపిక్ సలహా ఇస్తుంది.
విద్యా ఖాతాలు, భద్రతా పరిశోధన కార్యక్రమాలు మరియు స్టార్టప్ సంస్థలు వంటి సాధారణ దుర్బలత్వ మార్గాల కోసం ధృవీకరణ ప్రక్రియలను IT నాయకులు తప్పనిసరిగా బలోపేతం చేయాలి.
కంపెనీలు అక్రమ స్వేదనం కోసం మోడల్ అవుట్పుట్ల సామర్థ్యాన్ని తగ్గించడానికి రూపొందించిన ఉత్పత్తి-స్థాయి మరియు API-స్థాయి భద్రతలను ఏకీకృతం చేయాలి. చట్టబద్ధమైన, చెల్లింపు కస్టమర్ల అనుభవాన్ని దిగజార్చకుండా ఇది చేయాలి.
పెద్ద సంఖ్యలో ఖాతాలలో సమన్వయ కార్యాచరణను గుర్తించడం ఒక సంపూర్ణ అవసరం. ఇది తార్కిక శిక్షణ డేటాను రూపొందించడానికి ఉపయోగించే చైన్-ఆఫ్-థాట్ అవుట్పుట్ల యొక్క నిరంతర ఎలిసిటేషన్ కోసం ప్రత్యేకంగా పర్యవేక్షణను కలిగి ఉంటుంది.
ఈ దాడులు తీవ్రత మరియు అధునాతనంగా పెరుగుతున్నందున క్రాస్-ఇండస్ట్రీ సహకారం కూడా చాలా అవసరం. దీనికి AI ప్రయోగశాలలు, క్లౌడ్ ప్రొవైడర్లు మరియు విధాన రూపకర్తల మధ్య వేగవంతమైన మరియు సమన్వయంతో కూడిన ఇంటెలిజెన్స్ భాగస్వామ్యం అవసరం.
ల్యాండ్స్కేప్ యొక్క మరింత సమగ్ర చిత్రాన్ని అందించడానికి మరియు అన్ని వాటాదారులకు సాక్ష్యాలను అందుబాటులో ఉంచడానికి AI మోడల్ స్వేదనం ప్రచారాల ద్వారా క్లాడ్ను లక్ష్యంగా చేసుకున్నట్లు ఆంత్రోపిక్ తన పరిశోధనలను ప్రచురించింది. కఠినమైన యాక్సెస్ నియంత్రణలతో AI నిర్మాణాలను ట్రీట్ చేయడం ద్వారా, కొనసాగుతున్న పాలనకు భరోసా ఇస్తూ సాంకేతిక అధికారులు తమ పోటీతత్వాన్ని పొందగలరు.
ఇవి కూడా చూడండి: డిస్కనెక్ట్ చేయబడిన క్లౌడ్లు AI డేటా గవర్నెన్స్ని ఎలా మెరుగుపరుస్తాయి
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు సహా ఇతర ప్రముఖ సాంకేతిక ఈవెంట్లతో కలిసి ఉంది సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
