Huawei విడుదల చేసింది CloudMatrix 384 AI చిప్ క్లస్టర్AI లెర్నింగ్ కోసం కొత్త సిస్టమ్. ఇది ఆప్టికల్ లింక్ల ద్వారా చేరిన Ascend 910C ప్రాసెసర్ల క్లస్టర్లను ఉపయోగిస్తుంది. పంపిణీ చేయబడిన ఆర్కిటెక్చర్ అంటే సిస్టమ్ సాంప్రదాయ హార్డ్వేర్ GPU సెటప్లను అధిగమించగలదు, ప్రత్యేకించి వనరుల వినియోగం మరియు ఆన్-చిప్ సమయం పరంగా, వ్యక్తిగత Ascend చిప్లు పోటీదారుల కంటే తక్కువ శక్తివంతంగా ఉన్నప్పటికీ.
Huawei యొక్క కొత్త ఫ్రేమ్వర్క్ టెక్ దిగ్గజాన్ని “కొనసాగుతున్న US ఆంక్షలు ఉన్నప్పటికీ, Nvidia యొక్క మార్కెట్-లీడింగ్ స్థానానికి బలీయమైన ఛాలెంజర్గా నిలిచింది” అని కంపెనీ పేర్కొంది.
AI కోసం కొత్త Huawei ఫ్రేమ్వర్క్ను ఉపయోగించడానికి, Huawei మరియు దాని భాగస్వాముల నుండి అందుబాటులో ఉన్న Huawei యొక్క Ascend ప్రాసెసర్లకు మద్దతు ఇచ్చే ఫ్రేమ్వర్క్లను ఉపయోగించి డేటా ఇంజనీర్లు వారి వర్క్ఫ్లోలను స్వీకరించాలి.
ఫ్రేమ్వర్క్ పరివర్తన: PyTorch/TensorFlow నుండి MindSpore వరకు
ప్రధానంగా PyTorch మరియు TensorFlow వంటి ఫ్రేమ్వర్క్లను ఉపయోగించే NVIDIA యొక్క పర్యావరణ వ్యవస్థ వలె కాకుండా (CUDA యొక్క పూర్తి ప్రయోజనాన్ని పొందేందుకు ఇంజనీరింగ్ చేయబడింది), Huawei యొక్క Ascend ప్రాసెసర్లు ఉపయోగించినప్పుడు ఉత్తమంగా పని చేస్తాయి. మైండ్స్పోర్కంపెనీ అభివృద్ధి చేసిన డీప్ లెర్నింగ్ ఫ్రేమ్వర్క్.
డేటా ఇంజనీర్లు ఇప్పటికే PyTorch లేదా TensorFlowలో నిర్మించిన మోడల్లను కలిగి ఉన్నట్లయితే, వారికి ఇది అవసరం కావచ్చు మోడళ్లను మైండ్స్పోర్ ఆకృతికి మార్చండి లేదా మైండ్స్పోర్ APIని ఉపయోగించి వారికి మళ్లీ శిక్షణ ఇవ్వండి.
ఇది గమనించదగ్గ విషయం MindSpore విభిన్న సింటాక్స్, శిక్షణ పైప్లైన్లు మరియు ఫంక్షన్ కాల్లను ఉపయోగిస్తుంది PyTorch లేదా TensorFlow నుండి, మోడల్ ఆర్కిటెక్చర్లు మరియు శిక్షణ పైప్లైన్ల నుండి ఫలితాలను పునరావృతం చేయడానికి రీ-ఇంజనీరింగ్ డిగ్రీ అవసరం. ఉదాహరణకు, కన్వల్యూషన్ మరియు పూలింగ్ లేయర్లలోని పాడింగ్ మోడ్లు వంటి వ్యక్తిగత ఆపరేటర్ ప్రవర్తన మారుతూ ఉంటుంది. డిఫాల్ట్ బరువు ప్రారంభ పద్ధతుల్లో కూడా తేడాలు ఉన్నాయి.
మోడల్ విస్తరణ కోసం MindIRని ఉపయోగించడం
మైండ్స్పోర్ మైండ్ఐఆర్ (మైండ్స్పోర్ ఇంటర్మీడియట్ రిప్రజెంటేషన్)ని ఉపయోగిస్తుంది, ఇది ఎన్విడియా ఎన్ఐఎమ్కి దగ్గరగా ఉంటుంది. మైండ్స్పోర్ అధికారిక డాక్యుమెంటేషన్ ప్రకారం, మైండ్స్పోర్లో మోడల్ శిక్షణ పొందిన తర్వాత, దాన్ని mindspore.export యుటిలిటీని ఉపయోగించి ఎగుమతి చేయవచ్చు, ఇది శిక్షణ పొందిన నెట్వర్క్ను MindIR ఫార్మాట్లోకి మారుస్తుంది.
డీప్వికీ గైడ్ ద్వారా వివరించబడినది, అనుమితి కోసం ఒక నమూనాను అమలు చేయడం అనేది సాధారణంగా ఎగుమతి చేయబడిన MindIR మోడల్ను లోడ్ చేయడం మరియు ఆపై మోడల్ డి-సీరియలైజేషన్, కేటాయింపు మరియు అమలును నిర్వహించే Ascend చిప్ల కోసం MindSpore యొక్క అనుమితి APIలను ఉపయోగించి అంచనాలను అమలు చేయడం.
మైండ్స్పోర్ శిక్షణ మరియు అనుమితి తర్కాన్ని PyTorch లేదా TensorFlow కంటే మరింత స్పష్టంగా వేరు చేస్తుంది. అందువల్ల, అన్ని ప్రిప్రాసెసింగ్లు శిక్షణ ఇన్పుట్లతో సరిపోలాలి మరియు స్టాటిక్ గ్రాఫ్ ఎగ్జిక్యూషన్ తప్పనిసరిగా ఆప్టిమైజ్ చేయబడాలి. మైండ్స్పోర్ లైట్ లేదా అదనపు హార్డ్వేర్-నిర్దిష్ట ట్యూనింగ్ కోసం Ascend మోడల్ జూ సిఫార్సు చేయబడింది.
CANNకి అనుగుణంగా (న్యూరల్ నెట్వర్క్ల కోసం కంప్యూట్ ఆర్కిటెక్చర్)
Huawei యొక్క CANN Ascend సాఫ్ట్వేర్ కోసం రూపొందించబడిన సాధనాలు మరియు లైబ్రరీల సమితిని కలిగి ఉందిఫంక్షనాలిటీలో NVIDIA యొక్క CUDAకి సమాంతరంగా ఉంది. Ascend హార్డ్వేర్లో మోడల్ పనితీరును పర్యవేక్షించడానికి మరియు మెరుగుపరచడానికి CANN యొక్క ప్రొఫైలింగ్ మరియు డీబగ్గింగ్ సాధనాలను ఉపయోగించాలని Huawei సిఫార్సు చేస్తోంది.
అమలు మోడ్లు: GRAPH_MODE vs.PYNATIVE_MODE
మైండ్స్పోర్ రెండు ఎగ్జిక్యూషన్ మోడ్లను అందిస్తుంది:
- GRAPH_MODE – అమలు చేయడానికి ముందు గణన గ్రాఫ్ను కంపైల్ చేస్తుంది. సంకలనం సమయంలో గ్రాఫ్ని విశ్లేషించడం వలన ఇది వేగవంతమైన అమలు మరియు మెరుగైన పనితీరు ఆప్టిమైజేషన్కు దారి తీస్తుంది.
- PYNATIVE_MODE – తక్షణమే ఆపరేషన్లను అమలు చేస్తుంది, ఫలితంగా సరళమైన డీబగ్గింగ్ ప్రక్రియలు బాగా సరిపోతాయి, కాబట్టి మోడల్ డెవలప్మెంట్ యొక్క ప్రారంభ దశలకు, దాని మరింత గ్రాన్యులర్ ఎర్రర్ ట్రాకింగ్ కారణంగా.
ప్రారంభ అభివృద్ధి కోసం, PYNATIVE_MODE సరళమైన పునరావృత పరీక్ష మరియు డీబగ్గింగ్ కోసం సిఫార్సు చేయబడింది. నమూనాలు అమలు చేయడానికి సిద్ధంగా ఉన్నప్పుడు, GRAPH_MODEకి మారడం Ascend హార్డ్వేర్పై గరిష్ట సామర్థ్యాన్ని సాధించడంలో సహాయపడుతుంది. మోడ్ల మధ్య మారడం వలన ఇంజనీరింగ్ బృందాలు విస్తరణ పనితీరుతో అభివృద్ధి సౌలభ్యాన్ని సమతుల్యం చేస్తాయి.
ప్రతి మోడ్కు కోడ్ సర్దుబాటు చేయాలి. ఉదాహరణకు, GRAPH_MODEలో ఉన్నప్పుడు, సాధ్యమైన చోట పైథాన్-స్థానిక నియంత్రణ ప్రవాహాన్ని నివారించడం ఉత్తమం.
విస్తరణ వాతావరణం: Huawei ModelArts
మీరు ఊహించినట్లుగా, Huawei యొక్క ModelArts, కంపెనీ క్లౌడ్-ఆధారిత AI డెవలప్మెంట్ మరియు డిప్లాయ్మెంట్ ప్లాట్ఫారమ్, Huawei యొక్క Ascend హార్డ్వేర్ మరియు MindSpore ఫ్రేమ్వర్క్తో గట్టిగా అనుసంధానించబడి ఉంది. ఇది AWS SageMaker మరియు Google Vertex AI వంటి ప్లాట్ఫారమ్లతో పోల్చదగినది అయితే, ఇది Huawei యొక్క AI ప్రాసెసర్ల కోసం ఆప్టిమైజ్ చేయబడింది.
ModelArts డేటా లేబులింగ్ మరియు ప్రీప్రాసెసింగ్ నుండి మోడల్ శిక్షణ, విస్తరణ మరియు పర్యవేక్షణ వరకు పూర్తి పైప్లైన్కు మద్దతు ఇస్తుందని Huawei తెలిపింది. పైప్లైన్ యొక్క ప్రతి దశ API లేదా వెబ్ ఇంటర్ఫేస్ ద్వారా అందుబాటులో ఉంటుంది.
సారాంశంలో
మైండ్స్పోర్ మరియు CANNకి అనుగుణంగా శిక్షణ మరియు సమయం అవసరం కావచ్చు, ప్రత్యేకించి NVIDIA యొక్క పర్యావరణ వ్యవస్థకు అలవాటుపడిన బృందాలకు, డేటా ఇంజనీర్లు వివిధ కొత్త ప్రక్రియలను అర్థం చేసుకోవాలి. Ascend హార్డ్వేర్ కోసం CANN మోడల్ కంపైలేషన్ మరియు ఆప్టిమైజేషన్ను ఎలా నిర్వహిస్తుంది, NVIDIA GPUల కోసం మొదట్లో రూపొందించిన టూలింగ్ మరియు ఆటోమేషన్ పైప్లైన్లను సర్దుబాటు చేయడం మరియు MindSporeకి ప్రత్యేకమైన కొత్త APIలు మరియు వర్క్ఫ్లోలను నేర్చుకోవడం వంటివి ఇందులో ఉన్నాయి.
Huawei యొక్క సాధనాలు అభివృద్ధి చెందుతున్నప్పటికీ, అవి CUDA ఆఫర్తో PyTorch వంటి ఫ్రేమ్వర్క్ల పరిపక్వత, స్థిరత్వం మరియు విస్తృత పర్యావరణ వ్యవస్థ మద్దతును కలిగి లేవు. అయినప్పటికీ, Huawei దాని ప్రక్రియలు మరియు అవస్థాపనకు మారడం ఫలితాల పరంగా ఫలితం పొందుతుందని మరియు US-ఆధారిత Nvidiaపై ఆధారపడటాన్ని తగ్గించడానికి సంస్థలను అనుమతించాలని భావిస్తోంది.
Huawei యొక్క Ascend ప్రాసెసర్లు శక్తివంతమైనవి మరియు AI వర్క్లోడ్ల కోసం రూపొందించబడ్డాయి, అయితే అవి కొన్ని దేశాలలో పరిమిత పంపిణీని మాత్రమే కలిగి ఉంటాయి. Huawei యొక్క ప్రధాన మార్కెట్ల వెలుపల ఉన్న బృందాలు రిమోట్ యాక్సెస్ను అందించే ModelArts వంటి భాగస్వామి ప్లాట్ఫారమ్లను ఉపయోగించకపోతే, Ascend హార్డ్వేర్లో మోడల్లను పరీక్షించడానికి లేదా అమలు చేయడానికి కష్టపడవచ్చు.
అదృష్టవశాత్తూ, Huawei విస్తృతమైన మైగ్రేషన్ గైడ్లు, మద్దతు మరియు ఏదైనా పరివర్తనకు మద్దతుగా వనరులను అందిస్తుంది.
(చిత్ర మూలం: “Huawei P9” by 405 Mi16 CC BY-NC-ND 2.0 ప్రకారం లైసెన్స్ పొందింది.)
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు ఇతర ప్రముఖ సాంకేతిక ఈవెంట్లతో కలిసి ఉంది. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
