AI వీడియో స్టార్టప్ డెకార్ట్తో ఒప్పందం కుదుర్చుకున్న తర్వాత Amazon Web Services దాని కస్టమ్ AWS ట్రైనియం యాక్సిలరేటర్ల కోసం మరో పెద్ద విజయాన్ని సాధించింది. భాగస్వామ్యం Decart ఆప్టిమైజ్ని చూస్తుంది దాని ఫ్లాగ్షిప్ లూసీ మోడల్ AWS Trainium3లో నిజ-సమయ వీడియో జనరేషన్కు మద్దతునిస్తుంది మరియు Nvidia యొక్క గ్రాఫిక్స్ ప్రాసెసింగ్ యూనిట్లపై AI యాక్సిలరేటర్ల పెరుగుతున్న ప్రజాదరణను హైలైట్ చేస్తుంది.
Decart తప్పనిసరిగా AWSలో అన్నింటికి వెళుతోంది మరియు ఒప్పందంలో భాగంగా, కంపెనీ తన నమూనాలను కూడా తయారు చేస్తుంది Amazon Bedrock ప్లాట్ఫారమ్ ద్వారా అందుబాటులో ఉంది. డెవలపర్లు అంతర్లీన మౌలిక సదుపాయాల గురించి చింతించకుండా దాదాపు ఏదైనా క్లౌడ్ అప్లికేషన్లో Decart యొక్క నిజ-సమయ వీడియో జనరేషన్ సామర్థ్యాలను ఏకీకృతం చేయవచ్చు.
బెడ్రాక్ ద్వారా పంపిణీ AWS యొక్క ప్లగ్-అండ్-ప్లే సామర్థ్యాలను పెంచుతుంది, నిజ-సమయ AI వీడియో కోసం పెరుగుతున్న డిమాండ్లో అమెజాన్ యొక్క విశ్వాసాన్ని ప్రదర్శిస్తుంది. ఇది డెవలపర్ కమ్యూనిటీలో చేరుకోవడానికి మరియు దత్తత పెరగడానికి Decartని అనుమతిస్తుంది. AWS ట్రైనియం నాణ్యత లేదా జాప్యం లేకుండా అధిక-విశ్వసనీయ వీడియోను రూపొందించడానికి అవసరమైన అదనపు ప్రాసెసింగ్ గ్రుంట్తో లూసీని అందిస్తుంది.
ట్రైనియం వంటి అనుకూల AI యాక్సిలరేటర్లు ప్రత్యామ్నాయాన్ని అందిస్తాయి AI పనిభారం కోసం Nvidia యొక్క GPUలకు. Nvidia ఇప్పటికీ AI మార్కెట్లో ఆధిపత్యం చెలాయిస్తున్నప్పటికీ, దాని GPUలు అత్యధిక AI పనిభారాన్ని ప్రాసెస్ చేస్తున్నాయి, ఇది కస్టమ్ ప్రాసెసర్ల నుండి పెరుగుతున్న ముప్పును ఎదుర్కొంటోంది.
AI యాక్సిలరేటర్లపై ఎందుకు రచ్చ?
డెవలపర్లకు AWS ట్రైనియం మాత్రమే ఎంపిక కాదు. Google యొక్క టెన్సర్ ప్రాసెసింగ్ యూనిట్ (TPU) ఉత్పత్తి శ్రేణి మరియు మెటా యొక్క శిక్షణ మరియు అనుమితి యాక్సిలరేటర్ (MTIA) చిప్లు కస్టమ్ సిలికాన్కు ఇతర ఉదాహరణలు, ప్రతి ఒక్కటి Nvidia యొక్క GPUల కంటే ఒకే విధమైన ప్రయోజనాన్ని కలిగి ఉంటాయి – వాటి ASIC ఆర్కిటెక్చర్ (అప్లికేషన్-స్పెసిఫిక్ ఇంటిగ్రేటెడ్ సర్క్యూట్). పేరు సూచించినట్లుగా, ASIC హార్డ్వేర్ ఒక రకమైన అప్లికేషన్ను నిర్వహించడానికి మరియు సాధారణ ప్రయోజన ప్రాసెసర్ల కంటే మరింత సమర్థవంతంగా నిర్వహించడానికి ప్రత్యేకంగా రూపొందించబడింది.
సెంట్రల్ ప్రాసెసింగ్ యూనిట్లు సాధారణంగా కంప్యూటింగ్ ప్రపంచంలోని స్విస్ ఆర్మీ నైఫ్గా పరిగణించబడుతున్నప్పటికీ, వాటి సామర్థ్యం బహుళ అప్లికేషన్లను నిర్వహించగలవు, GPUలు శక్తివంతమైన ఎలక్ట్రిక్ డ్రిల్తో సమానంగా ఉంటాయి. అవి CPUల కంటే చాలా శక్తివంతమైనవి, భారీ మొత్తంలో పునరావృతమయ్యే, సమాంతర గణనలను ప్రాసెస్ చేయడానికి రూపొందించబడ్డాయి, వాటిని AI అప్లికేషన్లు మరియు గ్రాఫిక్స్ రెండరింగ్ టాస్క్లకు అనుకూలంగా మారుస్తాయి.
GPU పవర్ డ్రిల్ అయితే, ASIC చాలా ఖచ్చితమైన విధానాల కోసం రూపొందించబడిన స్కాల్పెల్గా పరిగణించబడుతుంది. ASICలను నిర్మించేటప్పుడు, చిప్మేకర్లు పనికి సంబంధం లేని అన్ని ఫంక్షనల్ యూనిట్లను ఎక్కువ సామర్థ్యం కోసం తీసివేస్తారు – వారి కార్యకలాపాలన్నీ పనికి అంకితం చేయబడ్డాయి.
ఇది GPUలతో పోలిస్తే భారీ పనితీరు మరియు శక్తి సామర్థ్య ప్రయోజనాలను అందిస్తుంది మరియు వాటి పెరుగుతున్న ప్రజాదరణను వివరించవచ్చు. వందల వేల Trainium2 ప్రాసెసర్లతో రూపొందించబడిన అపారమైన క్లస్టర్ ప్రాజెక్ట్ రైనర్లో AWSతో భాగస్వామ్యం కలిగి ఉన్న ఆంత్రోపిక్ ఒక ఉదాహరణ.
ఆంత్రోపిక్ ప్రకారం, ప్రాజెక్ట్ రైనర్ క్లాడ్ ఓపస్-4.5తో సహా దాని అత్యంత అధునాతన AI మోడల్లను అమలు చేయడానికి కంప్యూటింగ్ శక్తిని వందల కొద్దీ ఎక్సాఫ్లాప్లను అందిస్తుంది.
AI కోడింగ్ స్టార్టప్ పూల్సైడ్ కూడా AWS Trainium2ని ఉపయోగిస్తోంది దాని నమూనాలకు శిక్షణ ఇవ్వడానికి మరియు భవిష్యత్తులో కూడా అనుమితి కోసం దాని అవస్థాపనను ఉపయోగించేందుకు ప్రణాళికలు కలిగి ఉంది. ఇంతలో, ఆంత్రోపిక్ తన బెట్టింగ్లకు రక్షణ కల్పిస్తోంది, ఒక మిలియన్ Google TPUల క్లస్టర్లో భవిష్యత్ క్లాడ్ మోడల్లకు శిక్షణ ఇవ్వాలని కూడా చూస్తోంది. మెటా ప్లాట్ఫారమ్లు నివేదించబడ్డాయి బ్రాడ్కామ్తో సహకరిస్తోంది దాని లామా మోడల్లకు శిక్షణ ఇవ్వడానికి మరియు అమలు చేయడానికి అనుకూల AI ప్రాసెసర్ను అభివృద్ధి చేయడానికి మరియు OpenAI కలిగి ఉంది ఇలాంటి ప్రణాళికలు.
ట్రైనియం ప్రయోజనం
Decart దాని పనితీరు కారణంగా AWS Trainium2ని ఎంచుకుంది, ఇది Decart నిజ-సమయ వీడియో మోడల్లకు అవసరమైన తక్కువ జాప్యాన్ని సాధించేలా చేస్తుంది. లూసీ 40ms యొక్క మొదటి ఫ్రేమ్ను కలిగి ఉంది, అంటే ఇది ప్రాంప్ట్ తర్వాత దాదాపు తక్షణమే వీడియోను రూపొందించడం ప్రారంభిస్తుంది. Trainiumలో వీడియో ప్రాసెసింగ్ను క్రమబద్ధీకరించడం ద్వారా, లూసీ OpenAI యొక్క Sora 2 మరియు Google యొక్క Veo-3 వంటి చాలా నెమ్మదిగా, మరింత స్థిరపడిన వీడియో మోడల్ల నాణ్యతతో సరిపోలవచ్చు, Decart 30 fps వరకు అవుట్పుట్ను ఉత్పత్తి చేస్తుంది.
లూసీ మెరుగవుతుందని డెకార్ట్ అభిప్రాయపడ్డాడు. AWSతో ఒప్పందంలో భాగంగా, కంపెనీ కొత్తగా ప్రకటించిన వాటికి ముందస్తు యాక్సెస్ను పొందింది ట్రైనియం3 ప్రాసెసర్100 fps వరకు అవుట్పుట్లను మరియు తక్కువ జాప్యాన్ని కలిగి ఉంటుంది. “Trainium3 యొక్క తదుపరి తరం నిర్మాణం అధిక నిర్గమాంశ, తక్కువ జాప్యం మరియు ఎక్కువ మెమరీ సామర్థ్యాన్ని అందిస్తుంది – GPUల ధరలో సగం ఖర్చుతో 4x వేగవంతమైన ఫ్రేమ్ ఉత్పత్తిని సాధించడానికి మాకు వీలు కల్పిస్తుంది” అని Decart సహ వ్యవస్థాపకుడు మరియు CEO డీన్ లీటర్స్డోర్ఫ్ ఒక ప్రకటనలో తెలిపారు.
కస్టమ్ AI ప్రాసెసర్ల గురించి ఎన్విడియా పెద్దగా ఆందోళన చెందకపోవచ్చు. AI చిప్ దిగ్గజం అని నివేదించబడింది దాని స్వంత రూపకల్పన క్లౌడ్ పోటీదారులకు ప్రత్యర్థిగా ASIC చిప్లు. అంతేకాకుండా, ప్రతి చిప్కు దాని స్వంత బలాలు ఉన్నందున ASICలు GPUలను పూర్తిగా భర్తీ చేయవు. GPUల సౌలభ్యం అంటే GPT-5 మరియు జెమిని 3 వంటి సాధారణ-ప్రయోజన మోడల్లకు అవి మాత్రమే నిజమైన ఎంపికగా మిగిలిపోయాయి మరియు AI శిక్షణలో ఇప్పటికీ ఆధిపత్యం చెలాయిస్తున్నాయి. అయినప్పటికీ, అనేక AI అప్లికేషన్లు స్థిరమైన ప్రాసెసింగ్ అవసరాలను కలిగి ఉన్నాయి, అంటే అవి ASICలలో అమలు చేయడానికి ప్రత్యేకంగా సరిపోతాయి.
కస్టమ్ AI ప్రాసెసర్ల పెరుగుదల పరిశ్రమపై తీవ్ర ప్రభావం చూపుతుందని భావిస్తున్నారు. చిప్ డిజైన్ను ఎక్కువ అనుకూలీకరణ వైపు నెట్టడం ద్వారా మరియు ప్రత్యేక అప్లికేషన్ల పనితీరును మెరుగుపరచడం ద్వారా, వారు రియల్ టైమ్ వీడియోతో ముందంజలో ఉన్న కొత్త AI ఆవిష్కరణకు వేదికను ఏర్పాటు చేస్తున్నారు.
ఫోటో మర్యాద AWS re:invent
