AI హార్డ్వేర్ స్టార్టప్ సెరెబ్రాస్ ఎంటర్ప్రైజెస్ కోసం ఎన్విడియా యొక్క GPU ఆఫర్లకు ప్రత్యర్థిగా ఉండే కొత్త AI అనుమితి పరిష్కారాన్ని సృష్టించింది.
సెరెబ్రాస్ ఇన్ఫెరెన్స్ సాధనం కంపెనీ యొక్క వేఫర్-స్కేల్ ఇంజిన్పై ఆధారపడింది మరియు అద్భుతమైన పనితీరును అందజేస్తుందని వాగ్దానం చేస్తుంది. మూలాల ప్రకారం, సాధనం లామా 3.1 8B కోసం సెకనుకు 1,800 టోకెన్ల వేగాన్ని మరియు లామా 3.1 70B కోసం సెకనుకు 450 టోకెన్లను సాధించింది. Nvidia యొక్క GPUల ద్వారా ఈ సిస్టమ్లను రూపొందించడానికి అవసరమైన సాధారణ హైపర్స్కేల్ క్లౌడ్ ఉత్పత్తుల కంటే ఈ వేగం వేగంగా ఉంటుందని సెరెబ్రాస్ పేర్కొంది, అయితే అవి మరింత ఖర్చుతో కూడుకున్నవి.
ఇది ఒక ప్రధాన మార్పు ఉత్పాదక AI మార్కెట్గార్ట్నర్ విశ్లేషకుడు అరుణ్ చంద్రశేఖరన్ చెప్పినట్లుగా. ఈ మార్కెట్ దృష్టి మునుపు శిక్షణపై ఉండగా, ఇది ప్రస్తుతం అంచనాకు సంబంధించిన ఖర్చు మరియు వేగానికి మారుతోంది. ఎంటర్ప్రైజ్ సెట్టింగ్లలో AI వినియోగ కేసుల పెరుగుదల కారణంగా ఈ మార్పు జరిగింది మరియు సెరెబ్రాస్ ఆఫ్ AI ఉత్పత్తులు మరియు సేవల వంటి విక్రేతలు పనితీరు ఆధారంగా పోటీ పడేందుకు గొప్ప అవకాశాన్ని అందిస్తుంది.
మికా హిల్-స్మిత్, ఆర్టిఫిషియల్ అనాలిసిస్ యొక్క సహ-వ్యవస్థాపకుడు మరియు CEO చెప్పినట్లుగా, సెరెబ్రాస్ నిజంగా వారి AI అనుమితి బెంచ్మార్క్లలో మెరిసిపోయారు. కంపెనీ కొలతలు లామా 3.1 8Bలో సెకనుకు 1,800 అవుట్పుట్ టోకెన్లకు చేరుకున్నాయి మరియు లామా 3.1 70Bలో అవుట్పుట్ సెకనుకు 446 అవుట్పుట్ టోకెన్లకు పైగా ఉంది. ఈ విధంగా, వారు రెండు బెంచ్మార్క్లలో కొత్త రికార్డులు సృష్టించారు.
అయినప్పటికీ, సంభావ్య పనితీరు ప్రయోజనాలు ఉన్నప్పటికీ, సెరెబ్రాస్ ఎంటర్ప్రైజ్ మార్కెట్లో గణనీయమైన సవాళ్లను ఎదుర్కొంటుంది. ఎన్విడియా యొక్క సాఫ్ట్వేర్ మరియు హార్డ్వేర్ స్టాక్ పరిశ్రమలో ఆధిపత్యం చెలాయిస్తుంది మరియు సంస్థలచే విస్తృతంగా స్వీకరించబడింది. ఫ్యూచర్ గ్రూప్లోని విశ్లేషకుడు డేవిడ్ నికల్సన్, సెరెబ్రాస్ యొక్క పొర-స్థాయి వ్యవస్థ Nvidia కంటే తక్కువ ఖర్చుతో అధిక పనితీరును అందించగలదని, సెరెబ్రాస్ సిస్టమ్తో పని చేయడానికి ఎంటర్ప్రైజెస్ తమ ఇంజనీరింగ్ ప్రక్రియలను స్వీకరించడానికి సిద్ధంగా ఉన్నాయా అనేది ప్రధాన ప్రశ్న.
ఎన్విడియా మరియు సెరెబ్రాస్ వంటి ప్రత్యామ్నాయాల మధ్య ఎంపిక కార్యకలాపాల స్థాయి మరియు అందుబాటులో ఉన్న మూలధనంతో సహా అనేక అంశాలపై ఆధారపడి ఉంటుంది. చిన్న సంస్థలు ఎన్విడియాను ఎంచుకునే అవకాశం ఉంది, ఎందుకంటే ఇది ఇప్పటికే స్థాపించబడిన పరిష్కారాలను అందిస్తుంది. అదే సమయంలో, ఎక్కువ మూలధనం ఉన్న పెద్ద వ్యాపారాలు సమర్థతను పెంచుకోవడానికి మరియు ఖర్చులను ఆదా చేయడానికి రెండోదాన్ని ఎంచుకోవచ్చు.
AI హార్డ్వేర్ మార్కెట్ అభివృద్ధి చెందుతూనే ఉన్నందున, సెరెబ్రాస్ ప్రత్యేక క్లౌడ్ ప్రొవైడర్లు, మైక్రోసాఫ్ట్, AWS మరియు గూగుల్ వంటి హైపర్స్కేలర్లు మరియు గ్రోక్ వంటి డెడికేటెడ్ ఇన్ఫరెన్సింగ్ ప్రొవైడర్ల నుండి పోటీని ఎదుర్కొంటుంది. పనితీరు, ఖర్చు మరియు అమలు సౌలభ్యం మధ్య సమతుల్యత కొత్త అనుమితి సాంకేతికతలను అవలంబించడంలో సంస్థ నిర్ణయాలను రూపొందిస్తుంది.
సెకనుకు 1,000 టోకెన్లను అధిగమించగల సామర్థ్యం ఉన్న హై-స్పీడ్ AI అనుమితి యొక్క ఆవిర్భావం బ్రాడ్బ్యాండ్ ఇంటర్నెట్ అభివృద్ధికి సమానం, ఇది AI అనువర్తనాల కోసం కొత్త సరిహద్దును తెరవగలదు. సెరెబ్రాస్ యొక్క 16-బిట్ ఖచ్చితత్వం మరియు వేగవంతమైన అనుమితి సామర్థ్యాలు భవిష్యత్తులో AI అప్లికేషన్ల సృష్టిని ప్రారంభించవచ్చు, ఇక్కడ మొత్తం AI ఏజెంట్లు వేగంగా, పదేపదే మరియు నిజ సమయంలో పనిచేయాలి.
AI ఫీల్డ్ వృద్ధితో, AI అనుమితి హార్డ్వేర్ మార్కెట్ కూడా విస్తరిస్తోంది. మొత్తం AI హార్డ్వేర్ మార్కెట్లో దాదాపు 40% వాటాను కలిగి ఉంది, ఈ విభాగం విస్తృత AI హార్డ్వేర్ పరిశ్రమలో మరింత లాభదాయకమైన లక్ష్యంగా మారుతోంది. ఈ విభాగంలో ఎక్కువ మంది ప్రముఖ కంపెనీలు ఆక్రమించుకున్నందున, చాలా మంది కొత్తవారు ఈ పోటీ ప్రకృతి దృశ్యం యొక్క ముఖ్యమైన అంశాలను జాగ్రత్తగా పరిశీలించాలి, పోటీ స్వభావం మరియు ఎంటర్ప్రైజ్ స్థలాన్ని నావిగేట్ చేయడానికి అవసరమైన ముఖ్యమైన వనరులను పరిగణనలోకి తీసుకోవాలి.
(ఫోటో తిమోతి డైక్స్)
ఇవి కూడా చూడండి: కొత్త NVIDIA మైక్రోసర్వీస్ల నుండి సావరిన్ AI ప్రోత్సాహాన్ని పొందుతుంది
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర ఈవెంట్ సహా ఇతర ప్రముఖ ఈవెంట్లతో సహ-స్థానంలో ఉంది ఇంటెలిజెంట్ ఆటోమేషన్ కాన్ఫరెన్స్, బ్లాక్ ఎక్స్, డిజిటల్ ట్రాన్స్ఫర్మేషన్ వీక్మరియు సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో.
TechForge ద్వారా అందించబడే ఇతర రాబోయే ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
