Hot News

అనుమితి సాధనం అధిక పనితీరును వాగ్దానం చేస్తుంది

AI హార్డ్‌వేర్ స్టార్టప్ సెరెబ్రాస్ ఎంటర్‌ప్రైజెస్ కోసం ఎన్‌విడియా యొక్క GPU ఆఫర్‌లకు ప్రత్యర్థిగా ఉండే కొత్త AI అనుమితి పరిష్కారాన్ని సృష్టించింది. సెరెబ్రాస్ ఇన్ఫెరెన్స్ సాధనం కంపెనీ యొక్క వేఫర్-స్కేల్ ఇంజిన్‌పై ఆధారపడింది మరియు అద్భుతమైన పనితీరును అందజేస్తుందని వాగ్దానం చేస్తుంది. మూలాల ప్రకారం, సాధనం లామా 3.1 8B కోసం సెకనుకు 1,800 టోకెన్‌ల వేగాన్ని మరియు లామా 3.1 70B కోసం సెకనుకు 450 టోకెన్‌లను సాధించింది. Nvidia యొక్క GPUల ద్వారా…

Read More
Top