ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ప్లాట్ఫారమ్ ప్రొవైడర్ క్లారిఫాయ్ కొత్త కంప్యూట్ ఆర్కెస్ట్రేషన్ సామర్థ్యాన్ని ఆవిష్కరించింది, ఇది ఏదైనా కంప్యూటింగ్ వాతావరణంలో తమ AI పనిభారాన్ని ఆప్టిమైజ్ చేయడానికి, ఖర్చులను తగ్గించడానికి మరియు విక్రేత లాక్-ఇన్ను నివారించడానికి సంస్థలకు సహాయపడుతుందని హామీ ఇచ్చింది.
డిసెంబర్ 3, 2024న ప్రకటించబడింది పబ్లిక్ ప్రివ్యూ విడుదల క్లౌడ్లో, ఆవరణలో లేదా గాలి-గ్యాప్డ్ ఇన్ఫ్రాస్ట్రక్చర్లో ఆ పనిభారం నడుస్తున్నా, ఏకీకృత నియంత్రణ విమానం ద్వారా AI పనిభారాన్ని ఆర్కెస్ట్రేట్ చేయడానికి సంస్థలను అనుమతిస్తుంది. ప్లాట్ఫారమ్ GPUలు, CPUలు మరియు TPUలతో సహా ఏదైనా AI మోడల్ మరియు హార్డ్వేర్ యాక్సిలరేటర్తో పని చేయగలదు.
“కస్టమ్ AI వర్క్లోడ్లను రూపొందించడానికి AI సాధనాల పూర్తి స్టాక్తో పెద్ద సంస్థ మరియు మిషన్-క్లిష్టమైన ప్రభుత్వ అవసరాలకు మద్దతునిచ్చే దశాబ్దానికి పైగా అనుభవంతో క్లారిఫాయ్ ఎల్లప్పుడూ వక్రత కంటే ముందుంది” అన్నారు మాట్ జైలర్, క్లారిఫాయ్ వ్యవస్థాపకుడు మరియు CEO. “ఇప్పుడు, మిలియన్ల కొద్దీ మోడళ్లను ఒకేసారి అందించడానికి మేము స్కేల్ చేస్తున్నందున మా గణన ఖర్చులను ఆప్టిమైజ్ చేయడానికి అంతర్గతంగా మేము నిర్మించిన సామర్థ్యాలను తెరుస్తున్నాము.”
మోడల్ ప్యాకింగ్ ఆప్టిమైజేషన్ల ద్వారా 99.9997% విశ్వసనీయతతో సెకనుకు 1.6 మిలియన్ల అనుమితి అభ్యర్థనలకు మద్దతు ఇస్తూ దాని ప్లాట్ఫారమ్ కంప్యూట్ వినియోగాన్ని 3.7x తగ్గించగలదని కంపెనీ పేర్కొంది. Clarifai ప్రకారం, ఆప్టిమైజేషన్లు కాన్ఫిగరేషన్పై ఆధారపడి ఖర్చులను 60-90% వరకు తగ్గించగలవు.
కంప్యూట్ ఆర్కెస్ట్రేషన్ ప్లాట్ఫారమ్ యొక్క సామర్థ్యాలు:
- మోడల్ ప్యాకింగ్, డిపెండెన్సీ సరళీకరణ మరియు మోడల్ రెప్లికాస్ మరియు కంప్యూట్ నోడ్ల కోసం సున్నాకి స్కేల్ చేయగల అనుకూలీకరించదగిన ఆటో-స్కేలింగ్ ఎంపికలతో సహా ఆటోమేటెడ్ రిసోర్స్ మేనేజ్మెంట్ ద్వారా కాస్ట్ ఆప్టిమైజేషన్,
- క్లౌడ్, ఆన్-ప్రిమైజ్, ఎయిర్-గ్యాప్డ్ మరియు క్లారిఫాయ్ సాస్ ఇన్ఫ్రాస్ట్రక్చర్తో సహా ఏదైనా హార్డ్వేర్ విక్రేతపై విస్తరణ సౌలభ్యం,
- డేటా లేబులింగ్, శిక్షణ, మూల్యాంకనం, వర్క్ఫ్లోలు మరియు ఫీడ్బ్యాక్ కోసం క్లారిఫాయ్ యొక్క AI ప్లాట్ఫారమ్తో ఏకీకరణ,
- ఓపెన్ ఇన్బౌండ్ పోర్ట్లు, VPC పీరింగ్ లేదా కస్టమ్ IAM రోల్స్ అవసరం లేకుండా కస్టమర్ VPCలు లేదా ఆన్-ప్రిమిస్ కుబెర్నెట్స్ క్లస్టర్లలోకి విస్తరణను అనుమతించే భద్రతా లక్షణాలు.
AI పనితీరు మరియు ఖర్చుతో క్లారిఫాయ్ కస్టమర్ల సమస్యల నుండి ఈ ప్లాట్ఫారమ్ ఉద్భవించింది. “మా క్లౌడ్ ఖర్చులతో పోల్చితే దాని గురించి సమగ్రంగా ఆలోచించి, మా ఆన్-ప్రేమ్ ఖర్చులను పరిశీలించడానికి మాకు ఒక మార్గం ఉంటే, ఆపై ఖర్చు ఆధారంగా పరిసరాలలో ఆర్కెస్ట్రేట్ చేయగలిగితే, అది చాలా విలువైనది,” అని ఒక కస్టమర్ పేర్కొన్నాడు. క్లారిఫాయ్ యొక్క ప్రకటనలో ఉదహరించబడింది.
కంప్యూట్ ఆర్కెస్ట్రేషన్ సామర్థ్యాలు క్లారిఫాయ్ యొక్క ప్రస్తుత AI ప్లాట్ఫారమ్పై నిర్మించబడ్డాయి, ఇది కంప్యూటర్ విజన్, లాంగ్వేజ్ మరియు ఆడియో AIలో 2 బిలియన్లకు పైగా కార్యకలాపాలను ప్రాసెస్ చేసినట్లు కంపెనీ తెలిపింది. క్లిష్టమైన అప్లికేషన్ల కోసం 99.99%+ అప్టైమ్ మరియు 24/7 లభ్యతను నిర్వహిస్తున్నట్లు కంపెనీ నివేదించింది.
కంప్యూట్ ఆర్కెస్ట్రేషన్ సామర్ధ్యం ప్రస్తుతం పబ్లిక్ ప్రివ్యూలో అందుబాటులో ఉంది. ప్లాట్ఫారమ్ను పరీక్షించడానికి ఆసక్తి ఉన్న సంస్థలు యాక్సెస్ కోసం Clarifaiని సంప్రదించాలి.
