భౌగోళిక రాజకీయ సంఘటనలు ప్రపంచాన్ని ఆకృతి చేస్తున్నప్పుడు, అవి సాంకేతిక పరిజ్ఞానాన్ని కూడా ప్రభావితం చేయడంలో ఆశ్చర్యం లేదు – ప్రత్యేకంగా, ప్రస్తుత AI మార్కెట్ మారుతున్న మార్గాల్లో, దాని అంగీకరించిన పద్దతితో పాటు, అది ఎలా అభివృద్ధి చెందింది మరియు సంస్థలో ఉపయోగించిన మార్గాలతో పాటు.
AI నుండి ఫలితాల అంచనాలు ప్రస్తుతం వాస్తవ ప్రపంచ వాస్తవాలతో సమతుల్యమవుతాయి. సాంకేతిక పరిజ్ఞానం గురించి మంచి అనుమానం ఉంది, మళ్ళీ దాని ప్రస్తుత నూతన దశలలో కూడా స్వీకరించే వారితో సమతుల్యత ఉంది. ప్రసిద్ధ LLM ల యొక్క క్లోజ్డ్-లూప్ స్వభావాన్ని లామా, డీప్సీక్ మరియు బైడు ఇటీవల విడుదల చేసిన ఎర్నీ ఎక్స్ 1 వంటి సందర్భాలు సవాలు చేయబడుతున్నాయి.
దీనికి విరుద్ధంగా, ఓపెన్ సోర్స్ డెవలప్మెంట్ పారదర్శకత మరియు తిరిగి దోహదపడే సామర్థ్యాన్ని అందిస్తుంది, ఇది “బాధ్యతాయుతమైన AI” కోరికకు అనుగుణంగా ఉంటుంది: పెద్ద నమూనాల పర్యావరణ ప్రభావాన్ని కలిగి ఉన్న ఒక పదబంధం, AIS ఎలా ఉపయోగించబడుతుంది, వారి అభ్యాసాన్ని కలిగి ఉంటుంది కార్పోరామరియు డేటా సార్వభౌమాధికారం, భాష మరియు రాజకీయాల చుట్టూ సమస్యలు.
సంస్థ తన వ్యాపారం కోసం ఆర్థికంగా స్థిరమైన ఓపెన్ సోర్స్ డెవలప్మెంట్ మోడల్ యొక్క సాధ్యతను ప్రదర్శించింది, రెడ్ టోపీ AI కి దాని బహిరంగ, సహకార మరియు సమాజ-ఆధారిత విధానాన్ని విస్తరించాలని కోరుకుంటుంది. రెడ్ హాట్ వద్ద EMEA కోసం CTO అయిన జూలియో గుజారోతో మేము ఇటీవల మాట్లాడాము, ఉత్పాదక AI మోడళ్ల యొక్క నిస్సందేహమైన శక్తిని అన్లాక్ చేయడానికి సంస్థ చేసిన ప్రయత్నాల గురించి, సంస్థకు విలువను తీసుకువచ్చే మార్గాల్లో, బాధ్యతాయుతమైన, స్థిరమైన మరియు సాధ్యమైనంత పారదర్శకంగా ఉండే విధంగా.
AI ని పూర్తిగా అర్థం చేసుకోవడానికి జూలియో ఇంకా ఎంత విద్యను అవసరమో అండర్లైన్ చేసింది, “సంక్లిష్ట విజ్ఞాన శాస్త్రం మరియు గణితంలో పాతుకుపోయిన AI యొక్క అంతర్గత పనుల గురించి గణనీయమైన తెలియనివారిని చూస్తే, ఇది చాలా మందికి ‘బ్లాక్ బాక్స్’ గా మిగిలిపోయింది. ఈ పారదర్శకత లేకపోవడం వల్ల ఇది చాలా ప్రాప్యత చేయలేని, మూసివేసిన వాతావరణాలలో అభివృద్ధి చెందింది.”
భాషతో సమస్యలు కూడా ఉన్నాయి (యూరోపియన్ మరియు మధ్య-తూర్పు భాషలు చాలా తక్కువగా ఉన్నాయి), డేటా సార్వభౌమాధికారం మరియు ప్రాథమికంగా నమ్మకం. “డేటా అనేది సంస్థ యొక్క అత్యంత విలువైన ఆస్తి, మరియు వ్యాపారాలు వివిధ గోప్యతా విధానాలతో పబ్లిక్ ప్లాట్ఫామ్లకు సున్నితమైన డేటాను బహిర్గతం చేసే నష్టాల గురించి వారు తెలుసుకున్నారని నిర్ధారించుకోవాలి.”
రెడ్ టోపీ ప్రతిస్పందన
AI కోసం ప్రపంచ డిమాండ్కు రెడ్ హాట్ యొక్క ప్రతిస్పందన ఏమిటంటే, తుది వినియోగదారులకు ఎక్కువ ప్రయోజనాన్ని తెస్తుంది, మరియు చాలా సందేహాలు మరియు మినహాయింపులను తొలగిస్తుంది, ఇది త్వరగా స్పష్టంగా తెలుస్తుంది వాస్తవ AI సేవలు అమలు చేయబడతాయి.
ఒక సమాధానం, జూలియో మాట్లాడుతూ, చిన్న భాషా నమూనాలు, స్థానికంగా లేదా హైబ్రిడ్ మేఘాలలో, స్పెషలిస్ట్ కాని హార్డ్వేర్పై నడుస్తాయి మరియు స్థానిక వ్యాపార సమాచారాన్ని యాక్సెస్ చేయడం. SLM లు కాంపాక్ట్, LLM లకు సమర్థవంతమైన ప్రత్యామ్నాయాలు, నిర్దిష్ట పనుల కోసం బలమైన పనితీరును అందించడానికి రూపొందించబడ్డాయి, అయితే గణనీయంగా తక్కువ గణన వనరులు అవసరం. చిన్న క్లౌడ్ ప్రొవైడర్లు ఉన్నాయి, ఇవి కొంత గణనను ఆఫ్లోడ్ చేయడానికి ఉపయోగించబడతాయి, అయితే కీ కావాలనుకుంటే, మోడల్కు దగ్గరగా, ఇంటిలోనే వ్యాపార-క్లిష్టమైన సమాచారాన్ని ఉంచడానికి ఎంచుకోవడానికి వశ్యత మరియు స్వేచ్ఛను కలిగి ఉంది. ఇది చాలా ముఖ్యం, ఎందుకంటే సంస్థలోని సమాచారం వేగంగా మారుతుంది. “పెద్ద భాషా నమూనాలతో ఒక సవాలు ఏమిటంటే అవి త్వరగా వాడుకలో లేవు ఎందుకంటే డేటా తరం పెద్ద మేఘాలలో జరగడం లేదు. మీ పక్కన మరియు మీ వ్యాపార ప్రక్రియల డేటా జరుగుతోంది” అని ఆయన చెప్పారు.
ఖర్చు కూడా ఉంది. “మీ కస్టమర్ సేవ ఒక LLM ను ప్రశ్నించే గణనీయమైన దాచిన ఖర్చును ప్రదర్శించగలదు – AI కి ముందు, మీరు డేటా ప్రశ్న చేసినప్పుడు, దీనికి పరిమిత మరియు able హించదగిన పరిధిని కలిగి ఉన్నారని మీకు తెలుసు. అందువల్ల, ఆ లావాదేవీ మీకు ఎంత ఖర్చు అవుతుంది అని మీరు లెక్కించవచ్చు. LLMS విషయంలో, అవి ఒక పునరుత్పాదక నమూనాపై పని చేస్తాయి. కాబట్టి మీరు ఎంత ఎక్కువ సమాధానం ఇస్తారో, అదే విధంగా మీరు ఆదరణ పొందవచ్చు. ముందు ఒకే లావాదేవీ ఇప్పుడు వందలుగా మారుతుంది, మీరు మోడల్ను ఎవరు మరియు ఎలా ఉపయోగిస్తున్నారనే దానిపై ఆధారపడి ఉంటుంది.
అయినప్పటికీ, GPU ల కోసం భారీ చెక్ రాయడం వంటి సేకరణ రౌండ్ కోసం సంస్థలు తమను తాము బ్రేస్ చేయనవసరం లేదు. రెడ్ హాట్ యొక్క ప్రస్తుత పనిలో భాగం మరింత ప్రామాణిక హార్డ్వేర్ను అమలు చేయడానికి మోడళ్లను (బహిరంగంగా, కోర్సులో) ఆప్టిమైజ్ చేయడం. ఇది సాధ్యమే ఎందుకంటే చాలా వ్యాపారాలు ఉపయోగించే స్పెషలిస్ట్ మోడళ్లకు భారీ, సాధారణ-ప్రయోజన డేటా అవసరం లేదు కార్పస్ ప్రతి ప్రశ్నతో అధిక ఖర్చుతో ప్రాసెస్ చేయాలి.
“ప్రస్తుతం జరుగుతున్న చాలా పని ఏమిటంటే, ప్రజలు పెద్ద మోడళ్లను పరిశీలించి, ఒక నిర్దిష్ట ఉపయోగం కోసం అవసరం లేని ప్రతిదాన్ని తొలగించడం. మేము AI ను సర్వవ్యాప్తి చెందాలనుకుంటే, అది చిన్న భాషా నమూనాల ద్వారా ఉండాలి. మేము ఈ అన్ని మోడళ్లతో మరియు ప్రామాణికమైన మార్గంలో, ఈ అడ్డంకితో పాటు, ఈ అడ్డంకితో, VLLM (అనుమితి ఇంజిన్ ప్రాజెక్ట్) కు మద్దతు ఇవ్వడం మరియు మెరుగుపరచడంపై కూడా మేము దృష్టి కేంద్రీకరించాము.
దానిని చిన్నగా ఉంచడం
వినియోగదారుకు సంబంధించిన స్థానిక డేటాను ఉపయోగించడం మరియు సూచించడం అంటే, ఫలితాలను అవసరానికి అనుగుణంగా రూపొందించవచ్చు. జూలియో అరబ్- మరియు పోర్చుగీస్ మాట్లాడే ప్రపంచాలలో ప్రాజెక్టులను ఉదహరించారు, అవి ఇంగ్లీష్-సెంట్రిక్ హౌస్హోల్డ్ పేరు LLMS ను ఉపయోగించి ఆచరణీయంగా ఉండవు.
ప్రారంభ దత్తత సంస్థలు ఆచరణాత్మక, రోజువారీ వినియోగ LLM లలో కనుగొన్న కొన్ని ఇతర సమస్యలు కూడా ఉన్నాయి. మొదటిది జాప్యం-ఇది సమయ-సున్నితమైన లేదా కస్టమర్ ఎదుర్కొంటున్న సందర్భాలలో సమస్యాత్మకంగా ఉంటుంది. ఫోకస్డ్ రిసోర్సెస్ మరియు సంబంధిత-టైలర్డ్ ఫలితాలను కలిగి ఉండటం నెట్వర్క్ హాప్ లేదా రెండు దూరంలో ఉంది.
రెండవది, ట్రస్ట్ ఇష్యూ ఉంది: బాధ్యతాయుతమైన AI యొక్క అంతర్భాగం. ఓపెన్ ప్లాట్ఫారమ్లు, సాధనాలు మరియు మోడళ్ల కోసం రెడ్ టోపీ న్యాయవాదులు, అందువల్ల మేము ఎక్కువ పారదర్శకత, అవగాహన మరియు వీలైనంత ఎక్కువ మందికి తోడ్పడటానికి సామర్థ్యం వైపు వెళ్ళవచ్చు. “ఇది ప్రతిఒక్కరికీ క్లిష్టమైనది” అని జూలియో చెప్పారు. “మేము AI ని ప్రజాస్వామ్యం చేయడానికి సామర్థ్యాలను నిర్మిస్తున్నాము, మరియు అది ఒక నమూనాను ప్రచురించడమే కాదు, వినియోగదారులకు వాటిని ప్రతిబింబించేలా, వాటిని ట్యూన్ చేయడానికి మరియు వారికి సేవ చేయడానికి సాధనాలను ఇస్తుంది.”
ఇటీవల రెడ్ టోపీ న్యూరల్ మ్యాజిక్ సంపాదించింది సంస్థలను మరింత సులభంగా స్కేల్ చేయడంలో సహాయపడటానికి, అనుమితి యొక్క పనితీరును మెరుగుపరచడానికి మరియు ఎంటర్ప్రైజెస్ AI పనిభారాన్ని ఎలా నిర్మిస్తుంది మరియు అమలు చేయాలో మరింత ఎక్కువ ఎంపిక మరియు ప్రాప్యతను అందించడానికి Vllm ఓపెన్ మోడల్ సర్వింగ్ కోసం ప్రాజెక్ట్. రెడ్ టోపీ, ఐబిఎం పరిశోధనతో కలిసి కూడా విడుదల చేయబడింది Instructlab డేటా శాస్త్రవేత్తలు కాని సరైన వ్యాపార పరిజ్ఞానం ఉన్న AI బిల్డర్లకు తలుపులు తెరవడానికి.
AI బబుల్ పేలితే, లేదా ఎప్పుడు, పెద్ద LLM ప్రొవైడర్లు త్వరలోనే ఎదుర్కోవలసి ఉంటుందని ఆర్థిక వాస్తవికతకు ఆకర్షితులవుతుంది. ఉపయోగం కేసు-నిర్దిష్ట మరియు అంతర్గతంగా ఓపెన్ సోర్స్ ఫారమ్లో AI కి భవిష్యత్తు ఉందని రెడ్ హాట్ అభిప్రాయపడింది, ఇది వ్యాపార అర్ధాన్ని కలిగించే సాంకేతికత మరియు ఇది అందరికీ అందుబాటులో ఉంటుంది. జూలియో యొక్క యజమాని, మాట్ హిక్స్ (రెడ్ టోపీ యొక్క CEO) ను ఉటంకిస్తూ, “AI యొక్క భవిష్యత్తు తెరిచి ఉంది.”
సహాయక ఆస్తులు:
