ఆంత్రోపిక్ AI వ్యవస్థల యొక్క సంభావ్య ప్రమాదాలను ఫ్లాగ్ చేసింది మరియు సంభావ్య విపత్తులను నివారించడానికి బాగా నిర్మాణాత్మక నియంత్రణ కోసం పిలుపునిచ్చింది. AI యొక్క ప్రమాదాలను తగ్గించేటప్పుడు దాని ప్రయోజనాలను ఉపయోగించుకోవడానికి లక్ష్య నియంత్రణ తప్పనిసరి అని సంస్థ వాదించింది.
AI వ్యవస్థలు గణితం, తార్కికం మరియు కోడింగ్ వంటి సామర్థ్యాలలో అభివృద్ధి చెందుతున్నందున, సైబర్ భద్రత లేదా జీవ మరియు రసాయన విభాగాలలో కూడా వాటి సంభావ్య దుర్వినియోగం గణనీయంగా పెరుగుతుంది.
విధాన నిర్ణేతలు చర్య తీసుకోవడానికి రాబోయే 18 నెలలు చాలా కీలకమని ఆంత్రోపిక్ హెచ్చరించింది, చురుకైన నివారణ కోసం విండో సన్నగిల్లుతోంది. ముఖ్యంగా, ఆంత్రోపిక్ యొక్క ఫ్రాంటియర్ రెడ్ టీమ్ ప్రస్తుత మోడల్లు ఇప్పటికే వివిధ సైబర్ నేరాలకు సంబంధించిన పనులకు ఎలా దోహదపడతాయో హైలైట్ చేస్తుంది మరియు భవిష్యత్ మోడల్లు మరింత ప్రభావవంతంగా ఉండాలని ఆశిస్తోంది.
రసాయన, జీవ, రేడియోలాజికల్ మరియు న్యూక్లియర్ (CBRN) దుర్వినియోగాన్ని AI వ్యవస్థలు తీవ్రతరం చేసే సంభావ్యత ప్రత్యేక ఆందోళన. UK AI సేఫ్టీ ఇన్స్టిట్యూట్ దొరికింది సైన్స్-సంబంధిత విచారణలకు ప్రతిస్పందనలను అందించడంలో అనేక AI నమూనాలు ఇప్పుడు PhD-స్థాయి మానవ నైపుణ్యానికి సరిపోతాయి.
ఈ ప్రమాదాలను పరిష్కరించడంలో, ఆంత్రోపిక్ దాని గురించి వివరించింది బాధ్యతాయుతమైన స్కేలింగ్ విధానం (RSP) సెప్టెంబర్ 2023లో బలమైన ప్రతిఘటనగా విడుదల చేయబడింది. AI సామర్థ్యాల అధునాతనతకు అనుగుణంగా భద్రత మరియు భద్రతా చర్యల పెరుగుదలను RSP తప్పనిసరి చేస్తుంది.
RSP ఫ్రేమ్వర్క్ అనుకూలమైన మరియు పునరావృతమయ్యేలా రూపొందించబడింది, AI మోడల్ల యొక్క సాధారణ అంచనాలతో భద్రతా ప్రోటోకాల్లను సకాలంలో మెరుగుపరచడానికి అనుమతిస్తుంది. ఆంత్రోపిక్ దాని RSP ద్వారా నిర్దేశించబడిన కఠినమైన భద్రతా ప్రమాణాల కోసం సంసిద్ధతను నిర్ధారిస్తూ, ప్రత్యేకించి భద్రత, అర్థవివరణ మరియు విశ్వసనీయ రంగాలలో వివిధ బృందాల విస్తరణలను విస్తరించి భద్రతను నిర్వహించడానికి మరియు మెరుగుపరచడానికి కట్టుబడి ఉందని చెప్పారు.
ఆంత్రోపిక్ AI పరిశ్రమలో RSPలను విస్తృతంగా స్వీకరించడం, ప్రధానంగా స్వచ్ఛందంగా ఉన్నప్పటికీ, AI ప్రమాదాలను పరిష్కరించడానికి చాలా అవసరం.
భద్రతకు సంబంధించిన వాగ్దానాలకు AI కంపెనీలు కట్టుబడి ఉన్నాయని సమాజానికి భరోసా ఇవ్వడానికి పారదర్శకమైన, సమర్థవంతమైన నియంత్రణ చాలా కీలకం. అయితే రెగ్యులేటరీ ఫ్రేమ్వర్క్లు తప్పనిసరిగా వ్యూహాత్మకంగా ఉండాలి, అనవసరమైన భారాలను విధించకుండా సౌండ్ సేఫ్టీ పద్ధతులను ప్రోత్సహిస్తాయి.
ఆంత్రోపిక్ నిబంధనలను స్పష్టంగా, దృష్టి కేంద్రీకరించింది మరియు అభివృద్ధి చెందుతున్న సాంకేతిక ప్రకృతి దృశ్యాలకు అనుగుణంగా ఉంటుంది, ప్రమాదాన్ని తగ్గించడం మరియు ఆవిష్కరణలను ప్రోత్సహించడం మధ్య సమతుల్యతను సాధించడంలో ఇవి చాలా ముఖ్యమైనవి అని వాదించారు.
USలో, AI రిస్క్ రెగ్యులేషన్కు సమాఖ్య చట్టమే అంతిమ సమాధానం అని ఆంత్రోపిక్ సూచించింది-అయితే సమాఖ్య చర్య వెనుకబడితే రాష్ట్ర ఆధారిత కార్యక్రమాలు అడుగు పెట్టవలసి ఉంటుంది. ప్రపంచవ్యాప్తంగా ఉన్న దేశాలు అభివృద్ధి చేసిన శాసన ఫ్రేమ్వర్క్లు గ్లోబల్ AI భద్రతా ఎజెండాకు మద్దతు ఇవ్వడానికి ప్రామాణీకరణ మరియు పరస్పర గుర్తింపును అనుమతించాలి, వివిధ ప్రాంతాలలో నియంత్రణ కట్టుబాటు ధరను తగ్గించాలి.
ఇంకా, ఆంత్రోపిక్ నిబంధనలు విధించడం పట్ల సంశయవాదాన్ని పరిష్కరిస్తుంది-విభిన్నమైన అప్లికేషన్లను కలిగి ఉన్న సాధారణ AI సిస్టమ్లకు అతిగా విస్తృత ఉపయోగం-కేస్-కేంద్రీకృత నిబంధనలు అసమర్థంగా ఉంటాయని హైలైట్ చేస్తుంది. బదులుగా, నిబంధనలు AI నమూనాల ప్రాథమిక లక్షణాలు మరియు భద్రతా చర్యలను లక్ష్యంగా చేసుకోవాలి.
విస్తృత నష్టాలను కవర్ చేస్తున్నప్పుడు, ఇతర కార్యక్రమాలు ఈ సమీప-కాల సమస్యలను పరిష్కరిస్తున్నందున, డీప్ఫేక్ల వంటి కొన్ని తక్షణ బెదిరింపులు తమ ప్రస్తుత ప్రతిపాదనల దృష్టి కాదని ఆంత్రోపిక్ అంగీకరించింది.
అంతిమంగా, ఆంత్రోపిక్ కొత్తదనాన్ని అరికట్టడానికి బదులుగా వాటిని ప్రోత్సహించే నిబంధనలను ఏర్పాటు చేయడం యొక్క ప్రాముఖ్యతను నొక్కి చెబుతుంది. ప్రాథమిక సమ్మతి భారం, అనివార్యమైనప్పటికీ, సౌకర్యవంతమైన మరియు జాగ్రత్తగా రూపొందించిన భద్రతా పరీక్షల ద్వారా తగ్గించవచ్చు. అంతర్గతంగా మరియు బాహ్యంగా బెదిరింపులకు వ్యతిరేకంగా మేధో సంపత్తిని భద్రపరచడం ద్వారా జాతీయ ప్రయోజనాలు మరియు ప్రైవేట్ రంగ ఆవిష్కరణలు రెండింటినీ రక్షించడంలో సరైన నియంత్రణ సహాయపడుతుంది.
అనుభవపూర్వకంగా కొలిచిన నష్టాలపై దృష్టి సారించడం ద్వారా, ఓపెన్ లేదా క్లోజ్డ్-సోర్స్ మోడల్లకు వ్యతిరేకంగా పక్షపాతం లేదా అనుకూలంగా లేని రెగ్యులేటరీ ల్యాండ్స్కేప్ కోసం ఆంత్రోపిక్ ప్లాన్ చేస్తుంది. లక్ష్యం స్పష్టంగా ఉంది: కఠినమైన కానీ అనుకూలమైన నియంత్రణతో సరిహద్దు AI మోడల్ల యొక్క ముఖ్యమైన నష్టాలను నిర్వహించడం.
(చిత్రం క్రెడిట్: ఆంత్రోపిక్)
ఇవి కూడా చూడండి: అధ్యక్షుడు బిడెన్ AIపై మొదటి జాతీయ భద్రతా మెమోరాండం జారీ చేశారు
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర ఈవెంట్ సహా ఇతర ప్రముఖ ఈవెంట్లతో సహ-స్థానంలో ఉంది ఇంటెలిజెంట్ ఆటోమేషన్ కాన్ఫరెన్స్, బ్లాక్ ఎక్స్, డిజిటల్ ట్రాన్స్ఫర్మేషన్ వీక్మరియు సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో.
TechForge ద్వారా అందించబడే ఇతర రాబోయే ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
