ది ETSI EN 304 223 ప్రమాణం AI కోసం బేస్లైన్ భద్రతా అవసరాలను పరిచయం చేస్తుంది, ఇది ఎంటర్ప్రైజెస్ తప్పనిసరిగా గవర్నెన్స్ ఫ్రేమ్వర్క్లలో కలిసిపోవాలి.
సంస్థలు తమ ప్రధాన కార్యకలాపాలలో మెషిన్ లెర్నింగ్ను పొందుపరిచినందున, ఈ యూరోపియన్ స్టాండర్డ్ (EN) AI మోడల్లు మరియు సిస్టమ్లను భద్రపరచడానికి నిర్దిష్టమైన నిబంధనలను ఏర్పాటు చేస్తుంది. అంతర్జాతీయ మార్కెట్లలో తన అధికారాన్ని బలోపేతం చేయడానికి జాతీయ ప్రమాణాల సంస్థల నుండి అధికారిక ఆమోదాన్ని పొంది, AI సైబర్ సెక్యూరిటీ కోసం ఇది ప్రపంచవ్యాప్తంగా వర్తించే మొదటి యూరోపియన్ ప్రమాణంగా నిలుస్తుంది.
ప్రమాణం EU AI చట్టంతో పాటు అవసరమైన బెంచ్మార్క్గా పనిచేస్తుంది. సాంప్రదాయ సాఫ్ట్వేర్ భద్రతా చర్యలు తరచుగా మిస్ అయ్యే డేటా పాయిజనింగ్, మోడల్ అస్పష్టత మరియు పరోక్ష ప్రాంప్ట్ ఇంజెక్షన్ వంటి నిర్దిష్ట నష్టాలను AI సిస్టమ్లు కలిగి ఉన్నాయనే వాస్తవాన్ని ఇది సూచిస్తుంది. ప్రమాణం లోతైన న్యూరల్ నెట్వర్క్లు మరియు ఉత్పాదక AIని ప్రాథమిక ప్రిడిక్టివ్ సిస్టమ్ల వరకు కవర్ చేస్తుంది, విద్యా పరిశోధన కోసం ఖచ్చితంగా ఉపయోగించే వాటిని మాత్రమే మినహాయిస్తుంది.
ETSI ప్రమాణం AI భద్రతకు సంబంధించిన బాధ్యతను స్పష్టం చేస్తుంది
ఎంటర్ప్రైజ్ AI అడాప్షన్లో నిరంతర అడ్డంకి రిస్క్ ఎవరికి చెందినదో నిర్ణయించడం. ETSI ప్రమాణం దీనిని మూడు ప్రాథమిక సాంకేతిక పాత్రలను నిర్వచించడం ద్వారా పరిష్కరిస్తుంది: డెవలపర్లు, సిస్టమ్ ఆపరేటర్లు మరియు డేటా కస్టోడియన్లు.
అనేక సంస్థలకు, ఈ లైన్లు బ్లర్ అవుతాయి. మోసం గుర్తింపు కోసం ఓపెన్ సోర్స్ మోడల్ను చక్కగా ట్యూన్ చేసే ఆర్థిక సేవల సంస్థ డెవలపర్ మరియు సిస్టమ్ ఆపరేటర్గా పరిగణించబడుతుంది. ఈ ద్వంద్వ స్థితి కఠినమైన బాధ్యతలను ప్రేరేపిస్తుంది, శిక్షణ డేటా మరియు మోడల్ యొక్క డిజైన్ ఆడిటింగ్ యొక్క రుజువును డాక్యుమెంట్ చేస్తున్నప్పుడు సంస్థ విస్తరణ మౌలిక సదుపాయాలను భద్రపరచడం అవసరం.
‘డేటా కస్టోడియన్లను’ ప్రత్యేక వాటాదారుల సమూహంగా చేర్చడం నేరుగా చీఫ్ డేటా మరియు అనలిటిక్స్ ఆఫీసర్లను (CDAOలు) ప్రభావితం చేస్తుంది. ఈ ఎంటిటీలు డేటా అనుమతులు మరియు సమగ్రతను నియంత్రిస్తాయి, ఈ పాత్ర ఇప్పుడు స్పష్టమైన భద్రతా బాధ్యతలను కలిగి ఉంటుంది. సిస్టమ్ యొక్క ఉద్దేశిత వినియోగం శిక్షణ డేటా యొక్క సున్నితత్వంతో సమలేఖనం చేయబడుతుందని సంరక్షకులు నిర్ధారించుకోవాలి, డేటా మేనేజ్మెంట్ వర్క్ఫ్లోలో సెక్యూరిటీ గేట్కీపర్ను సమర్థవంతంగా ఉంచుతుంది.
ETSI యొక్క AI ప్రమాణం భద్రత విస్తరణ దశలో అనుబంధించబడదని స్పష్టం చేస్తుంది. డిజైన్ దశలో, సంస్థలు తప్పనిసరిగా మెంబర్షిప్ ఇన్ఫరెన్స్ మరియు మోడల్ అస్పష్టత వంటి AI-స్థానిక దాడులను పరిష్కరించే ముప్పు మోడలింగ్ను నిర్వహించాలి.
ఒక నిబంధన అవసరం డెవలపర్లు దాడి ఉపరితలాన్ని తగ్గించడానికి కార్యాచరణను పరిమితం చేయడానికి. ఉదాహరణకు, సిస్టమ్ బహుళ-మోడల్ మోడల్ను ఉపయోగిస్తుంటే, టెక్స్ట్ ప్రాసెసింగ్ మాత్రమే అవసరమైతే, ఉపయోగించని పద్ధతులు (చిత్రం లేదా ఆడియో ప్రాసెసింగ్ వంటివి) తప్పనిసరిగా నిర్వహించాల్సిన ప్రమాదాన్ని సూచిస్తాయి. ఈ ఆవశ్యకత సాంకేతిక నాయకులను భారీ, సాధారణ-ప్రయోజన పునాది నమూనాలను అమలు చేసే సాధారణ అభ్యాసాన్ని పునఃపరిశీలించవలసి వస్తుంది, ఇక్కడ చిన్న మరియు మరింత ప్రత్యేకమైన నమూనా సరిపోతుంది.
పత్రం కఠినమైన ఆస్తి నిర్వహణను కూడా అమలు చేస్తుంది. డెవలపర్లు మరియు సిస్టమ్ ఆపరేటర్లు పరస్పర ఆధారితాలు మరియు కనెక్టివిటీతో సహా ఆస్తుల సమగ్ర జాబితాను తప్పనిసరిగా నిర్వహించాలి. ఇది షాడో AI ఆవిష్కరణకు మద్దతు ఇస్తుంది; ఐటి నాయకులు తమకు తెలియని నమూనాలను భద్రపరచలేరు. AI దాడులకు అనుగుణంగా నిర్దిష్ట విపత్తు పునరుద్ధరణ ప్రణాళికలను రూపొందించడం కూడా ప్రమాణానికి అవసరం, మోడల్ రాజీపడితే “తెలిసిన మంచి స్థితి” పునరుద్ధరించబడుతుందని నిర్ధారిస్తుంది.
థర్డ్-పార్టీ విక్రేతలు లేదా ఓపెన్ సోర్స్ రిపోజిటరీలపై ఆధారపడే ఎంటర్ప్రైజెస్ కోసం సప్లై చైన్ సెక్యూరిటీ తక్షణ ఘర్షణ పాయింట్ను అందిస్తుంది. ETSI ప్రమాణం ప్రకారం సిస్టమ్ ఆపరేటర్ AI మోడల్లు లేదా బాగా డాక్యుమెంట్ చేయని భాగాలను ఉపయోగించాలని ఎంచుకుంటే, వారు తప్పనిసరిగా ఆ నిర్ణయాన్ని సమర్థించాలి మరియు సంబంధిత భద్రతా ప్రమాదాలను నమోదు చేయాలి.
ఆచరణాత్మకంగా, సేకరణ బృందాలు ఇకపై “బ్లాక్ బాక్స్” పరిష్కారాలను అంగీకరించవు. డెవలపర్లు ప్రామాణికతను ధృవీకరించడానికి మోడల్ భాగాల కోసం క్రిప్టోగ్రాఫిక్ హ్యాష్లను అందించాలి. శిక్షణ డేటా పబ్లిక్గా సోర్స్ చేయబడితే (పెద్ద భాషా నమూనాల కోసం ఒక సాధారణ అభ్యాసం), డెవలపర్లు తప్పనిసరిగా సోర్స్ URL మరియు సముపార్జన టైమ్స్టాంప్ను డాక్యుమెంట్ చేయాలి. ఈ ఆడిట్ ట్రయల్ పోస్ట్-ఇసిడెంట్ ఇన్వెస్టిగేషన్లకు అవసరం, ప్రత్యేకించి మోడల్ శిక్షణ దశలో డేటా పాయిజనింగ్కు గురైందో లేదో గుర్తించడానికి ప్రయత్నించినప్పుడు.
ఒక ఎంటర్ప్రైజ్ బాహ్య కస్టమర్లకు APIని అందిస్తే, వారు తప్పనిసరిగా AI-కేంద్రీకృత దాడులను తగ్గించడానికి రూపొందించిన నియంత్రణలను తప్పనిసరిగా వర్తింపజేయాలి, విపక్షాలు మోడల్ను రివర్స్-ఇంజనీరింగ్ చేయకుండా నిరోధించడానికి రేటు పరిమితి లేదా విష డేటాను ఇంజెక్ట్ చేయడానికి అధిక రక్షణ వంటివి.
లైఫ్సైకిల్ విధానం మెయింటెనెన్స్ దశ వరకు విస్తరించింది, ఇక్కడ స్టాండర్డ్ ప్రధాన అప్డేట్లను – కొత్త డేటాపై మళ్లీ శిక్షణ ఇవ్వడం వంటివి – కొత్త వెర్షన్ని అమలు చేయడం వంటి వాటిని పరిగణిస్తుంది. ETSI AI ప్రమాణం ప్రకారం, ఇది పునరుద్ధరించబడిన భద్రతా పరీక్ష మరియు మూల్యాంకనం కోసం ఆవశ్యకతను ప్రేరేపిస్తుంది.
నిరంతర పర్యవేక్షణ కూడా అధికారికం చేయబడింది. సిస్టమ్ ఆపరేటర్లు లాగ్లను అప్టైమ్ కోసం మాత్రమే కాకుండా, భద్రతా ఉల్లంఘనను సూచించే “డేటా డ్రిఫ్ట్” లేదా ప్రవర్తనలో క్రమంగా మార్పులను గుర్తించడం కోసం తప్పనిసరిగా విశ్లేషించాలి. ఇది AI పర్యవేక్షణను పనితీరు మెట్రిక్ నుండి భద్రతా క్రమశిక్షణకు తరలిస్తుంది.
ప్రమాణం “జీవిత ముగింపు” దశను కూడా సూచిస్తుంది. మోడల్ ఉపసంహరించబడినప్పుడు లేదా బదిలీ చేయబడినప్పుడు, డేటా మరియు కాన్ఫిగరేషన్ వివరాలను సురక్షితంగా పారవేసేందుకు సంస్థలు తప్పనిసరిగా డేటా కస్టోడియన్లను కలిగి ఉండాలి. ఈ నిబంధన విస్మరించిన హార్డ్వేర్ లేదా మర్చిపోయిన క్లౌడ్ ఉదంతాల ద్వారా సున్నితమైన మేధో సంపత్తి లేదా శిక్షణ డేటా లీకేజీని నిరోధిస్తుంది.
కార్యనిర్వాహక పర్యవేక్షణ మరియు పాలన
ETSI EN 304 223ని అనుసరించడానికి ఇప్పటికే ఉన్న సైబర్సెక్యూరిటీ శిక్షణ కార్యక్రమాల సమీక్ష అవసరం. AI అవుట్పుట్ల ద్వారా సోషల్ ఇంజినీరింగ్ వంటి బెదిరింపుల గురించి సాధారణ సిబ్బందికి తెలుసు అయితే డెవలపర్లు AI కోసం సురక్షితమైన కోడింగ్ను అర్థం చేసుకున్నారని నిర్ధారిస్తూ, శిక్షణ నిర్దిష్ట పాత్రలకు అనుగుణంగా ఉండాలని ప్రమాణం ఆదేశించింది.
“AI వ్యవస్థలను భద్రపరచడానికి ఒక సాధారణ, కఠినమైన పునాదిని ఏర్పాటు చేయడంలో ETSI EN 304 223 ఒక ముఖ్యమైన ముందడుగును సూచిస్తుంది” అని ETSI యొక్క టెక్నికల్ కమిటీ ఫర్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ఛైర్ స్కాట్ కాడ్జో చెప్పారు.
“క్లిష్టమైన సేవలు మరియు అవస్థాపనలో AI ఎక్కువగా ఏకీకృతం అవుతున్న తరుణంలో, ఈ సాంకేతికతల సంక్లిష్టత మరియు విస్తరణ యొక్క వాస్తవికత రెండింటినీ ప్రతిబింబించే స్పష్టమైన, ఆచరణాత్మక మార్గదర్శకత్వం యొక్క లభ్యతను తక్కువగా అంచనా వేయలేము. ఈ ఫ్రేమ్వర్క్ను అందించడానికి సాగిన పని విస్తృతమైన సహకారం యొక్క ఫలితం మరియు సంస్థపై పూర్తి విశ్వాసం ఉంది. నమ్మదగినది మరియు డిజైన్ ద్వారా సురక్షితమైనది.
ETSI యొక్క AI భద్రతా ప్రమాణంలో ఈ బేస్లైన్లను అమలు చేయడం సురక్షితమైన ఆవిష్కరణ కోసం ఒక నిర్మాణాన్ని అందిస్తుంది. డాక్యుమెంట్ చేయబడిన ఆడిట్ ట్రయల్స్, స్పష్టమైన పాత్ర నిర్వచనాలు మరియు సరఫరా గొలుసు పారదర్శకతను అమలు చేయడం ద్వారా, భవిష్యత్ నియంత్రణ ఆడిట్ల కోసం రక్షణాత్మక స్థితిని ఏర్పరుచుకుంటూ AI స్వీకరణతో సంబంధం ఉన్న నష్టాలను సంస్థలు తగ్గించగలవు.
రాబోయే సాంకేతిక నివేదిక (ETSI TR 104 159) డీప్ఫేక్లు మరియు తప్పుడు సమాచారం వంటి సమస్యలను లక్ష్యంగా చేసుకుని ఉత్పాదక AIకి ప్రత్యేకంగా ఈ సూత్రాలను వర్తింపజేస్తుంది.
ఇవి కూడా చూడండి: అల్లిస్టర్ ఫ్రాస్ట్: AI ఇంటిగ్రేషన్ సక్సెస్ కోసం వర్క్ఫోర్స్ ఆందోళనను పరిష్కరించడం
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు ఇతర ప్రముఖ సాంకేతిక ఈవెంట్లతో కలిసి ఉంది. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
