అధిక స్థాయి ప్రమాదాన్ని తగ్గించడానికి అనేక చర్యలు తీసుకోవచ్చు మరియు వీటిలో, ఏజెంట్ గుర్తింపు, సమగ్ర లాగ్లు, పాలసీ తనిఖీలు, మానవ పర్యవేక్షణ, వేగవంతమైన ఉపసంహరణ, విక్రేతల నుండి డాక్యుమెంటేషన్ లభ్యత మరియు రెగ్యులేటర్లకు సమర్పించడానికి సాక్ష్యాలను రూపొందించడం వంటివి పరిగణనలోకి తీసుకోవలసినవి.
నిర్ణయాధికారులు పరిగణించగల అనేక ఎంపికలు ఉన్నాయి, ఇవి ఏజెంట్ సిస్టమ్లు చేపట్టిన కార్యకలాపాల రికార్డును రూపొందించడంలో సహాయపడతాయి. ఉదాహరణకు, పైథాన్ SDK (సాఫ్ట్వేర్ డెవలప్మెంట్ కిట్), Asqav, ప్రతి ఏజెంట్ యొక్క చర్యను క్రిప్టోగ్రాఫికల్గా సంతకం చేయగలదు మరియు అన్ని రికార్డులను మార్చలేని హాష్ గొలుసుకు లింక్ చేయగలదు – ఇది బ్లాక్చెయిన్ సాంకేతికతతో ఎక్కువగా అనుబంధించబడిన సాంకేతికత రకం. ఎవరైనా లేదా ఏదైనా రికార్డును మార్చినట్లయితే లేదా తీసివేసినట్లయితే, గొలుసు యొక్క ధృవీకరణ విఫలమవుతుంది.
పాలనా బృందాల కోసం, ఉపయోగించడం ఒక వెర్బోస్, సెంట్రలైజ్డ్, బహుశా-ఎన్క్రిప్టెడ్ సిస్టమ్ ఆఫ్ రికార్డ్ అన్ని ఏజెంట్ AIల కోసం వ్యక్తిగత సాఫ్ట్వేర్ ప్లాట్ఫారమ్ల ద్వారా ఉత్పత్తి చేయబడిన చెల్లాచెదురుగా ఉన్న టెక్స్ట్ లాగ్లకు మించి డేటాను అందించే కొలత. రికార్డులు ఎలా తయారు చేయబడతాయి మరియు ఉంచబడతాయి అనే సాంకేతిక వివరాలతో సంబంధం లేకుండా, IT నాయకులు సంస్థ అంతటా ఏజెంట్గా ఉన్న సందర్భాలు ఎక్కడ, ఎప్పుడు మరియు ఎలా పని చేస్తున్నాయో ఖచ్చితంగా చూడాలి.
స్వయంచాలక, AI-ఆధారిత కార్యాచరణ యొక్క ఏదైనా రికార్డింగ్లో చాలా సంస్థలు ఈ మొదటి దశలో విఫలమయ్యాయి. ఆపరేషన్లో ఉన్న ప్రతి ఏజెంట్ రిజిస్ట్రీని ప్రత్యేకంగా గుర్తించి, దాని సామర్థ్యాల రికార్డులు మరియు మంజూరు చేసిన అనుమతులతో ఉంచడం అవసరం. ఈ ‘ఏజెంటిక్ ఆస్తి జాబితా’ EU AI చట్టం యొక్క ఆర్టికల్ 9 యొక్క అవసరాలతో చక్కగా ముడిపడి ఉంది, ఇది ఇలా పేర్కొంది:
- ఆర్టికల్ 9: అధిక ప్రమాదం ఉన్న ప్రాంతాలకు, AI రిస్క్ మేనేజ్మెంట్ అనేది కొనసాగుతున్న, సాక్ష్యం-ఆధారిత ప్రక్రియగా ఉండాలి విస్తరణ యొక్క ప్రతి దశలో (అభివృద్ధి, తయారీ, ఉత్పత్తి) నిర్మించబడింది మరియు నిరంతరం సమీక్షించబడాలి.
ఇంకా, నిర్ణయాధికారులు చట్టం యొక్క ఆర్టికల్ 13 గురించి తెలుసుకోవాలి:
- అధిక-ప్రమాదకరమైన AI సిస్టమ్లు వాటిని అమలు చేసేవారు సిస్టమ్ అవుట్పుట్ను అర్థం చేసుకోగలిగే విధంగా రూపొందించబడాలి. అందువలన, మూడవ పక్షం నుండి AI సిస్టమ్ తప్పనిసరిగా దాని వినియోగదారులచే అర్థమయ్యేలా ఉండాలి (అపారదర్శక కోడ్ బొట్టు కాదు), మరియు దాని సురక్షితమైన మరియు చట్టబద్ధమైన వినియోగాన్ని నిర్ధారించడానికి తగినంత డాక్యుమెంటేషన్ను అందించాలి.
ఈ అవసరం అంటే మోడల్ ఎంపిక మరియు దాని విస్తరణ పద్ధతులు రెండూ సాంకేతికమైనవి మరియు నియంత్రణ పరిశీలనలు.
