AI మనకు అందించే అన్ని అవకాశాల కోసం, సాంకేతికత తప్పుగా పనిచేసే లేదా రాజీపడే అవకాశం ఎప్పుడూ ఉంటుంది. AI సిస్టమ్ సంక్షోభం ఏర్పడినప్పుడు, కొత్త పరిశోధన ISACA సర్వే చేసిన మెజారిటీ సంస్థలు AI సిస్టమ్ ఎమర్జెన్సీని ఎంత త్వరగా ఆపగలవో వివరించలేకపోయాయని లేదా సమస్యకు కారణమైన దాని గురించి నివేదించలేకపోయాయని కనుగొన్నారు.
ప్రకారం ISACA యొక్క నివేదిక59% డిజిటల్ ట్రస్ట్ నిపుణులు తమ సంస్థ భద్రతా సంఘటన సమయంలో AI సిస్టమ్కు ఎంత త్వరగా అంతరాయం కలిగిస్తుందో మరియు ఆపివేయగలదో అర్థం కాలేదు. కేవలం 21% మంది అర్ధ గంటలో అర్ధవంతంగా అడుగు పెట్టగలరని నివేదించారు. పాడైన AI సిస్టమ్లు తనిఖీ చేయకుండా పనిచేయడం కొనసాగించగల ల్యాండ్స్కేప్ను సూచిస్తుంది, ఇది కోలుకోలేని నష్టానికి దారి తీస్తుంది.
అలీ సర్రాఫీ, CEO & వ్యవస్థాపకుడు కోవంత్ఒక స్వయంప్రతిపత్త సంస్థ ప్లాట్ఫారమ్, “ISACA యొక్క పరిశోధనలు సంస్థలు AIని అమలు చేసే విధానంలో ఒక ప్రధాన నిర్మాణ సమస్యను సూచిస్తాయి. వాటి చర్యలను పర్యవేక్షించడానికి మరియు ఆడిట్ చేయడానికి అవసరమైన గవర్నెన్స్ లేయర్ లేకుండా సిస్టమ్లు క్లిష్టమైన వర్క్ఫ్లోలలో పొందుపరచబడుతున్నాయి. ఒక వ్యాపారం త్వరగా AI వ్యవస్థను నియంత్రించలేకపోతే, దాని వ్యాపారాన్ని గుర్తించలేకపోతే, దాని వ్యాపారాన్ని గుర్తించండి. ఆ వ్యవస్థ.”
AI వైఫల్యాలు మరియు ప్రమాదాలు
మొత్తం మీద, 42% మంది ప్రతివాదులు మాత్రమే తమ సంస్థ తీవ్రమైన AI సంఘటనలను విశ్లేషించి, స్పష్టం చేయగలరని విశ్వాసం వ్యక్తం చేశారు, తద్వారా సాధ్యమయ్యే కార్యాచరణ వైఫల్యాలు మరియు భద్రతా ప్రమాదాలకు దారి తీస్తుంది. అంతేకాకుండా, ఈ సంఘటనలను రెగ్యులేటర్లు మరియు నాయకత్వానికి వివరించకుండా, వ్యాపారాలు చట్టపరమైన జరిమానాలు మరియు ప్రజల ఎదురుదెబ్బలను ఎదుర్కోవచ్చు.
తప్పుల నుండి నేర్చుకోవడానికి సరైన విశ్లేషణ అవసరం. స్పష్టమైన అవగాహన లేకుండా, పునరావృత సంఘటనల సంభావ్యత పెరుగుతుంది. సమర్థవంతమైన AI గవర్నెన్స్తో AIని బాధ్యతాయుతంగా నిర్వహించడం చాలా ముఖ్యం, అయినప్పటికీ ISACA యొక్క పరిశోధనలు ఇది తరచుగా కనిపించడం లేదని సూచిస్తున్నాయి.
జవాబుదారీతనం అనేది మరొక అస్పష్టమైన ప్రాంతం, 20% మంది AI సిస్టమ్ నష్టాన్ని కలిగిస్తే ఎవరు బాధ్యత వహిస్తారో తమకు తెలియదని నివేదించారు. కేవలం 38% మంది బోర్డు లేదా ఎగ్జిక్యూటివ్ని అంతిమంగా బాధ్యులుగా గుర్తించారు.
AI స్వీకరణను మందగించడం సమాధానం కాదని సర్రాఫీ పేర్కొన్నాడు; బదులుగా, అది ఎలా నిర్వహించబడుతుందో పునరాలోచించడం కీలకం. “AI సిస్టమ్లను డిజిటల్ ఉద్యోగులుగా పరిగణించే నిర్మాణాత్మక మేనేజ్మెంట్ లేయర్లో కూర్చోవాలి, స్పష్టమైన యాజమాన్యం, నిర్వచించబడిన ఎస్కలేషన్ మార్గాలు మరియు రిస్క్ థ్రెషోల్డ్లు దాటినప్పుడు తక్షణమే పాజ్ చేయబడే లేదా భర్తీ చేయగల సామర్థ్యం. ఇది మొదటి రోజు నుండి ఆర్కిటెక్చర్లో నిర్మించబడాలి, ప్రతి స్థాయిలో రూపకల్పన మరియు నియంత్రణతో ఈ హక్కును పొందే సంస్థలు ప్రమాదాన్ని తగ్గించవు, అవి వ్యాపారంలో AIని స్కేల్ చేయగలవు.
అయితే, 40% మంది ప్రతివాదులు మానవులు దాదాపు అన్ని AI చర్యలను అమలు చేయడానికి ముందు ఆమోదించారని మరియు మరో 26% మంది AI ఫలితాలను అంచనా వేస్తారని చెప్పడంతో కొంత భరోసా ఉంది. ఇలా చెప్పుకుంటూ పోతే, మెరుగైన పాలనా అవస్థాపన లేకుండా, సమస్యలను తీవ్రతరం చేసే ముందు గుర్తించి పరిష్కరించడానికి మానవ పర్యవేక్షణ సరిపోదు.
ISACA యొక్క పరిశోధనలు వివిధ రంగాలలో AI ఎలా అమలు చేయబడుతున్నాయి అనే ప్రధాన నిర్మాణ సమస్యను సూచిస్తాయి. మూడింట ఒక వంతు సంస్థలు తమ ఉద్యోగులను పని ఉత్పత్తులలో AI ఎక్కడ మరియు ఎప్పుడు ఉపయోగించబడుతుందో వెల్లడించాల్సిన అవసరం లేదు కాబట్టి, బ్లైండ్ స్పాట్ల సంభావ్యత పెరుగుతుంది.
సీనియర్ నాయకత్వాన్ని మరింత జవాబుదారీగా చేసే మరింత కఠినమైన నిబంధనలు ఉన్నప్పటికీ, సంస్థలు AIని సురక్షితంగా మరియు సమర్థవంతంగా అమలు చేయడంలో మరియు ఉపయోగించడంలో విఫలమవుతున్నాయి. చాలా వ్యాపారాలు AI ప్రమాదాన్ని సాంకేతిక సమస్యగా పరిగణిస్తున్నట్లు కనిపిస్తోంది, మొత్తం సంస్థలో జాగ్రత్తగా నిర్వహించాల్సిన అవసరం లేదు.
AI యొక్క ఏకీకరణ మరియు చర్యలు ఎలా నిర్వహించబడతాయో మార్చడం చాలా అవసరం. సరైన పాలన మరియు జవాబుదారీతనం లేకుండా, వ్యాపారాలు తమ AI వ్యవస్థలపై నియంత్రణలో ఉండవు. నియంత్రణ లేకుండా, చాలా చిన్న లోపాలు కూడా పలు వ్యాపారాలు కోలుకోలేని కీర్తి మరియు ఆర్థిక హానిని కలిగిస్తాయి.
(చిత్రం ద్వారా ఫౌండ్రీ కో నుండి పిక్సాబే)
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర కార్యక్రమం ఇందులో భాగమే టెక్ఎక్స్ మరియు ఇతర ప్రముఖ సాంకేతిక ఈవెంట్లతో కలిసి ఉంది. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI వార్తలు ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
