కృత్రిమ మేధస్సు వ్యవస్థలు మన దైనందిన జీవితంలో క్లిష్టమైన నిర్ణయాలు తీసుకునే ప్రక్రియలను ఎక్కువగా వ్యాప్తి చేస్తున్నందున, AI అభివృద్ధిలో నైతిక ఫ్రేమ్వర్క్ల ఏకీకరణ పరిశోధన ప్రాధాన్యతగా మారుతోంది. యూనివర్శిటీ ఆఫ్ మేరీల్యాండ్లో (UMD), ఇంటర్ డిసిప్లినరీ బృందాలు సాధారణ తార్కికం, యంత్ర అభ్యాస అల్గారిథంలు మరియు సామాజిక-సాంకేతిక వ్యవస్థల మధ్య సంక్లిష్ట పరస్పర చర్యను పరిష్కరించండి.
తో ఇటీవల ఒక ఇంటర్వ్యూలో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ వార్తలుపోస్ట్ డాక్టోరల్ పరిశోధకులు ఇలారియా కెనావోట్టో మరియు వైష్ణవ్ కామేశ్వరన్ AI నైతికతలో సవాళ్లను పరిష్కరించడానికి తత్వశాస్త్రం, కంప్యూటర్ సైన్స్ మరియు మానవ-కంప్యూటర్ పరస్పర చర్యలో నైపుణ్యాన్ని కలపండి. వారి పని AI నిర్మాణాలలో నైతిక సూత్రాలను పొందుపరిచే సైద్ధాంతిక పునాదులు మరియు ఉపాధి వంటి అధిక-స్టేక్స్ డొమైన్లలో AI విస్తరణ యొక్క ఆచరణాత్మక చిక్కులను విస్తరించింది.
AI సిస్టమ్స్ యొక్క సాధారణ అవగాహన
UMD యొక్క వాల్యూస్-సెంటర్డ్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (VCAI) చొరవలో పరిశోధకురాలు Ilaria Canavotto, ఇన్స్టిట్యూట్ ఫర్ అడ్వాన్స్డ్ కంప్యూటర్ స్టడీస్ మరియు ఫిలాసఫీ డిపార్ట్మెంట్తో అనుబంధంగా ఉంది. ఆమె ఒక ప్రాథమిక ప్రశ్నను పరిష్కరిస్తోంది: మేము AI సిస్టమ్లను సాధారణ అవగాహనతో ఎలా నింపగలం? మానవ హక్కులు మరియు శ్రేయస్సుపై ప్రభావం చూపే నిర్ణయాలను AI ఎక్కువగా ప్రభావితం చేస్తున్నందున, వ్యవస్థలు నైతిక మరియు చట్టపరమైన నిబంధనలను అర్థం చేసుకోవాలి.
“నేను పరిశోధిస్తున్న ప్రశ్న ఏమిటంటే, రోబోట్, చాట్బాట్ వంటి ఏదైనా ఉండే యంత్రంలోకి మనం ఈ రకమైన సమాచారాన్ని, ప్రపంచం గురించిన ఈ సాధారణ అవగాహనను ఎలా పొందగలం?” కెనావోటో చెప్పారు.
ఆమె పరిశోధన రెండు విధానాలను మిళితం చేస్తుంది:
టాప్-డౌన్ విధానం: ఈ సాంప్రదాయ పద్ధతిలో సిస్టమ్లోకి స్పష్టంగా ప్రోగ్రామింగ్ నియమాలు మరియు నిబంధనలు ఉంటాయి. అయితే, Canavotto ఎత్తి చూపారు, “వాటిని అంత తేలికగా వ్రాయడం అసాధ్యం. ఎప్పుడూ కొత్త పరిస్థితులు ఎదురవుతూనే ఉంటాయి.”
బాటమ్-అప్ విధానం: డేటా నుండి నియమాలను సంగ్రహించడానికి మెషిన్ లెర్నింగ్ని ఉపయోగించే కొత్త పద్ధతి. మరింత అనువైనప్పటికీ, దీనికి పారదర్శకత లేదు: “ఈ విధానంలో సమస్య ఏమిటంటే, సిస్టమ్ ఏమి నేర్చుకుంటుందో మనకు నిజంగా తెలియదు మరియు దాని నిర్ణయాన్ని వివరించడం చాలా కష్టం,” అని కెనావోట్టో పేర్కొన్నాడు.
కెనావోట్టో మరియు ఆమె సహచరులు, జెఫ్ హోర్టీ మరియు ఎరిక్ పాక్యూట్, రెండు విధానాలలో ఉత్తమమైన వాటిని కలపడానికి ఒక హైబ్రిడ్ విధానాన్ని అభివృద్ధి చేస్తున్నారు. చట్టపరమైన మరియు సాధారణ తార్కికం ఆధారంగా వివరించదగిన నిర్ణయాధికార ప్రక్రియలను కొనసాగిస్తూ డేటా నుండి నియమాలను నేర్చుకోగల AI సిస్టమ్లను రూపొందించాలని వారు లక్ష్యంగా పెట్టుకున్నారు.
“(మా) విధానం (…) అనేది కృత్రిమ మేధస్సు మరియు చట్టం అని పిలువబడే ఫీల్డ్పై ఆధారపడి ఉంటుంది. కాబట్టి, ఈ రంగంలో, వారు డేటా నుండి సమాచారాన్ని సేకరించేందుకు అల్గారిథమ్లను అభివృద్ధి చేశారు. కాబట్టి మేము ఈ అల్గారిథమ్లలో కొన్నింటిని సాధారణీకరించాలనుకుంటున్నాము మరియు చట్టపరమైన తార్కికం మరియు సాధారణ తార్కికం ఆధారంగా మరింత సాధారణంగా సమాచారాన్ని సేకరించగల వ్యవస్థను కలిగి ఉండాలనుకుంటున్నాము, ”ఆమె వివరిస్తుంది.
నియామక పద్ధతులు మరియు వైకల్యం చేరికపై AI ప్రభావం
కెనావోట్టో సైద్ధాంతిక పునాదులపై దృష్టి సారిస్తుండగా, UMD యొక్క NSF ఇన్స్టిట్యూట్ ఫర్ ట్రస్ట్వర్తీ AI మరియు లా అండ్ సొసైటీకి అనుబంధంగా ఉన్న వైష్ణవ్ కామేశ్వరన్, AI యొక్క వాస్తవ-ప్రపంచ ప్రభావాలను, ప్రత్యేకించి వైకల్యాలున్న వ్యక్తులపై దాని ప్రభావాన్ని పరిశీలిస్తాడు.
కామేశ్వరన్ యొక్క పరిశోధన నియామక ప్రక్రియలలో AI యొక్క ఉపయోగాన్ని పరిశీలిస్తుంది, వైకల్యాలున్న అభ్యర్థుల పట్ల సిస్టమ్లు అనుకోకుండా ఎలా వివక్ష చూపగలదో వెలికితీస్తుంది. అతను వివరించాడు, “మేము పని చేస్తున్నాము… బ్లాక్ బాక్స్ను కొద్దిగా తెరవండి, ఈ అల్గారిథమ్లు బ్యాక్ ఎండ్లో ఏమి చేస్తాయో మరియు అవి అభ్యర్థులను ఎలా అంచనా వేయడం ప్రారంభిస్తాయో అర్థం చేసుకోవడానికి ప్రయత్నించండి.”
అనేక AI-ఆధారిత నియామక ప్లాట్ఫారమ్లు అభ్యర్థులను అంచనా వేయడానికి కంటి పరిచయం మరియు ముఖ కవళికలు వంటి సాధారణ ప్రవర్తనా సూచనలపై ఎక్కువగా ఆధారపడతాయని అతని పరిశోధనలు వెల్లడిస్తున్నాయి. ఈ విధానం నిర్దిష్ట వైకల్యాలున్న వ్యక్తులకు గణనీయంగా ప్రతికూలతను కలిగిస్తుంది. ఉదాహరణకు, దృష్టి లోపం ఉన్న అభ్యర్థులు కంటి సంబంధాన్ని కొనసాగించడంలో ఇబ్బంది పడవచ్చు, AI వ్యవస్థలు తరచుగా నిశ్చితార్థం లేకపోవడాన్ని సూచిస్తాయి.
“ఆ లక్షణాలలో కొన్నింటిపై దృష్టి పెట్టడం ద్వారా మరియు ఆ లక్షణాల ఆధారంగా అభ్యర్థులను అంచనా వేయడం ద్వారా, ఈ ప్లాట్ఫారమ్లు ఇప్పటికే ఉన్న సామాజిక అసమానతలను మరింత పెంచుతాయి” అని కామేశ్వరన్ హెచ్చరించాడు. ఈ ధోరణి ఇప్పటికే గణనీయమైన ఉపాధి సవాళ్లను ఎదుర్కొంటున్న శ్రామికశక్తిలో వికలాంగులను మరింత దూరం చేయగలదని ఆయన వాదించారు.
విస్తృత నైతిక ప్రకృతి దృశ్యం
AI చుట్టూ ఉన్న నైతిక ఆందోళనలు వారి నిర్దిష్ట అధ్యయన రంగాలకు మించి విస్తరించి ఉన్నాయని పరిశోధకులు ఇద్దరూ నొక్కి చెప్పారు. వారు అనేక కీలక సమస్యలను తాకారు:
- డేటా గోప్యత మరియు సమ్మతి: ముఖ్యంగా AI శిక్షణ కోసం డేటా సేకరణకు సంబంధించి ప్రస్తుత సమ్మతి మెకానిజమ్ల అసమర్థతను పరిశోధకులు హైలైట్ చేశారు. COVID-19 మహమ్మారి సమయంలో హాని కలిగించే జనాభా తెలియకుండానే AI- నడిచే రుణ ప్లాట్ఫారమ్లకు విస్తృతమైన వ్యక్తిగత డేటాను అప్పగించిన భారతదేశంలో తన పని నుండి కామేశ్వరన్ ఉదాహరణలను ఉదహరించారు.
- పారదర్శకత మరియు వివరణ: AI వ్యవస్థలు ఎలా నిర్ణయాలు తీసుకుంటాయో అర్థం చేసుకోవడం యొక్క ప్రాముఖ్యతను ఇద్దరు పరిశోధకులు నొక్కిచెప్పారు, ప్రత్యేకించి ఈ నిర్ణయాలు ప్రజల జీవితాలను గణనీయంగా ప్రభావితం చేసినప్పుడు.
- సామాజిక వైఖరులు మరియు పక్షపాతాలు: సాంకేతిక పరిష్కారాలు మాత్రమే వివక్ష సమస్యలను పరిష్కరించలేవని కామేశ్వరన్ అభిప్రాయపడ్డారు. వికలాంగులతో సహా అట్టడుగు వర్గాలకు సంబంధించిన వైఖరిలో విస్తృత సామాజిక మార్పులు అవసరం.
- ఇంటర్ డిసిప్లినరీ సహకారం: UMDలో పరిశోధకుల పని, AI నీతిని పరిష్కరించడంలో తత్వశాస్త్రం, కంప్యూటర్ సైన్స్ మరియు ఇతర విభాగాల మధ్య సహకారం యొక్క ప్రాముఖ్యతను ఉదహరిస్తుంది.
ఎదురుచూపులు: పరిష్కారాలు మరియు సవాళ్లు
సవాళ్లు ముఖ్యమైనవి అయినప్పటికీ, పరిశోధకులు ఇద్దరూ పరిష్కారాల కోసం పనిచేస్తున్నారు:
- నార్మేటివ్ AIకి కెనావోట్టో యొక్క హైబ్రిడ్ విధానం మరింత నైతికంగా-అవగాహన మరియు వివరించదగిన AI వ్యవస్థలకు దారితీయవచ్చు.
- సంభావ్య వివక్ష కోసం AI నియామక ప్లాట్ఫారమ్లను అంచనా వేయడానికి న్యాయవాద సమూహాల కోసం ఆడిట్ సాధనాలను అభివృద్ధి చేయాలని కామేశ్వరన్ సూచించారు.
- AI-సంబంధిత వివక్షను పరిష్కరించడానికి అమెరికన్లు వికలాంగుల చట్టాన్ని నవీకరించడం వంటి విధాన మార్పుల అవసరాన్ని ఇద్దరూ నొక్కిచెప్పారు.
అయినప్పటికీ, వారు సమస్యల సంక్లిష్టతను కూడా అంగీకరిస్తారు. కామేశ్వరన్ పేర్కొన్నట్లుగా, “దురదృష్టవశాత్తూ, కొన్ని రకాల డేటా మరియు ఆడిటింగ్ సాధనాలతో AIకి శిక్షణ ఇవ్వడానికి సాంకేతిక పరిష్కారం దానికదే సమస్యను పరిష్కరించగలదని నేను అనుకోను. కాబట్టి దీనికి బహుముఖ విధానం అవసరం.”
మన జీవితాలపై AI ప్రభావం గురించి ప్రజలకు మరింత అవగాహన కల్పించాల్సిన అవసరం పరిశోధకుల పని నుండి కీలకమైన అంశం. వ్యక్తులు ఎంత డేటాను షేర్ చేస్తున్నారో లేదా అది ఎలా ఉపయోగించబడుతుందో తెలుసుకోవాలి. Canavotto ఎత్తి చూపినట్లుగా, కంపెనీలు తరచుగా ఈ సమాచారాన్ని అస్పష్టం చేయడానికి ప్రోత్సాహాన్ని కలిగి ఉంటాయి, వాటిని “మీరు నాకు డేటాను అందిస్తే నా సేవను మీకు చెప్పడానికి ప్రయత్నించే కంపెనీలు మీకు మెరుగ్గా ఉంటాయి” అని నిర్వచించాయి.
ప్రజలకు అవగాహన కల్పించడానికి మరియు కంపెనీలను జవాబుదారీగా ఉంచడానికి చాలా ఎక్కువ చేయాల్సిన అవసరం ఉందని పరిశోధకులు వాదిస్తున్నారు. అంతిమంగా, కెనావోట్టో మరియు కామేశ్వరన్ యొక్క ఇంటర్ డిసిప్లినరీ విధానం, తాత్విక విచారణను ఆచరణాత్మక అనువర్తనంతో కలపడం, సరైన దిశలో ముందుకు సాగడం, AI వ్యవస్థలు శక్తివంతమైనవి కానీ నైతికంగా మరియు సమానమైనవిగా ఉండేలా చూస్తాయి.
ఇవి కూడా చూడండి: సహాయం చేయడానికి లేదా అడ్డుకోవడానికి నిబంధనలు: క్లౌడ్ఫ్లేర్ టేక్
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర ఈవెంట్ సహా ఇతర ప్రముఖ ఈవెంట్లతో సహ-స్థానంలో ఉంది ఇంటెలిజెంట్ ఆటోమేషన్ కాన్ఫరెన్స్, బ్లాక్ ఎక్స్, డిజిటల్ ట్రాన్స్ఫర్మేషన్ వీక్మరియు సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో.
TechForge ద్వారా అందించబడే ఇతర రాబోయే ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
