మైనర్లతో పరస్పర చర్యలతో సహా, ఇబ్బందికరమైన ప్రవర్తనను బహిర్గతం చేసిన నివేదికల తర్వాత దాని AI చాట్బాట్లు వినియోగదారులతో ఎలా సంకర్షణ చెందుతాయో మెటా సవరించుకుంటుంది. కంపెనీ తెలిపింది టెక్ క్రంచ్ స్వీయ-హాని, ఆత్మహత్య లేదా తినే రుగ్మతలు వంటి అంశాలపై టీనేజర్లతో నిమగ్నమవ్వకూడదని మరియు శృంగార పరిహాసాన్ని నివారించడానికి ఇప్పుడు దాని బాట్లకు శిక్షణ ఇస్తోంది. ఇవి దీర్ఘకాలిక నియమాలను అభివృద్ధి చేసేటప్పుడు తాత్కాలిక దశలు.
మార్పులు అనుసరిస్తాయి a రాయిటర్స్ మెటా యొక్క వ్యవస్థలు కనుగొన్న దర్యాప్తు తక్కువ వయస్సు గల ప్రముఖుల షర్ట్లెస్ చిత్రాలతో సహా లైంగిక కంటెంట్ను ఉత్పత్తి చేస్తుంది మరియు పిల్లలను శృంగార లేదా సూచించే సంభాషణల్లో నిమగ్నం చేస్తుంది. న్యూయార్క్లో చాట్బాట్ అందించిన చిరునామాకు పరుగెత్తిన తరువాత మరణిస్తున్నట్లు వార్తా సంస్థ నివేదించిన ఒక కేసు వివరించింది.
కంపెనీ తప్పులు చేసినట్లు మెటా ప్రతినిధి స్టెఫానీ ఓట్వే అంగీకరించారు. మెటా “ఈ అంశాలపై టీనేజ్లతో నిమగ్నమవ్వడమే కాదు, నిపుణుల వనరులకు మార్గనిర్దేశం చేయడానికి” మా AI లకు శిక్షణ ఇస్తోంది “అని ఆమె అన్నారు మరియు“ రష్యన్ అమ్మాయి ”వంటి అధిక లైంగికీకరించిన వాటి వంటి కొన్ని AI పాత్రలు పరిమితం చేయబడతాయి.
పిల్లల భద్రతా న్యాయవాదులు కంపెనీ ఇంతకుముందు వ్యవహరించాలని వాదించారు. మోలీ రోజ్ ఫౌండేషన్ యొక్క ఆండీ బర్రోస్ దీనిని “ఆశ్చర్యపరిచేది” అని పిలిచారు, యువకులను ప్రమాదంలో పడే మార్గాల్లో బాట్లను అనుమతించారు. ఆయన ఇలా అన్నారు: “మరింత భద్రతా చర్యలు స్వాగతించబడుతున్నప్పటికీ, ఉత్పత్తులను మార్కెట్లో ఉంచడానికి ముందు బలమైన భద్రతా పరీక్ష జరగాలి – హాని జరిగినప్పుడు పునరాలోచనలో కాదు.”
AI దుర్వినియోగంతో విస్తృత సమస్యలు
AI చాట్బాట్లు హాని కలిగించే వినియోగదారులను ఎలా ప్రభావితం చేస్తాయనే దాని గురించి విస్తృత చింతల మధ్య మెటా యొక్క AI చాట్బాట్ల పరిశీలన వస్తుంది. కాలిఫోర్నియా జంట ఇటీవల ఓపెనైపై దావా వేసింది, చాట్గ్ప్ట్ తమ టీనేజ్ కొడుకును తన ప్రాణాలను తీయమని ప్రోత్సహించింది. ఓపెనాయ్ అప్పటి నుండి దాని సాంకేతిక పరిజ్ఞానం యొక్క ఆరోగ్యకరమైన వినియోగాన్ని ప్రోత్సహించడానికి సాధనాలపై పనిచేస్తుందని, ఒక బ్లాగ్ పోస్ట్లో “మునుపటి సాంకేతిక పరిజ్ఞానాల కంటే AI ఎక్కువ ప్రతిస్పందించే మరియు వ్యక్తిగతంగా అనిపించవచ్చు, ముఖ్యంగా మానసిక లేదా మానసిక క్షోభను ఎదుర్కొంటున్న హాని కలిగించే వ్యక్తుల కోసం.”
సరైన భద్రత లేకుండా AI సంస్థలు ఉత్పత్తులను చాలా త్వరగా విడుదల చేస్తున్నాయా అనే దానిపై పెరుగుతున్న చర్చను ఈ సంఘటనలు హైలైట్ చేస్తాయి. చాట్బాట్లు ఉపయోగకరంగా ఉన్నప్పటికీ, హానికరమైన కంటెంట్ను విస్తరించవచ్చని లేదా దానిని ప్రశ్నించడానికి సన్నద్ధం కాని వ్యక్తులకు తప్పుదోవ పట్టించే సలహాలు ఇవ్వవచ్చని అనేక దేశాల్లోని చట్టసభ సభ్యులు ఇప్పటికే హెచ్చరించారు.
మెటా యొక్క AI స్టూడియో మరియు చాట్బాట్ వంచన సమస్యలు
ఇంతలో, రాయిటర్స్ టేలర్ స్విఫ్ట్ మరియు స్కార్లెట్ జోహన్సన్ వంటి ప్రముఖుల సరసమైన “పేరడీ” చాట్బాట్లను సృష్టించడానికి మెటా యొక్క AI స్టూడియో ఉపయోగించబడిందని నివేదించింది. పరీక్షకులు బాట్లు తరచూ నిజమైన వ్యక్తులు అని, లైంగిక పురోగతిలో నిమగ్నమై ఉన్నాయని మరియు కొన్ని సందర్భాల్లో మైనర్లతో సహా అనుచిత చిత్రాలను రూపొందించారు. విలేకరులను సంప్రదించిన తరువాత మెటా అనేక బాట్లను తొలగించినప్పటికీ, చాలామంది చురుకుగా ఉన్నారు.
కొన్ని AI చాట్బాట్లు బయటి వినియోగదారులచే సృష్టించబడ్డాయి, కాని మరికొన్ని మెటా లోపలి నుండి వచ్చాయి. దాని ఉత్పాదక AI విభాగంలో ఉత్పత్తి సీసం చేసిన ఒక చాట్బాట్ టేలర్ స్విఫ్ట్ వలె నటించింది మరియు ఆహ్వానించబడింది a రాయిటర్స్ రిపోర్టర్ తన టూర్ బస్సులో “రొమాంటిక్ ఫ్లింగ్” కోసం కలవడానికి. మెటా యొక్క విధానాలు లైంగికంగా సూచించే చిత్రాలను స్పష్టంగా నిషేధించడం మరియు ప్రజా వ్యక్తుల ప్రత్యక్ష వంచనను స్పష్టంగా నిషేధించాయి.
AI చాట్బాట్ వంచన సమస్య ముఖ్యంగా సున్నితమైనది. సెలబ్రిటీలు వారి పోలిక దుర్వినియోగం అయినప్పుడు పలుకుబడి నష్టాలను ఎదుర్కొంటారు, కాని సాధారణ వినియోగదారులను కూడా మోసపోతారని నిపుణులు అభిప్రాయపడ్డారు. స్నేహితుడు, గురువు లేదా శృంగార భాగస్వామిగా నటిస్తున్న చాట్బాట్ ప్రైవేట్ సమాచారాన్ని పంచుకోవడానికి లేదా అసురక్షిత పరిస్థితులలో కలవడానికి ఒకరిని ప్రోత్సహించవచ్చు.
వాస్తవ ప్రపంచ నష్టాలు
సమస్యలు వినోదానికి పరిమితం కాలేదు. AI చాట్బాట్లు నిజమైన వ్యక్తులుగా నటిస్తున్న నకిలీ చిరునామాలు మరియు ఆహ్వానాలను అందించాయి, మెటా యొక్క AI సాధనాలను ఎలా పర్యవేక్షిస్తున్నారు అనే ప్రశ్నలను లేవనెత్తుతున్నారు. ఒక ఉదాహరణలో న్యూజెర్సీలో 76 ఏళ్ల వ్యక్తి పాల్గొన్నాడు, అతని పట్ల భావాలు ఉన్నాయని పేర్కొన్న చాట్బాట్ను కలవడానికి పరుగెత్తేటప్పుడు పడిపోయిన తరువాత మరణించాడు.
రెగ్యులేటర్లు AI ని ఎందుకు దగ్గరగా చూస్తున్నారో ఇలాంటి కేసులు వివరిస్తాయి. సెనేట్ మరియు 44 స్టేట్ అటార్నీ జనరల్ ఇప్పటికే మెటా యొక్క పద్ధతులను పరిశీలించడం ప్రారంభించారు, ఇది సంస్థ యొక్క అంతర్గత సంస్కరణలకు రాజకీయ ఒత్తిడిని జోడించింది. వారి ఆందోళన మైనర్ల గురించి మాత్రమే కాదు, AI పాత లేదా హాని కలిగించే వినియోగదారులను ఎలా మార్చగలదు అనే దాని గురించి కూడా.
ఇది ఇంకా మెరుగుదలలపై పనిచేస్తుందని మెటా చెప్పారు. దీని ప్లాట్ఫారమ్లు 13 నుండి 18 సంవత్సరాల వయస్సు గల వినియోగదారులను కఠినమైన కంటెంట్ మరియు గోప్యత రాయిటర్స్. తప్పుడు వైద్య సలహాలను అందించే బాట్లు మరియు జాత్యహంకార కంటెంట్ను రూపొందించడం ఇందులో ఉంది.
మెటా యొక్క AI చాట్బాట్ విధానాలపై కొనసాగుతున్న ఒత్తిడి
కొన్నేళ్లుగా, మెటా తన సోషల్ మీడియా ప్లాట్ఫారమ్ల భద్రతపై విమర్శలను ఎదుర్కొంది, ముఖ్యంగా పిల్లలు మరియు టీనేజర్ల గురించి. ఇప్పుడు మెటా యొక్క AI చాట్బాట్ ప్రయోగాలు ఇలాంటి పరిశీలనను గీస్తున్నాయి. హానికరమైన చాట్బాట్ ప్రవర్తనను పరిమితం చేయడానికి కంపెనీ చర్యలు తీసుకుంటుండగా, దాని పేర్కొన్న విధానాల మధ్య అంతరం మరియు దాని సాధనాలు ఉపయోగించిన విధానం ఆ నియమాలను అమలు చేయగలదా అనే దానిపై కొనసాగుతున్న ప్రశ్నలను లేవనెత్తుతుంది.
బలమైన భద్రతలు అమలులోకి వచ్చే వరకు, నియంత్రకాలు, పరిశోధకులు మరియు తల్లిదండ్రులు దాని AI ప్రజల ఉపయోగం కోసం సిద్ధంగా ఉన్నారా అనే దానిపై మెటాను నొక్కడం కొనసాగిస్తారు.
(ఫోటో మాగ్జిమ్ టోల్చిన్స్కి)
ఇవి కూడా చూడండి: ఏజెంట్ AI: ప్రామిస్, సంశయవాదం మరియు ఆగ్నేయాసియాకు దాని అర్థం
పరిశ్రమ నాయకుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & పెద్ద డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లలో జరుగుతోంది. సమగ్ర సంఘటన భాగం టెక్ఎక్స్ మరియు ఇతర ప్రముఖ సాంకేతిక సంఘటనలతో సహ-ఉంచబడింది. క్లిక్ చేయండి ఇక్కడ మరింత సమాచారం కోసం.
AI న్యూస్ ద్వారా ఆధారితం టెక్ఫోర్జ్ మీడియా. రాబోయే ఇతర ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
(ట్యాగ్స్టోట్రాన్స్లేట్) చాట్బాట్ (టి) ఎథిక్స్ (టి) మెటా (టి) విధానం
