ప్రత్యర్థిని లక్ష్యంగా చేసుకుని ఓపెనాయ్ పరిశోధకుడి నుండి AI భద్రత గురించి విమర్శలు పరిశ్రమ పోరాటంలో ఒక కిటికీని తెరిచాయి: తనకు వ్యతిరేకంగా యుద్ధం.
ఇది ప్రస్తుతం సెలవులో ఉన్న హార్వర్డ్ ప్రొఫెసర్ బోజ్ బరాక్ అనే హెచ్చరికతో ప్రారంభమైంది మరియు ఓపెనైలో భద్రతపై పనిచేసింది. అతను XAI యొక్క గ్రోక్ మోడల్ను “పూర్తిగా బాధ్యతా రహితంగా” ప్రారంభించాడు, దాని శీర్షిక-పట్టుకునే చేష్టల వల్ల కాదు, కానీ తప్పిపోయిన కారణంగా: పబ్లిక్ సిస్టమ్ కార్డ్, వివరణాత్మక భద్రతా మూల్యాంకనాలు, పెళుసైన ప్రమాణంగా మారిన పారదర్శకత యొక్క ప్రాథమిక కళాఖండాలు.
ఇది స్పష్టమైన మరియు అవసరమైన కాల్. మాజీ ఓపెని ఇంజనీర్ కాల్విన్ ఫ్రెంచ్-ఓవెన్ నుండి, అతను సంస్థను విడిచిపెట్టిన మూడు వారాల తరువాత పోస్ట్ చేసిన దాపరికం ప్రతిబింబం, కథ యొక్క మిగిలిన సగం మాకు చూపిస్తుంది.
ఫ్రెంచ్-ఓవెన్ ఖాతా ఓపెనైలో పెద్ద సంఖ్యలో ప్రజలు నిజంగా భద్రతపై పనిచేస్తున్నారని సూచిస్తుంది, ద్వేషపూరిత ప్రసంగం, బయో-ఆయుధాలు మరియు స్వీయ-హాని వంటి నిజమైన బెదిరింపులపై దృష్టి పెడుతుంది. అయినప్పటికీ, అతను అంతర్దృష్టిని ఇస్తాడు: “చేసిన చాలా పని ప్రచురించబడలేదు,” అని అతను రాశాడు, ఓపెనాయ్ “అక్కడకు వెళ్ళడానికి నిజంగా ఎక్కువ చేయాలి” అని ఆయన రాశారు.
ఇక్కడ, మంచి నటుడి యొక్క సాధారణ కథనం చెడ్డదాన్ని తిట్టడం కూలిపోతుంది. దాని స్థానంలో, నిజమైన, పరిశ్రమ-విస్తృత గందరగోళాన్ని మేము చూస్తాము. మొత్తం AI పరిశ్రమ ‘భద్రత-వేగం పారడాక్స్’ లో చిక్కుకుంది, పోటీ చేయడానికి బ్రేక్నెక్ వేగంతో కదలవలసిన అవసరం మరియు మమ్మల్ని సురక్షితంగా ఉంచడానికి జాగ్రత్తగా కదలవలసిన నైతిక అవసరం మధ్య లోతైన, నిర్మాణాత్మక సంఘర్షణ.
ఫ్రెంచ్-ఓవెన్ ఓపెనాయ్ నియంత్రిత గందరగోళ స్థితిలో ఉందని సూచిస్తుంది, ఒకే సంవత్సరంలో దాని హెడ్కౌంట్ను 3,000 కు పైగా మూడు రెట్లు పెంచింది, ఇక్కడ “మీరు త్వరగా స్కేల్ చేసినప్పుడు ప్రతిదీ విచ్ఛిన్నమవుతుంది.” ఈ అస్తవ్యస్తమైన శక్తి గూగుల్ మరియు ఆంత్రోపిక్కు వ్యతిరేకంగా AGI కి “మూడు-గుర్రాల జాతి” యొక్క అపారమైన ఒత్తిడి ద్వారా మార్చబడుతుంది. ఫలితం నమ్మశక్యం కాని వేగం యొక్క సంస్కృతి, కానీ గోప్యతలో ఒకటి.
యొక్క సృష్టిని పరిగణించండి కోడెక్స్ఓపెనై యొక్క కోడింగ్ ఏజెంట్. ఫ్రెంచ్-ఓవెన్ ఈ ప్రాజెక్టును “మాడ్-డాష్ స్ప్రింట్” అని పిలుస్తాడు, ఇక్కడ ఒక చిన్న బృందం కేవలం ఏడు వారాల్లో మొదటి నుండి ఒక విప్లవాత్మక ఉత్పత్తిని నిర్మించింది.
ఇది వేగం యొక్క పాఠ్యపుస్తక ఉదాహరణ; అర్ధరాత్రి వరకు చాలా రాత్రులు మరియు వారాంతాల్లో కూడా పని చేయడం గురించి వివరిస్తుంది. ఆ వేగం యొక్క మానవ ఖర్చు ఇది. ఈ వేగంగా కదిలే వాతావరణంలో, AI భద్రతా పరిశోధనను ప్రచురించే నెమ్మదిగా, పద్దతిగా ఉన్న పని జాతి నుండి పరధ్యానంగా అనిపిస్తుంది.
ఈ పారడాక్స్ దుర్మార్గం నుండి పుట్టలేదు, కానీ శక్తివంతమైన, ఇంటర్లాకింగ్ శక్తుల సమితి.
మొదట ఉండటానికి స్పష్టమైన పోటీ ఒత్తిడి ఉంది. ఈ ప్రయోగశాలల యొక్క సాంస్కృతిక DNA కూడా ఉంది, ఇది “శాస్త్రవేత్తలు మరియు టింకరర్లు” యొక్క వదులుగా ఉన్న సమూహాలుగా ప్రారంభమైంది మరియు పద్దతి ప్రక్రియలపై విలువ-బదిలీ పురోగతులు. మరియు కొలత యొక్క సాధారణ సమస్య ఉంది: వేగం మరియు పనితీరును లెక్కించడం సులభం, కానీ విజయవంతంగా నిరోధించబడిన విపత్తును లెక్కించడం అనూహ్యంగా కష్టం.
నేటి బోర్డు గదులలో, వేగం యొక్క కనిపించే కొలమానాలు భద్రత యొక్క అదృశ్య విజయాల కంటే దాదాపు ఎల్లప్పుడూ బిగ్గరగా అరుస్తాయి. ఏదేమైనా, ముందుకు సాగడానికి, ఇది వేళ్లను సూచించడం గురించి కాదు -ఇది ఆట యొక్క ప్రాథమిక నియమాలను మార్చడం గురించి ఉండాలి.
ఒక ఉత్పత్తిని రవాణా చేయడం అంటే ఏమిటో మనం పునర్నిర్వచించాలి, భద్రతా కేసు యొక్క ప్రచురణను కోడ్ వలె సమగ్రంగా చేస్తుంది. ఏ ఒక్క సంస్థ అయినా దాని శ్రద్ధ కోసం పోటీగా శిక్షించకుండా నిరోధించే పరిశ్రమల విస్తృత ప్రమాణాలు మాకు అవసరం, ఒక లక్షణం నుండి భద్రతను భాగస్వామ్య, చర్చించలేని పునాదిగా మారుస్తుంది.
ఏదేమైనా, అన్నింటికంటే, ప్రతి ఇంజనీర్ – భద్రతా విభాగం మాత్రమే కాదు – బాధ్యత యొక్క భావాన్ని అనుభవిస్తున్న AI ప్రయోగశాలలలోని సంస్కృతిని మనం పండించాలి.
AGI ని సృష్టించే జాతి మొదట అక్కడికి చేరుకోవడం గురించి కాదు; ఇది మేము ఎలా వస్తామో దాని గురించి. నిజమైన విజేత కేవలం వేగవంతమైన సంస్థ కాదు, కానీ ఆశయం మరియు బాధ్యత చూసే ప్రపంచానికి రుజువు చేసేది, మరియు తప్పక ముందుకు సాగాలి.
(ఫోటో ఓలు ఒలామిగోక్ జూనియర్.)
ఇవి కూడా చూడండి: మిలిటరీ AI ఒప్పందాలు ఆంత్రోపిక్, ఓపెనై, గూగుల్ మరియు XAI లకు ఇవ్వబడ్డాయి
పరిశ్రమ నాయకుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & పెద్ద డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లలో జరుగుతోంది. సమగ్ర సంఘటనతో సహా ఇతర ప్రముఖ సంఘటనలతో సహ-స్థాపించబడింది ఇంటెలిజెంట్ ఆటోమేషన్ కాన్ఫరెన్స్, బ్లాక్ఎక్స్, డిజిటల్ ట్రాన్స్ఫర్మేషన్ వీక్మరియు సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో.
టెక్ఫోర్జ్ చేత శక్తినిచ్చే ఇతర రాబోయే ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్స్ మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
