వ్యాపార కార్యకలాపాలకు AI అంతర్లీనంగా మారడంతో, కొత్త భద్రతా సమస్యలు మరియు భద్రతా బెదిరింపులు అపూర్వమైన వేగంతో ఉద్భవించాయి-సాంప్రదాయ సైబర్ సెక్యూరిటీ సొల్యూషన్ల సామర్థ్యాలను మించిపోయింది.
సంభావ్య ముఖ్యమైన పరిణామాలతో వాటాలు ఎక్కువగా ఉన్నాయి. సిస్కో ప్రకారం 2024 AI సంసిద్ధత సూచికసర్వే చేయబడిన సంస్థలలో కేవలం 29% మాత్రమే AI సాంకేతికతలతో అనధికారిక అవకతవకలను గుర్తించి నిరోధించడానికి పూర్తిగా సన్నద్ధమయ్యాయని భావిస్తున్నాయి.
నిరంతర మోడల్ ధ్రువీకరణ
DJ సంపత్, AI సాఫ్ట్వేర్ & ప్లాట్ఫారమ్ హెడ్ సిస్కోఇలా అన్నారు: “మేము మోడల్ ధ్రువీకరణ గురించి మాట్లాడేటప్పుడు, ఇది కేవలం ఒక సారి మాత్రమే కాదు, సరియైనదా? మీరు మోడల్ ధ్రువీకరణను నిరంతరంగా చేస్తున్నారు.
“కాబట్టి మీరు మోడల్లో మార్పులు జరగడం చూస్తుంటే – మీరు ఏదైనా రకమైన ఫైన్ట్యూనింగ్ చేస్తుంటే లేదా మీరు నేర్చుకోవడానికి మోడల్స్ అవసరమని చూపించడం ప్రారంభించిన కొత్త దాడులను మీరు కనుగొంటే – మేము ఆ సమాచారాన్ని నిరంతరం నేర్చుకుంటున్నాము మరియు మేము కనుగొన్న ఈ కొత్త దాడులలో ఈ మోడల్లు ఎలా ప్రవర్తిస్తున్నాయో చూడటానికి మోడల్ను మళ్లీ ధృవీకరించడం.
“ఇతర చాలా ముఖ్యమైన విషయం ఏమిటంటే, ఈ AI దాడులను నిరంతరం పరిశీలిస్తూ మరియు ఈ దాడులను మరింత ఎలా మెరుగుపరచవచ్చో అర్థం చేసుకునే ఒక నిజంగా అధునాతన ముప్పు పరిశోధన బృందం ఉంది. వాస్తవానికి, MITRE, OWASP మరియు NIST వంటి ప్రామాణిక సంస్థలలోని పని సమూహాలకు మేము సహకరిస్తున్నాము.
హానికరమైన అవుట్పుట్లను నిరోధించడంతోపాటు, AI మోడల్ల యొక్క హానికరమైన బాహ్య ప్రభావాలకు వాటి ప్రవర్తనను మార్చగల హానిని సిస్కో పరిష్కరిస్తుంది. ఈ ప్రమాదాలలో సత్వర ఇంజెక్షన్ దాడులు, జైల్బ్రేకింగ్ మరియు శిక్షణ డేటా పాయిజనింగ్ ఉన్నాయి-ప్రతి ఒక్కటి కఠినమైన నివారణ చర్యలను కోరుతుంది.
పరిణామం కొత్త సంక్లిష్టతలను తెస్తుంది
ఫ్రాంక్ డిక్సన్, గ్రూప్ VP ఫర్ సెక్యూరిటీ & ట్రస్ట్ వద్ద IDCకాలక్రమేణా సైబర్ సెక్యూరిటీ యొక్క పరిణామం మరియు పరిశ్రమకు AIలో ఎలాంటి పురోగతులు అంటే ఏమిటో తెలియజేసారు.
“మొదటి స్థూల ధోరణి ఏమిటంటే, మేము ఆన్-ప్రిమైజ్ నుండి క్లౌడ్కి మారాము మరియు మేము పరిష్కరించాల్సిన కొత్త సమస్య స్టేట్మెంట్ల మొత్తం హోస్ట్ను పరిచయం చేసింది. ఆపై అప్లికేషన్లు మోనోలిథిక్ నుండి మైక్రోసర్వీస్లకు మారినప్పుడు, మేము ఈ మొత్తం కొత్త సమస్య సెట్లను చూశాము.
“AI మరియు LLMల జోడింపు… అదే విషయం, కొత్త సమస్య సెట్ల మొత్తం హోస్ట్.”
అప్లికేషన్లు బహుళ-మోడల్గా మారడంతో AI భద్రత యొక్క సంక్లిష్టతలు పెరుగుతాయి. డెవలపర్లు, తుది-వినియోగదారులు మరియు విక్రేతల వంటి విభిన్న వాటాదారులను ప్రభావితం చేస్తూ – మోడల్ల నుండి యాప్ల వరకు వివిధ స్థాయిలలో దుర్బలత్వాలు తలెత్తవచ్చు.
“ఒకసారి అప్లికేషన్ ఆన్-ప్రిమైజ్ నుండి క్లౌడ్కి మారిన తర్వాత, అది అక్కడ ఉండిపోయింది. అవును, మేము అనేక క్లౌడ్లలో అప్లికేషన్లను డెవలప్ చేసాము, కానీ మీరు AWS లేదా Azure లేదా GCPలో అప్లికేషన్ను ఉంచిన తర్వాత, మీరు దానిని నెలవారీ, త్రైమాసికం, వారానికోసారి వివిధ క్లౌడ్ పరిసరాలలో జంప్ చేయలేదా?
“ఒకసారి మీరు ఏకశిలా అప్లికేషన్ డెవలప్మెంట్ నుండి మైక్రోసర్వీస్కి మారితే, మీరు అక్కడే ఉంటారు. మీరు కుబెర్నెట్స్లో అప్లికేషన్ను ఉంచిన తర్వాత, మీరు మళ్లీ వేరొక దానిలోకి వెళ్లరు.
“మీరు LLMని పొందాలని చూస్తున్నప్పుడు, మోడల్ మార్పులు గమనించవలసిన ముఖ్యమైన విషయం. మరియు మేము మోడల్ మార్పు గురించి మాట్లాడేటప్పుడు, ఇది పునర్విమర్శలా కాదు … ఈ వారం బహుశా (డెవలపర్లు) ఆంత్రోపిక్ని ఉపయోగిస్తున్నారు, వచ్చే వారం వారు జెమినిని ఉపయోగించుకోవచ్చు.
“అవి పూర్తిగా భిన్నమైనవి మరియు ప్రతి మోడల్ యొక్క ముప్పు వెక్టర్స్ పూర్తిగా భిన్నంగా ఉంటాయి. వారందరికీ వారి బలాలు ఉన్నాయి మరియు వారందరికీ వారి నాటకీయ బలహీనతలు ఉన్నాయి.
వ్యక్తిగత మోడళ్లలో ఏకీకృతమైన సంప్రదాయ భద్రతా చర్యలు కాకుండా, సిస్కో కొత్తగా ప్రకటించిన దాని ద్వారా బహుళ-మోడల్ పర్యావరణం కోసం నియంత్రణలను అందిస్తుంది. AI రక్షణ. పరిష్కారం స్వీయ-ఆప్టిమైజింగ్, సిస్కో యొక్క యాజమాన్య మెషీన్ లెర్నింగ్ అల్గారిథమ్లను ఉపయోగించి అభివృద్ధి చెందుతున్న AI భద్రత మరియు భద్రతా సమస్యలను గుర్తించడం-సిస్కో టాలోస్ నుండి ముప్పు ఇంటెలిజెన్స్ ద్వారా తెలియజేయబడింది.
కొత్త సాధారణ స్థితికి సర్దుబాటు చేస్తోంది
సిస్కోలో ఎగ్జిక్యూటివ్ VP మరియు చీఫ్ ప్రొడక్ట్ ఆఫీసర్ అయిన జీతు పటేల్, తక్కువ వ్యవధిలో పెద్ద పురోగతి ఎల్లప్పుడూ విప్లవాత్మకంగా అనిపించవచ్చు, కానీ త్వరగా సాధారణ అనుభూతి చెందుతుందని తన అభిప్రాయాన్ని పంచుకున్నారు.
“వేమో మీకు తెలుసా, Google నుండి స్వీయ డ్రైవింగ్ కార్లు. మీరు లోపలికి వెళ్లండి మరియు కారులో ఎవరూ కూర్చోలేదు మరియు ఇది మిమ్మల్ని పాయింట్ A నుండి పాయింట్ B వరకు తీసుకువెళుతుంది. ఇది మనం భవిష్యత్తులో జీవిస్తున్నట్లుగా మనస్సును వంచించేలా అద్భుతంగా అనిపిస్తుంది. రెండవసారి, మీరు దానిని అలవాటు చేసుకుంటారు. మూడవసారి, మీరు సీట్ల గురించి ఫిర్యాదు చేయడం ప్రారంభిస్తారు.
“గత రెండేళ్ళలో మనం AI మరియు ChatGPTకి ఎంత త్వరగా అలవాటు పడ్డాము అయినప్పటికీ, ఏదైనా పెద్ద పురోగతి స్వల్ప కాలానికి అనూహ్యంగా పురోగమిస్తుంది అని నేను భావిస్తున్నాను. అప్పుడు ప్రతి ఒక్కరూ అలవాటుపడటం ప్రారంభించే సాధారణీకరణ జరుగుతుంది.
AGIతో కూడా సాధారణీకరణ జరుగుతుందని పటేల్ అభిప్రాయపడ్డారు. అయినప్పటికీ, “ఈ మోడల్లు చేయడం ప్రారంభించిన పురోగతిని మీరు తక్కువ అంచనా వేయలేరు” మరియు చివరికి, అవి అన్లాక్ చేయబోయే వినియోగ కేసుల రకాన్ని అతను పేర్కొన్నాడు.
“మీ చేతివేళ్ల వద్ద మెయిన్ఫ్రేమ్ కంప్యూటర్ కంటే ఎక్కువ కంప్యూట్ సామర్థ్యాన్ని కలిగి ఉండే స్మార్ట్ఫోన్ని మేము కలిగి ఉంటామని మరియు ఏ సమయంలోనైనా దానిపై వేలకొద్దీ పనులు చేయగలమని ఎవరూ అనుకోలేదు మరియు ఇప్పుడు ఇది మరొక జీవిత మార్గం. నా 14 ఏళ్ల కూతురు దాని గురించి కూడా ఆలోచించదు.
“కంపెనీలుగా మనం దానికి చాలా త్వరగా సర్దుబాటు అయ్యేలా చూసుకోవాలి.”
ఇవి కూడా చూడండి: సామ్ ఆల్ట్మాన్, ఓపెన్ఏఐ: సూపర్ ఇంటెలిజెన్స్ వైపు పని చేయడం ‘లక్కీ అండ్ హమ్లింగ్’
పరిశ్రమ ప్రముఖుల నుండి AI మరియు పెద్ద డేటా గురించి మరింత తెలుసుకోవాలనుకుంటున్నారా? తనిఖీ చేయండి AI & బిగ్ డేటా ఎక్స్పో ఆమ్స్టర్డామ్, కాలిఫోర్నియా మరియు లండన్లో జరుగుతున్నాయి. సమగ్ర ఈవెంట్తో సహా ఇతర ప్రముఖ ఈవెంట్లతో కలిసి ఉంది ఇంటెలిజెంట్ ఆటోమేషన్ కాన్ఫరెన్స్, బ్లాక్ ఎక్స్, డిజిటల్ ట్రాన్స్ఫర్మేషన్ వీక్మరియు సైబర్ సెక్యూరిటీ & క్లౌడ్ ఎక్స్పో.
TechForge ద్వారా అందించబడే ఇతర రాబోయే ఎంటర్ప్రైజ్ టెక్నాలజీ ఈవెంట్లు మరియు వెబ్నార్లను అన్వేషించండి ఇక్కడ.
