మే 20 (రాయిటర్స్) – ఆంత్రోపిక్ యొక్క కొత్త AI మోడల్, Mythos, నాటకీయంగా టర్బోచార్జ్ హ్యాకింగ్‌కు గురవుతుందనే ముందస్తు భయాలు విడుదలైన ఒక నెల తర్వాత ఎక్కువగా కనిపిస్తున్నాయి.
ప్రతి ప్రధాన ఆపరేటింగ్ సిస్టమ్ మరియు బ్రౌజర్‌లోని లోపాలతో సహా వేలాది సాఫ్ట్‌వేర్ దుర్బలత్వాలను Mythos వెలికితీసిందని కంపెనీ ఏప్రిల్‌లో ప్రారంభించినప్పుడు హెచ్చరించింది మరియు దాని వ్యాప్తి నుండి పతనం తీవ్రంగా ఉంటుందని పేర్కొంది.
ప్రభుత్వాలు దృష్టికి తీసుకెళ్లాయి. పలు దేశాల్లోని అధికారులు నష్టాలను అంచనా వేయడానికి బ్యాంకులతో హల్‌చల్ చేసారు మరియు మే ప్రారంభంలో వైట్ హౌస్ భద్రతా పరీక్ష తర్వాత కొత్త మోడల్‌లు ఎలా విడుదల చేయబడతాయో నియంత్రించడానికి నిబంధనలను తూకం వేసింది.
కానీ సైబర్‌సెక్యూరిటీ ప్రపంచంలో, ప్రతిచర్య మరింతగా అంచనా వేయబడింది – కొంతమంది విస్తారమైన ప్రతిస్పందన విపరీతంగా పెరిగిపోయిందని మరియు మిథోస్-స్థాయి పెద్ద భాషా మోడల్‌కు ప్రాప్యత మునుపు చెడ్డ నటులకు అందుబాటులో లేని హ్యాకింగ్ కార్యకలాపాలను వెంటనే ప్రారంభించదని చెప్పారు.
“ప్రాక్టీషనర్లు మరియు విధాన రూపకర్తల మధ్య నిజంగా పెద్ద కమ్యూనికేషన్ గ్యాప్ ఉందని నేను భావిస్తున్నాను” అని సాఫ్ట్‌వేర్ సెక్యూరిటీ సంస్థ సెమ్‌గ్రెప్ వ్యవస్థాపకుడు మరియు CEO ఐజాక్ ఎవాన్స్ అన్నారు. మోడల్ “నిజమైన సాంకేతిక పురోగతిని” సూచిస్తుంది, అయితే ప్రతిస్పందన “ఫీల్డ్‌లో ఆ సామర్థ్యాలు ఎలా అనువదిస్తాయనే దాని గురించి మనకు తెలిసిన దాని ద్వారా రుజువు చేయబడదు” అని అతను చెప్పాడు.
ఖచ్చితంగా చెప్పాలంటే, నియంత్రిత పరిసరాలలో మోడల్‌ను ఉపయోగించిన నిపుణులు దుర్బలత్వాన్ని కనుగొనడంలో గణనీయమైన మెరుగుదలని నివేదించారు మరియు బ్యాంకింగ్ పరిశ్రమ IT సిబ్బంది పెద్ద మరియు చిన్న బ్యాంక్ టెక్నాలజీ స్టాక్‌లలో సిస్టమ్ బలహీనతలను స్కోర్ చేయడానికి కృషి చేస్తున్నారు, మే 12న రాయిటర్స్ నివేదించింది.
AIకి సంబంధించిన క్రిమినల్ మరియు స్టేట్-లింక్డ్ హ్యాకింగ్ కేసుల యొక్క నిరంతర వెల్లడి కారణంగా ఆందోళన మరింత పెరిగింది, మే 11న Google యొక్క ప్రకటనతో సహా, గతంలో తెలియని సాఫ్ట్‌వేర్ లోపాన్ని కనుగొనడానికి మరియు సామూహిక దోపిడీ ఈవెంట్‌ను ప్లాన్ చేయడానికి AIని ఉపయోగించి ఒక ప్రధాన సైబర్ క్రైమ్ సమూహం యొక్క మొట్టమొదటి కేసును గుర్తించినట్లు Google ప్రకటించింది.
ప్రాక్టీషనర్లు కొలిచిన రిస్క్‌ను చూస్తారు
భద్రతా నిపుణులు చూసిన ముప్పు మరియు విధాన నిర్ణేతలు చూసే మధ్య ఉన్న అంతరం మిథోస్‌ను భద్రతా సంక్షోభానికి కేంద్రంగా ఉంచే కథనానికి ఆజ్యం పోసింది – పోల్చదగిన సామర్థ్యాలు కొంతకాలంగా అందుబాటులో ఉన్నప్పటికీ.
“సంవత్సరాలు కాకపోయినా నెలల తరబడి ఏమి చేయాలో మాకు తెలిసిన దానికంటే ఎక్కువ బగ్‌లను కనుగొనడానికి మేము AIని ఉపయోగించగలిగాము” అని మిథోస్‌కు ముందస్తు యాక్సెస్‌తో విస్తృతమైన దుర్బలత్వ పరిశోధన అనుభవం ఉన్న ఒక వ్యక్తి చెప్పారు. బలహీనతలను కనుగొనడం సవాలు కాదు, కానీ వ్యవస్థలను విచ్ఛిన్నం చేయకుండా వాటిని ధృవీకరించడం, ప్రాధాన్యత ఇవ్వడం మరియు పరిష్కరించడం.
కొత్తగా కనుగొనబడిన దుర్బలత్వాల వరదను ప్రాసెస్ చేయగల మరియు ధృవీకరించే సంస్థల సామర్థ్యం సాధారణంగా ఉండాల్సిన అవసరం లేదు, మరియు మోడల్ మెరుగుదల అని వారు అంగీకరించినప్పటికీ, మైథోస్-స్థాయి మోడల్‌లు ప్రవేశపెట్టిన పెద్ద సవాలు ఇదే అని వ్యక్తి చెప్పారు. “ఇది ఇంతకు ముందు వచ్చిన మోడల్‌ల కంటే బలహీనమైన ప్రాంప్ట్‌తో ఎక్కువ కనుగొనగలదు,” అని వ్యక్తి ఒక లక్ష్యాన్ని సాధించడానికి ప్రయత్నించడానికి మోడల్‌ను అందించే సూచనలను సూచిస్తూ చెప్పాడు. ఇప్పటికే ఉన్న మోడళ్లకు మరింత వివరణాత్మక మరియు సంక్లిష్టమైన సూచనలు అవసరమని, ప్రవేశానికి అడ్డంకి తగ్గించబడిందని వ్యక్తి చెప్పారు.
సిస్కోలోని సీనియర్ వైస్ ప్రెసిడెంట్ మరియు చీఫ్ సెక్యూరిటీ అండ్ ట్రస్ట్ ఆఫీసర్ ఆంథోనీ గ్రీకో మాట్లాడుతూ, Mythos యొక్క ఒక కొత్త మరియు సహాయక అంశం ఏమిటంటే, బలహీనతలను గుర్తించడం మాత్రమే కాకుండా, ఆ దుర్బలత్వాల కోసం చాలా వేగంగా విస్తారమైన కోడ్‌లను స్కాన్ చేయడం మరియు అనుభవజ్ఞులైన అభ్యాసకులు తప్పుడు పాజిటివ్‌ల రేటును తగ్గించడంలో సహాయపడటం. ఇది, డిఫెండర్లు వారి సందర్భాలలో అత్యంత ముఖ్యమైన సైబర్ రిస్క్‌లపై దృష్టి పెట్టడానికి అనుమతిస్తుంది. మునుపటి మోడల్‌ల కంటే మోడల్‌లో తక్కువ గార్డ్‌రైల్‌లు ఉన్నాయి, మునుపటి మోడల్‌లు చేయని కార్యకలాపాలను ప్రారంభించే మరిన్ని నిర్దిష్ట సూచనలను రూపొందించడానికి వినియోగదారులను అనుమతిస్తుంది.
ప్రాజెక్ట్ గ్లాస్వింగ్ పరీక్షలు డిఫెన్స్
మైథోస్ యొక్క శక్తిని పూర్తిగా పెంచడానికి, సంస్థలకు సరైన కంప్యూటింగ్ శక్తి మరియు కఠినమైన జీను రెండూ అవసరమని Grieco చెప్పారు, ఒక పెద్ద భాషా నమూనా నిర్దిష్ట సూచనలు మరియు పరిమితులతో నడిచే సంస్థలోని కంప్యూటర్ వాతావరణాన్ని వివరించడానికి ఉపయోగించే పదం.
“మీకు ఫార్ములా వన్ కారు ఉంటే, మీరు ఎప్పుడైనా బైక్‌ను మాత్రమే నడిపినట్లయితే, మీరు దానిని నేరుగా వెళ్లేలా చేయగలరు” అని గ్రీకో చెప్పారు. “కానీ మీరు గేట్ వెలుపల ట్రాక్ సమయాన్ని పెంచుకోలేరు.”
అయినప్పటికీ, ఆంత్రోపిక్ యొక్క ఫ్రేమింగ్ – మరియు ప్రాజెక్ట్ గ్లాస్వింగ్ అని పిలువబడే ప్రోగ్రామ్ కింద రక్షణను పరీక్షించడానికి ఎంపిక చేసిన సంస్థలను ఆహ్వానించాలనే దాని నిర్ణయం – మోడల్ గురించి సంభాషణను సాధారణ భద్రతా సర్కిల్‌లకు మించి ముందుకు తీసుకెళ్లడంలో సహాయపడింది. ఫలితం: పెంటగాన్ ఆంత్రోపిక్‌ను సరఫరా-గొలుసు ప్రమాదం అని లేబుల్ చేసినప్పటికీ, ప్రభుత్వంలోని ఇతర భాగాలు యాక్సెస్ కోసం నినాదాలు చేసినప్పటికీ, గ్రహించిన ముప్పు మరియు కంపెనీ స్థాయి రెండింటినీ విస్తరించే ఆల్-హ్యాండ్-ఆన్-డెక్ ప్రతిస్పందన.
AI ల్యాబ్‌లతో తమ సాంకేతికతను మరింత విస్తృతంగా ఉపయోగించడం గురించి వైట్‌హౌస్ చర్చిస్తోందని వైట్‌హౌస్ అధికారి ఒకరు రాయిటర్స్‌తో చెప్పారు. కంపెనీ “భాగస్వామ్య ప్రాధాన్యతలను త్వరగా ముందుకు తీసుకెళ్లడానికి US ప్రభుత్వంతో సన్నిహితంగా పని చేస్తోంది” మరియు మరిన్ని పార్టీలకు Mythosకి ప్రాప్యతను అందించడానికి ప్రభుత్వంతో కలిసి పనిచేస్తుందని ఆంత్రోపిక్ ప్రతినిధి ఒకరు తెలిపారు.
AIతో హానిని కనుగొనడం మాత్రమే ప్రారంభం
Mythos — మరియు కొంత వరకు OpenAI యొక్క GPT-5.5 — AI గురించిన జాతీయ భద్రతా చర్చలలో ఆధిపత్యం చెలాయించింది. కానీ ఆ చర్చలు తరచుగా ఒక సరళమైన పాయింట్‌ను వివరిస్తాయి: దుర్బలత్వం-వేట AI కొత్తది కాదు. అసలు సమస్య ఏమిటంటే తర్వాత ఏమి వస్తుంది.
“AI లేకుండానే మా ప్రత్యర్థులు నిజంగా మంచిగా ఉన్నారు” అని ఇప్పుడు హల్సియోన్‌లో ఉన్న మాజీ సీనియర్ FBI సైబర్ సెక్యూరిటీ అధికారి సింథియా కైజర్ అన్నారు. “Ransomware దాడులు ఒక గంటలోపు జరుగుతున్నాయి,” ఆమె చెప్పింది, చాలా బెదిరింపులు ఇప్పటికీ AIపై ఆధారపడటం లేదు.
ప్రస్తుతానికి, Mythos యొక్క స్కేల్ మరియు కంప్యూటింగ్ మరియు ఇన్‌ఫ్రాస్ట్రక్చర్ డిమాండ్‌లు దీనిని ఎవరు ఉపయోగించవచ్చో కూడా పరిమితం చేస్తాయి. కానీ ఆ అడ్డంకులు కొనసాగే అవకాశం లేదు.
“ఆర్కిటెక్చర్ ఆప్టిమైజ్ చేయబడిందని నేను అనుకోను” అని వాండర్‌బిల్ట్ విశ్వవిద్యాలయంలో జరిగిన చర్చా కార్యక్రమంలో ఆర్థిక సేవల సంస్థ స్టేట్ స్ట్రీట్‌కు చెందిన నిక్ ఆడమ్ అన్నారు. అతను Grieco గుర్తించిన కంప్యూటర్ ప్రాసెసింగ్ ఇన్‌ఫ్రాస్ట్రక్చర్ మరియు జీను సమస్యను సూచించాడు. “అక్కడ ప్రవేశించడానికి ఒక అవరోధం ఉంది – కానీ అది చాలా త్వరగా పరిష్కరించబడుతుంది.”
(డెట్రాయిట్‌లోని AJ విసెన్స్ రిపోర్టింగ్; క్రిస్ సాండర్స్ మరియు మాథ్యూ లూయిస్ ఎడిటింగ్)
