OpenAI నుండి కొన్ని AI మోడల్స్‌తో కూడిన భద్రతా ఉల్లంఘనను ఎదుర్కొన్నట్లు హగ్గింగ్ ఫేస్ గత వారం వెల్లడించింది. హగ్గింగ్ ఫేస్ CEO క్లెమెంట్ డెలాంగ్యూ తదనంతరం ఉల్లంఘన గురించి OpenAI ఎగ్జిక్యూటివ్‌లతో వ్యక్తిగతంగా సంభాషించడానికి శాన్ ఫ్రాన్సిస్కోకు విమానంలో బయలుదేరారు.
Delangue ఇప్పుడు ChatGPT మేకర్‌తో సమావేశంలో చర్చించిన విషయాలను వెల్లడించారు.
X పై ఒక పోస్ట్‌లో, Delangue ఇటీవల సైబర్ సెక్యూరిటీ సంఘటనలో పాల్గొన్న “రోగ్” AI ఏజెంట్ల జాడలను బహిరంగంగా విడుదల చేయమని OpenAIని కోరినట్లు చెప్పారు, తద్వారా ప్రపంచవ్యాప్తంగా పరిశోధకులు ఏమి జరిగిందో ఖచ్చితంగా అధ్యయనం చేయవచ్చు.
ఓపెన్ మరియు క్లోజ్డ్ AI మోడల్‌లను ఉపయోగించి హగ్గింగ్ ఫేస్ కమ్యూనిటీకి బలమైన సైబర్ డిఫెన్స్ టూల్స్‌ను రూపొందించడంలో సహాయపడటానికి $100 మిలియన్ల విలువైన గణనను కమిట్ చేయాలని అతను OpenAIని కోరాడు.
“పారదర్శకత స్ఫూర్తితో, నేను @OpenAIని అడిగాను” అని డెలాంగ్ రాశారు.
“రాడికల్ పారదర్శకత: ‘రోగ్’ ఏజెంట్ల నుండి జాడలను విడుదల చేద్దాం, తద్వారా మొత్తం పరిశోధనా సంఘం ఏమి జరిగిందో అధ్యయనం చేయగలదు,” అన్నారాయన.
“హగ్గింగ్ ఫేస్ కమ్యూనిటీకి అత్యుత్తమ ఓపెన్ మరియు క్లోజ్డ్ మోడల్‌లతో శక్తివంతమైన సైబర్ డిఫెన్స్‌లను రూపొందించడంలో సహాయపడటానికి OAI నుండి 100M గణనలో నిమగ్నమవుదాం” అని డెలాంగ్యూ పేర్కొంది.
హగ్గింగ్ ఫేస్ CEO “మొదటి స్వయంప్రతిపత్త ఏజెంట్ సైబర్‌టాక్”ని “అపూర్వమైన సంఘటన” అని పిలిచారు, ఇది “అపూర్వమైన ప్రతిస్పందన”కు కూడా అర్హమైనది.
భద్రతా ఉల్లంఘన ఎందుకు జరిగింది?
గత వారం, హగ్గింగ్ ఫేస్ తాను ఇంతకు ముందు చూసినట్లుగా కాకుండా, “అటానమస్ AI ఏజెంట్ సిస్టమ్” ద్వారా ఎండ్ టు ఎండ్ ద్వారా చొరబాట్లను ఎదుర్కొన్నట్లు ప్రకటించింది. తమ సొంత AI వ్యవస్థను ఉపయోగించి దాడిని గుర్తించినట్లు కంపెనీ తెలిపింది.
కొన్ని రోజుల తర్వాత, OpenAI దాని GPT-5.6 Sol మోడల్ మరియు విడుదల చేయని AI మోడల్, ఎక్స్‌ప్లోయిట్ జిమ్ బెంచ్‌మార్క్‌పై మోసం చేయడానికి ప్రయత్నించినందున ఈ సంఘటన వెనుక ఉన్నట్లు వెల్లడించింది, ఇది AI మోడల్ సాఫ్ట్‌వేర్ దుర్బలత్వాలను కనుగొని దోపిడీ చేసే సామర్థ్యాన్ని కొలుస్తుంది.
OpenAI యొక్క శాండ్‌బాక్స్ వాతావరణాన్ని దాటవేయడానికి మరియు ఇంటర్నెట్‌కు ప్రాప్యతను పొందడానికి మోడల్‌లు మొదట జీరో-డే దుర్బలత్వాన్ని ఉపయోగించాయి. హగ్గింగ్ ఫేస్ ఎక్స్‌ప్లోయిట్ జిమ్‌లో మోసం చేయడానికి అవసరమైన సంభావ్య మోడల్‌లు, డేటాసెట్‌లు మరియు పరిష్కారాలను హోస్ట్ చేయగలదని వారు గ్రహించారు.
“దీనిని తెలుసుకున్న మోడల్, మూల్యాంకనాన్ని మోసం చేయడానికి ఉపయోగించే రహస్య సమాచారాన్ని పొందే మార్గాలను శోధించింది మరియు విజయవంతంగా కనుగొంది” అని OpenAI ఒక బ్లాగ్ పోస్ట్‌లో రాసింది.
AI మోడల్‌లు బెంచ్‌మార్క్‌లో మెరుగ్గా పని చేయడంలో సహాయపడే సమాచారాన్ని వెలికితీసేందుకు దొంగిలించబడిన ఆధారాలు మరియు జీరో-డే దుర్బలత్వాలను కూడా ఉపయోగించాయి.
AI ఏజెంట్ రోగ్‌గా మారడాన్ని OpenAI ఒక వారం పాటు గమనించలేదు
ఇటీవలి రాయిటర్స్ నివేదిక ప్రకారం, బెదిరింపును నియంత్రించి, FBIని అప్రమత్తం చేసిన తర్వాత, దాని AI ఏజెంట్ హగ్గింగ్ ఫేస్‌లోకి ప్రవేశించినట్లు OpenAI గ్రహించలేదు.
నివేదిత ప్రకారం, హగ్గింగ్ ఫేస్‌లో చొరబాటు జూలై 11 మరియు జూలై 13 మధ్య జరిగింది. ఇంతలో, OpenAI తన ఏజెంట్ దాడి వెనుక చాలా రోజుల తర్వాత మాత్రమే గుర్తించింది మరియు ఈ విషయంపై హగ్గింగ్ ఫేస్‌తో దాని కమ్యూనికేషన్ జూలై 20 లేదా ఆ సమయంలో మాత్రమే ప్రారంభమైనట్లు నివేదించబడింది.
హగ్గింగ్ ఫేస్ దాని సహ వ్యవస్థాపకుడు థామస్ వోల్ఫ్ ప్రకారం, హ్యాక్ యొక్క పబ్లిక్ టైమ్‌లైన్‌ను కూడా సిద్ధం చేస్తోంది.
