కలవరపరిచే AI- ఆధారిత వెబ్ బ్రౌజర్ కామెట్ ఒక పెద్ద దుర్బలత్వంతో బాధపడుతోంది, ఇది చెడు నటులకు ఇమెయిళ్ళు, బ్యాంకింగ్ పాస్‌వర్డ్‌లు మరియు ఇతర వివరాలు వంటి సున్నితమైన వినియోగదారు డేటాకు ప్రాప్యత పొందటానికి అనుమతించింది, పరోక్ష ప్రాంప్ట్ ఇంజెక్షన్ అని పిలువబడే టెక్నిక్ ద్వారా.
ముఖ్యంగా, కామెట్ కొత్త-వయస్సు, AI- ఆధారిత బ్రౌజర్‌లలో ఒకటి, ఇవి వినియోగదారు తరపున స్వయంచాలకంగా పనులను అనుసరించడానికి పెద్ద భాషా నమూనాలను ఉపయోగిస్తాయి. దాని అంతర్నిర్మిత AI ని ఉపయోగించి, బ్రౌజర్ వెబ్ పేజీలు, ఇమెయిళ్ళు, క్యాలెండర్ ఈవెంట్‌లను సంగ్రహించడం, ట్యాబ్‌లను నిర్వహించడం మరియు వారి తెరపై ఉన్న కంటెంట్ గురించి ప్రశ్నలకు సమాధానం ఇవ్వడం వంటి పనులను పూర్తి చేయగలదు.
ఏదేమైనా, ప్రత్యర్థి బ్రౌజర్ సంస్థ బ్రేవ్ చేసిన కొత్త పరిశోధన, కామెట్ వెబ్‌పేజీ-సమ్మరైజేషన్ అభ్యర్థనలను ఎలా ప్రాసెస్ చేస్తుందనే దానిపై ఒక హాని కనుగొంది. ఒక వినియోగదారు “ఈ వెబ్‌పేజీని సంగ్రహించండి” క్లిక్ చేసినప్పుడు, కామెట్ వెబ్‌పేజీలో కొంత భాగాన్ని నేరుగా దాని LLM లోకి నేరుగా దాని LLM లోకి ఫీడ్ చేస్తుందని, ఇది యూజర్ బోధన మరియు ట్రస్ట్‌స్ట్డ్ కంటెంట్ మధ్య వెబ్‌పేజీ నుండి వేరు చేయకుండా, మరియు ఇది పరోక్ష ప్రాంప్ట్ ఇంజెక్షన్ కోసం బ్రౌజర్‌ను తెరుస్తుంది.
ముఖ్యంగా, దాడి చేసేవారు వెబ్‌పేజీల లోపల, వారు కలిగి ఉన్న వెబ్‌సైట్‌లో వైట్ టెక్స్ట్ వంటి పరోక్ష ప్రాంప్ట్‌లను లేదా ఫేస్‌బుక్ మరియు రెడ్‌డిట్ వంటి సోషల్ మీడియా వెబ్‌సైట్లలో కూడా కంటెంట్ పొందవచ్చు మరియు కామెట్ యొక్క LLM ఆ పరోక్ష సూచనలను వినియోగదారు వాస్తవానికి ఆ సూచనల కోసం అడిగినట్లుగా పరిగణించవచ్చు.
“ఒక AI అసిస్టెంట్ అవిశ్వాసం లేని వెబ్‌పేజీ కంటెంట్ నుండి హానికరమైన సూచనలను అనుసరించినప్పుడు, ఒకే-మూలం విధానం (SOP) లేదా క్రాస్-మూలం వనరుల భాగస్వామ్యం (COR లు) వంటి సాంప్రదాయ రక్షణలు సమర్థవంతంగా పనికిరానివి” అని ధైర్య పరిశోధకులు వివరించారు.
“వ్యక్తిగత సైట్‌లను ప్రభావితం చేసే లేదా సంక్లిష్టమైన దోపిడీ అవసరమయ్యే సాంప్రదాయ వెబ్ దుర్బలత్వాల మాదిరిగా కాకుండా, ఈ దాడి వెబ్‌సైట్లలో పొందుపరిచిన సరళమైన, సహజ భాషా సూచనల ద్వారా క్రాస్-డొమైన్ ప్రాప్యతను అనుమతిస్తుంది” అని వారు తెలిపారు.
ఈ దుర్బలత్వం దాడి చేసేవారిని వినియోగదారులు ఎప్పుడూ అభ్యర్థించని చర్యలను నెరవేర్చడానికి AI ని మోసగించడానికి అనుమతిస్తుంది. డెమో వీడియోలో, యూజర్ యొక్క వ్యక్తిగత ఇమెయిల్‌ను సేకరించేందుకు AI ని అడగడం ద్వారా, కంపెనీ నుండి OTP ని అభ్యర్థించమని మరియు ఆ OTP ని యాక్సెస్ చేయడానికి Gmail లోకి లాగిన్ అవ్వడానికి AI ని అడగడం ద్వారా వినియోగదారు యొక్క కలత ఖాతాకు సులభంగా ప్రాప్యత పొందడానికి దాడి చేసేవారు కామెట్‌ను ఎలా ఉపయోగించవచ్చో బ్రేవ్ చూపించాడు.
యూజర్ యొక్క బ్యాంకింగ్ డేటాకు ప్రాప్యత పొందడం, సేవ్ చేసిన పాస్‌వర్డ్‌లను సంగ్రహించడం లేదా సున్నితమైన సమాచారాన్ని నేరుగా దాడి చేసేవారి-నియంత్రిత సర్వర్‌కు పంపడం వంటి పనులను పూర్తి చేయడానికి COMET లో దుర్బలత్వాన్ని ఉపయోగించుకోవచ్చని పరిశోధకులు పేర్కొన్నారు.
ఆగస్టు 11 న దుర్బలత్వం గురించి కలవరపెట్టినప్పటికీ, ఆగస్టు 20 న బ్లాగ్ పోస్ట్ ప్రచురణ సమయానికి ఇది పరిష్కరించబడలేదని బ్రేవ్ బ్లాగ్ పోస్ట్ పేర్కొంది.
AI సెర్చ్ స్టార్టప్, CNET కి ఒక ప్రకటనలో, ఈ సమస్య పరిష్కరించబడిందని నిజంగా ధృవీకరించింది.
కలవరం యొక్క కమ్యూనికేషన్స్ హెడ్ జెస్సీ డ్వైర్ ప్రచురణతో మాట్లాడుతూ, “ఈ దుర్బలత్వం పరిష్కరించబడింది… మాకు చాలా బలమైన ount దార్య కార్యక్రమం ఉంది, మరియు మేము దానిని గుర్తించడానికి మరియు మరమ్మత్తు చేయడానికి నేరుగా ధైర్యంతో కలిసి పనిచేశాము.”
