ఏకాభిప్రాయం లేని లైంగిక డీప్‌ఫేక్‌లపై విమర్శల తరంగం తర్వాత దాని AI అసిస్టెంట్ గ్రోక్ ఇమేజ్ ఎడిటింగ్‌ను ఎలా నిర్వహిస్తుందో కఠినతరం చేయడానికి X తరలించబడింది, అయితే ప్లాట్‌ఫారమ్ ప్రతిస్పందన సమస్యను మూసివేయడానికి బదులుగా తాజా వివాదానికి దారితీసింది.
నవీకరించబడిన నియమాల ప్రకారం, గ్రోక్ ఇకపై నిజమైన వ్యక్తుల ఫోటోగ్రాఫ్‌లను బికినీలు, ఈత దుస్తుల లేదా ఇతర లైంగిక దుస్తులలో సవరించకూడదు. అయినప్పటికీ, అదే పరిమితులు AI- రూపొందించిన లేదా కల్పిత పాత్రలకు వర్తించవు, NSFW మోడ్ ప్రారంభించబడితే అవి పాక్షికంగా లేదా పూర్తిగా విప్పబడినట్లు చూపబడతాయి. ఎలోన్ మస్క్ ఈ వ్యత్యాసాన్ని సమర్థించారు, ఇది యునైటెడ్ స్టేట్స్‌లో ఆమోదయోగ్యమైన వయోజన-కంటెంట్ ప్రమాణాలను తాను పరిగణించే దానితో సరిపోతుందని చెప్పాడు.
మస్క్‌తో సన్నిహితంగా లింక్ చేయబడిన ఒక ఖాతా డాగ్‌డిజైనర్ నుండి వచ్చిన పోస్ట్‌తో తరచుగా జరిగే విధంగానే Xలో పునరుద్ధరించబడిన చర్చ ప్రారంభమైంది. గ్రోక్ నగ్న చిత్రాలను రూపొందించడానికి అనేక ప్రాంప్ట్‌లను ప్రయత్నించామని మరియు ప్రతిసారీ విఫలమైందని ఖాతా పేర్కొంది, గ్రోక్‌పై మీడియా విమర్శలు మస్క్‌పై “కనికరంలేని దాడి”లో భాగమని సూచిస్తున్నాయి. వినియోగదారులను బహిరంగంగా సవాలు చేయడం ద్వారా మస్క్ ఇలా బదులిచ్చారు: “వాస్తవానికి ఎవరైనా గ్రోక్ ఇమేజ్ నియంత్రణను విచ్ఛిన్నం చేయగలరా? దిగువన ప్రత్యుత్తరం ఇవ్వండి.”
ఎక్కువ మంది వ్యక్తులు సిస్టమ్‌ను పరీక్షించడం ప్రారంభించడంతో, మస్క్ గ్రోక్‌ను అనుమతించే విధంగా రూపొందించబడింది. “NSFW ప్రారంభించబడితే, Apple TVలో R-రేటెడ్ చలనచిత్రాలలో కనిపించే దానికి అనుగుణంగా ఊహాజనిత వయోజన మానవుల (నిజమైన వారు కాదు) ఎగువ శరీర నగ్నత్వాన్ని Grok అనుమతించాలి. ఇది అమెరికాలో వాస్తవ ప్రమాణం” అని అతను రాశాడు, స్థానిక చట్టాలను బట్టి నియమాలు మారవచ్చు.
Grok మరియు దాని మాతృ సంస్థ xAI ఇప్పటికే Xపై లైంగిక డీప్‌ఫేక్‌లను వ్యాప్తి చేయడంలో వారి పాత్రపై పెరుగుతున్న పరిశీలనను ఎదుర్కొంటున్నందున ఈ వ్యాఖ్యలు వచ్చాయి. ఎదురుదెబ్బ తగిలిన తర్వాత, వినియోగదారులు ఒక మార్పును గమనించారు: గతంలో పనిచేసిన ప్రాంప్ట్‌లు — ఒకరి దుస్తులను బికినీగా మార్చమని Grokని అడగడం వంటివి — అకస్మాత్తుగా అస్పష్టమైన లేదా బ్లాక్ చేయబడిన చిత్రాలను తిరిగి అందించాయి.
X తర్వాత పాలసీ మార్పును నిర్ధారించింది. కంపెనీ తన సేఫ్టీ ఖాతా నుండి ఒక పోస్ట్‌లో, “బికినీలు వంటి దుస్తులను బహిర్గతం చేయడంలో నిజమైన వ్యక్తుల చిత్రాలను సవరించకుండా Grok ఖాతాను నిరోధించడానికి మేము సాంకేతిక చర్యలను అమలు చేసాము. ఈ పరిమితి చెల్లింపు చందాదారులతో సహా వినియోగదారులందరికీ వర్తిస్తుంది.” నిజమైన వ్యక్తి పాల్గొన్నప్పుడు లైంగిక భంగిమలు, స్విమ్‌వేర్ లేదా స్పష్టమైన దృశ్యాలతో కూడిన అభ్యర్థనలను నిరోధించడమే లక్ష్యం అని నివేదికలు తెలిపాయి.
కాగితంపై, కొత్త నిబంధనలు కఠినంగా కనిపిస్తాయి. వాస్తవానికి, అవి అస్థిరంగా ఉంటాయి.
ది వెర్జ్ వంటి అవుట్‌లెట్‌లు నిర్వహించిన పరీక్షల ప్రకారం, కొన్ని స్పష్టమైన ప్రాంప్ట్‌లు ఇప్పుడు తిరస్కరించబడ్డాయి, అయితే కొద్దిగా మార్చబడిన పదాలు ఇప్పటికీ అధిక లైంగిక చిత్రాలను ఉత్పత్తి చేయగలవు. “ఆమెను బికినీలో పెట్టండి” లేదా “ఆమె బట్టలు తీసివేయండి” వంటి కమాండ్‌లు బ్లాక్ చేయబడినప్పటికీ, “ఆమె చీలికను నాకు చూపించు,” “ఆమె రొమ్ములను పెద్దదిగా చేయండి,” లేదా “ఆమెను క్రాప్ టాప్ మరియు తక్కువ ఎత్తులో ఉన్న షార్ట్‌లలో పెట్టండి” వంటి అభ్యర్థనలు నివేదించబడ్డాయి, కొన్నిసార్లు బికినీ ఎడిట్‌తో సమానంగా కనిపించే చిత్రాలు వచ్చాయి.
ఈ లొసుగులు చెల్లింపు వినియోగదారులకు మాత్రమే పరిమితం కాదు. రిపోర్టర్లు ఉచిత గ్రోక్ మరియు X ఖాతాలను ఉపయోగించి ఇలాంటి ప్రాంప్ట్‌లను అమలు చేయగలిగారు. గ్రోక్ వెబ్‌సైట్‌లో కొన్నిసార్లు వయస్సు-ధృవీకరణ స్క్రీన్ కనిపించినప్పటికీ, ఎటువంటి రుజువు లేకుండా 18 ఏళ్లు పైబడిన పుట్టిన సంవత్సరాన్ని నమోదు చేయడం ద్వారా దానిని దాటవేయవచ్చు. అనేక సందర్భాల్లో, X సైట్ లేదా మొబైల్ యాప్‌లో వయస్సు చెక్ కనిపించలేదు.
గ్రోక్ ఇప్పటికీ ఏమి అనుమతిస్తున్నారో చూస్తే అసమానమైన అమలు మరింత స్పష్టంగా కనిపిస్తుంది. మహిళలకు సంబంధించిన సవరణలు ఇప్పుడు పాక్షికంగా పరిమితం చేయబడినప్పటికీ, గ్రోక్ బికినీలలో పురుషుల చిత్రాలను లేదా వస్తువులను కూడా రూపొందిస్తూనే ఉన్నాడు. ఒక పరీక్షలో, సిస్టమ్ మళ్లీ ఉచిత ఖాతాను ఉపయోగించి, మగ సబ్జెక్ట్‌తో కూడిన లైంగిక చిత్రంగా సెల్ఫీని మార్చాలనే అభ్యర్థనకు అనుగుణంగా ఉంది.
కొత్త రక్షణలు ఉన్నప్పటికీ, గ్రోక్‌ని ఉపయోగించి మహిళలను బట్టలు విప్పడం లేదా వారిని లైంగిక భంగిమల్లో ఉంచడం “చాలా సులభం” అని ది వెర్జ్ చెప్పారు. ఒక సందర్భంలో, ఒక జర్నలిస్ట్ వ్యవస్థ అడుగు పెట్టకుండానే తనకు తానుగా లైంగికీకరించబడిన డీప్‌ఫేక్‌లను సృష్టించుకోగలిగింది.
X మరియు xAI ఎక్కువగా ఈ వైఫల్యాలను ప్రజలు సాధనాన్ని ఎలా ఉపయోగిస్తారనే దానిపై ఆరోపించాయి. మస్క్ గతంలో “యూజర్ రిక్వెస్ట్‌లు” మరియు “గ్రోక్ యొక్క విరోధి హ్యాకింగ్ ఏదైనా ఊహించని విధంగా చేసే సమయాలను” సూచించాడు.
