ఎలోన్ మస్క్ X యొక్క కృత్రిమ మేధస్సు సాధనం గ్రోక్‌ను దుర్వినియోగం చేస్తున్న వినియోగదారులకు కఠినమైన హెచ్చరికను జారీ చేశారు, ఒక వైరల్ ట్రెండ్‌ను అనుసరించి, వినియోగదారులు AI వినియోగదారుల ఫోటోలను లైంగికంగా అసభ్యకరమైన చిత్రాలుగా మార్చడానికి ప్రేరేపించారు, తరచుగా వారిని బికినీలలో చిత్రీకరిస్తారు.

శనివారం, మస్క్ X యొక్క అధికారిక సేఫ్టీ ఖాతా నుండి ఒక పోస్ట్‌ను రీట్వీట్ చేసి, క్లుప్తమైన కానీ సూటిగా సందేశాన్ని జోడించారు: “మేము తమాషా చేయడం లేదు.” ఈ వివాదం విస్తృతమైన ఆగ్రహాన్ని మరియు నియంత్రణ పరిశీలనను ప్రేరేపించింది. భారతదేశంలో, AI ఆధారిత దుర్వినియోగాన్ని అరికట్టడంలో ప్లాట్‌ఫారమ్ విఫలమైందని అధికారులు ఆరోపించారు.

X చట్టవిరుద్ధమైన కంటెంట్‌పై కఠిన చర్యలు తీసుకుంటామని హెచ్చరించింది

ది భద్రతా ఖాతా పోస్ట్ చట్టవిరుద్ధమైన విషయాలపై, ముఖ్యంగా చైల్డ్ సెక్సువల్ అబ్యూజ్ మెటీరియల్ (CSAM)పై కంపెనీ వైఖరిని వివరించింది మరియు గ్రోక్ యొక్క దుర్వినియోగానికి సంబంధించిన హెచ్చరికను పొడిగించింది.

"చైల్డ్ సెక్సువల్ అబ్యూజ్ మెటీరియల్ (CSAM)తో సహా Xలోని చట్టవిరుద్ధమైన కంటెంట్‌ను తీసివేయడం ద్వారా, ఖాతాలను శాశ్వతంగా సస్పెండ్ చేయడం ద్వారా మరియు స్థానిక ప్రభుత్వాలు మరియు చట్టాన్ని అమలు చేసే వారితో కలిసి పని చేయడం ద్వారా మేము చర్య తీసుకుంటాము" అని పోస్ట్ పేర్కొంది.

మస్క్ శనివారం కూడా ట్వీట్ చేశాడు, “ఎవరైనా ఉపయోగిస్తున్నారు లేదా ప్రాంప్ట్ చేస్తారు గ్రోక్ చట్టవిరుద్ధమైన కంటెంట్‌ను అప్‌లోడ్ చేసినట్లయితే, చట్టవిరుద్ధమైన కంటెంట్‌ను అప్‌లోడ్ చేస్తే అదే పరిణామాలను ఎదుర్కొంటారు.

ప్లాట్‌ఫారమ్ నియమాలు మరియు అమలు చర్యల యొక్క వివరణాత్మక వివరణ కోసం ప్రకటన వినియోగదారులను X యొక్క సహాయ పేజీలకు పంపింది.

గ్రోక్ రూపొందించిన స్పష్టమైన చిత్రాలపై పెరుగుతున్న ఆందోళన

చిత్రాలను మానిప్యులేట్ చేయడానికి గ్రోక్ ఎలా ఉపయోగించబడిందనే ఆందోళన పెరుగుతున్న నేపథ్యంలో ఈ హెచ్చరిక వచ్చింది లైంగిక కంటెంట్. వినియోగదారులు బికినీ-ధరించిన వర్ణనలతో సహా మహిళలు మరియు మైనర్‌ల సింథటిక్ చిత్రాలను రూపొందించడానికి ఈ సాధనాన్ని ఉపయోగించుకున్నారని నివేదించబడింది, తర్వాత అవి సమ్మతి లేకుండా విస్తృతంగా భాగస్వామ్యం చేయబడ్డాయి.

భారత ప్రభుత్వం తక్షణ చర్యలు తీసుకోవాలని డిమాండ్ చేసింది

భారతదేశ ఎలక్ట్రానిక్స్ మరియు ఇన్ఫర్మేషన్ టెక్నాలజీ మంత్రిత్వ శాఖ, లేదా MeitY, శుక్రవారం నాడు గట్టి వైఖరిని తీసుకుంది, Xకి నోటీసు జారీ చేసింది మరియు 72 గంటల్లో చర్య తీసుకున్న నివేదికను కోరింది.

"గ్రోక్' మరియు xAI యొక్క ఇతర సేవల వంటి AI- ఆధారిత సేవల దుర్వినియోగం ద్వారా" అశ్లీల, నగ్న, అసభ్యకరమైన మరియు లైంగిక అసభ్యకరమైన కంటెంట్‌ను హోస్ట్ చేయడం, సృష్టించడం మరియు అప్‌లోడ్ చేయడాన్ని నిరోధించడానికి తక్షణ సమ్మతి కోసం మంత్రిత్వ శాఖ పిలుపునిచ్చింది.

MeitY తన నోటీసులో, ఇతర వర్తించే చట్టాలతో పాటు, ఇన్ఫర్మేషన్ టెక్నాలజీ చట్టం, 2000 ప్రకారం X యొక్క "చట్టబద్ధమైన శ్రద్ధగల బాధ్యతలను పాటించడంలో వైఫల్యం"ని ఉదహరించింది.

రక్షణ మరియు సమ్మతిపై ప్రశ్నలు

గ్రోక్ అప్లికేషన్ కోసం అనుసరించిన లేదా ప్రతిపాదించిన సాంకేతిక మరియు సంస్థాగత చర్యలను వివరించే వివరణాత్మక నివేదికను సమర్పించాల్సిందిగా ప్రభుత్వం Xని కోరింది. అలాగే పాత్రపై క్లారిటీ ఇవ్వాలని కోరింది పర్యవేక్షణ చేపట్టారు ప్లాట్‌ఫారమ్ యొక్క ముఖ్య వర్తింపు అధికారి ద్వారా.

అభ్యంతరకరమైన కంటెంట్, వినియోగదారులు మరియు ఖాతాలకు వ్యతిరేకంగా తీసుకున్న చర్యలు మరియు భారతీయ నాగరిక్ సురక్షా సంహితలోని సెక్షన్ 33 ప్రకారం తప్పనిసరి రిపోర్టింగ్ ఆవశ్యకతలకు అనుగుణంగా ఉండేలా మెకానిజమ్‌లు లేవనెత్తిన ఇతర అంశాలు ఉన్నాయి.

ఫేక్ లేదా అనామక ఖాతాలకు మించి సమస్య విస్తరించిందని అధికారులు గుర్తించారు. మంత్రిత్వ శాఖ ప్రకారం, వారి స్వంత చిత్రాలు లేదా వీడియోలను పోస్ట్ చేసే మహిళలు AI ప్రాంప్ట్‌లు, ఇమేజ్ మానిప్యులేషన్ మరియు సింథటిక్ అవుట్‌పుట్‌ల ద్వారా కూడా టార్గెట్ చేయబడుతున్నారు.

X చర్య తీసుకోవడంలో విఫలమైతే చట్టపరమైన పరిణామాలు

X తన బాధ్యతలను పాటించకపోతే గణనీయమైన చట్టపరమైన పరిణామాలను కూడా మంత్రిత్వ శాఖ హెచ్చరించింది.

"అటువంటి శ్రద్ధగల బాధ్యతలను పాటించడంలో వైఫల్యం IT చట్టంలోని సెక్షన్ 79 కింద బాధ్యత నుండి మినహాయింపును కోల్పోతుంది మరియు IT చట్టం మరియు BNSతో సహా ఏదైనా చట్టం కింద అందించిన పర్యవసాన చర్యలకు కూడా మీరు బాధ్యత వహించాలి" అని లేఖ పేర్కొంది.