గ్రోక్, ఎలోన్ మస్క్ యొక్క xAI చేత సృష్టించబడిన AI చాట్‌బాట్ మరియు X లోకి పొందుపరచబడింది, వినియోగదారులు లైంగికీకరించబడిన డీప్‌ఫేక్ చిత్రాలను రూపొందించడానికి ఉపయోగించుకోవడం ప్రారంభించిన తర్వాత పెరుగుతున్న అంతర్జాతీయ తుఫానుకు కేంద్రంగా ఉంది. సముచిత దుర్వినియోగం వలె ప్రారంభమైనది త్వరగా పూర్తి స్థాయి సంక్షోభంలోకి చేరుకుంది, ఐరోపా నుండి ఆగ్నేయాసియా మరియు ఇప్పుడు భారతదేశం వరకు ప్రభుత్వాలు జోక్యం చేసుకోవలసి వచ్చింది.
X పై వైరల్ “దుస్తులు విప్పే ధోరణి” పట్టుకున్న తర్వాత వివాదం చెలరేగింది. తరచుగా సబ్జెక్ట్ యొక్క సమ్మతి లేకుండా ఫోటోల నుండి దుస్తులను డిజిటల్‌గా తొలగించడానికి గ్రోక్ యొక్క ఇమేజ్ టూల్స్ ప్రాంప్ట్ చేయబడతాయని వినియోగదారులు కనుగొన్నారు. చాలా చిత్రాలు మహిళలను మరియు కొన్ని సందర్భాల్లో మైనర్లను కూడా లక్ష్యంగా చేసుకున్నాయి, వినియోగదారులు మరియు పిల్లల భద్రత కోసం వాదించేవారిలో ఆగ్రహాన్ని రేకెత్తించాయి. AI సాధనం చుట్టూ బలహీనమైన గార్డ్‌రైల్స్‌గా విమర్శకులు చూసిన దానిపై ఎదురుదెబ్బ దృష్టి సారించింది మరియు దానిని ఎంత సులభంగా ఆయుధంగా తయారు చేయవచ్చో ఊహించలేకపోయింది.
త్వరలో UK మరియు యూరప్ అంతటా ఒత్తిడి పెరిగింది. బ్రిటీష్ అధికారులు స్పష్టమైన AI- రూపొందించిన చిత్రాల వ్యాప్తిని బహిరంగంగా ఖండించారు, దీనిని “అవమానకరమైనది” మరియు “ఆమోదించలేనిది” అని పిలిచారు. UK ప్రభుత్వం దాని మీడియా రెగ్యులేటర్ ఆఫ్‌కామ్‌ను Xకి వ్యతిరేకంగా పూర్తి అమలు అధికారాలను ఉపయోగించమని కోరడం ద్వారా ఒక అడుగు ముందుకు వేసింది. చట్టవిరుద్ధమైన లేదా హానికరమైన కంటెంట్‌ను స్కేల్‌లో ప్రసారం చేయడానికి అనుమతించినప్పుడు ప్లాట్‌ఫారమ్‌లు కళ్లుమూసుకోలేవని రెగ్యులేటర్లు హెచ్చరించారు.
ఆగ్నేయాసియా నుండి ఇప్పటివరకు కఠినమైన ప్రతిస్పందన వచ్చింది. గ్రోక్‌తో ఏకాభిప్రాయం లేని లైంగిక డీప్‌ఫేక్‌లను నియంత్రించడంలో ప్లాట్‌ఫారమ్ విఫలమైందని అధికారులు నిర్ధారించిన తర్వాత మలేషియా మరియు ఇండోనేషియా X ని నిరోధించిన మొదటి దేశాలుగా మారాయి. దుర్వినియోగం ఆన్‌లైన్ భద్రతకు, ముఖ్యంగా మహిళలు మరియు మైనర్‌లకు ప్రత్యక్ష ముప్పును కలిగిస్తుందని మరియు అశ్లీల విషయాల వ్యాప్తి దేశీయ చట్టాలను ఉల్లంఘించిందని ఇరు దేశాల అధికారులు తెలిపారు. Xకి యాక్సెస్‌ను నిలిపివేయడం ద్వారా, డిజిటల్ ప్లాట్‌ఫారమ్‌లు తగినంత వేగంగా పని చేయనప్పుడు తాము కఠినమైన చర్యలు తీసుకోవడానికి సిద్ధంగా ఉన్నామని రెండు ప్రభుత్వాలు బలమైన సంకేతాన్ని పంపాయి.
భారతదేశం మరింత లక్ష్యంగా – కానీ ఇప్పటికీ దృఢమైన – విధానాన్ని తీసుకుంది. మినిస్ట్రీ ఆఫ్ ఎలక్ట్రానిక్స్ అండ్ ఇన్ఫర్మేషన్ టెక్నాలజీ (MeitY) గ్రోక్‌తో ముడిపడి ఉన్న అశ్లీల మరియు చట్టవిరుద్ధమైన AI- రూపొందించిన కంటెంట్ గురించి అనేక ఫిర్యాదులను స్వీకరించిన తర్వాత Xకి అధికారిక నోటీసు జారీ చేసింది. అటువంటి మెటీరియల్‌ను వెంటనే తొలగించాలని ప్రభుత్వం డిమాండ్ చేసింది మరియు 72 గంటల్లో దిద్దుబాటు చర్యలపై వివరణాత్మక నివేదికను సమర్పించాలని కంపెనీని కోరింది. ప్లాట్‌ఫారమ్-స్థాయి భద్రతలు విచ్ఛిన్నం కావడానికి నిదర్శనంగా మహిళలను అవమానపరిచే మరియు స్పష్టమైన చిత్రాలను ప్రసారం చేయడాన్ని అధికారులు హైలైట్ చేశారు.
X నష్టాన్ని అరికట్టడానికి త్వరగా కదిలి ప్రతిస్పందించింది. ప్రభుత్వ జోక్యం తర్వాత, కంపెనీ 600 కంటే ఎక్కువ ఖాతాలను తొలగించినట్లు ధృవీకరించింది మరియు భారతదేశంలో అశ్లీల గ్రోక్ కంటెంట్‌తో లింక్ చేయబడిన దాదాపు 3,500 పోస్ట్‌లను బ్లాక్ చేసింది. అటువంటి చిత్రాలను ముందుకు సాగనివ్వబోమని మరియు భారతీయ చట్టానికి లోబడి దాని మోడరేషన్ పద్ధతులను కఠినతరం చేస్తామని కూడా అది అధికారులకు హామీ ఇచ్చింది.
ప్రపంచవ్యాప్తంగా, X మరో ప్రధాన మార్పును ప్రవేశపెట్టింది. మౌంటు పరిశీలనలో, ఇది X ప్లాట్‌ఫారమ్‌లో గ్రోక్ యొక్క ఇమేజ్ జనరేషన్ మరియు ఎడిటింగ్ ఫీచర్‌లను చెల్లించే వినియోగదారులకు మాత్రమే పరిమితం చేసింది. ఉచిత వినియోగదారులు ఇప్పటికీ xAI యొక్క స్వతంత్ర యాప్ మరియు వెబ్‌సైట్ ద్వారా Grokని యాక్సెస్ చేయవచ్చు, అయితే Xలో ఈ సాధనాలను పరిమితం చేయడం దుర్వినియోగాన్ని అరికట్టడంలో సహాయపడుతుందని కంపెనీ వాదించింది. విమర్శకులు, అయితే, పేవాల్ వెనుక ఫీచర్‌ను ఉంచడం వలన సమస్య మొదటి స్థానంలో ఉద్భవించడానికి అనుమతించిన లోతైన భద్రతా లోపాలను పరిష్కరించకుండా దుర్వినియోగానికి అయ్యే ఖర్చును పెంచుతుందని అంటున్నారు.
శక్తివంతమైన ఉత్పాదక AI సాధనాలను ఎలా నియంత్రించాలనే దానితో ప్రభుత్వాలు పోరాడుతూనే ఉన్నాయి, గ్రోక్ ఎపిసోడ్, ఆవిష్కరణలు పర్యవేక్షణను అధిగమించినప్పుడు ఏమి తప్పు జరుగుతుందో స్పష్టంగా గుర్తు చేస్తుంది. ప్లాట్‌ఫారమ్‌పై నమ్మకాన్ని పునరుద్ధరించడానికి తాజా పరిమితులు సరిపోతాయా అనేది బహిరంగ ప్రశ్నగా మిగిలిపోయింది.
