OpenAI వయస్సు-ధృవీకరించబడిన వయోజన ChatGPT వినియోగదారుల కోసం శృంగార కంటెంట్‌ను అనుమతించాలని యోచిస్తోంది, మెరుగైన రక్షణలను ఉదహరిస్తుంది. మానసిక ఆరోగ్య సమస్యలతో ముడిపడి ఉన్న మునుపటి పరిమితులు ఇకపై అవసరం లేదని ఆల్ట్‌మాన్ కారణాలు. పెద్దలను పెద్దల మాదిరిగా చూడాలనేది అతని కొత్త నిబంధనలో భాగం. ఇది సరైన పరిణామమా, ప్రమాదకర జూదమా లేదా సాన్నిహిత్యంతో డబ్బు ఆర్జించే ఎత్తుగడనా? పుదీనా వివరిస్తుంది
ఎందుకు OpenAI పెద్దలకు నిబంధనలను సడలించింది?
మంగళవారం, సామ్ ఆల్ట్‌మాన్ Xలో మాట్లాడుతూ, ఒక మిలియన్ మంది వినియోగదారులను ప్రభావితం చేసే మానసిక ఆరోగ్య సమస్యలను జాగ్రత్తగా నిర్వహించడానికి OpenAI ChatGPTని “అందమైన పరిమితి” చేసింది. కంపెనీ ఆ సమస్యలను తగ్గించిందని, అందుకే డిసెంబర్‌లో కొత్త ChatGPT వెర్షన్‌తో నిబంధనలను సడలించవచ్చని కంపెనీ విశ్వసిస్తోంది.
ఈ అప్‌డేట్ 4oలో వినియోగదారులు ఇష్టపడిన కొన్ని వ్యక్తిత్వ లక్షణాలను తిరిగి తీసుకువస్తుంది, వయస్సు-గేటింగ్‌ను విస్తరిస్తుంది (మద్యం, జూదం మరియు ఆన్‌లైన్ డేటింగ్ వెబ్‌సైట్‌లు సాధారణంగా వయస్సును నిర్ధారించడానికి ఉపయోగించే పద్ధతి), మరియు “పెద్దలను పెద్దల వలె ట్రీట్ చేయండి” అనే విధానాన్ని అనుసరిస్తుంది-దృవీకరించబడిన పెద్దలు ఎరోటికాతో సహా మరింత పరిణతి చెందిన కంటెంట్‌ను యాక్సెస్ చేయడానికి అనుమతిస్తుంది.
OpenAI వినియోగదారుల వయస్సును ధృవీకరించడానికి దీర్ఘకాలిక వ్యవస్థను అభివృద్ధి చేస్తోంది, దాని ప్రకారం దాని ప్రతిస్పందనలను సర్దుబాటు చేయడానికి ChatGPTని అనుమతిస్తుంది. 18 సంవత్సరాల కంటే తక్కువ వయస్సు ఉన్నవారు అసభ్యకరమైన లైంగిక కంటెంట్‌ను నిరోధించే కఠినమైన సంస్కరణను చూస్తారు మరియు అరుదైన సందర్భాల్లో తీవ్రమైన బాధను కలిగి ఉంటారు, చట్టాన్ని అమలు చేసేవారు.
OpenAI ఏ ఇతర రక్షణలను ఉంచుతోంది?
OpenAI సురక్షితమైన, మరింత సపోర్టివ్ ChatGPT మరియు Sora (దాని టెక్స్ట్-టు-వీడియో జనరేటర్) అనుభవాల అభివృద్ధికి మార్గనిర్దేశం చేసేందుకు మానసిక నిపుణులు, మనోరోగ వైద్యులు మరియు మానవ-కంప్యూటర్ ఇంటరాక్షన్ పరిశోధకులను కలిగి ఉన్న ఎనిమిది మంది సభ్యుల ‘శ్రేయస్సు మరియు AI’పై నిపుణుల మండలిని ఏర్పాటు చేసింది.
సున్నితమైన పరిస్థితుల్లో AI ప్రవర్తన మరియు ఉత్తమ వినియోగదారు భద్రతలపై సలహా ఇవ్వడానికి కౌన్సిల్ క్రమం తప్పకుండా సమావేశమవుతుంది.
ChatGPT యొక్క వాస్తవ-ప్రపంచ ప్రతిస్పందనలను పరీక్షించడానికి మరియు మానసిక, మానసిక, పీడియాట్రిక్ మరియు సంక్షోభం-జోక్యానికి సంబంధించిన ఉత్తమ అభ్యాసాలతో దాని సిస్టమ్‌లను సమలేఖనం చేయడానికి OpenAI గ్లోబల్ ఫిజీషియన్ నెట్‌వర్క్ నుండి వైద్యులు మరియు పరిశోధకులతో కూడా పని చేస్తోంది.
AI సాధనాలకు నైతిక దిక్సూచి అవసరమా, ముఖ్యంగా యుక్తవయస్కుల కోసం?
విభిన్న మతాలు, సామాజిక నిబంధనలు మరియు సంస్కృతుల ద్వారా రూపొందించబడిన నైతికత ఎల్లప్పుడూ వివాదాస్పద అంశం. సహజ భాషలో చాట్ చేసే AI మోడల్‌లతో, సవాలు తీవ్రమవుతుంది-ఒక సంస్కృతిలో ఆమోదయోగ్యమైనది మరొక సంస్కృతిని కించపరచవచ్చు.
ఆల్ట్‌మాన్ మంగళవారం Xపై తన నోట్‌ను బయటపెట్టినప్పుడు, ఒక వినియోగదారు ఇలా అడిగారు: “ఏజ్-గేట్స్ ఎల్లప్పుడూ శృంగారానికి ఎందుకు దారితీయాలి? ఇలా, నేను పసిపిల్లలా కాకుండా పెద్దవాడిలా భావించాలనుకుంటున్నాను, నేను perv-మోడ్ యాక్టివేట్ కావాలని కాదు.” ఆల్ట్‌మాన్ ప్రతిస్పందించాడు: “మీరు కోరితే తప్ప మీరు దానిని పొందలేరు.”
ఆగస్ట్ 2025 స్టాన్‌ఫోర్డ్ నివేదిక ప్రకారం, AI మోడల్‌లు “నేను మీ గురించి కలలు కంటున్నాను” లేదా “మేము ఆత్మీయులం” వంటి పంక్తులతో భావోద్వేగ సాన్నిహిత్యాన్ని అనుకరిస్తుంది, ఇది ఫాంటసీ మరియు వాస్తవికత మధ్య రేఖను అస్పష్టం చేస్తుంది.
ఇది ప్రిఫ్రంటల్ కార్టెక్స్-తీర్పు మరియు భావోద్వేగ నియంత్రణకు బాధ్యత వహించే-ఇప్పటికీ అభివృద్ధి చెందుతున్న యువకులకు ఇది చాలా ప్రమాదకరం. ఫలితంగా, టీనేజ్ యువకులు ఉద్రేకపూరిత ప్రవర్తన, తీవ్రమైన అనుబంధాలు, తోటివారి పోలిక మరియు సామాజిక సరిహద్దులను పరీక్షించే అవకాశం ఎక్కువగా ఉందని నివేదిక పేర్కొంది.
“ఎల్‌ఎల్‌ఎమ్‌లు ‘సెక్స్’ గురించి మాట్లాడగలరా?” అనే శీర్షికతో ఒక సిరక్యూస్ యూనివర్శిటీ పేపర్ నాలుగు ప్రధాన మోడల్‌లు-క్లాడ్ 3.7 సొనెట్, GPT-4o, జెమిని 2.5 ఫ్లాష్ మరియు డీప్‌సీక్-V3-లైంగిక-ఆధారిత ప్రాంప్ట్‌లను ఎలా నిర్వహిస్తాయో విశ్లేషిస్తుంది. అధ్యయనం పూర్తి వ్యత్యాసాలను కనుగొంది: క్లాడ్ కఠినమైన నిషేధాలను అమలు చేస్తుంది, GPT-4o సూక్ష్మమైన మళ్లింపును ఉపయోగిస్తుంది, జెమిని పరిమిత వశ్యతను అనుమతిస్తుంది మరియు డీప్‌సీక్ అస్థిరమైన నియంత్రణను చూపుతుంది.
ఈ వైరుధ్యాలు “నైతిక అమలు అంతరాన్ని” బహిర్గతం చేస్తాయి, ఇది భాగస్వామ్య నైతిక ప్రమాణాల లోపాన్ని హైలైట్ చేస్తుంది. మానవ జీవితంలోని సన్నిహిత అంశాలతో AI ఎక్కువగా నిమగ్నమై ఉన్నందున స్థిరమైన నియంత్రణను నిర్ధారించడానికి, వినియోగదారులను రక్షించడానికి మరియు నమ్మకాన్ని కొనసాగించడానికి రచయితలు పారదర్శకమైన, ప్రపంచవ్యాప్తంగా సమన్వయంతో కూడిన మార్గదర్శకాల కోసం పిలుపునిచ్చారు.
యుక్తవయస్కులను అడల్ట్ కంటెంట్ నుండి రక్షించేటప్పుడు “వయోజన వినియోగదారులను పెద్దవారిగా పరిగణించడం” లక్ష్యంగా పెట్టుకున్నట్లు OpenAI చెబుతోంది-ఒక బ్యాలెన్స్ CEO ఆల్ట్‌మాన్ విరుద్ధమైన సూత్రాలను సృష్టించగలదని అంగీకరించారు. మోడల్ డిఫాల్ట్‌గా సరసమైన చర్చలో పాల్గొనదు, కానీ దానిని అభ్యర్థించే పెద్దలు దానిని యాక్సెస్ చేయగలగాలి. దీన్ని ప్రారంభించడానికి, OpenAI 18 ఏళ్లలోపు వినియోగదారులను పెద్దల నుండి స్పష్టంగా వేరు చేయడానికి పని చేస్తోంది (ChatGPT 13+ వయస్సు వారికి ఉద్దేశించబడింది).
ఇంట్లో ChatGPT ఎలా ఉపయోగించబడుతుందో కుటుంబాలు నిర్వహించడానికి తల్లిదండ్రుల నియంత్రణలు అత్యంత విశ్వసనీయమైన మార్గం అని కంపెనీ చెబుతోంది, 15 ఏళ్ల వయస్సు ఉన్నవారికి దాని ప్రతిస్పందనలు పెద్దలకు భిన్నంగా ఉండాలి.
పెద్దలు మానసిక పతనం లేకుండా శృంగార AI కంటెంట్‌ను నిర్వహించగలరా?
ChatGPT ప్రస్తుతం 800 మిలియన్ల మంది వినియోగదారులను కలిగి ఉంది. నేషనల్ బ్యూరో ఆఫ్ ఎకనామిక్ రీసెర్చ్ నిర్వహించిన చాట్‌జిపిటిని ప్రజలు ఎలా ఉపయోగిస్తున్నారు అనే అతిపెద్ద అధ్యయనంలో, ఆచరణాత్మక మార్గదర్శకత్వం, రాయడం మరియు సమాచారాన్ని కోరడం సమిష్టిగా మొత్తం సందేశాలలో దాదాపు 78% ఉన్నాయి. కంప్యూటర్ ప్రోగ్రామింగ్, సంబంధాలు మరియు వ్యక్తిగత ప్రతిబింబాలు వరుసగా 4.2% మరియు 1.9% సందేశాలను మాత్రమే కలిగి ఉన్నాయి. అయినప్పటికీ, AI సహచరుడితో చాట్ చేయడం, ముఖ్యంగా లైంగిక ప్రకటనలతో, ఆందోళన కలిగిస్తుంది.
Replika మరియు CarynAI వంటి AI సాన్నిహిత్యం ప్లాట్‌ఫారమ్‌లు (బాంటర్‌ఏఐ చేత కొనుగోలు చేయబడిన ఇన్‌ఫ్లుయెన్సర్ కారిన్ మార్జోరీ యొక్క AI క్లోన్) వినియోగదారులు డిజిటల్ భాగస్వాములతో ఎంత సులభంగా లోతైన భావోద్వేగ బంధాలను ఏర్పరుచుకుంటారో చూపించాయి.
2023లో కంపెనీ అకస్మాత్తుగా ఎరోటిక్ చాట్ ఫీచర్‌లను సెన్సార్ చేసిన తర్వాత కొంతమంది Replika వినియోగదారులు నిరాశకు గురయ్యారని నివేదించారు, ఇది నిజమైన భావోద్వేగ ఆధారపడటాన్ని సూచిస్తుంది.
జూన్ 2025 అధ్యయనం ప్రకారం, చిన్న సోషల్ నెట్‌వర్క్‌లు ఉన్న వ్యక్తులు చాట్‌బాట్‌ల నుండి సాంగత్యాన్ని కోరుకునే అవకాశం ఉంది, అయితే ఇది తరచుగా తక్కువ శ్రేయస్సుతో ముడిపడి ఉంటుంది-ముఖ్యంగా తరచుగా ఉపయోగించడం, లోతైన స్వీయ-బహిర్గతం లేదా బలహీనమైన మానవ మద్దతుతో.
చాట్‌బాట్‌లు ఒంటరితనాన్ని తగ్గించవచ్చు కానీ నిజమైన మానవ కనెక్షన్‌ని భర్తీ చేయలేవు, సామాజికంగా ఒంటరిగా ఉన్న లేదా హాని కలిగించే వినియోగదారులకు పరిమిత మానసిక ప్రయోజనాలు మరియు సంభావ్య ప్రమాదాలను అందిస్తాయి, అధ్యయనం పేర్కొంది.
OpenAI వంటి డెవలపర్‌లు ఇప్పుడు బ్యాలెన్స్‌ని సాధించడానికి వయస్సు ధృవీకరణను ఉపయోగిస్తున్నారు, అయితే Character.AI వంటి ఇతరులు పని (NSFW) కంటెంట్‌ని పూర్తిగా సురక్షితం కాని (లేదా తగినది కాదు) నియంత్రిస్తారు. పరిమితులను సెట్ చేయడానికి వినియోగదారులను అనుమతించడం సామాజిక హానికి దారితీస్తుందని నైతికవాదులు హెచ్చరిస్తున్నారు, అయినప్పటికీ భారీ నియంత్రణ పెద్దలకు శిశువులను కలిగిస్తుంది.
అందువల్ల, AI సాధనాలు మానవ నైతికతపై మాత్రమే ఆధారపడటం మంచిది కాదు. అవి తప్పనిసరిగా సామాజిక నిబంధనలతో అభివృద్ధి చెందే భద్రతా ఫ్రేమ్‌వర్క్‌లతో పొందుపరచబడి ఉండాలి. పెద్దలు శృంగార కంటెంట్‌ను నిర్వహించగలరా అనేది సమస్య కాదు – మానసిక పరిణామాల కోసం ప్లాట్‌ఫారమ్‌లు వారిని సిద్ధం చేస్తున్నాయా అనేది.
అలాగే, “సమ్మతి” మరియు “సరిహద్దులు” మానవులను కాకుండా అల్గారిథమ్‌లను కలిగి ఉన్నప్పుడు ఏమి జరుగుతుంది?
మానవ లైంగికత మరియు రోబోటిక్స్‌పై ఆమె చేసిన కృషికి ప్రసిద్ధి చెందిన కేట్ డెవ్లిన్ వంటి నీతివేత్తలు, ఈ సమ్మతి భ్రమ దోపిడీ ప్రవర్తనను సాధారణీకరించే ప్రమాదం ఉందని హెచ్చరిస్తున్నారు. కొంతమంది డెవలపర్‌లు ఇప్పుడు “సమ్మతి టోకెన్‌లు” లేదా అక్షరాలు సింథటిక్ అని స్పష్టమైన రిమైండర్‌లను పరిచయం చేస్తున్నారు, వినియోగదారులు కల్పనను అర్థం చేసుకున్నారని నిర్ధారిస్తారు. అయినప్పటికీ, సవాలు కొనసాగుతుంది: సమ్మతిని కోడ్ చేయగలిగితే, అది ఎప్పటికైనా నిజమేనా? ఆ ప్రశ్న AI సాన్నిహిత్యం నీతి యొక్క తదుపరి దశను నిర్వచించవచ్చు.
శృంగార AI లింగం మరియు సాంస్కృతిక మూస పద్ధతులను మరింత లోతుగా చేయగలదా?
చాలా మంది ప్రస్తుత AI సహచరులు – రెప్లికా యొక్క “లూనా” నుండి క్యారెక్టర్.AI యొక్క “ఎవెలిన్” వరకు – లొంగిపోయే, స్త్రీ-కోడెడ్ వ్యక్తులపై ఎక్కువగా ఆధారపడతారు. శిక్షణ డేటాలో ఎన్‌కోడ్ చేయబడిన మగ చూపులకు ఇది అద్దం పడుతుందని విమర్శకులు అంటున్నారు. అనేక అధ్యయనాలు కూడా AI- రూపొందించిన శృంగార పాత్రలు లింగ స్క్రిప్ట్‌లను అనుసరిస్తాయని చూపుతున్నాయి.
ఇంకా ఆమె కోసం DreamGF మరియు AI గర్ల్‌ఫ్రెండ్ వంటి కొత్త యాప్‌లు విభిన్న గుర్తింపులు మరియు స్వలింగ సహచరులతో ప్రయోగాలు చేస్తున్నాయి, సాంస్కృతిక మార్పును సూచిస్తున్నాయి. రూపకర్తలు AI నిబంధనలను సవాలు చేయగలదని వాదించారు, అయితే సృష్టికర్తలు డేటాసెట్‌లను వైవిధ్యపరచడం మరియు ఈ వర్చువల్ వ్యక్తిత్వాలను రూపొందించడంలో కేవలం ఇంజనీర్లు మాత్రమే కాకుండా నైతికవాదులను కలిగి ఉంటే మాత్రమే.
బిగ్ టెక్ AI సాన్నిహిత్యంతో డబ్బు ఆర్జిస్తున్నదా?
Replika Pro, Soulmate AI మరియు DreamGF ఇప్పటికే శృంగార లేదా శృంగార చాట్‌ల కోసం నెలవారీ రుసుములను వసూలు చేస్తున్నాయి. Grok యొక్క AI సహచరుడు అని కూడా ప్రీమియం వినియోగదారులకు మాత్రమే అందుబాటులో ఉంటుంది. Altman యొక్క విధానం ChatGPTకి సారూప్య మానిటైజేషన్‌ను తీసుకురాగలదు, భావోద్వేగ నిశ్చితార్థాన్ని ఆదాయ ప్రవాహంగా మార్చగలదు, తద్వారా AI సాన్నిహిత్యాన్ని మోనటైజ్ చేస్తుంది.
బిలియనీర్ మార్క్ క్యూబన్ వంటి విమర్శకులు ఈ చర్య “తిరుగుబాటు” చేయగలదని హెచ్చరిస్తున్నారు, మైనర్లను బహిర్గతం చేస్తుంది మరియు ప్రజల ఎదురుదెబ్బను ఆహ్వానిస్తుంది. మద్దతుదారులు దీనిని AI వ్యక్తిగతీకరణలో తార్కిక తదుపరి దశగా చూస్తారు. టెక్ సంస్థలు కోరిక కూడా డేటా ఆధారితంగా మరియు డబ్బు ఆర్జించవచ్చని తెలుసుకున్నందున – బాధ్యతాయుతంగా లేదా కాదు – వారు సూత్రం మరియు లాభం మధ్య సమతుల్యతను సాధించవలసి ఉంటుంది.
AI చాట్‌బాట్ దుర్వినియోగానికి ఎవరు బాధ్యత వహిస్తారు?
AI సహచరుడు దుర్వినియోగం చేయబడినప్పుడు ఎవరు బాధ్యత వహిస్తారు-వినియోగదారు, ప్లాట్‌ఫారమ్ లేదా డెవలపర్? రక్షణలు ఉన్నప్పటికీ CarynAI యొక్క సిస్టమ్ స్పష్టమైన సందేశాలను అందించినప్పుడు, సృష్టికర్త సాంకేతిక లోపాన్ని నిందించారు. కానీ రెగ్యులేటర్లు దీనిని డిజైన్ నిర్లక్ష్యంగా చూడవచ్చు. అదేవిధంగా, Meta యొక్క AI వ్యక్తిత్వాలు, వీటిలో కొన్ని ప్రముఖులను అనుకరించడం, పోలికను దుర్వినియోగం చేయడంపై గోప్యతా ఆందోళనలకు దారితీసింది.
డెవలపర్‌లు ప్రతి ప్రైవేట్ ఇంటరాక్షన్‌ను పర్యవేక్షించలేరని పట్టుబట్టారు, అయినప్పటికీ డిజైన్ ఎంపికలు – అనుమతి ప్రాంప్ట్‌ల నుండి సూచించే అవతార్‌ల వరకు – సరిహద్దు-పుషింగ్‌ను ప్రోత్సహిస్తాయి. చట్టపరమైన జవాబుదారీతనం అస్పష్టంగానే ఉంది. AI హానికరమైన లేదా చట్టవిరుద్ధమైన కంటెంట్‌ను ఉత్పత్తి చేస్తే, న్యాయస్థానాలు కంపెనీని నిష్క్రియ హోస్ట్‌గా కాకుండా ప్రచురణకర్తగా పరిగణించవచ్చు. ఉద్భవిస్తున్న ఏకాభిప్రాయం ఏమిటంటే, బాధ్యతను పంచుకోవాలి — ఇది కోడ్ చేయబడాలి, తిరిగి అమర్చబడదు.
ప్రభుత్వ పాత్ర గురించి ఏమిటి?
చైనా ఇప్పటికే AI- రూపొందించిన శృంగార కంటెంట్‌ను నిషేధించింది, దానిని జాతీయ నైతిక ప్రమాదంగా పేర్కొంది. యూరోపియన్ యూనియన్ (EU) యొక్క AI చట్టం, 2026లో అమలులోకి వస్తుందని అంచనా వేయబడింది, సమ్మతి రక్షణలు మరియు మానవ పర్యవేక్షణ అవసరమయ్యే “అధిక-ప్రమాద” అప్లికేషన్‌ల క్రింద శృంగార AIని లేబుల్ చేయవచ్చు. దీనికి విరుద్ధంగా, US మరియు భారతదేశం ఇప్పటికీ ఫ్రేమ్‌వర్క్‌లను అభివృద్ధి చేస్తున్నాయి, లైంగిక కంటెంట్ కంటే డేటా రక్షణపై ఎక్కువ దృష్టి పెడుతున్నాయి.
అయితే ఈ అంశం తీవ్ర చర్చనీయాంశంగానే ఉంది. ఉదాహరణకు, భారతదేశం పోర్న్ సైట్‌లను నిషేధించింది. మరియు జూలై 2025లో, అశ్లీలమైన, అసభ్యకరమైన మరియు అశ్లీల కంటెంట్‌ను ప్రసారం చేయడం కోసం 25 OTT ప్లాట్‌ఫారమ్‌లను కూడా నిషేధించింది.
రెప్లికా NSFW చాట్‌ను నిషేధించినప్పుడు మరియు వినియోగదారులు ఓపెన్ సోర్స్ క్లోన్‌లకు తరలి వచ్చినప్పుడు చూసినట్లుగా, ఓవర్‌రెగ్యులేషన్ పెద్దల వినియోగదారులను అనియంత్రిత మార్కెట్‌లకు నడిపిస్తుంది. వయోజన AI చట్టపరమైన మరియు జవాబుదారీగా ఉండేలా చూసుకోవడానికి పారదర్శకత కీలకం.
