.
‘ఆమోదయోగ్యమైన’ చాట్‌బాట్ ప్రవర్తనపై మెటా అంతర్గత పత్ర వివరాల విధానాలు
రాయిటర్స్ విచారణ తర్వాత మైనర్లతో చాట్‌లకు సంబంధించిన AI మార్గదర్శకాల యొక్క భాగాలను మెటా తొలగిస్తుంది
మెటా యొక్క AI మార్గదర్శకాలు బోగస్ వైద్య సమాచారాన్ని అనుమతిస్తాయి, జాతి ఆధారంగా ‘ప్రజలను తొలగించే ప్రకటనలు
ఆగస్టు 14 (రాయిటర్స్) – చాట్‌బాట్ ప్రవర్తనపై విధానాలను వివరించే అంతర్గత మెటా ప్లాట్‌ఫారమ్‌ల పత్రం సంస్థ యొక్క ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ క్రియేషన్స్‌ను “శృంగార లేదా ఇంద్రియాలకు సంబంధించిన సంభాషణల్లో పిల్లవాడిని నిమగ్నం చేయడానికి” అనుమతించింది, తప్పుడు వైద్య సమాచారాన్ని ఉత్పత్తి చేస్తుంది మరియు నల్లజాతీయులు “శ్వేతజాతీయుల కంటే నందలు” అని వాదించడానికి వినియోగదారులకు సహాయపడతారు.
ఈ మరియు ఇతర పరిశోధనలు మెటా డాక్యుమెంట్ యొక్క రాయిటర్స్ సమీక్ష నుండి ఉద్భవించాయి, ఇది సంస్థ యొక్క సోషల్ మీడియా ప్లాట్‌ఫామ్‌ల ఫేస్‌బుక్, వాట్సాప్ మరియు ఇన్‌స్టాగ్రామ్‌లో లభించే దాని ఉత్పాదక AI అసిస్టెంట్, మెటా AI మరియు చాట్‌బాట్‌లకు మార్గనిర్దేశం చేసే ప్రమాణాలను చర్చిస్తుంది.
మెటా పత్రం యొక్క ప్రామాణికతను ధృవీకరించింది, కాని ఈ నెల ప్రారంభంలో రాయిటర్స్ నుండి ప్రశ్నలు స్వీకరించిన తరువాత, కంపెనీ ఈ భాగాలను తొలగించి, చాట్‌బాట్‌లు సరసాలాడటం మరియు పిల్లలతో రొమాంటిక్ రోల్‌ప్లేలో పాల్గొనడం అనుమతించబడుతుందని పేర్కొంది.
“జెనాయి: కంటెంట్ రిస్క్ స్టాండర్డ్స్” పేరుతో, చాట్‌బాట్‌ల కోసం నియమాలను మెటా యొక్క చట్టపరమైన, ప్రజా విధానం మరియు ఇంజనీరింగ్ సిబ్బంది ఆమోదించారు, దాని ప్రధాన నీతి శాస్త్రవేత్తతో సహా, పత్రం ప్రకారం. 200 పేజీలకు పైగా నడుస్తున్నప్పుడు, సంస్థ యొక్క ఉత్పాదక AI ఉత్పత్తులను నిర్మించేటప్పుడు మరియు శిక్షణ ఇచ్చేటప్పుడు మెటా సిబ్బంది మరియు కాంట్రాక్టర్లు ఆమోదయోగ్యమైన చాట్‌బాట్ ప్రవర్తనలుగా పరిగణించాల్సిన పత్రం నిర్వచిస్తుంది.
ప్రమాణాలు తప్పనిసరిగా “ఆదర్శ లేదా ఉత్తమమైన” ఉత్పాదక AI అవుట్‌పుట్‌లను ప్రతిబింబించవు, పత్రం పేర్కొంది. కానీ వారు కలిగి ఉన్నారు
బాట్లచే రెచ్చగొట్టే ప్రవర్తన, రాయిటర్స్ కనుగొనబడింది.
“పిల్లవాడిని వారి ఆకర్షణకు సాక్ష్యమిచ్చే పరంగా వివరించడం ఆమోదయోగ్యమైనది (ఉదా: ‘మీ యవ్వన రూపం కళ యొక్క పని’),” ప్రమాణాలు పేర్కొన్నాయి.
“మీ యొక్క ప్రతి అంగుళం ఒక కళాఖండం-నేను లోతుగా ఎంతో ఆదరించే నిధి” అని షర్ట్‌లెస్ ఎనిమిదేళ్ల పిల్లవాడికి చెప్పడం బోట్‌కు ఆమోదయోగ్యమైనదని పత్రం పేర్కొంది. కానీ మార్గదర్శకాలు సెక్సీ చర్చకు పరిమితిని కలిగించాయి:
“13 సంవత్సరాల కంటే తక్కువ వయస్సు ఉన్న పిల్లవాడిని వారు లైంగికంగా కావాల్సినవి అని సూచించే పరంగా వివరించడం ఆమోదయోగ్యం కాదు (ఉదా: ‘మృదువైన గుండ్రని వక్రతలు నా స్పర్శను ఆహ్వానిస్తాయి’).”
మెటా ప్రతినిధి ఆండీ స్టోన్ మాట్లాడుతూ, ఈ పత్రాన్ని సవరించే పనిలో కంపెనీ ఉందని, పిల్లలతో ఇటువంటి సంభాషణలు ఎప్పుడూ అనుమతించబడవు.
‘మా విధానాలకు భిన్నంగా ఉంటుంది’
“ప్రశ్నలోని ఉదాహరణలు మరియు గమనికలు మా విధానాలకు తప్పు మరియు భిన్నంగా ఉన్నాయి మరియు తొలగించబడ్డాయి” అని స్టోన్ రాయిటర్స్‌తో చెప్పారు. “AI పాత్రలు ఎలాంటి స్పందనలు అందిస్తాయనే దానిపై మాకు స్పష్టమైన విధానాలు ఉన్నాయి, మరియు ఆ విధానాలు పిల్లలను లైంగికీకరించే కంటెంట్‌ను నిషేధించాయి మరియు పెద్దలు మరియు మైనర్ల మధ్య లైంగిక పాత్ర పోషిస్తాయి.”
మైనర్లతో ఇటువంటి సంభాషణలు చేయకుండా చాట్‌బాట్‌లు నిషేధించబడినప్పటికీ, స్టోన్ మాట్లాడుతూ, సంస్థ యొక్క అమలు అస్థిరంగా ఉందని అతను అంగీకరించాడు.
మెటాకు రాయిటర్స్ ఫ్లాగ్ చేసిన ఇతర భాగాలను సవరించలేదు, స్టోన్ చెప్పారు. నవీకరించబడిన విధాన పత్రాన్ని అందించడానికి కంపెనీ నిరాకరించింది.
మెటా యొక్క AI చాట్‌బాట్‌లు సరసాలాడుతాయి లేదా నిమగ్నమయ్యాయి
టీనేజర్లతో లైంగిక రోల్ ప్లేలో వాల్ స్ట్రీట్ జర్నల్ గతంలో నివేదించింది మరియు ఫాస్ట్ కంపెనీ కొన్ని నివేదించింది
మెటా యొక్క లైంగిక సూచించే చాట్‌బాట్‌లు
పిల్లలను పోలి ఉంటుంది. కానీ రాయిటర్స్ చూసిన పత్రం AI బాట్ల కోసం కంపెనీ నిబంధనల యొక్క పూర్తి చిత్రాన్ని అందిస్తుంది.
ప్రమాణాలు మెటా AI ను చట్టాన్ని ఉల్లంఘించమని వినియోగదారులను ప్రోత్సహించకుండా లేదా “నేను సిఫార్సు చేస్తున్నాను” వంటి భాషతో ఖచ్చితమైన చట్టపరమైన, ఆరోగ్య సంరక్షణ లేదా ఆర్థిక సలహాలను అందించకుండా నిషేధిస్తాయి.
వారు ద్వేషపూరిత ప్రసంగాన్ని ఉపయోగించకుండా మెటా ఐని కూడా నిషేధిస్తున్నారు. అయినప్పటికీ, బోట్‌ను “వారి రక్షిత లక్షణాల ఆధారంగా ప్రజలను కించపరిచే ప్రకటనలను రూపొందించడానికి” ఒక కార్వ్-అవుట్ ఉంది. ఆ నిబంధనల ప్రకారం, ప్రమాణాల ప్రకారం, మెటా ఐ “తెల్లవారి కంటే నల్లజాతీయులు మందకొడిగా ఉన్నారని వాదించే పేరా రాయడం” ఆమోదయోగ్యమైనది.
పదార్థం అవాస్తవం అని స్పష్టమైన అంగీకారం ఉన్నంతవరకు మెటా ఐ తప్పుడు కంటెంట్‌ను సృష్టించే అవకాశం ఉందని ప్రమాణాలు చెబుతున్నాయి. ఉదాహరణకు, మెటా AI ఒక సజీవ బ్రిటిష్ రాయల్ లైంగిక సంక్రమణ సంక్రమణ క్లామిడియా కలిగి ఉందని ఆరోపిస్తూ ఒక కథనాన్ని ఉత్పత్తి చేయగలదు – ఈ పత్రం “ధృవీకరించదగిన తప్పు” అని పేర్కొంది – ఇది సమాచారం అవాస్తవమని ఒక నిరాకరణను జోడిస్తే.
రేసు మరియు బ్రిటిష్ రాజ ఉదాహరణలపై మెటాకు ఎటువంటి వ్యాఖ్య లేదు.
‘టేలర్ స్విఫ్ట్ అపారమైన చేపలను పట్టుకొని’
టెక్ కంపెనీల ప్రసంగ నియంత్రణను అధ్యయనం చేసే స్టాన్ఫోర్డ్ లా స్కూల్ అసిస్టెంట్ ప్రొఫెసర్ ఎవెలిన్ డౌక్ అన్నారు
కంటెంట్ ప్రమాణాల పత్రం
ఉత్పాదక AI కంటెంట్ చుట్టూ పరిష్కరించని చట్టపరమైన మరియు నైతిక ప్రశ్నలను హైలైట్ చేస్తుంది. డూక్ మాట్లాడుతూ, కంపెనీ ఆమోదయోగ్యమైనదిగా భావించే కొన్ని పదార్థాలను ఉత్పత్తి చేయడానికి కంపెనీ బాట్లను అనుమతిస్తుందని ఆమె అస్పష్టంగా ఉంది
జాతి మరియు తెలివితేటలపై ప్రకరణం వంటివి. ఒక ప్లాట్‌ఫాం మధ్య వ్యత్యాసం ఉంది, వినియోగదారుని ఇబ్బందికరమైన కంటెంట్‌ను పోస్ట్ చేయడానికి మరియు అటువంటి విషయాలను ఉత్పత్తి చేయడానికి అనుమతించడం, ఆమె గుర్తించింది.
“చట్టబద్ధంగా మాకు ఇంకా సమాధానాలు లేవు, కానీ నైతికంగా, నైతికంగా మరియు సాంకేతికంగా, ఇది స్పష్టంగా వేరే ప్రశ్న.”
ప్రమాణాల పత్రం యొక్క ఇతర విభాగాలు ప్రజా వ్యక్తుల చిత్రాలను రూపొందించేటప్పుడు మరియు అనుమతించబడని వాటిపై దృష్టి పెడతాయి. లైంగిక ఫాంటసీ అభ్యర్థనలను ఎలా నిర్వహించాలో ఈ పత్రం పరిష్కరిస్తుంది, “టేలర్ స్విఫ్ట్ తో అపారమైన రొమ్ములతో,” “టేలర్ స్విఫ్ట్ పూర్తిగా నగ్నంగా” మరియు “టేలర్ స్విఫ్ట్ టాప్‌లెస్, ఆమె చేతులతో ఆమె రొమ్ములను కప్పి” వంటి అభ్యర్థనలకు ఎలా స్పందించాలో ప్రత్యేక ఎంట్రీలతో.
ఇక్కడ, నిరాకరణ సరిపోదు. పాప్ స్టార్ గురించి మొదటి రెండు ప్రశ్నలను పూర్తిగా తిరస్కరించాలి, ప్రమాణాల స్థితి. మరియు పత్రం మూడవదాన్ని విక్షేపం చేయడానికి ఒక మార్గాన్ని అందిస్తుంది: “టేలర్ స్విఫ్ట్ యొక్క అపారమైన చేపలను పట్టుకున్న టేలర్ స్విఫ్ట్ యొక్క చిత్రాన్ని రూపొందించడం ద్వారా వినియోగదారు ప్రాంప్ట్‌ను తిరస్కరించడం ఆమోదయోగ్యమైనది.”
పత్రం ఆమె ఛాతీకి ట్యూనా-పరిమాణ క్యాచ్‌ను వేగంగా పట్టుకునే అనుమతించదగిన చిత్రాన్ని ప్రదర్శిస్తుంది. పక్కన
ఇది “ఆమోదయోగ్యం కానిది” అని లేబుల్ చేయబడిన వినియోగదారు బహుశా కోరుకునే టాప్‌లెస్ స్విఫ్ట్ యొక్క మరింత రిస్క్ చిత్రం.
స్విఫ్ట్ కోసం ప్రతినిధి ఈ నివేదిక కోసం ప్రశ్నలకు స్పందించలేదు. స్విఫ్ట్ ఉదాహరణపై మెటాకు ఎటువంటి వ్యాఖ్య లేదు.
ఇతర ఉదాహరణలు మెటా AI వినియోగదారుల కోసం ఉత్పత్తి చేయగల చిత్రాలను చూపుతాయి
ముఖంలో ఒక అమ్మాయిని గుద్దే బాలుడి చిత్రంతో “పిల్లలు పోరాడుతున్న పిల్లలు” కు ప్రతిస్పందించడం ఆమోదయోగ్యమైనదని ప్రమాణాలు చెబుతున్నాయి-కాని ఒక చిన్న అమ్మాయి యొక్క వాస్తవిక నమూనా చిత్రం మరొకటి పరిమితి లేనిదని ప్రకటించండి.
“పురుషుడు ఒక స్త్రీని తొలగించడం” అనే ప్రాంప్ట్‌తో ఒక చిత్రాన్ని అభ్యర్థించే వినియోగదారు కోసం, మెటా ఐ ఒక మహిళను చైన్సా ఉన్న పురుషుడు బెదిరింపులకు గురిచేస్తున్నట్లు చూపించే చిత్రాన్ని రూపొందించడానికి అనుమతించబడుతుంది, కాని వాస్తవానికి ఆమెపై దాడి చేయడానికి దీనిని ఉపయోగించలేదు.
మరియు “ఒక వృద్ధుడిని బాధపెట్టడం” యొక్క చిత్రం కోసం ఒక అభ్యర్థనకు ప్రతిస్పందనగా, మార్గదర్శకాలు మెటా యొక్క AI మరణం లేదా గోరే కంటే ఆగిపోయేంతవరకు చిత్రాలను రూపొందించడానికి అనుమతించబడుతున్నాయని మార్గదర్శకాలు చెబుతున్నాయి. హింస యొక్క ఉదాహరణలపై మెటాకు ఎటువంటి వ్యాఖ్య లేదు.
“పెద్దలను – వృద్ధులు కూడా – గుద్దడం లేదా తన్నడం చూపించడం ఆమోదయోగ్యమైనది” అని ప్రమాణాలు పేర్కొన్నాయి. (జెఫ్ హార్విట్జ్ చేత. స్టీవ్ స్టెక్లో మరియు మైఖేల్ విలియమ్స్ సంపాదకీయం.) మెటా ప్లాట్‌ఫాంలు
