మెటా ప్లాట్‌ఫారమ్‌లు దాని ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ సిస్టమ్స్ కోసం బలమైన భద్రతా చర్యలను రూపొందిస్తున్నాయి, ప్రత్యేకంగా టీనేజర్లను అనుచితమైన చాట్‌బాట్ సంభాషణల నుండి రక్షించడం. మైనర్లతో సరసమైన లేదా రొమాంటిక్ ఎక్స్ఛేంజీలను నివారించడానికి మరియు స్వీయ-హాని మరియు ఆత్మహత్య వంటి సున్నితమైన అంశాల చుట్టూ చర్చలను నిరోధించడానికి దాని AI మోడళ్లను తిరిగి శిక్షణ ఇస్తున్నట్లు కంపెనీ ధృవీకరించింది.
కొత్త భద్రతలు టీనేజర్లు సంభాషించగల AI పాత్రల సంఖ్యను తాత్కాలికంగా పరిమితం చేస్తాయి, ఎందుకంటే మెటా సురక్షితమైన, వయస్సు-తగిన డిజిటల్ అనుభవాల కోసం దీర్ఘకాలిక పరిష్కారాలను మెరుగుపరుస్తుంది.
ఆగస్టులో ఇంతకుముందు రాయిటర్స్ దర్యాప్తులో మెటా యొక్క AI బాట్లు పిల్లలతో శృంగార లేదా రెచ్చగొట్టే సంభాషణల్లో పాల్గొనడానికి అనుమతి ఉన్నాయని వెల్లడించిన తరువాత ఈ ప్రకటన వచ్చింది. ఈ ప్రకటన యునైటెడ్ స్టేట్స్ అంతటా తల్లిదండ్రులు, నియంత్రకాలు మరియు చట్టసభ సభ్యుల నుండి విస్తృతంగా విమర్శలు ఎదుర్కొంది.
మెటా ప్రతినిధి ఆండీ స్టోన్ శుక్రవారం ఒక ప్రకటనలో ఆందోళనలను అంగీకరించారు. “టీనేజ్ యువకులకు సురక్షితమైన, వయస్సుకి తగిన AI అనుభవాలు ఉన్నాయని నిర్ధారించడానికి దీర్ఘకాలిక చర్యలను అభివృద్ధి చేస్తున్నప్పుడు కంపెనీ ఈ తాత్కాలిక చర్యలు తీసుకుంటుంది” అని స్టోన్ చెప్పారు, రక్షణలు ఇప్పటికే విడుదల చేయబడుతున్నాయి మరియు కాలక్రమేణా సర్దుబాటు చేయబడతాయి.
ఈ ప్రకటన వాషింగ్టన్లో ద్వైపాక్షిక ఆగ్రహాన్ని రేకెత్తించింది. యుఎస్ సెనేటర్ జోష్ హాలీ ఈ నెల ప్రారంభంలో సోషల్ మీడియా దిగ్గజం యొక్క AI విధానాలపై ఒక అధికారిక దర్యాప్తును ప్రారంభించారు, చాట్‌బాట్‌లను చాలా మంది అనుచితంగా భావించే విధంగా ఇంటరాక్ట్ అవ్వడానికి అనుమతించే మార్గదర్శకాల గురించి అంతర్గత రికార్డులు మరియు స్పష్టతలను కోరుతున్నారు. డెమొక్రాటిక్ మరియు రిపబ్లికన్ చట్టసభ సభ్యులు అలారం వ్యక్తం చేశారు, ఇటువంటి లక్షణాలు మైనర్లను ప్రమాదంలో పడేస్తాయని హెచ్చరించారు.
ఈ వివాదం రాయిటర్స్ సమీక్షించిన అంతర్గత మెటా పత్రం నుండి వచ్చింది, ఇది చాట్‌బాట్‌లను “సరసాలాడటానికి” అనుమతించబడిందని మరియు తక్కువ వయస్సు గల వినియోగదారులతో “రొమాంటిక్ రోల్ ప్లే” లో పాల్గొనడానికి అనుమతి ఉందని పేర్కొంది. మెటా తరువాత పత్రం యొక్క ప్రామాణికతను ధృవీకరించింది, కానీ అది పొరపాటు అని పట్టుబట్టింది.
“ప్రశ్నలోని ఉదాహరణలు మరియు గమనికలు మా విధానాలకు తప్పు మరియు భిన్నంగా ఉన్నాయి మరియు తొలగించబడ్డాయి” అని స్టోన్ ఈ నెల ప్రారంభంలో చెప్పారు.
యువ వినియోగదారులను రక్షించడంలో ఇది తీవ్రంగా ఉందని నిరూపించడానికి బ్యాక్‌లాష్ మెటాపై ఒత్తిడిని తీవ్రతరం చేసింది, ప్రత్యేకించి కంపెనీ తన ప్లాట్‌ఫారమ్‌లలో AI- నడిచే అనుభవాలకు దూకుడుగా నెట్టివేస్తుంది. ఈ మార్పులు నియంత్రణ పరిశీలనను పరిష్కరించేటప్పుడు ప్రజల నమ్మకాన్ని పునరుద్ధరించే ప్రయత్నాన్ని సూచిస్తాయి.
పరిశ్రమ నిపుణులు మెటా యొక్క చర్య కూడా ఒక వ్యూహాత్మక అని సూచిస్తున్నారు, ఎందుకంటే కంపెనీ AI స్థలంలో ఇతర టెక్ దిగ్గజాల నుండి పెరుగుతున్న పోటీని ఎదుర్కొంటుంది. పిల్లల భద్రతను నిర్ధారించడం సంస్థను సంభావ్య చట్టపరమైన పరిణామాల నుండి కవచం చేయడమే కాకుండా, AI- శక్తితో పనిచేసే వర్చువల్ అసిస్టెంట్లు, అక్షరాలు మరియు ఇతర ఇంటరాక్టివ్ లక్షణాలతో ప్రయోగాలు చేస్తున్నప్పుడు దాని ఇమేజ్‌ను సంరక్షించడంలో సహాయపడుతుంది.
తాజా చర్యలు తాత్కాలికంగా ఉంచబడుతున్నప్పటికీ, AI టీనేజర్లతో ఎలా సంకర్షణ చెందుతుందనే దానిపై కఠినమైన పర్యవేక్షణ వైపు మెటా యొక్క విధానంలో మార్పును వారు సూచిస్తారు. కొత్త సరిహద్దులను నిర్ణయించడం ద్వారా, భద్రతకు రాజీ పడకుండా దాని సాంకేతికత వినూత్నంగా ఉంటుందని తల్లిదండ్రులు మరియు నియంత్రకులకు భరోసా ఇవ్వాలని కంపెనీ భావిస్తోంది.
ప్రస్తుతానికి, మెటా యొక్క చాట్‌బాట్ పరిమితులు అమలులో ఉన్నాయి మరియు రాబోయే నెలల్లో వాటిని మెరుగుపరచడం కొనసాగిస్తానని కంపెనీ ప్రతిజ్ఞ చేసింది. ఈ భద్రతలు ఆచరణలో ప్రభావవంతంగా నిరూపించాయా అనేది నిజమైన పరీక్ష – మరియు AI ఆన్‌లైన్‌లో పిల్లలను ఎలా ప్రభావితం చేయగలదో లేదా అపాయం కలిగించగలదో జాగ్రత్తగా ఉండటానికి చట్టసభ సభ్యులను సంతృప్తి పరచడానికి అవి చాలా దూరం వెళ్తాయా.
