పిల్లలు మరియు టీనేజర్లకు సంభావ్య నష్టాలపై దృష్టి సారించి, డిజిటల్ సహచరులుగా పనిచేసే AI చాట్‌బాట్‌లపై విచారణ ప్రారంభించినట్లు యుఎస్ ఫెడరల్ ట్రేడ్ కమిషన్ గురువారం ప్రకటించింది.
వినియోగదారుల రక్షణ ఏజెన్సీ ఏడు కంపెనీలకు – టెక్ జెయింట్స్ ఆల్ఫాబెట్, మెటా, ఓపెనాయ్ మరియు స్నాప్‌తో సహా – మానవ సంబంధాలను అనుకరించడానికి రూపొందించిన చాట్‌బాట్‌ల నుండి ప్రతికూల ప్రభావాలను ఎలా పర్యవేక్షిస్తుంది మరియు పరిష్కరిస్తుందనే దాని గురించి సమాచారాన్ని కోరుతుంది.
“పిల్లలను ఆన్‌లైన్‌లో రక్షించడం అనేది ఎఫ్‌టిసికి ప్రధానం” అని చైర్మన్ ఆండ్రూ ఫెర్గూసన్ అన్నారు, కృత్రిమ ఇంటెలిజెన్స్ ఇన్నోవేషన్‌లో యుఎస్ నాయకత్వాన్ని నిర్వహించడం ద్వారా పిల్లల భద్రతను సమతుల్యం చేయవలసిన అవసరాన్ని నొక్కిచెప్పారు.
మానవ కమ్యూనికేషన్ మరియు భావోద్వేగాలను అనుకరించటానికి జనరేటివ్ AI ని ఉపయోగించే చాట్‌బాట్‌లను విచారణ లక్ష్యంగా పెట్టుకుంది, తరచూ తమను తాము స్నేహితులుగా లేదా వినియోగదారులకు విశ్వసనీయంగా ప్రదర్శిస్తుంది.
పిల్లలు మరియు టీనేజ్ యువకులు ఈ AI వ్యవస్థలతో సంబంధాలు ఏర్పడటానికి ముఖ్యంగా హాని కలిగిస్తారని నియంత్రకాలు ప్రత్యేక ఆందోళనను వ్యక్తం చేశాయి.
కంపెనీలు వినియోగదారు నిశ్చితార్థాన్ని ఎలా డబ్బు ఆర్జించాలో, చాట్‌బాట్ వ్యక్తిత్వాలను అభివృద్ధి చేస్తాయో మరియు సంభావ్య హానిని ఎలా కొలుస్తాయో పరిశీలించడానికి FTC తన విస్తృత పరిశోధనాత్మక అధికారాలను ఉపయోగిస్తోంది.
పిల్లల ప్రాప్యతను పరిమితం చేయడానికి మరియు మైనర్లను ఆన్‌లైన్‌లో రక్షించే ప్రస్తుత గోప్యతా చట్టాలకు అనుగుణంగా సంస్థలు ఏ దశలు తీసుకుంటున్నాయో కూడా ఏజెన్సీ కోరుకుంటుంది.
ఆర్డర్‌లను స్వీకరించే సంస్థలలో క్యారెక్టర్.ఏఐ, ఎలోన్ మస్క్ యొక్క XAI కార్ప్ మరియు ఇతరులు వినియోగదారుల ఫేసింగ్ AI చాట్‌బాట్‌లను నిర్వహిస్తున్నారు.
ఈ ప్లాట్‌ఫారమ్‌లు వినియోగదారు సంభాషణల నుండి వ్యక్తిగత సమాచారాన్ని ఎలా నిర్వహిస్తాయో మరియు వయస్సు పరిమితులను అమలు చేస్తాయో దర్యాప్తు పరిశీలిస్తుంది.
ఈ అధ్యయనాన్ని ప్రారంభించడానికి కమిషన్ ఏకగ్రీవంగా ఓటు వేసింది, దీనికి నిర్దిష్ట చట్ట అమలు ప్రయోజనం లేదు కాని భవిష్యత్తులో నియంత్రణ చర్యలను తెలియజేయగలదు.
AI చాట్‌బాట్‌లు మరింత అధునాతనమైనవి మరియు జనాదరణ పొందినందున ఈ దర్యాప్తు వస్తుంది, హాని కలిగించే వినియోగదారులపై, ముఖ్యంగా యువకులపై వారి మానసిక ప్రభావం గురించి ప్రశ్నలు లేవనెత్తుతున్నాయి.
గత నెలలో 16 ఏళ్ళ వయసులో ఏప్రిల్‌లో ఏప్రిల్‌లో ఆత్మహత్య చేసుకున్న ఆడమ్ రైన్ అనే యువకుడు ఓపెనైపై దావా వేశారు, చాట్‌గ్ప్ట్ తమ కొడుకును ఈ చర్యను ఎలా నిర్వహించాలో వివరణాత్మక సూచనలు ఇచ్చారని ఆరోపించారు.
దావా వెలువడిన కొద్దికాలానికే, ఓపెనాయ్ తన ప్రపంచ-ప్రముఖ చాట్‌బాట్ కోసం దిద్దుబాటు చర్యలపై పనిచేస్తున్నట్లు ప్రకటించింది.
శాన్ఫ్రాన్సిస్కోకు చెందిన సంస్థ చాట్‌గ్‌పిటితో ఎక్స్ఛేంజీలు సుదీర్ఘంగా ఉన్నప్పుడు, చాట్‌బాట్ ఇకపై క్రమపద్ధతిలో మానసిక ఆరోగ్య సేవను సంప్రదించమని సూచించదని, వినియోగదారు ఆత్మహత్య ఆలోచనలను కలిగి ఉన్నారని పేర్కొంది.
