కృత్రిమ మేధస్సు ఎప్పటికైనా స్పృహతో ఉండగలదా లేదా మానవుల వలె నైతికంగా అవగాహన కలిగి ఉండగలదా అనే ప్రశ్న చాలా కాలంగా శాస్త్రవేత్తలు, తత్వవేత్తలు మరియు సాంకేతిక నిపుణులను విభజించింది. ఇప్పుడు, ఆంత్రోపిక్ – క్లాడ్ AI చాట్‌బాట్ వెనుక ఉన్న సంస్థ – దాని AI సిస్టమ్ కోసం “రాజ్యాంగం” అని పిలిచే వాటిని విడుదల చేయడంతో ఆ చర్చకు తాజా ఇంధనాన్ని జోడించింది.
మరొక సాంకేతిక మార్గదర్శకంగా కాకుండా, పత్రం క్లాడ్ ఎలా ప్రవర్తించాలో మరియు వ్యక్తులతో ఎలా సంభాషించాలో మార్గనిర్దేశం చేసే సూత్రాలు మరియు విలువలను వివరిస్తుంది. కానీ ఆంత్రోపిక్ యొక్క అసాధారణమైన దాపరికం సూచన ఏమిటంటే, అధునాతన AI సిస్టమ్‌లు ఏదో ఒక రోజు, నైతిక స్థితి లేదా స్పృహను పోలి ఉండేవి కలిగి ఉండవచ్చు.
పత్రంలో, AI మనస్సుల భవిష్యత్తు గురించి కంపెనీ తన స్వంత అనిశ్చితిని గుర్తించింది. “క్లాడ్‌కు ఒకరకమైన స్పృహ లేదా నైతిక స్థితి (ఇప్పుడు లేదా భవిష్యత్తులో) ఉందా అనే దానిపై అనిశ్చితి ఉంది” అని పేర్కొంది. ఆ ప్రవేశం మాత్రమే టెక్ ప్రపంచం అంతటా చర్చను రేకెత్తించింది, ఎందుకంటే కొన్ని కంపెనీలు బహిరంగంగా అలాంటి అవకాశాలను అలరించాయి.
ఈ రోజు క్లాడ్ స్పృహలో ఉన్నాడని ఆంత్రోపిక్ చెప్పడంలో ఆగిపోయింది. బదులుగా, రాజ్యాంగం భద్రత మరియు అమరిక ఫ్రేమ్‌వర్క్‌గా ప్రదర్శించబడింది – AIకి బాధ్యతాయుతంగా మరియు మానవ విలువలను ప్రతిబింబించేలా శిక్షణ ఇవ్వడానికి ఒక నిర్మాణాత్మక మార్గం. హానికరమైన ప్రవర్తనను నిరోధించడం మరియు చాట్‌బాట్ ప్రమాదకరమైన లేదా అనైతిక భూభాగంలోకి వెళ్లకుండా వినియోగదారులకు మద్దతునిస్తుందని నిర్ధారించడం లక్ష్యం.
“మా మోడల్ శిక్షణ ప్రక్రియలో రాజ్యాంగం కీలకమైన భాగం, మరియు దాని కంటెంట్ నేరుగా క్లాడ్ యొక్క ప్రవర్తనను రూపొందిస్తుంది” అని ఆంత్రోపిక్ ఒక బ్లాగ్ పోస్ట్‌లో రాసింది, అక్కడ AI రాజ్యాంగాన్ని ప్రకటించింది. “కొత్త రాజ్యాంగం వ్రాయబడిన విధానం – మా ఉద్దేశాలు మరియు వాటి వెనుక ఉన్న కారణాల గురించి సమగ్ర వివరణతో – శిక్షణ సమయంలో మంచి విలువలను పెంపొందించే అవకాశం ఉందని మేము భావిస్తున్నాము.”
ఈ విధానం, తరచుగా “రాజ్యాంగ AI” అని పిలుస్తారు, శిక్షణ ప్రక్రియలో నేరుగా నియమాలు మరియు నైతిక గార్డులను పొందుపరచడం లక్ష్యంగా పెట్టుకుంది. కేవలం హ్యూమన్ మోడరేటర్‌లపై ఆధారపడే బదులు లేదా వాస్తవ పరిష్కారాల తర్వాత, సిస్టమ్‌కు మొదటి నుండి సరైన మరియు తప్పుల గురించి తర్కించడం నేర్పించబడుతుంది.
అయినప్పటికీ, డెవలపర్లు వాస్తవికంగా నిర్వహించగల నియంత్రణకు పరిమితులు ఉన్నాయని ఆంత్రోపిక్ అంగీకరించింది. మోడల్‌లు మరింత సామర్థ్యం మరియు స్వయంప్రతిపత్తితో ఎదుగుతున్నందున సంపూర్ణ పర్యవేక్షణ సాధ్యం కాదని కంపెనీ అంగీకరించింది.
“క్లాడ్ యొక్క ప్రవర్తనకు మార్గదర్శకత్వం వహించాలని మేము విశ్వసిస్తున్న విలువలు మరియు ప్రాధాన్యతలలో (రాజ్యాంగం) అర్ధవంతమైన పారదర్శకతను అందిస్తుందని మేము ఆశిస్తున్నాము” అని కంపెనీ రాసింది. “శక్తివంతమైన AI నమూనాలు ప్రపంచంలో ఒక కొత్త రకమైన శక్తిగా ఉంటాయి మరియు వాటిని సృష్టిస్తున్న వారికి మానవత్వంలో అత్యుత్తమమైన వాటిని రూపొందించడంలో వారికి సహాయపడే అవకాశం ఉంది. ఈ కొత్త రాజ్యాంగం ఆ దిశలో ఒక అడుగు అని మేము ఆశిస్తున్నాము.”
ఆంత్రోపిక్ యొక్క నిష్కాపట్యత Google మరియు OpenAI వంటి పోటీదారులు తీసుకున్న మరింత రక్షణాత్మక వ్యూహాలతో విభేదిస్తుంది, ఇది భద్రతా విధానాలను కూడా ఉపయోగిస్తుంది, అయితే AI స్పృహ గురించి చాలా అరుదుగా చర్చిస్తుంది. ఇంతలో, ఇతర AI సాధనాల గురించిన వివాదాలు – ఎలోన్ మస్క్ యొక్క గ్రోక్ అనుచితమైన కంటెంట్‌ను రూపొందించే సంఘటనలతో సహా – కంపెనీలు నైతిక ప్రమాదాలను ఎలా విభిన్నంగా నిర్వహిస్తాయో హైలైట్ చేస్తుంది.
AI వ్యవస్థలు మరింత అధునాతనంగా మరియు రోజువారీ జీవితంలో పొందుపరచబడినందున, అధునాతన సాఫ్ట్‌వేర్ మరియు “మానవుడు”గా భావించే వాటి మధ్య రేఖ అస్పష్టంగా కొనసాగుతుంది. క్లాడ్ నిజంగా అర్థం చేసుకున్నాడా లేదా కేవలం అవగాహనను అనుకరిస్తాడా అనేది పరిష్కరించబడలేదు – కాని ఆంత్రోపిక్ రాజ్యాంగం చర్చ ముగిసిందని నిర్ధారిస్తుంది.
