ఆర్టిఫిషియల్ జనరల్ ఇంటెలిజెన్స్ లేదా సూపర్ ఇంటెలిజెన్స్ అనేది AI ప్రపంచంలో అత్యంత విస్తృతంగా ఉదహరించబడిన పదాలలో ఒకటి, అయితే దీని అర్థం ఏమిటి లేదా దాని వల్ల సమాజానికి ఎలాంటి ప్రభావం ఉంటుంది అనే దానిపై ఏకాభిప్రాయం లేదు. ఇలా చెప్పుకుంటూ పోతే, OpenAI, Google మరియు Anthropic వంటి ప్రముఖ AI ల్యాబ్‌లు AGI స్థితిని చేరుకోగల మోడల్‌ను రూపొందించడంలో మొదటి స్థానంలో నిలిచాయి.
అయితే, ఆంత్రోపిక్ సహ వ్యవస్థాపకుడు మరియు చీఫ్ సైంటిస్ట్ జారెడ్ కప్లాన్, గార్డియన్‌కి ఇచ్చిన ఇంటర్వ్యూలో, AI వ్యవస్థలు మరింత శక్తివంతం కావడానికి తమను తాము శిక్షణనిచ్చే “అంతిమ ప్రమాదం” తీసుకోవాలా అనే దానిపై మానవత్వం “అతిపెద్ద నిర్ణయం” తీసుకుంటుందని వివరించారు.
కప్లాన్ ప్రకారం, 2027 మరియు 2030 మధ్య కాలం ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ దాని స్వంత వారసులను రూపొందించే సామర్థ్యాన్ని కలిగి ఉన్న క్షణం కావచ్చు.
మానవ మేధస్సు స్థాయి వరకు మానవాళి ప్రయోజనాలతో AI సాధనాల సమలేఖనం గురించి తాను చాలా ఆశాజనకంగా ఉన్నానని, అయితే అది ఆ పరిమితిని మించినప్పుడు కాదని ఆంత్రోపిక్ ఎగ్జిక్యూటివ్ చెప్పారు.
కప్లాన్ ఆన్ AI దాని వారసుడికి శిక్షణ ఇస్తుంది
AI సిస్టమ్ దాని స్వంత వారసునికి శిక్షణ ఇవ్వడం ప్రారంభించిన క్షణంలో, AI ల్యాబ్‌లు ప్రస్తుతం వాటి మోడల్‌లపై కలిగి ఉన్న గార్డ్‌రెయిల్‌లు సరిపోకపోవచ్చు. కప్లాన్ ఇది గూఢచార విస్ఫోటనానికి దారితీస్తుందని మరియు మానవులు AIపై నియంత్రణను కోల్పోయే క్షణం కూడా కావచ్చునని అభిప్రాయపడ్డారు.
“మీరు మీ కంటే తెలివైన AI కలిగి ఉన్న చోట ఈ ప్రక్రియను సృష్టించారని మీరు ఊహించినట్లయితే, లేదా మీ అంత తెలివిగా, అది చాలా తెలివైన AIని తయారు చేస్తుంది. ఇది AIని దాని కంటే తెలివిగా మార్చడానికి AI యొక్క సహాయాన్ని నమోదు చేయబోతోంది. ఇది ఒక రకమైన భయానక ప్రక్రియలా అనిపిస్తుంది. మీరు ఎక్కడికి వెళతారో మీకు తెలియదు,” అని అతను గార్డియన్‌తో చెప్పాడు.
అటువంటి దృష్టాంతంలో, AI బ్లాక్ బాక్స్ సమస్య సంపూర్ణంగా మారుతుంది, ఇక్కడ మానవులకు AI ఎందుకు నిర్ణయం తీసుకుందో ఖచ్చితంగా తెలియదు కానీ AI ఎక్కడికి వెళుతుందో కూడా చెప్పలేరు.
“ఇది మేము చేయవలసిన అతి పెద్ద నిర్ణయం లేదా భయంకరమైన విషయంగా భావించే విషయం… ఒకసారి ప్రక్రియలో ఎవరూ పాల్గొనకపోతే, మీకు నిజంగా తెలియదు. మీరు ఒక ప్రక్రియను ప్రారంభించి, ‘ఓహ్, ఇది చాలా బాగా జరుగుతోంది. ఇది మేము ఊహించినదే. ఇది చాలా సురక్షితమైనది’ అని చెప్పవచ్చు. కానీ మీకు తెలియదు – ఇది డైనమిక్ ప్రక్రియ. అది ఎక్కడికి దారి తీస్తుంది?” అతను గమనించాడు.
అటువంటి దృష్టాంతంలో రెండు ప్రధాన ప్రమాదాలు ఉన్నాయని కప్లాన్ చెప్పారు. ముందుగా, మానవులు AIపై నియంత్రణను కోల్పోతారా మరియు వారు తమ జీవితాల్లో ఏజెన్సీని కొనసాగిస్తారా?
“ఒకటి ఏమిటంటే, మీరు దానిపై నియంత్రణ కోల్పోతున్నారా? AIలు ఏమి చేస్తున్నాయో మీకు తెలుసా? అక్కడ ప్రధాన ప్రశ్న: AIలు మానవాళికి మంచివా? అవి సహాయకరంగా ఉన్నాయా? అవి హానిచేయనివిగా ఉంటాయా? వారు ప్రజలను అర్థం చేసుకుంటారా? వారు తమ జీవితాలపై మరియు ప్రపంచంపై ఏజెన్సీని కొనసాగించడానికి ప్రజలను అనుమతించబోతున్నారా?” కప్లాన్ పేర్కొన్నారు.
రెండవ ప్రమాదం ఏమిటంటే, స్వీయ బోధించిన AIల మెరుగుదల వేగం మానవ శాస్త్రీయ పరిశోధన మరియు సాంకేతిక అభివృద్ధి సామర్థ్యాలను మించిపోయింది.
“ఇది తప్పు చేతుల్లోకి రావడం చాలా ప్రమాదకరం అనిపిస్తుంది… మీరు కొందరు వ్యక్తులు ఇలా నిర్ణయించుకోవడం ఊహించవచ్చు: ‘ఈ AI కేవలం నా బానిసగా ఉండాలని నేను కోరుకుంటున్నాను. అది నా సంకల్పాన్ని అమలు చేయాలని నేను కోరుకుంటున్నాను.’ పవర్ లాభాన్ని నిరోధించడం, సాంకేతికతను దుర్వినియోగం చేయడాన్ని నిరోధించడం కూడా చాలా ముఖ్యమైనదని నేను భావిస్తున్నాను, ”అని ఆయన అన్నారు.
