AI మార్గదర్శకుడు మరియు UC బర్కిలీ ప్రొఫెసర్ స్టువర్ట్ రస్సెల్ కొనసాగుతున్న AI ఇంపాక్ట్ సమ్మిట్ 2026 సందర్భంగా అధునాతన AI సిస్టమ్‌ల వల్ల కలిగే ప్రమాదాల గురించి ప్రమాద హెచ్చరికను జారీ చేశారు. ప్రస్తుత వేగంగా అభివృద్ధి చెందుతున్న AI వ్యవస్థలు కఠినమైన భద్రతకు దారితీయవచ్చని వాదించారు.
బుధవారం న్యూ ఢిల్లీలో జరిగిన AI సేఫ్టీ కనెక్ట్ డేలో రస్సెల్ మాట్లాడుతూ, ఆధునిక AI సాధనాల అభివృద్ధి మొదట మరింత సామర్థ్యం గల సిస్టమ్‌లను నిర్మించడంపై దృష్టి పెట్టిందని మరియు తరువాత భద్రతపై బోల్ట్ చేయడానికి ప్రయత్నించడంపై దృష్టి పెట్టిందని, ఈ వ్యూహం ప్రాథమికంగా లోపభూయిష్టంగా ఉందని అతను నమ్ముతున్నాడు.
“అది పూర్తిగా పని చేయదు, ప్రత్యేకించి LLMలకు పెద్ద మొత్తంలో టెక్స్ట్‌పై శిక్షణ ఇచ్చే ప్రాథమిక సాంకేతికత అంతర్గతంగా సురక్షితంగా లేనప్పుడు,” రస్సెల్ చెప్పారు. “ఆ సమస్యపై ఎలాంటి పేపర్లు వేయడం నిజంగా దాన్ని పరిష్కరించదు.”
అతను AIలోని కింగ్ మిడాస్ సమస్య గురించి కూడా మాట్లాడాడు, ఇక్కడ AI వ్యవస్థ మానవ విలువలను విస్మరిస్తూ కొన్ని లక్ష్యాలను అనుసరిస్తుంది మరియు పూర్తి చేస్తుంది.
“ఇంటెలిజెన్స్ చాలా స్థూలంగా ఒకరి స్వంత ఆసక్తిని పెంపొందించడంలో విజయవంతంగా పని చేసే సామర్ధ్యం,” అని రస్సెల్ ప్రేక్షకులకు చెప్పాడు. “ఆ ఆసక్తులు పూర్తిగా మానవుల ప్రయోజనాలపై దృష్టి సారించనప్పుడు… తప్పుగా అమర్చడం మరియు యోగ్యత యొక్క కలయిక సమస్య ఎక్కడ నుండి వస్తుంది.”
AI-సంబంధిత విలుప్త ముప్పుల ప్రమాదంపై రస్సెల్:
ఐరోపాలోని అణు విద్యుత్ ప్లాంట్లు సంవత్సరానికి 10 మిలియన్లలో ఒకటి కంటే తక్కువ వైఫల్య ప్రమాదాన్ని నిర్వహించాల్సిన అవసరం ఉన్నప్పటికీ, AI పరిశ్రమ ప్రస్తుతం ఆ ప్రమాద స్థాయిలలో అనేక రెట్లు పనిచేస్తోందని రస్సెల్ సమ్మిట్‌లో వాదించారు.
ఈ కంపెనీల్లో కొన్ని తమ టెక్నాలజీల నుండి 10-20% వరకు అంతరించిపోయే ప్రమాదం ఉందని బహిరంగంగా క్లెయిమ్ చేస్తున్నప్పుడు, అతను కొన్ని ప్రముఖ AI ల్యాబ్‌లలోని ఇంజనీర్‌లతో మాట్లాడి, వారి పని నుండి మానవుడు అంతరించిపోయే ప్రమాదం 60 నుండి 70% ఉందని అతను వాదించాడు.
“ఇది ఇప్పుడు 60 లేదా 70% అని భావించే కంపెనీలలోని ఇంజనీర్‌లతో నేను మాట్లాడాను” అని రస్సెల్ AI అభివృద్ధి నుండి విపత్తు ఫలితాల సంభావ్యతను సూచిస్తూ చెప్పారు. “కాబట్టి మేము 10 నుండి 50 మిలియన్ల ఫాక్టర్‌తో ఆపివేయబడ్డాము. కాబట్టి ఇది చాలా ఆకట్టుకునే ఇంజనీరింగ్ రికార్డ్ కాదు.”
AI ద్వారా ఎదురయ్యే అస్తిత్వ ప్రమాదాలను నియంత్రించడానికి ప్రభుత్వాలు తగినంతగా చేయడం లేదని కూడా రస్సెల్ సూచించారు. అతను ఇలా అన్నాడు, “AI యొక్క సృష్టికర్తలు, ‘మేము 25% సంభావ్యతతో భూమిపై ఉన్న ప్రతి వ్యక్తిని చంపే సాంకేతికతను రూపొందిస్తున్నాము.’ మరియు ప్రభుత్వాలు, ‘ఓహ్, ముందుకు సాగండి, అది గొప్పది’ అని చెబుతున్నాయి.
ఇంతలో, అదే ప్యానెల్‌లో భాగమైన మెల్‌బోర్న్ విశ్వవిద్యాలయంలోని ప్రొఫెసర్ డాక్టర్ సారా ఎర్ఫానీ, AI నుండి వచ్చే ప్రమాదాలు చాలా తీవ్రంగా ఉన్నాయని, అయితే తక్షణ భవిష్యత్తులో విపత్తుగా మారే అవకాశం లేదని అన్నారు.
“రాబోయే ఐదేళ్లలో ఇది వినాశనం మరియు చీకటిగా ఉంటుందని నేను అనుకోను” అని మింట్‌తో ప్రత్యేక సంభాషణలో ఎర్ఫానీ అన్నారు. “కానీ దుర్బలత్వాలను అర్థం చేసుకోవడానికి మరియు నష్టాలను తగ్గించడానికి మేము మా కృషిని ఉంచాలి. లేకుంటే చాలా ఆలస్యం అవుతుంది.”
AI వ్యవస్థల వల్ల కలిగే ప్రమాదాలను ప్రజలు గుర్తించకుండానే వాటిని పెద్దఎత్తున స్వీకరించడం గురించి కూడా ఆమె హెచ్చరించింది.
“దురదృష్టవశాత్తూ, ప్రధాన కంపెనీలు బిల్డింగ్ సిస్టమ్‌లను ఉంచుకోవడం మరియు ప్రజలు దాని ప్రభావాన్ని గ్రహించకుండా లేదా అర్థం చేసుకోకుండా వాటిని అవలంబించడం. దురదృష్టవశాత్తూ జరుగుతున్నది. వారు వాటిని చాలా విశ్వసిస్తారు,” అని ఎర్ఫానీ చెప్పారు.
