ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ భద్రత గురించి చర్చ తీవ్రమవుతోంది మరియు పరిశ్రమ యొక్క ప్రముఖ స్వరాలలో ఒకటి మళ్లీ జాగ్రత్తగా ఉండాలని కోరుతోంది. AI కంపెనీ ఆంత్రోపిక్ సహ వ్యవస్థాపకుడు జాక్ క్లార్క్, వేగంగా అభివృద్ధి చెందుతున్న AI రంగంలో ప్రస్తుతం పనులు చాలా వేగంగా జరిగితే అభివృద్ధిని మందగించడానికి తగిన యంత్రాంగాలు లేవని హెచ్చరించారు.
BBC న్యూస్‌నైట్‌కి ఇచ్చిన ఇంటర్వ్యూలో క్లార్క్ మాట్లాడుతూ, సంభావ్య ప్రమాదాలను నిర్వహించడానికి తగినంత రక్షణలను సృష్టించకుండానే పరిశ్రమ ఆవిష్కరణలను వేగవంతం చేయడంపై ఎక్కువగా దృష్టి సారించింది.
“మీ పాదాలను గ్యాస్ నుండి తీసివేసి, బ్రేక్‌పై మీ పాదాలను ఉంచడానికి మీకు ఎంపిక కావాలి” అని క్లార్క్ చెప్పాడు. “ప్రస్తుతం, AI పరిశ్రమలో గ్యాస్ పెడల్ ఉన్నట్లుగా ఉంది, కానీ దానికి బ్రేక్ పెడల్ లేదు.”
భవిష్యత్ AI వ్యవస్థలు తమ సొంత వారసులకు రూపకల్పన చేయడంలో మరియు శిక్షణ ఇవ్వడంలో సహాయపడగలవని ఆంత్రోపిక్ బహిరంగంగా ఆందోళన వ్యక్తం చేసిన కొద్దిసేపటికే క్లార్క్ వ్యాఖ్యలు వచ్చాయి. OpenAI యొక్క ChatGPT మరియు Google యొక్క జెమినితో పోటీపడే క్లాడ్ చాట్‌బాట్‌కు బాగా ప్రసిద్ధి చెందిన కంపెనీ, AI ఆ దశకు చేరుకోవడానికి ముందే ప్రభుత్వాలు రెగ్యులేటరీ ఫ్రేమ్‌వర్క్‌లను సిద్ధం చేయడం ప్రారంభించాలని అభిప్రాయపడింది.
ఆంత్రోపిక్ ప్రకారం, ప్రస్తుత AI సిస్టమ్‌లు ఇప్పటికే కొత్త AI మోడల్‌లకు సంబంధించిన కోడింగ్, ప్రయోగాలు మరియు అభివృద్ధి పనులతో పరిశోధకులకు సహాయం చేస్తున్నాయి. AI స్వతంత్రంగా అధునాతన భవిష్యత్తు వ్యవస్థలను సృష్టించే స్థాయికి ఇంకా చేరుకోలేదని కంపెనీ నొక్కిచెప్పినప్పటికీ, అటువంటి సామర్థ్యాలు చాలా సంస్థలు ఆశించిన దానికంటే త్వరగా రావచ్చని హెచ్చరించింది.
“మేము ఇంకా అక్కడ లేము మరియు పునరావృత స్వీయ-అభివృద్ధి అనివార్యం కాదు. అయితే ఇది చాలా సంస్థలు సిద్ధం చేసిన దానికంటే త్వరగా రావచ్చు,” అని ఆంత్రోపిక్ ఇటీవలి బ్లాగ్ పోస్ట్‌లో పేర్కొంది.
తరచుగా పునరావృత స్వీయ-అభివృద్ధి అని వర్ణించబడే భావన, మరింత అధునాతన AI యొక్క సృష్టికి దోహదపడే AI వ్యవస్థలను సూచిస్తుంది. యంత్రాలు తమ సొంత అభివృద్ధి చక్రాలను వేగవంతం చేయడం ప్రారంభిస్తే, సాంకేతిక పురోగతి అపూర్వమైన వేగంతో పెరుగుతుందని నిపుణులు అంటున్నారు.
ఈ అవకాశం నియంత్రణ అవసరం అని క్లార్క్ అభిప్రాయపడ్డారు. అతను నేటి AI రేసును చమురు పరిశ్రమ యొక్క ప్రారంభ వృద్ధితో పోల్చాడు, ఇక్కడ ప్రభుత్వాలు ప్రజా భద్రతతో ఆవిష్కరణలను సమతుల్యం చేయడానికి పర్యవేక్షణను ప్రవేశపెట్టాయి.
“ప్రపంచం కొంత ఆలోచించాల్సిన అవసరం ఉంది మరియు ఈ వ్యవస్థలపై నమ్మకంగా ఉండటానికి వీలు కల్పించే కొన్ని కొత్త నిబంధనలను మనం చివరికి అభివృద్ధి చేయాలి” అని అతను చెప్పాడు.
భద్రతాపరమైన ఆందోళనలకు అతీతంగా, క్లార్క్ AI యొక్క ఆర్థిక ప్రభావం గురించిన భయాలను కూడా ప్రస్తావించారు. పెరుగుతున్న సామర్థ్యం గల AI “ఏజెంట్లు” ప్రస్తుతం మానవులు నిర్వహించే అనేక సాధారణ పనులను స్వయంచాలకంగా చేయగలరని ఆయన పేర్కొన్నారు. సాంకేతిక రంగం అంతటా విస్తృతమైన తొలగింపుల మధ్య చర్చ జరుగుతుంది, ఇక్కడ కంపెనీలు కార్యకలాపాలను క్రమబద్ధీకరించడానికి AI-ఆధారిత సాధనాలపై ఎక్కువగా ఆధారపడుతున్నాయి.
అయినప్పటికీ, మానవ సృజనాత్మకత ప్రతిరూపం చేయడం కష్టమని క్లార్క్ వాదించాడు. విస్తృతంగా ఆలోచించగల, అసలైన ఆలోచనలను రూపొందించగల మరియు విభిన్న ఆసక్తులను అన్వేషించగల వ్యక్తులు AI-ఆధారిత భవిష్యత్తులో ప్రయోజనాన్ని కొనసాగించవచ్చని ఆయన సూచించారు.
“AI వ్యవస్థలు నిజంగా సృజనాత్మకంగా ఉండగలవా అనే దానిపై బహిరంగ ప్రశ్నలు ఉన్నాయి, దానికి ఇంకా ఆధారాలు లేవు” అని క్లార్క్ చెప్పారు. “ఆంత్రోపిక్‌లో, మేము ఇప్పుడు ఆ ఆలోచనలను వాస్తవికతగా మార్చడానికి ఇంజనీరింగ్ చేయగల సామర్థ్యం కంటే మంచి ఆలోచనలను రూపొందించగల సామర్థ్యంతో పరిమితం చేయబడ్డాము.”
AI శ్రామిక శక్తిని పునర్నిర్మించడం గురించి ఆత్రుతగా ఉన్న యువ తరాలకు క్లార్క్ సలహాలను కూడా అందించాడు. సాంకేతిక నైపుణ్యాలపై పూర్తిగా దృష్టి పెట్టడం కంటే, అతను అభిరుచులు, ఉత్సుకత మరియు ఉదార కళల విద్యను పెంపొందించుకోవాలని ప్రజలను ప్రోత్సహించాడు.
“సృజనాత్మకంగా మరియు విస్తృతంగా ఆలోచించగల వ్యక్తులు, ఎక్కువగా చదివే వ్యక్తులు, అభిరుచులు ఉన్న వ్యక్తులు దీని ద్వారా ఎక్కువ ప్రయోజనం పొందుతారు” అని క్లార్క్ చెప్పారు. “ఉత్సుకతతో మునిగిపోండి మరియు మీరు ఈ సాంకేతికతను ఎలా ఉపయోగించవచ్చో అది తిరిగి చెల్లిస్తుంది.”
అతని వ్యాఖ్యలు తరువాత ఆన్‌లైన్‌లో సంభాషణలకు దారితీశాయి, అక్కడ కొంతమంది వినియోగదారులు సీనియర్ AI ఎగ్జిక్యూటివ్ నుండి వచ్చిన అసాధారణ సిఫార్సును ప్రశ్నించారు. క్లార్క్ తరువాత తన సలహా ప్రజలను AI భర్తీ చేస్తుందనే భయంపై ఆధారపడి లేదని, సాంకేతికతకు మించిన ఆసక్తులను కొనసాగించడం యొక్క ప్రాముఖ్యతపై ఆధారపడి ఉందని స్పష్టం చేశాడు.
అతను ఆంత్రోపిక్‌లోని ఉద్యోగులను స్క్రీన్‌లకు దూరంగా సమయాన్ని వెచ్చించమని మరియు నాన్-టెక్నికల్ హాబీలను పెంపొందించుకోమని అతను క్రమం తప్పకుండా ప్రోత్సహిస్తున్నాడని అతను వివరించాడు – లేదా, అతను చెప్పినట్లు, ఒకసారి “గడ్డిని తాకడానికి”.
