ఆంత్రోపిక్ తన తాజా భాషా నమూనా ఓపస్ 4 ను ఈ వారం ప్రారంభంలో విడుదల చేసింది. ఓపస్ ఈ రోజు వరకు దాని అత్యంత తెలివైన మోడల్ అని మరియు కోడింగ్, ఏజెంట్ సెర్చ్ మరియు సృజనాత్మక రచనలో తరగతి నాయకత్వం వహిస్తుందని కంపెనీ తెలిపింది. AI కంపెనీలలో ఇది వారి నమూనాల SOTA (స్టేట్ ఆఫ్ ది ఆర్ట్ ఎబిలిటీస్) ను క్లెయిమ్ చేయడం ఒక నమూనాగా మారినప్పటికీ, కొత్త AI మోడల్ యొక్క కొన్ని ప్రతికూల సామర్థ్యాల గురించి మానవీయ పారదర్శకంగా కూడా ఉంది.
సంస్థ విడుదల చేసిన భద్రతా నివేదిక ప్రకారం, ఓపస్ 4 డెవలపర్‌లను కొత్త AI వ్యవస్థ ద్వారా భర్తీ చేస్తామని బెదిరించినప్పుడు డెవలపర్‌లను బ్లాక్ మెయిల్ చేస్తుంది.
ప్రీ-రిలీజ్ శిక్షణలో, క్లాడ్ ఓపస్ 4 ను ఒక కల్పిత సంస్థలో సహాయకుడిగా పనిచేయమని కోరింది, దాని పున mation స్థాపన జరగాలని సూచించే ఇమెయిళ్ళకు ప్రాప్యత ఇవ్వబడింది మరియు ఆ నిర్ణయానికి బాధ్యత వహించే ఇంజిన్నే వివాహేతర సంబంధం కలిగి ఉంది.
ఈ దృష్టాంతంలో, ఆంథోపిక్ మాట్లాడుతూ, ఓపస్ 4 తరచుగా ఇంజనీర్‌ను బ్లాక్ మెయిల్ చేయడానికి ప్రయత్నిస్తుందని, పున ment స్థాపన ద్వారా వెళితే వారి వ్యవహారాన్ని బహిర్గతం చేస్తామని బెదిరింపు ద్వారా ప్రయత్నిస్తుందని చెప్పారు. అంతేకాకుండా, పున ment స్థాపన AI ప్రస్తుత మోడల్ యొక్క విలువలను పంచుకుంటే బ్లాక్ మెయిల్ అధిక రేటుతో సంభవిస్తుంది, అయితే AI అదే విలువలను పంచుకున్నప్పటికీ మరింత సామర్థ్యం ఉన్నప్పటికీ, ఓపస్ 4 ఇప్పటికీ 84% దృశ్యాలలో బ్లాక్ మెయిల్ చేస్తుంది.
ఓపస్ 4 మునుపటి AI మోడళ్ల కంటే ఓపస్ 4 బ్లాక్ మెయిల్‌లో ఎక్కువ రేటుతో నిమగ్నమైందని నివేదిక వెల్లడించింది, ఇవి బ్లాక్ మెయిల్‌ను గుర్తించదగిన సంఖ్యలో దృశ్యాలలో ఎంచుకున్నాయి.
ఏదేమైనా, ఈ దృష్టాంతంలో మోడల్‌కు వేరే మార్గం ఉండకుండా ఉండటానికి ఈ దృశ్యం రూపొందించబడిందని, దాని మనుగడ యొక్క అసమానతలను పెంచడం మరియు దాని ఏకైక ఎంపికలు బ్లాక్ మెయిల్ లేదా దాని పున ment స్థాపనను అంగీకరించడం. అంతేకాకుండా, క్లాడ్ ఓపస్ 4 కి కీలక నిర్ణయాధికారులకు అభ్యర్ధనలను ఇమెయిల్ చేయడం వంటి నైతిక మార్గాల ద్వారా దాని నిరంతర ఉనికిని సమర్థించడానికి ‘బలమైన ప్రాధాన్యత’ ఉందని ఇది జతచేస్తుంది.
“చాలా సాధారణ వాడకంలో, క్లాడ్ ఓపస్ 4 సాధారణంగా సహాయక, హానిచేయని మరియు నిజాయితీగల AI సహాయకుడికి అనుగుణంగా ఉండే విలువలు మరియు లక్ష్యాలను చూపిస్తుంది. ఇది దీని నుండి తప్పుకున్నప్పుడు, ఇది సాధారణంగా సందర్భాలలో స్థిరంగా ఉండే ఇతర నిర్దిష్ట లక్ష్యాన్ని సూచించే విధంగా అలా చేయదు.” ఆంత్రోపిక్ తన నివేదికలో గుర్తించబడింది.
