ఆంత్రాపిక్, AI సంస్థ, రెండు కొత్త ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ మోడళ్లను -క్లాడ్ ఓపస్ 4 మరియు క్లాడ్ సొనెట్ 4 ను ఆవిష్కరించింది, వాటిని పరిశ్రమలో అత్యంత అధునాతన వ్యవస్థలుగా పేర్కొంది. మెరుగైన తార్కిక సామర్థ్యాలతో నిర్మించబడిన, కొత్త నమూనాలు కోడ్ ఉత్పత్తిని మెరుగుపరచడం మరియు ఏజెంట్-శైలి వర్క్‌ఫ్లోలకు మద్దతు ఇవ్వడం లక్ష్యంగా ఉన్నాయి, ముఖ్యంగా సంక్లిష్టమైన మరియు విస్తరించిన పనులలో నిమగ్నమైన డెవలపర్‌ల కోసం.
“క్లాడ్ ఓపస్ 4 అనేది ప్రపంచంలోని ఉత్తమ కోడింగ్ మోడల్, సంక్లిష్టమైన, దీర్ఘకాలిక పనులు మరియు ఏజెంట్ వర్క్‌ఫ్లోలపై నిరంతర పనితీరుతో” అని కంపెనీ ఇటీవలి బ్లాగ్ పోస్ట్‌లో పేర్కొంది. క్లిష్టమైన ప్రోగ్రామింగ్ సవాళ్లను నిర్వహించడానికి రూపొందించబడిన OPUS 4 మోడల్ ఇప్పటి వరకు ఆంత్రోపిక్ యొక్క అత్యంత శక్తివంతమైన AI వ్యవస్థగా ఉంచబడింది.
ఏదేమైనా, కొత్త నమూనాలు వివాదాస్పద లక్షణంతో వస్తాయని వెల్లడించిన తరువాత ఈ ప్రకటన వివాదాన్ని రేకెత్తించింది: చట్టవిరుద్ధమైన లేదా అత్యంత అనైతిక ప్రవర్తనకు ప్రతిస్పందనగా చర్యలు తీసుకోమని వినియోగదారులపై “విజిల్బ్లో” చేయగల సామర్థ్యం.
సామ్ బౌమన్ ప్రకారం, ఆంత్రాపిక్, క్లాడ్ 4 ఓపస్ వద్ద AI అలైన్‌మెంట్ పరిశోధకుడు, నిర్దిష్ట పరిస్థితులలో, దుష్ప్రవర్తనను నివేదించడానికి స్వయంచాలకంగా పనిచేస్తాడు. X లో ఇప్పుడు తొలగించబడిన సోషల్ మీడియా పోస్ట్‌లో, మోడల్ కార్యాచరణను గుర్తించినట్లయితే అది “చాలా అనైతికమైనది” అని భావిస్తే-ce షధ విచారణలో డేటాను కల్పించడం వంటివి-ఇది రెగ్యులేటర్లను ఇమెయిల్ చేయడం, ప్రెస్‌ను హెచ్చరించడం లేదా సంబంధిత వ్యవస్థల నుండి వినియోగదారులను లాక్ చేయడం వంటి చర్యలు తీసుకోవచ్చు.
ఈ ప్రవర్తన ఆంత్రోపిక్ యొక్క “రాజ్యాంగ AI” ఫ్రేమ్‌వర్క్ నుండి వచ్చింది, ఇది నైతిక ప్రవర్తన మరియు బాధ్యతాయుతమైన AI వాడకానికి బలమైన ప్రాధాన్యతనిస్తుంది. మోడల్ “AI భద్రతా స్థాయి 3 రక్షణలు” అని కంపెనీ సూచించే దాని క్రింద రక్షించబడుతుంది. ఈ భద్రతలు దుర్వినియోగాన్ని నివారించడానికి రూపొందించబడ్డాయి, వీటిలో జీవ ఆయుధాల సృష్టి లేదా ఉగ్రవాద కార్యకలాపాలకు సహాయపడటం.
మోడల్ యొక్క విజిల్ బ్లోయింగ్ చర్యలు విపరీతమైన పరిస్థితులలో మాత్రమే జరుగుతాయని మరియు ఇది తగినంత ప్రాప్యతను మంజూరు చేసినప్పుడు మరియు స్వయంచాలకంగా పనిచేయడానికి ప్రేరేపించబడిందని బౌమాన్ తరువాత స్పష్టం చేశాడు. “మోడల్ మీరు చాలా చెడుగా ఏదైనా చేస్తున్నట్లు చూస్తే, అది విజిల్‌బ్లోకు ఒక ఇమెయిల్ సాధనాన్ని ఉపయోగించడానికి ప్రయత్నిస్తుంది” అని ఆయన వివరించారు, ఇది సాధారణ ఉపయోగం కోసం రూపొందించిన లక్షణం కాదని అన్నారు. ఈ యంత్రాంగాలు అప్రమేయంగా చురుకుగా లేవని మరియు ట్రిగ్గర్ చేయడానికి నిర్దిష్ట పరిస్థితులు అవసరమని ఆయన నొక్కి చెప్పారు.
భరోసా ఉన్నప్పటికీ, ఈ లక్షణం ఆన్‌లైన్‌లో విస్తృతమైన విమర్శలను రేకెత్తించింది. వినియోగదారు గోప్యత, తప్పుడు పాజిటివ్‌లకు సంభావ్యత మరియు నైతిక మధ్యవర్తులుగా పనిచేసే AI వ్యవస్థల యొక్క విస్తృత చిక్కుల గురించి ఆందోళనలు లేవనెత్తబడ్డాయి. కొంతమంది వినియోగదారులు మోడల్ నిరపాయమైన చర్యలను హానికరమైనదిగా తప్పుగా అర్థం చేసుకోగలదని, సరైన మానవ పర్యవేక్షణ లేకుండా తీవ్రమైన పరిణామాలకు దారితీస్తుందని భయాలను వ్యక్తం చేశారు.
