బహుళ మీడియా నివేదికల ప్రకారం, కొన్ని రోజుల క్రితం క్లాడ్ ఫేబుల్ 5 మోడల్‌ను విడుదల చేసినప్పుడు అది “తప్పు ట్రేడ్-ఆఫ్” చేసిందని ఆంత్రోపిక్ గురువారం అంగీకరించింది. అనేక మంది పరిశోధకులు మరియు డెవలపర్‌లు AI స్టార్టప్‌ను దాని AI మోడల్ యొక్క సామర్థ్యాలను వినియోగదారులకు తెలియజేయకుండా పరిమితం చేసినందుకు విమర్శించడం ప్రారంభించిన తర్వాత ఆంత్రోపిక్ నుండి ప్రకటన వచ్చింది.
మీకు తెలియకుంటే, ఆంత్రోపిక్ ప్రజలకు విడుదల చేసిన మొదటి Mythos-క్లాస్ AI మోడల్ ఫేబుల్ 5. కంపెనీ ఏప్రిల్‌లో మైథోస్‌ను తిరిగి ప్రకటించింది, అయితే మోడల్‌లో ఉన్న సైబర్‌ సెక్యూరిటీ రిస్క్‌ల కారణంగా దానిని బహిరంగంగా విడుదల చేయడానికి నిరాకరించింది.
ఫేబుల్ 5తో, సైబర్‌ సెక్యూరిటీ, బయాలజీ లేదా కెమిస్ట్రీకి సంబంధించిన ఏవైనా అభ్యర్థనలు దాని క్లాడ్ ఓపస్ 4.8 మోడల్‌కు అందజేయబడతాయని ఆంత్రోపిక్ ప్రకటించింది. సైబర్‌టాక్‌లను అభివృద్ధి చేయడానికి లేదా హానికరమైన అప్లికేషన్‌లతో జీవశాస్త్ర పరిశోధనలో సహాయం చేయడానికి Mythos-క్లాస్ మోడల్‌లను ఉపయోగించవచ్చని పేర్కొంటూ కంపెనీ ఈ పరిమితులను సమర్థించింది.
అయినప్పటికీ, AI నమూనాలను అభివృద్ధి చేయడానికి ఉపయోగించినప్పుడు ఫేబుల్ 5 కూడా నిశ్శబ్దంగా అధోకరణం చెందుతుందని పరిశోధకులు తర్వాత కనుగొన్నారు, ఇది ప్రత్యర్థి AI వ్యవస్థలను నిర్మించడానికి లేదా మెరుగుపరచడానికి క్లాడ్‌ను ఉపయోగించకుండా పరిశోధకులు మరియు పోటీదారులను తప్పనిసరిగా నిరోధిస్తుంది. అయితే, వారి అభ్యర్థనలు తక్కువ సామర్థ్యం గల సిస్టమ్‌కు పంపబడుతున్నప్పుడు కంపెనీ వినియోగదారులకు తెలియజేయలేదు.
ఫేబుల్ 5 యొక్క రక్షణల కోసం ఆంత్రోపిక్ క్షమాపణ చెప్పింది:
ఫేబుల్ 5 కాన్ఫిగరేషన్‌తో పొరపాటు జరిగిందని ఆంత్రోపిక్ ఇప్పుడు చెప్పింది. ఫేబుల్ 5 అభ్యర్థనను తిరస్కరించినప్పుడు లేదా తక్కువ సామర్థ్యం గల మోడల్‌కు వారిని దారి మళ్లించినప్పుడల్లా ఇప్పుడు వినియోగదారులను అప్రమత్తం చేస్తామని కంపెనీ తెలిపింది.
“మేము ఫ్రాంటియర్ LLM అభివృద్ధి కోసం Fable 5 యొక్క రక్షణలను వాటిని కనిపించేలా మారుస్తున్నాము” అని కంపెనీ WIREDకి తెలిపింది. “మేము తప్పు ట్రేడ్-ఆఫ్ చేసాము మరియు బ్యాలెన్స్ సరిగ్గా లేనందుకు మేము క్షమాపణలు కోరుతున్నాము.”
“ఈ వారం నుండి, ఫ్లాగ్ చేయబడిన అభ్యర్థనలు ఓపస్ 4.8కి తిరిగి వస్తాయి. APIలో, ఏవైనా ఫ్లాగ్ చేయబడిన అభ్యర్థనలు వాటి తిరస్కరణకు కారణాన్ని చూపుతాయి” అని కంపెనీ బిజినెస్ ఇన్‌సైడర్‌కి ఒక ప్రకటనలో తెలిపింది.
జాతీయ భద్రతా సమస్యలను పరిష్కరించడానికి మరియు “సరిహద్దు చిప్‌లు మరియు LLMలను అభివృద్ధి చేయడంలో విదేశీ విరోధులు US కంటే ముందుండరాదని” నిర్ధారించడానికి ఈ రక్షణలను ప్రవేశపెట్టినట్లు కంపెనీ నివేదించింది. కోడింగ్ మరియు మెషిన్ లెర్నింగ్ పనిలో ఎక్కువ భాగం ఈ భద్రతల ద్వారా ప్రభావితం కాలేదని కంపెనీ పేర్కొంది.
శాన్ ఫ్రాన్సిస్కో-ఆధారిత AI స్టార్టప్ ఇటీవల వాదించింది, భద్రతా పరిశోధన మోడల్ సామర్థ్యాలలో పురోగతిని కొనసాగించడంలో విఫలమైతే, అధునాతన AI మోడల్‌ల అభివృద్ధిని నెమ్మదించే లేదా తాత్కాలికంగా పాజ్ చేసే ఎంపికను ప్రపంచం నిలుపుకోవాలని వాదించింది.
ఫేబుల్ 5 ఎంత శక్తివంతమైనది?
ఈ వారం ఒక బ్లాగ్ పోస్ట్‌లో, ఆంత్రోపిక్ ఫేబుల్ 5 ఇప్పటి వరకు విడుదల చేసిన దాని అత్యంత శక్తివంతమైన మోడల్ మాత్రమే కాదు, వివిధ రకాల బెంచ్‌మార్క్‌లలో OpenAI మరియు Google నుండి ప్రత్యర్థి AI మోడల్‌లను అధిగమిస్తుందని పేర్కొంది.
స్ట్రైప్‌తో ప్రారంభ పరీక్ష సమయంలో, ఫేబుల్ 5 నెలల సాఫ్ట్‌వేర్ ఇంజనీరింగ్ పనిని రోజులలో కుదించగలిగిందని కంపెనీ తెలిపింది. AI మోడల్ 50-మిలియన్-లైన్ రూబీ కోడ్‌బేస్ మైగ్రేషన్‌ను ఒకే రోజులో పూర్తి చేసిందని చెప్పబడింది, లేకుంటే రెండు నెలల కంటే ఎక్కువ పని చేసే ఇంజనీర్ల బృందం అవసరం అవుతుంది.
సైంటిఫిక్ చార్ట్‌ల నుండి సమాచారాన్ని సంగ్రహించడం, సంక్లిష్టమైన రేఖాచిత్రాలను అర్థం చేసుకోవడం మరియు స్క్రీన్‌షాట్‌లను మాత్రమే ఉపయోగించి వెబ్ అప్లికేషన్ యొక్క సోర్స్ కోడ్‌ను పునఃసృష్టించడం వంటి దృష్టి సామర్థ్యాలు అవసరమయ్యే పనులలో ఫేబుల్ 5 రాణిస్తుందని కూడా ఆంత్రోపిక్ తెలిపింది.
