ఫేస్బుక్ పోస్ట్ ఒక ట్రైసైకిల్ మీద అందంగా వంకరగా బొచ్చు గల అమ్మాయి ఫోటోను చూపిస్తుంది మరియు ఆష్విట్జ్ కాన్సంట్రేషన్ క్యాంప్‌లో మరణించిన బెర్లిన్‌కు 13 ఏళ్ల ఆమె హన్నెలోర్ కౌఫ్మన్ అని చెప్పారు.
కానీ అలాంటి హోలోకాస్ట్ బాధితుడు లేడు మరియు ఫోటో నిజం కాదు, కానీ AI చేత ఉత్పత్తి చేయబడింది.
కంటెంట్ సృష్టికర్తలు, తరచూ దక్షిణ ఆసియాలో ఉన్న, హోలోకాస్ట్‌కు పాశ్చాత్యుల భావోద్వేగ ప్రతిచర్యలను లక్ష్యంగా చేసుకుని, ఆరుగురు మిలియన్ల మంది యూదు ప్రజలు మరణించారు, పరిశోధకులు AFP కి చెప్పారు.
అటువంటి AI- సృష్టించిన చిత్రాలు, వచనం మరియు వీడియోలు అప్రియమైనవి మరియు “ఫాంటసీ-ల్యాండ్ ఆష్విట్జ్” ను సూచించడం ద్వారా హోలోకాస్ట్ వక్రీకరణకు దోహదం చేస్తాయని విమర్శకులు అంటున్నారు.
ఆష్విట్జ్ మ్యూజియం ధోరణిపై అలారం విడ్డూరంగా ఉంది.
“మేము తప్పుడు వాస్తవికతను సృష్టించడంతో వ్యవహరిస్తున్నాము – ఎందుకంటే ఇది చిత్రాలను తప్పుడు ప్రచారం చేస్తోంది … చరిత్రను తప్పుడు ప్రచారం చేస్తుంది” అని మ్యూజియం ప్రతినిధి పావెల్ సావికి AFP కి చెప్పారు.
నాజీల ఆక్రమిత పోలాండ్‌లో ఒక మిలియన్ యూదులను హత్య చేసిన ఆష్విట్జ్-బిర్కెనౌ నాజీ ఏకాగ్రత మరియు నిర్మూలన శిబిరం ఉన్న ప్రదేశంలో మ్యూజియం, మేలో మొదట పోస్టులు గమనించినట్లు సావికి చెప్పారు.
కొందరు బాధితుల గురించి మ్యూజియం యొక్క పోస్టులను పునరుత్పత్తి చేశారు, కాని దీనిని ఫ్లాగ్ చేయకుండా AI ఉపయోగించి చిత్రాలను మార్చారు.
“ఫోటో అసలు ఆధారంగా ఉందని మీరు చూడవచ్చు, కానీ అది పూర్తిగా మార్చబడింది”, సావికి చెప్పారు.
ఒక పోలిష్ వ్యక్తి గురించి ఇటీవలి పోస్ట్ ఒక ఆసియా వ్యక్తి యొక్క “దారుణమైన” AI చిత్రంతో పున reat సృష్టి చేయబడింది.
ఇతరులలో, “ఫోటో మరియు కథ రెండూ కల్పితమైనవి” “అని సావికి చెప్పారు,” ఎప్పుడూ లేని వ్యక్తులు “ను చిత్రీకరిస్తున్నారు.
జుట్టులో ఒక పువ్వు ఉన్న అమ్మాయిని ఆష్విట్జ్‌లో మరణించిన వైట్టే కాహ్న్ అని పేరు పెట్టారు. బాధితుల డేటాబేస్లలో అలాంటి బాధితుడు కనిపించడు.
ఇతర సందర్భాల్లో, వివరాలు సరిపోలడం లేదు.
ఇజ్రాయెల్ యొక్క యాడ్ వాషెమ్ జ్ఞాపకార్థం కేంద్రం ప్రకారం, హన్నీ లోర్ లేదా హన్నెలోర్ కౌఫ్మన్ అనే అమ్మాయి పశ్చిమ జర్మనీలో నివసించారు – బెర్లిన్ కాదు – మరియు సోబిబోర్ క్యాంప్‌లో మరణించారు – ఆష్విట్జ్ కాదు.
పోస్టులు కౌఫ్మన్ తన ట్రైసైకిల్‌ను ప్రేమించడం వంటి భావోద్వేగ అంశాలను జోడిస్తాయి.
కానీ ఆష్విట్జ్ మ్యూజియం ప్రతినిధి నొక్కిచెప్పారు: “ఈ ప్రజల జీవితాల గురించి మాకు సాధారణంగా సమాచారం లేదు.”
ఫేస్బుక్ యజమాని మెటాకు ఫిర్యాదులు చర్య తీసుకోలేదని సావికి చెప్పారు.
“దురదృష్టవశాత్తు, ప్లాట్‌ఫాం యొక్క కోణం నుండి, ఇది నియమాలు లేదా నిబంధనలను ఉల్లంఘించదు.”
ఫేస్బుక్ ఫోటో-రియలిస్టిక్ జనరేటివ్ AI కంటెంట్‌ను అనుమతిస్తుంది, అయితే దీనిని లేబుల్ చేయాలని చెప్పారు, పరిశోధకులు చెప్పారు.
వ్యాఖ్య కోసం AFP అభ్యర్థనకు మెటా స్పందించలేదు.
AFP ప్రస్తుతం 26 భాషలలో ఫేస్బుక్ యొక్క ఫాక్ట్ చెకింగ్ ప్రోగ్రామ్‌తో పనిచేస్తుంది, దీనిలో ఫేస్బుక్ తన ప్లాట్‌ఫాం, వాట్సాప్ మరియు ఇన్‌స్టాగ్రామ్‌లో ప్రపంచవ్యాప్తంగా సుమారు 80 సంస్థల నుండి వాస్తవ తనిఖీలను ఉపయోగించడానికి ఫేస్బుక్ చెల్లిస్తుంది.
హోలోకాస్ట్ ధోరణి ఫేస్బుక్ యొక్క కంటెంట్-మోనెటైజేషన్ ఫీచర్ ద్వారా ఆజ్యం పోసినట్లు పరిశోధకులు తెలిపారు.
“వారు ఈ చిత్రాలను సృష్టిస్తారు, అది ప్రజలను ఇష్టపడటానికి లేదా వ్యాఖ్యానించడానికి ప్రేరేపిస్తుంది మరియు వారు దాని నుండి డబ్బు సంపాదిస్తారు” అని AI ఫోరెన్సిక్స్ లాభాపేక్షలేని పరిశోధకుడు మార్టిన్ డెగెలింగ్ AFP కి చెప్పారు.
“భావోద్వేగ ప్రతిస్పందనలను పొందటానికి, మీరు నిరంతరం విషయాలను మార్చాలి” మరియు హోలోకాస్ట్ సరికొత్తగా ఉంది, డెగెలింగ్ చెప్పారు.
భారతదేశం, పాకిస్తాన్ మరియు శ్రీలంక వంటి అభివృద్ధి చెందుతున్న ఆర్థిక వ్యవస్థలలో నిర్వాహకులతో కనీసం డజను ఫేస్బుక్ పేజీలు మరియు సమూహాలు అటువంటి కంటెంట్‌ను పోస్ట్ చేస్తాయి.
ఐరోపా లేదా యునైటెడ్ స్టేట్స్లో, అటువంటి పోస్టుల నుండి డబ్బు ఆర్జించడం “స్థిరమైన ఆదాయం కాదు” కాని పేద దేశాలలో “మీరు దానిని జీవించవచ్చు” అని డెగెలింగ్ చెప్పారు.
హోలోకాస్ట్ పోస్టులు తరచుగా యుఎస్ లేదా బ్రిటిష్ సంస్థలు గతంలో నిర్వహిస్తున్న పేజీలలో కనిపిస్తాయి.
హ్యాక్ చేసిన లేదా నిద్రాణమైన ఖాతాల ద్వారా “అధిక ఆదాయ దేశాలను లక్ష్యంగా చేసుకోవడం మరింత లాభదాయకం” అని డెగెలింగ్ చెప్పారు.
ఈశాన్య ఇంగ్లాండ్‌లోని నార్త్ షీల్డ్స్‌లోని రెండు పెన్నీ పబ్ పేరుతో ఒక పేజీకి ఇప్పటికీ పేరు పెట్టారు.
పబ్ యొక్క సోషల్ మీడియాను నిర్వహిస్తున్న క్లేర్ డేలే, AFP తన ఖాతాను హ్యాక్ చేసినట్లు చెప్పారు, కాని మెటా ఎటువంటి చర్య తీసుకోలేదు.
“ఇది చాలా పెద్ద అవమానం, ఎందుకంటే మాకు అక్కడ సంవత్సరాల పోస్టులు మరియు అనుచరులు ఉన్నారు” అని ఆమె చెప్పారు.
ఇప్పుడు శ్రీలంకలో నిర్వహించబడుతున్న ఈ పేజీలో 23,000 మంది అనుచరులు ఉన్నారు.
హోలోకాస్ట్ బాధితుల నకిలీ చిత్రం ముఖ్యంగా బాధితుల కుటుంబాలను కలవరపెట్టింది.
“వారు ఈ చిత్రాలను పోస్ట్ చేసినట్లు నేను చూసినప్పుడు, ఇది ఎగతాళి చేస్తున్నట్లు అనిపిస్తుంది … మేము ఆ నష్టాన్ని కృత్రిమంగా పున ate సృష్టి చేయగలము” అని న్యూయార్క్‌లో ఫైనాన్స్‌లో పనిచేస్తున్న 31 ఏళ్ల షైనా బ్రాండర్ చెప్పారు.
ఆమె 100 ఏళ్ల అమ్మమ్మ, చజ్కా బ్రాండర్, హోలోకాస్ట్‌లో తన కుటుంబమంతా కోల్పోయింది మరియు క్యాంప్ గార్డ్లు ఆమె ఛాయాచిత్రాలను తీసివేసాడు.
ఆమె తండ్రి ఆమె ముందు కాల్చి చంపబడ్డాడు మరియు “అతను ఎలా ఉంటాడో ఆమెకు గుర్తులేదు”, బ్రాండర్ చెప్పాడు.
“ఆ చిత్రాన్ని తిరిగి ఆమె వద్దకు తీసుకురావడానికి మీరు AI ఫోటో చేయలేరు.”
హోలోకాస్ట్ విద్యావేత్త సోఫియా థోర్న్‌బ్లాడ్ హోలోకాస్ట్‌ను అనుకరించే ఐ-సృష్టించిన వీడియోల గురించి టిక్టోక్‌లో పోస్ట్ చేస్తారు, దీనిని ఆమె “చాలా అప్రియమైనది” అని పిలుస్తుంది.
తుల్సా యొక్క షెర్విన్ మిల్లెర్ మ్యూజియం ఆఫ్ యూదు కళలో చీఫ్ క్యూరేటర్: “ఆష్విట్జ్ ఖైదీగా ఎలా ఉందో నాకు చూపించమని AI ని అడిగారు”.
74,000 సార్లు ఇష్టపడింది, ఇది రోజీ ముఖం గల ఖైదీలను మరియు చాలా సౌకర్యవంతమైన బంక్బెడ్లను చూపిస్తుంది.
టిక్టోక్ ఈ “సున్నితమైన కంటెంట్” ను “హోలోకాస్ట్ గురించి వాస్తవాలను తెలుసుకోవడానికి” ఎంపికతో లేబుల్ చేస్తుంది.
“ఏకాగ్రత శిబిరాల విముక్తి ఎలా ఉంటుందో మాకు చిత్రాలు ఉన్నాయి మరియు ఇది ఖచ్చితంగా భయంకరమైనది” అని థోర్న్‌బ్లాడ్, 31, AFP కి చెప్పారు.
AI వీడియో “దాదాపు తటస్థంగా ఉంది” అని ఆమె చెప్పింది.
“ఇది ఫాంటసీ-ల్యాండ్ ఆష్విట్జ్ లాంటిది.”
హోలోకాస్ట్ జ్ఞాపకశక్తిపై AI యొక్క ప్రభావాన్ని పరిశోధించే మైకోలా మఖోర్టైఖ్ కోసం, “మేము చాలా ఆందోళన చెందాలి”.
చారిత్రక సమాచారం కోసం చాట్‌బాట్‌లు “ముఖ్యంగా ఆందోళన కలిగించేవి” అని బెర్న్ విశ్వవిద్యాలయ లెక్చరర్ AFP కి చెప్పారు.
“కొన్నిసార్లు మేము వాటిని నకిలీ చారిత్రక సాక్షులు మరియు నకిలీ చారిత్రక సాక్ష్యాలను కూడా కనుగొంటాము.”
వారు ఉనికిలో లేని సంఘటనలను “భ్రాంతులు” చేయవచ్చు-యూదులను సామూహిక మునిగిపోవడం వంటివి.
AI ప్రొవైడర్లు తప్పనిసరిగా మెరుగైన సమాచార వనరులను ఉపయోగించాలి, కాని హోలోకాస్ట్ మ్యూజియంలు కూడా “స్వీకరించాల్సిన అవసరం ఉంది”.
ప్రాణాలతో బయటపడిన వారి జ్ఞాపకాలను కాపాడటానికి కొందరు ఇప్పటికే AI ని ఉపయోగిస్తున్నారు.
UK యొక్క నేషనల్ హోలోకాస్ట్ సెంటర్ మరియు మ్యూజియం దాని “ఫరెవర్ ప్రాజెక్ట్” కోసం 11 మంది ప్రాణాలు ఇంటర్వ్యూ చేసింది.
AI కి ధన్యవాదాలు, సందర్శకులు కిండర్ ట్రాన్స్పోర్ట్‌లో బ్రిటన్‌కు వచ్చి ఇటీవల మరణించిన స్టీవెన్ మెండెల్సన్‌తో “మాట్లాడవచ్చు” అని మ్యూజియం డైరెక్టర్ మార్క్ కేవ్ AFP కి చెప్పారు.
“ఇది స్టీవ్ యొక్క గొప్ప ఉపయోగం, గౌరవప్రదమైన ఉపయోగం” అని అతను చెప్పాడు.
“మా నైతిక మార్గదర్శకం: టెక్ నిజమైన వ్యక్తిలాగా వ్యవహరించండి.”
