Un homme aveugle, émacié et pieds nus debout dans la neige du camp de concentration nazi de Flossenbürg. Au premier coup d'oeil, l'image paraît être un cliché historique mais en réalité elle a été générée par une intelligence artificielle.
L'équipe Factcheck de l'AFP a constaté la multiplication ces derniers mois de ce type de tromperies sur les réseaux sociaux et des experts de la Shoah s'inquiètent, ces faux sapant la crédibilité de la réalité historique, par motivation révisionniste ou par cupidité.
Parmi les photos créées par l'IA à avoir connu un succès viral, celle d'une fillette aux cheveux bouclés, présentée comme étant Hannelore Kaufmann, une Berlinoise de 13 ans morte dans le camp d'extermination d'Auschwitz, dont on commémore mardi la libération en 1945. Aucune victime de ce nom n'y a été recensée.
Autre "AI slop", Hank, présenté comme un violoniste tchèque à Auschwitz, une publication dénoncée par le musée du camp.
Avec les progrès exponentiels de l'IA, "le phénomène s'amplifie", s'inquiète auprès de l'AFP Jens-Christian Wagner, un historien à la tête de la fondation qui gère les sites de Buchenwald et de Mittelbau-Dora.
Fin 2025, "certains comptes publiaient des photos truquées à la minute", souligne auprès de l'AFP Iris Groschek, une historienne travaillant quant à elle sur les lieux de mémoire de Hambourg, dont le camp de concentration de Neuengamme.
- Alerte -
Le 13 janvier, plusieurs mémoriaux et des associations mémorielles ont donc alerté dans une lettre ouverte sur le "nombre croissant" de ces contenus "entièrement inventés".
Ils évoquent deux types de motivations, l'une mercantile, l'autre politique, pour expliquer l'essor de ces publications.
D'un côté, des "fermes à contenus" qui "exploitent la charge émotionnelle de la Shoah" pour obtenir à faible coût "clics et recettes publicitaires".
La fausse photo du prisonnier de Flossenbürg, par exemple, a été promue par un compte Facebook affirmant "partager des histoires vraies, humaines, des chapitres les plus sombres de l'histoire".
De l'autre côté, des faux destinés à "brouiller les faits historiques" et à "diffuser des récits révisionnistes", soulignent les signataires.
Jens-Christian Wagner cite l'exemple d'images de détenus "bien nourris, censées suggérer que les conditions dans les camps de concentration n'étaient, au fond, pas si mauvaises".
La Shoah s'y retrouve "niée et relativisée ou les victimes sont tournées en ridicule", dénonce le centre éducatif Anne Frank, qui a son siège à Francfort.
- Déformer l'Histoire -
En "déformant l'Histoire", ces images générées par l'IA ont "des conséquences très concrètes sur la représentation que les gens se font de la période nazie", souligne Iris Groschek.
Cela se ressent pendant les visites des mémoriaux par de jeunes visiteurs, en particulier ceux des "régions rurales d'Allemagne de l'Est (...), où la pensée d'extrême droite est devenue largement hégémonique", observe M. Wagner, à la tête des sites de Buchenwald et de Mittelbau-Dora.
Remarques provocatrices, rires, poses irrespectueuses... Les signes "de rejet" sont le fruit d'une minorité, certes, mais celle-ci "se montre de plus en plus sûre d'elle", déplore-t-il.
Saluts hitlériens, graffitis de croix gammées... Iris Groschek a elle aussi constaté "une hausse (du nombre) des incidents" à Neuengamme.
Le monde occidental connaît à la fois une poussée de l'extrême droite et de l'antisémitisme, même en Allemagne.
Les institutions mémorielles ont donc appelé les grands réseaux sociaux à travailler avec elles pour "combattre de manière volontariste" ces faux et exclure des programmes de monétisation les comptes disséminant de tels contenus à des fins vénales ou de propagande.
Le règlement européen sur les services numériques (DSA) "oblige les plateformes à assumer leurs responsabilités", rappelle le ministre allemand de la Culture, Wolfram Weimer, dans une réponse à l'AFP.
Aucun géant américain, notamment Meta (Facebook et Instagram), n'avait répondu aux mémoriaux à la veille de la journée commémorative. Le Chinois TikTok, en revanche, leur a dit vouloir exclure les comptes incriminés de la monétisation et mettre en place une "vérification automatisée", dit Mme Groschek à l'AFP.
En attendant, sur Facebook, bien qu'il s'agisse de faux établis, des images d'Hannelore et Hank continuent de circuler.
