Heute sehen sich Gedenkstätten und andere Institutionen, die sich mit autoritären Vergangenheiten und den damit verbundenen Massenverbrechen befassen, mit einem mnemonischen Paradoxon, einem Paradoxon des Erinnerns, konfrontiert. Einerseits gab es dank der Digitalisierung analoger Bestände und der Produktion neuer digitaler Inhalte durch die Institutionen selbst noch nie so viele hochwertige Informationen über Genozide, andererseits wird es zunehmend schwieriger sicherzustellen, dass diese Informationen ihr Publikum erreichen und nicht in der wachsenden Flut irreführender Inhalte untergehen, die den digitalen Raum überschwemmt. Dies spiegelt sich auch in den beunruhigenden Ergebnissen der jüngsten länderübergreifenden Studie der Claims Conference wider, die deutliche Wissenslücken in Bezug auf die Verbrechen des Nationalsozialismus aufgezeigt hat.
Ein wesentlicher Grund für dieses Paradoxon ist die zunehmende Rolle algorithmischer und KI-gestützter Systeme als zentrale Vermittlungsinstanzen und »Gatekeeper« der Erinnerung an Genozide. Angesichts der schier unüberschaubaren Menge an online verfügbaren Informationen über die Vergangenheit ist es Menschen schlicht nicht mehr möglich, diese selbst zu ordnen. Diese Aufgabe wird daher an automatisierte Systeme wie Suchmaschinen delegiert, die Informationen strukturieren und bereitstellen. Bei Recherchen zu Genoziden priorisieren die Algorithmen von Suchmaschinen und Social Media jedoch nicht zwangsläufig Inhalte von Gedächtnis- und Kultureinrichtungen. Dies reduziert die Sichtbarkeit der von diesen Institutionen aufgebauten Wissensbestände und zwingt sie, mit Anbietern um die Aufmerksamkeit der Nutzerinnen und Nutzer zu konkurrieren, die häufig über eine bessere Suchmaschinenoptimierung und größere Ressourcen zur Selbstvermarktung verfügen.
Das Ökosystem des kollektiven Gedächtnisses steht derzeit jedoch vor einer weiteren Veränderung. Das Aufkommen generativer KI und ihrer Anwendungen wie ChatGPT verändert grundlegend, wie Informationen über die Vergangenheit gefunden und erzeugt werden. In einer 2025 von Victoria Vziatysheva und mir durchgeführten Umfrage gaben 18,6 Prozent der Befragten in den USA und 12,7 Prozent der Befragten in Deutschland an, generative KI-Chatbots zu nutzen, um sich über den Holocaust zu informieren. Anders als Suchmaschinen verweisen Chatbots allerdings nicht auf externe Informationsquellen, sondern liefern direkt Antworten. Selbst wenn in diesen Antworten Links enthalten sind, besteht für die Nutzende keine Notwendigkeit, ihnen zu folgen, da die Informationen bereits im Chat gezeigt werden.
Die durch generative KI entstehenden Herausforderungen für die Erinnerung an die nationalsozialistische Vergangenheit beschränken sich nicht auf die Gefahr, dass Gedenkstätten langfristig an Sichtbarkeit verlieren könnten. Studien zeigen, dass generative KI Genozide häufig fehlerhaft darstellt und Stereotype reproduziert. Besonders besorgniserregend ist, dass solche verzerrten Darstellungen der Vergangenheit bereits durch alltägliche Nutzeranfragen ausgelöst werden können. Gemeinsam mit meiner Kollegin Elizaveta Kuznetsova vom Weizenbaum-Institut bezeichne ich diese Verfälschungen als »routine Holocaust distortion«: Verzerrungen, die aus den inhärenten Eigenschaften generativer KI, etwa ihrer Neigung zu Halluzinationen, entstehen.
Generative KI kann historische Materialien erzeugen, die für Laien authentisch wirken, tatsächlich aber gefälscht sind. Zwar gibt es vielversprechende künstlerische und zivilgesellschaftliche Projekte wie »Pedanterie – Die Auschwitz-Wäscherei« der Filmuniversität Babelsberg Konrad Wolf, zugleich wächst die Zahl nicht authentischer Holocaust-Inhalte auf digitalen Plattformen. Welche Motive Nutzerinnen und Nutzer zur Erstellung solcher Inhalte bewegen, bleibt oft unklar. Die Spannbreite reicht vermutlich von Selbstdarstellung über kommerzielle Interessen bis hin zur Leugnung von Völkermord. Letztendlich erschwert die wachsende Menge an geschichtsbezogenem »AI-Slop«, also minderwertiger KI-generierter Massenware, den Zugang zu hochwertigen Informationen und droht, das Vertrauen in historische Tatsachen zu untergraben.
Die technologischen Entwicklungen bergen jedoch nicht nur Risiken. Algorithmische Systeme können Menschen ebenso zu Gedenkstätten führen wie von ihnen weglenken. Welche Wirkung sie letztlich entfalten, hängt von Design, Regulierung und der Bereitschaft ihrer Entwickler ab, Verantwortung für das kollektive Gedächtnis zu übernehmen. Generative KI kann zudem neue Formen der Wissensvermittlung ermöglichen, etwa dialogfähige digitale Avatare von Zeitzeugen oder personalisierte Chatbot-Geschichtslektionen auf Basis hochwertiger Daten. Voraussetzung ist jedoch, dass diese Technologien verantwortungsvoll entwickelt und eingesetzt werden.
Die entscheidende Frage lautet daher, wie sich die Risiken begrenzen und die Potenziale realisieren lassen. Das ist keine einfache, aber auch keine unlösbare Aufgabe. Gedenkstätten wie die KZ-Gedenkstätte Neuengamme haben in den vergangenen Monaten verstärkt auf die Risiken KI-bedingter Holocaust-Verfälschungen in digitalen Räumen aufmerksam gemacht und internationale Forschungsgruppen beschäftigen sich zunehmend mit dieser Problematik. Entscheidend ist, dass die Aufmerksamkeit für das Thema in konkretes Handeln mündet: etwa in verbesserte Sicherheitsvorkehrungen seitens der KI-Entwickler, neue regulatorische Ansätze zur Eindämmung neuer Formen der Genozidverfälschung oder Bildungsstrategien zur Stärkung der historischen Urteilskompetenz in einer Zeit, in der sowohl Fakten als auch Quellen leicht durch KI gefälscht werden können.
Gedenkstätten verfügen über ein unschätzbares Fachwissen, das für die Entwicklung all dieser Lösungen von zentraler Bedeutung sein kann – vorausgesetzt, sie sind bereit und in der Lage, mit anderen Akteuren der Erinnerungskultur zusammenzuarbeiten. In einer Welt, in der es so einfach ist, gefälschte historische Materialien zu produzieren, kann die Bedeutung institutioneller Akteure, die die Integrität historischen Wissens sichern, nicht genug betont werden. Die Anerkennung wissenschaftlich fundierten historischen Wissens durch Öffentlichkeit, Institutionen und KI-Systeme könnte helfen, das eingangs beschriebene Erinnerungsparadox zu überwinden.
Aus dem Englischen übersetzt mit DeepL Translator und von Sophia Blochowitz redaktionell bearbeitet. Zum englischen Original: tinyurl.com/puk-erinnern-en