Derzeit kursiert eine euphemistische Erzählung über Künstliche Intelligenz (KI) und ihre Anwendung: Algorithmen seien präziser, weniger impulsiv, nicht anfällig für menschliche Vorurteile. Sie rechnen an Stellen, an denen wir fühlen, und treffen Entscheidungen dort, wo wir uns oft schwertun. Doch je mehr öffentliche Aufgaben – von der Verwaltung bis zur Kulturförderung – digitale Werkzeuge nutzen, desto unübersichtlicher wird, wer hier eigentlich auf welcher Grundlage oder (Erfahrungs-)Werten entscheidet. Hinter jeder scheinbar neutralen Berechnung steht eine Ansammlung von Daten, Annahmen und Interessen. Und damit eine sehr menschliche Frage: Wen repräsentieren diese Daten – und wen nicht?
Für ein Netzwerk wie die neuen deutschen organisationen (ndo), das sich mit Repräsentation in einer postmigrantischen Gesellschaft beschäftigt, ist KI kein exotisches Technikthema, sondern ein weiterer Schauplatz einer alten Debatte. Schon lange geht es darum, wer als »zugehörig« gilt, wer als »abweichend« markiert wird, wessen Erfahrungen relevant erscheinen. KI verschiebt diese Kämpfe in eine neue Architektur: Sie verlagert sie in Rechenzentren, in Trainingsdaten und in Entscheidungssysteme, die sich selbst nicht erklären (müssen).
Denn Algorithmen arbeiten nicht im ideologischen Vakuum. Sie lernen aus dem, was bereits besteht: aus Ausschreibungen, die immer wieder ähnliche Lebensläufe bevorzugen, aus Medienberichten, die Communitys stereotyp darstellen, aus Statistiken, in denen manche Realitäten schlicht nicht vorkommen. Wenn eine Kulturverwaltung KI nutzt, um Anträge vorsortieren zu lassen, oder wenn eine Institution automatisierte Tools verwendet, um Zielgruppen zu analysieren, dann schreiben sich diese Muster fort – sauber formatiert, aber nicht weniger politisch geladen.
Die Debatte um eine »Demokratische KI« versucht, dieser Entwicklung eine Richtung zu geben. Sie klingt nach Beteiligung, nach offenen Prozessen, nach Technik im Dienst des Gemeinwohls. Aber was bedeutet das in der Praxis? Ein Anfang wäre, sich von der bequemen Vorstellung zu verabschieden, man könne eine einmal definierte Liste an »Werten« in eine KI einspeisen, und diese werde sich den gängigen, aktuellen Demokratiestandards anpassen. Sowohl die Demokratie als auch eine digitale Infrastruktur namens KI unterliegen Updates, Anpassungen oder Widerrufen.
Für den Kulturbereich ergibt sich folgende Fragestellung: Kulturinstitutionen arbeiten mit knappen Ressourcen, komplexen Auswahlentscheidungen und einem starken öffentlichen Auftrag. KI verspricht Entlastung: Empfehlungssysteme, die Programme zielgruppengenauer ausspielen; Tools, die Inhalte zusammenfassen oder übersetzen; Datenanalysen, die zeigen, wer erreicht wird und wer nicht. All das kann hilfreich sein. Aber es verschiebt auch Verantwortung. Wenn ein Algorithmus »vorschlägt«, wer voraussichtlich interessiert ist, wem Einladungen angezeigt werden, welche Themen zu »funktionieren« scheinen – welche Instanz oder Einzelperson prüft, welche »Werte« diese Entscheidungen maßgeblich prägen?
Eine demokratische Perspektive beginnt dort, wo Institutionen sich diese Frage nicht nur intern, sondern »öffentlich« stellen. Sie machen sichtbar, wo KI zum Einsatz kommt, auf welchen Annahmen sie basieren, welche Daten als Grundlage dienen. Sie akzeptieren, dass Fehler passieren werden – und entwickeln Verfahren, wie Betroffene widersprechen, Korrekturen einfordern, eigene Erfahrungen einbringen können. In der Sprache der Politik heißt das oft »Rechenschaftspflicht«. In der Praxis heißt es: Die Betroffenen sind keine Fußnote, sondern Gesprächspartnerinnen und -partner.
Dass sich zivilgesellschaftliche Akteurinnen und Akteure inzwischen Codes of Conduct für den Umgang mit KI geben, ist ein wichtiger Schritt. Gemeinwohlorientierte Organisationen halten daran fest, was sie für zumutbar halten und was nicht: wie sie mit sensiblen Daten umgehen, welche Rolle Transparenz spielt, welche Grenzen sie sich selbst setzen. Es ist ein Versuch, nicht nur auf staatliche Regulierung zu warten, sondern eigene Maßstäbe zu formulieren – auch auf die Gefahr hin, Widersprüche offenzulegen, die sich nicht sofort auflösen lassen. Auch das ist Teil einer konstruktiven Entwicklung.
Für ein postmigrantisches Netzwerk wie die neuen deutschen organisationen geht es dabei nicht um Technikoptimismus oder Technikfeindlichkeit. Es geht um eine nüchterne Frage: Wird KI – so wie wir sie heute bauen – die bestehenden blinden Flecken nur in Code gießen? Oder kann sie, richtig gestaltet, ein Werkzeug werden, das diese blinden Flecken sichtbar macht? Das klingt abstrakt, hat aber konkrete Konsequenzen: Wer sitzt in den Gremien, die über digitale Strategien entscheiden? Wer wird eingeladen, Modelle zu testen? Wer darf sagen: »So, wie dieses System mich beschreibt, möchte ich nicht beschrieben werden?«
Vielleicht liegt die eigentliche Chance demokratischer KI nicht in der perfekten, »gerechten« Maschine, sondern in neuen Formen der Zusammenarbeit. Wenn Kulturinstitutionen, diejenigen, die Technologien entwickeln, Initiativen und betroffene Communities gemeinsam an Projekten arbeiten, entstehen andere Fragen – weniger technische, sondern mehr gesellschaftliche. Dann geht es plötzlich um reale Teilhabe, um Zugänge, um Sprache, um Arbeitsalltag und Archivlogiken. Um die alten Themen also, aber in brandneuer Konstellation, mit ungeahntem neuen Lösungspotenzial.