Seit dem 2. August gilt in der Europäischen Union die Pflicht, den Einsatz Künstlicher Intelligenz zu kennzeichnen. Dazu verpflichtet jetzt die Verordnung AI Act. Die Nutzerinnen und Nutzer müssen auch darüber in Kenntnis gesetzt werden, wenn sie es mit einem interaktiven KI-System wie einem Chatbot zu tun haben. Diese Transparenzanforderung soll helfen, zu erkennen, ob Inhalte durch KI erzeugt oder verändert wurden, und so das Risiko von Täuschung und Manipulation zu verringern. Dies betrifft auch Unternehmen, die KI mit geringem Risiko einsetzen, wie z. B. das Basismodell ChatGPT oder Bildgenerierungsprogramme. Die Kennzeichnungspflicht entfällt, wenn ein Mensch den Text überprüft hat und die redaktionelle Verantwortung übernimmt. Zu den kennzeichnungspflichtigen Veröffentlichungen gehören: KI-generierte Politikerreden; künstlich erzeugte Interviews; manipulierte Unternehmensvideos; Produktpräsentationen, die nicht auf echten Fotos oder Videos, sondern auf physischen Prototypen basieren; KI-generierte Fotos von Gebäuden, die echt wirken, und KI-generierte Bilder, die suggerieren, dass das abgebildete Ereignis stattgefunden habe. Wird gegen die Kennzeichnungspflicht verstoßen, drohen Strafen bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Konzerns bei nicht gekennzeichnetem KI-Einsatz. Werden die Transparenzpflichten missachtet oder sind Sicherheitsvorkehrungen nicht ausreichend, können bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes verhängt werden.
Während die EU sich bemüht, den KI-Einsatz transparenter zu gestalten, laufen weltweit Gerichtsverfahren, und es sind Gesetzesänderungen geplant, um die Verwendung von KI eindeutiger zu regulieren und so den Missbrauch zu reduzieren.
Erfolg gegen KI-Missbrauch bei Musikrechten
Die Gesellschaft für musikalische Aufführungs- und mechanische Vervielfältigungsrechte (GEMA) hat im Rechtsstreit gegen Suno, einen US-amerikanischen Anbieter von KI-generierten Audioinhalten, im Juli dieses Jahres einen Erfolg erzielt. Das Landgericht München stellte fest, dass Suno durch das Training mit weltbekannten Songs aus dem Repertoire der GEMA in den USA, aber auch in Europa gegen das Urheberrecht verstößt. Damit bestätigt das Gericht die Position der GEMA: Die Verwertung sowie die Wiedergabe der Musikstücke aus dem GEMA-Repertoire unterliegen einer Lizenzpflicht, und die Anbieter müssen den Urheberinnen und Urhebern eine Vergütung zahlen. Die Entscheidung ist der zweite gerichtliche Erfolg der GEMA in einem Verfahren gegen KI-Anbieter. Bereits im November 2025 hatte das Landgericht zugunsten der GEMA in einem Rechtsstreit gegen OpenAI geurteilt. Die GEMA hatte am 21. Januar 2025 Klage gegen Suno eingereicht, um so das Recht ihrer Mitglieder auf eine Vergütung für die Nutzung ihrer Werke durchzusetzen. Die generative KI von Suno ermöglicht es, durch einfache Befehle abspielbare Audioinhalte zu erzeugen, die den Originalen zum Verwechseln ähnlich sind. Dass die Systeme mit Werken der GEMA trainiert wurden, ohne eine Lizenzvergütung zu zahlen, hatte der Anbieter zwar eingestanden, die Vergütungspflicht aber stets bestritten. Suno verfolgt ein gewinnorientiertes Geschäftsmodell und verlangt von den Nutzerinnen und Nutzern der Premium-Version des KI-Tools eine Abogebühr.
Weltweite Klagen gegen Perplexity und Google
Ende vergangenen Jahres hatten die Medienunternehmen RTI und Medusa Film Klage gegen den US-Anbieter Perplexity AI erhoben. Erstmals in Italien stand damit die systematische Nutzung urheberrechtlich geschützter Inhalte für das Training von KI-Systemen vor einer juristischen Prüfung. Perplexity AI wird vorgeworfen, audiovisuelle Inhalte ohne Erlaubnis zum Training genutzt zu haben. Die Kläger wiesen nach, dass dieses »Training« keine technische Nutzung darstelle und somit die Zustimmung der Rechteinhaber erfordere, wie es die europäische CDSM-Richtlinie verlangt. Die vorgesehenen Ausnahmen sind für analytische Zwecke vorgesehen, nicht aber für das expressive Training generativer KI-Modelle. Auch die New York Times und CNN haben Perplexity wegen Urheberrechtsverletzung verklagt. Die Urteile stehen noch aus.
Google muss sich ebenfalls für einen strittigen KI-Einsatz gerichtlich verantworten. Das Landgericht München I hat dem Unternehmen untersagt, in der Suchfunktion »Übersicht mit KI« falsche »Tatsachenbehauptungen« über zwei Verlage zu verbreiten. In der Entscheidung vom Mai 2026 wurde geurteilt, dass Google mit seinen KI-Falschmeldungen eigenständige Inhalte erzeuge. Die eingeschränkte Haftung von Suchmaschinen für Inhalte gelte hier nicht, urteilte die Kammer. Auch bei einem Hinweis »mit KI erstellt« trage Google die Verantwortung für die Information.
Hersteller von KI-gestützten Inhalten sind Intermediäre
Die ungerechtfertigte KI-Nutzung von Perplexity AI und die KI-generierten Veröffentlichungen von Google standen auch im Fokus von zwei Verfahren von Landesmedienanstalten, um zu klären, ob sie sich als Intermediäre an die Regeln des deutschen Medienrechts halten müssen. Die Medienanstalt Berlin-Brandenburg (MABB) hatte sich in dem fünfmonatigen Verfahren mit der Ausgestaltung des KI-Angebots von Perplexity AI befasst und die Medienanstalt Hamburg-Schleswig-Holstein (MA HSH) mit dem von Google. Die Kommission für Zulassung und Aufsicht (ZAK), in der alle 14 Landesmedienanstalten zusammenarbeiten, stellte jetzt fest, dass beide Anbieter gegen Vorschriften und das Diskriminierungsverbot des Medienstaatsvertrags verstoßen. Damit werden Hersteller von KI-generierten Inhalten erstmals rechtlich als Intermediäre eingestuft. Unter Medienintermediären versteht man Dienste, die eigene oder fremde Inhalte aggregieren, selektieren und allgemein zugänglich präsentieren. Im Medienstaatsvertrag (MStV) definiert ein eigener Abschnitt die Anforderungen an Intermediäre, die im Durchschnitt monatlich mehr als eine Million Nutzerinnen und Nutzer erreichen. Diese müssen einen Zustellungsbevollmächtigten einsetzen, die Kriterien für Auswahl und Platzierung der Informationen nennen und dürfen andere journalistisch-redaktionell gestaltete Angebote nicht verdrängen. »Grundsätzlich können für KI-Angebote die bestehenden Regeln für Medienintermediäre gelten. Ob Regeln einschlägig sind, die für Medienintermediäre anwendbar sind, oder solche, die für Inhalteanbieter gelten, hängt davon ab, wie KI im konkreten Angebot eingesetzt wird, und muss im Einzelfall untersucht und festgestellt werden. Es zeigt sich, dass bereits auf Grundlage des aktuellen Medienstaatsvertrages KI-Anwendungen nicht im rechtsfreien Raum agieren, sondern medienrechtliche Regeln anwendbar sind«, erläutert Thorsten Schmiege, Vorsitzender der Direktorenkonferenz der Landesmedienanstalten (DLM) und der ZAK sowie Präsident der Bayerischen Landeszentrale für neue Medien.
»Für klassische Medienunternehmen gibt diese Entscheidung der ZAK Anlass zur Hoffnung, dass der seit Langem zu beobachtende Verdrängungswettbewerb in einem völlig dysfunktionalen Markt an sein Ende kommt und sie mit ihren Angeboten auch weiterhin sichtbar bleiben: Big-Tech-Konzerne nutzen Inhalte anderer, vergüten diese kaum bis gar nicht und erzielen allein im deutschen Markt Erlöse in Höhe von über 15 Milliarden Euro jährlich. Zusätzlich wollen sie weder für die verbreiteten Inhalte Verantwortung übernehmen noch transparent machen, welchem Nutzer was und warum angezeigt wird. Das ist nicht nur eklatant unfair, sondern öffnet Miss- und Desinformation immer mehr Tür und Tor«, urteilt Christine Jury-Fischer, Corint-Media-Geschäftsführerin, über das nahezu ungehinderte Handeln der Plattformen. Die beiden Bescheide der Landesmedienanstalten verpflichten die Anbieter, wie Schmiege betont, die festgestellten Mängel zu beheben. Sie müssten die Behinderungen von Anbietern journalistischer Inhalte beenden, die vorgeschriebenen Transparenzangaben bereitstellen und einen Zustellungsbevollmächtigten benennen. Diese Entscheidungen sind ein Anfang, aber noch nicht mehr. Um das Urheberrecht auch im KI-Zeitalter zu schützen, sollten den Anbietern von KI-Tools bei Verstößen Strafen auferlegt werden, die ihre neuen Geschäftsmodelle wirtschaftlich unattraktiv werden lassen.