Die Würfel in Brüssel sind gefallen: Ab August 2025, mit einer Übergangsfrist bis spätestens 2026, wird der sogenannte AI Act der Europäischen Union schrittweise rechtskräftig. Kernstück dieser umfangreichen Regulierung ist eine Kennzeichnungspflicht für Inhalte, bei deren Anfertigung oder tiefgreifender Modifikation Künstliche Intelligenz maßgeblich beteiligt war. Für professionelle Akteure in Fotografie und Bildbearbeitung mag dies zunächst wie eine weitere bürokratische Bürde aus dem EU-Apparat anmuten. Doch hinter dieser Vorschrift verbirgt sich weit mehr als ein simples Label. Es ist ein regulatorischer Eingriff, der das Potenzial birgt, die Spielregeln der visuellen Branchen nachhaltig neu zu justieren.
Da liegt es nahe zu fragen: Welche konkreten Auswirkungen zeichnen sich für den Arbeitsalltag ab, und welche strategischen Überlegungen sind jetzt für Profis unerlässlich? Die Debatte bewegt sich zwischen der Sorge vor einer Bedrohung etablierter Arbeitsweisen und der Aussicht auf eine Neupositionierung im Umgang mit KI-Werkzeugen.
Transparenz als neue Währung: Mehr als nur ein Etikett
Im Fokus des AI Acts steht die unmissverständliche Forderung nach Transparenz. Fotografen und Bildbearbeiter sehen sich künftig in der Pflicht, offenzulegen, wenn KI-Systeme bei der Bildkomposition oder der nachfolgenden Bearbeitung signifikant zum Einsatz kamen. Dies betrifft nicht nur generative Verfahren, die aus Texteingaben komplexe Szenen hervorbringen, sondern ebenso subtilere Eingriffe durch KI-basierte Softwarefilter oder fortgeschrittene Retuschefunktionen. Jede Manipulation, die maßgeblich auf KI-Algorithmen beruht, muss als solche kenntlich gemacht werden. Die Kennzeichnung selbst soll dabei klar, für Menschen verständlich und zugleich maschinenlesbar sein – denkbar sind Lösungen über Wasserzeichen, Metadaten oder deutlich sichtbare Hinweise direkt am Bild.
Diese Offenlegungspflicht zielt darauf ab, dem Betrachter Klarheit darüber zu verschaffen, ob ein Bild die Realität abbildet, sie interpretiert oder gänzlich synthetischen Ursprungs ist. Die Nichteinhaltung dieser Vorgaben wird dabei keineswegs als Kavaliersdelikt behandelt: Bei Verstößen drohen empfindliche Bußgelder, die bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes des betreffenden Unternehmens betragen können.
Diese Entwicklung könnte auch zur Herausbildung neuer Spezialisierungen führen. Fachleute an der Schnittstelle von Technologie, Bildgestaltung und rechtlichen Vorgaben, bisweilen als „Kreativ-Prompter“ bezeichnet, könnten eine wichtige Rolle einnehmen, um die Compliance sicherzustellen und gleichzeitig das kreative Potenzial von KI auszuschöpfen. Ihre Expertise wird gefragt sein, um die Balance zwischen innovativem Werkzeugeinsatz und den regulatorischen Anforderungen zu finden.
Ökonomische Realitäten: Zwischen Investitionsdruck und neuen Geschäftsfeldern
Die Anpassung an die neuen EU-Vorschriften wird unweigerlich finanzielle Aufwendungen nach sich ziehen. Investitionen in Compliance-Software, die möglicherweise dabei hilft, den KI-Anteil in Bildern zu dokumentieren und zu kennzeichnen, sowie in Schulungen für Mitarbeiter, um die rechtlichen Fallstricke zu verstehen und korrekt anzuwenden, sind absehbar. Insbesondere kleinere Betriebe und freischaffende Bildprofis könnten hierdurch zunächst einen Wettbewerbsnachteil erfahren, wenn sie nicht über die gleichen Ressourcen wie größere Agenturen oder Studios verfügen. Die Dokumentationspflicht für Arbeitsprozesse, gerade bei der Nutzung von KI-Modellen, wird ebenfalls Zeit und Ressourcen binden.
Gleichzeitig eröffnen sich durch die EU-Regulierung auch neue wirtschaftliche Perspektiven. Beratungsdienstleistungen rund um den AI Act und die Qualitätssicherung KI-gestützter Bildproduktionen könnten zu lukrativen Geschäftsfeldern avancieren. Denkbar ist zudem eine stärkere Preisdifferenzierung: „Authentische“, also ohne KI-Einsatz entstandene Fotografien und Bearbeitungen, könnten im Wert steigen und eine Premium-Nische bedienen, während KI-assistierte Arbeiten für andere Marktsegmente preislich attraktiver werden. Die klare Kennzeichnung schafft hierfür die notwendige Grundlage und könnte somit auch neue Marktsegmente definieren. Wenn man die Anforderungen sehr eng auslegt, könnten auch Smartphone-Fotos, die in aktuellen Modellen nach der Aufnahme kaum mehr ohne massive KI-Nachbearbeitung auskommen, unter die Kennzeichnungspflicht fallen und so zu nicht-authentischen, kennzeichnungspflichtigen Bildprodukten erklärt werden. Dasselbe gilt für mit KI-Techniken skalierte Fotos.
Kreativität im Spannungsfeld: Stigma, Chance oder Katalysator?
Die Pflicht zur Kennzeichnung von KI-Inhalten birgt sowohl Risiken als auch Chancen für den kreativen Prozess. Einerseits besteht die Gefahr, dass als „KI-Bild“ deklarierte Werke stigmatisiert und als weniger wertvoll oder authentisch wahrgenommen werden. Andererseits bietet die Transparenz die Möglichkeit, sich als verantwortungsbewusster Akteur im Markt zu positionieren und das Vertrauen von Kunden und Publikum zu stärken, die Wert auf Ehrlichkeit im Umgang mit den neuen Technologien legen.
Darüber hinaus könnte die Auseinandersetzung mit den Möglichkeiten und Grenzen von KI, auch befeuert durch die Notwendigkeit der Kennzeichnung, die Entstehung neuer hybrider Kunstformen beschleunigen. Die bewusste Kombination menschlicher Intention und maschineller Fähigkeiten kann zu visuellen Ergebnissen führen, die bisher undenkbar waren. Ein wichtiger Aspekt in diesem Kontext ist das Urheberrecht: Inhalte, die überwiegend von einer KI generiert wurden, genießen in der Regel keinen urheberrechtlichen Schutz. Dies stellt Kreative vor die Herausforderung, ihren eigenen schöpferischen Anteil klar zu definieren und nachweisen zu können, um ihre Werke zu schützen. Zwar sieht der AI Act Ausnahmen von der Kennzeichnungspflicht vor, beispielsweise für rein private oder eindeutig künstlerische Nutzung sowie für Forschungszwecke. Auch Inhalte, die durch eine substanzielle menschliche Bearbeitung maßgeblich verändert wurden, könnten ausgenommen sein, doch die genaue Abgrenzung dürfte hier im Detail noch für ausufernde Diskussionen sorgen. Im kommerziellen Umfeld ist daher besondere Sorgfalt geboten.
Kurs halten im Zeitalter der KI: Strategien für die visuelle Zukunft
Die Einführung der KI-Kennzeichnungspflicht ist kein vorübergehendes Phänomen, sondern ein Indikator für die fortschreitende Integration von Künstlicher Intelligenz in die Kreativwirtschaft und den Versuch, hierfür einen professionellen Rahmen zu schaffen. Für Fotografen und Bildbearbeiter bedeutet dies vor allem die Notwendigkeit kontinuierlicher Weiterbildung und Anpassung. Es gilt, nicht nur die technischen Möglichkeiten neuer Software-Generationen zu kennen und zu beherrschen, sondern auch die rechtlichen und ethischen Rahmenbedingungen zu verstehen und in die eigenen Prozesse zu integrieren.
Die zentrale Herausforderung wird darin bestehen, eine kluge Balance zu finden: zwischen der Effizienzsteigerung durch KI-Werkzeuge, der strikten Einhaltung der EU-Vorgaben (Compliance) und einer überzeugenden kreativen Positionierung am Markt. Wer es versteht, KI als Werkzeug bewusst und transparent einzusetzen und den eigenen künstlerischen oder dokumentarischen Anspruch klar zu kommunizieren, wird vermutlich auch in Zukunft erfolgreich sein. Die wachsende Bedeutung von Authentizität und Nachvollziehbarkeit könnte sich sogar als Vorteil für jene erweisen, die diesen Wandel aktiv gestalten, anstatt nur darauf zu reagieren. Die Branche steht (mal wieder) vor einer spannenden Entwicklung, die den Wert professioneller Bildkompetenz neu definieren und möglicherweise auch schärfen wird.
Zitat: „…15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes des betreffenden Unternehmens betragen können.“
Ach, die gute alte Drohkulisse à la DSGVO: Entweder ein zweistelliger Millionenbetrag oder ein hübscher Prozentsatz vom Weltumsatz – je nachdem, was gerade mehr weh tut. Prinzipiell nachvollziehbar, die Idee dahinter. Aber wenn es dann wieder in der Praxis so aussieht, dass ein riesiges Pflicht-Logo auf ein sorgsam gestaltetes Design geklatscht wird – so wie früher diese grauenhaften FSK-Plaketten auf DVD-/Blu-ray-Covern – dann war’s das mal wieder mit der Ästhetik. Da hilft dann auch kein „Designschutz“ mehr, wenn man das Ergebnis gleich in die Mülltonne werfen möchte. Gruß Mario68
Ganz Deiner Meinung
Für mich ist es ein weiterer Schritt Europas, sich vom restlichen Teil der Welt zu trennen. Was interessiert es China und die USA, ob entsprechende Vorschriften in der EU gelten. Sie werden weiterhin ihren KI-Vorsprung ausnutzen, um wirtschaftlich nach Vorne zu kommen. Die EU schmückt sich gerne mit fortschrittlichen Gesetzen und Vorgaben, die die eigene Wirtschaft, inclusive Innovationen aber eher bremst und die Bürokratie aufblühen lässt. Hauptsache Moral! Aber am Ende wird der Stärkere die Regeln bestimmen, und der stellt sich nicht mit fragwürdigen Gesetzen die eigenen Beine.
Müssen Romanautoren in Zukunft auch auf dem Cover angeben, dass ein Teil der Geschichte erdacht, nicht der Realität entspricht, also ein Fake ist?
Die EU ist einer der größten Märkte der Welt, und wer hier mitspielen will, muss sich an die geltenden Regeln halten. Auch die USA und China könnten sich dem nicht entziehen, und sie könnten den europäischen Markt auch nichts links liegen lassen. Ich finde es richtig – und absolut notwendig – hier klare Regeln aufzustellen. Jedenfalls, wenn wir nicht nach den Regeln eines wildgewordenen US-Präsidenten oder denen der kommunistischen Partei Chinas leben wollen.
„Wenn man die Anforderungen sehr eng auslegt, könnten auch Smartphone-Fotos, die in aktuellen Modellen nach der Aufnahme kaum mehr ohne massive KI-Nachbearbeitung auskommen, unter die Kennzeichnungspflicht fallen …
Dasselbe gilt für mit KI-Techniken skalierte Fotos“
das dürfte dann, zumindest absehbar auch für alle „normalen“ Kameras gelten und auch für jede Bildbearbeitung. KI gestützt wird mittlerweile ja fast alles, was nicht bei drei auf den Bäumen ist.
Und auch analoge Fotos, die per Scanner (natürlich KI gestützt) eingelesen werden, würden dann darunter fallen.
Die Abmahnanwälte schaben sicher schon mit den Hufen.
Mir macht schon seit DSGVO die Fotografie keine Freude mehr, das hier kommt dann eben noch obendrauf.
CAI/C2PA bietet das nötige Instrumentarium, die Entstehung jedes Bildes zu dokumentieren, und wird ja auch schon von immer mehr Kameras unterstützt. Man muss das nicht von irgendeiner Mindesthöhe der KI-Eingriffe abhängig machen, oder auch nur von KI überhaupt. Auch Montagen ließen sich so dokumentieren.
Ich bezweifele nicht, dass es (selektive) Lösungen gibt. Nur wird damit nicht jedes denkbare Szenario abgedeckt. Am Ende wird, wie heute schon bei fast jedem Youtube Video mit dem Werbefilmhinweis, einfach sicherheitshalber bei jedem Bild „KI-Verändert“ dran stehen.
Letztendlich ist es ja auch so: es wird in einiger Zeit einfach gar nichts mehr geben, bei dem die KI nicht irgendwo eingegriffen haben wird. Die Aussagekraft wird damit gegen Null gehen und den gewollten Anspruch zuwiderlaufen.
Ist ja auch nicht anders als bei der Frage, ob ein Bild durch EBV verändert wurde- das müsste man ja auch bei jedem digitalen Bild bejahen.
Wichtig ist ja vor allem, dass die Metadaten Auskunft über die Provenienz geben; die sieht man erst einmal nicht, aber man kann sie einsehen, wenn man es wissen will. Es geht auch nicht um eine binäre Aussage, dass ein Bild mit oder ohne KI entstanden sei – denn diese Unterscheidung ist tatsächlich schon jetzt kaum noch aussagekräftig –, sondern um die Art des Eingriffs oder ganz generell darum, wie ein Bild entstanden ist. Also aus einem Foto mit ein wenig Retusche, aus der Montage mehrerer, nicht zusammengehöriger Fotos, aus einem gerenderten 3D-Modell oder mit generativer KI.
In Wettbewerben ging es ja schon vor Jahren gelegentlich darum, wie ein Foto ganz konkret bearbeitet worden ist, weil da feine Grenzen gezogen werden. Zum Beispiel anlässlich Paul Hansens Siegerbild zum World Press Photo Award 2013 (https://www.docma.info/news-szene/kontroverse-um-siegerbild-des-world-press-photo-award), bei dem unter anderem im Raum stand, dass es eine Montage mehrerer Bilder sein könnte, während der Fotograf tatsächlich bloß mehrere unterschiedliche Raw-Entwicklungen zu einem Pseudo-HDR kombiniert hatte. Zur Beantwortung solcher Fragen wurden dann auch die von Adobes Software eingebetteten Metadaten über die Bearbeitung ausgewertet.
Sichtbare, in das Bild eingeblendete Hinweise haben aber auch ihren Platz. Beispielsweise habe ich ja ein besonderes Interesse an der Raumfahrt, und in Berichten über Raumfahrtprojekte fällt es mir immer wieder störend auf, dass echte Bilder fröhlich mit CGI gemischt werden, in Videos teilweise im schnellen Wechsel geschnitten, so dass man aufpassen muss, um noch zu registrieren, was gerade echt ist und was nicht, selbst wenn man sich mit der Materie auskennt. Was wundert man sich da noch, wenn die üblichen Deppen behaupten, es gäbe gar keine Raumfahrt und das sei alles CGI oder generative KI?
Beim Apollo-Programm war so etwas noch einfach zu unterscheiden, aber heutzutage muss man schon sehr genau hinschauen. Und wissen, über was für Kameras die Raumfahrzeuge verfügen, denn heutzutage kann man auch unbemannte Fahrzeuge von außen zeigen (zum Beispiel Mars-Rover, die sich selbst mit der Kamera am Roboterarm fotografieren, oder die Orion-Kapsel mit den Action-Cams an den Enden ihrer Solarpaneele), was früher ein sicheres Indiz für CGI war.
Bei der generativen KI haben wir ein Niveau erreicht, dass nicht nur KI-generierte Bilder für echt gehalten werden, sondern auch echte Fotos für KI. Da reicht keine digitale Forensik mehr aus, zumal die meisten Betrachter gar nicht über das dazu nötige Fachwissen verfügen.
Danke für die ausführliche Antwort und vor allem:
„Es geht auch nicht um eine binäre Aussage, dass ein Bild mit oder ohne KI entstanden sei – …–, sondern um die Art des Eingriffs oder ganz generell darum, wie ein Bild entstanden ist.
das ging für mich aus dem Artikel gar nicht hervor- wenn man auch noch lückenlos belegen muss, was genau wo, wie und wie stark an KI eingesetzt wurde bei Aufnahme, Bearbeitung und evtl. Veröffentlichung- na dann gute Nacht.
Vor allem für die Massen der Nichtprofis, die das ganze nur als Hobby und Semiprofessionell (auf den Anspruch bezogen) betreiben, aber dennoch Bilder in der Öffentlichkeit (und Magazinen) zeigen.
Von den genannten Beispielen ausgehend verstehe ich ja die Intention. Aber wie auch schon bei der DSGVO bei Menschenfotografen ist das rechtlich ein schwarzes Loch für alle o.g. Nichtprofis.
Ich vermute, wir werden ziemlich bald nur noch kennzeichnen, was belegbar echt ist. So eine Entwicklung könnte der „echten“ Fotografie wieder ganz neuen Wert verleihen und möglicherweise auch dazu führen, dass redaktionell betreute Medien, die sich an journalistische Standards halten, auch wieder Geld kosten dürfen – selbst wenn sie nur online erscheinen.
Ja, aber solche Bilder wird es ja absehbar im Sinne dieser EU-Verordnung gar nicht mehr geben, wenn man das Beispiel des genannten Handy/Skalierungsbeispiels ernst nimmt.
digital laesst sich ja alles irgendwie kennzeichnen.
was ist mit fotos, die ausgedruckt verkauft werden? muss dann da auf dem bild oder als als ausdruck auch noch eine entsprechende kennzeichnung dem kunden mit ueberreicht werden?
So lange die Fotos nicht veröffentlicht werden, dürfte das egal sein. Wenn ich ein Bild verkaufe, verkaufe ich eine bestimmte Ware mit bestimmten zugesicherten Eigenschaften, und der Käufer weiß seinerseits, wofür er zahlt. Das ist eine Sache zwischen Käufer und Verkäufer und geht sonst niemanden etwas an.
Ein hervorragender Artikel, der sehr gut Risiken, (bürokratische) Mehrbelastung und Chancen für Bildschaffende aus Fotografie, Video/Film und Grafik beschreibt.
Erstellende visueller Inhalte, insbesondere im Foto- und Filmbereich werden zwischen unterstützender KI, die schon in die Software der Aufnahmegeräte und in die Programme zur „Visualisierung“ sprich Bearbeitungsprogramme integriert ist, und generativer KI unterscheiden können (müssen).
Relevant ist KI immer dann, wenn die Bildinhalte der physikalisch erstellten Vorlage geändert oder verfälscht werden oder Inhalte komplett durch generative KI erstellt werden. Profis können diese Unterscheidung treffen und werden dies in der Regel auch verantwortungsvoll tun.
Eine Kennzeichnungspflicht für durch generative KI erstellte visuelle Inhalte ist für die Konsumenten von visuellen Inhalten wichtig, um Bildinhalte nach Wahrhaftigkeit einordnen zu können. Überlegenswert ist unabhängig vom AI-Act eine Kennzeichnung für „authentische“ Aufnahmen, die tatsächlich Informationen – sei es über Geschehnisse, aber auch über Personen und Dienstleistungen / Produkte – vermitteln.
CAI / C2PA ist noch nicht perfekt, hat aber wegen der Zusammenarbeit marktrelevanter Tech-Anbieter, immer mehr Kameraherstellern und vieler großer unabhängiger Medienunternehmen, die Chance, sich als Standard zur Ursprungsverifizierung und Änderungsdokumentation durchzusetzen.