Seit dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50 des AI Act. Für viele KI-Anwender stellt sich damit die Frage: Müssen nun alle Inhalte, die mit ChatGPT oder einem anderen KI-Modell erstellt wurden, als KI-generiert gekennzeichnet werden?

 

Die kurze Antwort lautet: Nein.

 

Doch wann wird die Grenze überschritten und wann müssen Inhalte nach Art. 50 AI Act gekennzeichnet beziehungsweise offengelegt werden?

 

Als vereinfachte Orientierung gilt: Je stärker ein KI-generierter oder manipulierter Inhalt gegenüber dem Betrachter den Eindruck vermittelt, eine reale Person, ein reales Objekt, einen realen Ort oder ein tatsächliches Ereignis authentisch darzustellen, desto relevanter werden die Transparenzpflichten.

 

Betreibt ein Unternehmen beispielsweise auf seiner Internetseite einen KI-Chatbot, muss für den Nutzer spätestens zu Beginn der Interaktion klar erkennbar sein, dass er mit einem KI-System kommuniziert. Ein Hinweis wie „Sie kommunizieren mit einem KI-gestützten Chatbot. Antworten werden automatisiert generiert.“ kann hierfür eine geeignete Form der Transparenz darstellen.

 

Ein weiteres Beispiel ist ein realistisches KI-Video eines Mitarbeiters, das für Produkterklärungen oder Schulungsvideos eingesetzt wird, obwohl der Mitarbeiter für diese Aufnahme nie vor der Kamera stand. Wirkt die Darstellung so authentisch, dass ein Betrachter davon ausgehen könnte, es handle sich um eine echte Aufnahme, kann ein Deepfake im Sinne des AI Act vorliegen. In diesem Fall muss offengelegt werden, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Dies gilt grundsätzlich auch dann, wenn der Mitarbeiter der Verwendung seines digitalen Abbilds zugestimmt hat.

 

Anders sieht es beispielsweise bei einer mithilfe von KI erstellten Bedienungsanleitung aus. Allein der Einsatz von KI führt hier grundsätzlich noch nicht zu einer sichtbaren Kennzeichnungspflicht nach Art. 50. Die besondere Offenlegungspflicht für Texte betrifft insbesondere Veröffentlichungen, die dazu dienen, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Wurde ein solcher Text zudem durch einen Menschen überprüft oder redaktionell kontrolliert und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, sieht Art. 50 hierfür eine Ausnahme vor.

 

Wichtig bleibt jedoch: Auch wenn keine Kennzeichnungspflicht besteht, verbleibt die inhaltliche Verantwortung beim Unternehmen. KI-generierte Inhalte sollten daher insbesondere bei technischen, rechtlichen oder sicherheitsrelevanten Informationen fachlich geprüft werden.

 

Auch nicht jede KI-gestützte Bildbearbeitung ist automatisch kennzeichnungspflichtig. Anpassungen von Helligkeit, Schärfe oder Kontrast sowie andere gewöhnliche technische Bearbeitungen führen grundsätzlich nicht allein deshalb zu einer Kennzeichnungspflicht.

 

Anders kann es aussehen, wenn mittels KI eine neue, realistisch wirkende Situation geschaffen wird, die tatsächlich nie stattgefunden hat. Wird beispielsweise ein reales Firmengebäude täuschend echt so dargestellt, als sei es durch eine Explosion zerstört worden, kann die Darstellung als Deepfake einzuordnen sein, wenn Betrachter sie für eine authentische Aufnahme eines realen Ereignisses halten könnten.

 

Auch bei künstlerischen, kreativen, satirischen oder fiktionalen KI Inhalten kann eine Kennzeichnung erforderlich sein. Hier gelten allerdings erleichterte Anforderungen: Diese darf dezenter erfolgen, wenn für den Betrachter ohnehin klar ist, dass es sich nicht um eine authentische Darstellung handelt.

 

KI-Systeme werden immer leistungsfähiger. Sie erzeugen zunehmend realistische Bilder, Videos und Stimmen und können menschliche Schreib- und Kommunikationsstile überzeugend imitieren.

 

Genau deshalb verfolgt Art. 50 AI Act ein zentrales Ziel: Menschen sollen erkennen können, wann sie mit einem KI-System interagieren oder mit künstlich erzeugten beziehungsweise manipulierten Inhalten konfrontiert werden.