Digital Omnibus on AI: Was sich bei der KI-Verordnung jetzt ändert und was bis zum 2. Dezember 2026 zu tun ist!

1. Worum geht es?

Die KI-Verordnung (KI-VO) trat am 1. August 2024 in Kraft. Die verschiedenen Regelungsabschnitte erlangen nach einem gestaffelten System rechtliche Verbindlichkeit. An dieser gestaffelten Geltung der einzelnen Normabschnitte hat sich durch den Digital Omnibus on AI noch einmal einiges geändert. Auch in materieller Hinsicht wurden Anpassungen vorgenommen. Dieser Artikel befasst sich ausschließlich mit den Verpflichtungen, die Unternehmen bis zum 2. Dezember 2026 umsetzen müssen.

2. Was ändert sich zum 2. Dezember 2026?

Gegenstand der Änderungen zum 2. Dezember 2026 sind die neu eingeführten verbotenen Praktiken (Art. 5 Abs. 1 UAbs. 1 lit. ba und bb KI-VO) und die Kennzeichnungspflicht für mittels KI erstellte Inhalte (Art. 50 Abs. 2 KI-VO) durch Bestandssysteme.

a) Verbotene Praktiken nach Art. 5 Abs. 1 lit. ba und bb KI-VO

Verboten sind nach den neu eingefügten Regelungen das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen, die Inhalte erzeugen oder manipulieren, welche

  • eindeutig sexuelle Handlungen oder intime Körperteile einer bestimmbaren Person ohne deren ausdrückliche Zustimmung darstellen (Art. 5 Abs. 1 lit. ba KI-VO),
  • Kinderpornografie oder pornografische Darbietungen im Sinne von Art. 2 lit. c und e der Richtlinie 2011/93 sind (Art. 5 Abs. 1 lit. bb KI-VO).

Hintergrund der Regelung ist der vermehrte Missbrauch von Großen Sprachmodellen (LLMs) und die Entwicklung von zahlreichen Apps zur Erzeugung oder Manipulation derartiger Inhalte. Anbieter von KI-Systemen dürfen ab dem 2. Dezember 2026 nur noch solche KI-Systeme auf den Markt bringen, die technische Schutzvorkehrungen beinhalten, welche eine derartige Nutzung ausschließen. Betreiber müssen die Nutzung von KI-Systemen, die keine entsprechenden Vorkehrungen treffen, bis zum Stichtag einstellen.

b) Kennzeichnungspflicht nach Art. 50 Abs. 2 KI-VO jetzt auch für Bestandssysteme

Höhere Relevanz für Unternehmen dürfte die praktische Umsetzung der Kennzeichnungspflicht gemäß Art. 50 Abs. 2 KI-VO für Bestandssysteme haben.

Während neu in Verkehr gebrachte Systeme die Anforderungen bereits seit dem 2. August 2026 erfüllen müssen, gelten sie ab dem 2. Dezember auch für Systeme, welche vor dem 2. August 2026 in Verkehr gebracht wurden. Diese Bestandssysteme gilt es bis zum Stichtag anzupassen.

Die Europäische Kommission hat Leitlinien veröffentlicht, welche die Transparenzpflichten des Art. 50 KI-VO konkretisieren.

Wann besteht eine Kennzeichnungspflicht?

Die Kennzeichnungspflicht gilt für KI-Systeme, die in der Lage sind, synthetische Audio-, Bild-, Video- oder Textinhalte zu erzeugen oder zu manipulieren.

„Synthetisch“ meint Inhalte, die künstlich erzeugt wurden, also nicht echt bzw. authentisch sind. „Erzeugen“ setzt einen völlig neuen Inhalt voraus. „Manipulieren“ erfordert, dass der KI-Inhalt sich vom ursprünglichen Inhalt wesentlich unterscheidet. Kennzeichnungspflichtig sind demnach neue Inhalte und Inhalte, die in einem erheblichen Umfang verändert wurden. Marginale Veränderungen oder die bloße Wiedergabe eines bestehenden Inhalts sind demzufolge nicht kennzeichnungspflichtig.

Sinn und Zweck der Kennzeichnungspflicht ist es, Menschen in die Lage zu versetzen, menschliche Inhalte und durch KI erzeugte oder manipulierte synthetische Inhalte voneinander zu unterscheiden. Aus diesem Grund scheidet nach Ansicht der Kommission eine Kennzeichnungspflicht aus, wenn KI-Inhalte in geschlossenen Umgebungen verwendet werden, nur von Maschine zu Maschine ausgetauscht werden oder nur im Quellcode vorhanden sind.

Schließlich sind auch Inhalte, die zum Zwecke der Strafverfolgung erzeugt oder manipuliert werden, nicht kennzeichnungspflichtig.

Wen trifft die Kennzeichnungspflicht?

Adressat der Regelung sind Anbieter von KI-Systemen. „Anbieter“ ist jede natürliche oder juristische Person, die ein KI‑System oder ein KI‑Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI‑System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt (Art. 3 Nr. 3 KI-VO). Anbieter ist in der Regel derjenige, der ein KI-System erstmalig entwickelt, in Verkehr bringt und die technische Kontroll- und Wissenshoheit mitbringt, also weiß, welche Gewichtungen das System trifft und wie die Einhaltung von Anbieterverpflichtungen – wie die Kennzeichnungspflicht nach Art. 50 Abs. 2 KI-VO – in technischer Hinsicht gewährleistet werden kann.

Die Abgrenzung von Anbieter und Betreiber kann im Einzelfall problematisch sein, insbesondere wenn KI-Modelle in eigene Anwendungen eingebaut werden. Eine nähere Erläuterung würde allerdings den Rahmen dieses Beitrags sprengen. Bei Unsicherheit hinsichtlich ihrer Rolle nach der KI-Verordnung kontaktieren Sie uns gerne.

Was ist zu tun?

Art. 50 Abs. 2 KI-VO verpflichtet Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, diese Inhalte in einem maschinenlesbaren Format zu kennzeichnen.

Die Kennzeichnungspflicht umfasst demnach zwei Elemente, die eine Art. 50 Abs. 2 entsprechende technische Lösungen erfüllen müssen. Zum einen müssen Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet werden (KI-„Fingerabdruck“). Zum anderen muss die Erkennbarkeit der Kennzeichnung gewährleistet werden, indem entsprechende Mittel zur Feststellung den Personen, die den Inhalten ausgesetzt sind, zur Verfügung gestellt werden (KI-„Fingerabdrucksensor“).

Das Zusammenspiel der beiden Elemente muss dabei wirksam, interoperabel, belastbar und zuverlässig sein (Art. 50 Abs. 2 S. 2 KI-VO):

  • Wirksam: Wie gut erkennt das zur Verfügung gestellte Mittel die maschinenlesbare Kennzeichnung?
  • Zuverlässig: Wie gut trennt das Mittel KI-generierte Inhalte von menschlichen Inhalten unter üblichen Einsatzbedingungen?
  • Belastbar: Wie gut trennt das Mittel KI-generierte Inhalte von menschlichen Inhalten in unterschiedlichen Einsatzbedingungen?
  • Interoperabel: Wie gut funktioniert das Zusammenspiel der technischen Lösung über mehrere Systeme, Akteure, Kontexte und technische Implementierungen hinweg?

Wie eine technische Lösung im konkreten Fall ausgestaltet sein kann, haben wir bereits in einem früheren Beitrag am Beispiel des Wasserzeichens von Anthropic analysiert. Weitere Informationen zur konkreten technischen Umsetzung bietet der von der Europäischen Kommission herausgegebene, freiwillig einzuhaltende Verhaltenskodex für die Transparenz von KI-generierten Inhalten.

3. Wie kann KREMER LEGAL helfen

KREMER LEGAL berät Unternehmen vorausschauend und lösungsorientiert in sämtlichen Fragen des Digitalrechts – insbesondere auch zur KI-Verordnung. Von der Einordnung Ihrer Rolle und den daraus resultierenden Pflichten bis hin zu Haftungsfragen und möglichen Bußgeldrisiken stehen wir Ihnen mit umfassender rechtlicher Expertise und praxisnahen Lösungen zur Seite. So begleiten wir Sie sicher und effizient auf dem Weg zur rechtssicheren und nachhaltigen KI-Compliance.

KL / Ein Beitrag von Alexander Später und Nils Grüttner