Neue Transparenzpflichten für Künstliche Intelligenz

Das Wichtigste auf einen Blick

• Ab August 2026 werden für Unternehmen, die bestimmte KI-Systeme einsetzen oder anbieten, umfassende Transparenz- und Kennzeichnungspflichten nach Art. 50 KI-VO verbindlich.
• Art. 50 KI-VO verpflichtet Anbieter und Betreiber bestimmter KI-Systeme insbesondere dann, wenn diese Systeme für die direkte Interaktion mit natürlichen Personen bestimmt sind, synthetische Inhalte erzeugen, Systeme zur Emotionserkennung oder biometrischen Kategorisierung umfassen oder Deepfakes erstellen. Für Einzelbereiche sieht die Verordnung ausdrückliche Ausnahmen vor.
• Unternehmen sollten frühzeitig prüfen, ob und wenn ja welche ihrer KI-Systeme von den neuen Transparenzpflichten betroffen sind, und rechtzeitig die notwendigen technischen und organisatorischen Maßnahmen zur Erfüllung dieser Pflichten einleiten.

Artikel als PDF

Lesezeit ca. 3 Minuten

Seit August 2024 ist die Europäische KI-Verordnung (KI-VO) in Kraft und gibt Unternehmen einen klaren Rahmen für den Einsatz von Künstlicher Intelligenz vor. Viele dieser Vorgaben – darunter auch die Transparenzanforderungen in Art. 50 KI-VO – werden nach und nach verbindlich. Ab dem 2. August 2026 müssen alle Unternehmen, die bestimmte KI-Systeme einsetzen oder anbieten, umfassende Transparenz- und Kennzeichnungspflichten erfüllen. Was das konkret bedeutet und wie Sie sich optimal darauf vorbereiten, erfahren Sie hier. 

Art. 50 KI-VO: Transparenzpflichten und Ausnahmen im Überblick 

Art. 50 KI-VO statuiert verschiedene Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Im Zentrum der Norm stehen vier Transparenzpflichten:

1. Kennzeichnung bei direkter Nutzerinteraktion: Anbieter müssen sicherstellen, dass Nutzerinnen und Nutzer informiert werden, wenn sie mit einem KI-System interagieren– zum Beispiel bei Chatbots. Die Pflicht gilt nicht, wenn die Interaktion ohnehin offensichtlich ist. 
2. Markierung KI-generierter Inhalte: KI-Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen oder bearbeiten, müssen deren Ausgaben maschinenlesbar und als künstlich erzeugt oder manipuliert kennzeichnen. Eine zusätzliche „menschenlesbare“ Kennzeichnung ist jedoch nicht erforderlich. Die Pflicht gilt nicht, wenn die Inhalte nur unterstützend erstellt werden und nicht wesentlich verändert wurden. 
3. Hinweis bei Emotionserkennung und biometrischer Kategorisierung: Betroffene sind über den Einsatz von Emotionserkennungs- oder biometrischen Kategorisierungssystemen zu informieren. Die Verarbeitung personenbezogener Daten muss datenschutzkonform erfolgen.  
4. Offenlegung bei Deepfakes: Betreiber von KI-Systemen, die Deepfakes – also künstlich erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte – erzeugen, müssen dies klar offenlegen. Bei eindeutig künstlerischen, satirischen oder fiktionalen Werken genügt ein allgemeiner Hinweis, solange das Werk dadurch nicht beeinträchtigt wird. Für redaktionell kontrollierte Texte von öffentlichem Interesse gelten ebenfalls Ausnahmen.

Die Informationen sind den betroffenen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung klar, eindeutig und in einer den geltenden Barrierefreiheitsanforderungen entsprechenden Weise bereitzustellen. 

Die Transparenzpflichten werden durch weitere Regelungen und Praxisleitfäden auf EU-Ebene konkretisiert – aktuell hat die EU-Kommission dazu den Entwurf eines KI-Transparenz-Kodex veröffentlicht, den Sie hier abrufen können. 

Was ist jetzt zu tun? 

• Verschaffen Sie sich einen Überblick: Welche KI-Anwendungen nutzen Sie? 
• Prüfen Sie, ob und welche neuen Transparenzpflichten greifen. 
• Falls Transparenzpflichten greifen: Entwickeln und implementieren Sie geeignete Maßnahmen, um diese Anforderungen rechtzeitig und gesetzeskonform zu erfüllen. 
• Schulen Sie Ihre Mitarbeitenden und halten Sie sie über Ausnahmen und aktuelle Vorgaben auf dem Laufenden.

Werden Sie jetzt aktiv, damit Sie zum Stichtag im August 2026 alle Anforderungen sicher erfüllen.