Die Digitalisierung schreitet voran und mit ihr auch der Einsatz von Künstlicher Intelligenz (KI). KI-Inhalte werden immer vielfältiger und komplexer und finden in immer mehr Bereichen Anwendung, von der Finanzberatung bis hin zum Journalismus. Doch wie steht es um die Transparenz und Kennzeichnungspflicht dieser Inhalte?

Müssen KI-generierte Texte, Bilder oder Videos klar als solche gekennzeichnet werden?

Was sind KI-Inhalte?

KI-Inhalte sind Inhalte, die ganz oder teilweise mit Hilfe von KI erzeugt oder manipuliert wurden. Dazu können zum Beispiel gehören:
KI-generierte Texte: Diese Texte werden von KI-Programmen erstellt, die auf riesige Datensätze mit Texten trainiert wurden.
Deepfakes: Deepfakes sind Videos, die mit Hilfe von KI manipuliert wurden, um so auszusehen, als ob jemand etwas sagt oder tut, was er in Wirklichkeit nicht gesagt oder getan hat.
KI-generierte Bilder: Diese Bilder werden von KI-Programmen erstellt, die auf riesige Datensätze mit Bildern trainiert wurden.

Rechtlicher Rahmen: Was gilt aktuell?

Zwar gab es lange Zeit keine umfassenden Vorgaben, doch durch das offizielle Inkrafttreten der EU-Verordnung über Künstliche Intelligenz (KI-VO / AI Act) im August 2024 haben sich die rechtlichen Vorgaben grundlegend geändert. Die Verordnung bringt verbindliche Transparenz- und Kennzeichnungspflichten mit sich, die schrittweise voll greifen.

Daneben existieren weiterhin nationale Gesetze, die auf KI-generierte Inhalte angewendet werden:

  • Gesetz gegen den unlauteren Wettbewerb (UWG): Verbot von irreführender Werbung und Geschäftspraktiken. KI-generierte Inhalte, die den Verbraucher täuschen könnten (z. B. verschleierte kommerzielle Kommunikation), fallen unter diese Regelung.

  • Digitale-Dienste-Gesetz (DDG): Impressumspflicht und Transparenzanforderungen für Online-Inhalte.

  • Datenschutzgrundverordnung (DSGVO): Schutz personenbezogener Daten. KI-Systeme, die personenbezogene Daten verarbeiten, müssen die DSGVO einhalten.

Zusätzlich gibt es Leitlinien und Empfehlungen zur Kennzeichnung von KI-Inhalten, wie z. B. vom Digitalzentrum Berlin.

Die rechtliche Situation rund um KI-Inhalte entwickelt sich dynamisch. Es ist daher empfehlenswert, sich bei spezifischen Fragen von einer sachverständigen Stelle beraten zu lassen.

Zusammenfassend lässt sich sagen:

  • Verbindliche Transparenzpflichten: Durch die EU-KI-Verordnung gibt es klare Pflichten zur Kennzeichnung bestimmter KI-Inhalte (wie Chatbots, Deepfakes oder generativer Medien mit Öffentlichkeitsbezug).

  • Anwendbarkeit nationaler Gesetze: Verschiedene Gesetze wie UWG und DDG greifen flankierend, um Täuschungen zu verhindern.

  • EU-KI-Verordnung in der Umsetzung: Die Verordnung ist im August 2024 in Kraft getreten, und die Übergangsfristen für die Einhaltung der verschiedenen Pflichten laufen auf Hochtouren.

  • Leitlinien und Empfehlungen: Ergänzende Orientierungshilfen erleichtern die praktische Umsetzung im Unternehmensalltag.

  • Rechtsberatung empfohlen: Bei Unsicherheiten bezüglich der Veröffentlichung von KI-Inhalten sollte fachlicher Rat eingeholt werden.

KI-Inhalte kennzeichnen: So ändert sich alles mit der EU-Verordnung

KI wird allgegenwärtig. Von Chatbots bis hin zu automatisierten Systemen im Unternehmensumfeld – die Technologie steckt in immer mehr Anwendungen. Umso wichtiger wird es, dass wir diese neue Realität verantwortungsvoll gestalten.

Ein wichtiger Schritt in diese Richtung ist die EU-Verordnung über Künstliche Intelligenz (KI-VO). Eines der Kernstücke der Verordnung sind verbindliche Transparenz- und Kennzeichnungspflichten. Das bedeutet, dass bestimmte Arten von KI-generierten Inhalten klar als solche ausgewiesen werden müssen, damit Nutzer nicht getäuscht werden.

Was ist die EU-KI-Verordnung?

Die EU-KI-Verordnung, offiziell Verordnung über harmonisierte Vorschriften für künstliche Intelligenz, ist ein verbindlicher Rechtsakt der Europäischen Union, der den Einsatz von Künstlicher Intelligenz regelt. Sie ist im August 2024 in Kraft getreten.

Die KI-Verordnung soll einerseits Innovationen fördern und andererseits sicherstellen, dass KI-Technologie grundrechte- und sicherheitskonform eingesetzt wird. Dabei verfolgt sie einen risikobasierten Ansatz: Je höher das potenzielle Risiko einer KI-Anwendung, desto strenger sind die Auflagen.

Die EU-KI-Verordnung im Detail

Die EU-KI-Verordnung kategorisiert KI-Systeme in verschiedene Risikoklassen:

  • Unannehmbare KI-Systeme:

    • KI-Systeme zur sozialen Bewertung (Social Scoring)

    • Bestimmte Formen der biometrischen Fernidentifizierung in Echtzeit im öffentlichen Raum

    • Manipulative KI-Systeme (wie unkenntlich gemachte „Deepfakes“, die gezielt die öffentliche Meinung täuschen sollen)

    • Diese Systeme sind grundsätzlich verboten.

  • Hochriskante KI-Systeme:

    • KI-Systeme für kritische Infrastrukturen, Medizintechnik oder den Arbeitsmarkt (z. B. automatisierte Bewerberauswahl)

    • Für diese Systeme gelten strenge Anforderungen an Transparenz, Dokumentation und Konformitätsbewertungen.

  • Systeme mit spezifischen Transparenzpflichten (u. a. Chatbots & generatives KI-Material):

    • KI-Systeme für Chatbots oder Sprachassistenten (Nutzer müssen wissen, dass sie mit einer KI sprechen)

    • Generierende Systeme für Deepfakes oder KI-Inhalte, die Texte von öffentlichem Interesse oder Medien manipulieren

    • Hier greifen direkte Kennzeichnungs- und Informationspflichten.

  • Minimale Risikoklasse:

    • KI-Systeme ohne signifikante Auswirkungen auf Rechte oder Sicherheit (z. B. KI-Filter für Fotos oder reine KI-Spiele)

    • Für diese Systeme gelten keine besonderen regulatorischen Auflagen.

Die Verordnung enthält darüber hinaus Regelungen für die Marktüberwachung, Sanktionen und die Zusammenarbeit zwischen den EU-Mitgliedstaaten.

Ziele der EU-KI-Verordnung:

  • Förderung von Innovationen im Bereich der KI

  • Schutz der Grundrechte und der Sicherheit der Bürger

  • Gewährleistung eines fairen Wettbewerbs

  • Stärkung des Vertrauens in KI-Technologie

Fazit

Es ist ratsam, KI-generierte Blogartikel, Texte, Bilder und Medien aktiv und transparent zu kennzeichnen. Damit entsprechen Unternehmen nicht nur den rechtlichen Vorgaben der EU-KI-Verordnung, sondern folgen auch einem klaren Transparenztrend. So werden rechtliche Risiken vermieden und das Vertrauen der Leser gestärkt.

Mögliche Formulierungen für die Kennzeichnung:

  • „Dieser Text wurde teilweise oder vollständig mithilfe von KI generiert.“
  • „KI-generierter Inhalt“
  • „Von KI erstellt“

 

Hinweis

Dieser Text wurde teilweise mithilfe von KI generiert. Das Titelbild wurde mithilfe von KI generiert.

Es ist wichtig, sich über die rechtlichen Rahmenbedingungen der KI-Nutzung auf dem Laufenden zu halten, um sicherzustellen, dass die geltenden Gesetze und Vorschriften eingehalten werden.

Empfehlenswert sind hierfür Informationsquellen wie: