Content-Erstellung mit KI: Ein Überblick über rechtliche und ethische Rahmenbedingungen

KI-Tools revolutionieren die Content-Erstellung und versprechen ungeahnte Effizienz. Doch mit den neuen Möglichkeiten wachsen auch die rechtlichen Risiken: Wer ist Urheber des Outputs? Wer haftet bei Rechtsverletzungen? Und wie gehen wir ethisch mit Desinformation oder Bias um? Rechtsanwältin Julia Dönch beleuchtet diese wichtigen Fragestellungen und zeigt, wie ein verantwortungsvoller und rechtssicherer Umgang mit KI in der Praxis gelingen kann.

Zusammenfassung

• KI-Output genießt in der Regel keinen Urheberrechtsschutz, kann aber fremde Urheberrechte verletzen.
• Für rechtswidrige KI-Inhalte haftet grundsätzlich der Anwender, nicht der Anbieter des KI-Tools.
• Datenschutz und Persönlichkeitsrechte setzen der automatisierten Content-Erstellung enge Grenzen.
• Eine gesetzliche Kennzeichnungspflicht für KI-Inhalte fehlt bislang, Transparenz wird aber empfohlen.
• Ethische Risiken wie Voreingenommenheit (Bias) und Desinformation erfordern menschliche Kontrolle und Verantwortung.

Einführung

Die Content-Erstellung hat sich in den letzten Jahren rasant gewandelt. Während noch vor kurzem Menschen Texte, Bilder oder Videos produzierten, übernehmen heute KI-Tools immer größere Teile dieses Prozesses. Chatbots, Bildgeneratoren oder Video-Automatisierungssysteme ermöglichen es, in kürzester Zeit Inhalte für Websites, Blogs, Social Media oder Marketingkampagnen zu erstellen.

Die Bedeutung solcher KI-Tools ist für Unternehmen, Kreative und Konsumenten gleichermaßen enorm: Die Tools versprechen einerseits Effizienzsteigerung und Kostenreduktion, andererseits aber auch neue kreative Ausdrucksmöglichkeiten.

Gleichzeitig stellen sie die etablierten rechtlichen und ethischen Strukturen der Content-Erstellung in Frage. Wer ist der Urheber eines KI-generierten Textes? Welche Rechte gelten für Bilder, die mit urheberrechtlich geschütztem Material trainiert wurden? Wie gehen wir mit Deepfakes um, die Persönlichkeitsrechte verletzen können?

Obwohl wir noch nicht auf all diese Fragen abschließende Antworten haben, setzen mehr und mehr Unternehmen KI in ihren Marketingabteilungen, in der Kundenkommunikation oder sogar im Journalismus ein. Dabei geht es nicht nur um reine Kostenersparnis, sondern auch um die Fähigkeit, extrem personalisierte Inhalte zu liefern.

Konsumenten begegnen KI-generierten Texten oder Bildern dabei oft, ohne es überhaupt zu merken. Doch welchen Wert haben solche KI-Erzeugnisse für Konsumenten wirklich?

Kreative wiederum stehen vor der Herausforderung, ihre Rolle in einem zunehmend automatisierten Umfeld neu zu definieren. Sind sie Kuratoren, Qualitätsprüfer oder Ideengeber, während Maschinen den ersten Rohentwurf liefern – oder gar vollkommen überflüssig bei der Content-Erstellung?

Doch auch im Zeitalter der KI-Tools gibt es für die Content-Erstellung rechtliche Leitplanken und die Möglichkeit eines verantwortungsvollen Umgangs mit KI. Schauen wir uns diese Themen nun genauer an!

Rechtliche Rahmenbedingungen

Urheberrechtliche Fragen

Das Urheberrecht basiert auf der Idee, dass ein Mensch durch seine schöpferische, kreative Leistung ein schützenswertes Werk (z.B. Text, Bild, Musik, Film) schafft und deswegen über die Verwertung des Werkes exklusiv entscheiden darf. KI-Tools übernehmen bei der Content-Erstellung den Prozess der Erstellung solcher Leistungen. Besteht urheberrechtlich ein Unterschied zwischen einem von einem Mensch geschaffenen Werk und KI-Output?  

Nach deutschem Recht (und auch nach der Auffassung des ganz überwiegenden Teils der urheberrechtlichen Regelungen weltweit) kann Urheber im Sinne des Urheberrechts immer nur eine natürliche Person sein. Das Urheberrecht verfolgt also einen anthropozentrischen Ansatz und will gerade die Rechtsbeziehung eines Menschen zu einem von ihm geschaffenen Werk regeln.

Ein KI-Tool als solches, ein Unternehmen, welches ein KI-Tool bereitstellt, oder ein Mensch, der Output mittels eines Prompts über ein KI-Tool generiert, kommen somit nach der gegenwärtigen urheberrechtlichen Lage als Urheber von KI-Output nicht in Betracht. Das führt dazu, dass KI-generierte Inhalte in vielen Fällen keinen urheberrechtlichen Schutz genießen.

Damit einher geht, dass bei Plagiaten, Übernahmen und Nachahmungen das Urheberrecht für KI-Output keinen Schutz bietet: Mangels eines urheberrechtlich schutzfähigen Werks ist der Anwendungsbereich des Urheberrechts gar nicht erst eröffnet. Wird KI-Output von Dritten übernommen oder leicht abgewandelt nachgeahmt, bleibt insoweit oft nur der Schutz nach dem Gesetz gegen den unlauteren Wettbewerb (UWG).

Spielt nun das Urheberrecht im Zusammenhang mit KI-Output überhaupt keine Rolle mehr? Nein, das Urheberrecht bleibt auch in diesem Kontext relevant. Denn auch KI-Output, wofür es keinen Urheber gibt, kann Urheberrechte Dritter verletzen. 

Diese Problematik ergibt sich aus den Trainingsdaten: KI-Tools werden mit riesigen Mengen urheberrechtlich geschützter Werke (z.B. Text, Bild, Musik, Film) trainiert. Die Antwort auf einen Prompt wird auf Grundlage der aus diesen Trainingsdaten abgeleiteten Muster bestimmt.

Dabei können die Grenzen zwischen der „Inspiration“ des KI-Output durch die Trainingsdaten und zu großer Nähe überschritten werden: KI-Output, welches vorbestehende, urheberrechtlich geschützte Werke vollständig übernimmt oder zu nah an solchen vorbestehenden Werken gestaltet ist, kann die Rechte der betroffenen Urheber verletzen. 

Insoweit ist durch KI-Output keine neue rechtliche Situation entstanden. Auch bei der „traditionellen“ Erstellung von Content durch einen Menschen bestand bereits die Möglichkeit, dass diese Werke Urheberrechte Dritter verletzen. Allerdings können Menschen das Risiko einer solchen Rechtsverletzung leichter einschätzen (lassen) als dies nun bei KI-Output der Fall ist. Denn Menschen wissen in aller Regel, von welchen Werken sie sich inspirieren lassen. KI-Output hingegen können wir nicht ansehen, welche Trainingsdaten verwendet wurden und ob eventuell bereits urheberrechtlich geschützte Werke existieren, denen das KI-Output rechtlich gesehen zu nahe kommt.

Bevor also KI-Output verbreitet wird, sollten die verantwortlichen Content Creators oder Unternehmen zur Absicherung überprüfen, ob Urheberrechte Dritter durch diesen KI-Output verletzt werden könnten. Eine Forderung, die sich liest wie aus dem juristischen Elfenbeintum? Ja und nein. Es wird sich nie vollständig ausschließen lassen, dass KI-Output urheberrechtlich problematisch ist. Aber es existieren viele Tools, mit denen zumindest in online verfügbaren Quellen recherchiert werden kann, ob zwischen dem KI-Output und älteren Werke Identität oder eine große Ähnlichkeit besteht.

Wer Haftungsrisiken vermeiden will, sollte diese Tools nutzen. Ein bekanntes Beispiel ist Copyscape.

Nutzungsrechte und Lizenzen

Eng verbunden mit dem Urheberrecht sind ganz allgemein Nutzungsrechte. Wer darf KI-Output in Form von Texten, Bildern, Geräuschen, Musik, Stimmen oder Videos eigentlich auf welche Art und Weise nutzen?

Oft regeln die Allgemeinen Geschäftsbedingungen (AGB) der Anbieter von KI-Tools, wem die Rechte an dem KI-Output zustehen. Manche Anbieter gewähren den Nutzerinnen und Nutzern die exklusiven Nutzungsrechte, andere behalten sich selbst ein sogenanntes einfaches Nutzungsrecht an dem KI-Output oder die Verwendung des KI-Outputs zumindest zum Training des entsprechenden KI-Tools vor. Zudem gibt es Anbieter von KI-Tools, die eine kommerzielle Nutzung nur eingeschränkt oder gegen Aufpreis erlauben.

Auch das Thema Open-Source-Modelle spielt bei der Auswahl der KI-Tools eine Rolle. Manche KI-Tools greifen auf Trainingsmaterial zurück, das unter Creative-Commons-Lizenzen steht oder aus Stockdatenbanken stammt. Bestimmte Creative-Commons-Lizenzen verbieten die kommerzielle Nutzung oder verlangen eine Nennung der Urheber. Ist hier das KI-Output zu nah an den Trainingsdaten, bestehen somit nicht nur die bereits dargestellten urheberrechtlichen Risiken, sondern auch Risiken aufgrund der Verletzung von Creative-Commons-Lizenzen. 

Und schließlich gibt es noch die Fälle, in denen im Rahmen der Content-Erstellung ein KI-Tool direkt mit urheberrechtlich geschützten Inhalten Dritter gefüttert wird, zum Beispiel durch Upload von Bildern oder Texten. Grundsätzlich muss auch in diesem Verwendungskontext sichergestellt sein, dass man über die für den Upload notwendigen Rechte verfügt.

Allerdings könnte hier – je nach weiterer Verwendung des Uploads infolge des Prompts und der AGB des KI-Tools – auch Raum für eine Content Creator-freundliche Auslegung des Urheberrechts bestehen. Denn erfolgt der Upload nur zur Inspiration des KI-Tools, könnte man argumentieren, dass ein solcher Upload keine Vervielfältigung im Sinne des Urheberrechts darstelle und somit keine Lizenz erforderlich sei. Es bleibt abzuwarten, wie die Gerichte solche Nutzungsweisen einordnen.

Datenschutz und Persönlichkeitsrechte

KI-gestützte Content-Erstellung kann personenbezogene Daten verarbeiten. Ein Beispiel ist die personalisierte Werbung, bei der Nutzerprofile analysiert und maßgeschneiderte Inhalte erstellt werden. Hier ist in der gesamten Europäischen Union die Datenschutz-Grundverordnung (DSGVO) maßgeblich: Personenbezogene Daten dürfen nur bei Vorhandensein einer Rechtsgrundlage verarbeitet werden. Für jeden Einzelfall der Verarbeitung eines personenbezogenen Datums im Rahmen der Content-Erstellung ist also zunächst zu prüfen, welche Rechtsgrundlage in Betracht kommt.

In aller Regel fokussieren sich Unternehmen dabei entweder auf die Einwilligung oder das sogenannte berechtigte Interesse.

• Bei der Einwilligung ist zu beachten, dass diese für ihre Wirksamkeit stets freiwillig erfolgen und beweisbar dokumentiert werden muss und zudem jederzeit mit Wirkung für die Zukunft widerrufen werden kann. Damit ist die Einwilligung kein „Joker“ im Bereich der datenschutzrechtlichen Rechtsgrundlagen für die Datenverarbeitung.
• Handhabbarer kann daher das berechtigte Interesse sein. Dabei hat eine Abwägung zu erfolgen – und zwar ohne rosarote Brille. Auf der einen Seite steht hier die für die Datenverarbeitung verantwortliche Person und ihr Interesse an eben dieser Datenverarbeitung. Auf der anderen Seite stehen die Interessen der betroffenen Person an dem Schutz ihrer Daten. Effizienzgewinne rechtfertigen beispielsweise nicht automatisch die Verarbeitung personenbezogener Daten mittels KI-Tools.

Wichtig: Wer hier ohne Rechtsgrundlage operiert, riskiert Bußgelder und Schadensersatzzahlungen.

Das Datenschutzrecht setzt auch der automatisierten Content-Personalisierung Grenzen. Für diesen personalisierten Content werden ebenfalls personenbezogene Daten als Marker verarbeitet: Ohne Rechtsgrundlage ist diese Datenverarbeitung rechtswidrig.

Wenn KI-Tools mit detailliertem Tracking oder Profiling arbeiten, führen Rechtsverletzungen zusätzlich zu einem Vertrauensverlust seitens der Nutzer. Bei der Content-Erstellung muss daher auch berücksichtigt werden, zu welcher Wahrnehmung eine übermäßige Datensammlung bei dem Nutzer führen kann.

Besonders heikel im Zusammenhang mit der Content-Erstellung mittels KI-Tools und personenbezogener Daten sind Deepfakes. Wer über KI-Tools Gesichter, Stimmen oder ganze Persönlichkeiten Dritter täuschend echt imitiert, eröffnet das Spielfeld für Identitätsmissbrauch und Rufschädigung.

Regelung zum Datenschutzrecht, zum Recht am eigenen Bild und zum Schutz des Persönlichkeitsrechts machen solche Deepfakes in aller Regel rechtswidrig. Die Kollision von technologisch Machbarem mit fundamentalen Persönlichkeitsrechten geht somit zugunsten der imitierten Personen aus.

Problematisch ist in diesem Kontext allerdings häufig die Beweisbarkeit. Deepfakes werden über anonyme Accounts im Internet verbreitet, eine echte Handhabe gegen die dahinterstehenden Personen besteht in solchen Fällen nicht. 

Aber auch hier besteht die Möglichkeit, sich rechtskonform zu verhalten: Wer Content mit real existierenden Gesichtern, Stimmen, Körpern Dritter erstellen möchte, muss die betroffenen Dritten hierzu ins Boot holen. Nicht jeder ist abgeneigt, für einen solchen Content zur Verfügung zu stehen. Mit einer entsprechenden Einwilligung und genauen Regelungen zum Inhalt des KI-Outputs lässt sich zu einer erfolgreichen Zusammenarbeit kommen – wenn auch ganz überwiegend nicht zum Nulltarif.

Faire Content-Erstellung mit KI-Tools hat eben auch ihren Preis.

Haftungsfragen

Egal, ob Menschen oder KI-Tools Content erstellen, ist die Haftung ein weiterer zentraler Punkt. Wer trägt die Verantwortung, wenn KI-generierte Inhalte Urheberrechte verletzen, diskriminierend wirken oder gegen Normen zum Schutz der Persönlichkeitsrechte verstoßen?

So komplex die Funktionsweise vieler KI-Tools ist, so einfach ist die Beantwortung dieser Frage: Derjenige, der sich KI-Output zu eigen macht – sei es als Autor, als Unternehmen, als Medium – haftet dafür, wenn es durch den KI-Output zu Rechtsverletzungen kommt. Die haftungsrechtlichen bekannten Konzepte werden durch die technischen Neuerungen nicht verändert.

In Arbeitsverhältnissen bleibt es somit auch bei der Aufgabenerfüllung mit KI-Tools in aller Regel bei der sogenannten beschränkten Arbeitnehmerhaftung. Danach haftet bei Rechtsverletzungen, die durch KI-Output bestehen, der Arbeitgeber. Nur bei einem vorsätzlichen schädigenden Verhalten würde der Arbeitnehmer selbst in der Haftung stehen. 

Bisher nicht zur Verantwortung gezogen werden bei Haftungsfragen die Anbieter von KI-Tools. Entsprechende Haftungsausschlüsse finden sich in vielen AGB der Anbieter dieser Tools. Unabhängig davon, ob diese Haftungsausschlüsse immer rechtlich wirksam sind, spricht häufig auch schon die Funktionsweise der KI-Tools gegen eine Haftung ihrer Anbieter: Das vielfältige Prompting führt dazu, dass Anbieter von KI-Tools selbst kaum Einfluss auf das KI-Output haben. Zudem ist auch der Verwendungszusammenhang des KI-Output bei der Content-Erstellung den Anbietern von KI-Tools nicht bekannt. Dies spricht in aller Regel ebenfalls gegen eine unmittelbare Haftung.

Transparenz und Kennzeichnungspflichten

Immer häufiger wird diskutiert, ob eine generelle Verpflichtung zur Kenntlichmachung von KI-generierten Inhalten etabliert werden sollte. Denn eine entsprechende umfassende gesetzliche Kennzeichnungspflicht besteht bisher nicht. Ein Label wie „Made by AI“ könnte somit die gewünschte Transparenz schaffen und auch Vertrauen in Content fördern. 

Allerdings sind Medien und Plattformen frei darin, schon jetzt Richtlinien zur Kennzeichnung von KI im Rahmen ihrer internen Regularien und Nutzungsbedingungen einzuführen und Verstöße gegen solche Verpflichtungen zu sanktionieren. Erste Pilotprojekte existieren bereits: Manche Social Media-Dienste experimentieren mit Wasserzeichen oder automatischen Hinweisen bei erkannten KI-Inhalten.

Für Unternehmen empfiehlt sich, eine Responsible-AI-Strategie aufzubauen: Offenzulegen, wann und wie KI eingesetzt wird, schafft Glaubwürdigkeit und verringert rechtliche Risiken. Auch im Hinblick auf eine mögliche zukünftige Regulierung ist es sinnvoll, proaktiv Standards zu entwickeln, anstatt nur auf gesetzliche Vorgaben zu reagieren.

Und nicht zuletzt können auch Auftraggeber der Content-Erstellung klare Vorstellungen davon haben, ob und wie KI-Tools zum Einsatz kommen sollen. Content Creators sind daher gut beraten, im Vorfeld der Auftragsausführung mit dem Auftraggeber klar zu vereinbaren, wie der Auftrag ausgeführt werden soll. Dies erspart böse Überraschungen in der Zusammenarbeit.

Ethische Dimensionen

Neben den rechtlichen Fragen spielen ethische Überlegungen eine wichtige Rolle: KI ist nicht neutral. Sie reproduziert Biases, die in den Trainingsdaten enthalten sind, kann diskriminierende Inhalte erzeugen und Zahlen und Fakten „halluzinieren“. Ein Beispiel für Biases sind Bildgeneratoren, die stereotype Darstellungen verstärken oder bestimmte Gruppen ausblenden.

Unternehmen müssen sich der Verantwortung stellen, wenn ihr KI-Output diskriminierende Muster reproduziert. Hier geht es zum einen um die rechtliche Verantwortung. Regelungen wie das Allgemeine Gleichbehandlungsgesetz (AGG) oder das Barrierefreiheitsstärkungsgesetz (BFSG) finden ihre Anwendung auch auf KI-generierte Inhalte. Wer also Stellenanzeigen mit KI erstellen lässt, muss dafür Sorge tragen, dass diese den Anforderungen des AGG entsprechen – ansonsten droht Haftung. Zum anderen geht es aber auch um die gesellschaftliche Verantwortung von Content Creators und Unternehmen. 

Zudem besteht bei der Nutzung von KI-Output die Gefahr von Desinformation. KI kann Fake News oder manipulierte Inhalte in einem Ausmaß erzeugen, das bisher unvorstellbar war. Sorgfältige Faktenchecks müssen daher bei der Verwendung von KI-Output zur Selbstverständlichkeit werden, um der Verantwortung gegenüber den Nutzern von Medien gerecht zu werden.

Auch hier bleibt abzuwarten, ob strengere gesetzliche Regelungen zu dieser Thematik Unternehmen stärker in die rechtliche Verantwortung nehmen werden. Aber nicht immer muss erst auf ein Machtwort des Gesetzgebers gewartet werden, um verantwortungsvoll zu agieren. Selbst Verantwortung zu übernehmen ist gerade bei einem raschen technologischen Fortschritt unabdingbar. 

Und schließlich müssen wir bei der Content-Erstellung mittels KI-Tools auch stets die Fairness gegenüber menschlichen Kreativen bedenken. Wenn KI-Tools Output schneller, billiger und massenhaft produzieren, besteht die Gefahr, dass menschliche Arbeit abgewertet wird. Gleichzeitig bieten KI-Systeme aber auch die Chance, Kreative zu entlasten und ihnen Raum für höherwertige Tätigkeiten zu verschaffen – etwa für konzeptionelle Arbeiten, strategische Planung oder persönliche Kreativität, die Maschinen nicht ersetzen können. An dieser Stelle braucht es einen Diskurs darüber, wie der Wert menschlicher Kreativität gewahrt und zugleich die Potenziale von KI genutzt werden können.

Fazit

Die Content-Erstellung mit KI eröffnet faszinierende Möglichkeiten, bringt aber auch erhebliche rechtliche und ethische Herausforderungen mit sich. Urheberrecht, Datenschutz, Persönlichkeitsrechte und Haftungsfragen sind komplexe rechtliche Themen, die bei der Content-Erstellung mit KI-Tools nicht ignoriert werden dürfen. Gleichzeitig bieten Transparenz, verantwortungsvolle Nutzung und eine klare ethische Haltung die Chance, nachhaltige Strategien für die Einbindung von KI-Tools zu entwickeln.

Der Weg zu einer fairen, rechtssicheren und ethisch vertretbaren Nutzung von KI-Tools ist angesichts ihrer Ubiquität anspruchsvoll, aber unverzichtbar. Nur so kann KI langfristig ein Werkzeug sein, das Kreativität unterstützt, anstatt sie zu verdrängen.

---

Dieser Artikel gehört zu: UPLOAD Magazin 122

• Weitere Artikel aus dieser Ausgabe kostenlos auf der Website lesen ...
• Bleib auf dem Laufenden über neue Inhalte mit dem „Update am Montag“ …

Schon gewusst? Mit einem Zugang zu UPLOAD Magazin Plus oder zur Content Academy lädst du Ausgaben als PDF und E-Book herunter und hast viele weitere Vorteile!