Meta AI – Über die Ausbeutung von Künstlern auf Instagram

Seit Anfang Juni fliehen Künstler von Instagram, um ihre Arbeit vor Metas KI zu schützen. Meta kündigte an, zunächst in den USA und Lateinamerika seine KI an den Kreationen von Künstlern auf Instagram zu trainieren – ohne Kompensation und Opt-out Wahlmöglichkeit. Innerhalb der EU ist dies bislang noch nicht der Fall.

Man sollte aber auch hierzulande hellhörig werden und die aktuellen Geschehnisse aufmerksam verfolgen. Um sich zu schützen, greifen immer mehr Kunstschaffende auf die KI-skeptische App Cara zurück.

Was war passiert?

Maler, Fotografen und andere Künstler nutzten seit langer Zeit Instagram, um ihre Werke zu präsentieren und ihre Bekanntheit zu steigern. Doch nun verlassen viele die Plattform aus Bedenken, dass Meta, das Mutterunternehmen von Instagram, ihre Kunst zur Schulung von KI-Modellen verwendet, wie die Washington Post Anfang des Monats berichtete.

Als Zeichen des Protests teilen Künstler erneut Nachrichten und Vorlagen auf anderen Plattformen. Viele wechseln zu Cara, einer App speziell für Künstler, die die Verwendung ihrer Inhalte für KI-Zwecke untersagt.

Die Empörung entstand, nachdem ein Manager von Meta im Mai bekannt gab, dass öffentliche Instagram-Beiträge als Trainingsdaten dienen sollen. Einige Wochen später informierte das Unternehmen Benutzer in Europa darüber, dass ihre Beiträge ab dem 26. Juni für KI-Training genutzt werden würden, ohne die Möglichkeit zur Ablehnung.

In der Europäischen Union haben Menschen jedoch das Recht, über die Verwendung ihrer persönlichen Daten zu entscheiden. Die Spannungen zwischen Online-Kreativen und KI-Unternehmen nahmen zu. Alles, was öffentlich im Internet veröffentlicht wird, gilt derzeit als potenzielles Trainingsmaterial für KI-Systeme. Dies könnte dazu führen, dass diejenigen, die die Daten erstellt haben – wie Autoren, Musiker und bildende Künstler – durch KI ersetzt werden.

Künstler fühlen sich ohnmächtig – sie sind auf Meta-Apps angewiesen, um sich selbst zu vermarkten, können aber nicht verhindern, dass ihre Arbeit für KI-Zwecke verwendet wird. Einige stehen bereits kurz davor, ihre Existenzgrundlage zu verlieren.

Was ist Meta AI?

Meta AI ist ein innovatives, auf maschinellem Lernen und künstlicher Intelligenz basierendes Produkt, das nahtlos in verschiedene Meta-Plattformen wie Facebook, WhatsApp und Instagram integriert werden kann. Darüber hinaus bietet es auch die Möglichkeit der eigenständigen Nutzung.

Das KI-Modell von Meta basiert auf einer Vielzahl von Quellen, darunter öffentlich zugängliche Online-Informationen, lizenzierte Daten sowie Erkenntnisse aus der Nutzung von Meta-Produkten und -Dienstleistungen.

Meta verkündete offiziell, dass Meta AI bereits in jüngster Vergangenheit auf Facebook- und Instagram-Posts und Fotos trainiert wurde. Darin heißt es:

Öffentlich geteilte Beiträge von Instagram und Facebook – einschließlich Fotos und Text – waren Teil der Daten, die zum Trainieren der generativen KI-Modelle verwendet wurden, die den von uns angekündigten Funktionen zugrunde liegen … . Wir haben diese Modelle nicht anhand der privaten Beiträge anderer Personen trainiert. Wir nutzen auch nicht den Inhalt Ihrer privaten Nachrichten mit Freunden und Familie, um unsere Ais zu trainieren.“

Meta hat ein Dokument mit dem Titel „Wie Meta Informationen für generative KI-Modelle und -Funktionen nutzt“ veröffentlicht, das die Details erklärt.

Die neue Datenschutzrichtlinien von Meta und die Ohnmacht der NutzerInnen

Die neueste Änderung der Datenschutzrichtlinie von Meta hat viele der 1,2 Milliarden weltweiten Nutzer enttäuscht, nachdem letzten Monat die erste Enthüllung erfolgt war.

Durch die Zustimmung zu den Allgemeinen Geschäftsbedingungen von Meta für eines seiner Produkte stimmen Benutzer in vielen Teilen der Welt automatisch zu, dass Meta ihre Informationen zur Entwicklung seiner KI-Modelle verwendet.

Fotos, Beiträge, Originalkunstwerke und andere kreative Ressourcen von Künstlern können nun von Meta genutzt werden, um den KI-Bildgenerator des Unternehmens zu trainieren. Diese Richtlinie tritt heute, am 26. Juni 2024 in Kraft.

Wie Wired berichtete, hatten kurz nach der Verkündung durch Meta mehr als 130.000 Instagram-Nutzer Nachrichten auf Instagram geteilt, in denen sie erklärten, dass sie der Verwendung ihrer Daten zum Training von KI nicht zustimmen.

Allerdings scheinen nach aktueller Rechtslage Schöpfer auf Instagram nach einmaliger Zustimmung eines Services von Meta bereits unwillentlich ihr Seelen an den „META-physischen“ Teufel verkauft zu haben

Einzig in der Europäischen Union hindern die strengen Datenschutzrichtlinien und die Rechte am eigenen geistigen Eigentum den Konzern Meta noch, diese Anpassungen auch hierzulande vorzunehmen.

Cara als Zuflucht des Protests

Die Unternehmerin von Cara, Jingna Zhang, verkündete stolz, dass die App innerhalb einer Woche von 40.000 auf 650.000 Nutzer angewachsen ist. Zu einem Zeitpunkt zählte sie sogar zu den fünf beliebtesten sozialen Apps im Apple Store. Ob Meta von diesem Erfolg beeindruckt sein wird, bleibt vorerst ungewiss. „Es war eine durchgearbeitete Nacht“, berichtete Zhang, nicht nur Fotografin, sondern auch engagierte Kämpferin für die Rechte von Künstlern. „Das übertrifft unsere Erwartungen.“

Künstler wie Zhang haben rechtliche Schritte gegen KI-Unternehmen wie Google und Stability AI eingeleitet, da sie behaupten, dass diese ihre Algorithmen mit urheberrechtlich geschütztem Material aus dem Internet trainieren. Auch Autoren und Verleger wie George R.R. Martin sowie die New York Times haben ähnliche juristische Schritte unternommen. Die Unternehmen vertreten die Ansicht, dass das Schulungsmaterial unter die „Fair Use“-Gesetze fällt, welche Remixe und Interpretationen erlauben.

Zhang erwähnte kürzlich, dass die kostenlose Cara-App, die im Januar 2023 eingeführt wurde, trotz ihres anhaltenden Interesses diese Woche mehrmals aufgrund von technischen Problemen abstürzte. Der Home-Tab der App, der auf iOS, Android und im Web verfügbar ist, ähnelt einem Instagram-Feed und bietet Funktionen wie „Gefällt mir“, „Kommentieren“ und „Reposten“.

Ben Zhao, Informatikprofessor an der University of Chicago, beobachtete in diesem Zusammenhang besorgt, wie verschiedene Plattformen fälschliche Versprechungen machen und Nutzer täuschen. Einige Plattformen für Künstler entwickeln sich sogar zu sogenannten „KI-Farmen“. Zhao und seine Kollegin Heather Zheng haben das Tool Glaze entwickelt, um die Originalität von Werken vor KI-Nachahmung zu schützen und es erfolgreich auf Cara integriert.

Gemäß den FAQ von Cara ist es Künstlern untersagt, KI-generierte Arbeiten zu veröffentlichen, solange „weitreichende ethische und datenschutzrechtliche Fragen“ nicht geklärt sind. Die Erkennungstechnologie des KI-Unternehmens Hive (AI Detector) wird eingesetzt, um Regelverstöße zu kontrollieren und hochgeladene Bilder mit einem „NoAI“-Tag zu versehen und so vor unberechtigtem Kopieren zu schützen.

Dennoch besteht weiterhin das Risiko, dass KI-Unternehmen die Bilder dennoch verwenden können. Einige Künstler berichten bereits von den Auswirkungen der KI auf ihre geschäftlichen Erfolge.

Wie Generative KI den Künstlern zusetzt

Die Künstlerin und Illustratorin Kelly McKernan aus Nashville trat vor über einem Jahrzehnt Facebook und Instagram bei und nutzte diese Plattformen erfolgreich zur Kundengewinnung.

In den Jahren 2022 und 2023 erlebte sie jedoch einen Einkommensrückgang um 30 Prozent aufgrund der zunehmenden Verbreitung von KI-generierten Bildern im Internet, wie sie gegenüber der Washington Post konstatierte.

Bei einer Google-Suche nach ihrem Namen stellte sie fest, dass das erste Ergebnis ein KI-Bild in ihrem Stil war, was für sie frustrierend war. Die KI-Scraping-Richtlinie von Meta war für sie schließlich ausschlaggebend. Gemeinsam mit zwei anderen Künstlern reichte McKernan Klage gegen KI-Unternehmen wie Midjourney und Stability AI ein.

Die freiberufliche Illustratorin Allie Sullberg entschied vor 2 Wochen, die Cara-App herunterzuladen, nachdem sie festgestellt hatte, dass viele ihrer Künstlerkollegen auf Instagram über AI-Scraping diskutierten und zu Cara wechselten. Sie äußerte ihren Unmut darüber, dass Meta seine KI-Initiativen als nützlich für Schöpfer darstellt, obwohl diese tatsächlich keinen wesentlichen Nutzen daraus ziehen können, wenn Modelle auf ihre Arbeit angewendet werden.

Benutzer von Meta-Standards stimmen den KI-Richtlinien automatisch zu, wenn sie die Plattformen gemäß den Datenschutzrichtlinien und Bedingungen nutzen. Sullberg gab an, dass sie etwa 2011 erstmals bei Instagram aktiv wurde. Das erste generative Bildmodell für Endverbraucher, DALL-E von OpenAI, wurde 2021 eingeführt.

Ein Sprecher von Meta erklärte gegenüber der Washington Post, dass das Unternehmen keine Opt-out-Option anbietet.

Je nachdem, wo Menschen leben, können sie jedoch Bedenken gegen die Verwendung ihrer persönlichen Daten zur Entwicklung von KI gemäß den örtlichen Datenschutzgesetzen äußern“,

so Richards.

Eine kaum zu übertreffende Geringschätzung der Millionen Kunstschaffenden auf Instagram, denen Meta einen großen Teil seines Erfolges zu verdanken hat, meinen wir. Das fühlt sich an wie ein Schlag ins Gesicht.

Jon Lam, ein renommierter Videospielkünstler und Befürworter des Urheberrechts, hat intensiv nach Lösungen gesucht, um das AI-Scraping auf Instagram zu stoppen. Nachdem er ein entsprechendes Formular entdeckte, stellte er fest, dass dies nur für Nutzer in Europa galt, wo strenge Datenschutzbestimmungen gelten.

Lam äußerte, dass er sich „zutiefst wütend und verärgert“ gegenüber Meta und anderen KI-Unternehmen fühlt.

Diese Firmen haben sich von ihren Ursprüngen entfernt. Uns wurde eine falsche Vorstellung vermittelt, nämlich dass soziale Medien dazu dienen, den Kontakt zu Freunden und Familie zu pflegen und Aktivitäten zu teilen“,

so Lam.

Ein Jahrzehnt später sind sie nur noch Plattformen, auf denen Daten gesammelt und Trainingsdaten generiert werden können.“

McKernan äußerte die Hoffnung, dass durch die laufenden Klagen die Urheber Druck auf KI-Unternehmen ausüben werden, um deren Richtlinien zu ändern.

Selbstgefälligkeit hat es Unternehmen wie Meta ermöglicht, die Inhaltsproduzenten – die Menschen, mit denen sie ihr Geld verdienen – nach Belieben zu behandeln“,

so ihre Aussage.

Europäischer Datenschutz rettet Künstler (noch) vor Metas Datenhunger in der EU

Kreative innerhalb der Europäischen Union können zunächst einmal aufatmen. Der Vorstoß des Facebook-Konzerns Meta, auch öffentliche Beiträge von Nutzern in Europa zum Training seiner KI-Modelle zu verwenden, wurde nach Druck von Datenschützern vorerst abgewehrt.