Sexuell eindeutige Bilder von Taylor Swift, die mit Hilfe künstlicher Intelligenz (KI) erstellt wurden, haben sich in den letzten Tagen auf X (früher Twitter) verbreitet.
Dieser Vorfall wirft ein Schlaglicht auf das zunehmende Problem der von KI erzeugten gefälschten Inhalte für Erwachsene und die Schwierigkeit, ihre Verbreitung zu verhindern.
KI-Bilder von Taylor Swift sorgen für Aufregung auf Twitter (X)
Ein besonders bemerkenswertes KI-generiertes Bild auf X wurde über 45 Millionen Mal angesehen, 24.000 Mal gepostet und hunderttausende Male geliked und geliked.
Dem verifizierten Nutzer, der für die Verbreitung der Bilder verantwortlich war, wurde jedoch sein Konto wegen Verstoßes gegen die Richtlinien der Plattform gesperrt. Der Beitrag blieb etwa 17 Stunden lang online, bevor er entfernt wurde.
Trotz der Löschung des ursprünglichen Beitrags zirkulierten die expliziten Bilder weiter und wurden auf anderen Konten erneut gepostet.
Viele dieser Beiträge sind immer noch aktiv, und es sind neue grafische Fälschungen aufgetaucht.
PROTECT TAYLOR SWIFT and stop sharing these AI images people who do it are SICK pic.twitter.com/545sh9acih
— Vec (@YungVec) 25. Januar 2024
Der Begriff „Taylor Swift AI“ wurde in einigen Regionen zu einem Trendthema, was die Sichtbarkeit dieser Bilder erhöhte.
Mutmaßlicher Ursprung der KI-Bilder von Taylor Swift
Einem Bericht zufolge stammen die Bilder möglicherweise aus einer Telegram-Gruppe, in der Nutzer explizite KI-generierte Inhalte austauschen, die häufig mit Stable Diffusion erstellt wurden.
Berichten zufolge scherzten die Mitglieder der Gruppe über die virale Verbreitung von Swifts Bildern auf X.
Antwort von Twitter (X)
X hat ausdrückliche Richtlinien gegen synthetische und manipulierte Medien sowie gegen nicht einvernehmliche Nacktheit und verbietet solche Inhalte auf der Plattform.
Während X, Swift und die NFL nicht auf Anfragen nach Kommentaren geantwortet haben, veröffentlichte X fast einen Tag nach Beginn des Vorfalls eine öffentliche Erklärung, ohne jedoch speziell auf die Bilder von Swift einzugehen:
Das Posten von Bildern mit nicht einvernehmlicher Nacktheit (NCN) ist auf X streng verboten, und wir haben eine Null-Toleranz-Politik gegenüber solchen Inhalten. Unsere Teams sind dabei, alle identifizierten Bilder zu entfernen und entsprechende Maßnahmen gegen die Konten zu ergreifen, die für die Veröffentlichung dieser Bilder verantwortlich sind. Wir überwachen die Situation genau, um sicherzustellen, dass alle weiteren Verstöße sofort angegangen werden und die Inhalte entfernt werden. Wir sind bestrebt, ein sicheres und respektvolles Umfeld für alle Nutzer zu schaffen.
Die Fangemeinde von Swift kritisierte X dafür, dass viele der expliziten Posts über einen längeren Zeitraum online bleiben konnten.
Als Reaktion darauf überschwemmten Fans die Hashtags, die mit der Verbreitung der Bilder in Verbindung standen, mit Nachrichten, die echte Clips von Swifts Auftritten anpriesen, um die expliziten Fälschungen in den Schatten zu stellen.
Herausforderungen bei der Inhaltskontrolle
Dieser Vorfall unterstreicht die Herausforderung bei der Bekämpfung von „Deepfake“-Inhalten für Erwachsene und von KI-generierten Bildern echter Personen.
Einige KI-Bildgeneratoren verfügen über Beschränkungen, die die Erstellung von nackten, pornografischen und fotorealistischen Prominentenbildern verhindern, während andere keine derartigen Sicherheitsvorkehrungen treffen.
Soziale Plattformen tragen oft die Verantwortung dafür, die Verbreitung von gefälschten Bildern zu verhindern, eine Aufgabe, die für Unternehmen wie X mit schwachen Moderationsfähigkeiten eine Herausforderung darstellt.
Gegen X laufen derzeit Ermittlungen der EU wegen des Vorwurfs, dass es zur Verbreitung illegaler Inhalte und Desinformationen genutzt wird. Berichten zufolge wird das Unternehmen auch im Hinblick auf seine Krisenprotokolle überprüft, nachdem auf der Plattform Fehlinformationen über den Krieg zwischen Israel und der Hamas verbreitet wurden.
Folge uns auf:
