Falsche Bilder von Taylor Swift verbreiten sich in den sozialen Medien. Das schädliche Potenzial künstlicher Intelligenz zeigt sich in vollem Umfang.
Taylor Swift ist zu einer unerwünschten Hauptfigur in pornografischen Bildern geworden, die auf sozialen Medien, besonders auf der Plattform X, ehemals bekannt als Twitter, weit verbreitet sind. Die Bilder, die die Musikstars in expliziten sexuellen Posen zeigen, wurden ausschließlich mit künstlicher Intelligenz erstellt. Bevor sie entfernt wurden, hatten Millionen von Menschen sie angesehen. Einmal im virtuellen Raum erschienen, findet solcher Inhalt leicht seinen Weg zu weniger moderierten Kommunikationskanälen.
Die dunkle Seite der künstlichen Intelligenz
Dieser Vorfall hat die Aufmerksamkeit der Gesellschaft auf das schädliche Potenzial künstlicher Intelligenz bei der Erstellung von gefälschten Inhalten gelenkt, insbesondere im Hinblick auf die bevorstehenden Präsidentschaftswahlen in den USA. Es gibt wachsende Bedenken hinsichtlich von künstlicher Intelligenz erzeugter Desinformation in Form von Bildern und Videos, die schwer von echten zu unterscheiden sein werden.
Dies ist ein perfektes Beispiel dafür, wie künstliche Intelligenz für verschiedene unethische Zwecke genutzt werden kann, insbesondere wenn es an ausreichenden Barrieren zum Schutz des öffentlichen Raums mangelt“, sagte Ben Decker von Memetica, einer digitalen Ermittlungsagentur, in einem Interview mit CNN.
Decker ist der Meinung, dass soziale Medienplattformen effektive Pläne zur Überwachung von Inhalten vermissen lassen, insbesondere wenn es um künstliche Intelligenz-Tools geht, die schnell an Popularität gewinnen und potenziell schädliche Inhalte erstellen.
Schwache Inhaltsmoderation in sozialen Medien
Die Plattform X (ehemals Twitter) hat ihre Zahl der Moderatoren erheblich reduziert und verlässt sich hauptsächlich auf automatisierte Systeme und Benutzerberichte. Dadurch steht sie derzeit insbesondere in der Europäischen Union wegen ihrer Praktiken zur Inhaltsmoderation unter Beobachtung. Ein weiteres Beispiel ist Meta (Facebook, Instagram), das sich ebenfalls nicht effektiv auf die Moderation von Inhalten konzentriert. CNN erhielt Informationen von informierten Quellen, dass das Unternehmen von Mark Zuckerberg die Mitarbeiterzahl in Teams, die sich mit der Bekämpfung von Fehlinformationen, koordinierten Belästigungskampagnen und Trollen befassen, reduziert hat.
Falsche Bilder bleiben praktisch straflos
Die Quelle der falschen Bilder von Taylor Swift in den sozialen Medien ist unbekannt. Es gibt jedoch viele Werkzeuge im Internet, einschließlich solcher, die als Open Source verfügbar sind, die es ermöglichen, praktisch alles zu generieren, was die menschliche Vorstellungskraft vorschlägt.
Solche Technologien, wie beispielsweise Deepfake, werden schon lange im sogenannten Rache-Pornografie verwendet, bei dem falsche Bilder ohne Zustimmung der betroffenen Person in einem Kontext verwendet werden, den sie sicherlich nicht gewählt hätten. Trotz theoretischer Regelungen gegen solche Straftaten gestaltet sich die Durchsetzung des Gesetzes schwierig.