Fałszywe obrazy Taylor Swift rozprzestrzeniają się w mediach społecznościowych. Szkodliwy potencjał sztucznej inteligencji ujawnia się w pełnej sile.
Taylor Swift stała się niechcianą bohaterką pornograficznych obrazów, które szeroko krążą w mediach społecznościowych, zwłaszcza na platformie X, wcześniej znanej jako Twitter. Zdjęcia przedstawiające gwiazdę muzyki w wyraźnie seksualnych pozach zostały stworzone wyłącznie przy użyciu sztucznej inteligencji. Zanim zostały usunięte, obejrzało je wiele milionów osób. Wirtualne treści, raz pojawiwszy się w internecie, z łatwością znajdują drogę do mniej moderowanych kanałów komunikacji.
Ciemna strona sztucznej inteligencji
Ten incydent zwrócił uwagę społeczeństwa na szkodliwy potencjał sztucznej inteligencji w tworzeniu fałszywych treści, zwłaszcza w kontekście nadchodzących wyborów prezydenckich w USA. Narasta obawa przed dezinformacją, generowaną przez sztuczną inteligencję, w postaci obrazów i filmów, które trudno będzie odróżnić od prawdziwych.
- To doskonały przykład na to, jak sztuczna inteligencja może być wykorzystywana z wielu nieetycznych powodów, zwłaszcza gdy brakuje barier ochrony przestrzeni publicznej – powiedział Ben Decker z firmy Memetica, agencji cyfrowego dochodzenia, w wywiadzie dla CNN.
Decker uważa, że media społecznościowe nie posiadają skutecznych planów monitorowania treści, zwłaszcza w przypadku narzędzi sztucznej inteligencji, które szybko zdobywają popularność, tworząc potencjalnie szkodliwe treści.
Media społecznościowe słabo moderują treści
Platforma X (dawniej Twitter) w dużej mierze zredukowała liczbę moderatorów, polegając głównie na zautomatyzowanych systemach i zgłoszeniach użytkowników. W wyniku tego jest obecnie poddawana krytyce, zwłaszcza w Unii Europejskiej, z powodu sposobu moderacji treści. Innym przykładem jest Meta (Facebook, Instagram), która również nie skupia się efektywnie na moderowaniu treści. CNN uzyskała informacje od osób zorientowanych, że firma Marka Zuckerberga ograniczyła zatrudnienie w zespołach zajmujących się zwalczaniem dezinformacji, kampanii nękania i trollingu.
Fałszywe obrazy pozostają praktycznie bezkarnie
Nieznane jest źródło fałszywych obrazów Taylor Swift w mediach społecznościowych. Jednak w Internecie istnieje wiele narzędzi, w tym takie dostępne na zasadzie open source, które umożliwiają generowanie praktycznie wszystkiego, co może podsunąć ludzka wyobraźnia.
Technologia takiego rodzaju, na przykład deepfake, od dawna jest wykorzystywana w tzw. revenge porn (porno zemsty), gdzie fałszywe obrazy są używane bez zgody zainteresowanej osoby, w kontekście, którego z pewnością by nie wybrała. Mimo teoretycznych przepisów przeciwko takim przestępstwom, egzekwowanie prawa napotyka na trudności.