Фальшивые изображения Тейлор Свифт распространяются в социальных сетях. Вредный потенциал искусственного интеллекта проявляется в полной мере.
Тейлор Свифт стала нежеланным персонажем порнографических изображений, которые широко распространяются в социальных сетях, особенно на платформе X, ранее известной как Twitter. Фотографии, изображающие звезду музыки в явно сексуальных позах, были созданы исключительно с использованием искусственного интеллекта. Прежде чем их удалили, миллионы людей их посмотрели. Виртуальный контент, появившийся в интернете, легко находит путь к менее модерируемым каналам коммуникации.
Темная сторона искусственного интеллекта
Этот инцидент привлек внимание общества к вредному потенциалу искусственного интеллекта в создании поддельного контента, особенно в контексте предстоящих президентских выборов в США. Растет беспокойство из-за дезинформации, генерируемой искусственным интеллектом в виде изображений и видеороликов, которые будет сложно отличить от настоящих.
Это отличный пример того, как искусственный интеллект может использоваться из-за различных неэтичных мотивов, особенно когда отсутствуют барьеры для защиты общественного пространства», — сказал Бен Деккер из компании Memetica, агентства цифрового расследования, в интервью для CNN.
Деккер считает, что социальные медиа не располагают эффективными планами мониторинга контента, особенно в случае инструментов искусственного интеллекта, которые быстро набирают популярность, создавая потенциально вредный контент.
Слабая модерация контента в социальных медиа
Платформа X (ранее Twitter) в значительной степени сократила число модераторов, полагаясь в основном на автоматизированные системы и жалобы пользователей. В результате она подвергается критике, особенно в Европейском союзе, из-за методов модерации контента. Другим примером является Meta (Facebook, Instagram), которая также не сосредотачивается эффективно на модерации контента. Информация от осведомленных источников свидетельствует, что компания Марка Цукерберга сократила численность сотрудников в командах, занимающихся борьбой с дезинформацией, координированными кампаниями домогательств и троллинга.
Фальшивые изображения практически остаются безнаказанными
Источник фальшивых изображений Тейлор Свифт в социальных медиа неизвестен. Тем не менее в интернете существует множество инструментов, в том числе тех, доступных по принципу открытого исходного кода, которые позволяют генерировать практически все, что может предложить человеческое воображение.
Такая технология, например, deepfake, давно используется в так называемой мести порно, где фальшивые изображения используются без согласия затронутого лица в контексте, который оно определенно бы не выбрало. Несмотря на теоретические законы против таких преступлений, их соблюдение встречает трудности.