泰勒·斯威夫特（Taylor Swift）的虚假图片在社交媒体上传播。人工智能的有害潜力正充分显现。
泰勒·斯威夫特已成为在社交媒体上广泛传播，尤其是在之前被称为Twitter的平台X上广泛传播的淫秽图像的不受欢迎的主角。这些描绘这位音乐明星进行明显性行为的图片纯粹是使用人工智能创建的。在它们被删除之前，数百万人已经查看了这些图片。一旦虚拟内容出现在互联网上，它很容易找到通往监管较少的通信渠道的路径。
人工智能的阴暗面
这一事件引起了社会对人工智能在创建虚假内容方面的有害潜力的关注，特别是在即将到来的美国总统选举的背景下。人们越来越担心，人工智能生成的图像和视频将难以与真实的区分。
这是人工智能如何可以被用于各种不道德目的的完美例子，特别是在保护公共空间的屏障不足的情况下，”来自数字调查机构Memetica的Ben Decker在接受CNN采访时说。
Decker认为，社交媒体平台在内容监控方面缺乏有效的计划，特别是当涉及到迅速赢得口碑的人工智能工具时，这些工具可能会创造出潜在有害的内容。
社交媒体的薄弱内容审核
平台X（前身为Twitter）大大减少了其审核员的数量，主要依赖自动系统和用户举报。因此，它目前受到审查，特别是在欧洲联盟，因为其内容审核实践。另一个例子是Meta（Facebook、Instagram），它也没有有效地关注内容的审核。CNN从知情人士那里获悉，马克·扎克伯格的公司在应对虚假信息、协调骚扰活动和恶搞方面的团队中裁员。
虚假图像几乎不受惩罚
在社交媒体上泰勒·斯威夫特虚假图片的来源不明。然而，在互联网上有很多工具，包括那些作为开源提供的工具，允许生成几乎任何人类想象的东西。
这种技术，比如Deepfake，长期以来一直被用于所谓的复仇色情，其中虚假的图片在未经受影响的人同意的情况下被用于他们肯定不会选择的背景。尽管理论上有针对这类犯罪的规定，但法律的执行面临困难。