泰勒·斯威夫特、乔·拜登、死去的孩子：假人工智能内容泛滥

　　

　　

　　本月，由人工智能(ai)制造的深度造假在社交媒体上激增，导致一系列知名人士受害，并在即将到来的美国大选周期之前，将媒体被操纵的风险提升至公众话题。

　　歌手泰勒·斯威夫特(Taylor Swift)的色情图片、美国总统乔·拜登(Joe Biden)的语音语音、死去的儿童和青少年详细描述自己死亡的视频都在网上疯传，但这些都不是真的。

　　使用人工智能创造误导性的音频和视觉并不是什么新鲜事，但最近人工智能技术的进步使它们更容易被创造出来，也更难被发现。进入2024年仅几周，一系列被高度曝光的事件加剧了立法者和普通公民对这项技术的担忧。

　　白宫新闻秘书卡琳·让-皮埃尔1月26日表示:“我们对有关虚假照片流传的报道感到震惊。”“我们将尽我们所能处理这个问题。”

　　与此同时，人工智能生成的虚假内容在社交网络上的传播，为平台监管这些内容的能力提供了一个压力测试。1月24日，由人工智能生成的霉霉深度伪造照片在埃隆·马斯克(Elon Musk)旗下的网站X上吸引了数千万浏览量。该网站原名Twitter。

　　虽然像X这样的网站有禁止分享合成的、被操纵的内容的规定，但这些描绘斯威夫特的帖子花了几个小时才被删除。据美国科技网站Verge报道，其中一张照片在网上停留了大约17个小时，浏览量超过4500万次。这表明，在人们采取措施阻止这些照片之前，这些照片就已经在网上疯传了。

　　打击

　　人工智能专家兼研究员亨利?艾德尔(Henry Ajder)表示，企业和监管机构有责任阻止淫秽操纵内容的“反常客户之旅”。他曾就打击深度虚假色情的立法向各国政府提供建议。

　　“我们需要确定不同的利益相关者，无论他们是搜索引擎、工具提供商还是社交媒体平台，如何在从形成想法到实际创造和分享内容的过程中更好地制造摩擦。”

　　斯威夫特的插曲引起了她的大批粉丝和X上其他人的愤怒，导致“保护泰勒·斯威夫特”这一短语在社交平台上流行起来。这并不是这位歌手第一次遭遇自己的形象被人工智能公然操纵，尽管这是第一次引起如此程度的公愤。

　　根据彭博社的一篇评论，截至2023年底，排名前十的深度造假网站托管了大约1000个涉及“泰勒·斯威夫特”的视频。互联网用户将她的脸移植到色情表演者的身体上，或者为付费客户提供使用人工智能技术“裸体”受害者的能力。

　　根据彭博社(Bloomberg) 2023年的一份报告，其中许多视频都可以通过快速的谷歌搜索获得，而谷歌搜索一直是深度造假网站的主要流量驱动因素。虽然谷歌提供了一个表格，让受害者请求删除深度虚假内容，但许多人抱怨说，这个过程就像打地鼠游戏。

　　去年彭博社发表这篇报道时，谷歌的一位发言人表示，Alphabet公司设计其搜索排名系统，是为了避免出现意想不到的有害或露馅内容，让人们感到震惊。

　　在最受欢迎的deepfake网站Mrdeepfakes.com上，有近500个涉及斯威夫特的视频。Similarweb的数据显示，去年12月，该网站的访问量为1230万次。

　　针对女性

　　艾德尔说:“这个案子很可怕，对斯威夫特来说无疑是非常痛苦的，但遗憾的是，它并不像一些人想象的那样具有开创性。”“现在创造这种内容的方便性令人不安，并影响着妇女和女孩，无论她们身在何处，也无论她们的社会地位如何。”

　　截至周五下午，人工智能生成的霉霉裸照仍在x上。该平台的一位发言人要求彭博社查阅该公司现有的声明，该声明称，未经同意的裸照违反了公司的政策，该平台正在积极尝试删除此类照片。

　　根据彭博社看到的Midjourney Discord频道的请求，流行的人工智能图像制作公司Midjourney的用户已经在利用至少一种斯威夫特的假视觉效果来提出书面提示，这些提示可以用来用人工智能制作更露点的图片。

　　Midjourney有一个功能，人们可以将现有的图片上传到它的Discord聊天频道——在那里输入提示，告诉该技术要创建什么——它会生成文本，可以用来通过Midjourney或其他类似的服务制作另一张类似的图片。

　　该功能的输出是在一个公共频道上，供Midjourney的Discord服务器的1800多万成员中的任何一个人看到，为他们提供了相当于微调人工智能生成的色情图像的提示和技巧。周五下午，有近200万人在该服务器上活跃。

　　Midjourney和Discord没有回应置评请求。

　　飙升的数字

　　根据独立分析师Genevieve Oh的研究，在人工智能热潮中，自2020年以来，新的深度色情视频数量已经激增了9倍以上。截至去年年底，提供此类内容的十大网站共托管11.4万个视频，其中Swift已经成为常见目标。

　　为网络教育机构SANS Institute开发课程的数字取证专家希瑟?马哈里克?巴恩哈特(Heather Mahalik Barnhart)表示:“无论是人工智能还是真实的，它仍然会伤害人们。”对于霉霉的照片，“尽管是假的，但想象一下她父母的想法，他们不得不看到这些——你知道，当你看到一些东西时，你无法让它消失。”

　　就在斯威夫特的照片引发轩然大波的几天前，在新罕布什尔州总统初选之前，一段深度伪造的拜登音频信息被传播开来。全球虚假信息专家表示，听起来像是拜登让选民跳过初选的自动电话，是他们听过的最令人担忧的深度伪造音频。

　　已经有人担心，深度伪造的音频或视频可能会在即将到来的选举中发挥作用，而社交媒体上的信息传播速度之快加剧了这种担忧。假的拜登信息被直接拨打到人们的电话中，这为专家审查电话提供了更少的手段。

　　“新罕布什尔的初选让我们第一次感受到了我们必须应对的情况，”专攻深度造假和数字媒体取证的布法罗大学(University at Buffalo)教授吕思维(Siwei Lyu，音)说。

　　难以察觉

　　即使在社交媒体上，目前也没有可靠的检测功能，这留下了一个令人沮丧的迂回过程，依赖于某人发现一段内容，并对其产生足够的怀疑，从而去源头确认它。对于斯威夫特或拜登这样的知名公众人物来说，这种情况比当地官员或普通公民更有可能出现。即使公司发现并删除了这些视频，它们传播得如此之快，以至于损害往往已经造成。

　　10月7日以色列事件受害者shai Louk的深度伪造视频自三个多月前发布以来，在字节跳动公司的TikTok应用程序上已经积累了超过750万的浏览量，尽管彭博社在12月的一篇报道中专门针对该公司，报道了该平台在监管包括儿童在内的死者的人工智能视频方面的努力。

　　该视频分享应用禁止了人工智能生成的公民或儿童的私人内容，并表示“可怕”或“令人不安”的视频也不允许。就在本周，一些深度伪造的视频——死去的孩子讲述虐待的细节和他们的死亡——仍在用户的推送中出现，并吸引了成千上万的浏览量。TikTok删除了彭博社要求置评的视频。截至周五，数十个专门发布这种令人不安的虚假内容的视频和账户仍然存在。

　　TikTok表示，它正在投资检测技术，并正在努力教育用户了解人工智能生成内容的危险。其他社交网络也表达了类似的观点。

　　本月早些时候，在瑞士达沃斯举行的世界经济论坛上，Facebook和Instagram的母公司meta Platforms Inc .的公共事务总裁尼克·克莱格(Nick Clegg)说:“如果你不能首先发现问题，你就无法对它做出反应，更不用说监管它了。”

　　一些法律

　　目前，美国没有禁止深度造假的联邦法律，包括那些本质上是色情的内容。一些州已经实施了关于深度虚假色情的法律，但这些法律在全国范围内的应用并不一致，这使得受害者很难追究创作者的责任。

　　白宫新闻秘书让-皮埃尔(Jean-Pierre)周五表示，政府正在与人工智能公司合作，单方面为生成的图像加上水印，使它们更容易被识别为假货。拜登还任命了一个特别工作组来解决网络骚扰和性虐待问题，而美国司法部则为那些受到基于图像的性虐待的受害者设立了一条热线。

　　国会已经开始讨论立法措施，以保护名人和艺术家的声音在某些情况下不受人工智能的使用。这些对话中没有对普通公民的任何保护。

　　斯威夫特没有就此事发表公开评论，包括她是否会采取法律行动。非营利组织Witness的执行董事萨姆?格雷戈里(Sam Gregory)表示，如果她选择这样做，她可能会面临这样的挑战。该组织利用道德技术来突显侵犯人权的行为。

　　格雷戈里说:“在缺乏联邦立法的情况下，让像斯威夫特这样的原告有能力和意愿利用一切可能的手段来证明这一点——即使成功的可能性很低或长期——是下一步。”- - - - - -布隆伯格

　　×