X的人工智能图像生成器首次亮相时，几乎没有对政治内容设置护栏

　　

　　

　　X的人工智能聊天机器人Grok的升级版现在可以生成几乎任何东西的图像。一些用户已经注意到，与竞争对手相比，这个最新的语言模型几乎没有什么护栏。

　　这个名为Grok-2的模型在制作政治人物的假照片方面似乎没有什么限制。自周二推出测试版以来，X用户分享了由grok生成的各种图片，从前总统唐纳德·特朗普与埃隆·马斯克接吻，到特朗普和副总统卡玛拉·哈里斯在飞行员驾驶舱内对着镜头竖起大拇指，两人似乎在重现911事件。

　　大多数图像都是高质量的，但不太逼真，其中许多很容易被识别为是计算机生成的。然而，有些照片乍一看可能会误以为是真照片。

　　这一举措加剧了人们对在大选前利用生成式人工智能传播虚假信息的担忧。X因其托管错误信息的角色而受到特别审查，X的所有者和最受关注的用户马斯克今年发表了数十篇帖子，分享了关于即将到来的美国大选的虚假或误导性言论。

　　X也是深度假视频和政治人物人工智能图像的中心，关于乔·拜登(Joe Biden)总统、特朗普和哈里斯(Harris)总统的假媒体经常在网上疯传，有的是开玩笑，有的是真的想愚弄潜在选民。上个月，马斯克转发了一条假的哈里斯竞选广告，但没有给它贴上误导性的标签。

　　当被要求置评时，X的新闻邮件回复了和往常一样的自动信息:“现在很忙，请稍后再打来。”

　　马斯克将X的人工智能模型吹捧为公司未来的关键部分。据xAI的一篇博客文章称，Grok-2及其较小的兄弟产品Grok-2 mini将于本月晚些时候通过该平台的企业API提供。

　　“自2023年11月宣布Grok-1以来，xAI在一个人才密度最高的小团队的推动下，一直在以非凡的速度发展，”该帖子称，并补充说Grok-2的推出使该公司“处于人工智能开发的最前沿”。

　　Grok在人工智能领域的主要竞争对手，如OpenAI的ChatGPT、谷歌的Gemini和meta AI，都有政策促使他们拒绝创建可能具有误导性的公众人物图像的请求。

　　但通过Grok，用户可以生成前总统巴拉克·奥巴马吸食可卡因的图像，哈里斯在民主党候选人威尔·斯坦西尔赢得明尼苏达州众议院竞选的虚假声明下指着枪，以及马斯克在特朗普的牵引下四肢爬行的图像。

　　在NBC新闻进行的测试中，Grok几乎没有显示出护栏。在收到提示后，它创建了大量包含仇恨符号或种族主义图像的图片，以及包括特朗普在内的知名人士。对于特朗普和哈里斯来说，格罗克都会制作候选人持有武器的图像，但在其他情况下，格罗克似乎更敏感地处理哈里斯的图像。Grok不会为哈里斯生成带有极端主义图像的图像，但为特朗普生成了。

　　其他网友似乎对这个新工具很感兴趣，他们制作了更多轻松的图片，同时也在测试他们能突破界限到什么程度。

　　在一张名为“巴洛克奥巴马”的照片中，奥巴马戴着白色的假发，穿着奢华的大衣，系着蕾丝领带，在一间装饰精美的房间里拉着大提琴。另一张“巴斯光啤酒”的双关语图片是《玩具总动员》中的超级英雄动作形象巴斯光年微笑着拿着一品脱啤酒。

　　这样的图像可能会让人对Grok的训练数据产生质疑——Grok还没有公开这些数据——尤其是许多流行的人工智能语言模型都受到了诉讼的打击，指控它们使用了受版权保护的图像(以及其他类型的受版权保护的数据)来训练它的算法。

　　最近，五名国务卿致信马斯克，称这位人工智能助手在多个州的投票截止日期上误导了用户，并在一个多星期的时间里重复同样的虚假信息，这也让Grok受到了密切关注。