Hiltzik：空气开始从过度膨胀的AI泡沫中泄漏出来

　　

　　

　　你只需要回到大约三个月前，就能发现华尔街对人工智能的狂热达到了顶峰。那是在6月18日，当时主导人工智能相关硬件市场的加州公司英伟达(Nvidia)的股价达到了136.33美元的峰值。

　　自那以来，这家高级计算机芯片制造商的股价下跌了22%以上。人工智能实验室使用这些芯片来开发聊天机器人和其他产品。

　　其中包括周二下跌9.5%，市值蒸发2,790亿美元，是美国股市有史以来最大的单日跌幅。

　　如果你愿意，不妨为英伟达(Nvidia)创始人兼首席执行官黄仁勋(Jensen Huang)流泪，他的账面财富在那一天缩水了近100亿美元。但要更密切地关注市场行为对人工智能作为一项热门技术的现状可能会产生的影响。

　　它不漂亮。那些因担心错过对其业务有用的新应用而投入人工智能市场的公司发现，实用性是难以捉摸的。

　　人工智能发展中最紧迫的问题，比如如何防止人工智能聊天机器人对他们无法回答的问题做出回应——人工智能开发者称之为“幻觉”——尽管经过多年的努力，仍未得到解决。

　　事实上，该领域的一些专家报告称，每一次迭代，机器人都在变得越来越笨。就连人工智能机器人的领先开发商OpenAI去年也承认，在某些任务上，其GPT-4聊天机器人的表现“不如”前几代。

　　至于人工智能将使企业用户能够在办公室或工厂车间用更少的人做更多的事情的前景，这项技术产生的错误如此频繁，以至于用户可能需要增加工人来检查机器人的输出。

　　一位公司首席执行官在接受《华尔街日报》采访时表示，他的公司使用人工智能来解析高管们在早些时候的收益电话会议上向投资分析师承诺的内容，“60%正确，40%错误”。(系统甚至把他的名字都搞错了。)他没有这么说，但一个几乎一半时间都在制造错误的系统显然毫无价值。

　　商业用户有理由担心在没有人类监督的情况下使用人工智能机器人。即使是在相对简单的任务上，比如提交一份常规的法律文件或回答简单的客户服务询问，人工智能也失败了，有时甚至失败得惊人。

　　在最近的一个案例中，一名营销顾问利用人工智能为弗朗西斯·福特·科波拉(Francis Ford Coppola)的新片《大都市》(Megalopolis)制作了一个预告片，该预告片被评论界嗤之以鼻，他打印了科波拉早期电影《教父》(The Godfather)的影评片。

　　据《综艺》杂志报道，该机器人捏造了负面评论，并将其与那些真正欣赏早期电影的评论家的名字联系在一起。去年，新西兰一家连锁杂货店的人工智能配方机器人建议用户将漂白剂和氨水混合成一种解渴饮料。事实上，这种组合可能是致命的。

　　这些都是当前人工智能模型应该擅长的任务——粗制粗制的样板、广告文案、客户服务信息，只要按下按键式电话上的一个按钮就能获得。

　　这是因为机器人是通过输入难以想象的大量出版作品、互联网帖子和其他主要是通用的书面材料来开发的。然后，开发人员应用算法，允许机器人发出类似于人类语言的反应，但这是基于给定单词应该跟着另一个单词的概率——这也是机器人行为经常被视为“类固醇自动补全”的原因之一。

　　然而，这些系统在任何意义上都不是“智能”的。它们产生了令人信服的思想的模拟，但当被要求执行需要人类洞察力水平的任务时，例如在医学诊断和治疗中，它们往往表现不佳。

　　今年7月，英国发表了一项研究，对人类专家和人工智能系统评估的1020例乳房x光检查结果进行了分析，人类发现了18例被人工智能系统遗漏的乳腺癌，而人工智能系统只发现了两例被人类遗漏的乳腺癌。“到2024年，人工智能/机器学习不应该做得更好吗?摩根大通资产管理公司(JPMorgan Asset Management)首席市场策略师迈克尔?切巴莱斯特(Michael Cembalest)在本月对人工智能市场的分析中问道。

　　9.99美元/ moSubscribe

　　其他研究表明，人工智能可以帮助诊断疾病，但只有在人类医生的监督下作为技术工具使用。耶鲁大学(Yale)和康奈尔大学(Cornell)的生物伦理学家本月早些时候写道，诊断和治疗病人需要“情商和道德能力，人工智能或许能够模仿这些特质，但永远无法真正拥有”。

　　人们对人工智能的一个长期担忧是，它可能被滥用于邪恶的目的，比如更容易关闭电网、摧毁金融体系，或者制造深度造假来欺骗消费者或选民。这就是SB 1047的主题，这是一项等待州长加文·纽森(Gavin Newsom)签署的加州法案(他还没有表示是否会批准)。

　　该法案要求对先进的人工智能模型进行安全测试，并设置“护栏”，以确保它们不会脱离开发者或用户的控制，也不会被用来制造“生物、化学、核武器以及具有网络攻击能力的武器”。它得到了一些人工智能开发者的支持，但也遭到了其他人的谴责，他们断言，它的限制将把人工智能开发者赶出加州。

　　的确，在可预见的未来，一些预期的风险似乎不太可能发生，该法案的发起人、加州参议员斯科特·维纳(D-San Francisco)表示，该法案的起草不仅仅是为了覆盖遥远的可能性。

　　“这项法案的重点是这些模型在不久的将来将如何使用，”维纳告诉我。“反对派经常试图贬低该法案，说它完全是科幻小说和《终结者》(Terminator)的风险。但我们关注的是大多数人可以想象到的真实世界的风险，而不是未来的风险。”

　　这让我们怀疑的不是人工智能的风险，而是它在现实世界中的商业效用。随着越来越多的企业尝试使用它，这些问题已经在工业中蔓延开来，并发现它被过度推销了。例如，波士顿咨询集团(Boston Consulting Group)去年的一项调查发现，“在解决业务问题方面”，使用OpenAI最先进版本的GPT聊天机器人“比对照组的表现低23%”。

　　正如顾问们所指出的那样，“新技术何时适合(或不适合)并不明显，工具的说服能力使得很难发现不匹配。”即使参与者被警告该工具可能会给出错误的答案，他们也没有质疑它的输出结果。”

　　一些投资分析师表示，在人工智能领域的投资如此之多，以至于微软(Microsoft)、meta和谷歌(Google)等大型开发商可能在数年内都看不到回报，甚至可能永远看不到回报。高盛(Goldman Sachs)分析师在6月份的报告中称，未来几年，“科技巨头和其他公司将在人工智能上投入超过1万亿美元……但迄今为止收效甚微。”那么，这笔巨额支出会有回报吗?”

　　英伟达在人工智能硬件市场的主导地位引发了一个问题，即如果该公司在财务或技术上出现问题，将对金融市场产生何种影响。

　　摩根大通的Cembalest将他对市场未来的分析命名为“一个严重的COVIDIA案例”。他指出，人工智能正在“推动(风险投资)生态系统”，今年上半年，超过40%的新“独角兽”(价值10亿美元或以上的初创企业)出自人工智能，风险投资支持的初创企业的估值增长中，人工智能占了60%以上。

　　这给投资市场带来的不稳定性在周二显露无遗，英伟达股价下跌导致纳斯达克综合指数下跌逾577点，跌幅达3.26%。

　　英伟达股价下跌的原因，一方面是市场对其增长放缓的预测(迄今为止，英伟达的增长一直非常惊人)，另一方面是有报道称，联邦监管机构因反垄断问题向该公司发出了传票。(英伟达后来否认收到了传票。)大盘也出现下跌，部分原因是美国就业增长出现放缓迹象。

　　其他人也警告说，人工智能的狂热已经结束，或者这项技术的潜力被夸大了。

　　商业技术咨询公司高德纳(Gartner)上月警告称:“在金融领域的膨胀预期达到顶峰的是生成式人工智能。”“人工智能工具在过去两年中为这项技术带来了巨大的宣传，但随着金融部门采用这项技术，他们可能不会像预期的那样发现它具有变革性。”

　　从更广泛的角度来看，人工智能的预期经济收益可能也是如此。麻省理工学院(MIT)经济学家达隆?阿西莫格鲁(Daron Acemoglu)在最近发表的一篇论文中预测，未来10年，人工智能只会使美国生产率提高约0.5%，国内生产总值(gdp)提高约1%，这与标准经济预测相比只是零头。

　　在接受高盛报告采访时，阿西莫格鲁指出，经济预言家很少计算人工智能的潜在社会成本。

　　他说:“有可能提供好信息的技术也可能提供坏信息，并被滥用。”“一万亿美元的深度伪造投资将使GDP增加一万亿美元，但我认为大多数人不会对此感到高兴，也不会从中受益。……过于乐观和炒作可能会导致过早使用尚未成熟的技术。”

　　炒作仍然是当今关于人工智能未来的讨论的决定性特征，其中大部分来自OpenAI等人工智能公司及其企业赞助商，包括微软和谷歌。

　　用这种看似神奇的技术重塑世界的愿景吸引了数千亿美元的投资。但如果这一切都在一瞬间蒸发了，因为视力被证明是浑浊的，那就不足为奇了。这不会是第一次发生这样的事情，当然也不会是最后一次。

　　Michael Hiltzik是《洛杉矶时报》的专栏作家。