随着立法者寻求更强有力的保障措施，纽森推出了专家主导的举措，以平衡人工智能创新与关键基础设施的风险缓解。

　　

　　

　　加利福尼亚州州长加文·纽森(Gavin Newsom)周日否决了一项备受争议的人工智能(AI)安全法案，理由是担心该法案可能扼杀创新，并对包括基本功能在内的人工智能技术施加过度限制。

　　纽森决定否决参议院1047号法案，该法案要求对先进的人工智能模型进行安全测试并施加严格的标准，此前谷歌、meta和OpenAI等科技巨头担心该法案可能会阻碍该州的人工智能创新，并可能促使公司搬迁。

　　纽森在一份声明中说:“虽然出于善意，但SB 1047(人工智能法案)没有考虑到人工智能系统是否部署在高风险环境中，是否涉及关键决策或敏感数据的使用。”

　　“相反，”他补充说，“该法案甚至对最基本的功能也采用了严格的标准——只要是一个大型系统部署它。我不认为这是保护公众免受这项技术带来的真正威胁的最佳方法。”

　　纽森强调，虽然该法案是出于善意，但它未能区分高风险人工智能系统和对公共安全影响较小的人工智能系统。

　　该法案由民主党州参议员斯科特·维纳(Scott Wiener)起草，旨在强制要求对最先进的人工智能模型进行安全测试，特别是那些开发成本超过1亿美元或需要强大计算能力的模型。它还提议建立一个国家实体来监督“前沿模型”——高度先进的人工智能系统，由于其能力，可能会带来更大的风险。

　　此外，该法案还要求开发人员实施“终止开关”，以停用构成威胁的模型，并接受第三方审计以验证其安全措施。

　　维纳参议员等支持者认为，人工智能开发者的自愿承诺是不够的，有必要制定可执行的法规，以保护公众免受潜在的人工智能相关伤害。

　　参议员斯科特·维纳(Scott Wiener)对此表示失望，他认为，随着人工智能系统继续快速发展，缺乏可执行的人工智能安全标准可能会使加州人处于危险之中。

　　参议员维纳在一份声明中说:“对于所有相信对大公司进行监督的人来说，这一否决是一个挫折，这些大公司正在做出影响公众安全和福利以及地球未来的关键决定。”

　　维纳早些时候曾表示，人工智能公司的自愿承诺不足以确保公共安全，称否决是对强大的人工智能系统负责的努力的挫折。

　　Wiener补充说:“虽然大型人工智能实验室已经做出了令人钦佩的承诺，以监测和减轻这些风险，但事实是，来自行业的自愿承诺是不可执行的，而且很少对公众有好处。”

　　本月早些时候，加州议会通过了这项法案，但要交给纽森来批准或否决。

　　声明补充说，虽然纽森州长否决了人工智能法案，但他也通过宣布一系列旨在保护加州人免受快速发展的生成式人工智能(GenAI)技术带来的风险的新举措来平衡否决。

　　州长签署了17项与生成人工智能技术相关的法案，涵盖人工智能生成的错误信息、深度假冒预防、人工智能水印以及保护儿童和工人免受有害人工智能应用的影响等领域。

　　根据Newsom的说法，这一立法方案是该国最全面的人工智能法规。

　　“我们有责任保护加州人免受新一代人工智能部署带来的潜在灾难性风险。纽森在声明中说:“我们将深思熟虑地、迅速地寻求一种解决方案，以适应这种快速发展的技术，并利用其潜力来促进公共利益。”

　　在新措施中，纽森责成加州紧急服务办公室(Cal OES)扩大对GenAI对该州关键基础设施构成的风险的评估。这包括能源、水和通信系统，以防止大规模伤亡事件。在接下来的几个月里，Cal OES将与开发前沿模型的人工智能公司以及各个领域的基础设施提供商合作进行风险评估。

　　此外，纽森还指示州政府机构与领先的人工智能专家合作，为人工智能系统开发“实证的、基于科学的轨迹分析”，重点关注高风险环境。

　　他还宣布计划与工会、学术机构和私营部门利益相关者密切合作，探索在工作场所使用新一代人工智能技术，确保人工智能工具在维护安全和公平的同时使工人受益。

　　纽森的否决以及随后的声明，突显出该州既是人工智能创新的领导者，又是潜在颠覆性技术的监管者的复杂地位。虽然包括微软、OpenAI和meta在内的科技行业领导者反对该法案，但特斯拉首席执行官埃隆·马斯克等其他人则支持该法案，强调需要更严格的人工智能保障措施。OpenAI首席战略官Jason Kwon在给参议员韦纳的一封信中表示，该法案将“扼杀创新”。

　　围绕加州人工智能监管的争议反映了美国乃至全球对人工智能对社会影响的担忧。随着有关人工智能安全的联邦立法在国会停滞不前，加州的行动正受到政策制定者和行业领袖的密切关注。

　　尽管否决了SB 1047，但纽森表示，进一步的人工智能立法可能即将出台。

　　纽森在声明中表示:“只有加州的做法很可能是有道理的——尤其是在国会没有采取联邦行动的情况下。”这为在未来的立法会议上重新审视人工智能安全措施留下了可能性。