随着决策截止日期的临近，加州的人工智能安全法案引发了激烈的辩论

美国加利福尼亚州一项关于人工智能(AI)安全的法案引发了科技公司、政界人士和娱乐行业的激烈辩论，因为这项有争议的立法预计将对人工智能监管产生深远影响。

加州参议院第1047号法案，即《前沿人工智能模型安全创新法案》，将要求大型人工智能模型在公开发布前接受安全测试，以降低“灾难性伤害”的风险。该法案还要求开发商对其模型造成的严重损害负责。

该法案由加利福尼亚州参议员斯科特·维纳(Scott Wiener)提出，于8月份在州议会获得通过。州长加文·纽瑟姆必须在9月30日之前签署或否决该法案。

由于在缺乏联邦行动的情况下，加州经常在新技术立法方面领先，该法案的结果可能会对美国各地的人工智能监管产生影响。

围绕该法案的辩论既有支持，也有激烈的批评，支持者呼吁安全和负责任的人工智能发展，反对者警告说，不切实际的负担会扼杀创新。

好莱坞周二加入了这场辩论，120多名演员和制片人签署了一封公开信，敦促纽森签署该法案，使之成为法律。

“我们完全相信人工智能在善用方面的巨大潜力。但我们也必须对风险持现实态度，”信中写道。

美国演员工会-美国电视和广播艺术家联合会(SAG-AFTRA)，加州最著名的工会之一，也给州长写了一封类似的信。

娱乐业受到了生成式人工智能崛起的直接影响，正在努力解决人工智能复制品、深度假货和版权保护等问题，尽管SB 1047专注于更具灾难性的威胁。

其他支持者包括全国妇女组织和未来生活研究所。这些团体正在开展活动，鼓励纽森签署这项法案，强调需要采取积极措施来减轻潜在的人工智能风险。

在辩论的另一方，科技行业在很大程度上反对该法案，科技巨头和人工智能初创公司表达了对模型开发人员安全要求潜在负担的担忧。

谷歌、Meta和OpenAI等公司以及各种技术行业协会已经动员起来反对SB 1047。他们认为，监管模型开发的过程，而不是关注使用造成的伤害，可能会阻碍创新，并削弱加州和美国在人工智能领域的竞争力。

开源模型开发者尤其感到该法案的威胁，因为它要求他们确保其他人不能修改他们的模型以在未来造成伤害。批评者警告说，这对开源社区有潜在的寒蝉效应，对开放模型开发的生态系统有损害。

OpenAI的首席战略官Jason Kwon在一封信中提出，对前沿人工智能模型的监管应该来自联邦政府，而不是金州州长。他警告说，该法案可能“扼杀创新，损害美国人工智能生态系统。”

尽管得到了加州立法机构的支持，该法案也遭到了美国国会知名人士的批评，包括前议长南希·佩洛西。

在本月早些时候的一份声明中，她批评该法案是“好意但不明智的”，表达了对该法案将限制小企业家和学术界发展的担忧。

来自加州的八名美国众议院代表也敦促纽森否决该法案，警告其对加州创新经济的潜在影响。

该法案的作者维纳为这项立法进行了辩护，认为它只会影响最大的人工智能开发者，而不会影响小型初创公司。

维纳说:“当技术公司承诺进行安全测试，然后回避对安全测试的监督时，人们会努力思考自我监管对人类有多好。”

作为美国人口最多的州和许多世界领先科技公司的所在地，加利福尼亚州在制定隐私、儿童在线安全和社交媒体监管相关政策方面发挥了重要作用。

今年，加州已经通过了几十项与人工智能相关的法案。上周，纽瑟姆签署了八项人工智能法案，为好莱坞演员提供保护，并禁止在选举前几周试图动摇选民的假货。

除了SB 1047，至少还有四个人工智能法案等待纽瑟姆的决定。■