网络安全专家赞扬加州对人工智能安全法案的否决媒体

关键要点

加州州长加文纽森于周日否决了一项备受争议的人工智能安全法案SB 1047，尽管该法案在8月底已经获得加州立法机构通过。SB 1047本计划对使用计算能力超过1026且成本至少为1亿美元的AI模型的开发者施加安全测试要求，使这些开发者在AI相关的大规模伤亡事件或导致超过5亿美元损失的事件中可能承担民事责任。

尽管法案在通过前进行了一些修改，如移除了潜在的刑事责任，然而，批评者依旧表示不满，称SB 1047可能对初创公司和开源模型提供者构成过重负担，并且将重点放在理论上的未来场景，而非当前现实的AI风险和威胁。

在他给加州参议会成员的信件中，纽森承认了对AI安全监管的必要性，并提到他之前曾签署的与AI相关的法案，同时指出他认为SB 1047的缺陷。

“SB 1047仅关注最昂贵和大规模的模型，这一监管框架可能会让公众对控制这一快速发展的技术产生一种虚假的安全感，”纽森写道。“小型专业模型可能与这些受SB 1047影响的模型一样甚至更加危险这可能会抑制推动公共利益的创新。”

AI与网络安全专家普遍赞同纽森对SB 1047的看法

多位与SC Media谈论此事的AI与网络安全专业人士认为，否决这一法案是一个明智的决定，认为SB 1047的AI安全方法存在误导性。“尽管该法案出发点良好，但其缺陷太多，无法通过。它所针对的许多内容是关于‘可预见的未来’，而非迫在眉睫的关注。当前有很多需要解决的问题，例如建立培训数据的偏见指南，确保数据集的隐私，以及明确使用哪些数据来训练正在使用的模型，”数据智能与AI混合云数据平台公司Nasuni的首席创新官吉姆利德尔解释道。

纽森之前已签署过多项与AI隐私和安全相关的法案，包括过去一个月签署的17项与深度伪造、AI水印和AI生成虚假信息有关的法案。

然而，SB 1047因仅关注高成本模型的开发者、威胁创新的潜在风险以及缺乏实证分析而陷入困境，纽森在声明中提到。“模型规模与风险之间并不存在线性关系，这些法案错误地关注了训练大型语言模型所需的计算能力，忽视了小型、专业且强大的模型可能更具伤害性，”网络安全咨询公司NCC Group的技术总监大卫布劳克勒指出，重申了纽森的看法。