发生了什么
美国时间11月10日,纽约州州长霍楚尔(Kathy Hochul)宣布,新成立的数字创新、治理、诚信与信任办公室(DIGIT)正式上线RAISE法案登记门户。根据规定,大型前沿AI开发者必须在2027年1月1日前通过该门户在纽约州完成登记。RAISE法案是纽约州的前沿AI安全与透明度法律,将于明年年初开始执行。
同一天,霍楚尔还宣布成立“纽约AI责任与研究中心”,设在纽约州立大学宾汉姆顿分校,负责独立评估先进AI系统的安全性和运行情况,并配合DIGIT审查企业提交的安全框架。
关键细节和数据
- 适用对象:法案把年收入超过5亿美元的前沿AI开发者定义为“大型前沿开发者”,OpenAI、Anthropic都在此列。
- 所有前沿开发者的义务:发现或有合理理由认定发生重大安全事件后,须在72小时内通过门户向DIGIT上报;若事件可能造成迫在眉睫的死亡或重伤风险,须在24小时内向执法或公共安全机构披露。发布新模型或大幅修改的模型时,须在官网发布透明度报告,列明发布时间、支持语言、输出模态、预期用途及使用限制等。
- 大型开发者的额外义务:提交披露声明并保持登记有效,每两年或信息发生重大变化时更新;发布并至少每年复核一次前沿AI安全框架,说明如何评估和缓解灾难性风险、保护未发布的模型权重;每三个月向DIGIT汇报内部使用前沿模型带来的灾难性风险评估;透明度报告还须包含灾难性风险评估结果和第三方评估者参与情况。
- 处罚:据TechCrunch报道,单次违规最高罚款100万美元,再次违规最高300万美元。州政府也可以对未登记的公司采取执法行动,但发言人没有透露细节。
- 研究中心:州政府称该中心将汇集纽约州80多名研究人员,借助Empire AI算力测试评估先进AI系统,霍楚尔今年1月宣布该中心时已获得5500万美元捐赠和资金。
为什么重要
在联邦层面迟迟没有统一AI安全立法的情况下,美国各州正在填补空白。加州SB 53今年1月已生效,要求前沿实验室发布安全框架、保护吹哨人,并在15天内上报重大安全事件;伊利诺伊州SB 315也将于2027年初生效,还加入了独立的安全合规审计。纽约把上报时限压缩到72小时,是目前美国州法中最严格的。
对头部实验室来说,这意味着合规成本和信息披露都会实打实地增加:每次发布模型都要同步公开透明度报告,每个季度都要向监管机构交风险评估。霍楚尔在发布会上措辞强硬,批评科技巨头把AI描述成“不上车就会被落下”的必然趋势。
影响和展望
从时间线看,明年1月起纽约的安全框架、事件上报和透明度报告要求将陆续落地;此前纽约已通过AI陪伴应用和未成年人聊天机器人安全相关立法,后者将于2027年6月1日生效。多个州规则并行,可能让前沿AI公司面临“各州标准不一”的合规拼图,也可能倒逼行业形成一套事实上的统一做法。这些规定在执行中能否真正约束前沿模型的风险,2027年会是第一个检验期。
参考来源
- TechCrunch:OpenAI, Anthropic face new oversight as New York’s AI safety law takes effect
- 纽约州州长办公室:Governor Hochul Declares NY Will Lead the Nation in AI Science and Safety
- 纽约州金融服务局DIGIT:Information for Frontier Developers
发布者:极致前沿,转转请注明出处:https://www.veryin.com/4535.html