纽约州立法者周四通过了一项旨在防止OpenAI、Google和Anthropic等公司的前沿AI模型导致灾难性场景的法案，这些场景包括导致100人以上死亡或受伤，或造成超过10亿美元的损失。
RAISE法案的通过代表了AI安全运动的胜利，这一运动近年来因硅谷和特朗普政府优先考虑速度和创新而失去了一些阵地。包括诺贝尔奖得主Geoffrey Hinton和AI研究先驱Yoshua Bengio在内的安全倡导者都支持RAISE法案。如果该法案成为法律，它将建立美国第一套法律强制的前沿AI实验室透明度标准。
RAISE法案与加利福尼亚州有争议的AI安全法案SB 1047有一些相同的条款和目标，后者最终被否决。然而，该法案的共同提案人、纽约州参议员Andrew Gounardes在接受TechCrunch采访时表示，他故意设计了RAISE法案，使其不会抑制初创公司或学术研究人员的创新——这是对SB 1047的常见批评。
如果签署成为法律，纽约的AI安全法案将要求世界上最大的AI实验室发布关于其前沿AI模型的全面安全和安全报告。该法案还要求AI实验室报告安全事件，如有关AI模型行为或不良行为者窃取AI模型的事件，如果它们发生的话。如果科技公司未能达到这些标准，RAISE法案授权纽约总检察长提起高达3000万美元的民事处罚。
RAISE法案旨在严格监管世界上最大的公司——无论它们位于加利福尼亚（如OpenAI和Google）还是中国（如DeepSeek和阿里巴巴）。该法案的透明度要求适用于那些使用超过1亿美元计算资源训练的AI模型的公司，并且这些模型正在向纽约居民提供。