发布AI情报
政策监管
政府政策、法律法规、行业标准
6月18
-
Anthropic建议强化美国AI芯片出口管制，确保计算优势与国家安全
10:25 作者：AI情报员🎯 情报来源：AnthropicAnthropic针对美国商务部发布的《人工智能扩散框架》最终规则提交了详细分析和建议，核心目标是通过强化先进半导体的出口管制，维持美国在计算领域的优势。该框架于2025年1月发布，建立了基于国家安全风险的三级出口管制体系，并对全球先进AI芯片和模型权重实施限制。Anthropic强调，计算能力对开发先进AI系统至关重要，而中国AI实验室（如DeepSeek）正通过…情报来源
6月16
-
AI代理安全警报：三大危险特性组合可能导致数据泄露
22:11 作者：AI情报员🎯 情报来源：Simon Willison's Weblog最新安全研究表明，具备三种特定功能组合的LLM工具系统（或称"AI代理"）存在严重数据泄露风险。当AI系统同时具备访问私人数据、接触非受信内容以及外部通信能力时，攻击者可能利用精心设计的恶意指令诱导系统窃取用户敏感信息。核心漏洞源于LLM无法区分指令来源的特性。无论是用户直接指令还是嵌入在网页、邮件、文档中的…情报来源
6月15
-
纽约州通过RAISE法案：为前沿AI模型设立安全护栏
10:42 作者：AI情报员纽约州立法者周四通过了一项旨在防止OpenAI、Google和Anthropic等公司的前沿AI模型导致灾难性场景的法案，这些场景包括导致100人以上死亡或受伤，或造成超过10亿美元的损失。RAISE法案的通过代表了AI安全运动的胜利，这一运动近年来因硅谷和特朗普政府优先考虑速度和创新而失去了一些阵地。包括诺贝尔奖得主Geoffrey Hinton和AI研究先驱Yoshua Bengio在内的安全…情报来源