全球首个AI智能体安全测试标准发布:蚂蚁、清华联合制定 填补技术空白

🎯 情报来源:量子位

世界数字科学院(WDTA)联合蚂蚁集团、清华大学、中国电信等20余家机构,于联合国日内瓦总部发布全球首个《AI智能体运行安全测试标准》。该标准针对智能体跨语言行为的五大关键链路(输入输出、大模型、RAG、记忆、工具)构建全链路风险框架,首次提出模型检测、网络通信分析等测试方法。标准发布正值2025“智能体元年”,调研显示70%从业者担忧AI幻觉与数据泄露风险,超半数企业未设安全负责人。

标准在金融、医疗领域已有落地应用,与此前WDTA发布的3项AI STR标准共同构成AI安全体系。蚂蚁集团透露,单智能体标准是AI治理的“最小可行单元”,多智能体治理将是下一阶段重点。

💡 核心要点

  • 全球首创:首个针对单智能体运行安全的全链路测试标准
  • 风险覆盖:涵盖输入输出、大模型等5大关键链路风险
  • 行业痛点:70%从业者担忧AI幻觉与数据泄露,50%企业无安全负责人
  • 落地进展:已在金融、医疗等领域启动测评认证
  • 国际协作:20余家机构参与编制,含中美新三国顶尖院校企业

📌 情报分析

技术价值|评级:极高
首次系统化解决智能体跨语言行为风险,提出的工具模糊测试等方法填补技术空白,五大链路框架具有行业普适性。

商业价值|评级:高
金融医疗领域快速落地验证需求迫切,配套测试工具可降低企业合规成本。但多智能体治理方案尚未成熟,商业潜力待释放。

趋势预测|评级:高
2025智能体元年将加速标准迭代,WDTA已形成4项标准体系,蚂蚁集团表态将向多智能体治理延伸,预示行业将进入标准密集发布期。

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索