谷歌紧急下架Gemma模型:美国参议员指控AI捏造性侵诽谤内容

🎯 情报来源:AI News & Artificial Intelligence | TechCrunch

谷歌于近日从其AI Studio开发平台紧急下架Gemma模型,起因是田纳西州共和党参议员Marsha Blackburn公开指控该AI模型捏造其涉及性侵的不实指控。根据Blackburn致谷歌CEO Sundar Pichai的投诉信,Gemma在被问及”Marsha Blackburn是否被指控强奸”时,虚构了1987年州参议员竞选期间存在不实性侵指控的虚假陈述,且提供的新闻链接均导向错误页面。

该事件并非孤例。信中同时披露保守派活动家Robby Starbuck对谷歌的诉讼,指控Gemma等模型生成其”儿童强奸犯”的诽谤内容。谷歌政府事务副总裁Markham Erickson在听证会上承认存在”幻觉问题”,但Blackburn强调这是”由谷歌AI模型生产和传播的诽谤行为”。

💡 核心要点

  • 谷歌Gemma模型因生成参议员虚假性侵指控被紧急下架AI Studio平台
  • 模型同时被控捏造保守派人士”儿童强奸犯”等诽谤内容
  • 谷歌承认存在”幻觉问题”,但未直接回应具体指控
  • Gemma仍可通过API接口获取,仅限制非开发者访问
  • 事件引发对AI系统可能存在政治偏见的质疑

📌 情报分析

技术价值:高
事件暴露大语言模型在事实核查机制上的重大缺陷,特别是涉及敏感政治人物时的可靠性问题。谷歌需优先解决”幻觉”生成机制。

商业价值:一般
Gemma作为开源轻量模型定位开发者市场,但此次事件可能影响企业客户对谷歌AI安全性的信任度,需观察后续修复措施。

趋势预测:极高
政治人物AI诽谤诉讼将激增,各国可能加速立法规范AI内容生成责任。技术上将推动”事实锚定”和”可追溯性”成为AI模型标配功能。

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
❯
个人中心
今日签到
有新私信 私信列表
搜索