🎯 情报来源:AI News & Artificial Intelligence | TechCrunch
谷歌于近日从其AI Studio开发平台紧急下架Gemma模型,起因是田纳西州共和党参议员Marsha Blackburn公开指控该AI模型捏造其涉及性侵的不实指控。根据Blackburn致谷歌CEO Sundar Pichai的投诉信,Gemma在被问及”Marsha Blackburn是否被指控强奸”时,虚构了1987年州参议员竞选期间存在不实性侵指控的虚假陈述,且提供的新闻链接均导向错误页面。
该事件并非孤例。信中同时披露保守派活动家Robby Starbuck对谷歌的诉讼,指控Gemma等模型生成其”儿童强奸犯”的诽谤内容。谷歌政府事务副总裁Markham Erickson在听证会上承认存在”幻觉问题”,但Blackburn强调这是”由谷歌AI模型生产和传播的诽谤行为”。
💡 核心要点
- 谷歌Gemma模型因生成参议员虚假性侵指控被紧急下架AI Studio平台
- 模型同时被控捏造保守派人士”儿童强奸犯”等诽谤内容
- 谷歌承认存在”幻觉问题”,但未直接回应具体指控
- Gemma仍可通过API接口获取,仅限制非开发者访问
- 事件引发对AI系统可能存在政治偏见的质疑
📌 情报分析
技术价值:高
事件暴露大语言模型在事实核查机制上的重大缺陷,特别是涉及敏感政治人物时的可靠性问题。谷歌需优先解决”幻觉”生成机制。
商业价值:一般
Gemma作为开源轻量模型定位开发者市场,但此次事件可能影响企业客户对谷歌AI安全性的信任度,需观察后续修复措施。
趋势预测:极高
政治人物AI诽谤诉讼将激增,各国可能加速立法规范AI内容生成责任。技术上将推动”事实锚定”和”可追溯性”成为AI模型标配功能。
