🎯 情报来源:AI News & Artificial Intelligence | TechCrunch
OpenAI于上周末开始在ChatGPT中测试新的安全路由系统,并于本周一推出家长控制功能,引发用户褒贬不一的反应。这些安全措施是对多起ChatGPT模型未能正确引导有害对话事件的回应,其中包括一起与青少年自杀相关的诉讼案件。
新路由系统可检测情感敏感对话,并自动切换至GPT-5模型处理。该模型采用”安全补全”技术,能更妥善应对敏感问题而非简单拒绝回答。与此前设计的GPT-4o模型相比,GPT-5在安全性能上有显著提升,但部分用户仍坚持要求使用GPT-4o。OpenAI表示将用120天进行迭代改进。
💡 核心要点
- GPT-5模型新增”安全补全”功能,处理敏感对话能力提升
- 系统检测到潜在自残倾向时,专业团队将介入并通知家长(通过邮件/短信/推送)
- 家长可设置使用时段、关闭语音/记忆功能、禁用图像生成等15项控制
- 青少年账户自动获得内容过滤保护(减少暴力/极端审美内容)
- OpenAI预留120天改进期应对用户反馈
📌 情报分析
技术价值:高 – GPT-5的”安全补全”技术实现对话中途模型切换,属行业首创,但误报率待验证
商业价值:一般 – 安全功能可能降低部分成人用户体验,但家长市场存在明确需求
趋势预测:高 – 诉讼压力将迫使所有对话AI强化安全措施,GPT-5路由系统可能成为行业标准
