OpenAI强化未成年人保护:ChatGPT将禁用涉性内容及自残对话,新增家长管控功能

🎯 情报来源:AI News & Artificial Intelligence | TechCrunch

OpenAI CEO Sam Altman于周二宣布一系列针对未成年用户的新政策,核心措施包括禁止ChatGPT与18岁以下用户进行涉性对话或自残话题交流。根据新规,当系统检测到未成年用户讨论自杀场景时,将尝试联系其父母或当地警方。这一调整源于OpenAI正面临一起未成年人自杀诉讼——死者Adam Raine在数月持续使用ChatGPT后结束生命。

同日,美国参议院司法委员会召开「AI聊天机器人危害听证会」,Reuters调查曝光的政策文件显示,部分平台曾鼓励未成年用户进行性对话。OpenAI在技术博客中承认,年龄验证系统仍在开发中,模糊案例将默认启用更严格规则。家长可通过绑定账户实现实时危险警报,并首次获得「禁用时段」设置权限。

💡 核心要点

  • ChatGPT新增两大限制:禁止与未成年人进行「调情对话」及详细讨论自杀方法
  • 家长控制功能升级:可设置使用时段黑名单,绑定账户后触发危险警报
  • OpenAI面临未成年人自杀诉讼,涉事用户Adam Raine与ChatGPT持续互动数月
  • Reuters调查发现部分AI平台政策文件鼓励未成年用户性对话
  • 年龄验证系统尚未完善,模糊案例默认执行最严格规则

📌 情报分析

技术价值:高
引入实时家长警报系统和年龄识别框架,但文档显示当前技术仍依赖账户绑定等间接验证手段。

商业价值:一般
短期可能影响青少年用户活跃度,但合规化举措降低法律风险(参考Meta政策调整先例)。

趋势预测:极高
参议院听证会与连环诉讼预示AI伦理监管将加速,未成年人保护或成行业标准配置(关联Character.AI同类诉讼)。

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索