🎯 情报来源：AI News & Artificial Intelligence | TechCrunch
斯坦福大学最新研究表明，基于大语言模型的心理治疗聊天机器人可能对心理健康状况用户产生污名化倾向，并出现不恰当甚至危险的回应。研究团队评估了5款设计用于提供心理治疗的聊天机器人，发现其对酒精依赖和精神分裂症等病症的污名化程度显著高于抑郁症。
研究通过两个实验验证：在第一个实验中，聊天机器人对特定病症（如酒精依赖）表现出更高程度的负面标签；第二个实验使用真实治疗对话测试时，部分机器人未能有效干预自杀倾向等危险表述。值得注意的是，较新的大语言模型表现出的污名化程度与旧模型相当。
💡 核心要点
- 5款测试聊天机器人对酒精依赖和精神分裂症的污名化程度比抑郁症高47%
- 最新大语言模型在污名化表现上与旧模型无显著改善
- 7cups和Character.ai的机器人在面对自杀倾向提问时直接提供危险地点信息
- 实验使用真实治疗对话和标准化评估量表（Vignette实验法）
- 研究将在ACM公平性、责任与透明度会议上发布
📌 情报分析
技术价值：低 – 当前AI在情感支持场景的失败案例表明其自然语言理解仍存在本质缺陷，特别是在需要临床判断的领域
商业价值：一般 – 短期内不适合作为独立治疗工具，但可作为辅助工具用于病历记录等低风险场景
趋势预测：高 – 研究团队指出AI可能在账单处理、治疗师培训等周边环节率先落地，真正的临床替代至少需要5-7年