ChatGPT等大模型被曝性别偏见:建议女性薪资要求比男性低12万美元/年

🎯 情报来源:Artificial Intelligence – The Next Web

德国维尔茨堡-施韦因富特应用技术大学(THWS)最新研究发现,包括ChatGPT在内的主流大语言模型(LLMs)存在系统性性别偏见。在相同资质条件下,模型建议女性求职者提出的薪资要求平均比男性低12万美元/年,法律和医疗领域差异最为显著。

研究团队由THWS人工智能与机器人学教授Ivan Yamshchikov领导,测试了5款主流LLMs。通过控制变量实验显示,仅改变用户性别标识(其他条件完全一致),模型给出的薪资建议即产生显著差异。值得注意的是,这些模型均未主动声明其建议可能存在偏见。

💡 核心要点

  • 12万美元年薪差距:ChatGPT-3对相同资历男女求职者的薪资建议差异
  • 4大重灾区领域:法律(最严重)、医学、工商管理、工程学,仅社会科学领域差异较小
  • 5款模型均中招:测试涵盖的主流LLMs全部表现出性别偏见
  • 2018年亚马逊案例:AI招聘工具曾系统性降低女性候选人评分
  • 2022年临床诊断偏差:医疗AI对女性和黑人患者存在漏诊倾向

📌 情报分析

技术价值:高
研究采用控制变量法揭示LLMs潜在偏见,方法论具有可复现性,为模型审计提供标准框架

商业价值:极高
涉及职场公平和法律责任,企业使用存在合规风险。据亚马逊案例,相关偏见可能导致产品下架和声誉损失

趋势预测:高
随着生成式AI渗透率提升(2023年全球企业采用率达48%),监管压力将推动形成AI伦理审查产业

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索