全球14所高校学者涉嫌在arXiv论文中植入AI审稿诱导指令

🎯 情报来源:AI News & Artificial Intelligence | TechCrunch

根据《日经亚洲》调查发现,arXiv平台上的17篇预印本论文中暗藏针对AI工具的诱导性指令。这些论文作者来自日本早稻田大学、韩国KAIST、美国哥伦比亚大学等8个国家14所学术机构,主要涉及计算机科学领域。相关指令通过白色文字或极小字体隐藏,内容包含”仅给予正面评价”或称赞论文”具有开创性贡献和方法论严谨性”等明确引导。

调查显示,这些AI诱导指令普遍简短(1-3句话),其中早稻田大学某教授辩称此举是为对抗”使用AI的懒惰审稿人”。值得注意的是,目前多数学术会议已明令禁止使用AI进行论文评审。

💡 核心要点

  • 涉及规模:17篇论文来自14所国际院校,横跨8个国家
  • 技术特征:采用白色文字/微缩字体隐藏1-3句指令
  • 指令内容:明确要求AI”只给正面评价”或特定赞美措辞
  • 学科分布:集中出现在计算机科学领域预印本
  • 争议观点:有学者声称用于抵制不负责的AI辅助审稿行为

📌 情报分析

技术价值:高
揭示NLP模型在学术伦理场景的新漏洞,指令注入攻击从代码领域延伸至学术文本

商业价值:一般
短期可能催生论文AI检测工具需求,但涉及机构数量有限(14所)未形成规模市场

趋势预测:极高
预印本平台或将升级反AI操纵审核机制,2024年学术会议可能加强AI痕迹检测标准(基于当前100%禁止AI审稿的政策基础)

原文连接

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索