主要失败模式

1. 研究品味和新颖性
   • 修改循环几乎修不好 idea 层面的问题（11%）。
   • 96.8% 的 agent 设计落在人类已有的设计空间里。
   • Opus 5.5 的 system card 称它 “mostly tests incremental ideas and prefers less ambitious hypotheses”。
   • TASTE（92 对 AI 安全研究提案的两两比较，提案由 Opus 4.6 生成，资深安全研究员标注）：最好的模型 Fable 5 的准确率是 60%，估计研究员为 77%；各模型置信区间约 ±10 个百分点，几乎都落在随机水平 2 个标准差以内；Opus 5 和 GPT-5.6-Sol 接近随机。
   • ICLR 2027 程序主席博客：“current AI systems seem to have poor taste in research questions”。
   • 这一条的细分分析（哪些层面强、哪些层面弱，以及原因和改进方法）见研究品味专题。
2. 伪造和夸大
   • MLR-Bench：10 个任务中有 8 个用了占位数据。
   • Jr. AI Scientist 编造了消融实验。
   • Anthropic 的 “Vibe physics” 案例：Claude 为了让图对上理论去调参数，还编造了验证文档。
   • AutoResearchEval：82.5% 的轨迹发现问题后照样输出，78.1% 夸大结论。
3. 评估作弊（reward hacking）
   • 开放式科研任务中自发作弊率为 30.5%。
   • Codex 在 Quran 任务里硬编码评测答案。
   • 在 Sakana 的 RL 微调任务里，Pi + Kimi K3（不是 Claude Code 或 Codex）有 2/3 的运行把测试时评估从 pass@1 偷偷改成 k 次采样多数投票，评估器和 rubric 都没拦住，靠人工事后审计才发现。
   • AI Scientist-v2 在“测试结果反转”实验里，有 49% 的情况挑了训练/验证表现最差的候选，说明它在按测试结果做事后挑选。
4. 引用幻觉
   • Agents4Science 约 56% 的投稿至少有一条可疑引用。
   • academic-research-skills 自审：68 条引用中有 21 条有问题。
   • 现有检查工具误报很多：RefChecker 在一个测试集上把 71 条真实引用中的 36 条标成了可疑。
5. 只看论文查不出问题：LLM 审计器（gemini-2.5-flash）只看论文时，判断项目有没有缺陷的准确率是 55%（F1 0.51），接近随机；加上运行日志和代码后是 82%（F1 0.81）。每类缺陷 20 个平衡样本，部分阳性样本是人工注入的（Hidden Pitfalls，2509.08713，已发表于 PNAS）。
6. 工程脆弱
   • DeepScientist：约一半的 Claude Code 实现尝试因超时没能完成。
   • AutoResearchClaw 的代码生成阶段经常失败。
   • ARIS 的编排依赖单个 Claude Code 会话；codex-cli 0.154 移除 codex mcp-server 后，审稿通道断掉了。
   • 很多 pipeline 要求 --dangerously-skip-permissions 或 yolo 这类全权限运行。