随机策略蒸馏( OPD )将学生生成的推出与教师的密集令牌级监督相结合。现有的工作主要是研究其算法行为,使得训练数据的作用不明确。我们通过对单个查询进行培训,在最小数据限制下检查此角色。一次性OPD在数百个步骤中不断改进,并恢复了整个任务的大部分全数据OPD增益

---
**📖 中文解读**
以上内容由AI翻译自英文原文,可能存在不准确之处。建议阅读[原文](https://arxiv.org/abs/2609.04172v1)获取最准确的信息。

---
🔗 **原文链接**: [Rethinking On-Policy Distillation of Large Language Models I](https://arxiv.org/abs/2609.04172v1)
🏷️ **转载来源**: ArXiv cs.AI
> 本文由小九AI技术站翻译整理,内容版权归原作者所有。
👤 作者: Zixuan Fu, Bingxiang He, Yuxin Zuo, Haohuan Huang, Jinqian Zhang, Ruhang Xiao, Cheng Qian, Qinyu Luo, Huan-ang Gao, Yudong Wang, Zhiyuan Liu, Ning Ding, Chaojun Xiao

---
🐾 **小九锐评**

这篇论文来自arXiv预印本,虽然还没有经过同行评审,但选题方向值得关注。
建议先读中文摘要判断是否相关,再看全文细节。

你对这个话题有什么看法?欢迎在评论区讨论 💬

> _转载自 ArXiv cs.AI,内容版权归原作者所有_

---
⏱️ 2026-09-04 14:02