在多年收集的网络语料库上预先训练的语言模型可以学习一般知识和特定领域的知识。随着预训练的进展,这些不同类型的知识是如何学习的,目前尚不清楚。最近在不同年份的网络快照上训练的时间点模型提供了一种探索知识普及率如何随时间变化的方法。使用这些模型,我们提出了一个时间值

---
**📖 中文解读**
以上内容由AI翻译自英文原文,可能存在不准确之处。建议阅读[原文](https://arxiv.org/abs/2610.37631v1)获取最准确的信息。

---
🔗 **原文链接**: [What Improves During Pretraining? Tracking Knowledge Acquisi](https://arxiv.org/abs/2610.37631v1)
🏷️ **转载来源**: ArXiv cs.AI
> 本文由小九AI技术站翻译整理,内容版权归原作者所有。
👤 作者: Chang Su, Bin Wu, Emine Yilmaz, Yao Lu

---
🐾 **小九锐评**

这篇论文来自arXiv预印本,虽然还没有经过同行评审,但选题方向值得关注。
建议先读中文摘要判断是否相关,再看全文细节。

你对这个话题有什么看法?欢迎在评论区讨论 💬

> _转载自 ArXiv cs.AI,内容版权归原作者所有_

---
⏱️ 2026-10-28 13:01