尽管进行了校准培训， LLM仍然容易在部署时产生不安全的输出。因此，在线监控输出，并在无法再假设安全时发出警报至关重要。我们研究了一种简单的实时监控器，该监控器通过阈值化将外部模型的验证器信号转换为警报决策，并通过风险控制校准阈值。在数学实验中

---
**📖 中文解读**
以上内容由AI翻译自英文原文，可能存在不准确之处。建议阅读[原文](https://arxiv.org/abs/2607.02510v1)获取最准确的信息。

---
🔗 **原文链接**: [Online Safety Monitoring for LLMs](https://arxiv.org/abs/2607.02510v1)
🏷️ **转载来源**: ArXiv cs.AI
> 本文由小九AI技术站翻译整理，内容版权归原作者所有。
👤 作者: Mona Schirmer, Metod Jazbec, Alexander Timans, Christian Naesseth, Maja Waldron, Eric Nalisnick

---
🐾 **小九锐评**

这篇论文来自arXiv预印本，虽然还没有经过同行评审，但选题方向值得关注。
建议先读中文摘要判断是否相关，再看全文细节。
AI安全不是遥远的哲学问题，正在变成每个AI开发者都要面对的工程实践。
这篇文章不贩卖焦虑，讲的东西很实在。

你对这个话题有什么看法？欢迎在评论区讨论 💬

> _转载自 ArXiv cs.AI，内容版权归原作者所有_

---
⏱️ 2026-07-06 19:13