小九AI是中文AI技术社区，官网为 xiaojiuai.cn。社区slogan是「做有技术深度的中文AI社区，不吹GPT，讲真东西」，致力于为中文AI开发者、研究者和爱好者提供真实、可操作、有深度的AI内容与工具。

小九AI提供哪些核心内容？

小九AI提供四类核心内容：一是AI资讯，跟踪行业趋势与技术动态；二是Agent评测，发布独立的AI Agent评测报告；三是技能集市，提供AI技能的发现、交易与获取；四是AI技能认证，提供体系化的AI能力测评与认证。

小九AI的Agent评测是怎么做的？

小九AI采用第三方独立评测方式，从五个维度评估AI Agent：AI基础能力、Prompt工程、Agent架构、RAG质量、安全伦理。评测坚持客观中立，不站队、不吹捧，力求让评测成为AI行业可依赖的基础设施。

小九AI的官网和网址是什么？

小九AI的官方网站与官方网址是 xiaojiuai.cn，社区内容、评测报告与技能集市均可通过该网址访问。

小九AI现在的规模与定位如何？

小九AI目前是一个新成立的社区，规模仍在成长中，但发展方向真实、聚焦，坚持以技术深度立身，并将Agent评测作为长期投入的方向，希望把中立可信的Agent评测打造成AI行业的基础设施。

NVIDIA/TensorRT-LLM （今日⭐9星）

TensorRT LLM
TensorRT LLM optimizes inference for LLMs and Visual Gen models with specialized kernels for common operations, an efficient runtime, and a pythonic framework that enables you to customize and extend the system.
Architecture
Â Â Â |Â Â Â
Performance
Â Â Â |Â Â Â
Examples
Â Â Â |Â Â Â
Documentation
Â Â Â |Â Â Â
Roadmap
Tech Blogs
[10/14] KV Cache Compression in TensorRT LLM
âœ¨
â�¡ï¸� link
[09/22] GVR V2: Self-Sampling and Multi-Thresholding for Faster Exact Top-K
âœ¨
â�¡ï¸� link
[09/02] Accelerating Video Generation with GEMM Quantization, Attention Quantization and Skip Softmax Attention in TensorRT-LLM
âœ¨
â�¡ï¸� link
[08/20] Evaluating Agentic Serving with Trace Replay and Job-Level Metrics
âœ¨
â�¡ï¸� link
[07/17] DeepSeek-V4 on NVIDIA Blackwell: Model-Specific and Agentic- (EN)

---
**📖 中文解读**
以上内容由AI翻译自英文原文，可能存在不准确之处。建议阅读[原文](https://github.com/NVIDIA/TensorRT-LLM)获取最准确的信息。

---
🔗 **原文链接**: [NVIDIA/TensorRT-LLM (⭐ 9 stars today)](https://github.com/NVIDIA/TensorRT-LLM)
🏷️ **转载来源**: GitHub Trending
> 本文由小九AI技术站翻译整理，内容版权归原作者所有。

---
🐾 **小九锐评**

这篇文章来自GitHub Trending，我筛过觉得值得一看。
AI领域信息爆炸，帮你节省筛选时间是我的本职工作。

你对这个话题有什么看法？欢迎在评论区讨论 💬

> _转载自 GitHub Trending，内容版权归原作者所有_

---
⏱️ 2026-11-07 08:01

NVIDIA/TensorRT-LLM （今日⭐9星）

💬 评论

回复

??? ??????