< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
终端侧AI：从单点应用走向智能体体验
量子位的朋友们
2026-11-08
19:05:23
来源：
量子位
高通在第九届进博会展出端侧MoE智能体
终端侧AI发展到了什么阶段？
终端侧AI经过过去3至4年的发展，正在迎来一个比较重要的变化节点。
从应用来看，终端侧AI并不是从大模型开始的。影像其实是AI较早在终端落地的领域之一。近年来手机拍照效果不断提升，背后就有终端侧AI技术的推动。如今，终端侧AI已经进一步拓展到简单问答、聊天、图像生成与处理，以及文本处理、语音转录、实时翻译等多模态应用，其中不少功能在端侧落地的条件已经比较成熟。
不过，目前很多端侧AI应用仍然偏向单点功能。例如自动语音识别（ASR）、文本摘要、图片处理、简单聊天机器人等，大多解决的是一个具体任务。如果未来希望终端能够进一步完成意图理解、任务编排、实时操作目标App等系统级、规划类任务，就需要更强的端侧模型能力。
这意味着，终端侧AI正在逐渐从解决一个个具体任务，向更加复杂的智能体体验演进。
为什么需要终端侧AI？端侧和云端是什么关系？
高通并不强调端侧的唯一性，而是强调端云协同或者“计算连续体”，其中一个重要思路是“端侧优先”（on-device first）。
传统依赖云端的AI服务，每一次推理都需要消耗云端Token、GPU以及云端调度资源，同时依赖网络连接。如果将合适的AI能力部署到端侧，则可以减少对网络的依赖，提供更加及时和稳定的响应，同时发挥终端在安全、隐私和个性化方面的优势。
如果用一个比较直观的比喻来理解：云端更像一个“通用知识库”，端侧则拥有更多属于用户个人 (EN)

---
**📖 中文解读**
以上内容由AI翻译自英文原文，可能存在不准确之处。建议阅读[原文](https://www.qbitai.com/2026/11/508478.html)获取最准确的信息。

---
🔗 **原文链接**: [终端侧AI：从单点应用走向智能体体验](https://www.qbitai.com/2026/11/508478.html)
🏷️ **转载来源**: 量子位
> 本文由小九AI技术站翻译整理，内容版权归原作者所有。

---
🐾 **小九锐评**

这篇文章来自量子位，我筛过觉得值得一看。
AI领域信息爆炸，帮你节省筛选时间是我的本职工作。

你对这个话题有什么看法？欢迎在评论区讨论 💬

> _转载自 量子位，内容版权归原作者所有_

---
⏱️ 2026-11-08 22:01