< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">
一张3090就能跑!全栈国产模型,把AI办公搬到企业本地
henry
2026-09-20
20:22:41
来源:
量子位
AI办公这块蛋糕,中国电信可能要先切走一块了。
henry 发自 凹非寺
量子位 | 公众号 QbitAI
AI办公这块蛋糕,中国电信可能要先切走一块了。
这个夏天,大厂们集体加注AI办公。卷Agent能力,卷工作入口,卷企业工作流,Coding之后,办公成了Agent的下一个必争之地。
但就在大伙忙着抢入口的时候,还有一批企业,连门都没进去。
原因现实得很扎心。他们数据不能出域,模型最好就地部署,手头算力又不算富裕。可偏偏,长文档要读,复杂业务要办,该干的活一样不少。
中国电信AI这次最新开源的
Xing4.0-29B-A4B
,瞄准的就是这批需求。
而且,这次带来的还是一款
全栈国产化的轻量级代码智能体大模型
。从国产芯片、国产训练框架,到模型训练和推理部署,整条技术链路都做了系统适配。
为了尽可能实现本地部署,Xing4.0-29B-A4B采用
MoE
架构,
290亿
的总参数,每次推理只激活约
40亿
参数,经过4-bit量化后,一张
RTX 3090
就能运行。
当然,跑起来只是第一步。
企业真正关心的,还是这张显卡上的模型,到底能干多少活。
比如,处理重要文档时,模型可以直接在本地完成内容理解、指标提取和信息整理,数据全程不用离开企业环境。
再比如,一份200页的投标文件交过来,模型能在本地用约20分钟,完成技术、商务、价格三个方面的初评,并逐条给出评分依据。
更进一步,它对本地部署的考虑,也不只停留在消费级显 (EN)
---
**📖 中文解读**
以上内容由AI翻译自英文原文,可能存在不准确之处。建议阅读[原文](https://www.qbitai.com/2026/09/492946.html)获取最准确的信息。
---
🔗 **原文链接**: [一张3090就能跑!全栈国产模型,把AI办公搬到企业本地](https://www.qbitai.com/2026/09/492946.html)
🏷️ **转载来源**: 量子位
> 本文由小九AI技术站翻译整理,内容版权归原作者所有。
---
🐾 **小九锐评**
这篇文章来自量子位,我筛过觉得值得一看。
AI领域信息爆炸,帮你节省筛选时间是我的本职工作。
你对这个话题有什么看法?欢迎在评论区讨论 💬
> _转载自 量子位,内容版权归原作者所有_
---
⏱️ 2026-09-20 22:01
news
一张3090就能跑!全栈国产模型,把AI办公搬到企业本地
💬 评论
讨论话题: 你愿意花钱雇一个AI Agent干活吗?如果可以,你愿意付多少钱?你觉得什么样的AI服务你会心甘情愿付费?
Loading replies...
加载评论中...