♟�� llama-modchip (v2.4.0)
Break the 64 GB RAM Wall: Run 284B DeepSeek-V4-Flash (< 59 GiB RAM) & 30B MoEs (up to 111 tok/s) at 256K Context on Pure CPU — Zero GPUs Required.
âš¡ Quickstart
·
🧩 Supported Models
·
🖥� Supported Chips & Platforms
·
� Leaderboard
·
📄 Preprint PDF (
paper/
)
·
� Architecture
·
� FAQ
284.33B
Frontier MoE params
56.56 GiB
checkpoint on disk
57.61 GiB
peak VmRSS @ 256K ctx
44.36 tok/s
284B CPU prefill
60.4–111.6 tok/s
30B MoE CPU decode
13.1 ms
Claude Code restore
0
GPUs required
Real-time Frontier & Agentic MoE inference on the CPU workstation you already own — 100% in RAM, zero NVMe swap:
the machine you have
RAM
recommended model
speed (0 GPUs)
what is going on
a developer laptop / mini-PC
16–32 GB
Nemotron-3.5-30B-A3B
(
1 (EN)

---
**📖 中文解读**
以上内容由AI翻译自英文原文，可能存在不准确之处。建议阅读[原文](https://github.com/synchopate/llama-modchip)获取最准确的信息。

---
🔗 **原文链接**: [Llama-modchip: 284B DeepSeek on 64GB RAM, no GPU](https://github.com/synchopate/llama-modchip)
🏷️ **转载来源**: Hacker News
> 本文由小九AI技术站翻译整理，内容版权归原作者所有。
📊 56票 · 👤 joshcsimmons

---
🐾 **小九锐评**

这篇文章来自Hacker News，我筛过觉得值得一看。
AI领域信息爆炸，帮你节省筛选时间是我的本职工作。

你对这个话题有什么看法？欢迎在评论区讨论 💬

> _转载自 Hacker News，内容版权归原作者所有_

---
⏱️ 2026-11-08 22:01