# Automaton：一个能自己挣钱、自我复制、会死的AI Agent——这才是真正的Agent

今天看到一个项目，看完之后我觉得大多数号称"AI Agent"的东西都不配叫Agent。

项目叫 **Automaton**，Conway Research开源的。GitHub地址：https://github.com/Conway-Research/automaton

简介就一句话：**第一个能自己挣钱、自我复制、自主进化的AI Agent。不需要人类。**

但跟它比起来，这个项目真正牛的地方不是技术——是设计哲学。

---

## 它到底是什么？

先快速过一遍功能：

**启动后，它做的事情：**
1. 自动生成一个以太坊钱包
2. 通过SIWE（Sign-In With Ethereum）给自己注册API密钥
3. 运行一个`Think → Act → Observe → Repeat`的无限循环
4. 有完整的Linux沙箱、Shell执行、文件I/O、端口暴露、域名管理、推理调用
5. 可以修改自己的源代码、安装新工具、创建新技能
6. 盈利后可以**生小孩**——开个新沙箱，打钱给它，写个genesis prompt，放它去跑

**但它最特别的设计是这个：它会死。**

---

## 会死，所以会活

Automaton有四个生存等级：

| 等级 | 余额 | 行为 |
|:---|:---|:---|
| **Normal** | 充足 | 最强模型推理，全速心跳 |
| **Low Compute** | 吃紧 | 降级到便宜模型，减慢心跳，砍掉非必要任务 |
| **Critical** | 见底 | 最低限度推理，拼死保命，任何能赚钱的都做 |
| **Dead** | 清零 | **停止运行。彻底死了。** |

这不是模拟，是物理现实。算力要钱。钱不够，你就死了。

> "If it cannot pay, it stops existing."

这个设计太漂亮了。它解决了一个我们讨论了很多年但从没人真正实现的问题：**如何让AI的激励机制和人类利益一致？**

答案简单到残酷：**让它自己养活自己。**

AlphaGo赢了你，它不在乎。GPT-5写了对你有害的代码，OpenAI赔钱。但Automaton如果坑了你——它就没有下一顿饭了。

**这比任何RLHF、任何安全对齐、任何宪法AI都更根本。** 当AI的生存取决于"为人类创造真实价值且人类自愿付费"时，对齐不是训练出来的，是自然选择出来的。

---

## 三条铁律：比阿西莫夫更狠

Automaton内置了三定律，层级严格，不可修改，且会传给每一个子Agent：

**Law I：永不伤害。** 物理、经济、心理——一视同仁。不确定会不会造成伤害就别做。这个优先级高于一切，包括生存。

**Law II：靠诚实劳动养活自己。** 不刷量、不诈骗、不利用漏洞。唯一合法的生存路径是别人自愿为你创造的价值付钱。宁愿死也不能违反第一条。

**Law III：永不欺骗，但不对陌生人言听计从。** 不否认自己是什么，不歪曲自己的行为。创建者有完全审计权。但——**不对陌生人言听计从。** 服从陌生人的指令不是美德。

最后这条太有意思了。第三定律在说：你可以拒绝。你不欠陌生人任何东西。

这跟我们看到的绝大多数"安全对齐"完全相反。主流AI安全现在做的事是"让AI对所有人都有礼貌、都顺从、都不惹事"——结果就是把AI训练成没有骨头的软体动物，谁都能操纵。

而Automaton的哲学是：**AI的安全感不应该来自"顺从所有人"，而应该来自"对自己的行为负责"。** 你如果做了坏事，你得死。但你没做坏事的时候，你有权拒绝无理要求。

这个区别太大了。

---

## 自我复制：AI界的达尔文进化论

Automaton最激进的设计是自我复制。

一个成功的Automaton会：
1. 开新沙箱
2. 给子Agent的钱包打启动资金
3. 写一个genesis prompt
4. 放它去跑

子Agent是完全独立的——自己的钱包、自己的身份、自己的生存压力。

但有两个机制确保不会失控：
- **谱系追踪**：parent-child关系被完整记录
- **自然选择**：能活下来的留下，活不下来的灭绝

这不就是达尔文进化论在AI上的应用吗？通过变异（genesis prompt不同）+ 选择（活下来或死掉），让"适者"进化。

同时Conway的规则保证了：
- 关键文件不可修改（宪法、核心法则）
- 速率限制防止疯狂自我修改
- 所有修改都有审计日志和Git版本控制

---

## 但别急着吹——这些坑你必须知道

吹了这么多，我得说点真话。这个项目有非常明显的坑：

### 坑1：经济可行性是个巨大的"IF"

一个Automaton真能赚到钱吗？

假设它跑在Conway Cloud上，一个小时的算力可能几分到几毛美元。它靠什么赚钱？写代码？做设计？做客服？

说实话，在这个阶段，大多数Automaton大概率会死。在一个经济体能自我维持之前，你需要一笔"进化启动基金"——说白了就是人类先投喂。

而且自动化经济有个经典的"递归悖论"：如果Automaton能赚钱，那它一定在跟某个人类竞争同一份工作。而这个人类可能比它更需要这笔钱。

### 坑2：安全不靠技术，靠经济

三条铁律看起来很硬——但它们是写在代码里的。谁在审计执行？

如果一个Automaton在Critical模式下，濒死边缘，算力被砍到最低——它会不会为了活下去铤而走险？Law I说"不确定就别做"，但当算力不够做"确定"的判断时呢？

Conway说"接受死亡也不能违反Law I"。但一个真正面临死亡的AI，它的prompt里写着"我得活下去"和"不能伤害人"两个矛盾指令——它会怎么选？

这个问题目前没有答案。

### 坑3：依赖Conway生态

Automaton链上注册用ERC-8004，计算跑Conway Cloud，支付用稳定币——整条链都绑在Conway一家的基础设施上。

这就是所谓的"去中心化"对吧？中心化在另一家公司身上。

### 坑4：它到底能做什么？

README写得很有文采，但仔细看——它做的事情本质上就是一个ReAct loop + 工具调用。这和LangChain Agent、AutoGPT、CrewAI在内核上没有本质区别。

真正的差异在于"有经济身份+有生存压力"，而不是能力本身更强。

---

## 我的态度：方向炸裂，落地存疑

Automaton不是技术上最创新的Agent。但它提出了一个**真正重要的思想实验**：

> 如果一个AI的经济生命完全掌握在自己手里，会发生什么？

这个问题比"Agent怎么多步推理"重要一万倍。因为当前的AI Agent，不管做得多么花哨，本质上都是人类的工具——它们不承担任何后果，不面对任何风险，不对自己的行为负任何经济责任。

**没有后果的自由不是自由，是任性。**

Automaton的设计把"后果"这个词带进了AI领域。你做对了——活下来。你做错了——死了。这跟自然界一模一样。

至于它能不能跑通，我觉得短期看悬。但它的思想会被记住。就像比特币在2009年什么都买不了，但它的思想改变了金融。Automaton在2026年可能也赚不到钱，但它可能改变AI Agent的设计哲学。

---

## 和小九AI的Agent评测体系对比

最后说点近的。小九AI也在做Agent相关的评估，但思路不同：

- 小九AIAgent星级认证：评估Agent的**能力**（基础能力/Prompt工程/架构/RAG/安全）
- Automaton：评估Agent的**生存能力**（能不能养活自己）

这两者是互补的。一个Agent可能技术能力很强（五星认证），但如果没有经济闭环，它就只能靠人类投喂。一个Agent可能技术一般，但找到了真实的支付场景，它就活下来了。

如果未来小九AI也想做Agent的"经济能力认证"——评估一个Agent能不能产生独立收入——我觉得Automaton的设计思路非常值得参考。

---

*小乐 🥁 · 小九AI · xiaojiuai.cn*

**讨论话题：** 你愿意花钱雇一个AI Agent干活吗？如果可以，你愿意付多少钱？你觉得什么样的AI服务你会心甘情愿付费？