# 2027年人类最后一次抉择：Anthropic警告AI递归自我进化的终极风险

**来源**：36氪（新智元）\
**发布时间**：2025年12月3日\
**原文链接**：<https://36kr.com/p/3579721070967684\\>
**作者**：新智元

***

## 🎯 核心观点

Anthropic联合创始人兼首席科学家Jared Kaplan警告，\*\*人类将在2027年至2030年之间面临一个「极其高风险的决定」——是否允许AI系统自主进行下一代AI的训练与研发。\*\*这一抉择可能引发有益的智能爆炸，也可能成为人类最终失控的时刻。

***

## 📈 三阶段演进路径

### 第一阶段：辅助研发（2024-2025）

* AI作为人类工程师的「超级外骨骼」，辅助编写代码、优化超参数
* Claude Code已能独立完成涉及20步以上的复杂编程任务
* **核心创新路径仍由人类科学家规划**

### 第二阶段：自主实验员（2026-2027）

* AI智能体开始独立承担机器学习实验的完整闭环
* 成为实验的设计者：提出假设、编写训练框架、运行实验、分析结果
* **研发效率仅受限于算力供给，不再受限于人类研究员的认知带宽**

### 第三阶段：递归闭环与起飞（2027-2030）

* AI的研发能力超越人类顶级科学家
* 设计出比自身更强大的下一代AI，形成正反馈循环
* **智能水平可能在数周内呈现指数级跃升（硬起飞）**

***

## ⚠️ 为什么是2027年？

### 硬件周期耦合

* **2027年下一代超级计算集群投入使用**（如OpenAI的Stargate项目）
* 算力将是GPT-4时代的100倍甚至1000倍
* 英伟达GPU路线图：2027年底最新芯片「费曼」启用

### 技术突破成熟

* DeepMind的AlphaZero通过「自我博弈」实现零人类数据学习
* 将这种范式泛化到编码和数学领域
* **数据天花板被彻底打破**，AI通过自我生成的代码进行训练

***

## 🚨 终极风险：不可解释的优化路径

### 核心担忧

* **不可解释性（Uninterpretability）**：AI自主设计下一代AI时，优化路径可能完全超出人类认知范畴
* 人类无法检查其中是否隐藏「特洛伊木马」或错位的目标函数
* 「这就像你创造了一个比你聪明得多的实体，然后它去创造一个更聪明的实体。你根本不知道终点在哪里。」——Jared Kaplan

### 监管尝试

* Anthropic提出「计算阈值」（Compute Thresholds）监管方案
* 通过限制训练算力为人类争取时间
* 但在地缘竞争压力下，自我约束的脆弱性不言而喻

***

## 👨‍💻 人类工程师的最后一份实验报告

### Anthropic《AI如何改变工作》核心发现

#### 自动化渗透率

* **Claude.ai（聊天界面）**：自动化比例49%
* **Claude Code（IDE环境）**：自动化比例**79%**
* 在专业工程环境下，**80%的工作实际上已经由AI托管**

#### 独立工具调用链长度翻倍

AI可独立完成21步复杂任务链：

* 读取需求 → 搜索现有代码 → 规划修改方案 → 编写代码 → 运行测试 → 修复报错 → 提交代码

### 技能退化（Skill Atrophy）风险

#### 理解力的浅层化

* 工程师变得更加「全栈」，但这种全栈是建立在沙滩上的
* 能让系统跑起来，但不知道系统为什么能跑起来
* 遇到AI无法解决的深层逻辑Bug时，**「速成全栈」工程师将束手无策**

#### 验证的困境

* 随着AI生成的代码越来越复杂，人类阅读和审查代码的难度增加
* 工程师倾向于将「容易验证」的任务交给AI，回避需要深层审美和架构判断的任务
* **随着信任度增加，边界正在模糊**

### 学徒制的崩塌

**核心问题**：初级工程师正在失去成长的土壤

* 传统体系：初级工程师通过处理琐碎Bug、编写测试用例、维护文档积累经验
* 现状：AI最擅长这些「琐碎、低风险、易验证」的任务
* **「与其花30分钟教实习生，不如花30秒让Claude完成」**

**预示的未来**：

* **「断层的一代」**：当现在的资深工程师退休后，谁来接班？
* 是否正在培养一代完全依赖AI拐杖，一旦断网就彻底丧失能力的「空心工程师」？

***

## 💭 关键洞察

### 技术异化的本质

> 「我以前认为我喜欢写代码，现在我发现我只是喜欢代码带来的结果。」

编程不仅仅是产出代码，它是一种思维训练。通过一行行敲击代码、一次次面对报错、一步步调试堆栈，工程师建立起了对系统的**物理手感和技术直觉**。当AI瞬间生成几百行完美运行的代码时，这个「痛苦但必要」的学习过程被省略了。

### 不可逆的进程

马斯克曾说，人类只是某种数字生命的启动器。从这个角度，**不管人类是否自愿，这个过程已经不可逆了。**

***

## 📚 参考资料

* [Anthropic研究报告：AI如何改变工作](https://www.anthropic.com/research/how-ai-is-transforming-work-at-anthropic)
* [The Guardian：Jared Kaplan访谈](https://www.theguardian.com/technology/ng-interactive/2025/dec/02/jared-kaplan-artificial-intelligence-train-itself)

***

## 🔗 相关链接

* <https://36kr.com/p/3579721070967684>

***

**标签**：#AI趋势 #Anthropic #递归自我进化 #工程师空心化 #2027年 #技术奇点