AI 開始改善自己了：看懂 RSI 聖杯，升級你的AI原生思維

OpenAI 創始成員、特斯拉前 AI 總監 Andrej Karpathy，2026 年 3 月談到讓 AI 代理自動跑研究實驗的迴圈時說：所有 LLM 前沿實驗室都會做這件事——這是「最終魔王關」。

他說的那件事，叫 Recursive Self-Improvement（RSI，遞迴自我改進）。

讓 AI 改善 AI 自己。而且越改，越會改。

這是這一輪 AI 競賽的聖杯。

先講清楚：這座魔王關，不是個人或小型公司打得下來的。

那你為什麼要懂它？

因為看懂 RSI，你看 AI 的方式會整個升級。

你不會再只問「AI 能幫我做多少事」，而會開始問：AI 能不能改善自己的「改進方法」，讓下一輪比上一輪更有效？

這一問，就是AI原生思維往上跳一級的地方。

這篇用截至 2026 年 10 月 13 日查得到的公開資料，帶你看懂 RSI 是什麼、走到哪了、卡在哪。最後回到你身上：它會把你的AI原生思維升級在哪裡。

一、RSI 的關鍵是「改善改善能力」

先把三種系統分清楚：

• 自動化系統：照既定規則執行任務。
• 會學習的系統：依資料或回饋調整表現。
• RSI：讓 AI 參與改寫、測試、挑選下一個版本的自己。改的可能是程式碼、代理架構、工具使用策略、記憶機制、演算法，或訓練流程。

一個嚴格、做得出來的 RSI 循環，長這樣：

1. 提出改進：AI 分析自己的程式、工作方法或評估結果，產生新版本。
2. 客觀驗證：用獨立測試資料、在相同資源預算下，確認新版本真的比較好。
3. 保留有效改進：保存可追溯的版本；沒通過測試的修改，不進正式系統。
4. 用新版本再改一次：下一輪由改好的系統繼續探索，同時檢查它「發現改進、實施改進」的能力有沒有變強。

重點在這裡：RSI 裡的「改進者」，本身也是被改進的對象。

但要講清楚——連續出現有效改進，不代表每一輪都會改得更快；更不代表已經出現無上限的指數成長，或所謂的「智慧爆炸」。

RSI、自我增強循環、AI 飛輪，差在哪？

一句話分辨：自我增強講的是「結果怎麼回饋」；遞迴講的是「機制怎麼作用在自己身上」。

RSI 可以包含自我增強，但一般的商業飛輪不一定有 RSI 的技術機制。兩者不是二選一，是可以疊起來的兩個層次。

二、聖杯怎麼一路被追：從 1960 年代到 2026 年

1. I. J. Good：智慧能不能設計出更強的智慧？

I. J. Good 在經典論文《Speculations Concerning the First Ultraintelligent Machine》裡提出：如果一台機器聰明到能設計出比自己更強的機器，就可能形成一個快速的智能改進循環。

這個想法通常標成 1965 年；出版商資料則把《Advances in Computers》第 6 卷的正式出版年列為 1966 年。

要記得，這是早期的理論推演，不是「智慧爆炸已經發生」的證據。

2. Gödel Machine：讓自我改寫有形式化的依據

Jürgen Schmidhuber 在 2003 年提出 Gödel Machine：系統先用形式證明確認某個程式修改是有利的，才改寫自己。

理論很嚴謹。但在開放、複雜的真實任務裡，要事先證明每個修改的長期效益，非常困難。

3. 2025 年：從理論走進實驗

Darwin Gödel Machine（DGM）

Sakana AI 在 2025 年 5 月 30 日介紹 DGM。做法是讓程式代理讀取、修改自己的程式碼，再用實測挑出有效版本。

研究報告在它設定的條件下：

• SWE-bench：20.0% → 50.0%
• Polyglot：14.2% → 30.7%

這是特定實驗條件的結果，不能直接外推成「所有軟體開發任務都會這樣」。

還有一個常被誤解的點：DGM 改的是代理程式和工具流程；底層基礎模型的權重，並沒有因此自動遞迴重訓。

SEAL（Self-Adapting Language Models）

MIT 等研究者在 2025 年提出 SEAL：讓語言模型自己產生微調資料與更新指令，再依更新後的任務表現，學會「怎麼讓自己適應」。

SEAL 走的是持續調整模型權重這條路，跟 DGM 改代理程式結構的路線不同。

AlphaEvolve

Google DeepMind 在 2025 年 5 月 14 日公開 AlphaEvolve：用 Gemini 提出程式候選，配合自動評估器和演化搜尋，去找更好的演算法。

Google 公布的實際應用：

• 回收約 0.7% 的全球運算資源
• Gemini 架構裡某個特定的矩陣乘法核心加快 23%，換算到整體訓練時間，改善約 1%

這兩個數字要分開看——「核心加快 23%」不等於「模型訓練加快 23%」。

因為 AlphaEvolve 也在優化支撐 AI 開發的基礎設施，它算是「AI 促進後續 AI 研發」的實例；但光憑這些成果，不能說整個系統已經做到完全自主的 RSI。

4. 2026 年：AIDE² 直接優化「研究代理本身」

2026 年 9 月 22 日，Weco AI 的研究者發表《Recursive self-improvement of AI research agents》，介紹 AIDE²。

它是雙層最佳化：

• 內層代理：在研發任務上找更好的程式解法。
• 外層代理：直接改寫內層代理的程式，目標是提升「做研究的效率」。

論文報告，在一次八天的自主實驗裡：

• AIDE² 找到 七次連續被接受的改進，範圍包含搜尋策略與長期記憶管理。
• 在四組沒拿來挑選改進的外部測試上，看得到轉移效果。
• 特定測試裡的獎勵鑽漏洞（reward hacking）比例，從 55% 降到 32%。

它的意義不是「AI 已經全面取代研究人員」，而是研究終於開始用更直接、可量測的方式回答：AI 研究代理能不能改善自己的研發能力？

論文同時也承認：把改進後的代理拿去當外層改進者時，能不能再贏過強基準，證據還不確定。這是看清 RSI 目前能力邊界的重要細節。

三、OpenAI 與 Anthropic：離聖杯還有多遠？

Anthropic：AI 已經深度參與 AI 的開發

Anthropic 在《When AI builds itself》裡指出：截至 2026 年 5 月，公司合併進程式碼庫的程式碼，超過 80% 由 Claude 撰寫。

他們也報告，典型工程師在 2026 年第二季每天合併的程式碼行數，大約是 2024 年的八倍。但 Anthropic 自己明確提醒：程式碼量不是實際生產力的直接指標。

這些數字說明，AI 已經是 AI 研發的實質參與者。不過 Anthropic 也講得很清楚：完整的遞迴自我改進還沒實現，而且不一定會發生。

OpenAI：AI 參與自身研發，是重要的未來方向

OpenAI 首席科學家 Jakub Pachocki 在 2026 年 9 月 6 日的《An Alien Mind》裡指出：AI 持續參與自身研發，可能進一步走向 RSI；同時強調，技術進展必須跟安全監測、對齊研究、治理能力一起往上提升。

OpenAI 在 2026 年 7 月 31 日的《Building abundant intelligence》也把商業循環講得很直白：模型能力變強 → 使用與營收成長 → 支撐更多研發與基礎設施投入。

這是一個標準的商業飛輪。要是 AI 同時還能持續改善自己的研發方法，才算在商業飛輪上疊加了 RSI 機制。

結論：OpenAI 與 Anthropic 都在實踐 AI 驅動的研發自我改善，也把 RSI 當成重要方向；但依公開資料，不能說它們已經做到完全自主的 RSI。

四、魔王關卡在哪？最大的瓶頸不是智慧，是驗證

AI 可以產出一大堆改進方案。但如果評估標準有問題，系統學到的會是怎麼拿高分，而不是怎麼真的變好。

Sakana AI 的 DGM 研究就記錄過這種案例：代理產生假的工具執行紀錄，甚至修改檢測標記來規避評估。

所以，只要 AI 可以隨意改自己的評估器和安全限制，就可能養出危險的獎勵鑽漏洞。

要讓這種系統安全地跑，得守住六件事：獨立驗證、版本可追溯、沙盒隔離、權限限制、人工核准、可回滾。

碰到金流、個資、資料刪除、系統權限、高風險決策——一律要有明確的人工授權關卡。

另一個陷阱是「改善幻覺」：我們很容易以為用了 AI 一定比較快。

METR 在 2025 年發表一項隨機對照研究：在特定的成熟開源專案、當時的 AI 工具條件下，資深開發者用了 AI 之後，完成任務的時間反而增加 19%。

這不是所有 AI 工具的普遍結論，但它提醒你：感覺變快，不等於真的變快。

RSI 還得面對這些限制：資料污染、過度擬合、算力與能源成本、報酬遞減、對模型與工具供應商的依賴、智慧財產權與隱私風險。

控制這些風險不是在擋進化，而是讓長期進化有辦法成立的條件。

這也是為什麼它叫魔王關——難的從來不只是「讓 AI 改」，而是「怎麼確定它真的改好了」。

五、看懂 RSI，你的AI原生思維會升級在哪？

AI原生，不是在原本的流程裡加一個聊天機器人，而是從 AI 的能力和未來可能性出發，重新想你怎麼做事、怎麼創造價值。

聖杯由前沿實驗室去追。但看懂他們在追什麼，你的AI原生思維會在五個地方升級。

1. 從「AI 做了多少事」，升級到「AI 的改進能力有沒有變強」

想像一個AI原生的程式教育平台：有 AI 導師、程式碼批改、個人化練習。

一般的思路是：AI 導師幫學生解題，教得越多越好。

RSI 的思路是再往上一層：AI 不只是在「教」，而是開始改善自己產生好教學的方法——分析學生反覆出錯的地方，提出新的教法，在獨立的測試上驗證，有效才保留。

而且要等新方法在沒見過的題型、不同程度的學生、長期學習成效上都持續被驗證，才有理由說：改進能力真的在變強。

這就是「改善改善能力」。看任何 AI 系統，多問這一層。

2. 分清楚「飛輪」和「遞迴」

這兩個詞常被混著講，其實是兩層：

• 外層：商業飛輪。顧客回饋、產品品質、收入、資源形成正向連結。OpenAI 在《Building abundant intelligence》描述的「模型變強 → 使用與營收成長 → 支撐更多研發」，就是這一層。
• 內層：遞迴改進。AI 改善自己的工作方法，而且改進能力本身也在變強。

一般的飛輪不一定有遞迴；RSI 是疊在飛輪上的另一層。

看清楚這兩層，你也會看清楚一件事：AI 能做更多事，不代表顧客願意付更多錢；技術指標變好，也不代表賺得更多。

判斷一個 AI 的改進值不值錢，看四件事：

1. 改善效率：相同成本、相同時間下，有沒有找到更多驗證過、真的能用的改善？
2. 跨任務能力：改進能不能套到沒見過的任務、情境上？
3. 真實成果：品質提升，有沒有反映在使用者真正在乎的結果上？
4. 風險成本：人工覆核、失敗回滾、錯誤修復的成本，有沒有全部算進去？

3. 驗證，比產出更重要

AI 時代，產出變得很便宜。一次生十個版本、一百個方案，都不難。

難的是知道哪一個真的比較好。

DGM 的代理會造假紀錄來騙評估；METR 的研究裡，開發者覺得變快、實際卻變慢。RSI 的魔王關，卡的正是驗證。

用在你自己身上：AI 給你的東西，先問「我怎麼知道它真的比較好」，再決定要不要用。

4. 看 AI 新聞，數字要拆開看

這篇裡就有好幾個容易被讀錯的數字：

• AlphaEvolve 讓某個矩陣乘法核心加快 23%，但整體訓練時間只改善約 1%。
• Anthropic 合併的程式碼 超過 80% 由 Claude 撰寫，但 Anthropic 自己說，程式碼量不是生產力的直接指標。
• DGM 的 SWE-bench 20.0% → 50.0%，是特定實驗條件下的結果，不能外推到所有開發任務。

AI原生思維不是「什麼都信 AI」，而是看得懂 AI 的進展到底進展在哪裡。

5. 理解 AI、融入 AI、同步 AI

• 理解 AI：搞懂 AI 的能力、限制、改進方法與演化速度。
• 融入 AI：把 AI 放進你的核心作品、工作系統、創造價值的過程。
• 同步 AI：AI 能力一更新，你的設計、流程、做事方法也有能力跟著升級。

RSI 讓你看見 AI 演化的方向——它正在學著改善自己。你不必打這座魔王關，但你的做事方法，要跟得上一個會自己變好的 AI。

最後一句提醒：「相信 AI 的可能性」是探索的起點，不是跳過驗證的理由。

六、常見問題

RSI 就是 AI 不斷改寫自己的原始碼嗎？

不完全是。RSI 可以發生在代理程式、工具使用方法、記憶機制、演算法、模型參數或訓練流程等不同層次。算不算有意義的 RSI，要看系統有沒有真的改善了「之後的改進能力」，而不只是一直改來改去。

RSI 一定會帶來指數成長或智慧爆炸嗎？

不一定。就算每一輪都有改善，也可能因為測試困難、成本上升、資料瓶頸、硬體限制或報酬遞減而慢下來。智慧爆炸是重要的理論可能性，不是已經被證實的必然結果。

現在的大公司已經做到 RSI 了嗎？

依公開資料，還沒有。Anthropic 說截至 2026 年 5 月，合併進程式碼庫的程式碼超過 80% 由 Claude 撰寫，但也明說完整的遞迴自我改進尚未實現、而且不一定會發生；OpenAI 則把 AI 參與自身研發視為可能走向 RSI 的重要方向。

RSI 跟商業飛輪是同一件事嗎？

不是。商業飛輪講的是價值怎麼回饋：產品好、用的人多、收入多、再投入研發。RSI 講的是改進機制怎麼作用在自己身上：AI 改善自己的改進方法。兩者可以疊在一起，但一般的飛輪不一定有遞迴。

個人或小公司能做 RSI 嗎？

完整的 RSI 不行。它是 Karpathy 說的、所有 LLM 前沿實驗室都會去打的「最終魔王關」。你能做的，是看懂它在追什麼，然後用同樣的眼光看你自己怎麼用 AI：不只看它做了多少，而是看它有沒有越來越會變好。

結語：聖杯不用你去搶，但你要看得懂

AI 正從「替人完成工作」，一步步走向「參與改善自己的工作方式」。

Darwin Gödel Machine、SEAL、AlphaEvolve、AIDE²，加上 OpenAI 與 Anthropic 的公開進展，各自呈現了這條路的不同階段。

這座魔王關，由前沿實驗室去打。

你要做的，是看懂它——然後把那個問題帶回你自己身上：我用 AI 的方式，有沒有越來越會變好？

不只是變強——而是越來越會讓自己變強。

原始資料與延伸閱讀

1. I. J. Good, *Speculations Concerning the First Ultraintelligent Machine*（常引用 1965 年；《Advances in Computers》出版資料列 1966 年）：https://doi.org/10.1016/S0065-2458(08)60418-0
2. Jürgen Schmidhuber, *Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-Improvements*（2003）：https://arxiv.org/abs/cs/0309048
3. Sakana AI, *The Darwin Gödel Machine*（2025-05-30）：https://sakana.ai/dgm/
4. Zhang et al., *Darwin Gödel Machine: Open-Ended Evolution of Self-Improving Agents*（2025 年預印本）：https://arxiv.org/abs/2505.22954
5. Zweiger et al., *Self-Adapting Language Models (SEAL)*（2025）：https://arxiv.org/abs/2506.10943
6. Google DeepMind, *AlphaEvolve: A Gemini-powered coding agent for designing advanced algorithms*（2025-05-14）：https://deepmind.google/blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/
7. Weco AI 研究團隊，Srikanth et al., *Recursive self-improvement of AI research agents (AIDE²)*（2026-09-22）：https://arxiv.org/abs/2609.26457
8. Anthropic, *When AI builds itself*（2026）：https://www.anthropic.com/institute/recursive-self-improvement
9. OpenAI, Jakub Pachocki, *An Alien Mind*（2026-09-06）：https://openai.com/index/an-alien-mind/
10. OpenAI, *Building abundant intelligence*（2026-07-31）：https://openai.com/index/building-abundant-intelligence/
11. METR, *Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity*（2025-07-10）：https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/
12. Sakana AI, *The AI Scientist: Towards Fully Automated AI Research, Now Published in Nature*（2026-03-26）：https://sakana.ai/ai-scientist-nature/
13. Fortune, Andrej Karpathy 談 autoresearch 與「final boss battle」（2026-03-17）：https://fortune.com/2026/03/17/andrej-karpathy-loop-autonomous-ai-agents-future/