2026 年 11 月 2 日，Claude 的開發商 Anthropic 向美國證券交易委員會提交上市申報修訂文件（S-1/A）。文件警告，按內部估計，公司可能即將達到其「負責任擴展政策」所定義的「由 AI 帶來的急劇加速進展」，但現有模型仍未越過這個門檻 [1]。文件亦披露，2026 年 9 月公司程式庫新增的程式碼超過九成由 Claude 編寫 [1]。AI 開始參與研發 AI，一個老問題因此變得具體：AI 會否不斷改良自己，直至智能爆炸？
甚麼是遞迴自我改良
遞迴自我改良（Recursive Self-Improvement，RSI）是指 AI 不只透過訓練變強，連訓練方法本身也能改良。AlphaGo Zero 靠與自己對弈，棋力超越了曾擊敗人類冠軍的 AlphaGo [2]，但它改良的是棋力，不是學習方法。相比定義仍有爭議的通用人工智能（AGI），RSI 或許較容易量度，因為 AI 能自主完成多少個研發步驟，可以實際檢驗。
機器自我改良並非新概念
1994 年，研究員 Karl Sims 讓方塊組成的虛擬生物在電腦中競爭，經複製、組合和變異一代代演化，最終出現能做複雜動作的生物 [3]。這是達爾文自然選擇的邏輯：有變異、遺傳和選擇，無需預先設計，也會出現適應環境的個體。馮紐曼（John von Neumann）在 1940 年代已思考能自我複製的機器 [4]，圖靈（Alan Turing）在 1950 年提出造一部會學習的「兒童機器」[5]。1975 年，John Holland 系統整理了遺傳演算法的數學基礎 [6]。
AI 已經參與研發 AI
三家前沿 AI 公司都表示，AI 已參與研發自家模型。Anthropic 會讓 Claude 改寫訓練小型模型的程式，在 Anthropic 設定的目標下自行測試、決定下一步 [7]。OpenAI 用編程 AI 代理 Codex 協助研發下一代模型 [8]，目標是在 2028 年 3 月前建立自動化 AI 研究員 [9]。Google 母公司 Alphabet 的行政總裁皮查伊（Sundar Pichai）表示，AI 已在加快新模型的訓練與推出 [10]。這些都是公司自己的說法，未有外部量度。
更直接的做法，是讓 AI 修改另一個 AI 的權重（weights），即神經網絡中決定輸出的參數。一般訓練靠反覆答題，慢慢調校權重。直接改權重，則像打開學生的腦袋改動神經元。麻省理工學院（MIT）一個團隊讓 OpenAI 的 GPT-6 Astra 寫程式，改寫阿里巴巴開源小模型 Qwen3.5-0.8B 的權重。改動只涉及八億個權重中的 131,072 個（約 0.016%）。陷入迴圈而寫滿長度上限的答案由 93% 降至約 33%，MATH-500 數學測試得分由 7.9% 升至 48.1% [11]。這是未經同行評審的網誌結果，對象是很小的模型。作者亦指出，改權重不能加入模型本來沒有的能力。至今仍未有公開資料顯示有 AI 能由頭到尾自主研發下一代模型，Anthropic 亦表示「仍未到這一步」[7]。
智能爆炸的推論
如果每一代 AI 都更擅長研發下一代，研發週期每次減半，每一代所需時間便趨近於零。無限多代可在有限時間內完成，智能於是急速膨脹，這就是智能爆炸的推論。Anthropic 行政總裁 Dario Amodei 在 2026 年 9 月撰文警告，這可能令進步速度超過人類理解和控制的能力 [12]。他主張放慢提升模型能力的步伐，讓風險防範追上。
三個現實限制
加速可以發生，但無限加速需要每一個環節都不受限制。
第一，研發很可能出現邊際效益遞減，即投入愈多，每份投入換來的進步愈少。容易的改進做完之後，每次突破都需要更多實驗。新架構可以令研發再次加速，關鍵是突破能否持續抵消上升的成本。
第二，測試需要時間。AI 可以很快提出成千上萬個模型設計，但哪一個真正有效，仍要實際測試和比較。若「更好」是指在現實世界完成工作，執行時間就無法壓縮到零。
第三，算力受物理條件限制。前沿模型愈強，通常需要愈多 GPU、記憶體、網絡和電力。AI 或許能協助改進晶片和電力供應，但突破一個瓶頸之後，很可能又遇上另一個。
「更聰明」用甚麼標準衡量
自然選擇沒有預設目標，「好」只是適應當時的環境，不保證物種愈來愈聰明。AI 的「更好」同樣要由評價標準定義。在滿分 100 分的試卷上，AI 由 30 分進步到 100 分很容易理解，但「101 分」是甚麼模樣，人類未必想像得到。當 AI 已比人類厲害，人類還能否設定令它更聰明的目標？
有人或會提議，把目標定為「每樣事都做得更好」。「沒有免費午餐定理」（No Free Lunch Theorem）指出，在特定數學條件下，若平等看待所有優化問題，沒有演算法能全面勝過其他演算法 [13]。現實問題未必同等重要，但定理提醒我們，「更好」總是針對某類問題而言。AI 或許會在某些範疇超越人類，卻未必能在所有範疇勝出。在可見的將來，人類與 AI 較可能各有所長。
真正的風險在於目標
比智能會否爆炸更值得關注的，是目標由誰設定。現時 AI 的發展目標多由龍頭公司自行決定，甚至可能只由少數高層拍板。若連目標也交給 AI 設定，發展方向便更難預料。就像自然選擇的結果，未必是人類心目中「厲害」的狀態。社會能否建立機制，規範目標如何訂立，令 AI 不偏離人類福祉？
參考資料
1. Anthropic, PBC（2026）。Form S-1/A Registration Statement（Amendment No. 1）。U.S. Securities and Exchange Commission，2026 年 11 月 2 日。https://www.sec.gov/Archives/edgar/data/2130357/000162828026068676/anthropicpbc-sx1ax1.htm
2. Silver, D. 等（2017）。Mastering the game of Go without human knowledge。Nature 550, 354–359。https://doi.org/10.1038/nature24270
3. Sims, K.（1994）。Evolving Virtual Creatures。SIGGRAPH '94 Proceedings, 15–22。https://doi.org/10.1145/192161.192167
4. von Neumann, J.（1966）。Theory of Self-Reproducing Automata（A. W. Burks 編）。University of Illinois Press。https://archive.org/details/theoryofselfrepr00vonn_0
5. Turing, A. M.（1950）。Computing Machinery and Intelligence。Mind 59(236), 433–460。https://doi.org/10.1093/mind/LIX.236.433
6. Holland, J. H.（1975）。Adaptation in Natural and Artificial Systems。University of Michigan Press（1992 年 MIT Press 再版）。https://doi.org/10.7551/mitpress/1090.001.0001
7. Anthropic（2026）。When AI builds itself。Anthropic Institute。https://www.anthropic.com/institute/recursive-self-improvement
8. OpenAI（2026）。Introducing GPT-5.3-Codex。OpenAI，2026 年 2 月 5 日。https://openai.com/index/introducing-gpt-5-3-codex/
9. OpenAI（2026）。Research acceleration: The view inside OpenAI。OpenAI，2026 年 9 月 6 日。https://openai.com/index/research-acceleration-view-inside-openai/
10. Pichai, S.（2026）。Q3 2026 earnings call: Remarks from our CEO。Google Blog，2026 年 10 月 28 日。https://blog.google/company-news/inside-google/message-ceo/alphabet-earnings-q3-2026/
11. Takehi, R. 等（2026）。Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights。研究網誌（作者單位：MIT CSAIL），2026 年 11 月 2 日。https://rikiyat.github.io/blog/weight-space-programming/
12. Amodei, D.（2026）。We Must Pace the Frontier。darioamodei.com，2026 年 9 月。https://darioamodei.com/post/we-must-pace-the-frontier
13. Wolpert, D. H., & Macready, W. G.（1997）。No free lunch theorems for optimization。IEEE Transactions on Evolutionary Computation 1(1), 67–82。https://doi.org/10.1109/4235.585893
※ 本文由 AI 根據影片內容整理，如有錯漏敬請指正。
📺 觀看完整影片：AI 自主研發下一代 AI？Anthropic 披露 RSI 智能爆炸的可能｜學識AI EP17
主持：江啟明 - 新南威爾斯大學工程學博士。
其他同類文章
學識會員