※ 本文由 AI 根據影片內容整理，如有錯漏敬請指正。
📺 觀看完整影片：[AI仲會錯仲會蠢，但可能已經贏咗你｜學識AI EP5]
---
AGI唔使乜都識，ASI仲遠嗎？
最近有一宗新聞值得大家留意：美國政府開始以國家安全的角度介入最前沿AI模型的發布和使用，例如限制Anthropic這家公司，將它最近的模型Mithos和Fable禁止外籍人士使用。亦有傳聞指ChatGPT最新的5.6模型同樣收到類似指示，暫時不能公開。
AI的發展一日千里，但仍然有很多人覺得AI問題多多，永遠超越不了人類。如果你跟他們談AGI（Artificial General Intelligence，通用人工智能），他們大概會覺得誇張、吹噓而已。但剛才那宗新聞其實已經證明，各國政府和主要AI公司早已為AGI的來臨作準備——Google DeepMind甚至在今個月發表報告，呼籲大家關注AGI之後的下一步：ASI（Artificial Super Intelligence，超級人工智能）。
「AI會錯」不等於「AI追不上人類」
很多人接觸AI，不外乎打開ChatGPT問幾條問題、叫它寫文、畫圖，但有時錯得離譜，有時又蠢得很。於是大家自然質疑：AI哪裡聰明，怎麼可能超越人類？
這個說法只對了一半。AI今天的確會犯錯，有時錯得荒謬，但問題是，我們一講AI會錯，就很自然地將人類智慧捧上一個很高、很穩定、很理性的位置，好像人類向來可靠、清醒、一致。現實卻是，人類同樣會記錯、推理錯，還很容易受朋輩和傳媒影響，判斷往往帶有偏見（bias），甚至傾向高估自己。人類也會犯錯，專家、科學家都不例外，只是我們容許人類修正錯誤，卻對AI要求特別高。
更重要的是，人類真正強大的地方，從來不是單一一個腦。我們今天覺得人類聰明，往往是把幾千年文明累積下來的智慧，全部歸功於一個人。所以問「AI會不會超越人類」，不應該問AI是否能做到完美無瑕的「聖人超人」，而應該問：只要AI在實用任務上比普通人更快、更便宜、更穩定、更容易複製，其實已經足夠達到人類的程度，也足以改變社會。要demystify的第一件事，就是「AI超越人類智慧」其實沒有想像中那麼困難——只要超越一般人的程度，已經算是達到AGI。
AGI的「G」是General，不是God
第二個要拆解的誤會，是AGI中的「G」：通用性。很多人一聽到Artificial General Intelligence，就以為AI要在所有範疇都超越所有人——數學贏數學家、寫作贏作家、藝術贏藝術家、物理贏物理學家，還要懂做人、懂社交、處理一切現實問題。如果這樣定義AGI，其實已經接近甚至超越了ASI，變成一個全知全能的神。但AGI的「G」是General，不是God。
以愛因斯坦為例：他在物理和數學固然是天才級，但論中文能力，恐怕很多香港觀眾都比他強，這不代表愛因斯坦沒有超越我們。人類的智慧本來就分佈在很多範疇，每個人都有自己的強項和弱項。所以AGI也不應理解為AI要擁有人類已知範疇的全部知識，更重要的是：這個AI有沒有能力在新範疇中學習——遇到新領域、新工具、新問題時，能否讀懂資料、掌握新規則、建立概念、遷移已有知識，再透過工具和反饋修正過往錯誤。換句話說，AGI的重點不在於它硬碟裡已有多少知識，而在於面對未知事物時，它有多快能適應新環境。
再現實一點說，只要這個AI在正常人的工作環境中，能夠處理大部分突發狀況，其實已經可以算是達到一般人的水平。所以AGI不應要求AI在所有範疇超越所有人類，而是要求它在較實用的範疇中，具備通用的學習能力，達到甚至超越一般人的水平。
至於AI有沒有意識、有沒有真正的感情和自我認知——這是另一個非常複雜的問題，今集無法處理。目前我們沒有充分理由相信AI有或沒有意識，但討論AGI甚至ASI的實用性，其實不需要糾結意識問題，因為我們關注的是它實用性的智能：能否取代人類的工作，能否在人類社會中運作。飛機不需要變成雀仔，我們才說它飛得比雀仔快；捉圍棋的AI，也不需要證明它有意識，我們才可以說它捉得贏人類。當然，AI有沒有意識會影響另一個倫理問題——我們應否善待AI、AI應否有AI的權益——但這是今集暫時未能深入的課題。
由AGI到ASI：Google DeepMind怎樣定義？
Google DeepMind這篇《From AGI to ASI》報告，重點不在預測AGI或ASI哪一年出現，也不在計算今天AI水平去到哪裡。當大部分人仍在爭論AGI何時出現時，報告已提前一步問：如果AGI真的出現了，之後會怎樣？換句話說，AGI並非終點，而很可能是影響全人類、全世界的一個起點。
報告將AGI定義為AI在大部分認知任務上達到人類中位數水平；而ASI則是能夠在廣泛範疇超越人類，甚至超越人類組織系統或群體智能的程度。簡單說：AGI超越一般人平均水平，ASI超越一般人類群體或組織的平均水平。
這個定義的關鍵在於，現代社會真正推動科學、工程學甚至經濟的，從來不是單靠一個天才，而是整套制度——大學、研究院、企業，甚至整個政府——在運作。所以ASI最值得討論之處，不是AI何時超越一個人的能力，而是一套AI系統能否比一個人類組織更快、更有效率、更能展現能力。AI未必是單一模型或系統，它可以是一整堆agent合作，或一整套工具、一個強勁的自動化流程、一個數碼組織。用這個角度看，這些萌芽其實已經開始出現：ASI很可能比人類公司更賺錢、比研究院產出更多學術研究、比政府運作更有效率。DeepMind這篇文章最重要的問題，就是AI會不會取代現有的組織。
從AGI走到ASI的四條路徑
報告的說法是：AI不是因為像人才超越人類，而是因為它不似人、擁有獨特能力，才有可能邁進到ASI的程度。數碼智能相比人類，具備更高的輸入輸出速度、更快的內部運算、更大的working memory、可在不同硬件運行、可無損複製、可高頻率分享學習經驗。道理很簡單：人類有很多生物限制,AI沒有。訓練一個醫生、工程師或科學家可能要十幾二十年,而且人會累、會病、會老，經驗也不易轉移;人類組織還有開會、寫email、跨部門溝通等摩擦,以及權力鬥爭、責任分散、資訊失真等問題。數碼智能則不同：一個有用的AI系統可以複製成多個實例同時處理不同任務,還能直接接駁資料庫、搜尋工具、程式工具、外部記憶,24小時工作。AI agent學到的經驗,可以馬上變成訓練資料,拿去replay、fine-tune下一代模型,甚至複製到其他AI身上;人類智慧要慢慢培養、傳承、組織,AI的能力一旦足夠有用,卻可以即時複製、更新,變成一整個AI團隊。
報告至少提出四條由AGI走到ASI的路徑：
第一，Effective Compute和Scaling。一般人以為scaling只是模型越大越勁，但報告講得謹慎：更多算力不止令AI計算更快，還能帶來更多訓練、更多邏輯推理時間、更多搜尋和模擬、更多agent協作，令AI系統部署時更審慎。即使單一AI個體能力沒有忽然暴增，只要有更多接近人類水平的AI能更快、更便宜、更長時間合作，整個系統的能力仍會上升。
第二，新範式、新架構。未來AI要達到AGI水平，未必只是把今天的模型放大一萬倍那麼簡單。今天的模型雖然厲害，但長期記憶、持續學習能力、對現實環境的理解等都似乎有一定局限，所以會否需要一套不再建基於現有大型語言模型的新範式、新架構，仍是AI界不斷探索的方向。
第三，recursive self-improvement（自我改良）。這不一定是科幻橋段——不是AI一夜之間改寫自己的原始碼，隔天就變成超強能力。現實中已發生的是AI輔助寫程式：不少AI龍頭公司透露，超過一半程式碼已由AI直接生成。下一代AI會否進一步改善編碼、數據、設計流程，甚至提出人類想像不到的新框架、新模式，是相當可行的路徑。
第四，Multi-agent Collective Intelligence（集體智慧）。ASI未必是單一模型，而更可能是一個AI組織：試想像一間全自動公司，AI做研究、寫程式、做測試、找資料、擔任法律顧問、制定商業策略，各司其職，全部都是AI，彼此分工、互相檢查、互相競爭、互相改良。人類靠分工建立文明，AI也可以透過大量specialized agent複製這種模式。而最有可能發生的，是這四條路徑同時疊加，將AGI推向ASI的程度。
當AI比人類更聰明，人類還可以怎樣判斷？
報告提出一個嶄新的問題：當AI超越AGI水平，人類還能否憑自己的智慧量度AI的能力？目前AI能力未及人類時，我們仍可以用考試、用人類做benchmark、找專家評分——叫AI考試睇高唔高分,叫佢寫歌睇啱唔啱拍,甚至答醫學題再由醫生評分。但如果有一天,AI在某些範疇完全遠超人類，我們又如何出題考它？這就像一個學生要出題考自己的老師。如果AI提出超越人類專家能力的科學假說,我們還能否判斷真假？如果一個AI組織提出極複雜的設計、工作流程,甚至經濟政策、社會政策,人類還有沒有辦法考核驗證,這件事究竟work唔work？
去到這個階段，人類就不再是最好的監督者，也不再是最好的裁判。在post-AGI世界，AI可能要靠自己的能力生成benchmark、設計考核方法，由一個厲害的AI監察另一個AI。但即使如此，人類似乎仍要判斷一個最厲害的AI，什麼時候可靠、什麼時候不可靠——這其實不算陌生：我們作為沒有醫學背景的人，一樣要判斷一個專業醫生所講的東西是否可信。這套邏輯,或許同樣可以套用在AGI甚至ASI系統身上。
當然，AGI甚至ASI一旦出現，人類社會將面對更多急切的議題——包括教育應該教下一代什麼、政府應該如何運作——這些都不是一集影片能夠說完。
結語
這集並非想特別吹捧AI，也不是要散播末日預言，而是想借Google DeepMind這篇《From AGI to ASI》報告，呼籲大家更加關注AI的發展。當最前沿的AI公司已經開始被政府盯上，最前沿的模型甚至被禁止公開使用，我們是否還能安心相信「AI不會超越人類、不需要擔心」？
AGI不需要全知全能，已經足以影響人類社會；ASI也未必只是科幻概念，它很可能在未來出現，能夠超越人類的組織，甚至超越整個人類。希望大家不要掉以輕心，密切留意AI未來的發展。
其他同類文章
學識會員