人類跌入科技陷阱？未來50年點面對AI等科技威脅

※ 本文由 AI 根據影片內容整理，如有錯漏敬請指正。
📺 觀看完整影片：[人類跌入科技陷阱？未來50年點面對AI等科技威脅？｜未來學 EP52]

---

人類跌入科技陷阱？未來50年點面對AI等科技威脅
科技一直被視為人類進步的象徵：由農業、工業、醫學、能源，到今日的人工智能，人類不斷用科技突破自身限制。但當科技力量愈來愈強、發展速度愈來愈快，情況亦開始反過來變成危機。今集《未來學》第52集，由啟明主持，邀請科普與科幻作家、前香港天文台高級科學主任李偉才博士（筆名李逆熵）擔任嘉賓，從他的著作《Humanity: The Next 50 and 500 Years》出發，討論一個橫跨數萬年的命題——科技陷阱（technological trap），又稱科技反噬。

科技陷阱，從來不是新鮮事
李偉才指出，科技的出發點當然是改善人類生活，但它往往帶來「意料之外的後果」（unintended consequences）。這個張力並非由 AI 開始，而是貫穿整部人類史。

火的使用、工具的使用，令衝突更加致命；語言的出現促進溝通，同時令說謊、偽訊、煽動仇恨成為可能；文字更可以跨越世代與千年繼續影響人心。甚至連農業革命，本身也是一個「農業陷阱」——大量糧食盈餘催生了有閒階級（leisure class）、祭司、戰士與地主，階級壓迫亦隨之而來。

換言之，科技陷阱有它的普遍性：由幾百萬年前的工具，到今日的人工智能，每一次重大技術突破，都同時帶來好處與壞處。

科技中性論的盲點
面對科技，社會通常分成幾派：擁護科技的「科技發燒友」（technophilia）、抗拒並恐懼科技的一派（technophobia），以及看似最有智慧的「科技中性論」（techno-neutralism）——所謂「水能載舟，亦能覆舟」，刀本身無善惡，善惡只在用刀的人。

但李偉才提出第四種觀點：科技結構主義（technostructuralism）。科技帶來的好與壞，絕對不能一概而論，必須具體分析，而這個分析一定牽涉當時的政治、經濟與社會制度。科技陷阱既有普遍性，亦有它的特殊性——而我們今日身處的特殊性，正是兩三百年來的資本主義生產制度。

利潤的硬邏輯：由電子煙到磷蝦油
為什麼 AI 狂潮會引起失業巨浪？李偉才提醒，人類歷史超過九成的時間根本沒有「失業」這回事，因為大部分是自足經濟。是資本主義把生產資料集中到極少數資本家手中，令絕大部分人變成受僱勞動者——「以前沒有食物會餓死，現在沒有錢會餓死」。

在資本不斷膨脹、利潤競逐的硬邏輯下，「商機無限」往往等同向有限的地球與宇宙無止境索取。電子煙取代被禁的煙草、磷蝦油（krill oil）為了開拓「藍海」市場而被大肆標榜，結果令南冰洋的磷蝦遭大量捕撈，嚴重破壞海洋生態。這些商品未必是社會真正需要，卻因為「能賣錢」而被推出市場。

政府作為把關人理應監管，但李偉才坦言往往「監管不來」：一方面可能被商家脅持、收買，另一方面法例永遠追不上技術——在磷蝦油普及之前，根本不會有法例禁止捕捉磷蝦。所謂「道高一尺，魔高一丈」。

問題比資本主義更深
那麼，取消了資本主義是否就萬事大吉？李偉才的答案是否定的。人類用火、發明語言、發明農業的時候都沒有資本主義，但一樣有反噬、一樣有陷阱。《Star Trek》與《Star Wars》兩個最受歡迎的未來想像，某程度上都假設人類已超越資本主義，但科技反噬依然存在。

問題的核心，是人類那種競賽、貪婪與好奇心。他引用「村莊白癡」（village idiot）的概念：一個人若沒有高科技，作惡的能力有限；但一旦掌握了足以毒死全村的科技，無論出於惡意、瘋狂、愚蠢還是純粹好奇，後果都可以是災難性的。資本主義並非禍源，卻把這些人性弱點推到最激化的地步。啟明形容，這就像一場大家都在狂奔的競賽，跑第一的人一邊叫人不要再追、一邊自己跑得更快，而前面就是懸崖——就連 AI 領域最領先的公司 Anthropic，也開始公開呼籲：他們自己的 AI 模型 Claude，可能已經開始不受控。

為人民服務的科學
面對 AI、能源危機與生態破壞，李偉才認為沒有靈丹妙藥。難處在於這是一個跨越二百多個政府的「博弈論死症」：正如對抗全球暖化，你減排、別人不減，到頭來誰都不願先行，結果一拍兩散。

他始終相信民主——不是因為民主完美，而是借用邱吉爾的名言：若不是因為人類試過的種種其他制度，民主就是世界上最糟糕的東西。專制即使在賢君之下最有效率，但你無法保證何時會出現暴君或昏君，民主最重要的價值正正在於那一份制衡。

最根本的出路，是把科學與技術重新「牢牢掌握在人民手中」，而不是任由科技巨企為了利潤最大化而盲目向前。借用林肯的名句，科學應該是「民有、民治、民享」（of the people, by the people, for the people）。而要做到這一點，第一步就是公眾教育與科普——當每一個人都能多懂一點科學、多知道一點利弊，科技巨企能做到的事，最終就會受制於我們每一個人的知識。

未來50年甚至500年究竟會怎樣？沒有人能預測。但認識問題，永遠是解決問題的第一步。