超級 AI 是否一定要先產生自我意識,才可能加害人類?這是坊間對 AI 風險最普遍的一個前提——AI 會「醒來」、會有自我意向,於是不甘受人類壓迫而起來反抗,最終演變成人機大戰。但今時今日,許多專家學者提出的警告,其實完全不需要依賴這個假設。今集從科幻百年想像出發,拆解智能、意識、意向性與自主行動之間的分別,再回到現實:AI 的真正威脅,究竟是一個有自我意識的機器,還是一個沒有仇恨、沒有感受,卻能極高效率完成目標的超級系統?
科技一直被視為人類進步的象徵:由農業、工業、醫學、能源,到今日的人工智能,人類不斷用科技突破自身限制。但當科技力量愈來愈強、發展速度愈來愈快,情況亦開始反過來變成危機。今集《未來學》第52集,由啟明主持,邀請科普與科幻作家、前香港天文台高級科學主任李偉才博士(筆名李逆熵)擔任嘉賓,從他的著作《Humanity: The Next 50 and 500 Years》出發,討論一個橫跨數萬年的命題——科技陷阱(technological trap),又稱科技反噬。