免費又安全的AI : 本地 LLM入門
簡介
你會同一個三唔識七、又保守唔到秘密嘅人，分享你嘅心事嗎？唔會嘅話，就唔好再同 Poe /ChatGPT 傾偈啦，喺自己部腦安裝 AI 啦！唔需要深奧嘅IT 技術，我哋一齊逐步set up 本地運行大型語言模型LLM。
本地 LLM，即在自己電腦設備上運行較小型嘅語言模型。安裝完成後，AI 就在你嘅電腦上！
上完堂你會了解、學識：
- 雲端LLM例如ChatGPT、Gemini、DeepSeek嘅私隱風險，以及佢哋為電力同水資源帶來嘅負荷；
- 親手搭建本地LLM，需要啲咩電腦硬件同軟件；
- 按照自己嘅需求同硬件配備限制，揀啱LLM，即刻開工；
- 從翻譯圖片到角色扮演，仲有分析網頁，即刻體驗本地LLM嘅魅力！
準備好，一齊入嚟玩轉本地AI啦！
課程對象
- 識得自己喺 Mac 或者 Windows 上，安裝及設定軟件
- 電腦有至少 16GB RAM、30GB 硬碟空間
- Windows 10、macOS 12 Monterey 或更新
學習成果
- 喺自己電腦上面，運行類似 ChatGPT 嘅大型語言模型（LLM），唔使上網又保護到私隱
- 學識選擇適合嘅 LLM，唔同模型有咩長短處
- 開始使用本地LLM 對話時須知
目錄
| 堂次 | 題目 | 簡介 |
|---|---|---|
| 1 | 本地運行 AI 有咩益處？ | 簡單了解，何謂大型語言模型（LLM） 透過案例了解，在雲端營運的LLM服務，消耗了多少環境資源、帶來了甚麼私隱問題。 本地運行的LLM，智力稍弱，但環境足跡微乎其微，更不會泄漏私隱 |
| 2 | 釐清硬件需求，安裝所需軟件 | 認識在本地運行LLM所需的硬件配備，了解為何圖像處理器（GPU）無比重要 認識所需軟件的一些選項；最後，安裝最容易入手的軟件 |
| 3 | 點樣選擇同下載 LLM？ | 如何辨認和獲取，適合自己用途和電腦硬件的LLM。 LLM 的參數越多，模型就越聰明，運行它所需的記憶體也會逐漸增多。故此，我們需要取捨。 另外，有些LLM擅長分析圖片，又或者懂得使用工具以自主獲取訊息；課堂會一一介紹。 |
| 4 | 同 LLM 對話，並且為對話補充背景資料 | 透過實例，練習使用本地LLM 抽取、然後翻譯圖片裏的外語文字 讀取含短篇故事的純文字檔案，然後扮演角色 自主下載、並且分析指定網頁 |
| 5 | 展望更多可能性 | 簡略了解，安裝過程複雜得多，但功能更全面的 本地AI 工具；例如類似Google NotebookLM 的開源工具。 |
影片課程
1) 總共5節影片，共1-1.5小時。
2) 網上導修至少1次 (時間待定)，有人感興趣再定時間。
預售設定:
1) 課程已成班，導師正拍攝影片，預計12月中完成拍攝影片。
關於導師
Everest Law
南加州大學USC 物理博士、電腦科學碩士，現為矽谷資深數據科學家。專長：廣吿科技、數據分析、機器學習；每季度支援、指導投放幾千萬港幣廣吿費。但其實最掛念嘅，係同屋嘅一貓一狗。
免費又安全的AI : 本地 LLM入門 影片課程 | 優惠價 | HKD 250 HKD 220 | 立即上課 |
常見問題
學識這平台是做什麼的？
學識是一個全面的網上教育平台，致力協助導師以廣東話傳授各種知識，服務全世界廣東話社群。由2021年運作至今，已舉辦超過 250 個網上互動課程、網上影片課程、網上講座以及實體聚會。內容由多位獨立導師，並香港教育大學、好青年荼毒室、香港實踐哲學學會等機構提供，涵蓋文史哲、科學、語言、生活技能、實用知識等等範疇。
可參考關於學識 https://www.hok6.com/about 了解更多。
什麼是互動課程 ? 影片課程 ? 預售課程 ?
學識網上課程主要分為兩類，一種是互動課程，另一種是影片課程。
互動課程
以即時通訊軟件 (如 Zoom, Google Meet, Jitsi 等) 作為導師與學生上堂的媒介。於特定時間，導師與學生一同出席課堂。好處是當學生上課時有問題能即時向導師發問，導師能和學生即時互動。但缺點是很難夾時間。學識的導師及學生來自全球不同時區，要選擇一個時間能配合所有人近乎不可能。
影片課程
以影片作為主要媒介，但並非只是觀看影片。導師會將課堂預先錄影好，學生隨時報讀隨時上堂。學生和導師可透過非即時通訊工具 (學識的討論版) 隨時互動，或在指定時間舉行的網上互動導修堂，向導師提出發問及討論。影片課程亦可包含閱讀材料及小測驗，是一整套課程的設計。
預售課程
影片課程剛上架時可能會用預售形式出現，報名人數達成班門檻後導師才會開始拍攝影片。這種形式讓導師可以有更大誘因，花時間為大家製作高質內容。一般需要兩個月左右的時間完成拍攝，所以購買預售課程後請耐心等候。
如何報名？
如閣下尚未在學識註冊，請先按頁面上方註冊連結，免費建立學識帳戶。如已經註冊，登入後只需按下喜歡的課程/活動，在課程/活動頁面按下藍色按鈕「立即報名/預購」，將會有詳細課堂資訊及付款資訊供閣下核對及跟從。
如何註冊學識帳戶？
- 於主頁右上方按「登入／註冊」
- 按「註冊」分頁面
- 填寫個人資料
- 上面填寫的電郵地址會收到（一般在幾分鐘內）來自學識的驗證電郵
- 在驗證電郵上按下確認電郵地址的連結
- 用註冊了的電郵地址登入你的帳戶
可以用什麼方式付款？
如想使用信用卡、Apple Pay 或 Google Pay 等方式付費，可按下藍色價錢按鈕，依照指示前往網上自助付費 Stripe 頁面，選擇其中一種付款方式付費即可。
香港用戶亦可選擇用 FPS（support@hok6.com）或銀行轉帳（DBS Bank, 001609376, Hok6 Limited）方式，過數後截圖通知學識（Facebook/Instagram message 或 email）核對。學識後勤人員核對後便會將閣下加入所報名的活動裏。
如有需要，亦可聯絡我們商討用其他方法付費。
報讀課程有什麼優惠嗎？
課程優惠：有些課程會在特定時段提供優惠。課程優惠會直接顯示在網站上，不需要使用優惠碼。
預購優惠：新課程推出時或會有預購優惠。越先報名的人優惠折扣越高。預購優惠會直接顯示在網站上，不需要使用優惠碼。如有興趣預購學識課程，建議 like/follow 學識的社交媒體帳戶 (Facebook, Instagram, Youtube，確保收到最新最快學識課程的資訊。
會員優惠：成為學識 Kofi 會員後，報讀學識課程可獲取折扣優惠。會員會有專屬的優惠碼，在報讀時只需輸入即可獲取特定優惠。
學生優惠：透過認證程序，正在就讀中學或大專院校的全日制學生可獲六折優惠報讀課程。學生身份認證後，將會收到一個個人優惠碼，在報讀時只需輸入即可獲取特定優惠。
各種限時優惠：學識會不定時發放優惠碼，請密切留意學識電郵及社交媒體上的宣傳！
如何使用優惠碼報名？
如閣下有宣傳優惠碼或其他類別的優惠碼想使用，請在進入 Stripe 付款頁面後，於 "Add Code" or "Add Promotion Code" 位置輸入優惠碼。確認付款價錢為折扣後的價錢方好按下 "Pay"。
*如閣下已經用了正價付款，學識恕不能退回差價。
付款後會收到確認資訊嗎？ 之後怎樣上堂或觀看影片？
付款後閣下將會收到電郵通知。閣下亦可在「我的學識」看到報了名的課程，之後便可在此進入課程內上堂或觀看影片。
如閣下報讀的是預售課程，請耐心等候，課程確認成班後便會有電郵通知閣下。導師之後陸續上載影片亦會收到電郵通知的。
有試堂嗎？可以獨立報讀單堂嗎？
影片課程一般會有宣傳影片給未報讀者觀看，從而可以更了解課程設計並感受導師的教學方式。另外，有些影片課程或會提供首堂免費報讀，讓閣下可以試看，然後再決定是否報讀全套課程。即時互動的課程則一般不提供試堂報讀。另外，該課程的導師有可能曾經在學識提供過免費講座。可嘗試在學識的 Youtube 上尋找。
如課程有免費試堂，會在課程/活動頁面有藍色按鈕「立即試看」。登入學識按下按鈕即可開始觀看。如閣下尚未註冊學識帳戶，請先免費註冊帳戶，然後便可報名觀看。
預購課程要等多久？
如閣下購買時，課程尚在預購中，一般需要一至兩個月集齊開班人數。接下來導師便會開始準備影片，一般在一至兩個月後導師便會陸續上載影片。
課程有可能取消嗎？
會有可能的。課程會可能因收生不足而取消。如課程因收生不足而取消，學識會全數退還學費。
學識會員