一顆 USB 就能讓偏鄉學校有 AI 老師:Gemma 4 白話解讀
AI 趨勢觀察·8 分鐘

一顆 USB 就能讓偏鄉學校有 AI 老師:Gemma 4 白話解讀

Google 開源 Gemma 4,最小的 E2B 模型只要 8GB 顯卡就能跑——一台 3-5 萬的電腦、一顆 USB,偏鄉學校就能有離線 AI 教學助手,不需要網路,不需要月費,學生資料不出教室

Y
Young Tsai

台灣有一些學校,手機訊號一格都沒有

學生開瀏覽器要等三秒,老師要用 ChatGPT 要開熱點借網路,ChatGPT 偶爾還是轉圈圈

這不是邊緣案例,這是某些地方的日常

沒網路,就用不了 AI 工具,就直接被排除在這波浪潮外面

我最近在想一個問題:這有沒有辦法解?

現在可能真的有了


Gemma 4 是什麼,為什麼這次不一樣

Google 在 4 月 2 號悄悄放出 Gemma 4

Gemma 跟 Gemini 的關係,就像 iPhone SE 和 iPhone

iPhone 是旗艦,效能最強,但你得訂閱 Apple One、接受 Apple 的規矩

iPhone SE 是縮小版,效能稍弱,但重點是:它是你的,你買斷它,你帶著走

Gemini 是 Google 的雲端 AI,你用、你付費、資料通過 Google 伺服器

Gemma 是開源的,Google 把技術拿出來讓你自己跑,授權 Apache 2.0——完全免費、可以商用、可以改裝,沒有隱藏條款


四款模型,像四種車

Gemma 4 一口氣出了四款,用車來比:

模型大小硬體需求適合誰
E2B2.3B 參數RTX 3060,約 NT$7,000 二手顯卡偏鄉學校、低預算
E4B4.5B 參數12GB 顯卡小型機構、NGO
26B-MoE26B 但只用 4B 運算40GB+ 顯卡教育局、縣市端
31B31B 全力運算40GB+ 顯卡研究機構、大型部署

偏鄉學校最可能用的是 E2B——體積小,跑得動,硬體要求低到有點意外


Intelligence-per-parameter:班上最會考試的小腦袋

Simon Willison,Open Source 圈很有名的工程師,研究完 Gemma 4 說了一句:

「intelligence-per-parameter 有史以來最強」

白話講?

想像班上有個學生,腦容量比別人小,但每一格都用得比別人有效率,考出來的成績比腦容量大三倍的人還好

Gemma 4 31B 的 benchmark,可以挑戰 20 倍大的對手——這是這次最讓人意外的地方

但要講清楚:E2B 是小車,能力大概是 ChatGPT 3.5 的水準,不是 GPT-4,教科書的問題可以答,複雜推理別期望太多


開源的意義:送你一台車,不是租車

雲端 AI(Gemini API、ChatGPT API)是租車

你付月費,車好開,但你要一直付,車不是你的,車廠說改規則就改規則,資料從你手裡過、從人家伺服器過

Gemma 4 是送你一台車

一次買斷,之後不需要月費,車停在你院子裡,要怎麼開是你的事,資料不用離開你的地盤

對學校來說,這個差異很關鍵

學生的學習紀錄、問答記錄,不應該存在別人的伺服器上


啟動只需要兩行指令

這是我第一次看到有點傻眼的部分

如果電腦有裝 Homebrew,啟動 Gemma 4 就這樣:

brew install llama.cpp
llama-server -hf ggml-org/gemma-4-E2B-it-GGUF

完成,瀏覽器開 http://localhost:8080,你就有一個可以對話的 AI 了

llama.cpp 是開源的「播放器」,Gemma 4 是「MP3 檔案」——你要的是找一個好播放器跑你的音樂,不是每次都去串流平台借

模型大概 5GB,一顆普通 USB 隨身碟就放得下


偏鄉學校怎麼用

具體方案長這樣:

在有網路的地方,先把模型下載到 USB,5GB 左右

帶到學校,USB 插進一台有顯卡的電腦,啟動 server

教室裡其他 30 台電腦透過校內網路連上去

全程不需要外網,斷網照常用

Gemma 4 在教育場景能做的事:

  • 學生拍課本照片,問「這道題怎麼解」(E2B/E4B 有視覺能力)
  • 語音輸入問問題(有語音理解能力)
  • 支援 140+ 語言,中文英文都在其中,小語種品質需要實測才知道
  • 老師可以串接題庫、字典,讓 AI 不只聊天,還能主動查資料

成本比較:一年就回本

雲端 API 方案Gemma 4 本地部署
初始成本NT$0NT$30,000–50,000(一台電腦)
每月費用NT$3,000–10,000(依用量)NT$0
一年總成本NT$36,000–120,000NT$30,000–50,000
資料隱私送到雲端不出校園
離線可用否是

一年之後,雲端繼續付費,本地邊際成本趨近零

對預算緊的學校來說,這差距很實在


誠實說:不是萬能藥

幾個限制直說:

E2B 的回答品質,大概是 ChatGPT 3.5 等級——不是最新的 GPT-4,你期待它幫學生寫論文或解複雜推理,會失望

需要一台有獨立顯卡的電腦——RTX 3060 起跳,大概 NT$30,000–40,000 一台,學校現有的 10 年前桌機跑不起來

同時使用人數有限——E2B + RTX 3060 大概同時服務 5–10 個學生,30 人同時問要排隊,或者需要更好的顯卡

第一次需要有人設定——之後學校自己維護沒問題,但第一次安裝需要懂一點技術的人來

140 語言不代表每種都一樣好——中英文是訓練最多的語言,小語種品質還需要實測


不是買服務,是帶能力過去

這件事最值得想的不是技術規格,是底層邏輯

雲端 AI 的商業模式,是讓你依賴它——持續付費,資料留在它那裡,你沒辦法對不喜歡的地方說不

開源本地部署是另一種邏輯——你帶著能力走,能力是你的,資料是你的,決定是你的

對偏鄉學校來說,這兩種邏輯的差異不只是錢,是更根本的事:

這個工具是你能掌控的,還是你只是它的用戶

一顆 USB,插進學校的電腦,不需要網路,不需要月費,學生的資料留在教室裡

技術真的能做到,而且做法比想像中簡單


資料來源

gemma-4open-source-aiedge-aieducationlocal-deploymentllmgoogle