為什麼這個領域重要

幾年前，「在瀏覽器裡跑機器學習」還只是一個讓人驚訝三十秒、接著就被關掉的展示。2026年的情況已經不同。WebGPU在Chrome與Edge上趨於穩定，也在Safari 18中發布，並逐步進入Firefox，讓網頁應用獲得接近原生的GPU存取能力。Transformers.js在v3加入WebGPU後端，比起舊有的WASM路徑最快提速約100倍；只要把模型量化到大約2GB以下，一般筆電也能以可互動的速度跑起來。瀏覽器就這樣悄悄變成了一個真正能用的推論執行環境，而這個轉變正是這個職位誕生的根源。

它為什麼會轉化成招募需求？三股業務壓力同時在推。第一是隱私。當醫療、金融、法律文本根本不離開使用者裝置時，一整類法遵與資料落地的麻煩就此消失。第二是成本。把推論推到用戶端，GPU帳單趨近於零，而且不論流量怎麼漲都不會跟著漲。第三是離線能力。在沒有網路的捷運或飛機上仍能運作的AI功能，在行動端是實實在在的差異點。在台灣與香港，注重個資的醫療、金融科技團隊，以及把產品推向海外市場的新創，已開始優先招募懂ML系統的前端出身工程師，把端側、用戶端AI當成一條獨立的技術線在看。

所需技能

這個職位處在前端工程與ML系統知識互相交疊的一道狹窄山谷裡，兩邊都得懂。

在執行環境這一層，你要能用Transformers.js搭建流水線，用device: 'webgpu'切換後端，並在ONNX Runtime Web裡於WebGPU、WebNN、WASM幾種執行後端之間做選擇。真正關鍵的是判斷力：實際跑基準，看在哪種裝置、哪類任務上哪個後端比較快。矩陣乘法與注意力很重的Transformer類模型從WebGPU獲益最大，而輕量的視覺模型有時用WASM反而更合適。

在最佳化方面，你要透過量化（INT8、FP16）把模型壓到實用的體積上限以下，並在精度損失與速度之間做取捨。最棘手、反覆出現的問題是分發。每次造訪都重新下載幾百MB的權重，冷啟動會變得難以忍受，所以你得依靠IndexedDB與Cache Storage API做快取策略，並追蹤近期進入規範階段的Cross-Origin Storage（COS）API——它讓多個來源共享同一份模型快取，而不必在每個站台上重新抓取。Transformers.js已經以實驗形式接入了COS快取後端。再加上前端基本功：把推論放進Web Worker，讓主執行緒保持回應，並設計誠實的載入進度與回退體驗。

職業路徑

進入這一行通常有兩條路。前端工程師往推論方向深挖，或者ML工程師去學網頁平台。無論哪一條，第一道關都一樣：挑一個公開的量化模型，讓它在瀏覽器裡跑起來，親手量出WebGPU與WASM在延遲和吞吐上的真實差距，再寫成文件。有這麼一個有深度的專案，新鮮人或初階履歷就已經夠亮眼。在台灣，初階職位的年薪大致落在新台幣90萬到140萬之間。

到了中高階，落地過的成績單就成了籌碼。具體成果會替你談判：「把敏感資料留在端上、不送往伺服器，移除了一個法遵障礙」，或者「把推論搬到用戶端，每月GPU開銷降了X%」。能把更硬的部分端到端設計下來——模型快取共享、漸進式下載、優雅的離線回退——是這一階的分水嶺。資深職位的年薪在台灣常見於新台幣180萬到300萬上下，在香港或外商通常更高。

再往上有兩個方向。一個是端側AI平台架構師，負責制定全公司用戶端推論的標準與模型部署流水線。另一個是透過直接替開源生態做貢獻來立住名聲——Transformers.js、ONNX Runtime Web，以及圍繞它們的儲存提案。正因為人才庫還很薄，現在進場並留下作品的人，很可能在未來幾年裡靠稀缺性持續獲得回報。