TPU、GPU、NPU有乜分別？一篇睇懂智能裝置背後嘅運算秘密

科技辭典：搞清TPU同GPU差異！AI年代你不可不知嘅晶片基礎知識

隨住人工智能（AI）普及，我哋嘅數碼生活已經離唔開各種運算晶片。以前買電腦或者智能手機，大家通常只會留意CPU（中央處理器）同GPU（圖像處理器）。不過，近年各大科技品牌，例如Google、Apple同各大晶片製造商，紛紛推出各種新名詞，其中最常聽到嘅一定係NPU（神經網絡處理器）以及TPU（張量處理器）。

最近Google推出Pixel 11系列，入面搭載嘅Tensor G6晶片更特別標榜TPU運算能力大幅提升。面對咁多簡稱，一般消費者可能會覺得好混亂。到底呢幾款晶片喺設計架構、功能同日常應用上有乜分別？本文會為大家提供一份詳盡嘅背景資料同基礎教學，等大家喺選購或者了解新科技嗰陣，有更清晰嘅概念。

基本資料整理：CPU、GPU、NPU同TPU嘅定位

要理解各種AI晶片，首先要分清佢哋喺運算世界入面扮演嘅角色：

• CPU（中央處理器）： 電腦同手機嘅大腦，負責統籌所有基本操作。佢處理單一複雜任務嘅能力好強，但就唔擅長同一時間處理海量嘅簡單數學運算。
• GPU（圖像處理器）： 最初係為咗處理電腦遊戲同3D圖像渲染而生。因為圖像處理需要同一時間計出螢幕上過百萬個像素嘅顏色，所以GPU擁有極強嘅「平行運算」能力。後來大家發現呢種平行運算能力同樣非常適合用來訓練AI模型同挖礦，令GPU成為目前AI領域最通用嘅晶片。
• NPU（神經網絡處理器）： 專為終端裝置（例如手機、物聯網設備同輕薄手提電腦）設計。佢嘅特點係極低功耗，通常只有2到10W，專注於處理簡單同即時嘅AI任務，例如人臉解鎖、相片去背或者實時語音翻譯。
• TPU（張量處理器）： Google自家研發嘅AI加速器，早期專門放喺數據中心用來處理龐大嘅機器學習同雲端AI任務。不過，Google亦將呢個名詞應用喺Pixel手機入面，代表處理本地AI任務嘅特定模組。

詳細使用教學與應用場景分析

了解基本定義之後，我哋從實際嘅應用場景出發，手把手教大家點樣對應唔同晶片嘅用途。

場景一：雲端大型AI模型訓練（主力：雲端TPU / 企業級GPU）

如果你係一間科技公司，需要開發好似ChatGPT或者Midjourney呢類服務幾億用戶嘅大型語言模型（LLM），你就需要雲端TPU或者極高階嘅GPU。雲端TPU專門針對龐大嘅數據庫進行長時間嘅訓練，佢哋嘅設計放棄咗處理圖像嘅能力，將所有資源集中喺矩陣乘法運算上，令到處理海量數據嗰陣效率極高。

場景二：專業圖像創作與靈活AI開發（主力：GPU）

如果你嘅日常工作包括剪輯4K影片、做3D渲染，或者你係一個重度遊戲玩家，GPU依然係你嘅首選。GPU就好似一把多功能瑞士軍刀，雖然做單一AI運算未必及得上專用晶片咁有針對性，但佢勝在支援極多唔同嘅開發框架（例如PyTorch），提供極高嘅靈活性。

場景三：日常手機AI應用（主力：NPU / 手機版TPU）

對於一般大眾來講，我哋平時喺手機用嘅AI功能，背後功臣就係NPU或者手機版嘅TPU。以Google Pixel 11為例，入面嘅Tensor G6晶片內置咗升級版TPU。呢個手機TPU其實就等同於一般嘅NPU，負責處理相機影像運算、魔術橡皮擦（Magic Eraser）、即時通話翻譯等功能。佢最大嘅優勢係可以喺唔連接上網嘅情況下，喺手機本地完成運算，保護私隱之餘，亦唔會快速消耗手機電量。

功能與設計架構嘅注意事項

點解唔用同一款晶片做晒所有嘢？因為底層架構嘅設計決定咗佢哋嘅效能同限制。以下係幾個你需要注意嘅關鍵概念：

1. 記憶體樽頸與「脈動陣列」架構

GPU嘅運算模式需要將數據不停喺運算核心同記憶體之間來回讀寫。當處理極大量AI數據嗰陣，呢種來回讀寫會造成「樽頸」，浪費時間同電力。而Google嘅雲端TPU採用咗一種叫「脈動陣列」（Systolic Array）嘅設計。數據進入運算網格之後，計完一步就會直接傳畀下一個運算節點，過程好似流水線咁，唔需要不斷寫入記憶體。呢個設計令TPU處理特定AI任務嗰陣速度更快，延遲更低。

2. 運算精確度嘅取捨

打機或者做3D渲染，像素位置同光影變化需要極高嘅精確度（例如32位元浮點數），所以GPU必須具備高精準度嘅運算能力。但係，AI模型（例如判斷一張相入面係咪有一隻貓）好多時只需要較低嘅精確度（例如8位元整數）就足夠得出準確結果。TPU同NPU就係利用咗呢一點，放棄高精確度，換取同一時間處理更多數據嘅能力，大大提升效率。

3. 功耗與散熱限制

雲端TPU同高階GPU嘅功耗可以高達幾百瓦特，必須放喺有強力冷卻系統嘅數據中心或者大型主機入面。相反，NPU同手機版TPU嘅功耗通常只有幾瓦特，即使長時間運作，手機亦唔會嚴重發熱或者快速冇電，非常適合行動裝置。

比較與不同觀點

為咗令大家一目了然，我哋用表格歸納幾款晶片嘅核心差異：

坊間有一種觀點認為「TPU一定勁過GPU」，呢個講法其實唔準確。「好與壞」完全取決於使用情境。如果係單純做機器學習訓練，雲端TPU的確喺規模同效率上佔優；但如果需要兼顧開發靈活性或者處理圖像，GPU依然無法被取代。至於NPU或者手機TPU，就係智能裝置邁向完全智能化嘅關鍵零件。

Q&A (常見問題解答)

1. TPU全名係乜嘢？

TPU全名係Tensor Processing Unit（張量處理器），係Google專門為咗加速機器學習同人工智能運算而自家研發嘅晶片。

2. 手機入面嘅TPU同Google數據中心嘅TPU有一樣嗎？

唔同。數據中心嘅雲端TPU體積大、耗電量高，用來處理極龐大嘅運算；而Pixel手機（例如Pixel 11）入面嘅TPU，本質上係一款針對低功耗優化嘅神經網絡處理器（NPU），主要用來處理手機本地嘅輕量化AI任務。

3. 點解打機一定要用GPU而唔係TPU？

因為打機需要處理極其複雜嘅3D多邊形渲染、光線追蹤同高精確度嘅像素運算。GPU專門針對呢類圖像處理而設計；而TPU係為咗AI矩陣運算而生，缺乏處理圖像嘅專屬架構。

4. NPU點解咁適合放喺手機同手提電腦？

NPU嘅設計重點係「極低功耗」同「專注單一任務」。佢可以喺耗電極少（通常只用幾瓦特）嘅情況下，快速完成相片優化或者語音識別，唔會令設備過熱或者大幅縮短電池壽命。

5. 乜嘢係「脈動陣列」（Systolic Array）？

呢個係TPU入面嘅獨特架構設計。好似工廠流水線咁，數據由一個運算單元處理完之後，會直接傳遞畀隔籬嘅單元繼續計，而唔需要下下將數據存回記憶體，大幅減少咗數據傳輸嘅時間同耗電。

6. 點解AI運算唔需要極高嘅精確度？

AI運算好多時係一種「概率預測」，例如判斷一幅圖入面有幾大機會係狗。呢種預測只要大方向正確就可以得出結果，用8位元或者16位元嘅低精度數值已經足夠，唔需要用到GPU渲染圖像時必備嘅32位元超高精度。降低精度可以令運算速度大幅倍增。

7. 我哋平時用手機ChatGPT，背後係用緊手機晶片嗎？

如果你係連住上網用ChatGPT，手機只係負責顯示畫面，真正龐大嘅AI運算係由OpenAI嘅雲端伺服器（通常由大量高階GPU組成）完成嘅。但如果你用手機嘅離線翻譯或者魔術橡皮擦，就係用緊手機本身嘅NPU或TPU來運算。

8. 點解Google要堅持喺Pixel手機用自家Tensor晶片同TPU？

Google嘅策略係想軟硬件深度結合。透過自家設計嘅TPU，Google可以確保手機硬件完美支援佢哋獨家嘅AI演算法，提供其他品牌做唔到嘅獨特軟件體驗，而唔係單純追求跑分最高。

9. 如果我要喺屋企電腦做AI圖像生成，應該買GPU定NPU？

現階段一定係買高階GPU。NPU雖然開始普及喺電腦處理器入面，但目前嘅算力只夠應付視像會議背景虛化等基本功能。要本地運行大型圖像生成模型，依然需要GPU嘅高算力同大容量顯示記憶體（VRAM）支援。

10. 未來NPU會唔會完全取代GPU？

唔會。佢哋係互補關係。GPU會繼續喺圖像渲染、高靈活性嘅運算同高階AI訓練中佔據主導地位；而NPU就會全面普及喺所有終端設備，負責接手日常生活入面無處不在嘅輕量級AI工作。

總結

總括而言，科技界推出咁多唔同名稱嘅晶片，並唔係為咗搞亂消費者，而係因為科技應用越來分工越細。CPU負責整體指揮，GPU兼顧圖像同高強度平行運算，雲端TPU處理巨無霸級別嘅AI模型，而NPU（以及手機版TPU）就將AI帶入我哋嘅手掌之中。了解佢哋各自嘅專長，可以幫助我哋喺未來選購電子產品或者審視最新科技發展嗰陣，有更理性同清晰嘅判斷。