134 
Table of Contents
CPU 就像精明的教授，擅長處理複雜邏輯與作業系統；GPU 則是成千上萬的小學生軍團，憑藉人海戰術成為圖形渲染與 AI 訓練的主力；而 Google TPU 則是為了機器學習特化的專用機器。本文透過通俗比喻，深度解析這三種運算單元在架構、技術指標與商業戰場上的關鍵定位。
Back to Index continuous quality improvement 365 days
CQI365 Tech Guide
AI 硬體指南：CPU vs GPU vs TPU
誰才是 AI 時代的運算王者？從「全能教授」到「暴力軍團」，一圖看懂算力戰爭。
CPU
The Professor
- 極度聰明，能解微積分
- 擅長複雜邏輯判斷
- 低延遲，專注單一任務
GPU
The Army
- 人多勢眾，數千核心
- 平行處理簡單算術
- 高吞吐量 (暴力美學)
TPU
The ASIC Machine
- 只算矩陣，不做雜事
- 犧牲通用性換極速
- Google AI 專用架構
圖表說明：外擴面積越大代表該能力越強
技術規格大比拼
在硬體架構中，通用性與專用效率往往是互斥的。要在 AI 運算中獲得極致的效率，就必須犧牲處理其他任務的能力。
靈活性 (Flexibility)
CPU 什麼都能做，是系統管家。TPU 除了矩陣運算外幾乎無法執行其他程式。
平行處理 (Parallelism)
GPU 與 TPU 擁有龐大核心數，能同時處理海量數據，是訓練 AI 的關鍵。
能源效率 (Efficiency)
TPU 去除多餘功能，專注矩陣乘法，在 AI 任務中擁有最高的每瓦效能。
什麼任務該用什麼晶片？
並不是所有任務都需要 AI 晶片，CPU 在日常操作中依然不可或缺。
日常任務 (OS/Excel)
CPU 統治領域
複雜邏輯與分支預測
多媒體與訓練 (Media/AI)
GPU 通用加速
圖形渲染與模型訓練
大規模矩陣 (Matrix)
TPU 絕對優勢
純粹的數學運算
商業戰場現況
NVIDIA (GPU 霸主)
憑藉 CUDA 生態系壟斷市場，H100 是目前 AI 訓練的硬通貨，通用性極佳。
Google (TPU 垂直整合)
不賣晶片，只賣雲端算力。以自研 TPU 降低成本，支撐 Gemini 模型訓練。
消費者端：NPU 的崛起
你可能買不到 TPU，但你的手機或電腦裡一定有 NPU (Neural Processing Unit)。
雲端 AI (高延遲/隱私風險)
NPU 本地處理 (即時/安全)
應用場景：FaceID、視訊背景模糊、即時語音轉文字。