介紹gpu基本原理

1. GPU簡介
分析應用科
陳一宏

2. 2
 中央處理單元(CPU)
– 大腦, 處理指令集的位置
– 設計上為序列式(Sequential)滿足通用性需求
– 不同的任務在不同時間快速切換
– 擅長複雜邏輯判斷，先天不易做平行化
 包含數個核心(MultiCores)
CPU – 結構
接收/解釋命令
控制程式資料進
入主記憶體
L1/L2快取記憶
邏輯運
算元
(CORE)
( +-*/
>=<)
CPU僅有數個核心(通常<10核)

3. 3
 圖形處理單元(Graphical Processing Unit )
– 任務是在螢幕上合成顯示數百萬個像素的圖像
– 擅長大量、簡單，先天不易做複雜運算(邏輯、流程控制)
 包含數百個核心(Many Cores)
GPU – 結構
接收/解釋命令
控制程式資料進
入主記憶體
L1/L2快取記憶
邏輯運
算元
(CORE)
( +-*/
>=<)
GPU至少有>100核心
載貨類比
大卡車 vs. 摩托車

4. 4
GPU – 作為繪圖卡
撒點、格狀化、上色在圖形處理時具有資料間彼此無關的
特性(Processed INDEPENDENTLY)

5. 5
GPU – 作為繪圖卡
每一個像素可以分別交給
一顆CORE(核心)處理

6. 6
 NVIDIA
– 2011首次提出通用性顯示處理單元 (GPGPU)
– 將GPU進行一般性運算(不受限於影像顯示)
– 利用CUDA 技術只要有NVIDIA的一般顯示卡，就能使用GPU加速
運算
GPGPU – 作為通用性計算

7. 7
GPU加速
來源: EuroNova
在不同的算法中皆表明，相較於CPU使用GPU有顯著的加速效果。

8. 8
類神經網路 – 平行計算
文獻:IEEE on Big Data
訓練子集
A
訓練子集
B
訓練子集
N
訓
練
資
料
∆𝑤 𝑎
∆𝑤 𝑏
∆𝑤 𝑛
…
𝑊𝑖+1 = 𝑊𝑖 + ∆𝑤𝑗
𝑁
𝑠𝑢𝑏𝑠𝑒𝑡
W
W
類神經網路可以容易的分割任務，執行平行計算。
適於GPU特性

9. 9
小結
CPU GPU
資料處理 序列式 平行式
程式控制 簡單 複雜
邏輯 複雜 簡單
核心數 4-8 2560 (GTX 1080)
適合 小資料
(邏輯成分高)
大資料
(大量、密集度高)
 中央處理單元(CPU)與 圖形顯示單元(GPU) 比較
資料量體大，運算邏輯簡單適合使用GPU

10. End