Fast fading, Slow fading and multipath effect in wireless communications QPSK in AWGN channel QPSK in AWGN + Rayleigh fading channel using GNU Octave simulation

1. Information Theory:
Different Type of Channel Capacity
Jay Chang
1

2. 2
離散信源熵與互離散信源熵與互離散信源熵與互離散信源熵與互信息信息信息信息
信息量
• 自信息→平均自信息→符號熵
• 條件自信息量→平均條件自信息→條件熵
• 聯合自信息→平均聯合自信息→聯合熵
單符號離散信源熵
• 符號熵
• 條件熵
• 聯合熵

3. 3
直觀推導信息測度
自信息I應該是消息機率pi的遞減函數
由兩個不同的消息(相互統計獨立)所提供的信息 = 它們分別提供信息之和(可加性)
, ( ) , and when 0, ( )
, ( ) , and when 1, ( ) 0
i i i i
i i i i
p I p p I p
p I p p I p
 ↓ ↑ → → ∞

↑ ↓ → →

4. 4
自信息量自信息量自信息量自信息量I(xi)
定義:
對於給定的離散機率空間表示的信源, x = ai事件所對應的(自)信息為:
• 以2為底, 單位為比特(bit)
• 以e為底, 單位為奈特(nat) 1nat = 1.433 bit
• 以10為底, 單位為笛特(det) 1det = 3.322 bit
1
( ) log ( ) log
( )
i i i
i
I x a p x
p x
= = − =

5. 5
平均自信息平均自信息平均自信息平均自信息量量量量: 信息信息信息信息熵熵熵熵H(X)
Answer:
• 數學期望: 加權平均值
定義: 信息熵
• 對於給定離散機率空間表示的信源所定義的隨機變數I(xi)的數學期望:
( ) [ ( )] ( )log ( )i i
i
H X E I x p x p x= = −∑

6. 6
條件自條件自條件自條件自信息信息信息信息
考慮兩個事件
聯合集XY中, 在事件yj發生的條件下, 關於事件xi的條件(自)信息量為:
Question
• 當X和Y相互獨立時, 條件自信息=？
1
( / ) log ( / ) log
( / )
i j i j
i j
I x y p x y
p x y
= − =

7. 7
平均條件自信息平均條件自信息平均條件自信息平均條件自信息量量量量: 條件熵條件熵條件熵條件熵
定義:
• 聯合集XY上，條件自信息量I(xi/yj)的機率加權平均值
如何求平均
• 先在X集合上求平均(此時, 在yj事件發生的條件下):
• 再在Y集合上求平均:
( / ) [ ( / )] ( / )log ( / )j j i j i j
i
H X y E I X y p x y p x y= = −∑
,
( / ) [ ( / )] ( ) ( / )log ( / )j i j i j
i j
H X Y E H X y p y p x y p x y= = −∑

8. 8
聯合自聯合自聯合自聯合自信息信息信息信息
定義:
• 聯合機率空間中任一聯合事件的聯合(自)信息量為:
當X和Y相互獨立時,
1
( , ) log ( , ) log
( , )
i j i j
i j
I x y p x y
p x y
= − =
( ) log ( ) log[ ( ) ( )] ( ) ( )i j i j i j i jI x y p x y p x p y I x I y= − = − = +

9. 9
聯合聯合聯合聯合熵熵熵熵(共熵共熵共熵共熵)
聯合集XY上, 每對事件的自信息量的機率加權平均值定義為聯合熵.
單位為比特/序列
將聯合事件xiyj作為一個隨機事件求平均不確定度.
,
( ) [ ( )] ( , )log ( , )i j i j
i j
H XY E I xy p x y p x y= = −∑

10. 10
熵函數的性質熵函數的性質熵函數的性質熵函數的性質
1 2
1 1
( ) ( , , ) log , where 1, 0 (
1.
2.
3.
4.
5.
6.
7
1,2,..., )
.
n n
n i i i i
i i
H X H p p p p p p p i n
= =
= = − = ≥ =∑ ∑
熵函數可表示為
非負性
對稱性
確定性
連續性
擴展性
最大熵定理
條件熵小於無條件熵
⋯

11. 11

12. 12
互信息量的定義互信息量的定義互信息量的定義互信息量的定義
通信的雙方
• 信源發出的符號消息集合X
• 信宿接收的符號消息集合Y
• X、Y有各自的機率空間
接收端收到集合Y中的一個消息符號yj後, 重新估計關於信源的各個消息xi發生的機率, 為條件機
率p(xi/yj), 即後驗機率.
收信者收到一個消息後:
• 獲得的信息量 = 收到消息前後不確定程度的減少量
• 不確定程度減少的原因, 是由於收到消息前後機率空間的機率分佈改變所致
當接收到yj後, 重新估計xi的發生.
收信者從不確定到比較確定或完全確定, 依賴於所獲得的信息量.
直觀地將它定義為：
• 互信息量 = 不確定程度的減少量
,
( / ) [ ( / )] ( / )log ( / )
( / ) [ ( / )] ( ) ( / )log ( / )
j j i j i j
i
j j i j i j
i j
H X y E I X y p x y p x y
H X Y E H X y p y p x y p x y
= = −
= = −
∑
∑

13. 13
通信前通信前通信前通信前
將信道看成關閉, 可以認為輸入隨機變數X和輸出隨機變數Y之間沒有任何關聯關係, 即X、Y統
計獨立.
根據機率的性質, 輸入端出現xi和輸出端出現yj的機率為:
此時，先驗不確定度為
通信後通信後通信後通信後
輸入隨機變數X和輸出隨機變數Y之間由信道的統計特性相聯繫. 輸入端出現xi和輸出端出現yj的
聯合機率為:
此時，後驗不確定為
通信後通信後通信後通信後
流經信道的信息量 = 通信前後不確定度的差, 即yj帶來關於xi的信息量:
( ) ( ) ( )i j i jp x y p x p y=
1
( ) log
( ) ( )
i j
i j
I x y
p x p y
′ =
( ) ( | ) ( ) ( ) ( | ) ( )i j i j j j i j i ip x y p x y p y p y x p y x p x= = =
1
( ) log
( )
i j
i j
I x y
p x y
′′ =
1 1
( ; ) ( ) ( ) log log
( ) ( ) ( )
( ) ( | )
log log
( ) ( ) ( )
1 1 1
log log log
( ) ( ) ( )
( ; ) ( ) ( ) ( )
i j i j i j
i j i j
i j i j
i j i
i j i j
i j i j i j
I x y I x y I x y
p x p y p x y
p x y p x y
p x p y p x
p x p y p x y
I x y I x I y I x y
′ ′′= − = −
= =
= + −
= + −

14. 14
1.
( / ) ( / ) ( ) ( , ) ( ) ( / ) ( / )
( ; ) log log log log log
( ) ( ) ( ) ( ) ( )
0
3. :
( ) ( ) ( )
( ; )
2.
( /
4
) ( )
.
i j i
p x y p x y p y p x y p x p y x p y x
I x y
p x p x p y p x p y p x p y p y
I x
p p
y
x y x
<
= = = = =
=
互信息量可為
可正可負 後驗機率 與先驗機率 誰大誰小的問題
任何兩個事件之間的互信息量 其中任一事件
互易性
的自信息量
互信息量的性質互信息量的性質互信息量的性質互信息量的性質

15. 15
平均互信息平均互信息平均互信息平均互信息

16. 16
平均平均平均平均互互互互信息信息信息信息與與與與熵的關係熵的關係熵的關係熵的關係
, , ,
( ; ) ( ) ( / ) ( , )
( ) ( / ) ( , )
( ) ( ) ( , )
:
( / )
( ; ) ( )log ( )log ( ) ( )log ( / )
( )
( )log ( ) (
x y x y x y
I X Y H X H X Y Y X
H Y H Y X X Y
H X H Y H X Y
pf
p x y
I X Y p xy p xy p x p xy p x y
p x
p x p x H
= −
= −
= + −
= = − +
= − −
∑ ∑ ∑
發 前後 關於 的不確定度減少量
發 前後 關於 的不確定度減少量
/ ) ( ) ( / )
x
X Y H X H X Y= −∑

17. 17
AWGN信道信道信道信道
,
,
,
,
,
1.
2.
,
( ) ( ) ( )
( ) (
P.S. ( ) ( | ) ( ) ( )
) ( ) ( )
( , ) ( , )
3. ( / ) ( )
( ) ( )
(
( | ) (
/ )
)
,
i j i j j j
X Y X n
Y n
X
X Y X n X
i j i
Y
i
X
R
n
c X
p x y p x n
p y x p n
p x
y t x t n t
p x y p x n p x p n
p
p x y p x y p y p y x p y x p
x
X
x
H Y p
= = =
∴ =
=
=
=
=
+
= =
=
−
信道的轉移機率密度函數 雜
信號和雜訊相互獨立
訊的機率密度函數
( ) ( )
( , )log ( / ) ( ) ( / )log ( / )
( ) ( )log ( ) ( )log ( ) ( )
,
max[ ( ; )] max[ ( )
: ( / ) ( )
(AWGN)
Y X Y Y
R R
X n n n n c
R R R
p x p x
c c
x y p y x dxdy p x dx p y x p y x dy
p x dx p n p n dn p
H Y X H n
n p n dn H n
C I X Y H X H
= −
= − = − =
∴ = = −
=
∫∫ ∫ ∫
∫ ∫ ∫
說明 條件熵 是由雜訊引起的 雜訊熵 所以它被稱為雜訊熵.
主要討論加性、高斯白噪 信道
( ) ( )
( )
AWG
( / )] max[ ( ) ( / )] max[ ( ) ( )] [ / ]
. . max[ ( )] ( )
N ( ) )(
c
p x p x
c
p x
n
p x H Y
X Y H Y H Y X H Y H n bit symbol
i e C H Y
X
C
H n
= − = −
= −
∋∴
噪聲 和信源 相互獨立
信道容量 就 選擇 輸是 出熵 達最大
∵
( )
( )
max[ ( ) ( / )] [bit/symbol]
( ) ( ).
max{ [ ( )
: symbo
( / )
l
/ 0,
:
: symbol [#symbo
]} [bit/sec
/
]
l sec]
P x
tt
P x
C
H x y
C H x H x
H x C
C
y
C r H x H x
r
y
= −
= =
= −
的定義 每個 能夠傳輸的平均信息量最大值
當信道中的雜訊極大時, 這時 即信道容量為零
的定義
單位時間內信道傳輸的 數
Review…

18. 18
( )
( )
2
2 2 2
2
2 2 2
2
2 2
. . max[ ( )] ( )
1
( / ) ( ) ( )log ( ) ( )log exp
22
1
( )log ( )log
AWG
exp
( ) ( )N
22
1 1
log 2 log e
2 2
c
p x
c c n n n
n n
p x H
i e C H Y H n
n
H Y X H n p n p n dn p n dn
n
p n dn p
C
n dn
e
Y
σπσ
σπσ
πσ
πσ
∞ ∞
−∞ −∞
∞ ∞
−∞ −∞
= −
 −
= = − = −  
 
 −
= − −  
 
= +
∋
∫ ∫
∫ ∫
選擇 輸出熵 達 大容量 最信道 就是
( )
( )
2
2 2
2
22 2
2
0
2
2
( )
2
2
2
2 2 2
AWGN
( ) 0, 0, max ( )
0,
1
xp log 2
2 2 2
1
use
4
1
max[ ( )] log 2
2
( ), ( ) ( )
( ) ( ),
1 1 1
log 2 log 2 log
2 2 2
n Y o c
X s o
ax
p x
o
o
s
C
p n
n n
dn e
x e dx
a a
H Y e
P
C eP
N p y N P H Y
p x
e
N P P P
π σ
σ σ
π
π σ
σ
σ
π π σ
σ
∞
−∞
∞
−
=
 −
⋅ = 
 
=
∴ = −
∴
∴ = − =
+
∫
∫
信道容量
＝ ＝ 取得當 時
＝
∵
( )
( )
2 22 2
2
1 1
log 1 log 1
2 2
, Nyquist 2
2 log 1 Shannon equation.
s
s
P
SNR
B f B
C BC B SNR
σ
 
= + = + 
 
≥
= = + =
由於信道帶寬 根據 取樣定理
單位時間信道容量
AWGN信道信道信道信道
噪聲是均值為零、
方差為σ 2的加性高斯噪聲

19. 19
AWGN in MATLAB
Ex: 20 dBW AWGN−在正弦信號上疊加功率為 的
%octave code
clear all
t=0:0.001:10;
x=sin(2*pi*t);
snr=20; %if x信號功率0dBW, then 噪聲功率-20dBW
y=awgn(x,snr);
subplot(2,1,1);plot(t,x);title('sinx')
subplot(2,1,2);plot(t,y);title('sinx + AWGN')
z=y-x;
var(z) %y-x = sigma^2 = 方差 = 噪聲功率

20. 20
clear all
t=0:0.001:10;
x=sin(2*pi*t);
snr=20;
y=awgn(x,snr,10); %if 輸入信號10dBW, 噪聲-10dBW
subplot(2,1,1);plot(t,x);title('sinx');
subplot(2,1,2);plot(t,y);title('sinx + AWGN');
z=y-x;
var(z) %y-x = sigma^2 = 方差 = 噪聲功率

21. 21
clear all
t=0:0.001:10;
x=sin(2*pi*t); %輸入信號功率 = 0.5
snr=20;
y=awgn(x,snr,'measured');%計算輸入信號功率, 根據SNR打AWGN
subplot(2,1,1);plot(t,x);title('sinx');
subplot(2,1,2);plot(t,y);title('sinx + AWGN');
z=y-x;
var(z) %y-x = sigma^2 = 方差 = 噪聲功率

22. 22
%用randn求AWGN
clear all
t=0:0.001:10;
x=sin(2*pi*t);
px=norm(x).^2/length(x); %計算x的功率
snr=20; %信噪比[dB]
pn=px./(10.^(snr./10)); %snr求噪聲功率
n=sqrt(pn)*randn(1,length(x)); %根據雜訊功率產生相應的AWGN序列
y=x+n; %在信號上疊加AWGN
subplot(2,1,1);plot(t,x);title('sinx');
subplot(2,1,2);plot(t,y);title('sinx + AWGN');
var(n)

23. 23
• sawtooth
• Def: sawtooth or triangle wave.
• Syntax: sawtooth(t,width);
• The function increases from –1 to 1 on the interval 0 to 2π×width, then decreases linearly from 1 to –1 on
the interval 2π×width to 2π.
• Thus a parameter of 0.5 specifies a standard triangle wave, symmetric about time instant π with peak-to-
peak amplitude of 1.
%用randn求三角波+AWGN
clear all
t=0:0.001:10;
x=sawtooth(2*pi*t,0.5);
px=norm(x).^2/length(x); %計算x的功率
snr=10; %信噪比[dB]
pn=px./(10.^(snr./10)); %snr求噪聲功率
n=sqrt(pn)*randn(1,length(x)); %根據雜訊功率產生相應的AWGN序列
y=x+n; %在信號上疊加AWGN
subplot(2,1,1);plot(t,x);title('tri');
subplot(2,1,2);plot(t,y);title('tri + AWGN');
var(n)

24. 24
數數數數字字字字通信系統模型通信系統模型通信系統模型通信系統模型
調制信道
信道的數學模型信道的數學模型信道的數學模型信道的數學模型
編碼信道
,
( / ) [ ( / )] ( / )log ( / )
( / ) [ ( / )] ( ) ( / )log ( / )
j j i j i j
i
j j i j i j
i j
H X y E I X y p x y p x y
H X Y E H X y p y p x y p x y
= = −
= = −
∑
∑

25. 25
調製調製調製調製信信信信道的數學道的數學道的數學道的數學模型模型模型模型
模型: 疊加有噪聲的線性時變/時不變網絡
Common:
• 有一對(或多對)輸入端和輸出端
• 大多數信道都滿足線性疊加原理
• 對信號有固定或時變的延遲和損耗
• 無信號輸入時, 仍可能有輸出(噪聲)
Input/output relation:
( ) ( ) ( )
( ) [ ( )] ( ) ( ) ( ) ( ) ( )
o
o i i o i
r t s t n t
s t f s t c t s t S C Sω ω ω
= +
= = ∗ ⇔ =
input output
channel
( ) ( ) ( ) ( additive )
( ) [ ( )] ( )* ( ) ( ) ( ) ( )
[ ]: ,
( )*: multiplicative ( : )
( ) ( )
o
o i i o i
r t s t n t
s t f s t c t s t S C S
f
c t
C n t
ω ω ω
ω
= +
= = ⇔ =
⇒
加性 噪聲干擾始終存在
反映信道本身特性 時間的函數
乘性 干擾 乘性干擾特點 與信號共存共亡
調製信道對信號的影響程度取決於 和 的特性
( ) ( ) ( ) ( )o ie t k t e t n t= +
• 因k(t)隨t變, 故信道稱為時變信道.
• 因k(t)與ei(t)相乘, 故稱其為乘性干擾.
• 因k(t)作隨機變化, 故又稱信道為隨參信道.
• 若k(t)變化很慢或很小, 則稱信道為恒參信道.
• 不同的物理信道具有不同的特性C(ω), 常見的情況是C(ω) = const.(通常可取1).
AWGN為最常見的信道模型
input output

26. 26
編碼編碼編碼編碼信信信信道的數學道的數學道的數學道的數學模型模型模型模型
模型:可用轉移機率(transfer probability)來描述
發送端 接收端
• P(0/0)和P(1/1): 正確轉移機率
• P(1/0)和P(0/1): 錯誤轉移機率
• P(0/0) = 1 – P(1/0)
• P(1/1) = 1 – P(0/1)
上圖就是二進位編碼無記憶信道模型
四進制編碼無記憶信道模型:
(0 / 0) (1/ 0) 1 ( 1)
(1/1) (0 /1) 1 ( 1)
(0) (1/ 0) (1) (0 /1)e
P P
P P
P P P P P
+ = + =
+ = + =
= +
正確 錯誤
正確 錯誤
P.S. 無記憶(memoryless)信道
一個碼元的錯誤, 和其前後碼元是否發生錯誤無關

27. 27
無線信道無線信道無線信道無線信道
有線有線有線有線信信信信道道道道
信道數學模型信道數學模型信道數學模型信道數學模型
信信信信道特性對傳輸的影響道特性對傳輸的影響道特性對傳輸的影響道特性對傳輸的影響
信信信信道噪聲道噪聲道噪聲道噪聲
信道容量信道容量信道容量信道容量

28. 28
慢慢慢慢衰落衰落衰落衰落(slow fading)
快快快快衰落衰落衰落衰落(fast fading)與多徑效應與多徑效應與多徑效應與多徑效應(multipath effect)
• 2徑模型徑模型徑模型徑模型
• Rayleigh衰落衰落衰落衰落
• 時間選擇性時間選擇性時間選擇性時間選擇性衰落衰落衰落衰落
• 頻率頻率頻率頻率選擇性衰落選擇性衰落選擇性衰落選擇性衰落

29. 29
慢慢慢慢衰落衰落衰落衰落(slow fading)
快快快快衰落衰落衰落衰落(fast fading)與多徑效應與多徑效應與多徑效應與多徑效應(multipath effect)
• 2徑模型徑模型徑模型徑模型
• Rayleigh衰落衰落衰落衰落
• 時間選擇性時間選擇性時間選擇性時間選擇性衰落衰落衰落衰落
• 頻率頻率頻率頻率選擇性衰落選擇性衰落選擇性衰落選擇性衰落

30. 30
EM Wave在空氣中傳播的衰減在無線信道中分成:
• 慢衰落slow fading (coherence time > delay time)
• 快衰落fast fading (coherence time << delay time)
慢衰落slow fading:
1. 距離引起的路徑損耗 and
2. 地形遮擋的陰影衰落 統稱.
路徑損耗說明2點:
1. λ↑, f↓, EM Wave衰減↓, 傳播距離越遠. e.g. LTE 2.6GHz λ~10 cm, 傳播距離~1 km.
2. Pr~(1/d2)接收信號功率與距離平方成反比.
• 相干時間 coherence Ɵme → channel
impulse response = const.
(信道沖激響應h(t)基本上不變的時間).
2
2 2
2
2 2
2 2
2
10 10 10
In : ( )
(2 )
: ANT Tx ~ ANT Rx
( ) :
:
, : Gain
(2 )
1 (2 )
(path loss)
free
(dB) 20log 32.44 20log (MHz) 20lo
-s
g (km).
pace t t r
r
r
t
t r
L
L
PG G
P d
d
d
P d
P
G G
K
d
d
L
K
L L f d
λ
π
λ
π
π
λ
=
≡
≡ =
= = + +
距離
接收功率
發射功率
發射機和接收機的
慢衰落慢衰落慢衰落慢衰落slow fading: 距離距離距離距離引起的路徑損耗引起的路徑損耗引起的路徑損耗引起的路徑損耗

31. 31
2 2
4
2 2
4
4
2 2
10 10
In : ( )
: ANT Tx ~ ANT Rx
( ):
:
, : Gain
, :
1
(path loss)
(dB) 20
non-free-space
log 40log .
t r
r t t r
r
t
t r
t r
t r
L
L t r
t r
h h
P d PG G
d
d
P d
P
G G
h h
h h
K
d
d
L
K h h
L h h d
=
≡
≡ =
= − +
距離
接收功率
發射功率
發射機和接收機的
發射天線和接收天線的高度
10 10
10 10
Cost231-Hata model:
(dB) 46.3 33.9log (MHz) 13.82log (m)
(44.9 6.55log )log (km) ( , ) .
t
t r m
L f h
h d a h f C
= + −
+ − − +
比較著名蜂窩通信的
Bible: Theodore (Ted) Rappaport - NYU Wireless
https://www.amazon.com/Wireless-Communications-Principles-Practice-2nd/dp/0130422320
慢衰落慢衰落慢衰落慢衰落slow fading: 距離距離距離距離引起的路徑損耗引起的路徑損耗引起的路徑損耗引起的路徑損耗

32. 32
慢衰落慢衰落慢衰落慢衰落slow fading: 地形地形地形地形遮擋的陰影遮擋的陰影遮擋的陰影遮擋的陰影衰落衰落衰落衰落
陰影衰落: EM Wave在傳播路徑上遇到山, 建築物, 樹木等障礙物阻擋, 造成信號場強的緩慢變化.
陰影衰落服從對數正態分布. PDF =
• x服從對數正態分布, ln x 服從正態分布.
• x服從正態分布, ex 服從對數正態分布.
在模擬中以dB表達的陰影衰落常取均值 = 0, 方差5~12 dB的正態分布.
2
2
1 (ln )
( ) exp
22
x
p x
µ
σπσ
 − −
=  
 

33. 33
慢慢慢慢衰落衰落衰落衰落(slow fading)
快快快快衰落衰落衰落衰落(fast fading)與多徑效應與多徑效應與多徑效應與多徑效應(multipath effect)
• 2徑模型徑模型徑模型徑模型
• Rayleigh衰落衰落衰落衰落
• 時間選擇性時間選擇性時間選擇性時間選擇性衰落衰落衰落衰落
• 頻率頻率頻率頻率選擇性衰落選擇性衰落選擇性衰落選擇性衰落

34. 34
Channels
EM Wave在空氣中傳播的衰減在無線信道中分成:
• 慢衰落slow fading (coherence time > delay time)
• 快衰落fast fading (coherence time << delay time)
快衰落fast fading:
• Doppler effect
multipath多徑效應多徑效應多徑效應多徑效應
• 相位取決於UE位置.
• 設某點同相, 反相: 移動λ/4, 相位+ - π/2.
• 3G: 2GHz, λ ~ 15 cm, λ/4 ~ 4 cm.
• 人步速 = 1 m/s, 信道變化頻率 = 100/4 = 25 Hz.
• 10 m/s = 36 km/hr, 信道變化頻率 = 250 Hz.
• 變化速度相對於陰影衰落是很快的 叫快衰落.
• 信道變化頻率 = Doppler 頻移.
(1 )
( ) cos[(1 )2 ] cos[(1 )2 ]
2cos(2 )cos(2 )
r s
s s
s s
v
f f
c
v v
r t f t f t
c c
v
f t f t
c
π π
π π
= +
= + + −
=
Doppler frequency shift
1
coherent
Doppler
T
f
∝
∆
時間選擇性衰落(快衰落)
coherent Ɵme → 信道保持不變的時間

35. 35
cell phone
Base station
0 0
0 0
0 0
0 0
0
2
,
2
cos 2 cos 2
( )
2
if
2
cos 2 1 cos 2 1
then ( )
r d r
t t t
c c
r d r
f t f t
c c
E t
r d r
v
r d rv v
f t f t
c c c c
E t
r vt
π π
π π
−
− −
   −    
− −      
      ∴ = −
−
  −     
− − + −      
      = −
+
在時刻 手機分別接收到從時刻 基站發出直射信號及時刻 基站發出反射信號
手機以 速度向右移動
02d r vt
 
 
 
− −
Give a fast fading simulation:

36. 36
時間選擇性時間選擇性時間選擇性時間選擇性衰落衰落衰落衰落
0 0
0 0
0 0
0 0
0
2
,
2
cos 2 cos 2
( )
2
if
2
cos 2 1 cos 2 1
then ( )
r d r
t t t
c c
r d r
f t f t
c c
E t
r d r
v
r vt d rv v
f t f t
c c c
E t
r vt
π π
π π
−
− −
   −    
− −      
      ∴ = −
−
 +  − −    
− − + −     
     = −
+
在時刻 手機分別接收到從時刻 基站發出直射信號及時刻 基站發出反射信號
手機以 速度向右移動
0
1 2 2 1
0
0 0 0
0 0
2
Doppler , , Doppler
, 2
2
cos 2 1 cos 2 1 2sin 2
( )
s
vt
c
d r vt
v v
D f D f D D D
c c
r vt
r d r r dv v vt
f t f t f
c c c c c c
E t
r vt r vt
π π π
  
  
  
− −
−
= = = − =
+
   −  −       
− − + − +          
          ⇒ ≈ − ≈
+ +
頻移 擴展
在此情況下 條路徑衰減大致相同所以分母為
0
sin 2
1
2 s
d
f t
c
r vt
D
π
     
−    
    
+
≈
由於直射信號和反射信號相位改變導致接收合成信號幅度發生嚴重起伏
我們把信道保持不變的時間稱為信道的相干時間

37. 37
%octave code
clear all
f=2; %發射信號頻率
v=1; %移動台速度, 靜止情況為0
c=10; %電磁波速度, 光速
r0=3; %移動台距離基站初始距離
d=15; %基站距離反射牆的距離
t1=0.01:0.0001:12; %時間
E1=cos(2*pi*f*((1-v/c).*t1-r0/c))./(r0+v.*t1); %直射信號
E2=cos(2*pi*f*((1+v/c).*t1+(r0-2*d)/c))./(2*d-r0-v*t1); %反射信號
figure
plot(t1,E1,t1,E2,'-g',t1,E1-E2,'-r'); %畫出直射 反射和總的接收信號
legend('direct signal','reflect signal','total rx signal');
xlabel('time');
ylabel('E-field amp');
Td=(2*d-r0)/c-r0/c
deltaf=1/Td
Ds=2*v*f/c
時間選擇性時間選擇性時間選擇性時間選擇性衰落衰落衰落衰落

38. 38
0 0
0 0
0 0
2
,
2
cos 2 cos 2
( )
2
:
2 (2 ) 2 (2 )
2
1 1
(2 )2
r d r
t t t
c c
r d r
f t f t
c c
E t
r d r
f d r f r d r r
f
c c c c
f
d r r
c c
π π
π π
φ π π π
−
− −
   −    
− −      
      ∴ = −
−
⋅ − ⋅ −     
∆ = + − = − +         
− 
− 
 
在時刻 手機分別接收到從時刻 基站發出直射信號及時刻 基站發出反射信號
來看一下相位差
如果 改變
(2 )
, , 2 .
1/ , 1/
d
d d
d r r
T
c c
f T T
− 
↔ ≡ − = 
 
⇒ ⇒≪
合成信號峰 谷 路徑傳播時延差
若 的改變量 信號振幅不會有明顯的改變 稱相干帶寬
頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落

39. 39
%octave code
clear all
f=1; %發射信號頻率
v=0; %移動台速度, 靜止情況為0
c=3e8; %電磁波速度, 光速
r0=3; %移動台距離基站初始距離
d=15; %基站距離反射牆的距離
t1=0.001:0.00001:12; %時間
E1=cos(2*pi*f*(1-v/c).*(t1-(r0+v.*t1)/c))./(r0+v.*t1); %直射信號
E2=cos(2*pi*f*(1+v/c).*(t1-(2*d-r0-v.*t1)/c))./(2*d-r0-v.*t1); %反射信號
figure
plot(t1,E1,t1,E2,'-g',t1,E1-E2,'-r'); %畫出直射 反射和總的接收信號
legend('direct signal','reflect signal','total rx signal');
xlabel('time');
ylabel('E-field amp');
Td=(2*d-r0)/c-r0/c
deltaf=1/Td
f要改變超過deltaf, amp才有感…
頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落

40. %octave code
clear all
f=1; %發射信號頻率
v=0; %移動台速度, 靜止情況為0
c=3; %電磁波速度, 光速
r0=3; %移動台距離基站初始距離
d=15; %基站距離反射牆的距離
t1=0.01:0.0001:12; %時間
E1=cos(2*pi*f*(1-v/c).*(t1-(r0+v.*t1)/c))./(r0+v.*t1); %直射信號
E2=cos(2*pi*f*(1+v/c).*(t1-(2*d-r0-v.*t1)/c))./(2*d-r0-v.*t1); %反射信號
figure
plot(t1,E1,t1,E2,'-g',t1,E1-E2,'-r'); %畫出直射 反射和總的接收信號
legend('direct signal','reflect signal','total rx signal');
xlabel('time');
ylabel('E-field amp');
Td=(2*d-r0)/c-r0/c
deltaf=1/Td
40
f=1; f=1.31;
頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落

41. 41
Jakes模型來產生單徑的平坦模型來產生單徑的平坦模型來產生單徑的平坦模型來產生單徑的平坦型型型型Rayleigh衰落衰落衰落衰落信道信道信道信道
https://github.com/oklachumi/octave-in-communications

42. 42
QPSK in AWGN channel octave code
https://gist.github.com/oklachumi/884d36cfd0ef07a6a703b4a2e7bc30d4

43. 43
QPSK in AWGN + Rayleigh fading channel octave code
https://github.com/oklachumi/octave-in-communications

44. 44
QPSK in AWGN + Rayleigh fading channel octave code
QPSK Rayleigh BER AWGN channel BER, Rayleigh .
:
1. pilot , , .
2. DQPSK, MFSK... .
≫經過 衰落 在此情況下如果不對 信道進行補償是無法通信的
補償方法
發送已知的 信號對信道進行估計 利用估計的信道值對接收信號進行校正 然後解調
採用其他調製方式 這些對信道衰落所引起的相位變化不敏感

45. 45
慢慢慢慢衰落衰落衰落衰落(slow fading)
快快快快衰落衰落衰落衰落(fast fading)與多徑效應與多徑效應與多徑效應與多徑效應(multipath effect)
• 2徑模型徑模型徑模型徑模型
• Rayleigh衰落衰落衰落衰落
• 時間選擇性時間選擇性時間選擇性時間選擇性衰落衰落衰落衰落
• 頻率頻率頻率頻率選擇性衰落選擇性衰落選擇性衰落選擇性衰落

46. 46
根據概率論中心極限定理：當 n
足夠大時，x(t)和y(t) 趨於正態分佈。
∑=
=
n
i
ii tatX
1
cos)()( ϕ
∑=
=
n
i
ii tatY
1
sin)()( ϕ
同相 ~ 正交形式
包絡 ~ 相位形式
瑞利瑞利瑞利瑞利
分佈分佈分佈分佈
均勻均勻均勻均勻
分佈分佈分佈分佈
[ ]cos( ) ( )cV t t tω ϕ= +
1 1
( ) ( )cos cos ( )sin sin
( )cos ( )sin
n n
i i c i i c
i i
c c
r t a t t a t t
X t t Y t t
ϕ ω ϕ ω
ω ω
= =
= −
= −
∑ ∑
包絡相位
隨機緩變的
窄帶信號

47. 47
2
2 2
( ) exp , 0
2
x x
p x x
σ σ
 −
= ≥ 
 
Rayleigh distribution

48. 48
f∆
fcf
f
cf0
波形
發送信號發送信號 接收信號接收信號
頻譜
[ ]( ) co (s( ) )cr t V t t tω ϕ= +( ) cos ctAs t ω=
緩慢變化的包絡
結論結論結論結論
Multipath傳播使信號產生Rayleigh fading
Multipath傳播引起frequency spread
Multipath傳播引起數字信號ISI

49. 49
慢慢慢慢衰落衰落衰落衰落(slow fading)
快快快快衰落衰落衰落衰落(fast fading)與多徑效應與多徑效應與多徑效應與多徑效應(multipath effect)
• 2徑模型徑模型徑模型徑模型
• Rayleigh衰落衰落衰落衰落
• 時間選擇性時間選擇性時間選擇性時間選擇性衰落衰落衰落衰落
• 頻率頻率頻率頻率選擇性衰落選擇性衰落選擇性衰落選擇性衰落

50. 時間選擇性衰落(快衰落)
頻率選擇性衰落
50
1
coherent
Doppler
T
f
∝
∆
1
: BW .
: ( )
coherent
spread
coherent
spread
B
t
B
t h t
∝
相干帶寬 在該 內信道衰落基本不變
時延擴展 信道沖激響應 持續時間
2個重要觀念個重要觀念個重要觀念個重要觀念

51. 51
0( ) ( )
( ) ( ) ( )
( ) ( )
[ ] ( )
( )
( )
o
o
i i
i
f c t
r t s t
s t s t s t
t
S SC
n
ω ωω
= +
= = ∗
=
( )H Kω = dtωωϕ =)( dt
d
d
==
ω
ωϕ
ωτ
)(
)(⇒⇒⇒⇒
無失真傳輸理想信道無失真傳輸理想信道無失真傳輸理想信道無失真傳輸理想信道
幅頻特性 相頻特性 Group delay特性
o ( ) ( )ds t K s t t= −
( ) dj t
H eK ω
ω −
= ( ) ( )dh t K t tδ= −
固定的遲延
固定的衰減
這種情況稱為無失真傳輸這種情況稱為無失真傳輸
若輸入信號為s(t)，則理想恒參信道的輸出:
input output

52. 52
平穩隨機過程通過線性系統
若輸入有界且系統是物理可實現的，則有
設
則
或
o ( )tξ( )i tξ給定 統計特性, 則可求得 統計特性
線性系統

53. 輸入過程輸入過程輸入過程輸入過程 輸出過程輸出過程輸出過程輸出過程
機率分布 平穩平穩平穩平穩、、、、高斯高斯高斯高斯 平穩平穩平穩平穩、、、、高斯高斯高斯高斯
均值 常數常數常數常數 常數常數常數常數
PSD
ACF
53
[ ( )]iE t aξ = [ ( )] (0)oE t a Hξ = ⋅
( )iP f
( ) ( )i iR P fτ ⇔ ( ) ( )o oR P fτ ⇔
是線性系統的直流增益；
2
( )H f∫
∞
=
0
)()0( dtthH
o ( )tξ( )i tξ
是功率增益
2
( ) ( ) ( )o iP f H f P f=
P.S. 廣義平穩
均值與時間t無關
相關函數僅與τ有關

54. 54
通過窄帶系統的隨機信號或雜訊
0
c
c
f f
f
∆ <<

>>
窄帶條件窄帶條件窄帶條件窄帶條件：：：：示意圖示意圖示意圖示意圖：：：：
可視為
包絡緩慢變化
的正弦波
窄帶過程的PSD
窄帶過程的sampling waveform
隨機變化的包絡
頻率近似為fc

55. 55
運算式運算式運算式運算式：：：：
( ) cos[ ] , ( )( ) ( 0)ct t aa t t tξξ ξϕξ ω= + ≥
—包絡相位形式包絡相位形式包絡相位形式包絡相位形式
( ) ( )( ) cos sinc s cc t tt t tξ ωξ ξ ω= − —同相正交形式同相正交形式同相正交形式同相正交形式
隨機包絡隨機包絡隨機包絡隨機包絡 隨機相位隨機相位隨機相位隨機相位
同相分量同相分量同相分量同相分量 正交分量正交分量正交分量正交分量
兩者關係兩者關係兩者關係兩者關係：：：：
( )tξ

56. 56
同同同同相和正交分量相和正交分量相和正交分量相和正交分量的統計特性的統計特性的統計特性的統計特性
( ) ( )( ) cos sinc s cc t tt t tξ ωξ ξ ω= −
根據上式和窄帶過程的統計特性，可推出：
均值 0、方差 的平穩高斯窄帶過程 ，它的
2 2 2
c sξσ σ σ= =
並且 互不相關
∴統計獨立
∵高斯
∵均值 0
平均功率相同
且均值為0，方差也相同:
結論結論結論結論1
2
ξσ
( )
( )
c
s
t
t
ξ
ξ

→

同樣也是
同相分量
正交分量
平穩、高斯
(0) 0CS
R =

57. 57
按照推導思路：
借助結論結論結論結論1,根據關係：
包絡和相位的統計特性包絡和相位的統計特性包絡和相位的統計特性包絡和相位的統計特性
高斯
高斯
統計獨立 邊際分布

58. 58
均值0 、方差 的平穩高斯窄帶過程 ，它的
包絡～Rayleigh分佈：
相位～均勻分佈：
且 ---統計獨立統計獨立統計獨立統計獨立
結論結論結論結論2
2
ξσ

59. 59
( )
( )
d
d
t
t
φ ω ω
τ ω
≠
≠
失真影響失真影響失真影響失真影響
( )H Kω ≠幅頻失真：
相頻失真：
: SNR
: ISI BER
 → ↓

→ ↑
對模擬信號 波形失真
影響
對數字信號 產生
: voice , vedio
: ISI BER


→ ↑
對模擬信號 影響不大 影響大
影響
對數字信號 產生

60. 60
( ) cos ctAs t ω=
[ ] [ ]
[ ]
[ ]
[ ]
1 1 2 2
1
1
( ) ( )cos ( ) ( )cos ( )
( ) ( )
( ) ( )
( )cos ( )
cos
cos
c c
n c n
n
c
i
n
c
i
i i
i i
r t a t t t a t t t
a t t t
t
t
a t t
a t t
ω τ ω τ
ω τ
ω τ
ϕω
=
=
= − + −
+ −
= −
= +
∑
∑
⋯
multipath多徑效應多徑效應多徑效應多徑效應
經過n條路徑條路徑條路徑條路徑傳播（各路徑有時變時變時變時變的衰落衰落衰落衰落和時延時延時延時延））））
— 多徑傳播的影響
)()( tt ici τωϕ −= )()( tt ici τωϕ −=
傳輸時延
則接收信號接收信號接收信號接收信號為
設發送發送發送發送信號為
幅度恒定
頻率單一
第i條路徑
接收信號振幅
(時變時變時變時變的衰落衰落衰落衰落)

61. 61
根據概率論中心極限定理：當 n
足夠大時，x(t)和y(t) 趨於正態分佈。
∑=
=
n
i
ii tatX
1
cos)()( ϕ
∑=
=
n
i
ii tatY
1
sin)()( ϕ
同相 ~ 正交形式
包絡 ~ 相位形式
瑞利瑞利瑞利瑞利
分佈分佈分佈分佈
均勻均勻均勻均勻
分佈分佈分佈分佈
[ ]cos( ) ( )cV t t tω ϕ= +
1 1
( ) ( )cos cos ( )sin sin
( )cos ( )sin
n n
i i c i i c
i i
c c
r t a t t a t t
X t t Y t t
ϕ ω ϕ ω
ω ω
= =
= −
= −
∑ ∑
包絡相位
隨機緩變的
窄帶信號

62. 62
f∆
fcf
f
cf0
波形
發送信號發送信號 接收信號接收信號
頻譜
[ ]( ) co (s( ) )cr t V t t tω ϕ= +( ) cos ctAs t ω=
緩慢變化的包絡
結論結論結論結論
Multipath傳播使信號產生Rayleigh fading
Multipath傳播引起frequency spread
Multipath傳播引起數字信號ISI

63. 63
發射信號 接收信號
設兩條路徑的信道為
f (t)
fo(t) = K f(t - τ1) + K f(t -τ2)
信道傳輸函數
fo(t)
ττττ =ττττ2 -ττττ1
相對時延差
1
(1)
(
)
( )
(
)
o jj
KH
F
e e
F ωωτ τω
ω
ω
−−
+= =
則接收信號為
1 1( )
o ( )= ( ) + ( )j j
F KF e KF eωτ ω τ τ
ω ω ω− − +
常數衰減因子 確定的傳輸時延因子 與信號頻率ωωωω有關的複因子
傳輸衰減均為 K
傳輸時延分別為ττττ1和ττττ2

64. 64
( ) 1 2 cos
2
j
H e ωτ ωτ
ω −
= + =
—頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落頻率選擇性衰落
如何減小如何減小如何減小如何減小？？？？
信道幅頻特性
信道對信號不同的頻率成分，將有不同的衰減。

65. 數位信號的碼元寬度:
65
信道相關帶寬(correlation BW)：
定義為定義為定義為定義為相鄰傳輸零點的頻率間隔相鄰傳輸零點的頻率間隔相鄰傳輸零點的頻率間隔相鄰傳輸零點的頻率間隔
，工程經驗公式：
減小頻率選擇性衰落的措施減小頻率選擇性衰落的措施
△△△△f
△△△△f ＝＝＝＝1/ττττm△△△△f ＝＝＝＝1/ττττm
應使信號頻寬
Bs ＝(1/3 ~ 1/5)△△△△fBs ＝(1/3 ~ 1/5)△△△△f
Ts ＝(3 ~ 5)ττττmTs ＝(3 ~ 5)ττττm →RB↓
Bs < △△△△f
τm = 多徑中最大
時延差

66. 66
歸納歸納
信道特性信道特性 多徑效應多徑效應
減小衰落的措施減小衰落的措施
1
coherent
Doppler
T
f
∝
∆
時間選擇性衰落
頻率選擇性衰落
1
coherent
spread
BW
t
∝
∆
• 衰減隨時間變化
• 時延隨時間變化
• 多徑傳播
• Rayleigh fading
• frequency spread
• Frequency select fading
• Bs = (1/3 ~ 1/5)Δf
• 分集接收
• 擴頻技術
• OFDM
結論結論結論結論
Multipath傳播使信號產生Rayleigh fading
Multipath傳播引起frequency spread
Multipath傳播引起數字信號ISI

67. 67
無線信道無線信道無線信道無線信道
有線有線有線有線信信信信道道道道
信道數學模型信道數學模型信道數學模型信道數學模型
信信信信道特性對傳輸的影響道特性對傳輸的影響道特性對傳輸的影響道特性對傳輸的影響
信信信信道噪聲道噪聲道噪聲道噪聲
信道容量信道容量信道容量信道容量(Channel Capacity)
指信道能夠無差錯傳輸時的 最大平均信息速率

68. 信道容量信道容量信道容量信道容量(channel capacity): 指指指指信道能夠無差錯傳輸時信道能夠無差錯傳輸時信道能夠無差錯傳輸時信道能夠無差錯傳輸時的的的的 最大最大最大最大平均信息平均信息平均信息平均信息速率速率速率速率
離散信道離散信道離散信道離散信道容量容量容量容量
兩種不同的度量單位(兩者之間可以互換):
• C : 每個符號(symbol)能夠傳輸的平均信息量最大值. [bit/symbol]
• Ct : 單位時間(sec)內能夠傳輸的平均信息量最大值. [bit/sec]
計算離散信道容量的信道模型:
• 發送符號：x1，x2，x3，…，xn
• 接收符號： y1，y2，y3，…，ym
• P(xi) = 發送符號xi的出現機率，i ＝ 1，2，…，n
• P(yj) = 收到yj的機率，j ＝ 1，2，…，m
• P(yj/xi) = 轉移機率, 即發送xi的條件下收到yj的條件機率
計算收到一個符號時獲得的平均信息量:
• 從信息量的概念得知: 發送xi時收到yj所獲得的信息量 = 發送xi前接收端對xi的不確定程度
(即xi的信息量) − 收到yj後接收端對xi的不確定程度.
• 發送xi時收到yj所獲得的信息量 = −log2P(xi) − [−log2P(xi/yj)]
• 對所有的xi和yj取統計平均值, 得出收到一個符號時獲得的平均信息量:
• 平均信息量/symbol =
68
2 2
1 1 1
( )log ( ) [ ( ) ( / )log ( / )] ( ) ( / )
n m n
i i j i j i j
i j i
P x P x P y P x y P x y H x H x y
= = =
− − − = −∑ ∑ ∑

69. 69
離散信道離散信道離散信道離散信道容量容量容量容量
計算收到一個符號時獲得的平均信息量:
• 從信息量的概念得知: 發送xi時收到yj所獲得的信息量 = 發送xi前接收端對xi的不確定程度
(即xi的信息量) − 收到yj後接收端對xi的不確定程度.
• 發送xi時收到yj所獲得的信息量 = −log2P(xi) − [−log2P(xi/yj)]
• 對所有的xi和yj取統計平均值, 得出收到一個符號時獲得的平均信息量:
• 平均信息量/symbol =
• 由上式可知, 收到一個符號的平均信息量只有[H(x) – H(x/y)], 而發送符號的信息量原為H(x),
少了的部分H(x/y)就是傳輸錯誤率引起的損失.
2 2
1 1 1
( )log ( ) [ ( ) ( / )log ( / )] ( ) ( / )
n m n
i i j i j i j
i j i
P x P x P y P x y P x y H x H x y
= = =
− − − = −∑ ∑ ∑
2
1
2
1 1
, (entrop
whe
y)
,
re
( ) ( )log ( )
( / ) ( ) ( / )log ( / )
n
i i
i
m n
j i j i j
i
j
j i
i
H x P x P x
H x y P y P x y P x y
x
y x
=
= =
= −
= −
∑
∑ ∑
為每個發送符號 的平均信息量 稱為信源的熵
為接收 符號已知後 發送符號 的平均信息量

70. 70
二二二二進進進進制制制制信信信信源的熵源的熵源的熵源的熵
設發送”1”的機率P(1) = α, 發送”0”的機率P(0) = 1 − α
當α 從0變到1時, 信源的熵H(α)可以寫成:
按照上式畫出的曲線:
• 當α = 1/2時, 此信源的熵達到最大值.
• 這時兩個符號的出現機率相等, 其不確定性最大.
無雜訊信道無雜訊信道無雜訊信道無雜訊信道
信道模型: 發送符號和接收符號有一一對應關係(右圖).
此時收到信息量是: −log2P(xi), P(xi/yj) = 0, so H(x/y) = 0.
因為, 平均信息量/symbol = H(x) – H(x/y), 所以在無雜訊
條件下, 接收一個符號獲得的平均信息量為H(x).
而原來在有雜訊條件下, 從一個符號獲得的平均信息量
為[H(x) − H(x/y)].
說明H(x/y)即為因雜訊而損失的平均信息量.
2 2( ) log (1 )log (1 )H α α α α α= − − − −
二進二進二進二進制制制制信源的熵信源的熵信源的熵信源的熵
H(αααα)

71. 71
( )
( )
max[ ( ) ( / )] [bit/symbol]
( ) ( ).
max{ [ ( )
: symbo
( / )
l
/ 0,
:
: symbol [#symbo
]} [bit/sec
/
]
l sec]
P x
tt
P x
C
H x y
C H x H x
H x C
C
y
C r H x H x
r
y
= −
= =
= −
的定義 每個 能夠傳輸的平均信息量最大值
當信道中的雜訊極大時, 這時 即信道容量為零
的定義
單位時間內信道傳輸的 數
離散信道容量離散信道容量離散信道容量離散信道容量

72. 72
ix
/ )i iP y x（
/ )j iP y x（
iy
jy
⋮
式中, P(xi) ‒發送符號xi的機率（i = 1,2,3,⋯,n）
（1）信源發送的平均信息量（熵）
∑=
−=
n
i
ii xPxPxH
1
2 )(log)()(
（2）因信道雜訊而損失的平均信息量
∑ ∑= =
−=
m
j
n
i
jijij yxPyxPyPyxH
1 1
2 )/(log)/()()/(
式中, P(yj) ‒收到yj的機率（j = 1,2,3,⋯,m）
P(xi/yj) ‒收到yj後判斷發送的是xi的轉移機率
整理整理整理整理
離散信道容量離散信道容量離散信道容量離散信道容量

73. 73
（3）信息傳輸速率 R —— 信道每秒傳輸的平均信息量
[H(x) – H(x/y)] ‒是接收端得到的平均信息量
[ ( ) ( / )] ( / )R H xr H x y b s= −
r ‒信道每秒傳輸的符號數為（符號速率）
——最大信息傳輸速率: 對一切可能的信源機率分佈, 求R的最大值：
( ) ( )
max{ } max{ [ ( ) ( / )]}( / )t
P x P x
C R r H x H x y b s= = −
含義：每個符號能夠傳輸的最大平均信息量
( )
max[ ( ) ( / )] ( / symbol)
P x
C H x H x y b= −
（4）信道容量 Ct
等價式：

74. 74
Ex. 設設設設信源由兩種信源由兩種信源由兩種信源由兩種符號符號符號符號”0”和和和和”1”組成組成組成組成, 符號符號符號符號傳輸速率為傳輸速率為傳輸速率為傳輸速率為1000符號符號符號符號/秒秒秒秒, 且且且且這兩種符號的這兩種符號的這兩種符號的這兩種符號的出現機率相等出現機率相等出現機率相等出現機率相等，，，，
均等於均等於均等於均等於1/2. 信信信信道為對稱信道為對稱信道為對稱信道為對稱信道道道道, 其其其其傳輸的符號傳輸的符號傳輸的符號傳輸的符號錯誤機率為錯誤機率為錯誤機率為錯誤機率為1/128.
試試試試畫出此信道畫出此信道畫出此信道畫出此信道模型模型模型模型, 並並並並求此信道的容量求此信道的容量求此信道的容量求此信道的容量C和和和和Ct
[ ]
2 2 2
1
2
1 1
1 1 1 2 1 1 2 1 2 2 1 2 1 2 2 1 2 2
(entropy) :
1 1 1 1
( ) ( )log ( ) log log 1
2 2 2 2
( / ) ( ) ( / )log ( / )]
( ) ( / )log ( / ) ( / )log ( / ) ( ) ( / )lo
:
g ( / ) (
n
i i
i
m n
j i j i j
j i
H x P x P x
H x y P y P x y P x y
P y P x y P x y P x y P x y P y P x y P x y P x
=
= =
 
= − = − + =  
= −
= − + + +
∑
∑ ∑
條件信
此信源的平 信 量
息量
均 息
[ ]{ }
[ ]
2 2 2 2
1 1 2 2 2 1 1 2 1 2 1 2
1 1 2 1 1 2 1 2 2 1
2
/ )log ( / )
( / ) ( / ) 127 /128, ( / ) ( / ) 1/128, ( ) ( ) 1, ( ) ( ) 1/ 2
( / ) ( / )log ( / ) ( / )log ( / )
(127 /128)log (127 /128) (1/128)log
y P x y
P x y P x y P x y P x y P y P y P y P y
H x y P x y P x y P x y P x y
= = = = + = = =
∴ = − +
= − +
∵
[ ]
[ ] [ ]
2
( )
( )
(1/128)
(127 /128) 0.01 (1/128) ( 7) 0.01 0.055 0.045
max[ ( ) ( / )] 0.955 (bit/symbol)
max{ [ ( ) ( / )]} 1000 0.955 955 (b/s)
P x
t
P x
C H x H x y
C r H x H x y
= − × + × − ≈ − − =
∴ = − =
= − = × =

75. 75
連續信道容量連續信道容量連續信道容量連續信道容量
2
2
0 0
0
0
0
log 1 ( / )
:
log 1
(W), : (W), : (Hz).
S
( / )
0
SB PSD , ,
, , PSD
1. When (or )
Wh
.
. e ?n2
t
t
t
t
S
C B b s
N
S
S
C B b s
n B
C
n
N B
n N n B
B S
C
n
S
B
x
 
= + 
 
 
= + 
 
=
→ ∞ ⇒
→ ∞
→ ∞
=
→
信號平均功率 雜訊功率 頻寬
設雜訊 為 則 上式可以改寫成
連續信道的容量 和信道頻寬 信號功率 雜訊 三個因素有關
( )
0
1/0
2 2
0 0 0
1/
2 2
0
1/
2 2
0
0 0 0
0 0
log 1 log 1
limln(1 ) 1
, / , , , / 1.44 .
,
and log log ln
lim lim log (1 ) log 1.44
x
t
x
x
x
t
B x
n B
BnS S S
C x
n S n B n
x a e a
S S S
C x e
n
S
S B S
B
n n
n n
→
→∞ →
 
= + = + 
 
+ = = ⋅
∴ = + = ≈
∵
上式表明 當給定 時 若頻寬 趨於無窮大 信道容量不會趨於無限大 而只是 的 倍
這是因為當頻寬 增大時 雜訊 .功率也隨之增大

76. 76
連續信道容量連續信道容量連續信道容量連續信道容量
2
0
2 2 2
0 0 0
bit
log 1 ( / )
/
log 1 log 1 log 1
1/ bit
,
1.
2. ,
t
b b b
t
b
b
b b
b
bb
t
S
C B b s
n B
E T ES
C B B B
n B n B n
E
T
E T
B
C B E
S ST CE
 
= + 
 
     
= + = + = +     
    
=
=

上式還可以改寫成
每個 能量
每 持續時間
上式表明
為了得到給定的信道容量 可以增大頻寬 以換取 的減小.
在接收功率受限的情況下 由於 可以增大 以減小 來保持 和 t不變.

77. 77
Ex. 已已已已知黑白電視圖像信號知黑白電視圖像信號知黑白電視圖像信號知黑白電視圖像信號每幀每幀每幀每幀(frame)有有有有30萬萬萬萬個個個個像素像素像素像素(pixel), 每個每個每個每個pixel有有有有8個亮度個亮度個亮度個亮度電平電平電平電平, 各各各各電平獨立電平獨立電平獨立電平獨立
地以地以地以地以等機率出現等機率出現等機率出現等機率出現, 圖像圖像圖像圖像每秒發送每秒發送每秒發送每秒發送25幀幀幀幀. 若若若若要求接收圖像信噪比達到要求接收圖像信噪比達到要求接收圖像信噪比達到要求接收圖像信噪比達到30dB, 試試試試求所需傳輸頻求所需傳輸頻求所需傳輸頻求所需傳輸頻寬寬寬寬.
因為每個pixel獨立地以等機率取8個亮度電平, 故每個pixel的信息量為 Ip = −log2(1/8) = 3 (b/pix)
並且每幀圖像的信息量為 IF = 300,000 × 3 = 900,000 (b/F)
因為每秒傳輸25幀圖像, 所以要求傳輸速率為
Rb = 900,000 × 25 = 22,500,000 = 22.5 × 106 (b/s)
信道的容量Ct ≥ Rb值: 22.5 × 106 = B log2 (1 + 1000) ≈ 9.97B
得出所需頻寬 B = (22.5 × 106)/9.97 ≈ 2.26 (MHz).

78. 78
信道容量
指信道能夠無差錯傳輸時的最大平均信息速率
S － 信號平均功率（W）；B － 頻寬（Hz）
n0 －雜訊單邊(SSB)功率譜密度；N = n0B －雜訊功率（W）
連續信道連續信道連續信道連續信道容量容量容量容量
由Shannon信息理論信息理論信息理論信息理論可證，AWGN背景下的連續信道容量為:
——Shannon公式公式公式公式
等價等價等價等價：：：：
2016/04/30 Google Doodle Claude Shannon 100 歲冥誕
意義：若Rb ≤ C則總能找到一種信道編碼方式, 實現無差錯傳輸

79. 79
信道容量C依賴於B、S和n0
增大 S 可增加 C，若S → ∞，則C→ ∞；
減小 n0 可增加 C，若n0 → 0，則C→ ∞；
增大 B 可增加 C，但不能使 C無限制增大。
當 B→ ∞ 時，C 將趨向一個定值：
結論：
2
0 0
lim lim log (1 ) 1.44
B B
S S
C B
n B n→∞ →∞
= + ≈
信道容量和頻寬關係
S/n0
S/n0
B
C 1.44(S/n0)

80. 80
C一定時，信道頻寬B、信噪比S/N、傳輸時間t 三者之間可
以互相轉換。
增加B，可以換取S/N的降低；反之亦然。
若S/N不變，增加B，可以換取 t 的減少。
應用：
3
12 10 /C b s= ×
【例如例如例如例如】
1 1 1
2 2 2
: 3 / 15
: 4 / 7
if B KHz then S N
if B KHz then S N
= =
= =
互換前
互換後

81. 81