Dokumen tersebut membahas konsep analisis regresi untuk menganalisis hubungan antara satu atau lebih variabel bebas dengan variabel tergantung. Metode yang dijelaskan adalah metode kuadrat terkecil untuk membentuk persamaan regresi linier sederhana dan berganda serta uji independensi dan kelinieran model regresi. Jenis model regresi yang disebutkan adalah linier, non-linier, parabola, eksponensial, geometrik dan logistik.
1. ANALISIS REGRESI
A. KONSEP ANALISIS REGRESI
Fenomena Satu Variabel
(misal: kadar suatu endapan)
Variabel Populasi Variabel
Sampel
( µ, σ, ρ, … ) (prediktor)
UJI HIPOTESIS
Fenomena Beberapa Variabel
(misal: kadar, temperatur, tekanan, ketebalan)
Variabel Tak Bebas Variabel Bebas
(respon) (prediktor)
2. ANALISIS REGRESI
- terjadi karena - mudah didapat (diukur)
variabel bebas persamaan regresi
- notasi, Y - X1, X2, …, Xk (k ≥ 1)
B. MODEL PERSAMAAN REGRESI
Persamaan Umum :
),..,
2
,
1
,..,
2
,
1
(
,..,
2
,
1
. mk
XXX
k
XXXY
θθθµ =
1. Satu Variabel Bebas, linier : Regresi Linier Sederhana
X
XY 21
.
θθµ +=
, θ1, θ2 : parameter
dengan taksiran persamaan :
bXaY +=ˆ
a taksiran θ1
b taksiran θ2
3. 2. Satu Variabel Bebas, non-linier : Regresi non-linier
k
k XXX
XY
θθθθµ ++++= ....
.
2
210
dengan taksiran persamaan :
k
k
XaXaXaaY ++++= ....ˆ 2
210
3. Beberapa Variabel Bebas, linier : Regresi Linier Berganda
kk XXX
XY
θθθθµ ++++= .....
. 22110
dengan taksiran persamaan :
kk
XaXaXaaY ++++= ....ˆ
22110
C. METODA PEMBENTUKAN PERSAMAAN REGRESI
1. METODA TANGAN BEBAS
- menggunakan diagram pencar.
Y, berat Y, berat
4. x regresi non-linier x x
x regresi linier x x
x x x
x x x
x
X, tinggi X, tinggi
- menggunakan fasilitas Exel
Langkah-langkah operasional :
a. Pilih menu grafik XY (Scatter), next
b. Data range : blok variabel x dan respon y, finish
c. Klik kanan pada salah satu titik
- Add trend line, pilih Type Linear
- Option : pilih display equation on chart dan
display R
2
Square value on chart, OK
5. y = 0,1938x + 11,744
R
2
= 0,0294
10
11
12
13
14
15
16
1 2 3 4 5 6 7
2. METODA KUADRAT TERKECIL
- Bahasan hanya untuk regresi linier sederhana & berganda
a. Regresi Linier Sederhana
bXaY +=ˆ
b = koefisien arah regresi
a = konstanta regresi
Yˆ
= digunakan untuk ramalan, bila X diketahui
- Jumlahkan bXaY +=ˆ
didapat :
∑Y = ∑a + ∑ bX = na + b ∑X … … (1)
- Kalikan bXaY +=ˆ
dengan ΣX, didapat :
∑XY = a ∑X + b ∑X
2
… (2)
6. dari (1) dan (2) didapat :
∑ ∑
∑ ∑ ∑
−
−
= 22
)(
))((
ii
iii
XXn
YXYXn
b dan XbYa −=
Contoh soal 1 :
Susun regresi linear dari 30 pasangan data berikut :
Xi Yi Xi Yi Xi Yi
30 29
32 31
32 30
33 31
33 32
34 32
34 31
34 30
34 30
34 32
35 32
36 30
36 32
36 34
37 33
37 34
37 32
38 36
38 34
39 36
39 35
40 38
40 35
40 33
40 37
40 36
41 37
42 36
42 35
42 38
Penyelesaian :
- Dari data di atas, susun tabel berikut :
Xi Yi XiYi Xi
2
Xi Yi XiYi Xi
2
Xi Yi XiYi Xi
2
30 29 870 900
32 31 992 1024
32 30 960 1024
33 31 1023 1089
35 32 1120 1225
36 30 1080 1296
36 32 1152 1296
36 34 1224 1296
39 35 1365 1521
40 38 1520 1600
40 35 1400 1600
40 33 1320 1600
7. 33 32 1056 1089
34 32 1088 1156
34 31 1054 1156
34 30 1020 1156
34 30 1020 1156
34 32 1088 1156
37 33 1221 1369
37 34 1258 1369
37 32 1184 1369
38 36 1368 1444
38 34 1292 1444
39 36 1404 1521
40 37 1480 1600
40 36 1440 1600
41 37 1517 1981
42 36 1512 1764
42 35 1470 1764
42 38 1596 1764
∑Xi = 1105 ∑Yi = 1001 ∑XiYi = 37094 ∑Xi
2
= 41029
- maka :
68,0
)105.1()029.41(30
)001.1)(105.1()094.37(30
2
=
−
−
=b dan
a = ∑Yi/n – b. ∑Xi/n = 1001/30 – 0,68 (1105/30) = 8,24
atau
24,8
)105.1()029.41(30
)094.37)(105.1()029.41)(001.1(
2
=
−
−
=a
Jadi persamaan regresi = XY 68,024,8ˆ +=
Asumsi-asumsi regresi linier :
a. eYY =−ˆ
, disebut kekeliruan prediksi atau galat prediksi
Y : nilai yang diharapkan
b. Y independen dan berdistribusi normal dengan :
rata-rata = (θ1+θ2X) dan variansi = σ
2
Y.X.
σ
2
Y.X ditaksir dengan S
2
Y.X = S
2
e.
Maka nilai variansi yang terkait dengan regresi adalah :
8. - Variansi variabel Y atas X :
2222
)(
2
1
( XYe SbS
n
n
S −
−
−
=
- Variansi koefisien regresi b : ∑ −
= 2
2
.2
)( XX
S
S
i
XY
b
- Variansi koefisien regresi a :
−
+=
∑ 2
2
2
.
2
)(
1
XX
X
n
SS
i
XYa
- Variansi ramalan rata-rata Y atas X0 yang
diketahui :
−
−
+=
∑ 2
2
02
.
2
ˆ
)(
)(1
XX
XX
n
SS
i
XYY
- Variansi ramalan individu Y atas X0 yang
diketahui :
−
−
++=
∑ 2
2
02
.
2
ˆ
)(
)(1
1
XX
XX
n
SS
i
XYY
D. UJI INDEPENDENSI DAN KELINIERAN REGRESI
- Hipotesis : a. Ho : Y dan X saling bebas
H1 : Y dan X tidak saling bebas
b. Ho : Model linier
H1 : Model non-linier
- Uji Statistik : a. 2
2
residu
reg
S
S
F = , uji independensi
Ho ditolak jika Fhit > F(α; n-2)
b. 2
2
e
TC
S
S
F = , uji kelinieran regresi
Ho ditolak jika Fhit > F(α; k-2 ; n-k)
Analisis Variansi untuk Uji Independensi & Kelinieran Regresi
9. Sumber
Variansi
dk JK KT F
Total n ∑ Yi
2
∑ Yi
2
-
Regresi (a)
Regresi(b
a)
Residu
1
1
n-2
∑ Yi)
2
/n
JKreg=JK (b a)
∑ −= 2
)ˆ( iires
YYJK
(∑ Yi)
2
/n
S
2
reg=JK(b a)
2
)( 2
2
−
−
=
∑
n
YY
s ii
res
2
2
res
reg
S
S
Regresi
Cocok
Kekeliruan
k – 2
n - k
JK (TC)
JK (E)
S
2
TC = JK (TC) / k-2
S
2
e = JK (E) / n-k
2
2
e
TC
S
S
∑ −−= ))(( iiiireg YYXXbJK
∑ ∑
∑
∑ −−−−=−= ))((
)(
)ˆ(
2
22
iiii
i
iiires YYXXb
n
Y
YYYJK
∑ ∑
∑
−=
X i
i
i
n
X
YEJK
2
2 )(
)(
JK (TC) = JKres – JK (E)
Soal 2 : Dari persamaan linier di atas, Ujilah
a. Apakah variabel X dan Y independen
b. Apakah persamaan regresi linier diterima
Penyelesaian :
JK (E) =
11. JKres = 33.599 – (1.001)
2
/30 – 0,68(Xi -1.105/30)(Yi –1.001/30)
= 33.599 – 33.400,03 – 0,68 (223,1556)
= 47,22
JKreg = 0,68 (223,1556) = 151,75
JK (TC) = JKres – JK (E) = 47,22 – 37,67 = 9,55
a. Uji Independensi
- Fhit = 2
2
res
reg
S
S
= )2/(
1/
2
2
−nJK
JK
res
reg
= )230/(22,47
75,151
− =
89,79
Ftabel = F(1-5% ; 1 , 30 – 2) = F(95%; 1, 28) = 4,20
Fhit > Ftabel, maka Ho ditolak : Y dan X tidak saling bebas.
b. Uji Kelinieran
- Fhit = 2
2
e
TC
S
S
= )/(
)2/(
knJK
kJK
E
TC
−
−
= )1230/(67,37
)212/(55,9
−
−
=
0,45
Ftabel = F(1-5% ; 12-2 , 30 – 12) = F(95%; 10 , 18) = 2,43
Fhit < Ftabel, maka Ho diterima : Model regresi linier diterima.
12. E. REGRESI NON-LINIER
1. Model Parabola Kuadratik :
2ˆ cXbXaY ++=
2. Model Parabola Kubik :
32ˆ dXcXbXaY +++=
3. Model Eksponensial :
X
abY =ˆ
XbaY ).log()log()ˆlog( +=
XbaY '''ˆ += (model linier)
4. Model Geometrik :
b
aXY =ˆ
)log()log()ˆlog( XbaY +=
(model linier)
5. Model Logistik : X
ab
Y
1ˆ =
6. Model Hiperbola : X
ba
Y
+
=
1ˆ
Penyelesaian ke-6 model di atas dengan mengubah bentuk
persamaan non linier menjadi model linier (model
eksponensial, model geometrik)