Analisis Regresi

Berganda

Analisis Regresi
Adakalanya model regresi sederhana tidak
mencerminkan kondisi perilaku variabel
ekonomi yang sebenarnya.
Analisis regresi hanya bisa dilakukan
terhadap suatu fungsi.
Syarat Fungsi:
Persamaan
DV di kiri dan IV di kanan
Tidak bisa dibolak-balik
Hubungan tingkah laku, bukan hubungan
pasti (identitas)
Pengaruh IV terhadap DV harus memiliki
landasan teori [ekonomi].

REGRESI LINIER BERGANDA

(MULTIPLE LINIEAR
REGRESSION)
Regresi digunakan untuk melakukan

pengujian hubungan antara sebuah variabel

dependent (terikat) dengan satu atau
beberapa variabel independent (bebas) yang
ditampilkan dalam bentuk persamaan regresi.
Jika variabel dependent dihubungkan dengan
satu variabel independent saja, persamaaan
regresi yang dihasilkan adalah regresi linier
sederhana (liniear regression).
Jika variabel independent-nya lebih dari satu
(X1, X2, X3, . Xi), maka persamaan
regresinya adalah persamaan regresi linier
berganda (liniear regression).

Persamaan Regresi
Y = a + bX1 + cX2 + ..... + kXi +
Dimana,
Y = variabel terikat (dependent)
X
= variabel bebas (independent)
a = nilai konstanta
b, c, ..= koefisien arah regresi (dugaan
koefisien regresi)
= kesalahan pengganggu

Dalam analisis regresi terdapat tiga ukuran yang akan

dicari :
1. Garis regresi, yaitu garis yang menyatakan dan
menggambarkan karakteristik hubungan antara
variabel-variabel dalam penelitian
2. Standar error of estimate, yaitu hanya mengukur
pemencaran tiap-tiap titik (data) terhadap garis
regresinya atau merupakan penyimpangan
standar dari harga-harga variabel pengaruh (Y)
terhadap garis regresinya.
3. Koefisien korelasi (r) yaitu angka yang
menyatakan eratnya hubungan antara variabelvariabel tersebut.

Prosedur Analisis Regresi

1. Menetapkan Model Ekonomi
Y = f (X1, X2, X3, , )

2. Menetapkan Hipotesa dan Menyusun Landasan

Teori Hipotesa
One tail
H0 : i = 0 ; HA : i > 0 atau i < 0
Two tailH0 : i = 0 ; HA : i 0

3. Mencari Data
Data Primer
Data Sekunder

Prosedur Analisis Regresi

4. Membuat Scatter Plot
5. Memilih Model Regresi

Model Linier
Model Non Linier [log-log; log-lin; lin-log]

6. Melakukan Regresi
7. [Uji Asumsi Klasik] Intepretasi Hasil dan Uji
Diagnostik

Membuat Scatter Plot dan Memilih Model Regresi

DV

DV

(1)

IV

(2)

IV

Gambar (1): Lebih tepat menggunakan model regresi non-linier

Gambar (2): Lebih tepat menggunakan model regresi linier
Dari Scatter Plot dapat terdeteksi kebutuhan akan Dummy Independent
Variable

Analisis Regresi
Metode estimasi koef. Regresi menggunakan
OLS (BLUE), syaratnya:
Hubungan Y dan X adalah linier [parameter]
Nilai X tetap untuk observasi yang berulangulang (non-stokastik).
Tidak ada korelasi antar variabel bebas
(multikol)
Nilai harapan atau rata-rata dari variabel
gangguan (e) adalah nol.
Varian dari variabel gangguan adalah sama
(homo).
Tidak ada korelasi antar variabel gangguan
(korelasi serial = autokorelasi).
Variabel gangguan berdistribusi normal.

Odinary Least
Square/OLS

Menurut pendapat pendapat Algifari (2000:83)

mengatakan: model regresi yang diperoleh dari
metode kuadrat terkecil biasa (Odinary Least
Square/OLS) merupakan model regresi yang
menghasilkan estimator linear yang tidak bias yang
terbaik (Best Linear Unbias Estimator/BLUE)

BLUE
Untuk mendapatkan nilai pemeriksa
yang efisien dan tidak bias atau BLUE
dari satu persamaan regresi berganda
dengan metode kuadrat terkecil (least
square), maka perlu dilakukan pengujian
untuk mengetahui model regresi yang
dihasilkan memenuhi persyaratan
asumsi klasik. Biasanya uji ini dilakukan
pada analisis dengan variabel yang
jumlahnya lebih dari dua.

Asumsi Klasik
Sedikitnya ada 5 uji asumsi yang harus
dilakukan terhadap model regresi
tersebut yaitu:
1.Uji Normalitas
2. Uji Autokorelasi
3. Uji Multikolinearitas
4. Uji Heterokedasitas
5.Uji Linearitas

Uji Normalitas
Menguji apakah dalam sebuah model
regresi, variabel dependent, variabel
independent atau keduanya mempunyai
distribusi normal ataukah tidak. Model
regresi yang baik adalah distribusi data
normal atau mendekati normal.

Uji Normalitas
Pengertian normal secara sederhana dapat
dianalogikan dengan sebuah kelas. Dalam kelas
siswa yang bodoh sekali dan pandai sekali
jumlahnya hanya sedikit dan sebagian besar
berada pada kategori sedang atau rata-rata. Jika
kelas tersebut bodoh semua maka tidak normal.
Dan sebaliknya jika suatu kelas banyak yang
pandai maka kelas tersebut tidak normal.
Pengamatan data yang normal akan
memberikan nilai ekstrim rendah dan ekstrim
tinggi yang sedikit dan kebanyakan mengumpul
di tengah. Demikian juga nilai rata-rata, modus
dan median relatif dekat.

Uji Autokorelasi
Uji autokorelasi digunakan untuk mengetahui
ada atau tidaknya penyimpangan asumsi klasik
autokorelasi yaitu korelasi yang terjadi antara
residual pada satu pengamatan dengan
pengamatan lain pada model regresi.
Uji Autokorelasi adalah untuk mengetahui
adanya korelasi antara variabel gangguan
sehingga penaksir tidak lagi efisien baik dalam
model sampel kecil maupun dalam sampel
besar.

Uji Multikolinearitas
Uji multikolinearitas bertujuan untuk
menguji apakah model regresi ditemukan
adanya korelasi antar variabel bebas
(independent variable). Model regresi
yang baik seharusnya tidak terjadi
korelasi di antara variabel bebas, karena
jika hal tersebut terjadi maka variabelvariabel tersebut tidak ortogonal atau
terjadi kemiripan.

Uji Heterokedasitas
Uji Heteroskedastisitas untuk terjadinya
gangguan yang muncul dalam fungsi regresi
yang mempunyai varian yang tidak sama atau
yaitu adanya ketidaksamaan varian dari
residual untuk semua pengamatan pada model
regresi sehingga penaksir OLS tidak efisien
baik dalam sampel kecil maupun sampel besar
(tapi masih tetap tidak bias dan konsisten).
Salah satu cara untuk mendeteksi masalah
heteroskedastisitas adalah dengan uji Park.

Uji Linearitas
Uji ini digunakan untuk melihat apakah
spesifikasi model yang digunakan yaitu studi
empiris linier, kuadrat, atau kubik. Ada tiga uji
yang bisa dilakukan untuk mendeteksi yaitu uji
Durbin Watson, uji Ramsey, dan uji Langrange
Multiplier.

Model Regresi Berganda

Model Umum

Yi/t = b0 + b1 X1i/t + b2 X2i/t + + bk Xki/t +

ei/t
b0 intesep
bk parameter
Yi/t DV
Xki/t IV
ei/t variabel gangguan/error term
i/t Individu/Waktu

Lanjut
Mengartikan b1 dan b2 dalam model regresi
berganda:

b1 mengukur perubahan ratarata Y terhadap perubahan per

unit X1 , sementara X2
diasumsikan tetap. Hal yang
sama untuk b2.
Jika modelnya non linier misalnya
model non linier log-log, maka
intepretasi dari masing-masing
parameter regresinya adalah
elastisitas.

Lanjut
Pengujian yang diperlukan:
Uji t Koef. Regresi Parsial
Koef. Determinasi yang disesuaikan (tidak
terkait banyaknya variabel independen).
Uji Hipotesis Koef. Regresi secara
Menyeluruh (Uji F).
Uji Asumsi OLS/Klasik (multikolinieritas,
heteroskedastisitas, otokorelasi, dan
normalitas).
Uji Perubahan Struktural Model Regresi (Uji
Chow).
Uji Stabilitas Model (CUSUM dan CUSUMQ).
Uji validitas model (Ramsey Reset Test)

CARA MEMBACA NILAI-NILAI STATISTIK DALAM REGRESI

Nilai t-statistik:

Hipotesa satu arah

Hipotesa positif
H0 = nol

Hipotesa negatif
H0 = nol

Ha > nol

Ha < nol

t-stat > t-tabel : H0 ditolak

t-stat < t-tabel : H0 ditolak

t-stat < t-tabel : H0 diterima

t-stat > t-tabel : H0 diterima

Hipotesa dua arah

H0 = 0

|t-stat| >|t-tabel| : H0 ditolak

Ha 0

|t-stat| <|t-tabel| : H0 diterima

Nilai F-statistik:
Jika nilai F-stat > F-tabel : Semua variabel
independen memiliki joint impact terhadap
variabel dependen
Nilai R2 :
Jika R2 = a artinya semua variabel independen
yang ada dalam model dapat menerangkan
(a*100) persen variasi dari variabel dependen

Pengujian Asumsi OLS

Multikolinieritas
Deteksi
Nilai R2 tinggi namun hanya sedikit
variabel independen yang signifikan.
Korelasi parsial antar variabel independen.
Regresi Auxiliary Membuat regresi antar
variabel independen.
Metode Klien
Membandingkan nilai R2 regresi auxiliary
dengan R2 regresi awal.
Rule of thumb-nya, jika R2 Auxiliary > R2
awal mengandung unsur multikol, dan
sebaliknya.

Lanjut
Penyembuhan
Doing nothing
BLUE tidak asumsi tidak adanya
multikolinieritas
Adanya multiko akan berdampak sulitnya
memperoleh standar error yang kecil.
Doing something
Menghilangkan variabel independen yang
memiliki korelasi yang kuat.
Transformasi variabel
Bentuk diferensi pertama
kelemahannya mungkin terjadi korelasi
serial (otokorelasi) Melanggar asumsi
OLS.
Penambahan Data

Lanjut
Heteroskedastisitas

Deteksi
Informal
Pola residual (Homo = tidak pasti;
Hetero = tertentu)
Formal
Metode Park
Metode Glejser
Metode Korelasi Spearman
Metode GoldFeld-Quandt
Metode Breusch-Pagan
Metode White

Lanjut
Metode Park
Hetero muncul karena residual tergantung dari variabel
independen.
Prosedur:
Estimasi regresi awal, lalu perolah residualnya.
Estimasi regresi antara residual kuadrat dengan variabel
independen.
Jika variabel independen signifikan, maka mengandung
heteroskedastisitas.

Lanjut
Metode Glejser
Hetero karena varian variabel
gangguan nilainya tergantung dari
variabel independen.
Prosedur:
Regresikan nilai absolut variabel
gangguan dengan variabel
independen.
Indikator simpulan sama dengan
Park

Lanjut
Metode Korelasi Spearman
Prosedur:
Peroleh residual dari estimasi model
awal.
Absolutkan nilai residualnya, lalu
diurutkan. Lakukan hal yang sama
untuk variabel X.
Cari korelasi antara keduanya.
Gunakan uji t Jika t hitung > t tabel,
maka terdapat heteroskedastisitas.

Lanjut
Metode GoldFeld-Quandt
Memperbaiki kelemahan Park dan Glejser
Hetero varian variabel gangguan merupakan
fungsi positif dari variabel independen.
Prosedur:

Urutkan data sesuai dengan nilai X (kecil besar)

Hilangkan observasi yang ditengah.
Membagi data yang tersisa (n c)
Buat regresi pada masing-masing kelompok
secara terpisah [(n c)/2].
Peroleh nilai RSS1 dan RSS2.
Hitung rasionya [(RSS2/df)/(RSS1/df)] bandingkan
dengan F tabel.

Lanjut
Autokorelasi
Adanya autokorelasi dalam regresi maka
estimator
Metode OLS masih linier
Metode OLS masih tidak bias
Metode OLS tidak memiliki varian yang
minimum lagi.
Menyebabkan perhitungan standard
error tidak bisa dipercaya.
Uji t dan F tidak bisa digunakan sebagai
evaluasi hasil regresi.

Lanjut
Deteksi
Metode Durbin-Watson (DW)
du = < d <= (4-du)
Metode Breusch-Godfrey
LM-test
Penyembuhan
Nilai rho atau koef. Model AR(1)
diketahui.
Nilai rho tidak diketahui namun bisa
dicari melalui estimasi.

Lanjut
Nilai rho diketahui
Transformasi persamaan metode
generalized difference equation.
Prosedur:
Model awal dan residual mengikuti
pola AR(1).
Buat persamaan dengan lag satu dari
model regresi awal.
Kalikan kedua sisi dengan rho yang
diperoleh dari pers. AR(1)
Kurangi pers. Awal dengan pers. tadi.

Lanjut
Nilai rho tidak diketahui
Estimasi nilai rho
Metode Diferensi Tingkat
Pertama R2 > d
Berenblutt-Webb.
Statistik d Durbin Watson
Metode 2 langkah Durbin
Metode Cochrane-Orcutt

 Aloysius Deno Hervino