Analisis Faktor

Tujuan:
Setelah menyelesaikan materi ini, anda akan
mampu:
1. Menjelaskan tujuan melakukan analisis faktor
pada data multivariate
2. Menjelaskan persamaan dan perbedaan
antara PCA dan EFA.
3. Mampu melakukan reduksi data dengan EFA.
4. Mampu melakukan rotasi faktor
5. Mampu meng-interpretasikan hasil dari EFA
Model Konseptual
Asumsi
Total Variansi dari variansi mewakili jumlahan dari
komponen-komponen:
1. Common Variance
Bagian dari Total Variance yang berkorelasi
dengan variabel-variabel lain dalam analisis.
2. Specific Variance
Bagian dari Total Variance yang tidak berkorelasi
dengan variabel-variabel lain.

Perbandingan dengan PCA
FA mengasumsikan total variability dapat dibagi atas
2 komponen: Explained/Common dan Error/Specific variances.
PCA mencari eigenvectors yang memaksimalkan jumlahan
total variance yang dapat dijelaskan.
EFA (Exploratory FA) menemukan faktor-faktor yang
memaksimalkan common variance.
Keduanya men-dekomposisi correlation matrix menjadi constituent
factors (dimensions atau sources of influence).
PCA seringkali digunakan pada ecological/chemical research.
EFA umumnya digunakan pada social science research.

Konsep penting
Uniqueness of a variable Bagian dari total
variance yang tidak berhubungan dengan
variabel-variabel lain (i.e.uniqueness = specific
variance/error variance).
Communality - index dari bagian variance dari
variabel yang dihitung oleh himpunan latent
factors.
Communality dari suatu variabel adalah sama
dengan jumlahan keseluruhan faktor dari
squared factor loading untuk suatu variabel.

Model PCA
PCA yang didefinisikan sebagai FAKTOR
merupakan kombinasi linier dari variabel
pengamatan:


Dapat dinyatakan sebagai
kombinasi dari Faktor-faktor:
Model Faktor
Dapatkan himpunan common factors terkecil
s.d.h. korelasi di antara komponen-komponen dari
x terhitung lengkap oleh faktor-faktor tersebut
Asumsi/Keterbatasan
Ilustrasi
Communality dan Specific Variance
Contoh 1
(
(
(
(

= E
68 47 23 12
47 38 5 2
23 5 57 30
12 2 30 19

Persamaan:
(
(
(
(

+
(

(
(
(
(

=
(
(
(
(

3 0 0 0
0 1 0 0
0 0 4 0
0 0 0 2
8 6 2 1
1 1 7 4
8
6
2
1
1
1
7
4
68 47 23 12
47 38 5 2
23 5 57 30
12 2 30 19

(
(
(
(

=
42
32
22
12
41
31
21
11
l
l
l
l
l
l
l
l
L =
(
(
(
(

8
6
2
1
1
1
7
4
, =
(
(
(
(

=
4
3
2
1
0 0 0
0 0 0
0 0 0
0 0 0

(
(
(
(

3 0 0 0
0 1 0 0
0 0 4 0
0 0 0 2


Communality dari X
1
:
17 1 4
2 2 2
12
2
11
2
1
= + = + = l l h

Variansi dari X
1
= 19 2 17 2 ) 1 4 ( ) (
2 2
1
2
12
2
11
= + = + + = + + l l
Contoh 2

(
(
(

=
1 4 . 0 7 . 0
4 . 0 1 9 . 0
7 . 0 9 . 0 1
dengan p = 3 dan m = 1



2 1 2 2 2
c + = F l X

3 1 3 3 3
c + = F l X

Struktur Kovariansi dapat dituliskan : + = E
'
LL
1
2
11
1 + = l
21 11
90 . 0 l l =
31 11
7 . 0 l l =

2
2
21
1 + = l
31 21
4 . 0 l l =

3
2
31
1 + = l
1 1 1 1 1
c + = F l X
Pasangan persamaan:

0.7 = l
11
l
31

0.4 = l
21
l
31


11 21
70 . 0
40 . 0
l l
|
.
|

\
|
=
dan 0.90 = l
11
.l
21
menghasilkan l
11
2
= 1.575 atau l
11
= + 1.255

Nilai 255 . 1
11
= l adalah terlalu besar.

575 . 0 575 . 1 1
1
= = adalah tidak logis.
Faktor (Non) Uniqueness
Model Faktor adalah tidak unique, karena sejumlah
orthogonal rotation dari faktor-faktor akan menghasilkan
dekomposisi yang sama dari matrik kovariansi.
Misal I adalah matrik orthogonal dan mendefinisikan
himpunan faktor-faktor baru oleh z*= I.z. Model dapat
dituliskan kembali sebagai :

Menggunakan Faktor Non Uniqueness
Faktor loading non-uniqueness dapat
digunakan untuk berbagai manfaat. Salah
satunya adalah kita dapat menentukan
satu himpunan faktor loading, kita dapat
merotasi secara orthogonal faktor-faktor
dalam usaha menemukan kombinasi linier
yang mudah diinterpretasikan.
Issue pada EFA:
Sample Size: > 50 observasi, lebih baik 100. Rule of thumb-
nya adalah sedikitnya 20 observasi per variabel.
Measurement Scales: Skala pengukuran adalah kontinu,
dalam praktek juga digunakan dummy variabel. Jika variabel
adalah binary, analisis faktor bentuk khusus harus
digunakan.
Original atau Standardized Variables: Factor analysis
seringkali menggunakan data standardized variables (untuk
matrik korelasi), meskipun memungkinkan menggunakan
data yang unstandardized values (misalnya covariance
matrix).
Jumlah Variabel: Minimal jumlah variabel adalah reasonble
untuk diturunkan menjadi sejumlah faktor. Identifikasi key
variable pada saat melakukan kombinasi linier antar variabel.
Derajat multi-colinearity juga akan membantu.
Dampak data outliers: Dapat berdampak serius terhadap
hasil.
Jumlah faktor untuk meng-ekstraksi
Jumlah faktor yang menunjukkan struktur penting dari
data multivariate tidak cukup jelas.
Trial and Error : Tetapkan tujuan awal ketika menguji
kesesuaian dengan +1 atau -1 faktor. Gunakan sejumlah
kriteria:
a. Latent Root Criterion
b. Percentage of Variance Criterion
c. Scree Test Criterion
d. Heterogenity of The Respondent
Latent Root Criterion: Gunakan hanya faktor yang
mempunyai eigenvalues >1. Gunakan sedikit faktor jika
jumlah variabel lebih dari 50.
Percentage of Variance Criterion: Lanjutkan
penambahan faktor sampai dengan persentase variansi
yang dapat dijelaskan mencapai 95% pada bidang
natural sciences atau 60% pada social sciences atau
ketika penambahan faktor yang terakhir, tidak lebih dari
5% kontribusinya terhadap total variansi penjelas.
Scree Test Criterion: Lakukan uji SCREE Plot untuk
mengidentifikasi jumlah faktor.
Heterogeneity of the Respondents:
Jika sejumlah kelompok sudah ada dalam data, faktor
ditambahkan sampai dengan penambahan faktor
terakhir tidak lebih banyak dari kelompok diskriminan.

SCREE PLOT
Penyesuaian Model Faktor
Non-Iterative Approaches
Principal Components Method
Principal Factor Method
Image Analysis
Harriss Non-iterative Canonical Factor Analysis
Iterative Approaches
Maximum Likelihood
Unweighted Least Squares
Iterative Principal Components
Alpha Factor Analysis

Bagaimana meng-estimasi koefisien
latent-factor?
Metode Principal Compent
Pilih k < p Principal Component dan dari PC ini tentukan faktor-
loading. Jika komponen-komponen ini menjelaskan paling banyak
variasi dalam X, maka perbedaan antara matrik korelasi observasi
dan matrik korelasi estimasi dapat disimpulkan kecil.
Metode Principal Factor
Gunakan Metode Principal Factor untuk matrik korelasi
(matrik kovariansi) yang telah dimodifikasi untuk meng-
akomodasi estimasi awal dari commonalities yang
ditentukan melalui analisis dari matrik kovariansi.
Image Analysis
Image dari Variabel adalah bagian dari variabel
yang diprediksi melalui regresi masing-masing
variabel pada variabel lainnya.
Harris Non-iterative canonical
factor analysis

Analisis Korelasi Kanonikal dari common
part dengan variabel-variabel observasi.
Maximum Likelihood
Asumsikan p-variate multivariate berdistribusi normal
untuk vektor x dengan struktur kovariansi yang diberikan
sebagai model faktor. MLE digunakan untuk
menemukan elemen dari B dan .
Metode ini mempunyai keuntungan bahwa model k-
factor adalah cukup memadai.
Diperlukan 2 tahap estimasi untuk menggunakan MLE
secara efisien
Unweighted Least Square
B dan di-estimasi menggunakan iterasi
untuk meminimalkan fungsi kuadrat
terkecil:
Metode Iterated Principal Factor
Analisis Faktor Alpha
Cronbachs Alpha
Signifikansi dari Loading-Factor
Apakah suatu non-zero loading cukup penting atau signifikan?
Rule of Thumb:
Loading Factor mempunyai kriteria berikut:


Lebih dari .30 (9% variansi terjelaskan) masih dianggap
significant yang minimal.
Lebih dari .40 (16%) adalah significant,
Greater than .50 (25%) adalah sangat significant.


Correlation Tests:
Uji standard untuk signifikansi dari koefisien korelasi dapat digunakan
Ukuran Sampel dan Loading Factor
Berdasar pada ukuran sampel:
Signifikanis loading faktor juga bergantung pada
ukuran sampel
Rotasi Faktor:
Bila loading factor pada saat awal sulit diinterpretasikan,
dapat dilakukan trasformasi matrik orthogonal sehingga
hasil akhir mudah diinterpretasikan
Tujuan dari Rotasi Faktor:
Karena masing-masing faktor z berkorelasi tinggi
dengan sejumlah x dan tidak berkorelasi dengan x
lainnya, maka kondisi ini perlu diperbaiki.

Rotasi Faktor
Tujuan Rotasi
Teknik Rotasi:
1. Rotasi Quartimax
2. Rotasi Varimax



3. Rotasi Equimax
Latihan Soal
Hasil Analisis Faktor
Loading Matrix awal
Loading Matrix rotasi dan Grafik Rotasi
Common Variance, Spesific Variance
Score Coeficient