SPSS ile Çoklu Regresyon (Stepwise Metodu)

SPSS’te Çoklu Doğrusal Regresyon Analizi yapmanın birden fazla yöntemi bulunmaktadır. Bu yazıda, bağımsız değişkenlerin regresyon analizi modeline sırayla dahil edildiği ve dahil edilme sırasının istatistik programı tarafından matematiksel formüle dayanarak belirlendiği “Stepwise (Adımlı) Regresyon Analizi” yönteminden bahsedeceğim.

Çoklu Regresyon “Stepwise” Metodu Nedir?

Birden fazla bağımsız değişkenin bir adet bağımlı değişken üzerindeki etkisini incelemek için yapılan Çoklu Regresyon Analizi’nin Forced-Entry, Hiyerarşik ve Stepwise olmak üzere 3 tane popüler yöntemi vardır. Bu sayfada anlatacağım “Stepwise” regresyon metodu Türkçe kaynaklarda “Adımlı” regresyon metodu olarak da geçer.

Forced-Entry Regresyon Analizi yönteminde bütün bağımsız değişkenler aynı anda regresyon analizi modeline sokulur ve bağımlı değişken üzerindeki etkileri tek aşamada incelenir; en sade ve en sık kullanılan çoklu regresyon analizi yöntemi budur. Hiyerarşik Regresyon Analizi’nde, bağımsız değişkenlerin hepsi regresyon analizi modeline aynı anda sokulmaz; araştırmacının belirlediği bir sıraya göre bağımsız değişkenlerin hepsi sırayla modele eklenir. Stepwise Regresyon Analizi de bağımsız değişkenlerin modele aynı anda değil de sırayla dahil edilmesi açısından Hiyerarşik Regresyon yöntemine benzer; fakat Hiyerarşik Regresyon’dan farkı, Stepwise Regresyon yönteminde bağımsız değişkenlerin analiz modeline dahil edilme sırasının SPSS tarafından belirlenmesi ve analizin sonunda bütün bağımsız değişkenlerin modelde bulunmaması, yalnızca bağımlı değişkeni anlamlı şekilde açıklayan bağımsız değişkenlerin modelde bulunmasıdır.

Stepwise Regresyon Analizi sürecinde, bağımlı değişkendeki açıklama miktarını anlamlı şekilde en çok arttıran bağımsız değişken SPSS (veya analizin yapıldığı başka istatistiksel program) tarafından belirlenerek modele ilk önce o bağımsız değişken dahil edilir. Ardından, geri kalan bağımsız değişkenler arasından yine bağımlı değişkeni anlamlı şekilde en fazla miktarda açıklayan bağımsız değişken SPSS tarafından belirlenir ve modele eklenir. Bu şekilde bağımlı değişkendeki açıklanma miktarını anlamlı şekilde arttıran bağımsız değişken kalmayana kadar modele değişken eklenmeye devam edilir. Modele eklenecek yeni bağımsız değişken kalmadığı zaman analiz süreci sonlanır.

Stepwise Çoklu Regresyon Yöntemi Ne Zaman Tercih Edilir?

Stepwise Regresyon Analizi yöntemi, bağımlı değişken üzerinde anlamlı etkisi olup olmadığını incelemek istediğimiz çok fazla sayıda bağımsız değişken olduğu durumlarda, bu değişkenlerden hangilerinin bağımlı değişken üzerinde en fazla anlamlı etkisi olduğunu ayıklama konusunda bize yardımcı olur. Bu bağlamda keşifsel nitelikte çalışmalarda tercih edilmektedir. Stepwise Regresyon Analizi sayesinde, çok sayıda bağımsız değişken adayı içinden en etkili bağımsız değişkenleri belirleyerek daha sade modeller oluşturabiliriz.

Aynı zamanda, tüm bağımsız değişkenlerin aynı anda regresyon modeline dahil edildiği Forced-Entry yöntemiyle yapılan bir çoklu regresyon analizinin sonucunda bağımlı değişkendeki açıklanma miktarı (R-Kare) anlamlı olmasına ve çok yüksek olmasına karşın regresyon analizi sonuç tablosunda bağımsız değişkenlerin hiçbirinin anlamlı etkisinin olmadığı görünüyorsa (ya da şüpheli şekilde az sayıda bağımsız değişkenin anlamlı etkisinin olduğu görünüyorsa), alternatif yöntem olarak bir de Stepwise Regresyon Analizi yapılarak model gereksiz bağımsız değişkenlerin karıştırıcı etkilerinden arındırılır ve sonuçta Forced-Entry metodunda elde edilen sonuçlara daha fazla sayıda bağımsız değişkenin anlamlı etkisinin göründüğü güncellenmiş bir model elde edilebilir.

Stepwise Regresyon Yöntemi’nin Artıları ve Eksileri

Stepwise Regresyon Analizi’nin en önemli avantajlarından biri, çok fazla bağımsız değişken adayı olan regresyon analizi çalışmalarında modelin gereksiz karmaşıklaşmasını önleyerek daha az bağımsız değişkenin bulunduğu anlamlı bir yapıya ulaşmaya imkan tanımasıdır. Ancak bununla beraber Stepwise Regresyon Analizi’nin bazı önemli sınırlamaları da vardır:

• Stepwise Regresyon Analizi’nde hangi bağımsız değişkenlerin regresyon modeline ekleneceği, tamamen matematiksel bir formüle dayanır. SPSS (ya da analizin yapıldığı istatistiksel program tarafından), matematiksel formüllere dayanarak, sırayla bağımlı değişkendeki açıklama miktarı en fazla olan bağımsız değişkenler modele eklenir bağımlı değişkendeki açıklanma miktarını anlamlı olarak arttıran bağımsız değişken adayı geriye kalmayınca analiz durdurulur. Bu yöntemle analiz yapmak overfitting (aşırı uyum) riski taşıyabilir. Yani model, eldeki veri setine çok iyi uyum sağlarken, farklı veri setlerinde aynı sonuçları veremeyebilir; bu da analizin tekrarlanabilirliğinin önüne geçerek güvenilirliğini azaltır.

• Bir üstteki madde sebebiyle, bağımlı değişken üzerinde birbirine yakın etkisi olan birden fazla bağımsız değişken adayı olduğunda, SPSS tarafından “anlamlı etkisi var” olarak seçilen bağımsız değişken adayları farklı veri setlerinde değişkenlik gösterebilir. Bu da modelin genellenebilirliğini zayıflatır.

• Stepwise Regresyon Analizi’nde bağımsız değişken adaylarının içinde modele dahil edilen bağımsız değişkenler SPSS tarafından yalnızca istatistiksel anlamlılık temelinde seçildiği için, Stepwise Regresyon Analizi sonucunda teorik temellere dayanmayan modeller ortaya çıkabilir.

Stepwise Regresyon Analizi’nde SPSS modele dahil ettiği ve etmediği bağımsız değişkenleri sadece matematiksel temellere dayanarak belirlediği için teorik temelleri olan araştırmalarda Stepwise yönteminin kullanılmaması önerilmektedir. Teorik beklentisi sağlam olan çalışmalarda Stepwise yerine hiyerarşik regresyon (değişkenler sırayla eklenmek isteniyorsa) veya forced-entry çoklu regresyon (değişkenlerin hepsi aynı anda eklenmek isteniyorsa) yöntemlerinin tercih edilmesi önerilmektedir. Yalnızca keşifsel niteliği olan, çok fazla sayıda bağımsız değişken adayının olduğu araştırmalarda Stepwise Regresyon Analizi yönteminin tercih edilmesi önerilmektedir.

SPSS ile Stepwise Çoklu Regresyon Nasıl Yapılır?

Aşağıda, SPSS ile Stepwise yöntemiyle Çoklu Regresyon Analizi’nin nasıl yapılacağını bir örnek üzerinden resimlerle gösteriyorum.

Bu analiz, tüm değişkenleri aynı anda modele ekleyerek Forced-Entry yöntemiyle bir Çoklu Doğrusal Regresyon Analizi örneği gösterdiğim bu linkteki sayfadaki yazıyla aynı veri setinde aynı değişkenler kullanılarak Stepwise yöntemiyle yapılan bir analiz. Bu sayfadaki Stepwise regresyon analizinin sonuçlarını linkteki diğer sayfadaki Forced-Entry regresyon analizinin sonuçlarıyla karşılaştırarak okursanız iki yöntemden elde edilen sonuçlardaki benzerlikleri ve ufak farklılıkları daha iyi görebilirsiniz.

Analyze -> Regression -> Linear basıyoruz.

Bu örnekte 3 bağımsız ve 1 bağımlı değişkenimiz olacak.

Bağımlı değişkenimiz olan Depresyon’u Dependent kutusuna; Stres, Dürtüsellik ve Yaşam Doyumu bağımsız değişkenlerimizi de aşağıdaki kutuya birlikte koyuyoruz.

Önemli olan yer şu: “Method” menüsünden “Stepwise” seçmeliyiz.

Statistics butonuna basarak “R Squared Change” de işaretlersek modele eklenen her yeni değişkenin modelin açıklama gücüne nasıl bir katkısı olduğunu aynı Hiyerarşik Regresyon Analizi’ndeki gibi görebileceğiz.

Stepwise Regresyon SPSS Sonuçları Yorumlama

İlk tabloda Stepwise Regresyon Analizi kapsamında birbiri ardına kaç adet model kurulduğu, ve her modelde yeni eklenen bağımsız değişkenin hangisi olduğu görülebilir.

Mesela bizim yaptığımız Stepwise Regresyon Analizi’nde sırayla 2 tane model kurulmuş: Birinci modelde Stres eklenmiş, ikinci modelde de Yaşam Doyumu eklenmiş. (Dürtüsellik modele hiç eklenmemiş SPSS tarafından)

• 1. modelde sadece Stres bağımsız değişken, Depresyon bağımlı değişken
• 2. modelde hem Stres hem Yaşam Doyumu bağımsız değişken, Depresyon bağımlı değişken

“Model Summary” tablosunda oluşturulan regresyon analizi modellerinin bağımlı değişkeni açıklama gücü (R Square), her bir yeni modelde bir önceki modele göre modele göre açıklama gücündeki artış (R Square Change) ve açıklama gücündeki artışın istatistiksel olarak anlamlılığı (Sig F Change) bilgilerine erişilebilir.

Aşağıdaki tabloyu yorumlayacak olursak:

• 1. modelde R Square değeri 0.076’dır, yani Stres’in tek bağımsız değişken olduğu durumda Depresyon’daki varyansın %7.6’sı açıklanabilmektedir.
• 2. modelde bağımsız değişken olarak Stres’in yanına Yaşam Doyumu da eklenmiştir ve R Square değeri 0.076’dan 0.119’a çıkmıştır. Yani R Square değeri Yaşam Doyumu’nun gelişiyle 0.043 artmıştır.
  Böylece modelin Depresyon’daki varyansın artık %7.6’sını değil, %11.9’unu açıkladığı sonucuna varılabilir.
  Açıklanan varyanstaki bu artışın anlamlı bir artış olup olmadığını da en sağdaki Sig F Change sütunundan okuyunca görüyoruz ki p değeri 0.008 (yani 0.05’ten küçük p değeri olduğu için anlamlı bir artış).

ANOVA tablosu aslında çok önemli değil, Stepwise Regresyon Analizi sonucunda SPSS’in oluşturduğu ANOVA tablosundaki her modelin p değeri 0.05’ten küçük çıkar her zaman zaten.

Son olarak modelde bulunan bağımsız değişkenlerin bağımlı değişken üzerindeki etkilerini “Coefficients” tablosundan okuyarak görebiliriz. Bunu tablonun aşağısında açıklıyor olacağım.

Önce 1. modele bakalım.

Stres’in tek bağımsız değişken olarak yer aldığı 1. regresyon modelinde Stres değişkeninin p değeri 0.001’den küçük bulunmuş, Beta değeri de 0.276 yani “Stres arttıkça Depresyon da artıyor” denebilir.

Şimdi 2. modele bakalım.

Stres ve Yaşam Doyumu’nun bağımsız değişkenler olarak birlikte yer aldığı 2. regresyon modelinde Stres’in p değeri 0.004 bulunmuş ve Yaşam Doyumu’nun p değeri 0.008 bulunmuş, yani iki değişkenin Depresyon üzerindeki etkisi de anlamlı. Beta değerlerine bakacak olursak, Stres’in Beta değeri 0.232 yani Stres arttıkça Depresyon da artıyormuş; Yaşam Doyumu’nun Beta değeri ise -0.211 yani Yaşam Doyumu arttıkça Depresyon azalıyormuş. Stres’in Beta değerinin 0’a uzaklığı daha büyük olduğu için denebilir ki “Stresteki artışın Depresyon üzerindeki etkisi, Yaşam Doyumu’ndaki azalışın Depresyon üzerindeki etkisinden daha fazladır”.

Stepwise yöntemiyle Çoklu Doğrusal Regresyon Analizi yapmak hakkında anlatmak istediğim her şey bu kadardı. Okuduğunuz için teşekkürler.