Regresyon Denklemi

Bu derste iki değişken arasındaki ilişkiyi tahmin edilebilir bir formüle dönüştüren regresyon denklemini baştan sona işliyoruz: denklemdeki terimlerin anlamı, en küçük kareler yöntemiyle adım adım hesaplama ve sık yapılan yorumlama hataları. Konu, İstatistik dersleri içindeki Korelasyon ve Regresyon ünitesine aittir ve Korelasyon nedir? dersinde kurulan temel üzerine inşa edilir.

Regresyon Denklemi Nedir?

Regresyon denklemi, bir bağımsız değişkenin (x) değerine bakarak bağımlı değişkenin (y) değerini tahmin etmeye yarayan doğrusal denklemdir. En genel hâliyle ŷ = a + bx biçiminde yazılır; ŷ (“y şapka” diye okunur) gerçek y gözlemi değil, denklemin ürettiği tahmin değeridir.

Korelasyon ilişkiyi tek bir sayıyla özetler; regresyon denklemi ise aynı ilişkiyi hesap yapılabilir bir kurala çevirir. “Bir saat daha çalışırsam notum ortalama kaç puan artar?” sorusunun cevabı korelasyon katsayısında değil, denklemin eğimindedir. İlişkinin yönünü ve gücünü ölçmek için Korelasyon katsayısı dersine, denklemin türetildiği genel çerçeve için Doğrusal regresyon dersine göz at.

Denklemdeki Terimler: ŷ, a, b ve x

Formüldeki her simgenin ayrı bir yorumu vardır; denklemi doğru okumak tamamen bu terimlere hâkim olmaya bağlıdır:

• ŷ — tahmin edilen değer: x'e verdiğin değer için denklemin hesapladığı sonuç. Gerçek y ile genellikle tam örtüşmez; aradaki farka artık (hata) denir.
• x — bağımsız değişken: Tahmini yaptırdığın, senin seçtiğin giriş değeri; örnekteki çalışma saati gibi.
• a — sabit terim (kesişim noktası): x = 0 iken denklemin öngördüğü y değeri; doğruyu y eksenini kestiği noktadır.
• b — eğim: x bir birim arttığında y'nin ortalama kaç birim değişeceği. b pozitifse ilişki aynı yönlü, negatifse ters yönlüdür; ayrıntı için Pozitif ve negatif korelasyon dersine bakabilirsin.

Eğim, denklemin birimlerini de taşır: x saat, y puan ise b'nin birimi “puan/saat”tir. Bu yüzden b, birimsiz olan korelasyon katsayısıyla karıştırılmamalıdır.

Regresyon Denklemi Nasıl Bulunur?

Gözlem noktalarıyla doğru arasındaki dikey uzaklıkların (artıkların) kareleri toplamını en küçük yapan doğru seçilir; bu yaklaşımın adı en küçük kareler yöntemidir. Yöntem, a ve b için şu formülleri verir:

• Eğim: b = Σ(x − x̄)(y − ȳ) / Σ(x − x̄)²
• Sabit: a = ȳ − b · x̄

Burada x̄ ve ȳ değişkenlerin ortalamalarıdır. Kısayol olarak b = r · (sy / sx) eşitliği de kullanılır: eğim, korelasyon katsayısının standart sapma oranına çarpımıdır. r'nin ±1'e yakın olması noktaların doğruya yakın dizildiğini, sıfıra yaklaşması ise denklemin güvenilirliğinin azaldığını gösterir.

Örnek: Regresyon Denklemi Hesaplama

Beş öğrencinin günlük çalışma saati (x) ve sınav puanı (y) şöyle olsun: (1, 40), (2, 50), (3, 60), (4, 65), (5, 85). Denklemi adım adım kuralım:

1. Ortalamalar: x̄ = (1 + 2 + 3 + 4 + 5) / 5 = 3 ve ȳ = (40 + 50 + 60 + 65 + 85) / 5 = 60
2. Sapma çarpımları toplamı: (−2)(−20) + (−1)(−10) + (0)(0) + (1)(5) + (2)(25) = 40 + 10 + 0 + 5 + 50 = 105
3. x sapmalarının kareleri toplamı: (−2)² + (−1)² + 0² + 1² + 2² = 4 + 1 + 0 + 1 + 4 = 10
4. Eğim: b = 105 / 10 = 10,5
5. Sabit: a = 60 − 10,5 × 3 = 28,5

Denklem: ŷ = 28,5 + 10,5x. Yorumu şu: hiç çalışmayan bir öğrenciden (x = 0) 28,5 puan beklenir; her ek çalışma saati puana ortalama 10,5 puan ekler. Günde 6 saat çalışan bir öğrenci için tahmin ŷ = 28,5 + 10,5 × 6 = 91,5 puandır.

Denklemi Yorumlama ve Tahmin Yapma

Kurulan denklem üç işe yarar:

• Açıklama: Eğim ilişkiyi somut bir birimle anlatır: “her ek saat ortalama 10,5 puan” gibi.
• Tahmin: Veri aralığındaki bir x değeri için ŷ hesaplanır; buna enterpolasyon denir ve en güvenilir kullanımdır.
• Değerlendirme: Denklemin ilişkiyi ne kadar isabetle açıkladığını görmek için R-kare değerine bakılır.

Tahmin yaparken x değerini veri aralığının çok dışına taşıma: çalışma saati 1–5 arasında gözlenmişken 20 saat için tahmin üretmek, doğrunun orada da geçerli olduğunu kanıtsız varsayar. Doğrusallık yalnızca gözlemin yapıldığı aralıkta garanti edilir.

Sık Yapılan Hatalar ve Yanılgılar

• Eğimi korelasyon sanmak: b = 10,5 demek “ilişki çok güçlü” demek değildir; b birimlidir ve ölçek değişince değeri de değişir. Gücün ölçüsü r, açıklama payı ise R-kare'dir.
• Ekstrapolasyon: Gözlem aralığının dışında tahmin üretmek, doğrusallığın orada da sürdüğünü varsayar; bu varsayım çoğu zaman yanlıştır.
• Nedensellik yanılgısı: Denklem iyi tahmin üretir diye x, y'nin nedeni değildir; üçüncü bir değişken araya girmiş olabilir. Bu ayrımın tüm yönleriyle işlendiği ayrı bir dersimiz var: Korelasyon nedensellik midir?
• x ile y'yi yer değiştirmek: “y'yi x'e göre tahmin etme” ile “x'i y'ye göre tahmin etme” aynı denklemi vermez; regresyon simetrik değildir, önce neyin tahmin edileceğine karar verilmelidir.
• Kesişimi her koşulda yorumlamak: x = 0 veri aralığının dışındaysa ya da gerçek dışıysa (örneğin boy uzunluğunun 0 cm olması) a'ya anlam yüklemek hata olur; a bazen yalnızca denklemin ayarını tamamlayan matematiksel bir değerdir.