Regresyon — Tahmin Yapmak
Bir değişken diğerini ne kadar etkiliyor? Yeni gözlem geldiğinde tahmin yapabilir miyiz? Regresyon, korelasyondan bir adım öteye gider — model kurar.
🎯 Regresyon Nedir?
Diyelim ki 100 öğrenciden veri topladın:
- Her birinin haftalık çalışma saati (X)
- Her birinin sınav notu (Y)
Korelasyon der ki: “Çalışma saati ile not pozitif ilişkili (r = 0.7)”.
Regresyon der ki: “1 saat fazla çalışırsan, notun ortalama 2.3 puan artar.”
İşte bu fark! Regresyon sana model verir, tahmin yapmana izin verir.
📐 Doğrusal Regresyon — Düz Bir Çizgi
- Y = tahmin etmek istediğin değişken (örn. sınav notu)
- X = bilinen değişken (örn. çalışma saati)
- a = sabit (X=0 olduğunda Y ne olur?)
- b = eğim (X bir birim artarsa Y ne kadar artar?)
Örnek model: Y = 50 + 2.3 × X
Yorum: “Hiç çalışmazsa not 50, her 1 saat fazla çalışınca 2.3 puan ekler.”
10 saat çalışırsa: Y = 50 + 2.3 × 10 = 73 puan.
🎨 En Küçük Kareler Yöntemi
100 noktanın arasından sonsuz çizgi çizebilirsin. Hangisi “en iyi”dir?
Cevap: Hata karelerinin toplamını en aza indirecek çizgi.
Her gözlemin gerçek değeri ile çizgi üzerindeki tahmin değeri arasındaki fark (=hata) hesaplanır. Bu hataların karesi alınır ve toplanır. Bu toplamı en küçük yapan çizgi seçilir.
📊 Çoklu Regresyon
Tek tahminci ile gerçekçi olmayabilir. Sınav notunu sadece çalışma saati değil, başka şeyler de etkiler:
Bu çoklu doğrusal regresyon. Her tahminci için ayrı katsayı (b) çıkar.
🌟 Regresyonun Yorumu
| Değişken | β (eğim) | p-değeri |
|---|---|---|
| Sabit | 50.0 | — |
| Çalışma saati | 2.3 | < 0.001 |
| Uyku saati | 1.5 | 0.012 |
| IQ | 0.4 | < 0.001 |
R² = 0.65 → modelin açıkladığı varyans %65
Yorum:
- Diğer her şey sabit, çalışma saati 1 artarsa not 2.3 puan artar
- Diğer her şey sabit, uyku 1 saat artarsa not 1.5 puan artar
- 3 değişken birlikte notu %65 açıklıyor
📈 R² — Modelin Açıklayıcı Gücü
| R² | Yorum |
|---|---|
| 0.00 – 0.10 | Çok zayıf model |
| 0.10 – 0.30 | Zayıf model |
| 0.30 – 0.50 | Orta model |
| 0.50 – 0.70 | İyi model |
| 0.70 – 1.00 | Çok iyi model |
R² yüksek ama:
- Tahminciler birbiriyle çok korele olabilir (multikollinearite)
- Model bazı varsayımları ihlal edebilir
- Overfitting (aşırı uyum) olabilir — yeni veriye iyi tahmin edemez
R² tek başına yetmez — varsayım kontrolleri ve cross-validation gerek.
🎯 Regresyon Türleri
| Bağımlı (Y) | Regresyon |
|---|---|
| Sürekli (boy, gelir) | Doğrusal regresyon |
| İkili (var/yok) | Lojistik regresyon |
| Sayım (kaç kez oldu?) | Poisson regresyonu |
| Sıralı (1, 2, 3…) | Ordinal lojistik regresyon |
| Çoklu kategori | Multinomial lojistik regresyon |
🚨 Önemli Varsayımlar (Doğrusal Regresyon İçin)
- Doğrusallık: X ile Y arasındaki ilişki doğrusal olmalı (scatter plot kontrol et)
- Bağımsızlık: Hatalar birbirinden bağımsız (zaman serisinde Durbin-Watson testi)
- Eşit varyans (homoscedasticity): Hataların yayılımı sabit (residual plot)
- Normallik: Hatalar (residuals) normal dağılır (Shapiro-Wilk veya QQ-plot)
Varsayımlar bozulursa: dönüşüm dene, robust regresyon kullan, veya non-parametrik alternatife geç.
🌟 Pratik İpucu
Regresyon model kurmak iteratif bir süreç:
- İlk model: tüm değişkenleri koy
- Anlamlı olmayan değişkenleri çıkar (veya tut, teorik gerekçeyle)
- Etkileşim terimleri ekle (örn. X1 × X2)
- Varsayımları kontrol et
- Cross-validation ile doğruluğu test et
“En iyi model” tek bir adımda bulunmaz.
🔗 İlgili Konular
- Galton, F. (1886). Regression towards mediocrity in hereditary stature. Journal of the Anthropological Institute, 15, 246–263.
- Legendre, A. M. (1805). Nouvelles méthodes pour la détermination des orbites des comètes. Paris.
- Gauss, C. F. (1809). Theoria motus corporum coelestium. Hamburg.