Doğrusal Regresyon, denetimli öğrenme için kullanılan bir Makine Öğrenmesi algoritmasıdır. Verilen bağımsız değişken veya değişkenlere dayalı olarak bir bağımlı değişkeni(sonuç değişkenini) tahmin etme işlevini gerçekleştirir. Böylece, bu regresyon tekniği, bağımlı bir değişken ile verilen diğer bağımsız değişkenler arasında doğrusal bir ilişki kurar. Değişkenler arasında doğrusal ilişki kurduğundan dolayı adı Doğrusal Regresyon (Linear Regression)'dur.

Rastgele değerlerden oluşan bağımlı ve bağımsız değişkenlerin grafiğini inceleyelim.

#Gerekli kütüphaneler eklendi
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline

#0'dan 10'a kadar 0.1 artan sayılar
x = np.arange(0, 10.0, 0.1) 

#y değeri 3x+4 olarak(tek dereceli) belirlendi. 
y = 3*x+4 

#y değerine küçük seviyelerde rastgele hata değerleri eklendi
yErrorValue = y + 3 * np.random.normal(size=x.size) 

#Görselleştirme işlemi
plt.figure(figsize=(8,6))
plt.scatter(x, yErrorValue,marker=">")
plt.plot(x, y,color="r") 
plt.title("Doğrusal Regresyon",color="b",size=14)
plt.ylabel('Bağımlı Değişkenler')
plt.xlabel('Bağımsız Değişkenler')

Çıktı:

Bağımlı Değişken: Anlamaya veya tahmin etmeye çalıştığımız değişkendir. (Genellikle Y veya y olarak isimlendirilir.)
Bağımsız Değişken: Analizi veya hedef değişkeni etkileyen ve değişkenlerin hedef değişkenle ilişkisi hakkında bize bilgi veren faktörlerdir. (Genellikle X veya x olarak isimlendirilir.)

Yukarıdaki şekildeki regresyon çizgisi (kırmızı olan düz çizgi) oluşturulan bir model için en uygun çizgidir. Doğrusal regresyonun amacı en uygun çizgiyi bulmaktır.

Doğrusal regresyonun diğer regresyon türlerine göre artıları ve eksileri bulunmaktadır. Artıları olarak; uygulaması basit ve daha az karmaşıktır. Eksileri olarak da; elimizdeki veriler genellikle doğrusal olarak ilerlemez o yüzden diğer algoritmalara göre fazla bir kullanım alanı yoktur diyebiliriz. 3 grupta inceleyebiliriz.

• Basit Doğrusal Regresyon (Simple Linear Regression)
• Çok Değişlenli Doğrusl Regresyon(Multi-variable Linear Regression)
• Düzenlileştirme(Regularization)