KMeans algoritması, veri kümesininin her veri noktasının yalnızca bir kümeye ait olduğunu ve önceden tanımlanmış n farklı örtüşmeyen alt kümelere bölmeye çalışan yinelemeli bir algoritmadır. Bir kümeye, veri noktaları ile kümenin ağırlık merkezi arasındaki kare uzaklığın toplamı minimum olacak şekilde veri noktaları atar.
Kullanabilmek için "KMeans" algoritmasının içe aktarılması gerekmektedir.
from sklearn.cluster import KMeans
Söz dizimi: KMeans(n_clusters=8, *, init='k-means++', n_init=10, max_iter=300, tol=0.0001, verbose=0, random_state=None, copy_x=True, algorithm='auto')
- n_clusters, oluşturulacak küme sayısını temsil etmektedir. Varsayılan olarak 8'dir.
- init, başlatma yöntemini temsil etmektedir. 2 farklı değer alabilir: "k-means++'","random". Varsayılan olarak "k-means++" dir.
- k-means++, yakınsamayı hızlandırmak için ilk küme merkezlerini seçer.
- random, rastgele olarak verilerden gözlemler seçer.
- max_iter, maksimum yineleme sayısını temsil eder.
Örnek-1: Cars veri seti üzerinden, sayısal olan sütunlara K-Means kümeleme algoritmasını uygulayalım.
import pandas as pd
import numpy as np
import seaborn as sns
import matplotlib.pyplot as plt
%matplotlib inline
import warnings
warnings.filterwarnings("ignore")
from sklearn.cluster import KMeans
from sklearn.metrics import silhouette_score
Keşifsel Veri Analizi EDA
#Veri seti okunur
df=pd.read_excel("cars.xls")
df.head()
Çıktı:
#Veri setinde sayısal olan değişkenleri x olarak atayalım
x=df.select_dtypes("number")
x.head()
Çıktı:
# Veri seti hakkında bilgi
x.info()
Çıktı:
<class 'pandas.core.frame.DataFrame'> RangeIndex: 804 entries, 0 to 803 Data columns (total 9 columns): # Column Non-Null Count Dtype --- ------ -------------- ----- 0 Price 804 non-null float64 1 Mileage 804 non-null int64 2 Cylinder 804 non-null int64 3 Liter 804 non-null float64 4 Doors 804 non-null int64 5 Cruise 804 non-null int64 6 Sound 804 non-null int64 7 Leather 804 non-null int64 8 Cluster 804 non-null int32 dtypes: float64(2), int32(1), int64(6) memory usage: 53.5 KB
#Veri seti açıklamaları
x.describe()
Çıktı:
Model Oluşturma İşlemleri
#KMeans ataması yapılır
#n_clusters sayısı varsayılan olarak(8) bıraklıdığından 8 farklı kümeleme işlemi yapılacaktır.
KM=KMeans()
#Model eğitme işlemi
KM.fit(x)
#Tahminleme sonucu
predict_KM=KM.predict(x)
#tahmin edilen kümelemenin ilk 20 değerini yazdıralım
predict_KM[0:20]
Çıktı:
array([5, 5, 0, 0, 0, 3, 3, 3, 3, 3, 5, 0, 0, 0, 3, 3, 3, 3, 2, 2])
#x veri setine yeni bir sütun oluşturularak satırların hangi kümede olduğunu belirtelim
x["Cluster"]=predict_KM
x.sample(5)
Çıktı:
#Veri seti değerlerinin kümeleme öncesi dağılım grafiği
plt.figure(figsize=(10,6))
plt.scatter(x.Mileage,x.Price)
plt.title("Veri seti değerlerinin kümeleme öncesi dağılım grafiği")
plt.show()
Çıktı:
#Veri seti değerlerinin kümeleme sonrası kümeleme dağılım grafiği
plt.figure(figsize=(10,6))
plt.scatter(x.Mileage,x.Price,c=predict_KM)
plt.title("Veri seti değerlerinin kümeleme sonrası kümeleme dağılım grafiği")
plt.colorbar()
plt.show()
Çıktı:
Veri setindeki değerleri K-Means kümeleme algoritması kullanılarak 8 farklı renk ile belirtilen kümeleme işlemi yapılmış oldu.
En optimum bölünme sayısı kaç olmalıdır?
Örneğimizde küme sayısı(n_clusters) varsayılan olarak 8'di. silhouette_score değeri incelenerek en iyi bölünmesi gereken değeri gözlemleyelim.
allscore=[] #skor listesi
allclusters=[] #kümeleme sayısı(n_clusters) listesi
sum_of_squared_distances = [] #en yakın küme merkezine olan uzaklıklarının karesi toplamı listesi
#cluster_count'a kadar her kümeleme sayısı sonucunda elde edilen değerleri listelendiren fonksiyon
#x: veri seti
#cluster_count: kümeleme sayısı
def cluster(x,cluster_count):
for no_of_cluster in np.arange(1,cluster_count):
no_of_cluster+=1
model=KMeans(n_clusters=no_of_cluster)
model.fit(x)
predict_model=model.predict(x)
sum_of_squared_distances.append(model.inertia_)
score=silhouette_score(X=x,labels=predict_model)
print ("Kümeleme sayısı: {}, silhouette_score değeri: {}".format(no_of_cluster,score))
allscore.append(score)
allclusters.append(no_of_cluster)
#x veri setini 10 taneye kadar kümeye ayır
cluster(x,10)
Çıktı:
Kümeleme sayısı: 2, silhouette_score değeri: 0.4511453964997841 Kümeleme sayısı: 3, silhouette_score değeri: 0.41321082858615543 Kümeleme sayısı: 4, silhouette_score değeri: 0.4134025870464353 Kümeleme sayısı: 5, silhouette_score değeri: 0.35521830262958015 Kümeleme sayısı: 6, silhouette_score değeri: 0.3609372743450409 Kümeleme sayısı: 7, silhouette_score değeri: 0.3590136519782975 Kümeleme sayısı: 8, silhouette_score değeri: 0.36799755195716916 Kümeleme sayısı: 9, silhouette_score değeri: 0.35002855795214427 Kümeleme sayısı: 10, silhouette_score değeri: 0.35746899901224155
#Silhoutte_Score grafiklemesi
plt.plot(allclusters,allscore,marker="x")
plt.xlabel('Kümeleme sayısı')
plt.ylabel('Silhoutte_Score')
plt.title('Silhouette Metotu')
plt.show()
Çıktı:
Grafikte de görüldüğü gibi 4 küme sayısından sonra Silhoutte Score değerinde çok düşme meydana geldiğinden; veri seti 4 kümeye ayrılmalıdır diyebiliriz.
#n_clusters değerlerine göre(2-10 aralığında) kümeleme grafiklemeleri
fig = plt.figure(figsize=(15, 12))
for i in range(2, 11):
sc = KMeans(n_clusters=i).fit(x)
fig.add_subplot(3, 3, i-1)
plt.scatter(x.Mileage,x.Price, s=5, c=sc.labels_, label="n_cluster-"+str(i))
plt.colorbar()
plt.legend()
plt.show()
Çıktı: