-
Notifications
You must be signed in to change notification settings - Fork 0
/
ders7-TR.qmd
250 lines (161 loc) · 14.3 KB
/
ders7-TR.qmd
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
---
title: "Kümeleme Yöntemleri"
subtitle: "FEF3001 Yapay Zekaya Giriş - Ders 7"
author: "Alper Yılmaz"
date: 2024-07-26
format:
revealjs:
chalkboard: true
css: custom.css
smaller: true
scrollable: true
controls: true
touch: true
history: false
progress: true
slide-number: c/t
typora-copy-images-to: images
---
## İçerik
:::: {.columns}
::: {.column width="50%"}
* Kümelemeye Giriş
* Tanım ve amaç, Denetimsiz öğrenme kavramı, Bilimsel alanlardaki gerçek dünya uygulamaları
* Kümeleme Algoritmaları Türleri
* Bölümleme yöntemleri (örn. K-means)
* Hiyerarşik yöntemler
* Yoğunluk tabanlı yöntemler (örn. DBSCAN)
* K-means Kümeleme
* Algoritma açıklaması
* Küme sayısını seçme (dirsek yöntemi)
* Avantajlar ve sınırlamalar
:::
::: {.column width="50%"}
* Hiyerarşik Kümeleme
* Birleştirici ve bölücü yaklaşımlar
* Dendrogram yorumlama
* Bağlantı yöntemleri (tek, tam, ortalama)
* Yoğunluk Tabanlı Mekansal Gürültülü Uygulama Kümelemesi (DBSCAN)
* Temel kavramlar: çekirdek noktalar, sınır noktalar, gürültü
* Algoritma açıklaması
* Avantajlar
* Kümeleme için Değerlendirme Metrikleri
* Silüet skoru
:::
::::
## Tanım
Kümeleme, makine öğrenmesi ve veri analizinde bir dizi nesneyi veya veri noktasını, aynı gruptaki (küme olarak adlandırılır) nesnelerin diğer gruplardakilere göre birbirine daha benzer olacağı şekilde gruplandırmayı içeren bir tekniktir. Bu, birçok veri analizi ve örüntü tanıma probleminde temel bir görevdir.
## Amaç
Kümelemenin amacı çok yönlüdür:
**Örüntü Keşfi**: Kümeleme, veriler içindeki hemen belli olmayan doğal örüntüleri veya yapıları tanımlamaya yardımcı olur.
**Veri Özetleme**: Büyük veri setlerini, birçok veri noktasını daha az küme merkeziyle temsil ederek sıkıştırmak için kullanılabilir.
**Anomali Tespiti**: Benzer veri noktalarının gruplarını tanımlayarak, herhangi bir kümeye uymayan aykırı değerleri veya anormallikleri tespit etmeye yardımcı olabilir.
**Segmentasyon**: Pazarlama gibi alanlarda, müşterileri benzer davranışlara veya özelliklere sahip gruplara ayırmak için kullanılır.
**Diğer Algoritmalar için Ön İşleme**: Kümeleme, verinin karmaşıklığını azaltmak için diğer algoritmalar için bir ön işleme adımı olarak kullanılabilir.
**Doğal Sınıflandırma**: Bilimsel alanlarda, kümeleme verilerdeki doğal gruplandırmaları ortaya çıkarabilir, örneğin biyolojide benzer türleri gruplandırmak veya astronomide yıldız türlerini kategorilere ayırmak için.
## Kümeleme Yöntemleri
**Bölümleme yöntemleri**: Veriyi örtüşmeyen alt kümelere böler, her veri noktası tam olarak bir kümeye ait olur, genellikle belirli bir kriteri optimize eder.
**Hiyerarşik Yöntemler**: Küçük kümeleri daha büyük olanlarla birleştirerek veya büyük kümeleri daha küçük olanlara bölerek kümelerin ağaç benzeri bir yapısını oluşturur.
**Yoğunluk tabanlı Yöntemler**: Yüksek veri noktası yoğunluğu olan alanlarda kümeler oluşturur, düşük yoğunluklu bölgelerle ayrılır, keyfi şekilli kümelerin keşfine olanak tanır.
## Uygulamalar
1. Biyoloji
* **Gen İfadesi Analizi**: Farklı koşullar veya zaman noktaları arasında benzer ifade kalıplarına sahip genleri gruplandırma.
* **Tür Sınıflandırması**: Organizmaları genetik veya morfolojik özelliklere göre kümeleme.
* **Protein Yapısı Analizi**: Proteinlerde yapısal motifleri tanımlama.
2. Kimya
* **Moleküler Dinamikler**: Simülasyonlar sırasında moleküllerin konformasyonlarını analiz etme.
* **Spektroskopi**: Bileşik tanımlama için benzer spektrumları kümeleme.
* **İlaç Keşfi**: Benzer özelliklere veya etkilere sahip kimyasal bileşikleri gruplandırma.
##
3. Fizik
* **Parçacık Fiziği**: Yüksek enerjili fizik deneylerinde parçacık çarpışma olaylarını sınıflandırma.
* **Astrofizik**: Yıldızları veya galaksileri özelliklerine göre (örn. parlaklık, sıcaklık) kümeleme.
* **Malzeme Bilimi**: Malzemelerdeki kristal yapıları ve kusurları analiz etme.
## Bölümleme
[Görsel kaynağı](https://tutorialforbeginner.com/clustering-in-machine-learning)
## K-means kümeleme
K-means kümeleme, benzer veri noktalarını kümelere gruplandırmak için kullanılan denetimsiz bir makine öğrenimi algoritmasıdır. Veri noktalarını, küme merkezlerine (merkezoidlere) olan benzerliklerine göre önceden tanımlanmış k kümeye iteratif olarak atayarak çalışır. Algoritma, özellik uzayında k merkezoidi rastgele başlatarak başlar. Daha sonra tekrarlı olarak iki adım gerçekleştirir:
1. her veri noktasını en yakın merkezoide atar, ve
2. merkezoidleri her kümedeki tüm noktaların ortalaması olarak yeniden hesaplar.
Bu süreç, merkezoidler stabilize olana veya maksimum iterasyon sayısına ulaşılana kadar devam eder. K-means, küme içi kareler toplamını minimize etmeyi amaçlar, bu da kompakt ve belirgin kümeler oluşturur.
## K-means kümeleme - interaktif demolar
Lütfen aşağıdaki siteleri ziyaret edin:
1. [K-means kümeleme algoritmasının iki boyutlu görselleştirmesi](https://hckr.pl/k-means-visualization/)
2. [K-means Kümeleme - İnteraktif Gösterim](http://alekseynp.com/viz/k-means.html)
3. [K-Means Kümelemesini Görselleştirme](https://www.naftaliharris.com/blog/visualizing-k-means-clustering/)
## R ile K-means kümeleme
Kod için lütfen [R ile K-means](kmeans-r.qmd) sayfasını ziyaret edin.
## K-means kümelemenin avantajları
1. **Basitlik**: Anlaşılması ve uygulanması kolay.
2. **Verimlilik**: Genellikle hızlı ve hesaplama açısından verimli, özellikle büyük veri setleri için.
3. **Ölçeklenebilirlik**: Yüksek boyutlu verilerle iyi çalışır.
4. **Esneklik**: Uygun uzaklık metrikleriyle farklı veri türlerine uyarlanabilir.
5. **Yorumlanabilirlik**: Sonuçta elde edilen kümeler genellikle yorumlanması kolaydır.
## K-means kümelemenin dezavantajları
1. **Başlangıç merkezoidlerine duyarlılık**: Sonuçlar, merkezoidlerin başlangıçtaki rastgele yerleşimine bağlı olarak değişebilir.
2. **Önceden tanımlanmış k gerektirir**: Küme sayısı önceden belirtilmelidir, bu her zaman bilinmeyebilir.
3. **Küresel kümeler varsayar**: Küresel olmayan küme şekilleriyle zayıf performans gösterir.
4. **Aykırı değerlere duyarlılık**: Aykırı değerler, merkezoid hesaplamasını ve küme atamasını önemli ölçüde etkileyebilir.
5. **Değişen küme boyutlarıyla mücadele eder**: Benzer mekansal büyüklükte kümeler oluşturma eğilimindedir.
6. **Yerel optima**: Global optimum yerine yerel bir minimuma yakınsayabilir.
7. **Kategorik veriyi doğrudan işleyememe**: Sayısal olmayan veriler için ön işleme gerektirir.
## Hiyerarşik kümeleme
Hiyerarşik kümeleme, benzer veri noktalarını kümelere gruplandırmak için kullanılan denetimsiz bir makine öğrenimi tekniğidir. Önceden tanımlanmış bir küme sayısı gerektiren diğer kümeleme yöntemlerinin aksine, hiyerarşik kümeleme dendrogram adı verilen ağaç benzeri bir küme yapısı oluşturur. Bu yöntem, ya her veri noktasını kendi kümesi olarak başlatıp en yakın kümeleri iteratif olarak birleştirerek (birleştirici yaklaşım), ya da tüm veri noktalarını tek bir kümede başlatıp tekrarlı olarak bölerek (bölücü yaklaşım) çalışır. Bu süreç, istenen küme sayısı veya kümeler arası bir eşik mesafesi gibi bir durma kriteri karşılanana kadar devam eder.
Hiyerarşik kümeleme, verilerin doğal yapısını farklı detay seviyelerinde keşfetmek ve küme sayısının önceden bilinmediği veri setleri için özellikle kullanışlıdır.
## Nasıl çalışır
Hiyerarşik kümeleme, seçilen bir uzaklık metriği (örn. Öklid uzaklığı) kullanarak tüm veri noktası çiftleri arasındaki uzaklıkları hesaplayarak başlar. Daha yaygın olan birleştirici yaklaşımda, her veri noktası kendi kümesi olarak başlar. Algoritma daha sonra bir bağlantı kriterine (örn. tek bağlantı, tam bağlantı veya ortalama bağlantı) göre en yakın iki kümeyi iteratif olarak birleştirir. Bu süreç, tüm veri noktaları tek bir kümede toplanana veya istenen küme sayısına ulaşılana kadar tekrarlanır, daha büyük kümeler oluşturur. Sonuç, bir dendrogram olarak görselleştirilebilen hiyerarşik bir yapıdır ve kullanıcıların ihtiyaçlarına en uygun kümeleme seviyesini seçmelerine olanak tanır.
Lütfen [Veri Madenciliğinde Hiyerarşik Kümeleme](Hierarchical_Clustering_in_Data_Mining-TR.qmd) ve [Hiyerarşik Kümelemeye Giriş](An_Introduction_to_Hierarchical_Clustering-TR.qmd) sayfalarını ziyaret edin.
##
Demolar için lütfen aşağıdaki siteyi ziyaret edin:
1. [yFiles'da Kümeleme Demosu](https://www.yworks.com/demos/analysis/clustering/)
## Hiyerarşik kümelemenin avantajları
1. **Önceden tanımlanmış küme sayısı gerekmez**: K-means'in aksine, hiyerarşik kümeleme önceden küme sayısının belirtilmesini gerektirmez.
2. **Hiyerarşik temsil**: Farklı seviyelerde veri yapısına dair içgörüler sunan bir dendrogram sağlar.
3. **Küme detay seviyesinde esneklik**: Kullanıcılar, dendrogramı farklı seviyelerden keserek ihtiyaçlarına en uygun kümeleme seviyesini seçebilirler.
4. **Çeşitli veri türlerine uygulanabilirlik**: Benzerlik veya uzaklık ölçüsü tanımlanabilen her veri türüne uygulanabilir.
5. **Yorumlanabilirlik**: Dendrogram, kümeleme sürecinin görsel olarak sezgisel bir temsilini sunar.
6. **Farklı küme şekillerini işleyebilme**: Sadece küresel olanlar değil, çeşitli şekil ve boyutlardaki kümeleri tanımlayabilir.
## Dezavantajları
1. **Hesaplama karmaşıklığı**: Birçok uygulamada O(n^2) alan karmaşıklığı ve O(n^3) zaman karmaşıklığı, çok büyük veri setleri için daha az uygun hale getirir.
2. **Gürültü ve aykırı değerlere duyarlılık**: Aykırı değerler dendogramın şeklini önemli ölçüde etkileyebilir.
3. **Yüksek boyutlu verileri ele almada zorluk**: Boyut sayısı arttıkça performans ve yorumlanabilirlik azalabilir.
4. **Geri alma eksikliği**: Bir birleştirme veya bölme yapıldığında geri alınamaz, bu da optimal olmayan sonuçlara yol açabilir.
5. **Bellek yoğun**: Büyük veri setleri için uzaklık matrisini saklamak bellek yoğun olabilir.
6. **Uzaklık metriği ve bağlantı yöntemi seçimi**: Sonuçlar, seçilen uzaklık metriği ve bağlantı yöntemine göre önemli ölçüde değişebilir, dikkatli düşünme gerektirir.
7. **Ölçeklenebilirlik sorunları**: Çok büyük veri setleri için diğer bazı kümeleme yöntemlerine göre daha az ölçeklenebilir.
## DBSCAN kümeleme
DBSCAN (Gürültülü Uygulamalarla Yoğunluk Tabanlı Mekansal Kümeleme), uzayda yakın paketlenmiş noktaları gruplandıran ve düşük yoğunluklu bölgelerde yalnız duran noktaları aykırı değer olarak işaretleyen popüler bir kümeleme algoritmasıdır.
Rastgele bir ziyaret edilmemiş nokta seçerek ve belirli bir yarıçap (ε) içindeki komşuluğunu keşfederek çalışır. Bu komşuluk minimum sayıda nokta (MinPts) içeriyorsa, bir küme oluşturulur. Algoritma daha sonra yeni eklenen noktaların komşuluklarını keşfederek kümeyi yinelemeli olarak genişletir. Bir nokta küme oluşturmak için yeterli komşuya sahip değilse, gürültü olarak etiketlenir. Bu süreç tüm noktalar ziyaret edilene kadar devam eder ve çeşitli şekil ve boyutlarda yoğun kümeler seti ile birlikte tanımlanmış gürültü noktaları ortaya çıkar.
## İnteraktif demolar
Lütfen temel kavramlar hakkında [DBSCAN — Görselleştirilmiş ve detaylı bir giriş](https://medium.com/@CrazyGalois/dbscan-a-visualized-and-detailed-introduction-8349bc0a2321) sayfasını ziyaret edin.
DBSCAN algoritması için interaktif demo için lütfen [DBSCAN Kümelemesini Görselleştirme](https://www.naftaliharris.com/blog/visualizing-dbscan-clustering/) sayfasını ziyaret edin.
## DBSCAN Algoritması
{{< video https://youtu.be/_A9Tq6mGtLI width="1200" height="600" >}}
## DBSCAN'in Avantajları
1. **Şekil esnekliği**: Sadece dairesel olanlar değil, keyfi şekilli kümeleri bulabilir.
2. **Aykırı değer tespiti**: Otomatik olarak gürültü noktalarını ve aykırı değerleri tanımlar.
3. **Önceden tanımlanmış küme sayısı yok**: K-means'in aksine, önceden küme sayısını belirtmeyi gerektirmez.
4. **Yoğunluk tabanlı**: Farklı yoğunluktaki kümeleri ayırmada etkilidir.
5. **Sağlamlık**: Merkez tabanlı algoritmalara göre aykırı değerlere daha az duyarlıdır.
## Dezavantajları
1. **Parametre hassasiyeti**: Sonuçlar, ε ve MinPts parametrelerinin seçimine bağlı olarak önemli ölçüde değişebilir.
2. **Değişen yoğunluklarla mücadele**: Kümeler çok farklı yoğunluklara sahip olduğunda zorluk yaşayabilir.
3. **Yüksek boyutlu veriler**: "Boyutsallık laneti" nedeniyle yüksek boyutlu uzaylarda performans ve etkinlik azalabilir.
4. **Bellek gereksinimleri**: Büyük veri setleri için bellek yoğun olabilir.
5. **Ölçeklenebilirlik**: Bazı diğer algoritmalara göre çok büyük veri setleri için o kadar verimli değildir.
6. **Bağlantı tabanlı**: Kümelerin yakın ama seyrek alanlarla ayrıldığı veri setlerinde zorlanabilir.
## Kümelemeyi değerlendirme
Tanım: Silhouette skoru -1 ile 1 arasında değişir, burada:
* 1'e yakın bir skor, veri noktasının kendi kümesine iyi uyduğunu ve komşu kümelere kötü uyduğunu gösterir.
* 0 civarında bir skor, veri noktasının iki komşu küme arasındaki karar sınırında veya çok yakınında olduğunu önerir.
* Negatif bir skor, veri noktasının yanlış kümeye atanmış olabileceğini gösterir.
**Hesaplama**: Her veri noktası i için, silhouette skoru s(i) şöyle hesaplanır:
s(i) = (b(i) - a(i)) / max(a(i), b(i))
Burada: a(i), i ile aynı kümedeki diğer tüm noktalar arasındaki ortalama mesafedir
b(i), i ile i'nin parçası olmadığı en yakın kümedeki tüm noktalar arasındaki ortalama mesafedir
**Yorumlama**:
* Daha yüksek silhouette skorları daha iyi tanımlanmış kümeleri gösterir.
* Tüm noktalar üzerinden ortalama silhouette skoru, farklı kümeleme konfigürasyonlarını karşılaştırmak için kullanılabilir.
## Sınıflandırma vs. Kümeleme
lütfen bu iki kavramı karşılaştırın