C: Clustering

k-means: cluster-centre, cost-funktion, standardisering og varians.

$N=7$ datapunkter $x_i=(u_i,v_i)$ med heltalskoordinater. k-means har delt punkterne i to grupper. Centrene $z_A$ og $z_B$ er vist som orange cirkler. Cost-funktionen er

$$L=\sum_{i=1}^{N}\|x_i-z_{c_i}\|^2$$
u v 0 2 4 6 8 10 0 2 4 6 8 10 B A
Løsning 1 (skitse): blå = datapunkter, orange = cluster-centre A og B. Se PDF for originalfigur.
Spørgsmål C.1

Beregn koordinaterne for cluster center B.

Vis svar Skjul svar
Svar C.1

De fire datapunkter længst til venstre tilhører cluster B. Gennemsnit:

$$u_B=\frac{0+2+4+5}{4}=2.75,\quad v_B=\frac{6+10+8+5}{4}=7.25$$

(2.75, 7.25)

Figurerne i eksamen viser de kvadrerede afstande fra hvert punkt til nærmeste center for to løsninger:

Løsning 1Løsning 2
Kvadrerede afstande (7 punkter) 8.1, 9.1, 2.1, 2.0, 1.0, 1.0, 10.1 4.0, 8.0, 4.0, 2.3, 0.8, 3.3, 7.3

Afstandene er taget fra eksamensfigurerne (se PDF for plot).

Spørgsmål C.2

Beregn værdien af cost-funktionen for de to løsninger og bestem hvilken løsning der er bedst.

Vis svar Skjul svar
Svar C.2
$$L_1=8.1+9.1+2.1+10.1+1.0+1.0+2.0=33.4$$
$$L_2=4.0+4.0+8.0+7.3+0.8+3.3+2.3=29.7$$

L₁ = 33.4, L₂ = 29.7 — Løsning 2 er bedst.

Spørgsmål C.3

Hvis vi standardiserer $u$-koordinaterne ved $\tilde{u}=\frac{u-\mu_u}{\sigma_u}$, hvad bliver da den nye $\tilde{u}$-koordinat for datapunktet der ligger ved $u=5$?

Vis svar Skjul svar
Svar C.3
$$\mu_u=\frac{0+2+4+5+7+8+9}{7}=5$$
$$\tilde{u}=\frac{5-5}{\sigma_u}=0$$

0

Spørgsmål C.4

Beregn variansen af $u$.

Vis svar Skjul svar
Svar C.4

Med $\mu_u=5$:

$$\sigma_u^2=\frac{1}{7}\sum_{i=1}^{7}(u_i-\mu_u)^2=\frac{25+9+1+0+4+9+16}{7}=\frac{64}{7}\approx 9.14$$

64/7 ≈ 9.14