УПРАЖНЕНИЕ 7 - k-nearest neighbors (KNN)

     A1 A2 A3 ... An Class
x1                            Yes
x2                            No
x3                            Yes
...
xm                           Yes

Xt = {a1, a2, ..., an}
Class(Xt) = ?

Евклидово разстояние
d(x,y) = sqrt((x1-y1)^2+(x2-y2)^2+...+(xn-yn)^2))

thumb rule: корен от размера на дейтасета k ~ sqrt(m)

distance matrix и KD дърво - за бързо търсене на близки елементи

model based learning и instance based learning
knn е instance based learning, lazy

model based са eager

локално и глобално учещи алгоритми

knn е локален

knn се прилага в content-based filtering