Funciones de Distancia

Las funciones de distancia las podemos clasificar en:

• Funciones globales: se usa la misma función de distancia en todo el espacio.
• Funciones basadas en el query. Los parámetros de la función de distancia se ajustan con cada query, típicamente minimizando el error con validación cruzada.
• Funciones basadas en puntos. Cada dato tiene asopciado su propia función de distancia

El cambiar/ajustar la función de distancia puede mejorar las predicciones.

Las funciones de distancia típicas para datos continuos son:

• Euclideana
  
  $$d_E(\mathbf{x,q}) = \sqrt{\sum_j (\mathbf{x}_j - \mathbf{q}_... ...sqrt{ (\mathbf{x} - \mathbf{q})^{T}(\mathbf{x} - \mathbf{q})}$$
  
  

• Euclideana pesada diagonalmente
  
  $$d_m(\mathbf{x,q}) = \sqrt{\sum_j (m_j (\mathbf{x}_j - \mathb... ...T \mathbf{M} (\mathbf{x} - \mathbf{q})} = d_E(\mathbf{Mx,Mq})$$
  
  
  donde $m_j$ es el factor de escala en la dimensión $j$ y M es una matriz diagonal con $\mathbf{M}_{jj} = m_j$.

• Euclideana completa o Mahalanobis
  
  $$d_M(\mathbf{x,q}) = \sqrt{ (\mathbf{x} - \mathbf{q})^{T} \ma... ...T \mathbf{M} (\mathbf{x} - \mathbf{q})} = d_E(\mathbf{Mx,Mq})$$
  
  
  donde M puede ser arbitraria.

• Normal o Minkowski
  
  $$d_p(\mathbf{x,q}) = ( \sum_i \vert\mathbf{x}_i - \mathbf{q}_i) \vert^p )^{\frac{1}{p}}$$
  
  

• Normal pesada diagonal o completa. Igual que la Minkowski pero incluyendo pesos.

Matrices (M) diagonales hacen escalas radiales simétricas. Se pueden crear elipses con orientaciones arbitrarias incluyendo otras elementos fuera de la diagonal.

También se puede incluir un rango o escala en donde aplicar la función de generalización. Algunas opciones son:

• Selección de ancho de banda fijo. $h$ es un valor constante, por lo que se usan valores constantes de datos y forma.
• Selección de los vecinos más cervanos. $h$ se pone como la distancia a los $k$ vecinos más cercanos y el volúmen de datos cambia de acuerdo a la densidad de los datos más cercanos.
• Selección de banda global. $h$ se ajusta globalmente por un proceso de optimización.
• Basado en el query. $h$ se selecciona de acuerdo al query siguiendo un proceso de optimización.
• Basada en puntos. Cada dato tiene asociado su propia $h$.