Support Vector Machines
As Support Vector Machines (SVM) é uma das técnicas mais utilizadas em Data Mining quando é necessário construir um classificador para dados constituídos maioritariamente por variáveis numéricas continuas/discretas.
A estratégia que a SVM implementa para construir um classificador é bastante simples:
Se tivermos x bolas de duas cores
podemos simplesmente colocar uma linha de forma a que se separem
, isto permite-nos saber a partir desta informação que bolas acima da linha são azuis e bolas abaixo são vermelhas, o problema é que a linha pode estar em muitas posições diferentes e aparentemente esta não é a melhor
e por isso recolocamos a linha
de forma a que o classificador seja preciso
.
No entanto a realidade é que casos assim não existem, na verdade todos os casos que uma SVM classifica são sempre uma mistura de bolas azuis e vermelhas
e por isso não existe nenhum linha que separe estes casos
mas de certeza que existe um plano! É por isso aumentamos uma (geralmente varias dimensões diferentes) dimensão para assim encontrar o plano que divide as bolas.
Este passo é o mais complicado de entender pois sabemos que em duas dimensões o que é uma recta e e m 3 dimensões um plano mas e em 4 ou em 6,7,20,50,1000 dimensões? É por isso que chamamos de hiperplano ao que separa as bolas vermelhas das azuis.