Paper review

Support-Vector Networks

Cortes & Vapnik1995Machine Learning 20, 273-297

Summary

Paper ini memperkenalkan learning machine untuk klasifikasi dua kelompok dengan pemetaan non-linear ke feature space berdimensi tinggi dan decision surface linear di ruang tersebut. Formulasinya diperluas untuk data yang tidak sepenuhnya dapat dipisahkan.

Strengths

  • Memberikan formulasi margin yang kuat untuk generalisasi.
  • Memperluas pendekatan ke training data non-separable.
  • Mendemonstrasikan performa pada benchmark pengenalan karakter.

Limitations

  • Pemilihan kernel dan regularisasi tetap membutuhkan pertimbangan.
  • Skala komputasi dapat menjadi tantangan pada dataset besar.
  • Interpretasi feature space tidak selalu intuitif.

Conclusion

SVM penting karena menunjukkan bagaimana margin, kernel, dan regularisasi dapat digabungkan menjadi classifier yang kuat.

Reading guide

Pahami ide feature space dan margin lebih dahulu, lalu gunakan visualisasi SVM untuk membaca support vector.