O slideshow foi denunciado.
Utilizamos seu perfil e dados de atividades no LinkedIn para personalizar e exibir anúncios mais relevantes. Altere suas preferências de anúncios quando desejar.

Napadi na algoritme za strojno učenje

813 visualizações

Publicada em

Publicada em: Tecnologia
  • Seja o primeiro a comentar

Napadi na algoritme za strojno učenje

  1. 1. Napadi na algoritme za strojno učenje Simon.Belak@hekovnik.si @sbelak Hek.si konferenca 18. 4. 2014
  2. 2. CV Dazzle
  3. 3. Strojno učenje je povsod zaznava udorov zaznava goljufij zaznava zlonamerne kode ocene tveganja HFTpostavljanje diagnoz SPAM filtri zaznava terorističnih zarot logistično planiranje
  4. 4. Szegedy et al.: Intriguing properties of neural networks
  5. 5. • 100 % napačna klasifikacija • Posplošitev čez modele • Posplošitev čez učne podatke
  6. 6. Zakaj?
  7. 7. Razvozlavanje in nezveznosti
  8. 8. Zastrupljanje učenja Biggio et al.: Poisoning Attacks against Support Vector Machines
  9. 9. Koliko informacij ima napadalec? • algoritem • hiperparametri • značilke • učni podatki • porazdelitev • rezultati
  10. 10. Barreno et al.:Can Machine Learning Be Secure?
  11. 11. Barreno et al.:Can Machine Learning Be Secure?
  12. 12. http://arxiv.org/pdf/1312.6199v4.pdf http://arxiv.org/pdf/1206.6389v1.pdf http://blaine-nelson.com/research/pubs/Huang-Joseph-AISec-2011 http://www.cs.berkeley.edu/~tygar/papers/Machine_Learning_Securit y/asiaccs06.pdf http://www.ecmlpkdd2013.org/wp-content/uploads/2013/07/527.pdf

×