This paper deals with the vulnerability of machine learning models to adversarial examples and its implication for robustness and generalization properties. We propose an evolutionary algorithm that can generate adversarial examples for any machine learning model in the black-box attack scenario. This way, we can find adversarial examples without access to model's parameters, only by querying the model at hand. We have tested a range of machine learning models including deep and shallow neural networks. Our experiments have shown that the vulnerability to adversarial examples is not only the problem of deep networks, but it spreads through various machine learning architectures. Rather, it depends on the type of computational units. Local units, such as Gaussian kernels, are less vulnerable to adversarial examples.
- MeSH
- algoritmy MeSH
- lidé MeSH
- neuronové sítě * MeSH
- řízené strojové učení * trendy MeSH
- rozpoznávání automatizované metody trendy MeSH
- strojové učení trendy MeSH
- Check Tag
- lidé MeSH
- Publikační typ
- časopisecké články MeSH
- MeSH
- autostimulace MeSH
- kardiostimulátor využití MeSH
- lidé MeSH
- rozpoznávání automatizované trendy využití MeSH
- syndrom chorého sinu terapie MeSH
- Check Tag
- lidé MeSH
- mužské pohlaví MeSH
- ženské pohlaví MeSH
- Publikační typ
- srovnávací studie MeSH
- MeSH
- algoritmy MeSH
- informatika metody přístrojové vybavení MeSH
- lidé MeSH
- neuronové sítě MeSH
- on-line systémy využití MeSH
- počítačové zpracování obrazu MeSH
- psaní rukou MeSH
- rozpoznávání automatizované metody trendy využití MeSH
- statistika jako téma metody MeSH
- teoretické modely MeSH
- Check Tag
- lidé MeSH
- MeSH
- diagnostické zobrazování trendy MeSH
- elektroencefalografie * metody využití MeSH
- lidé MeSH
- počítačové zpracování obrazu metody využití MeSH
- počítačové zpracování signálu MeSH
- psychosomatické poruchy * diagnóza MeSH
- rozpoznávání automatizované * metody trendy MeSH
- shluková analýza MeSH
- statistika jako téma MeSH
- teoretické modely MeSH
- Check Tag
- lidé MeSH
- MeSH
- algoritmy MeSH
- artefakty MeSH
- diagnostické zobrazování trendy MeSH
- elektroencefalografie * metody trendy využití MeSH
- epilepsie diagnóza MeSH
- expertní systémy MeSH
- lidé MeSH
- nemoci mozku * diagnóza etiologie MeSH
- počítačové zpracování obrazu metody trendy MeSH
- počítačové zpracování signálu MeSH
- rozpoznávání automatizované * metody trendy MeSH
- statistika jako téma MeSH
- teoretické modely MeSH
- Check Tag
- lidé MeSH
- MeSH
- elektromyografie * metody přístrojové vybavení využití MeSH
- lidé MeSH
- nemoci svalů * diagnóza komplikace rehabilitace MeSH
- paže MeSH
- počítačové zpracování signálu MeSH
- postižení psychologie rehabilitace MeSH
- protézy - design metody MeSH
- rozpoznávání automatizované metody trendy MeSH
- umělé končetiny * MeSH
- Check Tag
- lidé MeSH
