Researchers from the University of Washington, from the University of Michigan, from Stony Brook University and the University of California, Berkeley have discovered a way to hack self-driving cars by placing stickers on street signs.
Comenzando por analizar el algoritmo que el sistema de visión usa para clasificar las imágenes, usaron una serie de ataques diferentes para manipular los signos con el fin de engañar a los modelos de aprendizaje automático para que los interpretaran mal. For example, imprimían pegatinas para engañar al sistema de visión que usaría un automóvil autónomo para leer un letrero de STOP como una señal de 45 millas por hora, cuyas consecuencias obviamente serían muy malas en el mundo real.
En el artículo titulado “Ataques físicos mundiales a los modelos de aprendizaje mecánico”, los autores demostraron cuatro maneras diferentes de interrumpir la forma en que las máquinas leen y clasifican estos signos utilizando sólo una impresora en color y una cámara. La parte más preocupante de estos experimentos es que todos ellos parecen muy sutiles para el ojo humano, camuflados como graffiti, arte o incorporados en la imagen de la señal.
Fountain: AutoBlog