Investigadores de la Universidad de Washington, de la Universidad de Michigan, de la Universidad Stony Brook y de la Universidad de California en Berkeley han descubierto la forma de hackear automóviles de conducción autónoma colocando pegatinas en las señales de las calles.
Comenzando por analizar el algoritmo que el sistema de visión usa para clasificar las imágenes, usaron una serie de ataques diferentes para manipular los signos con el fin de engañar a los modelos de aprendizaje automático para que los interpretaran mal. Por ejemplo, imprimían pegatinas para engañar al sistema de visión que usaría un automóvil autónomo para leer un letrero de STOP como una señal de 45 millas por hora, cuyas consecuencias obviamente serían muy malas en el mundo real.
En el artículo titulado «Ataques físicos mundiales a los modelos de aprendizaje mecánico», los autores demostraron cuatro maneras diferentes de interrumpir la forma en que las máquinas leen y clasifican estos signos utilizando sólo una impresora en color y una cámara. La parte más preocupante de estos experimentos es que todos ellos parecen muy sutiles para el ojo humano, camuflados como graffiti, arte o incorporados en la imagen de la señal.
Fuente: AutoBlog