Según ha informado Microsoft los ataques dirigidos a
sistemas de aprendizaje automático y Machine Learning (ML) han aumentado significativamente
estos últimos años y se espera que sigan evolucionando. Es por ello por lo que Microsoft se ha juntado
con MITRE y otras organizaciones para diseñar un marco que ayude a identificar
estas amenazas.
En una encuesta realizada por Microsoft se ha desvelado que
la mayoría de las empresas encuestadas no tienen las herramientas necesarias
para poder proteger sus sistemas de aprendizaje automático y buscan una
orientación sobre cómo defender sus sistemas. Microsoft añadió a esta encuesta
que no solo había encuestado a pequeñas empresas, sino que grandes compañías
como pueden ser Fortune 500, o gobiernos también padecían de este problema.
Para abordar este problema Microsoft ha lanzado un marco
abierto centrado en la industria llamado The Adversarial ML Threat Matrix, esta
herramienta ha sido lanzada en colaboración con MITRE, IBM, NVIDIA y otras
grandes empresas e instituciones.
La herramienta se basa en la observación de ataques
realizados con éxito a los sistemas de ML de producción y manda toda la
información recopilada sobre las técnicas empleadas en estos ataques, la
información enviada por la herramienta va dirigida principalmente a los
analistas de seguridad.
Esta herramienta lanzada por Microsoft es un primer intento de
crear una base de conocimiento para saber la forma en la que los sistemas
automatizados pueden ser atacados y de esa forma dar la oportunidad a las
empresas asociadas a modificar con la información recibida de la comunidad de
seguridad y aprendizaje automático.