Machine Learning para el Pentesting: La Importancia de la IA en el ámbito de la Ciberseguridad

LUCA  9 enero, 2019
Escrito por Sergio Sancho Azcoitia  Muchas empresas utilizan herramientas para analizar la seguridad de sus productos, una de estas herramientas son las GANS (Generative Adversarial Networks) y con ellas se puede detectar los fallos que hay en un modelo de machine learning. Además se pueden utilizar para entrenar determinados modelos y hacerlos más robustos. Las GANS son algoritmos de inteligencia artificial diseñados para llevar a cabo aprendizaje automático no supervisado, están compuestos por un sistema de redes neuronales que compiten entre sí. A continuación os hablaremos de tres interesantes frameworks que pueden resultarte muy útiles si quieres entrenar tus modelos de machine learning.

Las GANS son algoritmos de inteligencia artificial diseñados para llevar a cabo aprendizaje automático no supervisado. Están compuestos por un sistema de redes neuronales que compiten entre sí. A continuación os hablaremos de tres interesantes frameworks que pueden resultar muy útiles si quieres entrenar tus modelos de ML.

DEEP-PWNING

Es un pequeño framework escrito en Tensorflow  que sirve para experimentar con modelos de machine learning con el fin de evaluar su nivel de robustez frente a un adversario motivado. En la actualidad Deep-pwning no ha alcanzado su máximo desarrollo, se trata de un framework con el que experimentar y cuyos conocimientos se expanden paulatinamente abriendo así la posibilidad de que en un futuro pueda convertirse en una herramienta para realizar test de penetración y estudios estadísticos sobre algunos modelos machine learning.
Los investigadores se han dado cuenta de que es sorprendentemente sencillo engañar a un modelo de machine learning haciéndole tomar decisiones incorrectas. Este campo de investigación se conoce como “adversarial machine learning”.No es ninguna exageración decir que cualquier atacante podría bypasear cualquier sistema de machine learning. Lo único que necesitaría es tiempo e información con la que manipularlo. Esta posibilidad suele ser pasada por alto cuando los ingenieros y diseñadores elaboran estos sistemas. Las consecuencias son preocupantes cuando se ponen estos sistemas en situaciones críticas en ámbitos como el médico, el financiero o la seguridad.


ADVERSARIAL LIB

Esta librería escrita en Python es open source y al igual que Deep-pwning está diseñada para evaluar la seguridad de los clasificadores machine learning frente a los “adversarial atacks”. Viene con diversas funciones muy potentes.

Su uso es tan sencillo como lanzar un script. Soporta un amplio rango de algoritmos de machine learning, los cuales optimiza y reescribe en C++. Además, en caso de necesitar un algoritmo que no se encuentre en la librería,  se puede añadir a ésta, convirtiéndola así en una herramienta cada vez más completa.


THE GAN ZOO

Para terminar, os hablamos de The GAN Zoo, una página de referencia en la que se pueden encontrar infinidad de GANS  con las que poner a prueba y entrenar modelos de machine learning. The GAN Zoo tiene detrás de sí una gran comunidad de desarrolladores que  cada semana añaden nuevos papers a su repositorio en GitHub.

El machine learning se ha convertido en una poderosa herramienta para los desarrolladores e investigadores en el campo de la seguridad informática. La posibilidad de utilizar una herramienta para llevar a cabo numerosos test de seguridad y penetración ahorra mucho tiempo y esfuerzo a los investigadores permitiéndoles centrarse en otras tareas simultáneamente.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *