Los investigadores de la Universidad de Maryland desarrollaron una nueva variante de ataque que permitiría forzar la ralentización de los sistemas de aprendizaje automático, lo que generaría fallas críticas en servidores y aplicaciones. Este ataque fue presentado en un reciente evento de ciberseguridad y se basa en la interrupción de las técnicas de optimización presentes en las redes neuronales.
Como muchos sabrán, una red neuronal es un tipo de algoritmo de aprendizaje automático que requiere de una cantidad descomunal de memoria y procesadores muy potentes para trabajar adecuadamente, por lo que no son implementaciones de uso común. Muchos de estos sistemas deben enviar la información procesada a un servidor en la nube para su funcionamiento correcto, para lo que los desarrolladores implementan diversas técnicas y tecnología con el fin de reducir la demanda de recursos al máximo posible.
Uno de estos métodos de optimización es conocido como arquitectura de múltiples salidas o de salida temprana, que hace que las redes neuronales dejen de procesar información apenas alcancen un nivel mínimo aceptable. Este es un modo de trabajo de reciente creación, aunque ya cuenta con gran aceptación, aseguran los expertos.
Tudor Dumitras, responsable de esta investigación, logró desarrollar un ataque que apunta directamente contra este proceso de optimización. Identificado como DeepSloth, este ataque implica cambios imperceptibles en los datos de entrada, evitando que las redes neuronales realicen el proceso de salidas anticipadas y forzando la aplicación de un cálculo completo de esta información.
El investigador asegura que este ataque elimina la optimización de las redes neuronales: “Esta clase de arquitectura puede llegar a la mitad de su consumo regular de recursos; empleando DeepSloth, es posible reducir la eficacia del enfoque de salidas tempranas en casi 100% de forma similar a como ocurriría en un ataque de denegación de servicios (DoS).”
Por otra parte, en escenarios en que una red de salidas múltiples se divide entre dispositivos locales e implementaciones en la nube, un ataque puede obligar al dispositivo a enviar todos sus datos a un solo servidor, lo que puede causar toda clase de fallas en los resultados finales esperados por los administradores de redes neuronales.
Dumitras concluyó su presentación pidiendo a los desarrolladores que adopten nuevos enfoques de seguridad para la protección de estos sistemas: “Este es solo el primero de muchos ataques contra las redes neuronales, por lo que la comunidad deberá adoptar un enfoque preventivo antes de que sea tarde.”
Para conocer más sobre riesgos de seguridad informática, malware, vulnerabilidades y tecnologías de la información, no dude en ingresar al sitio web del Instituto Internacional de Seguridad Cibernética (IICS).
Trabajando como arquitecto de soluciones de ciberseguridad, Alisa se enfoca en la protección de datos y la seguridad de datos empresariales. Antes de unirse a nosotros, ocupó varios puestos de investigador de ciberseguridad dentro de una variedad de empresas de seguridad cibernética. También tiene experiencia en diferentes industrias como finanzas, salud médica y reconocimiento facial.
Envía tips de noticias a info@noticiasseguridad.com o www.instagram.com/iicsorg/
También puedes encontrarnos en Telegram www.t.me/noticiasciberseguridad
