A fines de noviembre de 2022 OpenAI anunció la introducción de ChatGPT la nueva interfaz para su modelo de lenguaje grande (LLM) que inmediatamente despertó un gran interés en la inteligencia artificial (IA) y las muchas aplicaciones que puede tener. Sin embargo ChatGPT también le ha dado un poco de sabor al panorama actual de amenazas cibernéticas, ya que pronto quedó claro que la generación de código podría ayudar a los actores de amenazas menos calificados a lanzar ataques cibernéticos fácilmente . Esta realización se produjo como resultado directo de ChatGPT.
Según una investigación realizada por CPR en varios de los sitios clandestinos de hackeo más destacados, ya ha habido primeros casos de ciberdelincuentes que utilizan OpenAI para construir herramientas peligrosas. Como esperábamos varios de los ejemplos hicieron bastante evidente que un número significativo de los ciberdelincuentes que usan OpenAI no tenían habilidades técnicas. Incluso si las herramientas que ofrecemos en esta investigación se encuentran en el extremo más elemental del espectro, es solo cuestión de tiempo hasta que los actores de amenazas más hábiles mejoren la forma en que emplean las herramientas basadas en IA con fines maliciosos.
Caso 1: desarrollo de un ladrón de información
El 29 de diciembre de 2022, se publicó un tema en un conocido foro clandestino de hackeo titulado “ChatGPT – Beneficios del malware” para su discusión. El editor del hilo dijo que estaba intentando imitar las cepas de malware y las estrategias descritas en trabajos de investigación y artículos sobre el malware predominante mediante el uso de ChatGPT en sus experimentos. Como ejemplo proporcionó el código fuente para un código basado en Python que busca tipos de archivos comunes, luego copia esos archivos en una carpeta arbitraria dentro de la carpeta Temp comprime esas copias y luego carga los archivos ZIP en un sitio FTP predeterminado.
Un sencillo fragmento de Java sirve como segundo ejemplo de este actor que se produjo con ChatGPT. Descargará PuTTY que es un cliente de SSH y telnet bastante popular y luego usará Powershell para ejecutar PuTTY de forma subrepticia en la máquina. Este script puede por supuesto modificarse para descargar y ejecutar cualquier aplicación; esto incluye las familias más frecuentes de software malicioso.
Caso 2: Concepción de una herramienta de cifrado
Un actor de amenazas conocido como USDoD subió un script de Python el 21 de diciembre de 2022. En la publicación, destacó que era el primer script que había escrito en Python. Después de que otro ciberdelincuente señalara que el formato del código es similar al del código openAI, el Departamento de Defensa de los Estados Unidos (USDoD) verificó que openAI le ofreció una “buena [ayuda] mano para completar el script con un hermoso alcance. ”
Caso 3: Uso de ChatGPT para facilitar actividades fraudulentas
Otra ilustración del uso fraudulento de ChatGPT se publicó el 31 de diciembre de 2022 y mostraba un tipo de comportamiento delictivo en línea diferente al de la ilustración anterior. Este ejemplo representa un debate con el tema “Abusar de ChatGPT para construir secuencias de comandos de Dark Web Marketplaces”, en contraste con nuestros dos ejemplos anteriores, que se centraron más en los usos de ChatGPT orientados al malware. El ciberdelincuente demuestra en este hilo lo sencillo que es establecer un mercado en la Dark Web usando ChatGPT. Para proporcionar una plataforma para el comercio automatizado de bienes ilegales o robados, como cuentas robadas o tarjetas de pago, malware o incluso drogas y municiones, con todos los pagos realizados en criptomonedas la función principal del mercado en la economía ilegal clandestina es servir como un plataforma para este tipo de comercio. El ciberdelincuente publicó un fragmento de código que hace uso de una API de terceros para obtener los precios más recientes de las criptomonedas (Monero, Bitcoin y Etherium) como componente del sistema de pago para el mercado de la Dark Web. El propósito de esto fue demostrar cómo usar ChatGPT para estos fines.
Es demasiado pronto para decir si las capacidades de ChatGPT se convertirán o no en la próxima herramienta más popular para los usuarios que participan en actividades en la Dark Web. Sin embargo los miembros de la comunidad ciberdelincuente ya han mostrado un gran interés en esta tendencia actual y están comenzando a capitalizarla mediante la producción de programas dañinos. El CPR estará pendiente de esta actividad hasta el año 2023.
Es un conocido experto en seguridad móvil y análisis de malware. Estudió Ciencias de la Computación en la NYU y comenzó a trabajar como analista de seguridad cibernética en 2003. Trabaja activamente como experto en antimalware. También trabajó para empresas de seguridad como Kaspersky Lab. Su trabajo diario incluye investigar sobre nuevos incidentes de malware y ciberseguridad. También tiene un profundo nivel de conocimiento en seguridad móvil y vulnerabilidades móviles.
Envía tips de noticias a info@noticiasseguridad.com o www.instagram.com/iicsorg/
También puedes encontrarnos en Telegram www.t.me/noticiasciberseguridad
