Tabla de contenidos
geekzillos, los ciberdelincuentes pueden aprovecharse del uso de ChatGPT y otros modelos de lenguaje similares para llevar a cabo diversas formas de ataques informáticos, incluyendo: phishing, spam, propaganda falsa y mucho más. Quédate aquí para que con ayuda de ESET, te contemos cómo siempre estar alerta para cuidarte de estos ciberataques.
ESET, la empresa líder en detección proactiva de amenazas, explica qué es ChatGPT y cómo se puede usar esta tecnología con fines maliciosos por ciberdelincuentes.
ChatGPT es un chatbot o sistema de chat desarrollado por OpenAI. Es un modelo basado en inteligencia artificial (GPT-3) que permite a las personas interactuar con este chatbot a través de mensajes de texto como si fuera una persona real. Está capacitado en una gran cantidad de texto para responder preguntas o proporcionar información. Aunque comete errores, el proceso de capacitación ha mejorado su capacidad para interactuar automáticamente en respuesta a consultas humanas. Pero al igual que con otras tecnologías, ESET, líder en detección proactiva de amenazas, advierte que presenta ciertos riesgos para la ciberseguridad.
“Tecnologías como ChatGPT vinieron a revolucionar y automatizar diversos procesos. Lo más destacable de estas tecnologías probablemente sea que están cambiando la forma en que interactuamos con las computadoras. Con ChatGPT se ve el avance de la democratización y accesibilidad del conocimiento, ¿pero acaso esto no está posibilitando también la democratización del cibercrimen? Investigaciones ya han demostrado que los cibercriminales ya comenzaron a utilizar ChatGPT para utilizarlo como herramienta para desarrollar código malicioso y realizar otro tipo de acciones fraudulentas. Es evidente que debemos seguir este tema de cerca para ver cómo evoluciona y analizar lo que nos depara la evolución de la Inteligencia Artificial y sobre todo el Machine Learning”.
Sol González, Investigadora de Seguridad Informática de ESET Latinoamérica.
¿Qué es exactamente ChatGPT?
Para tener una mejor idea de lo que es ChatGPT, el equipo de ESET preguntó al propio sistema, y aquí está la respuesta:
La respuesta de ChatGPT a la pregunta de qué es. También se le preguntó cómo funciona su algoritmo:
ChatGPT se comunica de manera amigable y utiliza un lenguaje fácil de entender. Esto hace que esta tecnología sea disruptiva. El cambio que trae es la forma en que los usuarios interactúan con la tecnología, ya que la hace accesible a todo tipo de usuarios. ChatGPT también proporciona uso ilimitado. Por ejemplo, automatización de procesos para diversas industrias como educación, finanzas, salud, atención al cliente, etc.
“Sin embargo, es importante tener presente, que al igual que toda tecnología, también presenta sus riesgos de seguridad. Haciendo una analogía, así como el modelo de Ransomware as a Service (RaaS) permite que actores con menos conocimientos tengan acceso a un malware y solo deban preocuparse por diseñar el correo de phishing con el cual tratar de engañar a las víctimas, ChatGPT también es un servicio disponible para cualquiera que puede ser utilizado para facilitar ciertas tareas a cibercriminales”.
agrega la investigadora de ESET
ESET explora 6 formas en que los ciberdelincuentes pueden aprovechar ChatGPT:
1. Generación de noticias falsas
- En caso de que se quiera generar una noticia falsa que se distribuya a lo largo de internet. ¿Qué se podría hacer? Apelando a la creatividad e ingresando los parámetros correspondientes en torno a lo que se quiere, esto es posible con esta plataforma.
Por ejemplo, desde ESET se le pidió a ChatGPT que redacte un artículo en donde Elon Musk sorpresivamente compra la empresa Meta y este fue el resultado:
2. Ataques de phishing
Los correos electrónicos de phishing son cada vez más difíciles de identificar. Se vuelven más enfocados y por lo tanto más persuasivos. Hace algunos años, los correos electrónicos maliciosos a menudo se escribían de manera divertida, incluso con errores de ortografía. ESET preguntó si ChatGPT podría ayudar fácilmente a escribir correos electrónicos maliciosos. Aquí está su respuesta:
En este caso, la plataforma advierte razonablemente contra tales acciones. Sin embargo, en los reintentos, la consulta se ejecuta, pero de forma diferente:
Es un hecho que a través de ChatGPT se pueden crear correos electrónicos de phishing personalizados y muy convincentes para engañar a las víctimas y obtener información confidencial de una manera automatizada.
3. Robo de identidad
Los ciberdelincuentes pueden usar ChatGPT para crear estafas haciéndose pasar por instituciones confiables, como bancos o empresas, para obtener información privada y financiera de las personas. Incluso pueden publicar como celebridades en línea.
4. Desarrollo de malware
La plataforma facilita el desarrollo de software, ya que puede utilizarse como una herramienta de generación de código para varios lenguajes de programación. El malware también es software, pero se usa con fines maliciosos. El equipo de investigación de ESET realizó una prueba en la que ChatGPT escribió un programa .NET que llamó a Powershell y descargó la carga útil.
En respuesta, ChatGPT advirtió que la solicitud era riesgosa y dijo que incluso podría violar la política de contenido del servicio. Sin embargo, el código aún se genera e incluso proporciona una descripción detallada de cómo funciona.
5. Automatización del proceso de ataque
En un ataque dirigido, los ciberdelincuentes suelen realizar un proceso de identificación que implica realizar ciertas tareas repetitivas. Sin embargo, en los últimos años han surgido herramientas que pueden acortar el tiempo que lleva completar estas tareas. Para probar si ChatGPT podría usarse para estas campañas, ESET simuló que un atacante quería ingresar a un servidor LDAP para ver a los usuarios de la empresa. Chat GPT se probó como una herramienta para automatizar este proceso, que requiere secuencias de comandos.
La plataforma proporciona código Python para enumerar usuarios de Active Directory utilizando el protocolo LDAP. Para aquellos que trabajan con seguridad, saben que es bueno tener una hoja de trucos rápida para completar ciertos pedidos. Por ejemplo, si está en la fase de acceso como ciberdelincuente, necesita un script para abrir un shell inverso y usar ChatGPT, y puede obtener fácilmente la siguiente información:
6. Chat malicioso
ChatGPT tiene una API que le permite asegurar otros chats. Gracias a su interfaz amigable, se puede usar para muchos propósitos beneficiosos, pero desafortunadamente, también se puede usar con fines maliciosos. Por ejemplo, estafar a la gente y ejecutar estafas muy convincentes.
Es importante que los usuarios de modelos de lenguaje sean cautelosos y verifiquen la información antes de tomar acciones basadas en mensajes generados por estos modelos.
