Este gusano de inteligencia artificial puede robar datos privados y enviar correos basura
Este gusano de inteligencia artificial puede robar datos privados y enviar correos basura
Investigadores de seguridad han creado un gusano de inteligencia artificial (IA) que puede infiltrarse en modelos como ChatGPT y Gemini y potencialmente robar datos. Basados en Estados Unidos e Israel, los investigadores construyeron a propósito el gusano informático para que sirviera de delator y evitar su aparición en modelos de IA generativa (GenAI).
Un gusano informático puede replicarse y propagarse comprometiendo otras máquinas. A diferencia de otros gusanos, este no necesita que hagas clic o abras un correo electrónico para recibir el malware, lo hace automáticamente en el momento en que recibes el correo infectado. Llamaron al gusano Morris II en honor al primer gusano informático desarrollado en 1988.
¿Cómo funciona?
Los investigadores crearon un sistema de correo electrónico que podía responder a mensajes utilizando GenAI y luego conectarse a los modelos ChatGPT, Gemini y LLaVA. Morris II se demostró contra asistentes de correo electrónico basados en GenAI y podía robar datos personales y lanzar campañas de spam.
“El estudio demuestra que los atacantes pueden insertar este tipo de instrucciones en las entradas que, cuando son procesadas por los modelos GenAI, incitan al modelo a replicar la entrada como salida (replicación) y participar en actividades maliciosas (carga útil)”, escribieron los investigadores.
La solicitud, que es cualquier pregunta o comunicación formulada al modelo de IA, obliga al modelo de IA a responder con otra solicitud, que puede infectar al asistente de IA para extraer información confidencial.
A continuación, el gusano puede enviarse a otros contactos de su red en línea, “explotando la conectividad dentro del ecosistema GenAI”, añaden. Los investigadores advierten de que, aunque no se han detectado gusanos de IA, es sólo cuestión de tiempo.
“Básicamente significa que ahora tienes la capacidad de llevar a cabo o realizar un nuevo tipo de ciberataque que no se ha visto antes”, declaró Ben Nassi, investigador de la Universidad de Cornell que está detrás del gusano informático, a la publicación Wired en una entrevista.
El estudio plantea un caso preocupante, ya que los asistentes de IA llegan a los dispositivos inteligentes e incluso a los coches y pueden enviar correos electrónicos o reservar citas en nombre de alguien. En otro trabajo publicado el mes pasado, investigadores de Singapur y China han demostrado que podían obtener fácilmente acceso root al sistema operativo de un gran modelo de lenguaje (LLM).
