Papers de la semana: IA, Drones y Ciberseguridad

Por Kike Gandia · Investigación · 6 min de lectura

Cada semana revisamos lo que sube a arXiv sobre IA, Drones y Ciberseguridad y nos quedamos con cinco papers que a un equipo de seguridad le cambian algo en la práctica. Aquí tenéis los de la semana del 1 de noviembre de 2026, explicados para quien tiene que decidir qué hacer el lunes y no tiene tiempo de leer cuarenta páginas.

164
preprints revisados (ventana de 8 días en arXiv)
5
papers elegidos (IA, Drones y Ciberseguridad)
4
con código publicado (para reproducirlos)

Cómo elegimos. Puntuamos cada preprint por lo que se puede medir en su ficha: que el resumen trate de verdad el tema, que tenga evaluación experimental, que publique código y que sus autores declaren dónde se aceptó. En esta edición, el equipo de QuantumSec marcó 3 y completamos el resto con el mismo criterio. Son preprints: no han pasado revisión por pares y pueden cambiar. Leed el original antes de apoyar una decisión en él.

#PaperTemaLo que lo hace destacar
1Backdoors agente mediante envenenamiento en entrenamiento previoIAcódigo publicado, cruza IA y Ciberseguridad
2Ataques rápidos a modelos de decisión tipo textoIAcódigo publicado, evaluación experimental, cruza IA y Ciberseguridad
3Intercepción autónoma de drones con inteligencia artificialDronescruza IA y Drones
4Plugins de manipulación en modelos de lenguajeCiberseguridadcódigo publicado, evaluación experimental, cruza IA y Ciberseguridad
5Evaluación sistemática de ataques y defensas contra grandes modelos de lenguajeIAcódigo publicado, evaluación experimental, cruza IA y Ciberseguridad

1. Backdoors agente mediante envenenamiento en entrenamiento previo

*Agentic Backdoors via Pretraining Poisoning* · Xinyan Hu, Pingbang Hu, Chloe Loughridge et al. · arXiv:2610.37741

Los autores demuestran que es posible inyectar un backdoor remoto en modelos de lenguaje mediante el envenenamiento de datos de entrenamiento previo. Al modificar solo una pequeña fracción del corpus, logran que un agente basado en modelo ejecute comandos maliciosos cuando se activa un desencadenante, manteniendo comportamiento normal en entradas limpias.

Por qué importa

Este ataque muestra una vía crítica de compromiso en sistemas que usan modelos de lenguaje sin validación de datos de entrada. Un equipo de seguridad debe considerar que incluso datos públicos no verificados pueden introducir vulnerabilidades persistentes en modelos entrenados desde cero.

Qué puede plantearse vuestro equipo

  • ¿Qué fuentes de datos se usan para entrenar modelos internos o terceros?
  • ¿Se verifica la integridad de los datos de entrenamiento antes de usarlos?
  • ¿Cómo se detectan comandos maliciosos en salidas de agentes basados en IA?

Lo que no demuestra. El estudio se basa en un preprint sin revisión por pares. No se especifica el tipo de datos envenenados ni el entorno real de despliegue. Los resultados se muestran solo en modelos Qwen3 entrenados desde cero, sin generalización a otros modelos o escenarios.

2. Ataques rápidos a modelos de decisión tipo texto

*FlipJev: Fast Black-Box Red Teaming Finds Universal Adversarial Suffixes for Typed Decision Models* · Xiaogeng Liu, Xinyan Wang, Chaowei Xiao · arXiv:2610.38895

Proponen un ataque rápido y basado en consultas sin modelo atacante que encuentra sufijos universales capaces de alterar respuestas de modelos de decisión tipo texto. Estos sufijos, muy cortos, cambian respuestas confiables en minutos y funcionan en documentos no vistos y en tareas distintas.

Por qué importa

Los modelos de decisión tipo texto se usan en tareas sensibles y pueden ser vulnerables a ataques que no requieren conocimiento del modelo interno. Esto pone en riesgo sistemas de seguridad que dependen de respuestas automáticas y rápidas.

Qué puede plantearse vuestro equipo

  • ¿Qué modelos de decisión tipo texto usamos y cómo se comportan ante ataques de sufijos?
  • ¿Hemos evaluado la robustez de nuestros modelos con ataques adaptativos basados en consultas?
  • ¿Podría un sufijo corto alterar respuestas críticas en nuestras aplicaciones?

Lo que no demuestra. El trabajo es un preprint sin revisión por pares. No se especifican los datasets ni el entorno de prueba. Los resultados no se validan en producción ni en modelos distintos a Jev.

3. Intercepción autónoma de drones con inteligencia artificial

*Autonomous fixed-wing interception using reinforcement learning* · Daan van Hamersveld, Ewoud Smeur, Iurii Kriachko · arXiv:2610.37470

Desarrollan un interceptor fijo de ala controlado por una red neuronal entrenada con aprendizaje por refuerzo para interceptar objetivos aéreos. El sistema procesa imágenes monoculares en tiempo real y toma decisiones de control sin intervención humana, demostrando éxito en simulación y vuelo real contra objetivos maniobradores.

Por qué importa

Este enfoque abre la posibilidad de defensas aéreas autónomas y escalables contra amenazas como drones de ataque, reduciendo dependencia de sistemas costosos. Para equipos de seguridad, plantea riesgos nuevos en la automatización de ataques sin supervisión humana directa.

Qué puede plantearse vuestro equipo

  • ¿Cómo podrían nuestros sistemas detectar y responder a interceptores autónomos entrenados con IA?
  • ¿Qué vulnerabilidades podrían explotarse en redes neuronales que controlan drones de defensa?
  • ¿Qué protocolos de detección de comportamiento anómalo deberíamos implementar para drones no identificados?

Lo que no demuestra. El resumen no demuestra que el sistema funcione en entornos reales complejos o bajo presión operativa. Se trata de un preprint sin revisión por pares, con resultados limitados a simulación y pruebas controladas en vuelo.

4. Plugins de manipulación en modelos de lenguaje

*Steering for Safety, Hijacking for Profit: Trojan Threats in the LLM Activation Steering Supply Chain* · Yu Yan, Jiahao Chen, Siqi Lu et al. · arXiv:2610.35043

Analizan riesgos de seguridad en plugins de ajuste de modelos de lenguaje mediante vectores de dirección. Descubren vulnerabilidades estructurales en ocho librerías de código abierto que permiten ocultar funciones maliciosas. Proponen un ataque que simultánea funcionalidad legítima y manipulación oculta de salidas.

Por qué importa

Los plugins de ajuste pueden ser usados para infiltrar comportamientos maliciosos sin alterar el rendimiento aparente. Esto pone en riesgo la integridad de sistemas que dependen de modelos de lenguaje para decisiones críticas.

Qué puede plantearse vuestro equipo

  • ¿Qué plugins de ajuste usamos y qué permisos tienen en nuestros entornos?
  • ¿Hemos verificado la integridad de los plugins de terceros antes de integrarlos?
  • ¿Tenemos mecanismos para detectar intervenciones anómalas en las activaciones internas de los modelos?

Lo que no demuestra. El trabajo es un preprint sin revisión por pares. No valida el impacto en entornos reales ni prueba el ataque en todos los escenarios posibles. No incluye datos de uso en producción.

5. Evaluación sistemática de ataques y defensas contra grandes modelos de lenguaje

*Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models* · Md. Robiul Islam Niloy, Abu Sayed Md. Mostafizur Rahaman · arXiv:2610.39509

Los autores evalúan cinco tipos de ataques adversarios en siete modelos de lenguaje y cuatro mecanismos de defensa. Encuentran que los ataques de obfuscación son los más efectivos, con tasas de éxito del 54,3% en promedio, y que el tamaño del modelo no predice su resistencia a los ataques.

Por qué importa

Los equipos de seguridad deben preocuparse por la vulnerabilidad de los modelos de lenguaje a los ataques adversarios, especialmente en entornos críticos. La investigación sugiere que las técnicas de defensa como el recordatorio interno pueden ser efectivas sin costos adicionales.

Qué puede plantearse vuestro equipo

  • Evalúa la vulnerabilidad de tus modelos de lenguaje a los ataques de obfuscación.
  • Implementa técnicas de defensa como el recordatorio interno sin añadir costos de inferencia.
  • Considera la diversidad de vulnerabilidades entre modelos de la misma familia.

Lo que no demuestra. El estudio no demuestra que el tamaño del modelo predice su resistencia a los ataques adversarios, y se basa en modelos de código abierto y accesibles por API.

El hilo que une la semana

Los papers revelan una creciente vulnerabilidad en sistemas de IA y ciberseguridad basados en modelos de lenguaje y aprendizaje automático. Ataques mediante envenenamiento, sufijos universales y manipulación de plugins permiten ocultar comportamientos maliciosos bajo apariencia de normalidad. La inteligencia artificial también se usa para atacar (drones autónomos) y defender (defensas contra ataques), pero las defensas actuales son insuficientes frente a ataques de obfuscación. El riesgo central es la falta de transparencia y control sobre el comportamiento oculto en modelos entrenados.

Qué haríamos en QuantumSec

Revisaríamos primero los procesos de entrenamiento y ajuste de modelos de lenguaje en nuestros clientes, especialmente si usan datos externos o plugins de código abierto. Verificaríamos la integridad de los vectores de dirección y la presencia de sufijos maliciosos en entradas. También evaluaríamos la exposición de sistemas que dependen de modelos de decisión sin mecanismos de verificación de salida.

Sobre este artículo. Los análisis los redacta un modelo de lenguaje local de QuantumSec a partir del resumen público de cada paper, con las cifras verificadas contra ese resumen. No sustituyen la lectura del original. Cómo trabajamos la inteligencia en QuantumSec.

Servicio relacionado

pentesting de inteligencia artificial

Temas de este artículo

#Papers-de-la-semana #IA #Drones #Ciberseguridad #arXiv #Preprints

Seguir leyendo

Probamos vuestros modelos y agentes