Engañando al bot. Ataques Web sobre LLM

Los ataques web orientados a engañar a los Modelos de Lenguaje Grande (LLM) se conocen principalmente como Inyección de Prompts. Estos ataques consisten en introducir instrucciones maliciosas en lenguaje natural con el fin de manipular el comportamiento del modelo de Inteligencia Artificial para que ejecute acciones no deseadas, eluda restricciones de seguridad o filtre información confidencial.

Analistas de Internet Security Auditors desarrollarán algunos laboratorios de Portswigger para explicar determinadas las vulnerabilidades relacionadas con la inyección de Prompts.

1. ¿Qué es un LLM?
2. Tipos de ataques a LLMs
3. Prompt Injection
4. Indirect Prompt Injection
5. Envenenamiento de datos de entrenamiento
6. Filtración de datos de entrenamiento sensibles
7. AI-Powered scanners
8. Protección contra ataques a LLMs

Mario Valiente Catalán
Analista de Seguridad
eJPT, OSCP, CRTO,BSCP, CRTP, Windows Evasion Specialist, Malware Development Specialist
Ingeniero de Telecomunicaciones, especializado en ciberseguridad ofensiva, con experiencia en pruebas de penetración y evaluación de la seguridad de aplicaciones y entornos tecnológicos. A lo largo de su trayectoria ha participado en proyectos de red team, análisis de vulnerabilidades, validación de controles de seguridad y simulación de ataques controlados, aportando una visión técnica orientada a la mejora continua y a la reducción del riesgo.
Cuenta con una sólida base en metodologías ofensivas, análisis técnico y evaluación de superficies de ataque, así como con experiencia en la identificación de debilidades y de su explotación.

Roger Martín Campanario
Analista de Seguridad
OSCP, CARTP, CARTE
Ingeniero informático especializado en ciberseguridad ofensiva, con experiencia en auditorías de aplicaciones web, API y aplicaciones móviles, así como en pruebas de intrusión en entornos internos y externos. A lo largo de su trayectoria ha participado en proyectos de análisis y gestión de vulnerabilidades, evaluaciones de seguridad en entornos PCI y campañas de phishing. Asimismo, ha colaborado en la respuesta a incidentes de seguridad, analizando registros y vulnerabilidades para identificar vectores de entrada, reconstruir la actividad del atacante y apoyar las tareas de contención y remediación. 
Cuenta con una sólida base en metodologías ofensivas, análisis técnico y evaluación de superficies de ataque, así como con experiencia en la identificación y explotación de vulnerabilidades y la propuesta de medidas de remediación, aportando una visión técnica orientada a la identificación de debilidades y a la mejora continua de la seguridad.