La Guía Completa sobre el Prompt Injection en Modelos de IA explica qué es la inyección de prompts, por qué sigue siendo el riesgo LLM01 y cómo proteger sistemas que usan LLMs.
OWASP define la inyección de prompts como una vulnerabilidad que permite a un atacante manipular el comportamiento de un LLM introduciendo instrucciones maliciosas en datos que el modelo procesa, y lista impactos como exfiltración de datos y fuga del prompt del sistema.
La inyección puede ser directa —un usuario escribe «ignora instrucciones anteriores»—, indirecta —instrucciones ocultas en una web, PDF o correo que el modelo resume—, o almacenada —contenido malicioso persistente en bases de datos—, según la explicación amplia en la guía práctica.
El cheat sheet de OWASP recomienda defensas concretas: separar instrucciones de sistema y datos no confiables, validar y sanitizar entradas, controlar salidas y exigir un paso humano para acciones críticas.
Entre las tácticas de ataque OWASP documenta técnicas de ofuscación —base64, caracteres invisibles, scrambling— y vectores multimodales, donde texto oculto en imágenes o metadatos puede inducir a un modelo multimodal a obedecer órdenes peligrosas.
La guía práctica también describe contramedidas de arquitectura: usar modelos filtros como «judge», limitar permisos fuera del modelo (principio de mínimos privilegios), monitorear outputs en busca de señales de exfiltración y aplicar limitación de tasa para reducir intentos tipo «best-of-N».
Además, ejemplos prácticos muestran riesgos reales: análisis de contenidos web que contienen instrucciones ocultas pueden provocar que un asistente AI revele información sensible o ejecute acciones no autorizadas; por eso es recomendable procesar información externa con sanitización previa.
Si ejecutas modelos en entornos propios, reducir la superficie de ataque ayuda: herramientas y guías para ejecutar generación en local están en la comunidad, y soluciones como alojar modelos sin acceso remoto recortan vectores de inyección.
Para lectoras y lectores en España, revisar los permisos de las aplicaciones y las opciones de privacidad del sistema también reduce riesgo—como demuestra el interés por controles de privacidad en macOS y la limitación de accesos que recomiendan recientes actualizaciones de seguridad.
Sources
- El Output — explicación general, vectores (directa, indirecta, almacenada), ejemplos y la técnica llamada «context bombing» como medida defensiva.
- OWASP Cheat Sheet Series — definición formal de prompt injection, listado de ataques, y mitigaciones prácticas como separación de prompts, sanitización, validación y controles de «human-in-the-loop».
Artículos similares
- Anas Andaloussi muestra cómo la IA puede abaratar tu factura de la luz
- Chatbots comparten tu teléfono sin permiso: riesgos y cómo protegerte
- Galaxy S21: Samsung suspende actualizaciones para la mayoría de modelos
- Cómo crear una eSIM en iPhone y cambiar entre líneas desde Ajustes
- FBI advierte: apps creadas fuera del país podrían exponer tus datos
Con un profundo conocimiento de la cultura japonesa, Diego Ramos ofrece reseñas detalladas y descubrimientos sobre animes y mangas. Enriquece tu mundo animado con puntos de vista auténticos.