La inyección de prompt permite ocultar instrucciones en archivos, correos o páginas web para intentar que una herramienta de inteligencia artificial ignore sus reglas originales.
El riesgo crece a medida que asistentes y agentes digitales obtienen acceso a documentos, sistemas internos o acciones automáticas. Un estudio de Sonda señala que el 88% de las empresas chilenas ya tiene algún grado de interacción con inteligencia artificial, aunque el nivel de adopción varía.
Cómo funciona el ataque
OWASP define la inyección de prompt como una técnica que introduce instrucciones maliciosas para alterar el comportamiento previsto de un modelo. Puede ser directa, cuando el usuario escribe la orden, o indirecta, cuando aparece escondida en contenido que la herramienta procesa.
El resultado puede incluir respuestas manipuladas, divulgación de información o ejecución de acciones que el usuario no pretendía autorizar.
Cuatro controles prácticos
- Tratar documentos, correos y sitios externos como contenido no confiable.
- Entregar a cada herramienta solo los permisos indispensables para su tarea.
- Exigir revisión humana antes de enviar mensajes, mover dinero o cambiar sistemas.
- Registrar y probar periódicamente el comportamiento de las automatizaciones.
Ninguna medida elimina por sí sola el riesgo. La combinación de límites técnicos, revisión humana y monitoreo reduce la posibilidad de que una instrucción oculta termine en una acción perjudicial.
Más recomendaciones están disponibles en Tecnología.
CasablancaHoy.cl