Desarrollo de Aplicaciones con Modelos de Lenguaje Grande Seguras y Responsables

Vista general de la arquitectura y superficie de ataque de LLM

• Cómo se construyen, implementan y acceden a los LLM mediante APIs.
• Componentes clave en las capas de aplicaciones LLM (por ejemplo, prompts, agentes, memoria, APIs).
• Dónde y cómo surgen los problemas de seguridad en el uso del mundo real.

Inyección de prompts y ataques de vulneración de restricciones (jailbreak)

• Qué es la inyección de prompts y por qué es peligrosa.
• Escenarios de inyección directa e indirecta de prompts.
• Técnicas de jailbreaking para omitir filtros de seguridad.
• Estrategias de detección y mitigación.

Fugas de datos y riesgos de privacidad

• Exposición accidental de datos a través de las respuestas.
• Fugas de información personal identificable (PII) y mal uso de la memoria del modelo.
• Diseño de prompts conscientes de la privacidad y generación aumentada con recuperación (RAG).

Filtrado y protección de la salida de LLM

e>
• Uso de Guardrails AI para filtrado y validación de contenido.
• Definición de esquemas y restricciones de salida.
• Monitoreo y registro de salidas no seguras.

Enfoques con intervención humana en el ciclo del proceso (Human-in-the-Loop) y flujos de trabajo

• Dónde y cuándo introducir supervisión humana.
• Colas de aprobación, umbrales de puntuación y manejo de respuestas alternativas.
• Calibración de la confianza y el papel de la explicabilidad.

Patrones de diseño seguro para aplicaciones LLM

• Principio del menor privilegio y aislamiento (sandboxing) para llamadas a APIs y agentes.
• Límites de tasa, limitación de velocidad y detección de abusos.
• Cadenas robustas con LangChain y aislamiento de prompts.

Cumplimiento, registro y gobernanza

• Garantizar la auditabilidad de las salidas de LLM.
• Mantenimiento del rastreo y control de versiones de prompts.
• Alineación con las políticas de seguridad internas y requisitos regulatorios.

Resumen y próximos pasos