Observability y Seguridad en IA

Esta lección trata sobre cómo monitorear sistemas de IA con Langfuse y protegerse contra riesgos de seguridad.

Como un médico que monitorea signos vitales — la observability de IA hace seguimiento de la latencia, el costo y los errores del LLM para detectar problemas antes de que los usuarios los sientan.

Langfuse: Una plataforma de observability para LLMs que registra traces, latencia y costo de cada llamada.
Prompt injection: El intento de un usuario de reemplazar el system prompt a través del mensaje del usuario.
PII leakage: La filtración de información personal identificable (nombres, correos, tarjetas de crédito) a través de las respuestas de la IA.
Cost abuse: El abuso de la API mediante solicitudes excesivas que provocan costos descontrolados.