Observability e Segurança em IA
Esta lição aborda o monitoramento de sistemas de IA com Langfuse e a proteção contra riscos de segurança.
Como um médico que monitora sinais vitais — a observability de IA acompanha a latência, o custo e os erros do LLM para identificar problemas antes que os usuários os sintam.
- Langfuse
- Uma plataforma de observability para LLMs que registra traces, latência e custo de cada chamada.
- Prompt injection
- A tentativa de um usuário de substituir o system prompt através da mensagem do usuário.
- PII leakage
- O vazamento de informações pessoais identificáveis (nomes, e-mail, cartões de crédito) através das respostas da IA.
- Cost abuse
- O abuso da API por meio do envio de solicitações excessivas que causam custos descontrolados.
