Observability وأمان الذكاء الاصطناعي
يتناول هذا الدرس مراقبة أنظمة الذكاء الاصطناعي باستخدام Langfuse والحماية من مخاطر الأمان.
مثل طبيب يراقب العلامات الحيوية — تتبع مراقبة الذكاء الاصطناعي (AI observability) الـ latency والتكلفة والأخطاء في الـ LLM لرصد المشكلات قبل أن يشعر بها المستخدمون.
- Langfuse
- منصة observability للـ LLM تسجّل الـ traces والـ latency والتكلفة لكل استدعاء.
- Prompt injection
- محاولة من المستخدم لتجاوز الـ system prompt عبر رسالة المستخدم (user message).
- PII leakage
- تسريب المعلومات الشخصية المُعرِّفة للهوية (الأسماء والبريد الإلكتروني وبطاقات الائتمان) عبر ردود الذكاء الاصطناعي.
- Cost abuse
- إساءة استخدام الـ API عبر إرسال طلبات مفرطة تتسبب في تكاليف غير مضبوطة.
