الدرس 0: لماذا ليست حماية الذكاء الاصطناعي والتكلفة مشكلة 'لاحقة'
في المرحلة السابقة تعلمت كيفية بناء API routes وربط الذكاء الاصطناعي بالتطبيق. لكن قبل العودة إلى الكود، يجدر التوقف لحظة: هناك نوعان من الأعطال خاصان بميزات الذكاء الاصطناعي وأشد حدة بكثير من الأخطاء البرمجية العادية. مفتاح API يتسرب إلى جانب العميل يصبح مرئياً لأي شخص يفتح DevTools — مما يتيح له ت
مثل ترك صنبور مفتوحاً طوال الليل — لا ترى الضرر فوراً، لكن بحلول الصباح يكون المنزل قد غمرته المياه؛ استدعاء ذكاء اصطناعي بلا تحكم يمكن أن 'يُغرِق' كلاً من خطر أمني وفاتورة ضخمة قبل أن ينتبه أحد.
- بيانات اعتماد مسرَّبة
- مفتاح API أو سر وصول يُكشف عن طريق الخطأ في جانب العميل أو في repo عام، مما يتيح لأي شخص استخدامه كما لو كان المالك.
- حقن الموجّهات
- مُدخَل خبيث مُصاغ بحيث يجعل النموذج اللغوي يتجاهل تعليماته الأصلية ويفعل شيئاً آخر بدلاً من ذلك — مثل كشف بيانات مستخدم آخر.
- انفلات التكلفة
- حالة يؤدي فيها خطأ برمجي أو تصميم رديء إلى استدعاءات ذكاء اصطناعي مفرطة ومتكررة، وينمو الإنفاق بسرعة دون أن ينتبه أحد حتى تصل الفاتورة.
- نطاق الضرر
- حجم الضرر الذي يمكن أن يسببه عطل واحد — كم عدد المستخدمين، أو كم حجم البيانات، أو كم مبلغ المال المُعرَّض للخطر عندما يحدث خلل.
