الدرس 4: أين 'تعيش' البيانات؟ — CPU وGPU والرحلة بينهما
ما زلنا بلا كود تقريبًا. في الدرس السابق فهمنا ما هو inference؛ والآن سنفهم أين تجلس البيانات أثناء تشغيله. لكل GPU ذاكرته الخاصة، منفصلة عن الحاسوب العادي. ولكي يعمل على بياناتك، عليك أولًا إرسال البيانات إليه — وهذه رحلة تكلّف وقتًا. سنستوعب الفكرة بالحدس، ونتعرّف بلطف على اسم التعليمة التي تقوم ب
الـ tensor هو حقيبة من الأرقام. والـ GPU ورشة عملاقة في الطرف الآخر من المدينة. ولكي يعمل على الحقيبة، عليك شحنها إلى هناك — وكل شحنة تكلّف وقتًا.
- Tensor
- صندوق من الأرقام — النوع الأساسي الذي يعمل به AI. صورة أو نص أو متجه — كلها تتحوّل إلى tensor.
- Device
- المكان الذي 'يعيش' فيه الـ tensor ويحدث فيه الحساب: 'cpu' (الذاكرة العادية) أو 'cuda' (ذاكرة الـ GPU).
- النقل بين CPU وGPU
- نسخ البيانات بين الذاكرة العادية وذاكرة الـ GPU، عبر ناقل اسمه PCIe. بطيء نسبيًا — تُقلّله إلى أدنى حد.
