الاختيارين التانيين بيحمّلوا 30GB في الذاكرة. الـ streaming بيخلّي الذاكرة ثابتة، والـ batching بيقلل عدد النداءات، والـ semaphore بيحترم الـ rate limit.
حتى يتعلم median من training fold فقط ولا يطلع على validation fold أثناء التقييم.
هل نعمل scaling على كامل dataset قبل train/test split؟
لا. fit preprocessing على training data فقط داخل Pipeline حتى لا يحدث leakage.
متى يكون Group Split أفضل من random split؟
عندما توجد عدة records لنفس entity مثل customer أو patient؛ يجب منع ظهور نفس المجموعة في train و test.
ما الفرق بين empirical risk وexpected risk؟
Empirical risk متوسط loss على العينة التدريبية، أما expected risk فهو الأداء المتوقع على distribution المستقبلية المستهدفة.
الفجوة الكبيرة معناها high variance. موديل أكبر بيزوّد الـ capacity فبيزوّد المشكلة. التلاتة التانيين كلهم بيقللوا الـ variance.
هتعمل KNN على features: العمر (20–70) والدخل السنوي (20,000–500,000). لو نسيت الـ scaling؟
KNN (و SVM و K-Means و DBSCAN و PCA) كلهم مبنيين على مسافات. فرق 1000 في الدخل بيغطي على فرق 40 سنة في العمر. الأشجار مش بتتأثر لأنها بتقارن كل feature لوحدها بـ threshold.
لا. هو signal للتحقيق. اربطه بتغير الأداء، label delay، business outcomes، وجودة البيانات قبل قرار retraining.
هل نحفظ model weights فقط؟
لا. يجب حفظ preprocessing و schema و version و lineage ومقاييس التقييم وإصدارات dependencies.
لماذا لا يكفي Silhouette Score لإثبات فائدة clustering؟
هو metric داخلي هندسي ولا يثبت أن المجموعات مستقرة أو مفيدة تجاريًا أو مرتبطة بنتيجة حقيقية.
لماذا يجب حفظ preprocessing مع model artifact؟
لأن inference يجب أن يستخدم نفس feature transformations والترتيب والـ schema المستخدمة أثناء التدريب.
موديل كشف احتيال دقته 99.2% على بيانات فيها 0.8% احتيال. إيه أول استنتاج؟
مع class imbalance شديد، الـ accuracy بتعكس نسبة الـ majority class. لازم تقارن بـ baseline وتستخدم مقياس بيركّز على الـ positive class.
أي إحصائية محسوبة من الـ test set واستُخدمت في التدريب تعتبر leakage. مع الـ scaling التأثير غالبًا صغير، لكن نفس العادة مع feature selection أو target encoding بتبوظ التقييم تمامًا (شوف التجربة الأولى). الحل واحد: Pipeline.
Training يحسب gradients ويحدث الأوزان؛ inference يستخدم النموذج لإنتاج predictions دون تحديث weights.
هل زيادة context length مجانية؟
لا. تؤثر على prefill compute والذاكرة و KV cache والـ latency.
ما الذي يحدث في backward pass؟
تُطبق chain rule على computational graph لحساب gradients لكل parameter ثم يستخدم optimizer هذه gradients لتحديث الأوزان.
لماذا LoRA يقلل trainable parameters؟
لأنه يجمد base weights ويتعلم low-rank adapter matrices بدل تحديث المصفوفة الكاملة.
الـ training loss بتنزل والـ validation loss بتطلع من epoch 15. إيه اللي بيحصل وإيه التصرف؟
الموديل بدأ يحفظ الـ training set بدل ما يتعلم نمط عام. الـ early stopping بيرجّعك لأحسن نقطة، والـ dropout/weight decay/بيانات أكتر بيأخّروا نقطة الانفصال.
NaN غالبًا معناها إن الأرقام كبرت لحد الـ overflow. ابدأ بتقليل الـ learning rate، ضيف clipping، واتأكد إن الـ inputs normalized وإنك مش بتاخد log(0).
تطبيق chain rule من الخرج للمدخل: بنحسب مشتقة الـ loss بالنسبة لكل layer بإعادة استخدام المشتقات اللي بعدها، فكل gradient بيتحسب مرة واحدة.
إيه vanishing gradient وإزاي تعالجه؟
gradients بتصغر مع عمق الشبكة (مثلاً sigmoid/tanh بتشبع). حلول: ReLU، تهيئة مناسبة، normalization، residual connections.
(Senior) إيه الفرق بين Adam وAdamW ومتى تفضل SGD مع momentum؟
AdamW بيفصل الـ weight decay عن الـ adaptive scaling فيبقى regularization حقيقي؛ هو الافتراضي للـ Transformers. SGD+momentum أحيانًا بيعمم أحسن في الـ vision ومع schedules مضبوطة، وذاكرته أقل.
(Senior) تدريب موديل بيطلع NaN بعد 2000 خطوة. خطة التحقيق؟
ارجع لآخر checkpoint سليم، سجّل max abs للـ activations والـ gradients لكل طبقة، دوّر على log/exp/قسمة غير مستقرة، جرّب lr أقل أو gradient clipping، واتأكد من بيانات الدفعة اللي حصل عندها (قيم شاذة).
لو Y = X·W حيث X (n,d) و W (d,k)، إيه shape الـ dW وإزاي بيتحسب؟
الـ gradient ليه نفس shape الـ parameter: (d,n)·(n,k) = (d,k).
شبكة tanh عميقة، الطبقات الأولى مش بتتعلم خالص. السبب الأرجح؟
الضرب المتكرر في مشتقات أصغر من 1 بيصغّر الـ gradient أُسّيًا. Xavier init و residual connections و normalization هي الحلول المعتادة.
(Junior) إيه هو الـ token وليه التكلفة بتتحسب بيه؟
وحدة النص اللي الموديل بيشوفها (قطعة من كلمة غالبًا بـ BPE). الحساب جوه الموديل بيتم لكل token، فالتكلفة والـ latency والـ context limits كلها بالـ tokens.
(Junior) اشرح self-attention باختصار.
كل token بيعمل query بيقارنه بـ keys كل الـ tokens (dot product مقسوم على √d)، softmax يحوّل المقارنات لأوزان، والناتج مجموع الـ values بالأوزان دي. في الـ GPT فيه causal mask يمنع النظر للمستقبل.
(Senior) إيه علاقة الـ next-token objective بالـ hallucination؟
الموديل اتدرّب يطلع الاستكمال الأكثر احتمالًا مش الأصح؛ لو المعلومة مش موجودة، استكمال «معقول الشكل» هو الأكثر احتمالًا. الحل الهندسي: grounding بـ RAG، طلب citations والتحقق منها، والسماح بـ «مش عارف» مع قياسه.
(Staff) فريقك عايز يدرّب LLM خاص من الصفر «عشان الخصوصية». ردك؟
التدريب من الصفر محتاج بيانات وحوسبة وخبرة بحجم مختلف تمامًا عن احتياج المنتج غالبًا. الخصوصية بتتحل بنموذج مفتوح مستضاف داخليًا أو بخدمة ليها عقود residency/no-training، ولو محتاج تخصيص: RAG أو fine-tuning خفيف (LoRA) مع eval. القرار في ADR بتكلفة وجدول زمني ومعايير نجاح.
ليه بنقسم attention scores على √d؟
القسمة بتثبّت الـ variance بتاع الـ scores بغض النظر عن حجم الـ head.
الـ KV cache بيغيّر النص المولّد؟
المعمل طلع same output without cache: True لنفس الـ seed.
مفاتيح deduplication، partition strategy، deterministic transforms، staging/validation، ونشر ذري أو قابل للاسترجاع.
لماذا at-least-once delivery يحتاج idempotent consumer؟
لأن الرسالة قد تتكرر؛ idempotency تمنع تكرار الأثر عند replay أو retry.
هل data drift يعني بالضرورة أن model performance انخفض؟
لا؛ drift إشارة تستدعي التحقيق، وقد يكون تغيرًا مشروعًا أو تغيرًا في المصدر دون تدهور فعلي.
ما فائدة data contract؟
تحديد schema و semantics والـ quality expectations والـ ownership وسياسة تغيير واضحة بين producer و consumer.
الـ job بتاع التحميل اتعاد تشغيله بعد timeout، والتقرير بقى فيه مبيعات اليوم مضروبة في 2. إيه اللي ناقص في التصميم؟
الـ retries حتمية. الـ pipeline لازم يدّي نفس النتيجة مهما اتشغّل كام مرة على نفس الـ input: upsert بالمفتاح، أو «امسح partition اليوم واكتبه من جديد» في transaction واحدة.
قفزة بالحجم ده إشارة إن المصدر اتغيّر. الـ imputation أو الحذف هيخبّي العطل ويدخّل تحيّز في أي موديل بيتدرّب على البيانات دي.
هل metadata التي يرسلها PDF تحدد tenant ownership؟
لا. الملكية والصلاحيات يجب أن تأتي من مصدر موثوق في backend.
لماذا نستخدم checksum وdocument version؟
للكشف عن التغييرات وإعادة فهرسة المتغير فقط مع دعم incremental updates والـ rollback.
لماذا نستخدم content hash وstable IDs في ingestion؟
لتحقيق idempotency واكتشاف التغيير ومنع تكرار chunks عند retry.
لماذا يجب تطبيق ACL قبل تمرير evidence إلى LLM؟
لمنع كشف بيانات غير مصرح بها؛ لا ينبغي الاعتماد على prompt ليطلب من النموذج تجاهل evidence غير المسموح.
غيّرت الـ chunking strategy (الحجم من 300 لـ 500 token). إيه اللي لازم يحصل للـ index؟
الـ doc hash ما اتغيرش فالـ fast path هيتخطى كل المستندات، والـ index هيفضل بالـ chunks القديمة. خلّي «نسخة الـ pipeline» جزء من الـ hash أو من الـ manifest، بحيث تغييرها يفرض إعادة الفهرسة.
حتى يتم تعلم vocabulary و IDF داخل training fold فقط، ما يمنع تسرب معلومات validation/test أثناء cross-validation.
هل static word embedding يفهم اختلاف معنى الكلمة حسب السياق؟
ليس بصورة سياقية كاملة؛ contextual embeddings تنتج تمثيلًا يعتمد على الجملة.
موديل تصنيف تذاكر دعم وصل 98% في التقييم و70% في الإنتاج. البيانات كان فيها حقل «القسم اللي اتحوّلت له التذكرة» جوه النص. التفسير؟
زي الـ headers في المثال: معلومة نتيجة للـ label اتسربت للـ features. نضّف النص من أي حاجة بتتضاف بعد القرار اللي بتحاول تتوقعه.
نصوص عربية بلهجات مختلفة وأخطاء إملائية كتير. أنهي تمثيل كلاسيكي غالبًا هيبقى أثبت؟
الـ char n-grams بتشارك أجزاء بين صيغ الكلمة المختلفة («بيقفل»، «يقفل»، «بتقفل») والأخطاء الإملائية، بينما الـ word-level بيعتبر كل صيغة token مستقل نادر.
لأن المهمة تتطلب صحة الفئة وموقع الجسم معًا؛ IoU و mAP يقيسان جودة localization والترتيب عبر thresholds.
ما سبب ضرورة حفظ preprocessing version مع model؟
لأن اختلاف resize أو normalization أو channel order يغير distribution المدخلات وقد يفسد inference حتى لو بقيت الأوزان نفسها.
(Senior) إزاي تضمن إن الـ serving بيعمل نفس preprocessing التدريب؟
مواصفة preprocessing مكتوبة ومتنسخة مع الموديل، parity tests بتقارن outputs Python و .NET على صور حقيقية بأبعاد متنوعة، تسجيل إحصائيات الـ input في الإنتاج، واختبارات للـ EXIF والـ color order والـ coordinate mapping.
(Staff) الشركة عايزة «AI يقرأ كل مستندات العملاء». إيه الـ architecture والقرارات؟
Ingestion pipeline: classification لنوع المستند ← OCR+layout (managed أو self-hosted حسب الـ residency والجودة على العربي) ← structured extraction للأنواع المعروفة (فواتير) بـ schemas و validation ← chunking يحترم الجداول ← indexing بالـ ACL. Human review للـ low confidence، eval لكل نوع مستند، تكلفة لكل صفحة، و retention/PII. والـ VLM كـ fallback للأنواع غير المعروفة مش كأساس.
detector بيطلّع 4 صناديق متداخلة لكل عربية. الـ recall ممتاز والـ precision وحشة. الحل الأول؟
التكرارات على نفس الجسم بتتحسب false positives. NMS بيحتفظ بأعلى صندوق ثقة ويشيل المتداخلين معاه. رفع عتبة التقييم هيخلي الأرقام أسوأ مش أحسن.
موديل تصنيف صور دقته 94% في الـ notebook و61% بعد النشر في خدمة تانية. أرجح سبب؟
الموديل حساس جدًا لتوزيع الـ input. أي فرق في الـ pipeline بيدّي نتايج سيئة في صمت. الحل: preprocessing واحد مشترك (أو مُصدَّر مع الموديل) و parity test بيقارن output الخدمتين على نفس الصور.
يغطي ترددات الكلام الأساسية (حتى ~8 kHz بقاعدة Nyquist) بتكلفة بيانات أقل من 44.1 kHz.
إيه عيوب WER؟
بيعامل كل الأخطاء بنفس الوزن (خطأ في اسم دواء = حرف جر)، حساس للـ normalization، ومش بيقيس المعنى. يُكمَّل بمقاييس على المصطلحات الحرجة ومراجعة بشرية.
(Senior) صمّم خدمة تفريغ اجتماعات لـ SaaS متعدد المستأجرين.
Upload لـ storage scoped بالـ tenant، job queue عادل لكل tenant، worker يعمل normalization لـ 16 kHz mono ← VAD ← ASR (managed أو self-hosted حسب الأرقام) ← diarization ← دمج ← تخزين بالـ timestamps، تلخيص بالـ LLM، retention وحذف، مراقبة RTF وتكلفة الدقيقة، و eval بشرائح لهجات.
(Senior) العميل اشتكى إن الأرقام في التفريغ غلط دايمًا. تعمل إيه؟
قيس entity accuracy للأرقام تحديدًا، شوف normalization (أرقام عربية/لاتينية، «ألفين وخمسمية» vs 2500)، جرّب post-processing لتحويل الأرقام المكتوبة بالكلام، و prompt/vocabulary بالأنماط المتوقعة، وأضف الحالات للـ golden set.
ملف 48 kHz stereo اتبعت لموديل متدرّب على 16 kHz mono من غير تحويل. المتوقع؟
preprocessing parity نفس درس الـ CV: الموديل شايف الأرقام مش «الصوت».
لأن تكرار الاختيار بناءً على test يسرّب معلوماته إلى عملية التطوير ويجعل تقدير الأداء متفائلًا.
هل threshold يساوي 0.5 دائمًا؟
لا؛ يتحدد حسب calibration وتكلفة الأخطاء وسعة التشغيل والقرار المطلوب.
(Senior) الموديل شغال في الإنتاج 6 شهور والـ AUC ثابت، لكن البيزنس بيقول مفيش فايدة. ليه ممكن؟
AUC بيقيس الترتيب مش الأثر. ممكن العروض مش بتغيّر السلوك (uplift صفر)، أو الـ feedback loop، أو الـ threshold قديم. محتاج holdout وقياس الأثر السببي مش دقة التنبؤ بس.
(Staff) فريق الـ ML وفريق الـ .NET بيتخانقوا على مكان الموديل (Python service vs ONNX in-process). إزاي تحسم؟
ADR بمعايير: latency budget، عدد الموديلات ودورة تحديثها، دعم الـ ONNX للموديل، مهارات الفريق، الـ observability. غالبًا: موديلات tabular بسيطة ← ONNX in-process مع parity tests؛ موديلات معقدة/GPU/تحديث سريع ← Python service بـ contract واضح. والأهم contract tests و feature schema مشترك بغض النظر عن الاختيار.
الخدمة شغالة ومفيش errors، لكن التوقعات كلها بقت قريبة من 0.5 بعد deploy جديد لخدمة الـ serving (الموديل نفسه ما اتغيرش). أرجح سبب؟
الموديل زي ما هو والمدخلات اللي بتوصله اتغيّر شكلها. golden-prediction test عند الـ startup كان هيوقّف الـ deploy ده قبل ما يخدم أي request.
الموديل جاب ROC-AUC 0.97 بـ random split و0.71 بـ temporal split. إيه التفسير الأرجح؟
الفرق الكبير بين طريقتين للتقسيم علامة إن الـ random split بيسرّب. الأرقام الـ temporal هي الأقرب للإنتاج.
بنمثّل كل مستخدم وكل عنصر بـ vector صغير من latent factors بحيث الـ dot product يقرّب التفاعل المعروف؛ بنتعلمهم بـ SGD أو ALS مع regularization و biases، وبعدين الـ dot product مع العناصر اللي ما اتفاعلش معاها هو الترشيح.
(Senior) صمّم recommender لمتجر بـ 5M منتج و20M مستخدم.
مرحلتين: candidate generation من مصادر متعددة (two-tower ANN، co-occurrence، popular per segment، recently viewed) ← ranker بـ features غنية ← rules (مخزون، تنوع). تدريب batch يومي + features real-time من الـ session، تسجيل impressions، تقييم temporal offline، و A/B بـ guardrails. cold start بالـ content والـ segments.
ليه temporal split ضروري في تقييم الـ recommenders؟
في الإنتاج دايمًا بتتنبأ بالمستقبل من الماضي.
منتج جديد اتضاف للكتالوج النهارده. أنهي approach يقدر يرشحه فورًا؟
CF محتاج تفاعلات؛ الـ content عنده features من أول يوم.
(Mid) ليه ما ينفعش random split في الـ time series؟
لأن الموديل هيتدرب على بيانات من المستقبل بالنسبة لنقاط الـ test (leakage)، والارتباط الزمني بين النقاط بيخلي الأداء يبان أحسن بكتير من الواقع. لازم split زمني أو rolling-origin backtesting.
(Senior) آلاف tenants وعايزين forecast لكل واحد. تصميمك؟
موديل global (LightGBM) بـ lag/rolling features و tenant features (الخطة، الحجم، القطاع) بدل ARIMA لكل series، مع fallback لـ seasonal naive للـ series القصيرة، backtesting على عينة tenants بشرائح، quantile outputs للـ intervals، pipeline أسبوعي بيكتب p10/p50/p90 مع model version، ومراقبة الخطأ بعد وصول الفعلي.
MASE = 1.15 للموديل الجديد. المعنى؟
MASE < 1 = أحسن من الـ baseline.
feature اسمها rolling_mean_7 اتحسبت بـ rolling(7).mean() على السلسلة مباشرة. المشكلة؟