Software Engineer Encyclopedia
0%
Domain 14 · SaaS & Product Engineering · Pillar

بنك أسئلة الإنترفيو وCapstone Rubric

Interview Bank and Capstone Assessment Rubric

أسئلة وإجابات مشروحة لـ C# وOOP وASP.NET Core وEF Core وSQL وREST وAuth وSecurity وTesting وArchitecture وSystem Design وDSA وAngular وAI/ML/LLM/RAG/Agents/MLOps، مع rubric قياسي للـ capstone.

  • Professional Engineering
  • ~16 min read
  • 14 sections
  • 0 code examples
  • 1 diagrams
  • 54 questions
  • Priority L2 · Essential
  • إجابات مبنية على مفاهيم مستقرة؛ راجع documentation الإصدار

المتطلبات قبل ما تبدأ

Security + Architecture + System Design.

01

إزاي تستخدم البنك ده؟

How to use this bank
Basics

غطّينا 20 مجال. كل سؤال له إجابة مختصرة وسبب. اقفل الإجابة، جاوب بصوت عالي أو كتابة، وبعدين قارن. الإجابة الجيدة في الإنترفيو = تعريف + مثال + trade-off. الأسئلة مرتبة من Junior لأصعب.

المتطلبات: خطة الـ 16 أسبوع. كل مجال ليه درس مفصل في الموسوعة؛ دي مراجعة سريعة مش بديل.

02

خريطة الإنترفيو للـ AI Software Engineer

Interview loop map
Basics
ScreenCV + projectsCodingDSA (Domain 1).NET deep diveC#, EF Core, APISystem designRAG/SaaS (9, 12, 14)BehaviouralSTAR + capstoneThe capstone is the thread: every round can be answered with something you built and measured
Typical loop and which part of the encyclopedia prepares each round
03

C#‎ و OOP وـ ‎.NET

C#, OOP and .NET
Practical
C#‎: الفرق بين class و struct؟
class reference type بيتخزن على الـ heap والمتغير بيشاور عليه؛ struct value type بيتنسخ عند التمرير ومناسب للبيانات الصغيرة الغير قابلة للتغيير. الاختيار بيأثر على الـ copying والـ allocations.
OOP: ايه الفرق بين abstract class و interface؟
interface عقد (سلوك) بدون حالة بتتنفذ في أكتر من class بدون وراثة؛ abstract class ممكن يحتوي حالة وتنفيذ مشترك ووراثة واحدة. استخدم interface لما فيه سلوك متعدد التنفيذ، و abstract لما فيه كود مشترك فعلي.
OOP: composition over inheritance — يعني إيه؟
بنفضل نبني السلوك بتجميع objects (has-a) بدل وراثة عميقة (is-a) لأن الوراثة بتربط الأبناء بتفاصيل الأب وبتصعب التغيير.
async/await: إيه اللي بيحصل فعلاً؟
الـ await بيحرر الـ thread أثناء انتظار عملية I/O ويكمل الكود كـ continuation لما تخلص. الـ async مش بيعمل thread جديد بالضرورة. الخطأ الشائع .Result أو .Wait() اللي ممكن يعمل deadlock/بلوك.
IEnumerable مقابل IQueryable؟
IEnumerable بينفذ in-memory؛ IQueryable بيبني expression tree يترجمه provider (EF) لـ SQL. تطبيق .ToList() بدري بيجيب كل البيانات للذاكرة قبل الفلترة.
(أصعب) ليه GC مش بيحل مشكلة memory leaks كلها؟
GC بيجمع اللي مفيش reference ليه، لكن objects لسه referenced (events غير مفصولة، static caches، closures) بتفضل حية. والموارد غير المُدارة محتاجة IDisposable.
04

ASP.NET Core و REST و EF Core و SQL

Backend and data
Practical
الـ middleware pipeline إزاي بتشتغل؟
كل middleware بيستقبل request ويقرر يستدعي التالي أو يقصّر الدائرة، والـ response بيرجع بالترتيب العكسي. الترتيب مهم (مثلًا Authentication قبل Authorization).
Dependency Injection lifetimes؟
Transient: نسخة جديدة كل مرة. Scoped: نسخة لكل request. Singleton: نسخة واحدة للتطبيق. حقن Scoped في Singleton خطأ (captive dependency).
REST: الفرق بين PUT و PATCH، وإيه معنى idempotent؟
PUT بيستبدل المورد كله، PATCH بيعدل جزء. الـ idempotent يعني تكرار نفس الطلب يعطي نفس الأثر (GET/PUT/DELETE كذلك؛ POST غالبًا لأ).
EF Core: tracking مقابل AsNoTracking؟
tracking بيحتفظ بالـ entities لاكتشاف التغييرات، و AsNoTracking أخف للقراءة فقط.
مشكلة N+1؟ والحل؟
تحميل entity ثم query لكل related entity. الحل Include أو projection (Select) أو split query حسب الحالة. اكتشفها بالـ logging للـ SQL.
SQL: الفرق بين INNER و LEFT JOIN، وإمتى index بيفيد؟
INNER بيرجّع المتطابق فقط، LEFT بيحافظ على الشمال. الـ index بيفيد في WHERE/JOIN/ORDER BY على أعمدة انتقائية، ويكلف في الكتابة والمساحة. اقرا execution plan قبل الإضافة.
(أصعب) ازاي تتعامل مع concurrency لتعديل نفس الصف؟
Optimistic concurrency بـ concurrency token (rowversion)؛ التعارض يرمي DbUpdateConcurrencyException وتقرر retry/merge/إبلاغ المستخدم. Pessimistic locking أقل شيوعًا ويقلل التزامن.
05

Authentication و Security و Testing و Architecture

Security, testing, architecture
Practical
Authentication مقابل Authorization؟
الأول: مين أنت؟ التاني: إيه المسموح لك؟ وكل واحد بيتحقق منه في الـ server حتى لو الـ UI بيخفي الأزرار.
JWT: إيه المخاطر وإزاي تقللها؟
التوكن signed مش encrypted (محتواه مقروء)، فمتحطش أسرار فيه. استخدم access token قصير العمر و refresh token بـ rotation، تحقق من signature و issuer و audience و expiry، وخزّن الأسرار بشكل آمن.
SQL injection: إزاي تمنعه؟
parameterized queries/ORM، ما تدمجش input في SQL، وصلاحيات database أدنى. XSS: output encoding و CSP. CSRF: anti-forgery tokens/SameSite لو الـ auth بالـ cookies.
كيف تخزن password؟
hash بطيء مع salt (Identity PasswordHasher أو Argon2/bcrypt/PBKDF2 بإعدادات حديثة) مش تشفير ولا SHA بسيط.
Unit مقابل integration test؟ و mock ليه؟
unit بيختبر وحدة معزولة بسرعة؛ integration بيختبر التفاعل مع database/HTTP حقيقيين. الـ mock بيعزل الاعتماديات الخارجية لكن الإفراط فيه بيخلي الاختبار بيختبر الـ mock.
Clean Architecture: فايدتها ومتى تبالغ؟
تعزل الـ domain عن الـ frameworks (الاعتماد للداخل) فتسهّل الاختبار والتغيير. بتبقى over-engineering في CRUD بسيط؛ الاختيار حسب التعقيد.
(أصعب) Repository فوق EF Core: ليه ممكن تكون مضرة؟
DbContext بالفعل Unit of Work و repositories؛ طبقة generic إضافية بتخفي إمكانيات EF وتضيف تعقيد. بتفيد لو عندك domain معقد أو عايز تعزل الـ persistence لسبب واضح.
06

System Design و DSA و Angular

Design, algorithms, frontend
Practical
System Design: تبدأ إزاي؟
requirements (functional/non-functional)، حجم تقديري (users، RPS، storage) بافتراضات معلنة، API، data model، high-level design، bottlenecks و failure scenarios، و trade-offs. الأرقام تقديرات مش حقائق.
إمتى Cache وإيه مخاطره؟
لما القراءة أكتر بكتير من الكتابة والبيانات تتحمل staleness. المخاطر: invalidation و stampede و hot keys وتناسق البيانات. cache-aside أبسط نمط.
Queue مقابل direct HTTP call؟
الـ queue بيفصل الـ producer عن الـ consumer ويمتص الأحمال ويدعم retry، لكن بيضيف eventual consistency وتعقيد (idempotent consumers و dead-letter).
DSA: Big O لـ Dictionary lookup و sort؟
lookup متوسط O(1)، أسوأ حالة نظريًا أسوأ؛ الترتيب المقارن O(n log n). شرح السبب مطلوب (hashing؛ مقارنات ≥ log n! ).
Angular: signals مقابل RxJS؟ و Change detection OnPush؟
signals للحالة المتزامنة الدقيقة؛ RxJS لتدفقات الأحداث غير المتزامنة (HTTP، debounce). OnPush بيقلل الفحص: component بيتفحص عند تغيير input reference أو event أو signal/observable مربوط.
الـ frontend authorization كافي؟
لأ. بيحسّن التجربة بس؛ المستخدم يقدر يستدعي الـ API مباشرة، فالـ backend لازم يفرض كل صلاحية.
07

AI Engineering: ML و LLM و RAG و Agents و MLOps

AI engineering
Practical
ML: overfitting؟ وإزاي تكتشفه؟
النموذج بيحفظ التدريب ويفشل على بيانات جديدة. بتكتشفه من فجوة بين أداء train و validation. العلاج: بيانات أكتر، regularization، نموذج أبسط، cross-validation.
Accuracy مش كفاية؟
مع class imbalance بتخدع (99% negative). استخدم precision/recall/F1/ROC-AUC حسب تكلفة كل نوع خطأ.
Data leakage؟
دخول معلومة من الـ test أو المستقبل في التدريب (مثل scaling على الداتا كلها قبل التقسيم) فتطلع نتايج متفائلة كاذبة.
LLM: إزاي تقلل hallucination؟
grounding بـ RAG مع citations، تعليمات «لو مش موجود قول مش عارف»، structured output و validation، تقييم على golden set. ما بتتلغيش تمامًا.
RAG مقابل fine-tuning؟
RAG لمعرفة متغيرة/خاصة بتتحدث وبتحتاج مصادر وصلاحيات؛ fine-tuning لتغيير السلوك/الأسلوب/الصيغة. غالبًا بتبدأ بـ RAG و prompting.
Agent مقابل workflow؟
workflow مسار محدد مسبقًا بيستخدم LLM في خطوات؛ agent بيقرر الخطوات والأدوات ديناميكيًا. للعمليات المتوقعة غالبًا workflow أأمن وأرخص وأسهل في الاختبار.
Prompt injection؟ والدفاع؟
محتوى (من المستخدم أو من مستند/موقع) يحاول يغيّر تعليمات النموذج. مفيش حل واحد: defence in depth — صلاحيات أدنى للأدوات، موافقة بشرية للإجراءات الحساسة، فصل البيانات عن التعليمات، تصفية المخرجات، وتسجيل.
MLOps: ليه نراقب drift؟
توزيع البيانات أو العلاقة بتتغير عن وقت التدريب فيتدهور الأداء بصمت. بنقيس جودة البيانات والمخرجات وبنحدد عتبات إعادة التدريب والرجوع لنسخة سابقة.
(أصعب) صمم تقييم لـ RAG assistant
golden set من أسئلة حقيقية مع المصادر الصحيحة؛ قيّم الـ retrieval (context recall/precision) منفصلًا عن الـ generation (faithfulness و answer relevance)؛ human review لعينة؛ شغّله في CI كـ regression gate قبل تغيير prompt أو model؛ قيّم الـ LLM-as-judge بحذر لأن فيه تحيزات.
08

Capstone Assessment Rubric (قابلة للقياس)

Capstone rubric
Deep dive

التقييم لـ 10 قدرات، كل واحدة من 0–3 (0 = غير موجود، 1 = جزئي، 2 = مقبول لـ Junior، 3 = قوي). الحد الأدنى للجاهزية: مجموع ≥ 20 من 30 ولا قدرة من الأولى والثانية والتاسعة أقل من 2.

#القدرةدليل لـ 2 (مقبول)دليل لـ 3 (قوي)
1API كامل بـ auth واختباراتJWT + roles + ≥ 20 اختبار تعديrefresh rotation، اختبارات 401/403/تعارض، pagination، ProblemDetails
2ContainerizationDockerfile + compose يشتغلوا بأمر واحدmulti-stage، health checks، non-root، CI يبني الصورة
3شرح القرارات المعماريةيبرر 3 قرارات مع بديليوثق ADRs ويذكر trade-offs وتكلفتها
4تصميم نظام قابل للتوسعrequirements + capacity + API + schemafailure scenarios و caching و queue و bottlenecks بأرقام مفترضة معلنة
5DSA (Medium)يحل 3 من 5 مسائل Medium مع شرح التعقيديحل 4+ ويقارن brute force ويشرح الـ edge cases
6SQL و EF Coreيكتب joins/aggregation ويقرأ planيشخص N+1 و index مفقود ويثبت التحسين بقياس
7دمج قدرة AIاستدعاء LLM آمن مع structured outputRAG مع citations وصلاحيات و fallback
8تقييم مخرجات AIgolden set ≥ 15 سؤالretrieval/generation metrics منفصلة و regression gate
9Security و productionمراجعة OWASP أساسية، secrets خارج الكودthreat model، rate limiting، logging/monitoring، backup و restore مجرّب
10إنترفيو Junior واقعيmock مع ≥ 70% إجابات صحيحة مشروحة≥ 85% مع مثال من مشاريعه لكل إجابة

التقييم الأفضل بيكون من شخص تاني (mentor/صاحب) على أدلة قابلة للفتح، مش تقييم ذاتي بس.

09

خمس تمارين محلولة

Practice with worked solutions
Practical
1 (Easy): جاوب: ما الفرق بين Authentication و Authorization في API؟

الحل: انظر البنك. أضف مثالًا: [Authorize] بيتحقق إن فيه هوية (authN)، و [Authorize(Policy="Admin")] بيتحقق من الصلاحية (authZ). إجابة بمثال أقوى من التعريف المجرد.

2 (Easy): الـ API بيرجع 500 بدل 400 عند إدخال غلط. إيه الخطوات؟

الحل: الـ validation ناقصة فالـ exception وصل لحد الـ global handler. أضف validation (DataAnnotations/FluentValidation) أو [ApiController] لـ automatic 400، وارجع ProblemDetails، واكتب اختبار يثبت 400.

3 (Intermediate): المُقابِل سألك «ليه استخدمت JWT؟». اكتب إجابة بالـ trade-offs

الحل: JWT مناسب لـ stateless APIs ولـ SPA/mobile لأن السيرفر ما بيحتفظش بجلسة. التكلفة: صعب إلغاء التوكن قبل انتهائه (نعالجه بعمر قصير + refresh rotation + قائمة سحب لو لزم)، ومحتواه مقروء. لو تطبيق server-rendered واحد، cookie session أبسط وأأمن غالبًا.

4 (Intermediate): صمم debugging interview: «endpoint بطيء فجأة»

الحل: أقيس أولًا (logs/APM): هل البطء في الـ DB أم الـ network أم الكود؟ أشوف الـ SQL المولّد (N+1؟ index؟)، أراجع آخر deploy، أشوف الحجم/الـ data growth، أعيد إنتاجه محليًا، أعدّل وأقيس بعد. القاعدة: قس قبل ما تعدّل.

5 (Challenging): ابني mock interview لمدة 45 دقيقة

الحل: 5 دقائق تعريف بمشروعك، 15 دقيقة أسئلة C#‎/SQL/API (من البنك)، 15 دقيقة مسألة DSA Medium (اشرح brute force الأول)، 10 دقائق system design صغير. سجّل، وقيّم بالـ rubric، وحدد 3 نقاط تحسين للأسبوع.

10

Mini Project: Capstone Self-Assessment

Mini project
Practical

اعمل ملف CAPSTONE.md في repo المشروع الرئيسي بجدول الـ 10 قدرات: الدرجة، ورابط دليل لكل واحدة (اختبار، commit، مستند). اطلب من شخص تاني يراجع 3 منهم عشوائيًا. معيار النجاح: كل درجة ≥ 2 لها دليل قابل للفتح، وفيه خطة تحسين للقدرات اللي أقل من 3.

11

أسئلة سلوكية وتقنية ختامية

Closing questions
Basics
لو مش عارف إجابة سؤال في الإنترفيو؟
قول اللي تعرفه صراحة، وفكّر بصوت عالي من مبادئ، وقول إزاي هتتحقق (documentation أو تجربة). الصراحة أحسن من التخمين الواثق.
إزاي تشرح قرار معماري لشخص غير تقني؟
المشكلة بلغة الأعمال، الخيارين، التكلفة والمخاطر لكل واحد، وتوصيتك وسببها، من غير مصطلحات.
12

Senior/Staff: أسئلة سلوكية بإجابات نموذجية (STAR)

Behavioural questions for senior and staff loops
Practical

في مستوى Senior/Staff الأسئلة السلوكية بتقيس: الملكية، التعامل مع الغموض، التأثير من غير سلطة، إدارة الحوادث، وتطوير الناس. الإجابة الكويسة STAR (Situation، Task، Action، Result) وفيها أرقام و«أنا» عملت إيه تحديدًا وإيه اللي اتعلمته. الإجابات تحت نماذج للهيكل — جهّز قصصك الحقيقية.

احكي عن قرار تقني كبير اختلفت فيه مع فريقك أو مديرك.
S: الفريق كان عايز vector DB مُدار جديد لـ RAG. T: كنت مسؤول عن الـ retrieval. A: بدل الجدال اقترحت benchmark لأسبوع على الـ golden set بتاعنا: pgvector hybrid مقابل الخدمة؛ كتبت ADR بالأرقام (recall و p95 وتكلفة وعدد المكونات) وحددت شروط إعادة النظر. R: اخترنا pgvector؛ وفّرنا خدمة إضافية وتكلفتها، ولما وصلنا للحد اللي حددناه بعد سنة، الانتقال كان مخطط. اتعلمت إن «disagree and commit» أسهل لما القرار مربوط بمعايير متفق عليها.
احكي عن حادثة إنتاج قُدتها.
S: تسريب canary بين tenantين في الـ answer cache الساعة 2 بالليل. T: كنت on-call. A: kill switch للـ cache (دقيقتين)، حافظت على الأدلة، حدّدت النطاق (3 tenants، 11 response)، السبب: cache key من غير acl_hash بعد refactor. أصلحت، أضفت test و nightly cross-tenant probe، وبلّغنا العملاء مع القانوني. R: 47 دقيقة لحد الـ containment؛ postmortem blameless طلّع 4 action items اتقفلت في أسبوعين. اتعلمت إن الـ kill switches المجهزة مسبقًا هي اللي حوّلت ساعات لدقايق.
إزاي أثّرت على فريق تاني من غير سلطة؟
S: 3 فرق بيبنوا LLM calls كل واحد بطريقته؛ التكلفة مش معروفة. A: جمعت بيانات تكلفة من الفواتير والـ logs، كتبت RFC لـ LLM gateway رفيع، عملت pilot مع الفريق الأكثر ألمًا، وخليت الـ adoption أسهل من البديل (SDK + dashboards جاهزة). R: الـ 3 فرق انضموا في ربع سنة؛ التكلفة بقت واضحة لكل feature وانخفضت ~30% بالـ caching والـ routing. الدرس: خلّي الطريق الصح هو الأسهل.
احكي عن مرة فشلت فيها.
S: أطلقت prompt جديد «أحسن» من غير eval كافي. R السلبية: الإجابات العربي بقت أطول وأقل دقة، والـ thumbs-down زاد 30% في أسبوع. A: rollback، وبنيت eval gate بالشرائح عشان ده ما يتكررش. الدرس اللي بطبقه: أي تغيير في سلوك الـ AI بيعدّي على نفس مسار الكود.
إزاي بتعمل mentoring؟
أمثلة محددة: pairing أسبوعي مع junior على PRs، أدّيته ownership لـ feature صغيرة بالكامل (من discovery للـ deploy)، ومراجعاتي للـ PRs بتشرح «ليه» مش بس «غيّر». النتيجة: بعد 6 شهور بقى بيقود features لوحده واتعمل promotion. وأنا اتعلمت أسكت وأسيبه يلاقي الحل.
(Staff) إزاي قررت إن مشكلة تستاهل استثمار على مستوى الشركة؟
بيانات عن الألم (وقت، تكلفة، حوادث) عبر فرق، تقدير للقيمة، بدائل (نعمل ولا نشتري ولا نسيب)، RFC بيتراجع من أصحاب المصلحة، و pilot صغير بمقياس نجاح. ولو الأدلة ما كفتش، القرار كان «لا دلوقتي» وده كمان نتيجة جيدة.
13

System design للـ AI: أسئلة وهياكل إجابة

AI-flavoured system design questions
Practical

الهيكل لأي سؤال: requirements (وظيفية + غير وظيفية بأرقام) ← تقديرات (traffic، tokens، تكلفة، storage) ← API ← high-level design ← deep dives (اللي المقابِل يختاره) ← trade-offs و failure modes ← القياس والتشغيل.

صمّم Enterprise Knowledge Assistant متعدد المستأجرين (RAG).
Requirements: ACL لكل مستند، citations، عربي/إنجليزي، p95 < 6s، 500 tenant، residency. Ingestion: upload ← parse/OCR ← chunk ← embed (queue عادلة لكل tenant) ← pgvector + FTS مع RLS. Query: auth ← tenant/ACL ← hybrid + rerank ← context budget ← LLM gateway (routing، fallback، budget) ← citation validation ← stream. Deep dives: filtered ANN للـ tenants الصغيرة، freshness بالـ outbox، semantic cache بـ acl_hash، eval gates، security suite، tenant deletion. التكلفة: tokens/request × requests + embeddings + GPU لو self-host.
صمّم LLM gateway لـ 15 فريق.
Provider abstraction (OpenAI-compatible)، auth per team/service، quotas و budgets (reserve/settle)، routing و fallbacks مُقيَّمة، caching (prompt + exact)، redaction قبل الـ logs، OTel بأسماء GenAI، price table و chargeback، release manifests، circuit breakers. Failure modes: الـ gateway نفسه SPOF (multi-instance، stateless، Redis للعدادات)، latency overhead (<10ms هدف)، و drift في الـ features بين providers.
صمّم usage-based billing لـ AI SaaS.
Usage events immutable بـ event_id (idempotent) ← ledger ← aggregation لكل فترة ← rating حسب الخطة/الـ entitlements ← invoice عند payment provider ← webhooks idempotent ← dunning. Real-time enforcement في Redis، والحقيقة في الـ ledger مع reconciliation. Proration، tax، credits، disputes. Margin per tenant = الإيراد − تكلفة الـ provider (من نفس الـ events).
صمّم agent يعمل refunds لخدمة العملاء.
Workflow أكتر منه agent: lookup ← policy check في الكود ← اقتراح ← approval لما المبلغ > حد ← تنفيذ idempotent (refund:{orderId}) ← audit. الـ LLM للفهم والصياغة بس. Trajectory evals، kill switch، حدود يومية للـ refunds لكل tenant، وكشف anomalies.
صمّم نظام evaluation لـ org فيها 20 AI feature.
Datasets متنسخة لكل feature بشرائح، judges معايرة مركزية، harness موحد بـ cache بالـ hash، gates في CI بمستويات، online sampling من الإنتاج، triage queue تحوّل الفشل لحالات، dashboards لكل feature/release، ميزانية eval. Ownership: الفرق تملك الـ datasets؛ المنصة تملك الأدوات.
14

AI Engineering: أسئلة Senior/Staff سريعة

Rapid-fire senior AI questions
Practical
الـ RAG بيجاوب «مش موجود» والمعلومة موجودة. خطواتك؟
تأكد المستند متفهرس وبالـ ACL الصح والـ embedding version صح ← rank الـ chunk الصح في كل stage من الـ trace ← لو post-filter/ACL شاله أو chunking قطعه أو الـ lexical محتاج وزن أعلى. ما تلمسش الـ prompt قبل ما الـ retrieval يتأكد.
تحسّن prompt ضد LLM judge والإجابات بقت أطول. ليه؟
Verbosity bias في الـ judge (reward hacking مصغّر). عاير الـ judge على شريحة الطول، حط حدود طول، واستخدم مقاييس متعددة وفحص بشري لعينة.
Self-host ولا API لموديل بـ 2 مليون request/يوم؟
نموذج تكلفة بأرقامك (tokens، throughput مقاس، GPUs، تشغيل)، eval للموديل المفتوح على الـ feature، اعتبارات البيانات والفريق. غالبًا hybrid: الحجم الكبير البسيط محليًا، الصعب على API.
إزاي تمنع cross-tenant leakage في AI؟
RLS على chunks و memory، tenant من الـ auth بس، cache keys بـ tenant+acl+versions، logs بـ redaction وصلاحيات، adapters مشتركة على بيانات مشتركة بس، canaries + nightly probes، و isolation matrix tests.
إمتى fine-tuning؟
لما المشكلة سلوك/شكل/تكلفة على مهمة ضيقة ومتكررة، بعد ما prompting و RAG اتقاسوا ومش كفاية، ومع eval قبل/بعد عادل و regression suite. مش لإضافة معرفة بتتغير.
اشرح KV cache وأثره على الـ capacity.
Keys/values للـ tokens السابقة بتتخزن عشان الـ decode يعالج token جديد بس؛ الذاكرة = 2×layers×kv_heads×head_dim×bytes لكل token، وده بيحدد عدد الطلبات المتزامنة. PagedAttention و quantization و GQA بيحسّنوه.
↗

المراجع والقراءة الإضافية

References & further reading

الدرس بيشرح الفكرة نفسها؛ الروابط دي للتحقق والتعمق والرجوع لتفاصيل الـ API. (محتاجة إنترنت.)

خلصت الدرس وحليت الأسئلة؟ علّم عليه عشان يتحسب في تقدّمك.

محتويات الدرس