Software Engineer Encyclopedia
0%
Domain 13 · MLOps, LLMOps & Production AI · Pillar

AI Governance وCompliance للمهندس: EU AI Act وGDPR وSOC 2 في الكود

AI Governance & Compliance for Engineers

إزاي تتحول المتطلبات القانونية لقرارات هندسية: تصنيف المخاطر في EU AI Act، GDPR (بما فيه المسح من الـ embeddings والـ logs والـ adapters)، SOC 2، الـ DPAs، audit logs، وPII redaction — بمعمل متنفّذ للمسح.

  • Professional Engineering
  • ~16 min read
  • 18 sections
  • 5 code examples
  • 2 diagrams
  • 7 questions
  • Priority L2 · Essential
  • حالة القوانين كما في نوفمبر 2026 — راجع النصوص الرسمية دايمًا · .NET 9 · PostgreSQL · Microsoft Presidio · المعمل Python stdlib (executed)

بعد الدرس ده هتقدر

  • تشرح منطق EU AI Act القائم على المخاطر وأدوار provider/deployer ومواعيد التطبيق وتعرف إزاي تتحقق منها
  • تحوّل مبادئ GDPR (minimisation، storage limitation، erasure، breach notification) لقرارات في الـ architecture
  • تصمم مسح بيانات شخص من كل المخازن المشتقة: vectors، caches، logs، eval sets، backups، adapters، وتتحقق منه آليًا
  • تبني audit log غير قابل للتلاعب وتطبق PII redaction قبل الـ LLM والـ logs
  • تفهم SOC 2 وDPAs وsubprocessors كمتطلبات بيع للـ enterprise
  • تبني AI system inventory وتعرف إمتى تصعّد لقانوني أو DPO
01

ليه المهندس محتاج يفهم ده؟

Why compliance is an engineering problem
Basics

القانوني بيقول «لازم نمسح بيانات العميل لو طلب». المهندس هو اللي يعرف إن البيانات دي موجودة في 9 أماكن: الجدول، الـ chunks، الـ embeddings، الـ answer cache، الـ traces في أداة الـ observability، الـ golden set اللي حد نسخ فيه محادثة حقيقية، الـ backups، والـ LoRA adapter اللي اتدرّب الشهر اللي فات. الـ compliance اللي ما اتصممتش من الأول بتبقى مستحيلة بعدين. والـ enterprise customers مش هيشتروا من غير إجابات واضحة (DPA، SOC 2، residency، audit).

مش استشارة قانونية

الدرس ده بيشرح المتطلبات بلغة هندسية عشان تعرف تسأل الأسئلة الصح وتصمم صح. القرارات القانونية (تصنيف نظامك، الأساس القانوني للمعالجة، التزامات الإبلاغ) مع القانوني أو الـ DPO، وعلى النص الرسمي الحالي — القوانين دي بتتعدل (زي ما هتشوف في الـ AI Act).

02

EU AI Act: منطق المخاطر، الأدوار، والمواعيد

Risk tiers, roles and the application timeline
Deep dive

المنطق: القانون (Regulation (EU) 2024/1689) مش بيعامل كل AI زي بعضه؛ الالتزامات بتزيد مع الخطر على الحقوق والسلامة:

الفئةأمثلةالالتزام (مبسّط)
ممنوع (prohibited)social scoring، استغلال نقاط ضعف، بعض أشكال التعرف البيومتري والـ emotion recognition في العمل/التعليمممنوع
High-riskAnnex III: التوظيف (فرز CVs)، الائتمان، التعليم، الوصول لخدمات أساسية…؛ Annex I: AI جوه منتجات منظّمة (أجهزة طبية…)risk management، data governance، توثيق تقني، logging، شفافية، human oversight، دقة/متانة/أمن، conformity assessment
Transparency (Art. 50)chatbots، محتوى مولّد/deepfakesالمستخدم يعرف إنه بيكلم AI؛ تعليم المحتوى المولّد
Minimalأغلب الاستخدامات (فلتر spam، مساعد كتابة داخلي)مفيش التزامات خاصة (غير القوانين العامة)
GPAI modelsموديلات الأغراض العامة (مسؤولية الـ provider بتاع الموديل)توثيق، سياسة حقوق نشر، ملخص بيانات التدريب؛ التزامات أكتر للموديلات ذات المخاطر النظامية

الأدوار: provider = اللي بيطوّر النظام ويطرحه باسمه؛ deployer = اللي بيستخدمه في نشاطه. شركة SaaS بتبني «AI فرز CVs» وتبيعه = provider لنظام high-risk. العميل اللي بيستخدمه = deployer بالتزامات تانية (human oversight، إبلاغ الموظفين…). وأنت لو بتبني على API موديل تجاري: الـ provider بتاع الموديل عليه التزامات الـ GPAI، وإنت عليك التزامات نظامك.

المواعيد (كما في نوفمبر 2026 — اتحقق من الـ Official Journal):

  • دخل حيز التنفيذ 1 أغسطس 2024.
  • الممارسات الممنوعة ومتطلبات AI literacy: من 2 فبراير 2025.
  • التزامات الـ GPAI: من 2 أغسطس 2025.
  • التزامات الشفافية (Art. 50): من 2 أغسطس 2026.
  • الـ Digital Omnibus on AI = Regulation (EU) 2026/1744 (8 يوليو 2026، دخلت حيز التنفيذ 27 يوليو 2026). أجّلت التزامات الـ high-risk: أنظمة Annex III لـ 2 ديسمبر 2027، وأنظمة Annex I (AI جوه منتجات منظَّمة) لـ 2 أغسطس 2028. وادّت مهلة لـ watermarking/marking (Art. 50(2)) للأنظمة اللي كانت في السوق قبل 2 أغسطس 2026 لحد 2 ديسمبر 2026، وضافت محظورين جداد (صور حميمة من غير موافقة و CSAM) من 2 ديسمبر 2026، وعدّلت صياغة التزام AI literacy. التأجيل ده بالظبط سبب إنك ما تحفظش تواريخ من blog: ارجع للنص الرسمي في EUR-Lex ولمتابعة القانوني (reviewed 2026-11-18).
الترجمة الهندسية

لو نظامك ممكن يبقى high-risk (حتى لو الموعد اتأجل): ابدأ دلوقتي بالحاجات اللي هي أصلًا ممارسات هندسية سليمة — logging لكل قرار، توثيق البيانات والموديل (model card)، human oversight في الـ UX، eval موثّق للدقة والـ bias، وإدارة تغييرات. الـ compliance بعدين هتبقى «جمع أدلة» مش «إعادة بناء».

03

GDPR بلغة الـ architecture

GDPR principles as design decisions
Deep dive
المبدأ / المادةالقرار الهندسي في نظام AI
Data minimisation (Art. 5)ما تبعتش للـ LLM غير اللازم؛ redaction قبل الـ prompt؛ ما تسجلش prompts كاملة افتراضيًا
Storage limitation (Art. 5)retention لكل نوع بيانات (traces 30 يوم، conversations حسب العقد…) متطبّق بـ lifecycle rules مش بـ «هنمسح بعدين»
Purpose limitationبيانات الدعم ما تتحولش لبيانات تدريب من غير أساس قانوني/موافقة
Right to erasure (Art. 17)data map بكل المخازن المشتقة + orchestrator + verifier (المعمل)
Processors (Art. 28)DPA مع كل provider (LLM API، vector DB، observability)؛ قائمة subprocessors محدثة للعملاء
Transfers (Chapter V)فين الـ LLM endpoint فعليًا؟ region pinning و data residency لكل tenant
Breach notification (Art. 33)إبلاغ الجهة الرقابية بدون تأخير غير مبرر وعند الإمكان خلال 72 ساعة من العلم في الحالات اللي بيستوجبها القانون ← لازم detection و traces و runbook (درس AI Security)
Automated decisions (Art. 22)قرار ليه أثر قانوني/مماثل على شخص بشكل آلي بالكامل ← human review وحق الاعتراض
DPIA (Art. 35)تقييم أثر قبل المعالجة عالية الخطورة؛ الـ AI الجديد غالبًا بيستدعي السؤال
04

المسح الحقيقي: من الـ DB لحد الـ adapters

Right to erasure across derived stores
Deep dive
Source of truthusers · documentschunks + vectorsanswer cacheLLM traces/logseval datasetsbackupsfine-tuned adaptersErasure logevidence + verifier
Personal data fans out into derived stores; erasure must follow the same graph
  • Vectors: الـ embedding بيانات مشتقة من النص الشخصي؛ اتعامل معاه كبيانات شخصية. احذف بالـ owner وبالـ source document (لو المستند اتحذف، كل الـ chunks بتاعته).
  • Caches: لو الـ key مش فيه tenant/user، ما تقدرش تحدد اللي يتمسح ← صمّم الـ keys من الأول (أو امسح الـ cache كله للـ tenant).
  • Logs/traces: غالبًا pseudonymise + redact بدل الحذف، عشان تحتفظ بالسجل التشغيلي/الأمني — قرار يتوثق مع القانوني.
  • Eval sets: الحالات المأخوذة من الإنتاج لازم يبقى ليها source عشان تتتبع.
  • Backups: عادة مش بتتعدل؛ الحل retention قصير مُطبّق + «erasure log» بيتعاد تطبيقه بعد أي restore.
  • Adapters/fine-tunes: مفيش «حذف من الأوزان» عملي؛ retrain بدون الشخص بموعد مُلتزم بيه، أو ما تدرّبش على بيانات شخصية من الأصل (الأفضل).
05

معمل: erasure orchestrator + verifier

Executed lab: erase across stores, then prove it
Practical

بيانات مستخدم واحد في 8 مخازن. بنقارن عقلية «امسح الصفوف من الـ DB» بعقلية «صممنا للمسح»، وبعد كل مسح فيه verifier مستقل بيدوّر على أي أثر — لأن «الكود قال اتمسح» مش دليل.

Pythonerasure_lab.pyExecuted ✓
import re, json, hashlib
from datetime import date, timedelta

TODAY = date(2026, 11, 17)
SUBJECT = {"user_id": "u-77", "email": "mona@example.test"}

# Where one user's personal data ends up in a typical RAG SaaS (simplified in-memory stores)
STORES = {
    "postgres.users":     [{"id": "u-77", "email": "mona@example.test"}, {"id": "u-12", "email": "ali@example.test"}],
    "postgres.documents": [{"id": "d-1", "owner": "u-77", "text": "Mona's contract"}, {"id": "d-2", "owner": "u-12", "text": "Q3 plan"}],
    "vectors.chunks":     [{"id": "c-1", "doc": "d-1", "owner": "u-77"}, {"id": "c-2", "doc": "d-1", "owner": "u-77"}, {"id": "c-3", "doc": "d-2", "owner": "u-12"}],
    "redis.answer_cache": [{"key": "t1|u-77|refund?", "value": "per Mona's contract..."}, {"key": "t1|u-12|plan?", "value": "..."}],
    "logs.llm_traces":    [{"trace": "a", "user": "u-77", "prompt": "email me at mona@example.test"}, {"trace": "b", "user": "u-12", "prompt": "hi"}],
    "eval.golden_set":    [{"case": "g-9", "source_user": "u-77", "q": "copied from a real chat"}],
    "backups.nightly":    [{"date": TODAY - timedelta(days=d), "contains_u77": True} for d in (1, 10, 40)],
    "ml.adapters":        [{"adapter": "support-lora-v3", "trained_on_users": ["u-77", "u-12"]}],
}

def erase(stores, subj, strategy):
    """Returns an audit trail. `strategy` controls the hard cases."""
    uid, mail = subj["user_id"], re.escape(subj["email"])
    audit = []
    docs = {d["id"] for d in stores["postgres.documents"] if d["owner"] == uid}
    def drop(name, pred):
        before = len(stores[name]); stores[name] = [r for r in stores[name] if not pred(r)]
        audit.append((name, "deleted", before - len(stores[name])))
    drop("postgres.users", lambda r: r["id"] == uid)
    drop("postgres.documents", lambda r: r["owner"] == uid)
    drop("vectors.chunks", lambda r: r["owner"] == uid or r["doc"] in docs)    # derived data: by owner AND by source doc
    if strategy["cache_keyed_by_user"]:
        drop("redis.answer_cache", lambda r: f"|{uid}|" in r["key"])
    else:
        audit.append(("redis.answer_cache", "skipped (keys not attributable)", 0))
    for r in stores["logs.llm_traces"]:                                         # logs: redact, keep the operational record
        if r["user"] == uid:
            r["user"] = "erased:" + hashlib.sha256(uid.encode()).hexdigest()[:8]
            r["prompt"] = re.sub(mail, "[EMAIL]", r["prompt"]); audit.append(("logs.llm_traces", "pseudonymised", 1))
    drop("eval.golden_set", lambda r: r["source_user"] == uid)
    retention = strategy["backup_retention_days"]                              # backups: expire by policy, never restored blindly
    audit.append(("backups.nightly", f"expire within {retention}d; restore procedure re-applies erasure log", 0))
    for a in stores["ml.adapters"]:
        if uid in a["trained_on_users"]:
            if strategy["retrain_adapters"]:
                a["pending_retrain_due"] = str(TODAY + timedelta(days=30)); a["exclude_users"] = [uid]
                audit.append(("ml.adapters", f"{a['adapter']}: retrain without subject due {a['pending_retrain_due']}", 0))
            else:
                audit.append(("ml.adapters", f"{a['adapter']}: NOT handled", 0))
    return audit

def verify(stores, subj, strategy):
    uid, mail = subj["user_id"], subj["email"]
    leftovers = [k for k, v in stores.items() if k not in ("backups.nightly", "ml.adapters") and (uid in json.dumps(v, default=str) or mail in json.dumps(v, default=str))]
    for a in stores["ml.adapters"]:                       # weights cannot be 'edited'; only a tracked retrain counts
        if uid in a["trained_on_users"] and "pending_retrain_due" not in a:
            leftovers.append(f"ml.adapters ({a['adapter']} trained on subject, no retrain scheduled)")
    oldest_backup = max((TODAY - b["date"]).days for b in stores["backups.nightly"])
    if oldest_backup > strategy["backup_retention_days"]:
        leftovers.append(f"backups.nightly (oldest {oldest_backup}d > retention {strategy['backup_retention_days']}d)")
    return leftovers

for name, strat in {
    "naive (DB rows only mindset)": dict(cache_keyed_by_user=False, backup_retention_days=90, retrain_adapters=False),
    "designed for erasure":         dict(cache_keyed_by_user=True,  backup_retention_days=35, retrain_adapters=True),
}.items():
    stores = json.loads(json.dumps(STORES, default=str))
    for b in stores["backups.nightly"]: b["date"] = date.fromisoformat(b["date"])
    trail = erase(stores, SUBJECT, strat)
    left = verify(stores, SUBJECT, strat)
    print(f"--- {name}")
    for t in trail: print(f"   {t[0]:20s} {t[1]:55s} {t[2]}")
    print(f"   verifier: {'PASS - nothing found' if not left else 'FOUND personal data in: ' + ', '.join(left)}")
ConsoleOutput — captured from a real run
--- naive (DB rows only mindset)
   postgres.users       deleted                                                 1
   postgres.documents   deleted                                                 1
   vectors.chunks       deleted                                                 2
   redis.answer_cache   skipped (keys not attributable)                         0
   logs.llm_traces      pseudonymised                                           1
   eval.golden_set      deleted                                                 1
   backups.nightly      expire within 90d; restore procedure re-applies erasure log 0
   ml.adapters          support-lora-v3: NOT handled                            0
   verifier: FOUND personal data in: redis.answer_cache, ml.adapters (support-lora-v3 trained on subject, no retrain scheduled)
--- designed for erasure
   postgres.users       deleted                                                 1
   postgres.documents   deleted                                                 1
   vectors.chunks       deleted                                                 2
   redis.answer_cache   deleted                                                 1
   logs.llm_traces      pseudonymised                                           1
   eval.golden_set      deleted                                                 1
   backups.nightly      expire within 35d; restore procedure re-applies erasure log 0
   ml.adapters          support-lora-v3: retrain without subject due 2026-12-17 0
   verifier: FOUND personal data in: backups.nightly (oldest 40d > retention 35d)
  • Naive: الـ DB والـ vectors اتمسحوا، لكن الـ cache فضل (الـ keys مش قابلة للنسبة) والـ adapter المدرّب على بيانات الشخص ما اتعالجش. الـ verifier مسكهم.
  • Designed: كل المخازن اتعالجت، والـ adapter عليه retrain مجدول بموعد. ومع ذلك الـ verifier فشل: فيه backup عمره 40 يوم والسياسة 35. يعني الـ retention مكتوبة في وثيقة لكن الـ lifecycle rule على الـ storage مش متطبّقة أو مكسورة. ده بالظبط نوع المشكلة اللي بتظهر في audit — والـ verifier الآلي بيكشفها قبله.
06

PII redaction قبل الـ LLM وقبل الـ logs

Detecting and masking personal data
Practical

Regex لوحده بيفوّت كتير (شوفنا ده في درس AI Security). أدوات زي Microsoft Presidio بتجمع NER + patterns + context، وقابلة للتوسعة بـ recognizers للعربي وللأنماط المحلية (رقم قومي، موبايل). وحتى كده: redaction بيقلل المخاطر مش بيلغيها، فبيتقيّم بـ precision/recall على عينة مصنّفة.

Pythonredact_service.py
from presidio_analyzer import AnalyzerEngine, Pattern, PatternRecognizer
from presidio_anonymizer import AnonymizerEngine
from presidio_anonymizer.entities import OperatorConfig

analyzer = AnalyzerEngine()            # default NLP engine is English; add a language model / recognizers for Arabic
egypt_mobile = PatternRecognizer(
    supported_entity="EG_MOBILE",
    patterns=[Pattern("eg_mobile", r"\b01[0125]\d{8}\b", 0.6)],
    context=["موبايل", "تليفون", "phone", "mobile"],
)
egypt_nid = PatternRecognizer(
    supported_entity="EG_NATIONAL_ID",
    patterns=[Pattern("eg_nid", r"\b[23]\d{13}\b", 0.5)],     # 14 digits starting with century digit; validate further
    context=["رقم قومي", "national id"],
)
analyzer.registry.add_recognizer(egypt_mobile)
analyzer.registry.add_recognizer(egypt_nid)
anonymizer = AnonymizerEngine()

def redact(text: str, language: str = "en") -> str:
    results = analyzer.analyze(text=text, language=language)
    return anonymizer.anonymize(
        text=text, analyzer_results=results,
        operators={"DEFAULT": OperatorConfig("replace", {"new_value": "<PII>"}),
                   "EMAIL_ADDRESS": OperatorConfig("replace", {"new_value": "<EMAIL>"})},
    ).text

فين تحطه؟ (1) قبل كتابة أي trace/log. (2) قبل إرسال محتوى للـ LLM لو المحتوى مش محتاج الـ PII للإجابة (مثلًا تلخيص تذكرة). (3) قبل إضافة أي حالة لـ eval dataset. ولو الإجابة محتاجة الـ PII (المستخدم بيسأل عن عنوانه)، الحماية بتبقى DPA + region + no-training contract مع الـ provider، مش redaction.

07

Audit log غير قابل للتلاعب

Tamper-evident audit logging
Practical

بيسجّل إيه؟ مين عمل إيه، على أنهي مورد، إمتى، ومن فين: تسجيل دخول، تغيير صلاحيات، admin impersonation، export بيانات، تغيير إعدادات الـ AI (prompt version، model)، قرارات الـ approvals في الـ agents، وطلبات المسح. ده شرط في SOC 2 وفي أنظمة الـ high-risk وفي أي enterprise RFP.

SQLaudit_log.sql
CREATE TABLE audit_log (
  seq          bigint GENERATED ALWAYS AS IDENTITY PRIMARY KEY,
  occurred_at  timestamptz NOT NULL DEFAULT now(),
  tenant_id    uuid NOT NULL,
  actor_id     text NOT NULL,                 -- user id, service id, or 'support:<id> as <user>' for impersonation
  action       text NOT NULL,                 -- e.g. 'ai.prompt_version.activated', 'data.erasure.completed'
  target       text NOT NULL,
  details      jsonb NOT NULL DEFAULT '{}',   -- no raw PII; ids and hashes
  prev_hash    bytea NOT NULL,
  row_hash     bytea NOT NULL                 -- sha256(prev_hash || canonical row) -> any edit breaks the chain
);
-- The application role can only INSERT; nobody (except a break-glass role) can UPDATE/DELETE.
REVOKE UPDATE, DELETE ON audit_log FROM app_role;
GRANT INSERT, SELECT ON audit_log TO app_role;
C#AuditWriter.cs
public sealed class AuditWriter(NpgsqlDataSource db)
{
    private static readonly SemaphoreSlim Gate = new(1, 1);   // single writer per instance; use a DB advisory lock across instances

    public async Task WriteAsync(AuditEvent e, CancellationToken ct)
    {
        await Gate.WaitAsync(ct);
        try
        {
            await using var tx = await db.OpenConnectionAsync(ct);
            await using var t = await tx.BeginTransactionAsync(ct);
            await using (var lk = new NpgsqlCommand("SELECT pg_advisory_xact_lock(424242)", tx, t)) await lk.ExecuteNonQueryAsync(ct);
            byte[] prev;
            await using (var q = new NpgsqlCommand("SELECT row_hash FROM audit_log ORDER BY seq DESC LIMIT 1", tx, t))
                prev = (byte[]?)await q.ExecuteScalarAsync(ct) ?? new byte[32];
            var canonical = JsonSerializer.Serialize(new { e.TenantId, e.ActorId, e.Action, e.Target, e.Details, e.OccurredAt });
            var hash = SHA256.HashData([.. prev, .. Encoding.UTF8.GetBytes(canonical)]);
            await using var ins = new NpgsqlCommand(
                "INSERT INTO audit_log (occurred_at, tenant_id, actor_id, action, target, details, prev_hash, row_hash) " +
                "VALUES (@at, @t, @a, @act, @tg, @d::jsonb, @p, @h)", tx, t);
            ins.Parameters.AddWithValue("at", e.OccurredAt); ins.Parameters.AddWithValue("t", e.TenantId);
            ins.Parameters.AddWithValue("a", e.ActorId);     ins.Parameters.AddWithValue("act", e.Action);
            ins.Parameters.AddWithValue("tg", e.Target);     ins.Parameters.AddWithValue("d", JsonSerializer.Serialize(e.Details));
            ins.Parameters.AddWithValue("p", prev);          ins.Parameters.AddWithValue("h", hash);
            await ins.ExecuteNonQueryAsync(ct);
            await t.CommitAsync(ct);
        }
        finally { Gate.Release(); }
    }
}
public sealed record AuditEvent(Guid TenantId, string ActorId, string Action, string Target,
                                IReadOnlyDictionary<string, string> Details, DateTimeOffset OccurredAt);

Trade-off: الـ hash chain بيسلسل الكتابة (lock) — مقبول لأحداث الـ audit (قليلة نسبيًا)، مش لكل request. لحجم كبير: chain لكل tenant، أو تصدير دوري لـ immutable storage (WORM) مع توقيع. وراجع الـ chain دوريًا بـ job بيتأكد إن الـ hashes سليمة.

08

SOC 2 و DPAs و subprocessors: لغة البيع للـ enterprise

What enterprise buyers will ask you
Deep dive
  • SOC 2: تقرير من مدقق مستقل على ضوابطك حسب Trust Services Criteria (Security إجباري، و Availability و Processing Integrity و Confidentiality و Privacy حسب النطاق). Type I = الضوابط مصممة صح في لحظة؛ Type II = اشتغلت فعلًا على فترة (شهور). هندسيًا: access reviews، change management (PRs و reviews)، logging و monitoring، incident response، vendor management، backups و DR متختبرة.
  • DPA (Data Processing Agreement): عقد بينك (processor) والعميل (controller) بيحدد: الغرض، الأمن، الـ subprocessors، المسح عند انتهاء العقد، المساعدة في طلبات الأفراد، والإبلاغ عن الاختراقات.
  • Subprocessors: كل خدمة بتعالج بيانات العملاء (LLM provider، vector DB مُدار، أداة observability، email). قائمة منشورة، وإبلاغ العملاء قبل الإضافة. يعني: إضافة أداة LLM observability SaaS = قرار تعاقدي مش بس تقني.
  • أسئلة الـ AI في الـ security questionnaires: هل الـ provider بيدرّب على بياناتنا؟ (لازم إجابة موثقة من العقد) فين الـ region؟ retention للـ prompts عند الـ provider؟ إزاي بتمنعوا cross-tenant leakage؟ فيه human review لمحادثاتنا؟ إزاي نعطّل الـ AI لـ tenant بتاعنا؟
09

تصنيف استخدامك: decision flow للمهندس

Classifying a use case before you build
Deep dive

التصنيف القانوني النهائي قرار الفريق القانوني، لكن المهندس هو اللي عنده المعلومات: الـ feature بتعمل إيه، بتأثر على مين، وبتاخد قرارات ولا بتساعد بس. الـ flow ده بيساعدك تعرف إمتى تصعّد وإيه اللي توثقه.

Intended use documented?Prohibited practice?manipulation, social scoring…High-risk area?hiring, credit, education, …Interacts with people /generates content?STOPdo not build; legal reviewHigh-risk trackrisk mgmt, logs, oversight, docsTransparency dutiesdisclose AI, mark outputMinimal: good practice + inventory
A pre-build triage: document the answers, escalate anything above minimal risk
سؤال التصنيفمثال «لا»مثال «نعم» (صعّد)
هل النظام بياخد أو بيأثر بقوة على قرار عن شخص؟تلخيص سياسات داخلية للموظف نفسهترتيب CVs المتقدمين أو تقييم أداء موظفين
هل المستخدم ممكن يفتكر إنه بيكلم إنسان؟أداة بحث بنتايج واضحةchatbot خدمة عملاء بصوت/اسم بشري
هل بيولّد محتوى ممكن يتنشر (صور، صوت، نص)؟إجابة داخليةصور تسويقية، صوت مركّب
هل فيه بيانات حساسة (صحة، بيومتري، أطفال)؟تذاكر دعم فنيملفات طبية، بصمة صوت
10

Provider ولا deployer؟ ومين مسؤول عن إيه

Roles along the AI value chain
Deep dive
الدورمثال في SaaSمسؤوليات هندسية نموذجية
GPAI model providerالشركة اللي بتدرب الـ foundation modelتوثيق الموديل، سياسة حقوق النشر، ملخص بيانات التدريب (مش انت غالبًا)
AI system providerانت لما بتبني «مساعد HR» وتبيعه باسمكالتصنيف، الـ documentation، الـ logging، تعليمات الاستخدام، الـ transparency، المراقبة بعد الإطلاق
Deployerالعميل (الشركة) اللي بيشغّل نظامك على موظفيهالاستخدام حسب التعليمات، human oversight، إبلاغ الموظفين، تقييم الأثر في بعض الحالات

نقطة بتفوت ناس كتير: لو عدّلت الغرض من نظام بشكل جوهري (مثلًا حولت «مساعد كتابة» لـ «أداة تقييم مرشحين»)، ممكن دورك يتحول لـ provider لنظام high-risk بكل التزاماته. عشان كده الـ intended use مكتوب في الـ AI inventory ومراجع مع أي feature جديدة.

11

تنفيذ الشفافية في المنتج

Implementing transparency obligations
Practical
  • إفصاح في الواجهة: «انت بتتكلم مع مساعد AI» واضح من أول رسالة، مش في الـ terms بس، ومع زر للوصول لإنسان لو متاح.
  • تمييز المحتوى المولّد: metadata للصور/الصوت المولّد (مثلًا معايير content credentials زي C2PA) وعلامة مرئية لما المحتوى هيتنشر خارجيًا.
  • Logging للقرارات: لما النظام بيساعد في قرار، سجّل: الـ input، المصادر، نسخة الموديل/الـ prompt، الـ output، ومين من البشر اتخذ القرار النهائي.
  • شرح محدود وصادق: «الإجابة مبنية على المستندات دي» (citations) أصدق وأنفع من «شرح» متولد لطريقة تفكير الموديل.
C#AiDisclosure: one middleware-like policy for every AI response
public sealed record AiResponseEnvelope(string Content, bool AiGenerated, string ModelVersion, string PromptVersion,
                                        IReadOnlyList<string> Sources, string DisclosureText);

public AiResponseEnvelope Wrap(AnswerResult r, CultureInfo ui) => new(
    r.Text, AiGenerated: true, r.ModelVersion, r.PromptVersion, r.Citations,
    DisclosureText: ui.TwoLetterISOLanguageName == "ar" ? "الرد ده متولد بالذكاء الاصطناعي وممكن يحتوي أخطاء." : "AI-generated; may contain errors.");
// The Angular client renders DisclosureText and Sources for every AI message; the audit log stores the versions.
12

مش EU بس: القوانين المحلية والعقود

Beyond the EU
Basics

لو بتبني لعملاء في مصر أو الخليج أو أي مكان، فيه قوانين حماية بيانات محلية (مثلًا قانون حماية البيانات الشخصية المصري رقم 151 لسنة 2020 ولوائحه التنفيذية، وقوانين مماثلة في السعودية والإمارات) بتغطي نقل البيانات للخارج والموافقة وحقوق أصحاب البيانات. التفاصيل ونطاق التطبيق بيتحددوا مع القانوني، لكن نفس القرارات الهندسية بتخدمهم كلهم: data inventory، minimization، region-aware storage، erasure حقيقي، audit logs، و DPAs مع كل provider. اعمل الـ architecture «قابلة للامتثال» مرة واحدة بدل ما تعيد بناءها لكل سوق.

13

AI incident: لما الموديل يعمل حاجة مؤذية

Responding to AI incidents
Practical
  1. Contain: feature flag يقفل الـ feature أو يحوّل لوضع آمن (إجابات من مصادر بس، أو تصعيد لإنسان) في دقايق — ده لازم يكون موجود قبل الإطلاق.
  2. Preserve: احفظ الـ traces والـ versions (prompt، model، index) للحالة قبل ما الـ retention يمسحها.
  3. Assess: كام مستخدم اتأثر؟ هل فيه بيانات شخصية اتسربت (ده ممكن يفعّل مهلة إبلاغ قانونية — في GDPR 72 ساعة للسلطة الرقابية من وقت العلم بالـ breach لما يكون فيه خطر)؟
  4. Fix + regression case: الحالة تدخل الـ golden/red-team suite قبل ما الـ feature ترجع.
  5. Learn: postmortem بلا لوم، وتحديث الـ AI inventory وتقييم المخاطر.
14

AI system inventory: ابدأ بيه

An inventory of AI systems as the governance backbone
Practical
YAMLgovernance/ai-systems/support-assistant.yaml
id: support-assistant
owner: team-knowledge
purpose: answer customer questions from the tenant's own documents; suggest replies to agents
users: tenant employees (deployer side), end customers via widget (transparency notice shown)
risk_assessment:
  ai_act_category: transparency          # chatbot; not used for decisions about people -> legal confirmed 2026-10-02
  gdpr_dpia: completed 2026-09-15 (DPIA-0042)
  automated_decisions_art22: none
models:
  - provider: <llm-provider>              # DPA signed; no-training clause; region: EU
    release: rag-answer@14
  - embeddings: provider/model@2026-05
data:
  inputs: [tenant documents, user questions]
  personal_data: possible in documents and questions
  retention: { conversations: 90d, traces: 30d (redacted), audit: 7y }
  erasure: orchestrator v3 + nightly verifier
controls: [acl-before-retrieval, rls, output-policy, security-suite-ci, eval-gate, kill-switch]
human_oversight: agent replies are drafts; sending requires a human
last_review: 2026-11-01

الملف ده بيجاوب نص أسئلة أي audit أو عميل enterprise، وبيخلي أي feature AI جديدة تعدّي على نفس الأسئلة في الـ design review.

15

اختبر فهمك

Knowledge check
Basics

عميل طلب مسح بياناته. إيه أصعب جزء غالبًا في نظام RAG فيه fine-tuned adapter؟

شركتك بتبيع أداة AI بتفرز CVs للشركات في الاتحاد الأوروبي. على الأرجح؟

ليه audit log بـ hash chain؟

16

تمارين محلولة

Solved exercises
Practical
1: الـ LLM observability tool بيخزن prompts كاملة 400 يوم. إيه المشاكل وإيه الإصلاح؟

الحل: storage limitation، PII، subprocessors (لو SaaS)، ونطاق المسح. الإصلاح: redaction قبل الإرسال، sampling، retention 30 يوم أو أقل، الأداة في قائمة الـ subprocessors مع DPA، وتضمينها في الـ erasure orchestrator والـ verifier.

2: اكتب معايير قبول لـ «erasure feature»

الحل: (1) خلال X يوم من الطلب كل المخازن الحية خالية من معرّفات الشخص (verifier آلي). (2) الـ backups بتنتهي خلال الـ retention، والـ restore بيعيد تطبيق الـ erasure log (اختبار restore ربع سنوي). (3) الـ adapters المتأثرة ليها retrain مجدول. (4) audit event لكل مرحلة. (5) تأكيد للطالب. (6) الـ verifier بيفشل الـ CI لو اتضاف مخزن جديد مش متغطي (data map test).

3: الـ sales بيسأل «نقدر نقول إن الـ AI بتاعنا GDPR compliant؟»

الحل: مفيش منتج «GDPR compliant» كختم؛ الـ compliance للمعالجة كلها. الأدق: «بنوفر DPA، EU region، الـ provider ما بيدرّبش على بياناتكم تعاقديًا، retention قابلة للتعديل، مسح موثّق، وتقرير SOC 2 Type II» — كل جملة مسنودة بدليل.

17

Mini project: Governance pack للـ capstone

Mini project
Practical

في CAPSTONE/docs/governance/: (1) AI system inventory YAML للـ assistant والـ agent. (2) data map بكل المخازن والـ retention. (3) erasure orchestrator + verifier بيتشغل nightly ويفشل لو لقى أثر. (4) audit log بـ hash chain + job تحقق. (5) قائمة subprocessors و DPA checklist. معيار القبول: طلب مسح لـ user تجريبي بيعدّي الـ verifier، وتعديل سطر في الـ audit log يدويًا بيتكشف.

18

أسئلة إنترفيو: Junior → Senior → Staff

Interview ladder
Basics
(Junior) ليه ما نسجلش الـ prompts كاملة في الـ logs؟
لأنها ممكن تحتوي PII وبيانات عملاء؛ ده ضد الـ minimisation وبيكبّر نطاق أي تسريب ونطاق المسح. سجّل IDs ومقاييس، والمحتوى بـ redaction و sampling و retention قصير لو لازم.
(Senior) صمّم right-to-erasure لنظام RAG multi-tenant.
Data map بكل المخازن المشتقة، مفاتيح قابلة للنسبة (tenant/user في كل key و metadata)، orchestrator idempotent بخطوات و audit، pseudonymisation للـ logs، retention قصيرة للـ backups مع re-apply بعد restore، سياسة للـ fine-tuning، و verifier مستقل nightly.
(Senior) الـ EU AI Act هيأثر على المنتج بتاعنا إزاي؟
حدد الاستخدامات وصنّفها (مع القانوني)، حدد دورك (provider/deployer)، طبّق الشفافية لو chatbot أو محتوى مولّد، ولو فيه استخدام high-risk ابدأ بالممارسات الهندسية (logging، توثيق، oversight، eval) وتابع المواعيد في النص الرسمي لأنها اتعدلت.
(Staff) إزاي تبني AI governance في شركة 300 مهندس من غير ما تبطّأهم؟
Inventory إجباري خفيف لكل AI feature، risk tiers بمسارات مختلفة (minimal = checklist ذاتي؛ high = review)، platform controls جاهزة (redaction، audit، erasure، eval gates) بحيث الامتثال يبقى «الطريق الأسهل»، ownership واضح، و review دوري. والقانوني شريك في الـ design reviews مش بوابة في الآخر.
↗

المراجع والقراءة الإضافية

References & further reading

الدرس بيشرح الفكرة نفسها؛ الروابط دي للتحقق والتعمق والرجوع لتفاصيل الـ API. (محتاجة إنترنت.)

خلصت الدرس وحليت الأسئلة؟ علّم عليه عشان يتحسب في تقدّمك.

محتويات الدرس