ليه المهندس محتاج يفهم ده؟
القانوني بيقول «لازم نمسح بيانات العميل لو طلب». المهندس هو اللي يعرف إن البيانات دي موجودة في 9 أماكن: الجدول، الـ chunks، الـ embeddings، الـ answer cache، الـ traces في أداة الـ observability، الـ golden set اللي حد نسخ فيه محادثة حقيقية، الـ backups، والـ LoRA adapter اللي اتدرّب الشهر اللي فات. الـ compliance اللي ما اتصممتش من الأول بتبقى مستحيلة بعدين. والـ enterprise customers مش هيشتروا من غير إجابات واضحة (DPA، SOC 2، residency، audit).
الدرس ده بيشرح المتطلبات بلغة هندسية عشان تعرف تسأل الأسئلة الصح وتصمم صح. القرارات القانونية (تصنيف نظامك، الأساس القانوني للمعالجة، التزامات الإبلاغ) مع القانوني أو الـ DPO، وعلى النص الرسمي الحالي — القوانين دي بتتعدل (زي ما هتشوف في الـ AI Act).
EU AI Act: منطق المخاطر، الأدوار، والمواعيد
المنطق: القانون (Regulation (EU) 2024/1689) مش بيعامل كل AI زي بعضه؛ الالتزامات بتزيد مع الخطر على الحقوق والسلامة:
| الفئة | أمثلة | الالتزام (مبسّط) |
|---|---|---|
| ممنوع (prohibited) | social scoring، استغلال نقاط ضعف، بعض أشكال التعرف البيومتري والـ emotion recognition في العمل/التعليم | ممنوع |
| High-risk | Annex III: التوظيف (فرز CVs)، الائتمان، التعليم، الوصول لخدمات أساسية…؛ Annex I: AI جوه منتجات منظّمة (أجهزة طبية…) | risk management، data governance، توثيق تقني، logging، شفافية، human oversight، دقة/متانة/أمن، conformity assessment |
| Transparency (Art. 50) | chatbots، محتوى مولّد/deepfakes | المستخدم يعرف إنه بيكلم AI؛ تعليم المحتوى المولّد |
| Minimal | أغلب الاستخدامات (فلتر spam، مساعد كتابة داخلي) | مفيش التزامات خاصة (غير القوانين العامة) |
| GPAI models | موديلات الأغراض العامة (مسؤولية الـ provider بتاع الموديل) | توثيق، سياسة حقوق نشر، ملخص بيانات التدريب؛ التزامات أكتر للموديلات ذات المخاطر النظامية |
الأدوار: provider = اللي بيطوّر النظام ويطرحه باسمه؛ deployer = اللي بيستخدمه في نشاطه. شركة SaaS بتبني «AI فرز CVs» وتبيعه = provider لنظام high-risk. العميل اللي بيستخدمه = deployer بالتزامات تانية (human oversight، إبلاغ الموظفين…). وأنت لو بتبني على API موديل تجاري: الـ provider بتاع الموديل عليه التزامات الـ GPAI، وإنت عليك التزامات نظامك.
المواعيد (كما في نوفمبر 2026 — اتحقق من الـ Official Journal):
- دخل حيز التنفيذ 1 أغسطس 2024.
- الممارسات الممنوعة ومتطلبات AI literacy: من 2 فبراير 2025.
- التزامات الـ GPAI: من 2 أغسطس 2025.
- التزامات الشفافية (Art. 50): من 2 أغسطس 2026.
- الـ Digital Omnibus on AI = Regulation (EU) 2026/1744 (8 يوليو 2026، دخلت حيز التنفيذ 27 يوليو 2026). أجّلت التزامات الـ high-risk: أنظمة Annex III لـ 2 ديسمبر 2027، وأنظمة Annex I (AI جوه منتجات منظَّمة) لـ 2 أغسطس 2028. وادّت مهلة لـ watermarking/marking (Art. 50(2)) للأنظمة اللي كانت في السوق قبل 2 أغسطس 2026 لحد 2 ديسمبر 2026، وضافت محظورين جداد (صور حميمة من غير موافقة و CSAM) من 2 ديسمبر 2026، وعدّلت صياغة التزام AI literacy. التأجيل ده بالظبط سبب إنك ما تحفظش تواريخ من blog: ارجع للنص الرسمي في EUR-Lex ولمتابعة القانوني (reviewed 2026-11-18).
لو نظامك ممكن يبقى high-risk (حتى لو الموعد اتأجل): ابدأ دلوقتي بالحاجات اللي هي أصلًا ممارسات هندسية سليمة — logging لكل قرار، توثيق البيانات والموديل (model card)، human oversight في الـ UX، eval موثّق للدقة والـ bias، وإدارة تغييرات. الـ compliance بعدين هتبقى «جمع أدلة» مش «إعادة بناء».
GDPR بلغة الـ architecture
| المبدأ / المادة | القرار الهندسي في نظام AI |
|---|---|
| Data minimisation (Art. 5) | ما تبعتش للـ LLM غير اللازم؛ redaction قبل الـ prompt؛ ما تسجلش prompts كاملة افتراضيًا |
| Storage limitation (Art. 5) | retention لكل نوع بيانات (traces 30 يوم، conversations حسب العقد…) متطبّق بـ lifecycle rules مش بـ «هنمسح بعدين» |
| Purpose limitation | بيانات الدعم ما تتحولش لبيانات تدريب من غير أساس قانوني/موافقة |
| Right to erasure (Art. 17) | data map بكل المخازن المشتقة + orchestrator + verifier (المعمل) |
| Processors (Art. 28) | DPA مع كل provider (LLM API، vector DB، observability)؛ قائمة subprocessors محدثة للعملاء |
| Transfers (Chapter V) | فين الـ LLM endpoint فعليًا؟ region pinning و data residency لكل tenant |
| Breach notification (Art. 33) | إبلاغ الجهة الرقابية بدون تأخير غير مبرر وعند الإمكان خلال 72 ساعة من العلم في الحالات اللي بيستوجبها القانون ← لازم detection و traces و runbook (درس AI Security) |
| Automated decisions (Art. 22) | قرار ليه أثر قانوني/مماثل على شخص بشكل آلي بالكامل ← human review وحق الاعتراض |
| DPIA (Art. 35) | تقييم أثر قبل المعالجة عالية الخطورة؛ الـ AI الجديد غالبًا بيستدعي السؤال |
المسح الحقيقي: من الـ DB لحد الـ adapters
- Vectors: الـ embedding بيانات مشتقة من النص الشخصي؛ اتعامل معاه كبيانات شخصية. احذف بالـ owner وبالـ source document (لو المستند اتحذف، كل الـ chunks بتاعته).
- Caches: لو الـ key مش فيه tenant/user، ما تقدرش تحدد اللي يتمسح ← صمّم الـ keys من الأول (أو امسح الـ cache كله للـ tenant).
- Logs/traces: غالبًا pseudonymise + redact بدل الحذف، عشان تحتفظ بالسجل التشغيلي/الأمني — قرار يتوثق مع القانوني.
- Eval sets: الحالات المأخوذة من الإنتاج لازم يبقى ليها
sourceعشان تتتبع. - Backups: عادة مش بتتعدل؛ الحل retention قصير مُطبّق + «erasure log» بيتعاد تطبيقه بعد أي restore.
- Adapters/fine-tunes: مفيش «حذف من الأوزان» عملي؛ retrain بدون الشخص بموعد مُلتزم بيه، أو ما تدرّبش على بيانات شخصية من الأصل (الأفضل).
معمل: erasure orchestrator + verifier
بيانات مستخدم واحد في 8 مخازن. بنقارن عقلية «امسح الصفوف من الـ DB» بعقلية «صممنا للمسح»، وبعد كل مسح فيه verifier مستقل بيدوّر على أي أثر — لأن «الكود قال اتمسح» مش دليل.
import re, json, hashlib
from datetime import date, timedelta
TODAY = date(2026, 11, 17)
SUBJECT = {"user_id": "u-77", "email": "mona@example.test"}
# Where one user's personal data ends up in a typical RAG SaaS (simplified in-memory stores)
STORES = {
"postgres.users": [{"id": "u-77", "email": "mona@example.test"}, {"id": "u-12", "email": "ali@example.test"}],
"postgres.documents": [{"id": "d-1", "owner": "u-77", "text": "Mona's contract"}, {"id": "d-2", "owner": "u-12", "text": "Q3 plan"}],
"vectors.chunks": [{"id": "c-1", "doc": "d-1", "owner": "u-77"}, {"id": "c-2", "doc": "d-1", "owner": "u-77"}, {"id": "c-3", "doc": "d-2", "owner": "u-12"}],
"redis.answer_cache": [{"key": "t1|u-77|refund?", "value": "per Mona's contract..."}, {"key": "t1|u-12|plan?", "value": "..."}],
"logs.llm_traces": [{"trace": "a", "user": "u-77", "prompt": "email me at mona@example.test"}, {"trace": "b", "user": "u-12", "prompt": "hi"}],
"eval.golden_set": [{"case": "g-9", "source_user": "u-77", "q": "copied from a real chat"}],
"backups.nightly": [{"date": TODAY - timedelta(days=d), "contains_u77": True} for d in (1, 10, 40)],
"ml.adapters": [{"adapter": "support-lora-v3", "trained_on_users": ["u-77", "u-12"]}],
}
def erase(stores, subj, strategy):
"""Returns an audit trail. `strategy` controls the hard cases."""
uid, mail = subj["user_id"], re.escape(subj["email"])
audit = []
docs = {d["id"] for d in stores["postgres.documents"] if d["owner"] == uid}
def drop(name, pred):
before = len(stores[name]); stores[name] = [r for r in stores[name] if not pred(r)]
audit.append((name, "deleted", before - len(stores[name])))
drop("postgres.users", lambda r: r["id"] == uid)
drop("postgres.documents", lambda r: r["owner"] == uid)
drop("vectors.chunks", lambda r: r["owner"] == uid or r["doc"] in docs) # derived data: by owner AND by source doc
if strategy["cache_keyed_by_user"]:
drop("redis.answer_cache", lambda r: f"|{uid}|" in r["key"])
else:
audit.append(("redis.answer_cache", "skipped (keys not attributable)", 0))
for r in stores["logs.llm_traces"]: # logs: redact, keep the operational record
if r["user"] == uid:
r["user"] = "erased:" + hashlib.sha256(uid.encode()).hexdigest()[:8]
r["prompt"] = re.sub(mail, "[EMAIL]", r["prompt"]); audit.append(("logs.llm_traces", "pseudonymised", 1))
drop("eval.golden_set", lambda r: r["source_user"] == uid)
retention = strategy["backup_retention_days"] # backups: expire by policy, never restored blindly
audit.append(("backups.nightly", f"expire within {retention}d; restore procedure re-applies erasure log", 0))
for a in stores["ml.adapters"]:
if uid in a["trained_on_users"]:
if strategy["retrain_adapters"]:
a["pending_retrain_due"] = str(TODAY + timedelta(days=30)); a["exclude_users"] = [uid]
audit.append(("ml.adapters", f"{a['adapter']}: retrain without subject due {a['pending_retrain_due']}", 0))
else:
audit.append(("ml.adapters", f"{a['adapter']}: NOT handled", 0))
return audit
def verify(stores, subj, strategy):
uid, mail = subj["user_id"], subj["email"]
leftovers = [k for k, v in stores.items() if k not in ("backups.nightly", "ml.adapters") and (uid in json.dumps(v, default=str) or mail in json.dumps(v, default=str))]
for a in stores["ml.adapters"]: # weights cannot be 'edited'; only a tracked retrain counts
if uid in a["trained_on_users"] and "pending_retrain_due" not in a:
leftovers.append(f"ml.adapters ({a['adapter']} trained on subject, no retrain scheduled)")
oldest_backup = max((TODAY - b["date"]).days for b in stores["backups.nightly"])
if oldest_backup > strategy["backup_retention_days"]:
leftovers.append(f"backups.nightly (oldest {oldest_backup}d > retention {strategy['backup_retention_days']}d)")
return leftovers
for name, strat in {
"naive (DB rows only mindset)": dict(cache_keyed_by_user=False, backup_retention_days=90, retrain_adapters=False),
"designed for erasure": dict(cache_keyed_by_user=True, backup_retention_days=35, retrain_adapters=True),
}.items():
stores = json.loads(json.dumps(STORES, default=str))
for b in stores["backups.nightly"]: b["date"] = date.fromisoformat(b["date"])
trail = erase(stores, SUBJECT, strat)
left = verify(stores, SUBJECT, strat)
print(f"--- {name}")
for t in trail: print(f" {t[0]:20s} {t[1]:55s} {t[2]}")
print(f" verifier: {'PASS - nothing found' if not left else 'FOUND personal data in: ' + ', '.join(left)}")--- naive (DB rows only mindset)
postgres.users deleted 1
postgres.documents deleted 1
vectors.chunks deleted 2
redis.answer_cache skipped (keys not attributable) 0
logs.llm_traces pseudonymised 1
eval.golden_set deleted 1
backups.nightly expire within 90d; restore procedure re-applies erasure log 0
ml.adapters support-lora-v3: NOT handled 0
verifier: FOUND personal data in: redis.answer_cache, ml.adapters (support-lora-v3 trained on subject, no retrain scheduled)
--- designed for erasure
postgres.users deleted 1
postgres.documents deleted 1
vectors.chunks deleted 2
redis.answer_cache deleted 1
logs.llm_traces pseudonymised 1
eval.golden_set deleted 1
backups.nightly expire within 35d; restore procedure re-applies erasure log 0
ml.adapters support-lora-v3: retrain without subject due 2026-12-17 0
verifier: FOUND personal data in: backups.nightly (oldest 40d > retention 35d)- Naive: الـ DB والـ vectors اتمسحوا، لكن الـ cache فضل (الـ keys مش قابلة للنسبة) والـ adapter المدرّب على بيانات الشخص ما اتعالجش. الـ verifier مسكهم.
- Designed: كل المخازن اتعالجت، والـ adapter عليه retrain مجدول بموعد. ومع ذلك الـ verifier فشل: فيه backup عمره 40 يوم والسياسة 35. يعني الـ retention مكتوبة في وثيقة لكن الـ lifecycle rule على الـ storage مش متطبّقة أو مكسورة. ده بالظبط نوع المشكلة اللي بتظهر في audit — والـ verifier الآلي بيكشفها قبله.
PII redaction قبل الـ LLM وقبل الـ logs
Regex لوحده بيفوّت كتير (شوفنا ده في درس AI Security). أدوات زي Microsoft Presidio بتجمع NER + patterns + context، وقابلة للتوسعة بـ recognizers للعربي وللأنماط المحلية (رقم قومي، موبايل). وحتى كده: redaction بيقلل المخاطر مش بيلغيها، فبيتقيّم بـ precision/recall على عينة مصنّفة.
from presidio_analyzer import AnalyzerEngine, Pattern, PatternRecognizer
from presidio_anonymizer import AnonymizerEngine
from presidio_anonymizer.entities import OperatorConfig
analyzer = AnalyzerEngine() # default NLP engine is English; add a language model / recognizers for Arabic
egypt_mobile = PatternRecognizer(
supported_entity="EG_MOBILE",
patterns=[Pattern("eg_mobile", r"\b01[0125]\d{8}\b", 0.6)],
context=["موبايل", "تليفون", "phone", "mobile"],
)
egypt_nid = PatternRecognizer(
supported_entity="EG_NATIONAL_ID",
patterns=[Pattern("eg_nid", r"\b[23]\d{13}\b", 0.5)], # 14 digits starting with century digit; validate further
context=["رقم قومي", "national id"],
)
analyzer.registry.add_recognizer(egypt_mobile)
analyzer.registry.add_recognizer(egypt_nid)
anonymizer = AnonymizerEngine()
def redact(text: str, language: str = "en") -> str:
results = analyzer.analyze(text=text, language=language)
return anonymizer.anonymize(
text=text, analyzer_results=results,
operators={"DEFAULT": OperatorConfig("replace", {"new_value": "<PII>"}),
"EMAIL_ADDRESS": OperatorConfig("replace", {"new_value": "<EMAIL>"})},
).textفين تحطه؟ (1) قبل كتابة أي trace/log. (2) قبل إرسال محتوى للـ LLM لو المحتوى مش محتاج الـ PII للإجابة (مثلًا تلخيص تذكرة). (3) قبل إضافة أي حالة لـ eval dataset. ولو الإجابة محتاجة الـ PII (المستخدم بيسأل عن عنوانه)، الحماية بتبقى DPA + region + no-training contract مع الـ provider، مش redaction.
Audit log غير قابل للتلاعب
بيسجّل إيه؟ مين عمل إيه، على أنهي مورد، إمتى، ومن فين: تسجيل دخول، تغيير صلاحيات، admin impersonation، export بيانات، تغيير إعدادات الـ AI (prompt version، model)، قرارات الـ approvals في الـ agents، وطلبات المسح. ده شرط في SOC 2 وفي أنظمة الـ high-risk وفي أي enterprise RFP.
CREATE TABLE audit_log (
seq bigint GENERATED ALWAYS AS IDENTITY PRIMARY KEY,
occurred_at timestamptz NOT NULL DEFAULT now(),
tenant_id uuid NOT NULL,
actor_id text NOT NULL, -- user id, service id, or 'support:<id> as <user>' for impersonation
action text NOT NULL, -- e.g. 'ai.prompt_version.activated', 'data.erasure.completed'
target text NOT NULL,
details jsonb NOT NULL DEFAULT '{}', -- no raw PII; ids and hashes
prev_hash bytea NOT NULL,
row_hash bytea NOT NULL -- sha256(prev_hash || canonical row) -> any edit breaks the chain
);
-- The application role can only INSERT; nobody (except a break-glass role) can UPDATE/DELETE.
REVOKE UPDATE, DELETE ON audit_log FROM app_role;
GRANT INSERT, SELECT ON audit_log TO app_role;public sealed class AuditWriter(NpgsqlDataSource db)
{
private static readonly SemaphoreSlim Gate = new(1, 1); // single writer per instance; use a DB advisory lock across instances
public async Task WriteAsync(AuditEvent e, CancellationToken ct)
{
await Gate.WaitAsync(ct);
try
{
await using var tx = await db.OpenConnectionAsync(ct);
await using var t = await tx.BeginTransactionAsync(ct);
await using (var lk = new NpgsqlCommand("SELECT pg_advisory_xact_lock(424242)", tx, t)) await lk.ExecuteNonQueryAsync(ct);
byte[] prev;
await using (var q = new NpgsqlCommand("SELECT row_hash FROM audit_log ORDER BY seq DESC LIMIT 1", tx, t))
prev = (byte[]?)await q.ExecuteScalarAsync(ct) ?? new byte[32];
var canonical = JsonSerializer.Serialize(new { e.TenantId, e.ActorId, e.Action, e.Target, e.Details, e.OccurredAt });
var hash = SHA256.HashData([.. prev, .. Encoding.UTF8.GetBytes(canonical)]);
await using var ins = new NpgsqlCommand(
"INSERT INTO audit_log (occurred_at, tenant_id, actor_id, action, target, details, prev_hash, row_hash) " +
"VALUES (@at, @t, @a, @act, @tg, @d::jsonb, @p, @h)", tx, t);
ins.Parameters.AddWithValue("at", e.OccurredAt); ins.Parameters.AddWithValue("t", e.TenantId);
ins.Parameters.AddWithValue("a", e.ActorId); ins.Parameters.AddWithValue("act", e.Action);
ins.Parameters.AddWithValue("tg", e.Target); ins.Parameters.AddWithValue("d", JsonSerializer.Serialize(e.Details));
ins.Parameters.AddWithValue("p", prev); ins.Parameters.AddWithValue("h", hash);
await ins.ExecuteNonQueryAsync(ct);
await t.CommitAsync(ct);
}
finally { Gate.Release(); }
}
}
public sealed record AuditEvent(Guid TenantId, string ActorId, string Action, string Target,
IReadOnlyDictionary<string, string> Details, DateTimeOffset OccurredAt);Trade-off: الـ hash chain بيسلسل الكتابة (lock) — مقبول لأحداث الـ audit (قليلة نسبيًا)، مش لكل request. لحجم كبير: chain لكل tenant، أو تصدير دوري لـ immutable storage (WORM) مع توقيع. وراجع الـ chain دوريًا بـ job بيتأكد إن الـ hashes سليمة.
SOC 2 و DPAs و subprocessors: لغة البيع للـ enterprise
- SOC 2: تقرير من مدقق مستقل على ضوابطك حسب Trust Services Criteria (Security إجباري، و Availability و Processing Integrity و Confidentiality و Privacy حسب النطاق). Type I = الضوابط مصممة صح في لحظة؛ Type II = اشتغلت فعلًا على فترة (شهور). هندسيًا: access reviews، change management (PRs و reviews)، logging و monitoring، incident response، vendor management، backups و DR متختبرة.
- DPA (Data Processing Agreement): عقد بينك (processor) والعميل (controller) بيحدد: الغرض، الأمن، الـ subprocessors، المسح عند انتهاء العقد، المساعدة في طلبات الأفراد، والإبلاغ عن الاختراقات.
- Subprocessors: كل خدمة بتعالج بيانات العملاء (LLM provider، vector DB مُدار، أداة observability، email). قائمة منشورة، وإبلاغ العملاء قبل الإضافة. يعني: إضافة أداة LLM observability SaaS = قرار تعاقدي مش بس تقني.
- أسئلة الـ AI في الـ security questionnaires: هل الـ provider بيدرّب على بياناتنا؟ (لازم إجابة موثقة من العقد) فين الـ region؟ retention للـ prompts عند الـ provider؟ إزاي بتمنعوا cross-tenant leakage؟ فيه human review لمحادثاتنا؟ إزاي نعطّل الـ AI لـ tenant بتاعنا؟
تصنيف استخدامك: decision flow للمهندس
التصنيف القانوني النهائي قرار الفريق القانوني، لكن المهندس هو اللي عنده المعلومات: الـ feature بتعمل إيه، بتأثر على مين، وبتاخد قرارات ولا بتساعد بس. الـ flow ده بيساعدك تعرف إمتى تصعّد وإيه اللي توثقه.
| سؤال التصنيف | مثال «لا» | مثال «نعم» (صعّد) |
|---|---|---|
| هل النظام بياخد أو بيأثر بقوة على قرار عن شخص؟ | تلخيص سياسات داخلية للموظف نفسه | ترتيب CVs المتقدمين أو تقييم أداء موظفين |
| هل المستخدم ممكن يفتكر إنه بيكلم إنسان؟ | أداة بحث بنتايج واضحة | chatbot خدمة عملاء بصوت/اسم بشري |
| هل بيولّد محتوى ممكن يتنشر (صور، صوت، نص)؟ | إجابة داخلية | صور تسويقية، صوت مركّب |
| هل فيه بيانات حساسة (صحة، بيومتري، أطفال)؟ | تذاكر دعم فني | ملفات طبية، بصمة صوت |
Provider ولا deployer؟ ومين مسؤول عن إيه
| الدور | مثال في SaaS | مسؤوليات هندسية نموذجية |
|---|---|---|
| GPAI model provider | الشركة اللي بتدرب الـ foundation model | توثيق الموديل، سياسة حقوق النشر، ملخص بيانات التدريب (مش انت غالبًا) |
| AI system provider | انت لما بتبني «مساعد HR» وتبيعه باسمك | التصنيف، الـ documentation، الـ logging، تعليمات الاستخدام، الـ transparency، المراقبة بعد الإطلاق |
| Deployer | العميل (الشركة) اللي بيشغّل نظامك على موظفيه | الاستخدام حسب التعليمات، human oversight، إبلاغ الموظفين، تقييم الأثر في بعض الحالات |
نقطة بتفوت ناس كتير: لو عدّلت الغرض من نظام بشكل جوهري (مثلًا حولت «مساعد كتابة» لـ «أداة تقييم مرشحين»)، ممكن دورك يتحول لـ provider لنظام high-risk بكل التزاماته. عشان كده الـ intended use مكتوب في الـ AI inventory ومراجع مع أي feature جديدة.
تنفيذ الشفافية في المنتج
- إفصاح في الواجهة: «انت بتتكلم مع مساعد AI» واضح من أول رسالة، مش في الـ terms بس، ومع زر للوصول لإنسان لو متاح.
- تمييز المحتوى المولّد: metadata للصور/الصوت المولّد (مثلًا معايير content credentials زي C2PA) وعلامة مرئية لما المحتوى هيتنشر خارجيًا.
- Logging للقرارات: لما النظام بيساعد في قرار، سجّل: الـ input، المصادر، نسخة الموديل/الـ prompt، الـ output، ومين من البشر اتخذ القرار النهائي.
- شرح محدود وصادق: «الإجابة مبنية على المستندات دي» (citations) أصدق وأنفع من «شرح» متولد لطريقة تفكير الموديل.
public sealed record AiResponseEnvelope(string Content, bool AiGenerated, string ModelVersion, string PromptVersion,
IReadOnlyList<string> Sources, string DisclosureText);
public AiResponseEnvelope Wrap(AnswerResult r, CultureInfo ui) => new(
r.Text, AiGenerated: true, r.ModelVersion, r.PromptVersion, r.Citations,
DisclosureText: ui.TwoLetterISOLanguageName == "ar" ? "الرد ده متولد بالذكاء الاصطناعي وممكن يحتوي أخطاء." : "AI-generated; may contain errors.");
// The Angular client renders DisclosureText and Sources for every AI message; the audit log stores the versions.مش EU بس: القوانين المحلية والعقود
لو بتبني لعملاء في مصر أو الخليج أو أي مكان، فيه قوانين حماية بيانات محلية (مثلًا قانون حماية البيانات الشخصية المصري رقم 151 لسنة 2020 ولوائحه التنفيذية، وقوانين مماثلة في السعودية والإمارات) بتغطي نقل البيانات للخارج والموافقة وحقوق أصحاب البيانات. التفاصيل ونطاق التطبيق بيتحددوا مع القانوني، لكن نفس القرارات الهندسية بتخدمهم كلهم: data inventory، minimization، region-aware storage، erasure حقيقي، audit logs، و DPAs مع كل provider. اعمل الـ architecture «قابلة للامتثال» مرة واحدة بدل ما تعيد بناءها لكل سوق.
AI incident: لما الموديل يعمل حاجة مؤذية
- Contain: feature flag يقفل الـ feature أو يحوّل لوضع آمن (إجابات من مصادر بس، أو تصعيد لإنسان) في دقايق — ده لازم يكون موجود قبل الإطلاق.
- Preserve: احفظ الـ traces والـ versions (prompt، model، index) للحالة قبل ما الـ retention يمسحها.
- Assess: كام مستخدم اتأثر؟ هل فيه بيانات شخصية اتسربت (ده ممكن يفعّل مهلة إبلاغ قانونية — في GDPR 72 ساعة للسلطة الرقابية من وقت العلم بالـ breach لما يكون فيه خطر)؟
- Fix + regression case: الحالة تدخل الـ golden/red-team suite قبل ما الـ feature ترجع.
- Learn: postmortem بلا لوم، وتحديث الـ AI inventory وتقييم المخاطر.
AI system inventory: ابدأ بيه
id: support-assistant
owner: team-knowledge
purpose: answer customer questions from the tenant's own documents; suggest replies to agents
users: tenant employees (deployer side), end customers via widget (transparency notice shown)
risk_assessment:
ai_act_category: transparency # chatbot; not used for decisions about people -> legal confirmed 2026-10-02
gdpr_dpia: completed 2026-09-15 (DPIA-0042)
automated_decisions_art22: none
models:
- provider: <llm-provider> # DPA signed; no-training clause; region: EU
release: rag-answer@14
- embeddings: provider/model@2026-05
data:
inputs: [tenant documents, user questions]
personal_data: possible in documents and questions
retention: { conversations: 90d, traces: 30d (redacted), audit: 7y }
erasure: orchestrator v3 + nightly verifier
controls: [acl-before-retrieval, rls, output-policy, security-suite-ci, eval-gate, kill-switch]
human_oversight: agent replies are drafts; sending requires a human
last_review: 2026-11-01الملف ده بيجاوب نص أسئلة أي audit أو عميل enterprise، وبيخلي أي feature AI جديدة تعدّي على نفس الأسئلة في الـ design review.
اختبر فهمك
عميل طلب مسح بياناته. إيه أصعب جزء غالبًا في نظام RAG فيه fine-tuned adapter؟
شركتك بتبيع أداة AI بتفرز CVs للشركات في الاتحاد الأوروبي. على الأرجح؟
ليه audit log بـ hash chain؟
تمارين محلولة
1: الـ LLM observability tool بيخزن prompts كاملة 400 يوم. إيه المشاكل وإيه الإصلاح؟
الحل: storage limitation، PII، subprocessors (لو SaaS)، ونطاق المسح. الإصلاح: redaction قبل الإرسال، sampling، retention 30 يوم أو أقل، الأداة في قائمة الـ subprocessors مع DPA، وتضمينها في الـ erasure orchestrator والـ verifier.
2: اكتب معايير قبول لـ «erasure feature»
الحل: (1) خلال X يوم من الطلب كل المخازن الحية خالية من معرّفات الشخص (verifier آلي). (2) الـ backups بتنتهي خلال الـ retention، والـ restore بيعيد تطبيق الـ erasure log (اختبار restore ربع سنوي). (3) الـ adapters المتأثرة ليها retrain مجدول. (4) audit event لكل مرحلة. (5) تأكيد للطالب. (6) الـ verifier بيفشل الـ CI لو اتضاف مخزن جديد مش متغطي (data map test).
3: الـ sales بيسأل «نقدر نقول إن الـ AI بتاعنا GDPR compliant؟»
الحل: مفيش منتج «GDPR compliant» كختم؛ الـ compliance للمعالجة كلها. الأدق: «بنوفر DPA، EU region، الـ provider ما بيدرّبش على بياناتكم تعاقديًا، retention قابلة للتعديل، مسح موثّق، وتقرير SOC 2 Type II» — كل جملة مسنودة بدليل.
Mini project: Governance pack للـ capstone
في CAPSTONE/docs/governance/: (1) AI system inventory YAML للـ assistant والـ agent. (2) data map بكل المخازن والـ retention. (3) erasure orchestrator + verifier بيتشغل nightly ويفشل لو لقى أثر. (4) audit log بـ hash chain + job تحقق. (5) قائمة subprocessors و DPA checklist. معيار القبول: طلب مسح لـ user تجريبي بيعدّي الـ verifier، وتعديل سطر في الـ audit log يدويًا بيتكشف.
أسئلة إنترفيو: Junior → Senior → Staff
(Junior) ليه ما نسجلش الـ prompts كاملة في الـ logs؟
(Senior) صمّم right-to-erasure لنظام RAG multi-tenant.
(Senior) الـ EU AI Act هيأثر على المنتج بتاعنا إزاي؟
(Staff) إزاي تبني AI governance في شركة 300 مهندس من غير ما تبطّأهم؟
المراجع والقراءة الإضافية
الدرس بيشرح الفكرة نفسها؛ الروابط دي للتحقق والتعمق والرجوع لتفاصيل الـ API. (محتاجة إنترنت.)
مصادر تعليمية ومتقدمة — Third-party & advanced reading
خلصت الدرس وحليت الأسئلة؟ علّم عليه عشان يتحسب في تقدّمك.