ليه forecasting مختلف عن ML العادي
«كام token هيستهلك الـ tenant ده الشهر الجاي؟»، «كام تذكرة دعم هتيجي يوم الحد؟»، «محتاجين كام GPU الأسبوع الجاي؟». كلها forecasting. الفرق الجوهري عن الـ ML العادي: الترتيب مهم. الصفوف مش مستقلة، والقيمة النهارده مرتبطة بامبارح وبنفس اليوم الأسبوع اللي فات. كل الأخطاء الكبيرة في المجال ده جاية من تجاهل الحقيقة دي (خلط الماضي بالمستقبل في الـ training).
| المكون | مثال SaaS |
|---|---|
| Trend | نمو عدد العملاء ← استهلاك بيزيد شهر عن شهر |
| Seasonality | أسبوعية (الشغل الأحد–الخميس في مصر)، يومية (ذروة 11 الصبح)، سنوية (رمضان، نهاية السنة المالية) |
| Events/holidays | إطلاق feature، حملة تسويق، أعياد |
| Residual | الضوضاء اللي مالهاش نمط |
Baselines: لو مش بتغلبهم، الموديل مالوش لازمة
import pandas as pd
import numpy as np
def naive(train: pd.Series, h: int) -> np.ndarray:
return np.repeat(train.iloc[-1], h) # tomorrow = today
def seasonal_naive(train: pd.Series, h: int, season: int = 7) -> np.ndarray:
last = train.iloc[-season:].to_numpy() # next Monday = last Monday
return np.array([last[i % season] for i in range(h)])
def moving_average(train: pd.Series, h: int, window: int = 28) -> np.ndarray:
return np.repeat(train.iloc[-window:].mean(), h)الـ seasonal naive بيغلب موديلات معقدة كتير على بيانات ليها seasonality أسبوعية قوية. وفي مسابقات forecasting الكبيرة (M-competitions) طرق إحصائية بسيطة ومجمّعة كانت منافسة جدًا، والـ ML كسبت لما فيه series كتير مترابطة و features خارجية. الدرس: ابدأ بسيط وقِس.
Stationarity والـ autocorrelation
Stationary = الخصائص الإحصائية (المتوسط، التباين، الارتباط الذاتي) ثابتة مع الزمن. موديلات زي ARIMA بتفترضها. series فيها trend مش stationary؛ الحل الكلاسيكي: differencing (القيمة النهارده − امبارح) يشيل الـ trend، وseasonal differencing (النهارده − نفس اليوم الأسبوع اللي فات) يشيل الـ seasonality. و log قبلها لو التباين بيكبر مع المستوى.
ACF/PACF: الـ autocorrelation عند lag k = ارتباط السلسلة بنفسها متأخرة k خطوات. لو فيه spike عند lag 7 و14 و21 ← seasonality أسبوعية. الـ PACF بيشيل أثر الـ lags الأقرب ويساعد يختار رتبة الـ AR.
from statsmodels.tsa.stattools import adfuller
from statsmodels.graphics.tsaplots import plot_acf, plot_pacf
y = daily["tokens"]
print("ADF p-value raw:", adfuller(y)[1]) # high p-value: likely non-stationary
y_diff = np.log1p(y).diff().diff(7).dropna() # log, first difference, weekly seasonal difference
print("ADF p-value differenced:", adfuller(y_diff)[1])
plot_acf(y_diff, lags=35); plot_pacf(y_diff, lags=35) # inspect spikes at 1, 7, 14…ARIMA و SARIMA
| الجزء | المعنى |
|---|---|
| AR(p) | القيمة = تركيبة خطية من آخر p قيمة |
| I(d) | عدد مرات الـ differencing عشان تبقى stationary |
| MA(q) | القيمة بتعتمد على آخر q خطأ (shocks) |
| SARIMA (P,D,Q)s | نفس الأجزاء على مستوى الموسم s (مثلًا 7 أيام) |
| X (SARIMAX) | متغيرات خارجية: إجازات، حملات، عدد المستخدمين النشطين |
from statsmodels.tsa.statespace.sarimax import SARIMAX
train, test = y[:-28], y[-28:]
exog_train, exog_test = holidays[:-28], holidays[-28:] # 0/1 flag per day, known in advance
model = SARIMAX(np.log1p(train), exog=exog_train, order=(1, 1, 1), seasonal_order=(1, 1, 1, 7),
enforce_stationarity=False, enforce_invertibility=False).fit(disp=False)
fc = model.get_forecast(steps=28, exog=exog_test)
pred = np.expm1(fc.predicted_mean)
lo, hi = np.expm1(fc.conf_int(alpha=0.2).T.to_numpy()) # 80% prediction intervalARIMA ممتاز لـ series واحدة بتاريخ معقول ونمط مستقر. نقط ضعفه: seasonality متعددة (يومية + أسبوعية + سنوية)، تغييرات مفاجئة في الـ trend، وآلاف الـ series (لازم fit لكل واحدة). الـ auto-ARIMA بيدور على (p,d,q) بمعيار زي AIC — مريح بس اتأكد بالـ backtesting مش بالـ AIC بس.
النماذج الـ additive بأسلوب Prophet
Prophet (من Meta، 2017) بيعامل الـ forecasting كـ curve fitting: y(t) = g(t) + s(t) + h(t) + ε — trend مقسّم (piecewise linear/logistic) بـ changepoints تلقائية + seasonalities بـ Fourier series + أثر إجازات/أحداث. ميزته إنه سهل التفسير والضبط بمعرفة البيزنس («ضيف رمضان كـ event بنافذة»)، وبيتعامل مع البيانات الناقصة. عيوبه: مش دايمًا أدق من بدائل بسيطة، وممكن يعمل extrapolation متفائل للـ trend.
from prophet import Prophet
df = daily.reset_index().rename(columns={"date": "ds", "tokens": "y"})
ramadan = pd.DataFrame({"holiday": "ramadan", "ds": pd.to_datetime(["2026-02-18", "2027-02-08"]), # verify dates per year
"lower_window": 0, "upper_window": 29})
m = Prophet(weekly_seasonality=True, yearly_seasonality=True, holidays=ramadan, changepoint_prior_scale=0.05)
m.add_country_holidays(country_name="EG") # built-in holiday calendar (check coverage)
m.fit(df[df.ds < "2026-10-01"])
future = m.make_future_dataframe(periods=60)
fc = m.predict(future)[["ds", "yhat", "yhat_lower", "yhat_upper", "trend", "weekly"]]تواريخ رمضان والإجازات في المثال توضيحية — استخدم تقويم موثوق لكل سنة، واختبر تغطية الـ holidays المدمجة لبلدك.
Forecasting بالـ ML: lag features من غير leakage
حوّل السلسلة لجدول: لكل يوم t، الـ features من الماضي فقط (lag 1، lag 7، lag 28، rolling mean آخر 7، اليوم في الأسبوع، الشهر، إجازة؟)، والـ target = القيمة عند t (أو t+h). وبعدين أي regressor (LightGBM ممتاز هنا). الميزة الكبيرة: موديل واحد لآلاف الـ series (كل tenant series) مع features مشتركة.
def make_features(df: pd.DataFrame, horizon: int = 1) -> pd.DataFrame:
df = df.sort_values(["tenant_id", "date"]).copy()
g = df.groupby("tenant_id")["tokens"]
for lag in (horizon, horizon + 6, horizon + 27): # lags measured from the forecast origin
df[f"lag_{lag}"] = g.shift(lag)
df["roll7"] = g.transform(lambda s: s.shift(horizon).rolling(7).mean()) # shift BEFORE rolling: no leakage
df["dow"] = df["date"].dt.dayofweek
df["is_holiday"] = df["date"].isin(holiday_dates).astype(int)
return df.dropna()rolling(7).mean() من غير shift بيدخل قيمة النهارده في الـ feature اللي بتتنبأ بالنهارده. والـ random train/test split بيخلي الموديل يتعلم من بكرة. والـ scaling بإحصائيات الفترة كلها (بما فيها المستقبل). كل ده بيدّي أرقام offline ممتازة ونتايج إنتاج سيئة.
Multi-step: للتنبؤ بـ 14 يوم قدام، يا موديل لكل horizon (direct)، يا موديل خطوة واحدة بتستخدم توقعاته كـ lags (recursive — الأخطاء بتتراكم). الـ direct أبسط وأثبت غالبًا.
Backtesting والمقاييس
| المقياس | التعريف | إمتى |
|---|---|---|
| MAE | متوسط |خطأ| | سهل الشرح بوحدة البيزنس |
| RMSE | جذر متوسط مربع الخطأ | لما الأخطاء الكبيرة أخطر |
| MAPE | متوسط |خطأ|/القيمة | مضلل جدًا قرب الصفر — تجنبه للبيانات المتقطعة |
| WAPE | Σ|خطأ| ÷ Σ|الحقيقي| | مقارنة عبر series بأحجام مختلفة، ثابت |
| MASE | MAE ÷ MAE الـ seasonal naive | < 1 = أحسن من الـ baseline؛ أوضح رقم للإدارة |
| Coverage | نسبة القيم الحقيقية جوه الـ 80% interval | لازم تقرب من 80%؛ أقل = الموديل واثق زيادة |
def wape(y, yhat): return np.abs(y - yhat).sum() / np.abs(y).sum()
def backtest(series: pd.Series, forecaster, h=14, folds=6, step=14):
rows = []
for k in range(folds, 0, -1):
cut = len(series) - k * step
train, test = series.iloc[:cut], series.iloc[cut:cut + h]
pred = forecaster(train, len(test))
base = seasonal_naive(train, len(test))
rows.append({"cutoff": series.index[cut], "wape": wape(test.values, pred),
"mase": np.abs(test.values - pred).mean() / max(np.abs(test.values - base).mean(), 1e-9)})
return pd.DataFrame(rows)
# Report the distribution across folds (mean AND worst fold), not one lucky split.Prediction intervals: الرقم لوحده مش كفاية
«هنستهلك 1.2M token الشهر الجاي» مش قرار. «بنسبة 80% بين 0.9M و1.6M» قرار: الـ capacity بتتجهز للحد الأعلى، والـ budget alert بيتظبط على الوسط. مصادر الـ intervals: من الموديل نفسه (ARIMA/Prophet)، quantile regression (LightGBM بـ objective quantile عند 0.1 و0.9)، أو من توزيع أخطاء الـ backtest (empirical). وقِس الـ coverage في الـ backtest — intervals ضيقة بشكل كداب أخطر من مفيش intervals.
الـ forecasting كخدمة في SaaS
1. SQL: daily aggregates per tenant (window functions, calendar table for missing days)
2. Python job (Airflow/Hangfire-triggered container): backtest champion vs challenger, refit, forecast 60 days + intervals
3. Write forecasts to a table: (tenant_id, date, p10, p50, p90, model_version, run_id)
4. .NET consumers: billing (projected overage alerts), capacity planning (GPU/TPM), CS dashboard (churn risk = usage dropping below p10)
5. Monitor: forecast error once actuals arrive (WAPE by week), drift alerts, model version in every row- Anomaly detection مجانًا: لو الاستهلاك الفعلي برّه الـ interval لمدة يومين ← alert (ممكن bug، ممكن عميل بيعمل abuse، ممكن churn).
- Hierarchy: توقعات لكل tenant لازم مجموعها يقرب من توقع الإجمالي (reconciliation) لو بتستخدمهم في قرارات مالية.
- Cold start: tenant جديد مالوش تاريخ ← متوسط tenants مشابهين (نفس الخطة والحجم) لحد ما يتراكم 4–8 أسابيع.
Series متقطعة وحالات خاصة
| الحالة | المشكلة | الحل العملي |
|---|---|---|
| Intermittent demand (أيام كتير صفر) | MAPE بيبوظ، ARIMA مش مناسب | Croston-style أو التنبؤ بالاحتمال × الحجم، والتقييم بـ MAE/WAPE على فترات مجمّعة |
| Structural break (إطلاق منتج، تغيير تسعير) | الماضي قبل الحدث بيضلل | changepoint، أو تدريب على الفترة بعد الحدث بس، أو feature للحدث |
| Series قصيرة جدًا | مش كفاية للـ seasonality | موديل global عبر series مشابهة، أو seasonal naive لحد ما البيانات تكفي |
| Outliers (حادثة، bot) | بتشد الموديل | نظّف أو علّم الأيام الشاذة قبل التدريب، وسجّل ده |
| Multiple seasonality (يوم + أسبوع + سنة) | SARIMA بيدعم موسم واحد | Fourier terms كـ regressors، أو Prophet-style، أو ML بـ calendar features |
الاستهلاك من .NET: alerts على الـ forecast
public async Task CheckProjectedOverageAsync(CancellationToken ct)
{
var monthEnd = new DateOnly(today.Year, today.Month, DateTime.DaysInMonth(today.Year, today.Month));
var rows = await db.UsageForecasts
.Where(f => f.Date > today && f.Date <= monthEnd && f.ModelVersion == currentModel)
.GroupBy(f => f.TenantId)
.Select(g => new { TenantId = g.Key, P50 = g.Sum(x => x.P50), P90 = g.Sum(x => x.P90) })
.ToListAsync(ct);
foreach (var r in rows)
{
var used = await usage.MonthToDateAsync(r.TenantId, ct);
var limit = await entitlements.MonthlyTokenLimitAsync(r.TenantId, ct);
if (used + r.P50 > limit) // likely overage: tell the admin before it happens
await notifier.ProjectedOverageAsync(r.TenantId, used + r.P50, used + r.P90, limit, ct);
}
}الـ p50 للتنبيه («غالبًا هتعدّي الحد»)، والـ p90 للتخطيط («في أسوأ حالة معقولة»). والـ model version في الـ query عشان ما تخلطش توقعات نسختين.
أخطاء شائعة
- Random split أو rolling features من غير shift (leakage).
- MAPE على بيانات فيها أيام صفرية.
- تقييم على فترة واحدة بس (ممكن تكون محظوظة).
- تجاهل الإجازات والأحداث المعروفة مسبقًا.
- Forecast بدون intervals لقرارات capacity.
- مفيش مقارنة بالـ seasonal naive.
اختبر فهمك
MASE = 1.15 للموديل الجديد. المعنى؟
feature اسمها rolling_mean_7 اتحسبت بـ rolling(7).mean() على السلسلة مباشرة. المشكلة؟
تمرين محلول
توقع تذاكر الدعم اليومية لـ 14 يوم لتخطيط الـ shifts
الحل: بيانات 2 سنة يومية. Baseline: seasonal naive أسبوعي. نماذج: SARIMAX(1,1,1)(1,1,1,7) مع إجازات + LightGBM بـ lags (14، 21، 35 لأن الـ horizon 14) و dow وأحداث (إطلاق features من الـ release calendar). Backtest: 8 folds كل أسبوعين، WAPE و MASE و coverage الـ 80%. القرار: الموديل اللي MASE بتاعه < 0.85 في كل الـ folds تقريبًا، والـ shifts بتتخطط على p80 للأيام اللي فيها إطلاقات. وراقب الخطأ أسبوعيًا بعد ما الفعلي يوصل.
أسئلة إنترفيو
(Mid) ليه ما ينفعش random split في الـ time series؟
(Senior) آلاف tenants وعايزين forecast لكل واحد. تصميمك؟
المراجع والقراءة الإضافية
الدرس بيشرح الفكرة نفسها؛ الروابط دي للتحقق والتعمق والرجوع لتفاصيل الـ API. (محتاجة إنترنت.)
مصادر تعليمية ومتقدمة — Third-party & advanced reading
خلصت الدرس وحليت الأسئلة؟ علّم عليه عشان يتحسب في تقدّمك.