ما هو عدم تطابق نسبة توزيع العينة (Sample Ratio Mismatch - SRM)؟
عدم تطابق نسبة توزيع العينة (SRM) هو اختبار إحصائي يتحقق مما إذا كان التوزيع الفعلي للمستخدمين بين متغيرات اختبار A/B يتوافق مع التوزيع المخطط له.
إذا اختلف التوزيع الفعلي بشكل ملحوظ عن التوزيع المتوقع، فقد يشير ذلك إلى وجود مشكلات في آلية التوزيع العشوائي، أو تسجيل الأحداث، أو إعدادات التجربة، أو جمع البيانات. يجب إجراء فحص SRM قبل تحليل نتائج التجربة، لأن وجود SRM قد يجعل استنتاجات اختبار A/B غير موثوقة.
تستخدم الأداة اختبار كاي-تربيع (χ²) لمقارنة أحجام المجموعات المتوقعة والفعلية، وتحسب قيمة p-value تلقائيًا.
ما الذي تعرضه الأداة؟
بعد إجراء الحساب، تعرض الأداة النتائج التالية:
المقياس | الوصف |
|---|
إحصائية كاي-تربيع (Chi-Square Statistic) | قيمة اختبار χ² المستخدمة لتقييم التوزيع |
p-value | احتمال أن يكون الانحراف الملحوظ قد حدث بالصدفة |
حالة التحقق | توضح ما إذا تم اكتشاف Sample Ratio Mismatch |
رابط الحساب | رابط قابل للمشاركة يحتفظ بمعلمات التحقق |
كيفية استخدام الأداة
أدخل العدد الفعلي للمستخدمين في كل مجموعة.
حدّد نسبة التوزيع المخطط لها لكل مجموعة.
أضف متغيرات إضافية للتجربة إذا لزم الأمر.
شغّل عملية التحقق.
راجع النتائج.
على سبيل المثال، إذا كانت التجربة مصممة بتوزيع 50% / 50%، لكن العدد الفعلي للمستخدمين كان 1000 و1050 مستخدمًا، فستقيّم الأداة ما إذا كان هذا الانحراف يمكن تفسيره بشكل معقول بالتقلبات العشوائية.
متى يجب التحقق من SRM؟
يكون التحقق من SRM مفيدًا بشكل خاص:
قبل تحليل نتائج أي اختبار A/B؛
بعد نشر آلية جديدة لتوزيع المستخدمين؛
عند تشغيل تجارب تحتوي على عدة متغيرات؛
عند الاشتباه في فقدان أحداث التحليلات؛
بعد تعديل نظام تسجيل الأحداث؛
بعد تغيير آلية التوزيع العشوائي؛
عندما تكون أحجام المجموعات غير متوقعة.
في العديد من المؤسسات، يُعد التحقق من SRM خطوة إلزامية قبل تحليل أي تجربة.
لماذا يحدث Sample Ratio Mismatch؟
تشمل الأسباب الأكثر شيوعًا:
أخطاء في التوزيع العشوائي للمستخدمين؛
إعداد غير صحيح لـ Feature Flags؛
مشكلات في منصة إدارة التجارب؛
فقدان بيانات أحداث التحليلات؛
استبعاد بعض المستخدمين أثناء التصفية؛
أخطاء في التعرف على المستخدمين؛
مشكلات في ملفات تعريف الارتباط (Cookies) أو المصادقة؛
توزيع غير صحيح لحركة المرور؛
أخطاء برمجية.
لا يحدد SRM بحد ذاته السبب الجذري للمشكلة، بل يشير فقط إلى أن توزيع المستخدمين الفعلي يختلف عن التوزيع المتوقع.
متى يمكن الوثوق بنتائج اختبار A/B؟
إذا تم اكتشاف SRM، فيجب تفسير نتائج التجربة بحذر شديد.
حتى إذا بدت الفروقات بين المتغيرات ذات دلالة إحصائية، فقد تكون ناجمة عن مشكلات في توزيع المستخدمين وليس عن التغيير الذي تم اختباره في المنتج.
في الممارسة العملية، تقوم الفرق عادةً بالتحقيق في سبب SRM ومعالجته قبل إعادة تشغيل التجربة.
قيود الأداة
تتحقق الأداة فقط من صحة توزيع المستخدمين بين مجموعات التجربة.
ولا تقوم بتحديد المتغير الأفضل أداءً، أو مقارنة معدلات التحويل، أو تقدير حجم التأثير.
كما أن التحقق من SRM لا يحدد مصدر المشكلة، بل يوضح فقط أن التوزيع الفعلي يختلف إحصائيًا عن التوزيع المتوقع.
الخلاصة
توفر حاسبة Sample Ratio Mismatch طريقة سريعة للتحقق مما إذا كان المستخدمون قد وُزعوا بشكل صحيح بين متغيرات التجربة. وهي تُعد واحدة من أولى خطوات التحقق في أي اختبار A/B، وتساعد على اكتشاف مشكلات التنفيذ قبل تحليل مقاييس المنتج.
لإجراء تحليل شامل للتجارب، يُنصح باستخدام هذه الأداة مع أدوات إحصائية أخرى. قبل بدء التجربة، قدّر حجم العينة المطلوب باستخدام حاسبة حجم العينة. وبعد اجتياز فحص SRM بنجاح، يمكنك تحليل نتائج التجربة باستخدام اختبار T لعينتين مستقلتين للمقاييس المستمرة، أو اختبار كاي-تربيع لمعدلات التحويل وغيرها من المقاييس الثنائية.