عشر سنوات ظلّ الإشراف في المراسلات قائمًا على قوائم الكلمات: تضع قائمة حظر — فيحذف البوت الرسائل التي تحوي تلك الكلمات. مقاربة بسيطة وسريعة، لكن فيها ضعف جوهري: لا تفهم المعنى. والمرسِلون المزعجون يعرفون ذلك جيّدًا.
مشكلة الفلاتر العادية
تُتجاوَز قائمة الحظر خلال ثوانٍ: «ك ا ز ي ن و» بمسافات، استبدال الحروف بمشابهة، لاتينية بدل العربية، لقطة شاشة بدل النصّ. ولالتقاط كل الأشكال يلزم توسيع القائمة بلا نهاية — ومع ذلك تظهر تجاوزات جديدة. فينتهي الأمر بأن يمرّر الفلتر السبام أو يبدأ بحذف رسائل بريئة.
ما الذي يغيّره الذكاء الاصطناعي
لا يعمل الإشراف بالذكاء الاصطناعي مع الكلمات، بل مع المعنى والسياق:
- التحليل الدلالي. يقيّم النموذج عمّ تتحدّث الرسالة لا أي حروف فيها. فيتوقّف مرور السبام المُعاد صياغته والإعلان المُقنَّع.
- مكافحة الاحتيال. تُكتشَف مخطّطات الاحتيال («هدية»، «استثمار»، «الدعم يطلب رمزًا») حسب المعنى، ولو كانت الصياغة جديدة.
- التحليل السلوكي. يؤخَذ في الحسبان لا النصّ وحده بل النمط: التكرار، القوالب، سلوك حساب جديد.
ليس الحماية فقط
الذكاء الاصطناعي مفيد لا لحذف السيّئ فحسب، بل لصنع الجيّد أيضًا:
- ملخّص المحادثات. خلاصة موجزة لنقاش طويل — توفّر الوقت على المشرفين والأعضاء.
- توليد المحتوى. مسوّدات منشورات انطلاقًا من موجز قصير.
- مساعدة في الردود. اقتراحات للدعم والأسئلة الشائعة.
ما يهمّ تذكّره
الذكاء الاصطناعي ليس سحرًا، وله تفاصيل يجدر أخذها بأمانة:
- إنذارات كاذبة. لا نموذج مثالي. لذا يجب أن يعمل الذكاء الاصطناعي مع قواعد واضحة وإمكانية اعتراض/فحص يدوي للحالات الخلافية.
- الخصوصية. يهمّ أن يكون التحليل دقيقًا لا يتحوّل إلى تجسّس. الحلّ الجيّد يعالج ما يلزم للإشراف بالضبط.
- الشفافية. على المشرف أن يفهم لماذا حُذفت رسالة، وأن يتحكّم في العتبات.
إلى أين نمضي
يطوّر Mod Assistant Bot مسار أدوات الذكاء الاصطناعي: الإشراف الدلالي، مكافحة الاحتيال، ملخّص النقاشات، وتوليد المنشورات. الفكرة بسيطة — رفع الروتين عن المشرف والتقاط ما لا تراه الفلاتر العادية، مع إبقاء التحكّم في الخلافي بيد الإنسان. للمزيد — في صفحة أدوات الذكاء الاصطناعي.
الخلاصة
لم تعُد قوائم الكلمات تلحق بالمرسِلين المزعجين. الإشراف بالذكاء الاصطناعي ليس «ضجّة» بل الخطوة المنطقية التالية: فهم المعنى لا التخمين بالحروف. المستقبل هنا بالفعل — وهو يبسّط حياة أصحاب المجتمعات كثيرًا.