עשר שנים הפיקוח במסנג'רים התבסס על רשימות מילים: הגדרת רשימת חסימה — הבוט מוחק הודעות עם המילים האלה. גישה פשוטה ומהירה, אך יש לה חולשה יסודית: היא אינה מבינה משמעות. והספאמרים יודעים זאת היטב.
הבעיה של סינונים רגילים
רשימת חסימה נעקפת בשניות: «ק ז י נ ו» עם רווחים, החלפת אותיות בדומות, לטינית במקום עברית, צילום מסך במקום טקסט. כדי לתפוס את כל הווריאציות צריך להרחיב את הרשימה בלי סוף — ועדיין מופיעים עקיפות חדשות. בסופו של דבר הסינון או מפספס ספאם או מתחיל למחוק הודעות תמימות.
מה הבינה המלאכותית משנה
פיקוח בינה מלאכותית עובד לא עם מילים אלא עם משמעות והקשר:
- ניתוח סמנטי. המודל מעריך על מה ההודעה ולא אילו אותיות יש בה. ספאם מנוסח מחדש ופרסום מוסווה מפסיקים לעבור.
- אנטי־הונאה. שיטות הונאה («חלוקה», «השקעות», «התמיכה מבקשת קוד») מזוהות לפי המשמעות, גם אם הניסוח חדש.
- ניתוח התנהגותי. נלקח בחשבון לא רק הטקסט אלא גם הדפוס: תדירות, תבניתיות, התנהגות של חשבון חדש.
לא רק הגנה
הבינה המלאכותית שימושית לא רק למחיקת הרע, אלא גם ליצירת הטוב:
- תמצית שיחות. תקציר קצר של דיון ארוך — חוסך זמן למנהלים ולחברים.
- יצירת תוכן. טיוטות פוסטים מתקציר קצר.
- עזרה בתשובות. הצעות לתמיכה ולשאלות נפוצות.
מה חשוב לזכור
בינה מלאכותית אינה קסם, ויש לה ניואנסים שכדאי לקחת בחשבון בכנות:
- התראות שווא. אף מודל אינו מושלם. לכן הבינה המלאכותית צריכה לעבוד יחד עם כללים ברורים ואפשרות לערעור/בדיקה ידנית של מקרים שנויים במחלוקת.
- פרטיות. חשוב שהניתוח יהיה מדויק ולא יהפוך למעקב. פתרון טוב מעבד בדיוק את מה שנחוץ לפיקוח.
- שקיפות. המנהל צריך להבין מדוע הודעה נמחקה ולשלוט בספים.
לאן אנחנו הולכים
Mod Assistant Bot מפתח את כיוון כלי הבינה המלאכותית: פיקוח סמנטי, אנטי־הונאה, תמצית דיונים ויצירת פוסטים. הרעיון פשוט — להסיר מהמנהל את השגרה ולתפוס את מה שהסינונים הרגילים אינם רואים, תוך השארת השליטה במחלוקת בידי האדם. לפרטים — בעמוד כלי בינה מלאכותית.
מסקנה
רשימות מילים כבר אינן מדביקות את הספאמרים. פיקוח בינה מלאכותית אינו «באז» אלא הצעד ההגיוני הבא: להבין משמעות ולא לנחש לפי אותיות. העתיד כבר כאן — והוא מפשט מאוד את החיים של בעלי קהילות.