Egy évtizeden át az üzenetküldők moderálása szólistákon alapult: beállítasz egy tiltólistát, és a bot törli az ezeket a szavakat tartalmazó üzeneteket. Egyszerű és gyors, de alapvető gyengeséggel: nem érti a jelentést. A spammerek pedig ezt jól tudják.
Az egyszerű szűrők problémája
A tiltólistát másodpercek alatt megkerülik: szétszórt betűk, hasonló karakterek, latin a cirill helyett, képernyőkép szöveg helyett. Minden variáció elkapásához végtelenül bővíteni kell a listát — mégis újabb megkerülések jelennek meg. Végül a szűrő vagy átengedi a spamet, vagy ártalmatlan üzeneteket kezd törölni.
Mit változtat az MI
Az MI-moderálás nem szavakkal, hanem jelentéssel és kontextussal dolgozik:
- Jelentéselemzés. A modell azt ítéli meg, miről szól az üzenet, nem azt, milyen betűket tartalmaz. Az átfogalmazott spam és az álcázott reklám nem jut át.
- Csalás elleni védelem. A csalási sémákat («nyereményjáték», «befektetés», «a támogatás kódot kér») jelentés szerint ismeri fel, új megfogalmazással is.
- Viselkedéselemzés. Nem csak a szöveg, hanem a minta: gyakoriság, sablonosság, egy új fiók viselkedése.
Nem csak védelem
Az MI nemcsak a rossz eltávolítására hasznos, hanem a jó létrehozására is:
- Csevegésösszefoglaló. Egy hosszú vita rövid összefoglalása — időt spórol az adminoknak és a tagoknak.
- Tartalomgenerálás. Bejegyzésvázlatok egy rövid utasításból.
- Válaszsegítség. Javaslatok a támogatáshoz és a GYIK-hoz.
Mit kell szem előtt tartani
Az MI nem varázslat, és vannak árnyalatok, amelyeket érdemes őszintén elismerni:
- Téves riasztások. Egyetlen modell sem tökéletes. Ezért az MI-nek világos szabályokkal és a kivételes esetek fellebbezési/kézi ellenőrzési lehetőségével együtt kell működnie.
- Adatvédelem. Az elemzésnek óvatosnak kell lennie, és nem szabad megfigyeléssé válnia. Egy jó megoldás pontosan azt dolgozza fel, ami a moderáláshoz kell.
- Átláthatóság. Az adminnak értenie kell, miért törlődött egy üzenet, és irányítania kell a küszöböket.
Merre tartunk
A Mod Assistant Bot MI-eszközöket fejleszt: jelentés szerinti moderálás, csalás elleni védelem, vitaösszefoglalók és bejegyzésgenerálás. Az ötlet egyszerű — levenni a rutint az adminról, és elkapni, amit az egyszerű szűrők elmulasztanak, miközben az embert kontrollban tartja a kivételes esetekben. Tudj meg többet az MI-eszközök oldalon.
Összegzés
A szólisták már nem tudják utolérni a spammereket. Az MI-moderálás nem hype, hanem a következő logikus lépés: a jelentés megértése a betűk alapján való találgatás helyett. A jövő már itt van — és sokkal könnyebbé teszi a közösségtulajdonosok életét.