Desetletje se je moderiranje v sporočilnikih zanašalo na sezname besed: nastavite stop-seznam in bot briše sporočila s temi besedami. Preprosto in hitro, a z bistveno slabostjo: ne razume pomena. In spamerji to dobro vedo.
Težava običajnih filtrov
Stop-seznam se obide v sekundah: razredčene črke, podobni znaki, latinica namesto cirilice, posnetek zaslona namesto besedila. Da bi ujeli vsako različico, bi morali seznam neskončno širiti — novi načini obhoda pa se vseeno pojavljajo. Na koncu filter bodisi spusti neželeno pošto bodisi začne brisati neškodljiva sporočila.
Kaj spreminja UI
UI moderiranje deluje ne z besedami, ampak s pomenom in kontekstom:
- Semantična analiza. Model presoja, o čem je sporočilo, ne katere črke vsebuje. Preoblikovana neželena pošta in prikriti oglasi nehajo prehajati.
- Proti prevaram. Prevarantske sheme („razdelitev“, „investicija“, „podpora zahteva kodo“) se prepoznajo po pomenu, tudi z novo formulacijo.
- Analiza vedenja. Ne le besedilo, ampak vzorec: pogostost, šablonskost, vedenje novega računa.
Ne le zaščita
UI je koristen ne le za odstranjevanje slabega, ampak tudi za ustvarjanje dobrega:
- Povzetki klepeta. Kratek pregled dolge razprave — prihrani čas administratorjem in članom.
- Ustvarjanje vsebine. Osnutki objav iz kratkega navodila.
- Pomoč pri odgovorih. Predlogi za podporo in pogosta vprašanja.
Na kaj biti pozoren
UI ni čarovnija in ima nianse, ki jih velja pošteno priznati:
- Lažni pozitivi. Noben model ni popoln. Zato mora UI delovati skupaj z jasnimi pravili in načinom, da se mejni primeri pritožijo/preverijo ročno.
- Zasebnost. Analiza mora biti previdna in se ne sme spremeniti v nadzor. Dobra rešitev obdela natanko to, kar je potrebno za moderiranje.
- Preglednost. Administrator mora razumeti, zakaj je bilo sporočilo odstranjeno, in nadzorovati pragove.
Kam gremo
Mod Assistant Bot razvija UI orodja: semantično moderiranje, zaščito pred prevarami, povzetke razprav in ustvarjanje objav. Ideja je preprosta — sneti rutino z administratorja in ujeti to, kar običajni filtri spustijo, medtem ko človek nadzoruje mejne primere. Več izveste na strani UI orodja.
Zaključek
Seznami besed ne morejo več dohiteti spamerjev. UI moderiranje ni hrup, ampak naslednji logičen korak: razumevanje pomena namesto ugibanja po črkah. Prihodnost je že tu — in življenje lastnikov skupnosti dela veliko lažje.