Deset godina moderacija u messengerima počivala je na spiskovima riječi: napraviš stop-listu — bot briše poruke s tim riječima. Pristup je jednostavan i brz, ali ima temeljnu slabost: ne razumije značenje. A spameri to odlično znaju.
Problem običnih filtera
Stop-lista se zaobilazi za sekunde: «k a z i n o» s razmacima, zamjena slova sličnima, latinica umjesto ćirilice, snimak ekrana umjesto teksta. Da bi se uhvatile sve varijante, listu treba beskonačno širiti — i svejedno se pojavljuju nova zaobilaženja. Na kraju filter ili propušta spam, ili počinje brisati bezazlene poruke.
Šta mijenja vještačka inteligencija
AI-moderacija ne radi s riječima, već sa značenjem i kontekstom:
- Semantička analiza. Model procjenjuje o čemu je poruka, a ne koja su u njoj slova. Preformulisani spam i prikrivena reklama prestaju prolaziti.
- Anti-scam. Prevarne sheme («podjela», «investicije», «podrška traži kod») prepoznaju se po značenju, čak i ako je formulacija nova.
- Analiza ponašanja. Uzima se u obzir ne samo tekst, već i obrazac: učestalost, šablonskost, ponašanje novog naloga.
Ne samo zaštita
AI je koristan ne samo za brisanje lošeg, već i za stvaranje dobrog:
- Sažeci chatova. Kratak izvod duge rasprave — štedi vrijeme i administratorima i članovima.
- Generisanje sadržaja. Nacrti objava po kratkom briefu.
- Pomoć u odgovorima. Prijedlozi za podršku i FAQ.
O čemu je važno razmisliti
AI nije magija, i ima nijanse koje pošteno vrijedi uzeti u obzir:
- Lažni pozitivi. Nijedan model nije savršen. Zato AI treba raditi u sprezi s jasnim pravilima i mogućnošću žalbe/ručne provjere spornih slučajeva.
- Privatnost. Važno je da analiza bude pažljiva i da se ne pretvori u praćenje. Dobro rješenje obrađuje tačno ono što je potrebno za moderaciju.
- Transparentnost. Administrator treba razumjeti zašto je poruka izbrisana, i imati kontrolu nad pragovima.
Kamo se krećemo mi
Mod Assistant Bot razvija smjer AI-alata: semantičku moderaciju, anti-scam, sažetke rasprava i generisanje objava. Ideja je jednostavna — skinuti s administratora rutinu i hvatati ono što obični filteri ne vide, ostavljajući čovjeku kontrolu nad spornim. Detaljnije — na stranici AI-alati.
Zaključak
Spiskovi riječi više ne stižu za spamerima. AI-moderacija nije «hype», već sljedeći logičan korak: razumjeti značenje, a ne pogađati po slovima. Budućnost je već tu — i ozbiljno olakšava život vlasnicima zajednica.