Dhjetë vjet moderimi në mesazherë mbahej mbi lista fjalësh: krijove një stop-listë — boti fshin mesazhet me ato fjalë. Qasje e thjeshtë dhe e shpejtë, por me një dobësi themelore: ajo nuk e kupton kuptimin. Dhe spammerët e dinë këtë shumë mirë.
Problemi i filtrave të zakonshëm
Stop-lista anashkalohet për sekonda: «k a z i n o» me hapësira, zëvendësim shkronjash me të ngjashme, alfabete të tjera, pamje ekrani në vend të tekstit. Për të kapur të gjitha variantet, lista duhet zgjeruar pafundësisht — dhe prapëseprapë shfaqen anashkalime të reja. Në fund filtri ose e lëshon spamin, ose fillon të fshijë mesazhe të padëmshme.
Çfarë ndryshon inteligjenca artificiale
Moderimi me IA nuk punon me fjalët, por me kuptimin dhe kontekstin:
- Analiza semantike. Modeli vlerëson për çfarë është mesazhi, jo cilat shkronja ka. Spami i riformuluar dhe reklama e maskuar nuk kalojnë më.
- Anti-mashtrimi. Skemat mashtruese («shorte», «investime», «mbështetja kërkon kodin») njihen sipas kuptimit, edhe nëse formulimi është i ri.
- Analiza e sjelljes. Merret parasysh jo vetëm teksti, por edhe modeli: shpeshtësia, shabllonizmi, sjellja e llogarisë së re.
Jo vetëm mbrojtje
IA është e dobishme jo vetëm për të fshirë të keqen, por edhe për të krijuar të mirën:
- Përmbledhjet e bisedave. Ekstrakt i shkurtër i një diskutimi të gjatë — kursen kohë si për administratorët, ashtu edhe për anëtarët.
- Gjenerimi i përmbajtjes. Skica postimesh sipas një brifi të shkurtër.
- Ndihma me përgjigjet. Sugjerime për mbështetjen dhe FAQ.
Çfarë është e rëndësishme të mbani mend
IA nuk është magji, dhe ka nuanca që duhen marrë parasysh me ndershmëri:
- Aktivizimet e rreme. Asnjë model nuk është i përsosur. Prandaj IA duhet të punojë në kombinim me rregulla të qarta dhe me mundësinë e apelimit/kontrollit manual të rasteve të diskutueshme.
- Privatësia. Është e rëndësishme që analiza të jetë e kujdesshme dhe të mos kthehet në përgjim. Një zgjidhje e mirë përpunon saktësisht atë që nevojitet për moderimin.
- Transparenca. Administratori duhet të kuptojë pse është fshirë një mesazh dhe të ketë kontroll mbi pragjet.
Ku po shkojmë ne
Mod Assistant Bot e zhvillon drejtimin e mjeteve të IA-së: moderimin semantik, anti-mashtrimin, përmbledhjet e diskutimeve dhe gjenerimin e postimeve. Ideja është e thjeshtë — t'ia heqim administratorit rutinën dhe të kapim atë që filtrat e zakonshëm nuk e shohin, duke ia lënë njeriut kontrollin mbi të diskutueshmen. Më shumë — në faqen Mjetet e IA-së.
Përfundimi
Listat e fjalëve nuk u dalin më pas spammerëve. Moderimi me IA nuk është «hype», por hapi tjetër logjik: të kuptosh kuptimin, jo të hamendësosh sipas shkronjave. E ardhmja tashmë është këtu — dhe ajo ua lehtëson shumë jetën pronarëve të komuniteteve.