Kümme aastat püsis modereerimine sõnumirakendustes sõnade nimekirjadel: seadsid stoppnimekirja — bot kustutab nende sõnadega sõnumid. Lähenemine on lihtne ja kiire, kuid sellel on fundamentaalne nõrkus: see ei mõista tähendust. Ja spämmerid teavad seda suurepäraselt.
Tavaliste filtrite probleem
Stoppnimekirjast pääseb mööda sekunditega: «k a s i i n o» tühikutega, tähtede asendamine sarnastega, ladina täht ükskõik, ekraanipilt teksti asemel. Et kõik variandid püüda, tuleb nimekirja lõputult laiendada — ja ikkagi ilmuvad uued möödahiilimised. Lõpuks kas laseb filter rämpsposti läbi või hakkab kustutama süütuid sõnumeid.
Mida tehisintellekt muudab
Tehisintellekti modereerimine töötab mitte sõnade, vaid tähenduse ja kontekstiga:
- Tähenduspõhine analüüs. Mudel hindab, millest sõnum räägib, mitte millised tähed selles on. Ümbersõnastatud rämpspost ja varjatud reklaam lakkavad läbi minemast.
- Pettusevastane kaitse. Petuskeemid («loosimine», «investeeringud», «tugi palub koodi») tuntakse ära tähenduse järgi, isegi kui sõnastus on uus.
- Käitumisanalüüs. Arvesse võetakse mitte ainult tekst, vaid ka muster: sagedus, mallilikkus, uue konto käitumine.
Mitte ainult kaitse
Tehisintellekt on kasulik mitte ainult halva kustutamiseks, vaid ka hea loomiseks:
- Vestluste kokkuvõtted. Pika arutelu lühikokkuvõte — säästab aega nii administraatoritele kui ka liikmetele.
- Sisu genereerimine. Postituste mustandid lühikese lähteülesande järgi.
- Abi vastustes. Vihjed toele ja KKK-le.
Mida on tähtis meeles pidada
Tehisintellekt pole maagia ja sellel on nüansse, mida on aus arvesse võtta:
- Valed käivitumised. Ükski mudel pole ideaalne. Seetõttu peaks tehisintellekt töötama koos arusaadavate reeglite ja võimalusega vaieldavaid juhtumeid vaidlustada/käsitsi kontrollida.
- Privaatsus. On tähtis, et analüüs oleks korrektne ega muutuks jälgimiseks. Hea lahendus töötleb täpselt seda, mida modereerimiseks vaja.
- Läbipaistvus. Administraator peaks aru saama, miks sõnum on kustutatud, ja omama kontrolli lävendite üle.
Kuhu meie liigume
Mod Assistant Bot arendab AI-tööriistade suunda: tähenduspõhist modereerimist, pettusevastast kaitset, arutelude kokkuvõtteid ja postituste genereerimist. Idee on lihtne — võtta administraatorilt rutiin ja püüda seda, mida tavalised filtrid ei näe, jättes inimesele kontrolli vaieldava üle. Lähemalt — AI-tööriistade lehel.
Järeldus
Sõnade nimekirjad ei jõua enam spämmeritele järele. Tehisintellekti modereerimine pole «hüpe», vaid järgmine loogiline samm: mõista tähendust, mitte arvata tähtede järgi. Tulevik on juba siin — ja see lihtsustab tugevalt kogukondade omanike elu.