Hamar urtez, mezularitza-aplikazioetako moderazioa hitz-zerrenden gainean egon da: stop-zerrenda bat sortzen zenuen, eta botak hitz horiek zituzten mezuak ezabatzen zituen. Ikuspegi sinple eta azkarra, baina ahultasun funtsezko bat du: ez du esanahia ulertzen. Eta spam-bidaltzaileek hori oso ondo dakite.
Iragazki arrunten arazoa
Stop-zerrenda bat segundotan saihesten da: «k a s i n o» hutsuneekin, letrak antzekoekin ordezkatuz, beste alfabeto batzuk, testuaren ordez pantaila-argazki bat. Aldaera guztiak harrapatzeko, zerrenda amaigabe zabaldu behar da, eta hala ere saihespen berriak agertzen dira. Azkenean, iragazkiak spama pasatzen uzten du edo mezu kalteonak ezabatzen hasten da.
Zer aldatzen duen adimen artifizialak
IA bidezko moderazioak ez du hitzekin lan egiten, esanahiarekin eta testuinguruarekin baizik:
- Analisi semantikoa. Modeloak mezua zeri buruzkoa den ebaluatzen du, ez zein letra dituen. Birformulatutako spama eta ezkutatutako publizitatea ez dira gehiago pasatzen.
- Iruzurren aurkakoa. Iruzur-eskemak («zozketa», «inbertsioak», «laguntzak kodea eskatzen du») esanahiaren arabera ezagutzen dira, formulazioa berria bada ere.
- Portaeraren analisia. Ez da testua bakarrik kontuan hartzen, eredua ere bai: maiztasuna, txantiloizko izaera, kontu berri baten portaera.
Ez babesa bakarrik
IA ez da soilik txarra ezabatzeko erabilgarria, ona sortzeko ere bai:
- Txaten laburpenak. Eztabaida luze baten laburpen labur bat: denbora aurrezten die bai administratzaileei bai kideei.
- Edukiaren sorkuntza. Argitalpen-zirriborroak brief labur batetik.
- Erantzunetarako laguntza. Iradokizunak laguntzarako eta FAQerako.
Zer izan behar den kontuan
IA ez da magia, eta zintzotasunez kontuan hartu beharreko ñabardurak ditu:
- Alarma faltsuak. Modelo bat ere ez da perfektua. Horregatik, IAk arau argiekin batera lan egin behar du, eta zalantzazko kasuen apelazio/eskuzko egiaztapenaren aukerarekin.
- Pribatutasuna. Garrantzitsua da analisia arretatsua izatea eta ez bihurtzea zaintza. Irtenbide on batek moderaziorako behar den zehazki prozesatzen du.
- Gardentasuna. Administratzaileak ulertu behar du zergatik ezabatu den mezu bat, eta atalaseen gaineko kontrola izan.
Nora goazen gu
Mod Assistant Bot IA tresnen norabidea garatzen ari da: moderazio semantikoa, iruzurren aurkakoa, eztabaiden laburpenak eta argitalpenen sorkuntza. Ideia sinplea da: administratzaileari errutina kendu eta iragazki arruntek ikusten ez dutena harrapatu, pertsonari zalantzazkoaren gaineko kontrola utziz. Gehiago — IA tresnak orrian.
Ondorioa
Hitz-zerrendek ez diote gehiago spam-bidaltzaileei jarraitzen. IA bidezko moderazioa ez da «hype», hurrengo urrats logikoa baizik: esanahia ulertu, letren arabera asmatu beharrean. Etorkizuna hemen dago dagoeneko, eta komunitate-jabeen bizitza asko errazten du.