Տասը տարի մեսենջերներում մոդերացիան հենվում էր բառերի ցուցակների վրա՝ ստեղծեցիր ստոպ-ցուցակ, բոտը ջնջում է այդ բառերով հաղորդագրությունները։ Մոտեցումը պարզ է ու արագ, բայց ունի հիմնարար թուլություն՝ այն չի հասկանում իմաստը։ Իսկ սպամերները դա հիանալի գիտեն։
Սովորական զտիչների խնդիրը
Ստոպ-ցուցակը շրջանցվում է վայրկյանների ընթացքում՝ «կ ա զ ի ն ո» բացատներով, տառերի փոխարինում նմաններով, լատինատառ կիրիլիցայի փոխարեն, սքրինշոթ տեքստի փոխարեն։ Բոլոր տարբերակները բռնելու համար ցուցակը ստիպված ես անվերջ ընդլայնել՝ և միևնույն է հայտնվում են նոր շրջանցումներ։ Արդյունքում զտիչը կա՛մ բաց է թողնում սպամը, կա՛մ սկսում ջնջել անվնաս հաղորդագրությունները։
Ինչ է փոխում արհեստական բանականությունը
AI-մոդերացիան աշխատում է ոչ թե բառերի, այլ իմաստի և համատեքստի հետ՝
- Իմաստային վերլուծություն։ Մոդելը գնահատում է, թե ինչի մասին է հաղորդագրությունը, ոչ թե ինչ տառեր կան դրանում։ Վերաձևակերպված սպամն ու քողարկված գովազդն այլևս չեն անցնում։
- Հակա-սկամ։ Խարդախության սխեմաները («խաղարկություն», «ինվեստիցիաներ», «աջակցությունը կոդ է խնդրում») ճանաչվում են ըստ իմաստի, նույնիսկ եթե ձևակերպումը նոր է։
- Վարքի վերլուծություն։ Հաշվի է առնվում ոչ միայն տեքստը, այլև օրինաչափությունը՝ հաճախությունը, ձևանմուշայնությունը, նոր հաշվի վարքը։
Ոչ միայն պաշտպանություն
AI-ն օգտակար է ոչ միայն վատը ջնջելու, այլև լավը ստեղծելու համար՝
- Զրույցների ամփոփում։ Երկար քննարկման համառոտ քաղվածք՝ խնայում է ժամանակ և՛ ադմիններին, և՛ անդամներին։
- Բովանդակության գեներացիա։ Գրառումների սևագրեր՝ ըստ կարճ բրիֆի։
- Օգնություն պատասխաններում։ Հուշումներ աջակցության և FAQ-ի համար։
Ինչն է կարևոր հիշել
AI-ն կախարդանք չէ, և ունի նրբություններ, որ ազնվորեն արժե հաշվի առնել՝
- Կեղծ գործարկումներ։ Ոչ մի մոդել կատարյալ չէ։ Այդ պատճառով AI-ն պետք է աշխատի հասկանալի կանոնների և վիճելի դեպքերի բողոքարկման/ձեռքով ստուգման հնարավորության հետ կապակցված։
- Գաղտնիություն։ Կարևոր է, որ վերլուծությունը լինի կոկիկ և չվերածվի հսկողության։ Լավ լուծումը մշակում է հենց այն, ինչ պետք է մոդերացիայի համար։
- Թափանցիկություն։ Ադմինիստրատորը պետք է հասկանա, թե ինչու է հաղորդագրությունը ջնջվել, և վերահսկողություն ունենա շեմերի վրա։
Ուր ենք շարժվում մենք
Mod Assistant Bot-ը զարգացնում է AI-գործիքների ուղղությունը՝ իմաստային մոդերացիա, հակա-սկամ, քննարկումների ամփոփում և գրառումների գեներացիա։ Գաղափարը պարզ է՝ ադմինիստրատորից հանել ռուտինը և բռնել այն, ինչ չեն տեսնում սովորական զտիչները՝ մարդուն թողնելով վիճելիի վերահսկողությունը։ Ավելի մանրամասն՝ AI-գործիքներ էջում։
Եզրակացություն
Բառերի ցուցակներն այլևս չեն հասցնում սպամերներին։ AI-մոդերացիան «հայպ» չէ, այլ հաջորդ տրամաբանական քայլը՝ հասկանալ իմաստը, ոչ թե գուշակել ըստ տառերի։ Ապագան արդեն այստեղ է՝ և այն զգալիորեն հեշտացնում է համայնքների տերերի կյանքը։