Декаду ся модерація месенджерів опирала на списы слов: наставите стоп-лісту і бот змаже повідомлїня з тыма словами. Просте і скоре, але з основнов слабостёв: не розумі змысел. А спамеры то добрї знають.
Проблем з простыма філтрами
Стоп-ліста ся обыйде за секунды: роздїлены буквы, подобны знакы, латиниця наміст кириликы, скріншот наміст текста. Жебы хопити кажду варіанту, треба бесконечно росшыряти лісту — а надале ся появляють новы обходы. На конець філтер або пропущать спам або зачинать мазати безшкодны повідомлїня.
Што мінить ШІ
ШІ-модерація робить не зо словами, але зо змыслом і контекстом:
- Семантична аналіза. Модель судить, о чім є повідомлїня, не котры буквы обсягує. Переформулованый спам і замаскованы рекламы перестануть проходити.
- Анти-підвод. Підводницькы схемы („дарунок“, „інвестіція“, „підпора жадать код“) ся розознавають по змыслї, гей і з новым формулованём.
- Аналіза справованя. Не лем текст, але взорець: частость, шаблонность, справованя нового конта.
Не лем оборона
ШІ є хосенный не лем на одстранёваня зла, але на творїня добра:
- Сумарї бесїд. Короткый переглад довгой дискузії — шетрить час адмінам і членам.
- Творїня контенту. Чорнопісы постів з короткой інштрукції.
- Поміч при одповідях. Понукы про підпору і ЧЗВ.
Што треба мати на памяти
ШІ не є маґія, і мать нюансы, котры варта честно припознати:
- Хыбны позітівы. Жадна модель не є доконала. Прото ШІ мать робити вєдно з ясныма правилами і способом на одволаня/ручный переглад граничных припадів.
- Приватность. Аналіза мать быти обережна і не змінити ся на слїдованя. Добре рїшыня спрацовує точно тото, што є потребне про модерацію.
- Транспарентность. Адмін мать розуміти, прочасо повідомлїня было одстранене, і контроловати прагы.
Куды ідеме
Mod Assistant Bot розвивать ШІ-інструменты: семантичну модерацію, анти-підвод, сумарї дискузій і творїня постів. Ідея є проста — зняти рутину з адміна і хопити тото, што просты філтры пропущають, при чім оставити чоловіка на контролї граничных припадів. Дознайте ся веце на сторінцї ШІ-інструменты.
Заключіня
Списы слов уж не годны стигнути спамерів. ШІ-модерація не є гайп, але дальшый лоґічный крок: розуміти змысел наміст догадованя по буквах. Будучность є уж ту — і значно облегшує жывот властникам сполків.