Per dece anni a muderazione in i messenger s'hè basata nant'à liste di parolle: metti una lista di parolle pruibite — u bot sguassa i messaghji cù quelle parolle. L'appròcciu hè sèmplice è rapidu, ma hà una debulezza fundamentale: ùn capisce micca u sensu. È i spammer u sànnu bè.
U prublema di i filtri cumuni
Una lista di parolle si aggira in seconde: «c a s i n ò» cù spazii, sustituzione di lèttere cù simili, latinu à u postu di u cirillicu, screenshot à u postu di testu. Per piglià tutte e varianti, a lista ci vole à allargà la à l'infinitu — è purtantu appàrenu novi mezi d'aggirà la. À a fine, u filtru o lascia passà u spam, o principia à sguassà messaghji innucenti.
Ciò chì cambia l'intelligenza artificiale
A muderazione IA ùn travaglia micca cù e parolle, ma cù u sensu è u cuntestu:
- Analisi di u sensu. U mudellu valuta di chì tratta u messaghju, micca chì lèttere ci sò. U spam riformulatu è a publicità camuffata cèssanu di passà.
- Anti-imbrogliu. I schemi di truffa («distribuzione», «investimenti», «l'assistenza dumanda un codice») sò ricunnisciuti per u sensu, ancu s'è a furmulazione hè nova.
- Analisi cumpurtamentale. Ùn si piglia micca solu u testu, ma ancu u schema: a frequenza, u carattere ripetitivu, u cumpurtamentu d'un contu novu.
Ùn hè micca solu prutezzione
L'IA hè ùtile micca solu per sguassà u male, ma ancu per creà u bonu:
- Riassuntu di cunversazioni. Un cortu riassuntu d'una longa discussione — risparmia tempu à l'amministratori è à i membri.
- Generazione di cuntenutu. Brutti di posti da un cortu riassuntu.
- Aiutu in e risposte. Suggerimenti per l'assistenza è u FAQ.
Chì ci vole à tene à mente
L'IA ùn hè micca magia, è hà e so sfumature chì cunvene à cunsiderà onestamente:
- Falsi pusitivi. Nisun mudellu hè perfettu. Per quessa l'IA deve travaglià inseme cù regule chjare è a pussibilità d'appellu/verìfica à manu di i casi cuntesi.
- Cunfidenzialità. Hè impurtante chì l'analisi sìa accurata è ùn diventi micca surveglianza. Una bona suluzione tratta esattamente ciò chì ci vole per a muderazione.
- Trasparenza. L'amministratore deve capisce perchè un messaghju hè statu sguassatu, è avè u cuntrollu nant'à e sogliuline.
Duv'ellu andemu
Mod Assistant Bot sviluppa a direzzione di i strumenti IA: muderazione per sensu, anti-imbrogliu, riassuntu di discussioni è generazione di posti. L'idea hè sèmplice — toglie à l'amministratore a rutina è piglià ciò chì ùn vèdenu i filtri cumuni, lascendu à l'omu u cuntrollu di u cuntesu. Di più — nant'à a pàgina strumenti IA.
Cunclusione
E liste di parolle ùn tènenu più u passu cù i spammer. A muderazione IA ùn hè micca un «hype», ma u pròssimu passu lògicu: capisce u sensu, micca induvinà per lèttere. L'avvene hè digià quì — è simplifica assai a vita à i prupietarii di cumunità.