Oamenii de știință au dezvoltat un instrument care găsește insultele criptate pe internet

Într-un efort de a menține oamenii în siguranță față de astfel de reprezentanți ai spațiului cibernetic, oamenii de știință au dezvoltat un instrument unic de capcană pentru insulte, relatează focus.ua.

Toxicitatea pe internet evoluează pe măsură ce oamenii găsesc modalități de a eluda sistemele de moderare, simțindu-se complet nepedepsiți. Deghizând conținutul malițios prin tehnici precum înlocuirea literelor cu numere, combinarea cuvintelor sau adăugarea de spații și simboluri atunci când scriu insulte, utilizatorii rău intenționați ocolesc filtrele tradiționale bazate pe cuvinte cheie și răspândesc negativitatea pe internet, ceea ce oamenii de știință au decis să combată, relatează The Conversation.

Un astfel de comportament și ingeniozitatea atacatorilor reprezintă o problemă serioasă pentru platformele online, în special pentru grupurile vulnerabile, care sunt afectate în mod disproporționat de astfel de tactici, spune Johnny Chan, lector în cadrul Școlii de Afaceri, la Universitatea din Auckland.

Ca răspuns la aceste metode sofisticate, el și echipa sa au dezvoltat un nou instrument care îmbunătățește apărarea existentă împotriva hărțuitorilor online. Potrivit unui studiu publicat în revista MethodsX, instrumentul nu înlocuiește filtrele existente, ci preprocesează textul prin eliminarea formatării manipulatoare, facilitând detectarea conținutului rău intenționat.

Procesul său implică simplificarea textului prin eliminarea caracterelor inutile, standardizarea variațiilor, cum ar fi greșelile de scriere, și identificarea modelelor care maschează cuvintele ofensatoare. Această abordare integrată face ca toxicitatea ascunsă să fie mai transparentă pentru instrumentele automate de moderare, ceea ce le face mai eficiente, afirmă autorii.

Aplicarea acestui instrument într-o varietate de medii online oferă beneficii sociale ample și protecție pentru milioane de persoane. Platformele social media pot oferi un spațiu mai sigur prin minimizarea expunerii la insulte ascunse, ceea ce este esențial pentru protejarea utilizatorilor mai tineri și mai vulnerabili de hărțuirea online, spune Chan.

Pe de altă parte, pentru întreprinderi, sistemul servește drept apărare împotriva campaniilor ascunse de defăimare, permițând luarea de măsuri rapide pentru protejarea reputației mărcii. Politicienii și organizațiile preocupate de menținerea unei dezbateri publice sănătoase pot utiliza, de asemenea, instrumentul pentru a menține dialoguri respectuoase, în special în cazul dezbaterilor aprinse sau sensibile.

Această inovație reprezintă un progres semnificativ în moderarea conținutului. Ea arată cum îmbunătățirile incrementale în detectarea manifestărilor subtile de toxicitate pot avea un impact profund asupra siguranței interacțiunilor umane online și asupra îmbunătățirii bunăstării psihologice a adolescenților și copiilor online. Pe măsură ce comunicarea digitală evoluează, evoluțiile viitoare ar putea include analize contextuale mai subtile care să ia în considerare dinamica conversației, nuanțele culturale și intențiile, analizând astfel nu numai ceea ce se spune, ci și cum și de ce este exprimat.

Autorii sunt de părere că îmbunătățirea sistemelor de moderare online este un proces continuu și foarte important. Instrumentele viitoare vor include probabil o mai bună înțelegere contextuală, care va fi mai eficientă în recunoașterea subtilităților comunicării umane. Prin integrarea acestor instrumente în sistemele de moderare existente, platformele se pot aștepta să reducă toxicitatea nedetectată, creând medii și comunități online mai favorabile.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.