La scienza del “divieto di evasione” di Twitch è una tattica anti-odio più grande di quanto si possa pensare

Twitch, il servizio di live streaming che si rivolge ai giocatori, è cresciuto in popolarità da quando è stato acquisito da Amazon nel 2014, ma Tossicità anche sulla piattaforma. Twitch questa settimana ha compiuto un passo importante nell’affrontare la funzione “chat” simile all’applauso, andando oltre il solito approccio basato sul dizionario per segnalare un linguaggio inappropriato o offensivo.

Il Martedì è stata introdotta la nuova bandiera di “evasione del divieto” È arrivato con una quantità sorprendente di clamore e mette Twitch in grado di fare ciò che molte altre piattaforme non fanno. L’azienda non è solo interessata a creare un account “sockpuppet”; Lei giura di schiacciarla.

Attacchi rotanti

Praticamente qualsiasi piattaforma online moderna affronta lo stesso problema: gli utenti possono partecipare, visualizzare e commentare i contenuti con poco più di un indirizzo e-mail. Se vuoi dire cose cattive su Ars Technica online, ad esempio, puoi creare un gran numero di nuovi account su diversi siti in pochi minuti. La tua vera piccola folla anti-Ars richiede poco più di una serie di indirizzi email gratuiti. Se il servizio richiede una qualche forma di autenticazione a due fattori, puoi semplicemente collegare hardware fisico di backup o creare numeri di telefono aggiuntivi.

In termini meno ipotetici, i creatori di Twitch sono alle prese con questo problema di “odio della folla” da un po’ di tempo, con il problema che ha raggiunto il suo apice dopo Twitch. Aggiunta la categoria “LGBTQIA +”. Gli utenti abusivi hanno addebitato discorsi di odio altamente focalizzati sul laser, di solito diretti a giovani creatori che possono essere scoperti nella directory delle categorie di Twitch. come Spiegato a settembre:

Sebbene Twitch includa strumenti integrati per bloccare o contrassegnare i messaggi che attivano un dizionario pieno di termini volgari e odiosi, molti dei più grandi autori di crimini d’odio si sono rivolti ai loro dizionari strumenti di pettinatura.

Questi strumenti consentono ai trasgressori di eludere gli strumenti di moderazione di base perché costruiscono parole utilizzando caratteri non latini e possono generare migliaia di copie di insulti infami mescolando e abbinando i caratteri, apparendo così abbastanza vicino alla parola originale. Il loro potere di odio e intolleranza esplode grazie a un contesto che trasforma parole innocenti in insulti mirati, a seconda del gruppo emarginato a cui prendono di mira.

Tuttavia, combattere questi attacchi a livello di scansione del dizionario non è stato tagliato e asciugato. Come ti dirà qualsiasi utente di social media, il contesto è importante, soprattutto quando il linguaggio si evolve e quando molestatori e aggressori scelgono termini apparentemente innocenti per colpire e abusare delle comunità emarginate.

Dubbi sul lato server

La scienza del “divieto di evasione” di Twitch ha un approccio diverso. Utilizza le informazioni lato server di Twitch sulla creazione dell’account per determinare se l’account appena creato sembra provenire da qualcuno che ha violato i termini di servizio del sito e quindi ha creato un altro account. Se l’account è contrassegnato, l’utente in questione non noterà nulla di diverso, ma i suoi operatori e moderatori vedranno i messaggi dell’utente atterrare in un silo di moderazione di “ban evasion”. Questa pratica è generalmente nota come “shadowbanning” poiché i messaggi sembrano funzionare bene per la persona bloccata, ma nessun altro li vede nel feed della chat.

Se l’account è stato moderato per errore o se l’operatore non vede alcun problema con i messaggi dell’utente segnalato, l’utente segnalato può essere sbloccato e riportato alla chat pubblica. Altrimenti, il canale può espellere/bannare l’utente taggato o lasciare l’account nell’ombra. (Twitch offre anche una versione più blanda di questo flag che lascia intatte le funzionalità di chat dell’utente ma avvisa gli amministratori che l’account sembra sospetto.)

La mossa sembra dividere la differenza tra chiudere immediatamente gli account sospetti e consentire loro di vagare liberamente e senza controllo attraverso le colline e le valli di Twitch. Segue Nuovo interruttore opzionale, lanciato a fine settembre, per i singoli canali. Gli host possono scegliere di limitare le funzionalità di chat agli utenti che hanno verificato il proprio numero di telefono e/o sono stati su Twitch per un certo periodo di tempo.

Twitch sta sostanzialmente riconoscendo qualcosa che i siti di social media soggetti a “condivisione” odiano con cui confrontarsi: esistono account falsi. e Possono avvelenare qualsiasi piattaforma su cui sono costruiti. Questa idea tende a contrastare con le metriche di cui gli operatori del sito amano vantarsi quando cercano partner pubblicitari; I social media preferiscono non aggiungere asterischi a un numero qualsiasi di MAU quando si impostano le tariffe degli annunci.