Attualità
"Il bianco attacca il nero", canale bloccato per razzismo
Attorno agli algoritmi che bloccano i contenuti social c'è sempre stato un alone di mistero, specialmente quando si tratta di YouTube
Gaia Canestri | 23 February 2021

Negli ultimi anni sono sempre più numerosi i giovani che si stanno avvicinando al mondo degli scacchi. Dopo serie che hanno come protagonista proprio questo sport, come La regina degli scacchi, molte persone si sono dotate di scacchiera e pazienza per imparare a giocare come veri professionisti. Cimentarsi in ciò richiede tecnica e ragionamento, ma a spiegare tutto, dall'apertura con la Difesa siciliana alle mosse vincenti, ci sono vari canali YouTube. Tra di essi spicca Agadmator, che lo scorsa estate è stato bloccato per ventiquattro ore per presunto linguaggio offensivo.

Cosa è successo

Antonio Radić, youtuber croato classe 1987, compare per la prima volta sulla piattaforma nel 2017. Da ormai cinque anni gestisce un canale chiamato Agadmator's Chess Channel, in cui commenta le partite più celebri della storia e i tornei annuali. Con il tempo Radić ha raggiunto oltre un milione di iscritti che hanno seguito e apprezzato i suoi video, fino a quando lo scorso 28 giugno il canale è stato bloccato perché conteneva "linguaggio offensivo e dannoso". Dopo ventiquattro ore i contenuti sono stati ripristinati in assenza di ulteriori motivi per rimanere oscurati, con lo stesso YouTube che non ha fornito nessuna spiegazione per la sospensione temporanea. Così, due ricercatori del Language Technologies Institute della Carnegie Mellon University, Ashiqur R. KhudaBukhsh e Rupak Sarkar, hanno condotto uno studio, pubblicato a gennaio, che ha chiarito ogni dubbio sull'accaduto.

lo studio

I due ricercatori si sono posti delle domande: è possibile che gli attuali classificatori del linguaggio possano inciampare in discussioni scacchistiche benigne, classificandole erroneamente come incitamento all'odio? Se sì, quante volte succede? Lo studio si è basato su 681.995 commenti sotto 8.818 video di cinque canali YouTube molto popolari tra gli scacchisti. Il contenuto è stato analizzato da un software che classifica i contenuti offensivi, e con grande sorpresa quelle che di fatto erano semplici discussioni sulle partite svolte venivano classificate come incintamento all'odio. "Bianco che attacca il nero" e termini come "cattura", "minaccia", "attacchi a vicenda", "difesa indiana" e "attacco Marshall" - appartenenti al gergo scacchistico - avrebbero fatto scattare l'algoritmo, che ha provveduto bloccando il canale.

L'algoritmo contro l'hate speech

Attorno agli algoritmi di questo genere c'è sempre stato un alone di mistero, specialmente quando si tratta di YouTube, che non ha mai rilasciato nessun documento ufficiale sul suo funzionamento o sui criteri in base ai quali ci viene mostrato un video piuttosto che un altro. A fare luce su questo argomento sono stati tre ingegneri di Google, Paul Covington, Jay Adams e Emre Sargin, con una ricerca pubblicata nel 2016. Si evince che l'algoritmo non si occuperebbe solamente di studiare i nostri comportamenti e proporci i video più adatti alle nostre esigenze, ma anche di contrastare il cosiddetto hate speech. L'incitamento all'odio è un fenomeno sempre più diffuso sul web, specialmente nei commenti di video, post e articoli. Per questo motivo le diverse piattaforme hanno modificato il proprio sistema così da contrastare questo fenomeno. YouTube vieta esplicitamente i commenti offensivi e discriminatori, mentre Facebook - pur attuando la stessa politica - ammette messaggi con "chiari fini umoristici o satirici". Twitter, invece, non vieta né cita esplicitamente nel regolamento l'incitamento all'odio.

La sospensione del canale di Antonio Radić è stata dovuta ad un errore nella lettura dei commenti da parte dell'algoritmo, e quindi non effettivamente per la presenza di linguaggio offensivo e discriminatorio.

D'altronde, come affermano i due ricercatori, "nonostante le catture, i combattimenti, le torture e le uccisioni, nei 64 quadrati neri e bianchi i due colori raggiungono una rara uguaglianza che il resto del mondo deve ancora conoscere".

Commenti