L'arma di Google contro l'odio nel web. Perspective

Google si schiera al fianco di editori e giornali contro i “leoni da tastiera”. La nuova arma, ancora in fase sperimentale, si chiama Perspective e promette di migliorare le conversazioni online combattendo l’odio in rete. Si tratta di una tecnologia che, usando il machine learning, è in grado di riconoscere e identificare i commenti offensivi che compaiono, gratuitamente, sotto ogni articolo.

ADV

I numeri (e l’autocensura)

ADV

Jared Cohen, classe 1981, presidente di Jigsaw (ex Google Ideas), l’incubatore tecnologico dell’azienda di Mountain View, presenta Perspective partendo da un numero significativo.

72%: secondo l’istituto di ricerca Data & Society è la percentuale di americani che, nel 2016, è stata testimone di questo fenomeno;
la metà di questi è stata coinvolta direttamente in questi flussi di odio;
un terzo, per paura delle reazioni, ha evitato di commentare pur avendo la possibilità di contribuire, in modo costruttivo, alla discussione.

L’aiuto della community

Sono gli utenti a giocare un ruolo fondamentale nello sviluppo di Perspective. I commenti che la tecnologia prende in esame, infatti, vengono contrassegnati con uno “score”. Un punteggio assegnato in base alle indicazioni che i lettori hanno dato su commenti simili e segnalati per il loro contenuto volgare e “tossico”.

Tutto ciò farà sì che Perspective continui a evolversi e a migliorare. Esperienza dopo esperienza. In fase di costruzione, infatti, questa tecnologia ha imparato a identificare decine di migliaia di ingiurie e insulti. Commenti che sono stati, prima di tutto, selezionati manualmente dai ricercatori di Google. Una base fondamentale che sarà implementata continuamente dai nuovi esempi che gli utenti proporranno in ogni singola discussione.

La partnership con il New York Times

La fase beta di Perspective è stata testata, negli scorsi mesi, grazie ad un lavoro congiunto con il New York Times. Più precisamente con il team che, ogni giorno, controlla e modera oltre 11mila commenti. Tutti prima della pubblicazione. Un numero elevatissimo che ha portato il giornale a fare una scelta dolorosa: aprire alla discussione solo il 10% degli articoli. Con la tecnologia di Google è stato possibile costruire dei modelli che semplifichino queste operazioni di analisi e valutazione. Uno strumento che consentirà di aumentare questa percentuale così bassa.

Leggi anche: cosa ho imparato moderando i commenti

Si parte con l’inglese

Per ora Perspective funziona solo nell’analisi di commenti scritti in inglese: “Ma già nel prossimo anno ci piacerebbe avviare nuove collaborazioni per offrire modelli che funzionino anche in lingue diverse” ricorda Cohen. E non solo. Le applicazioni potrebbero riguardare anche altri contesti: “Ad esempio potrebbe essere capace di identificare commenti riconosciuti come attacchi personali oppure quelli che, pur espressi senza offendere, non c’entrino nulla con il tema trattato”. Un anti-spam, insomma.

Il ruolo dei giornali

Gli scenari che Cohen descrive sono diversi. Perspective è innanzitutto uno strumento che potrà cambiare le regole legate alla moderazione dei commenti e semplificare la vita dei social media manager. Ma avrà anche un ruolo fondamentale nel sensibilizzare le community sull’importanza dell’apporre la propria firma e le proprie dichiarazioni sul web. Abbatterà cioè le distanze che, nella mente di molte persone, permangono tra reale e virtuale. Tra voce e tastiera: “Ma potrete direttamente vedere il livello di “tossicità” del vostro intervento nel momento in cui lo state scrivendo”.

L’obiettivo finale è quello di provare a invertire una rotta che sembra portare molte piattaforme verso una deriva d’odio e rabbia. Combattere le fake news da un lato e apporre un veto all’odio, grazie all’intelligenza artificiale, dall’altro. Due ingredienti che mescolati insieme potrebbero farci cambiare prospettiva sul futuro del giornalismo online.