Tumblr ha un bot troppo puritano. O troppo stupido. Dal 17 dicembre, la piattaforma rimuoverà ogni contenuto pornografico, sessualmente esplicito o raffigurante nudi. Per permettere agli utenti di modificare o eliminare i post incriminati, sta già segnalando quali saranno esclusi. E sono iniziati i problemi. L'algoritmo sta marchiando immagini artistiche o del tutto innocenti. È una risposta, scomposta, al bando dall'App Store per contenuti pedo-pornografici.
Sulla nudità, Facebook e Instagram hanno norme particolarmente stringenti. Una rigidità che ha spinto a migrare su Tumblr chi cerca contenuti piccanti, ma anche artisti che desiderano maggiore libertà d'espressione. Le scelte di Tumblr sono scelte di Tumblr. Il problema è che non sta andando tutto liscio. Tra le immagini che la piattaforma bolla come proibite ci sono statue greche maschili, ma anche foto che non c'entrano nulla con la nudità. Alcuni utenti hanno segnalato che tra i propri post “a luci rosse” ci sono anche immagini di caverne, vasi, castissime vignette, fumetti e normali selfie.
Tumblr sta agendo per rispondere all'espulsione dall'Apple Store. Il 16 novembre scorso la piattaforma è stata esclusa dal negozio digitale della Mela per aver pubblicato immagini pedo-pornografiche capaci di bucare i controlli. “Siamo impegnati per contribuire alla creazione di un ambiente online sicuro per tutti gli utenti – aveva dichiarato Tumblr in una nota - e abbiamo una politica di tolleranza zero quando si tratta di contenuti che sfruttano gli abusi sui minori. Ogni immagine caricata sulla piattaforma viene confrontata con un archivio di immagini di abusi sessuali noti per far sì che non raggiungano la piattaforma”.
I filtri non hanno funzionato perché le immagini incriminate non erano ancora inserite nel database. Potrebbe quindi trattarsi di abusi non noti alle forze dell'ordine. “Stiamo continuamente valutando ulteriori azioni da compiere per migliorare e questa è la priorità assoluta per il nostro team”, ha concluso Tumblr. Non si sa ancora se e quando l'app verrà riammessa da Apple, anche se la rimozione delle immagini e le promesse della piattaforma dovrebbero essere passi concilianti. L'app è rimasta sempre disponibile su Play Store, il negozio digitale di Android. È chiaro però che stare fuori dal sistema iOS non è sostenibile, soprattutto per una piattaforma che non vive di certo il suo momento più brillante.
Al di là di casi in cui la distinzione è chiara (come per le immagini pedo-pornografiche), il tema della nudità e (ancor di più) quello dell'oscenità è discusso da tempo. Le grandi piattaforme, sia per questioni di opportunità che per limiti tecnologici, hanno scelto di dividere lecito e illecito con l'accetta. Su Facebook e Instagram, ad esempio, la discriminante è la visibilità dei capezzoli. Tanto che, qualche anno fa, ebbe un certo successo la campagna #Freethenipple (che si potrebbe tradurre con “Capezzoli liberi”) per denunciare l'ipocrisia dei social.
I paletti voluti da Mark Zuckerberg hanno portato a palesi distorsioni, come la cancellazione di opere d'arte che ritraggono corpi nudi. Nonostante gli sforzi delle piattaforme, capire cosa è davvero offensivo resta un rompicapo. Per diverse ragioni: è un campo scivoloso, soggettivo e sfumato; e richiede una comprensione del contesto che è operazione relativamente semplice per l'uomo ma complessa per l'intelligenza artificiale (che costituisce il grosso della barriera alla proliferazione di contenuti proibiti).
Lo scorso luglio sono state bloccate le inserzioni dell'ente perché ritraevano i nudi del maestro fiammingo del XVII secolo Peter Paul Rubens. Visitflanders, l'Ente del turismo delle Fiandre, aveva risposto con una lettera a Mark Zuckerberg, chiedendo maggiore buonsenso. La casa-museo di Rubens aveva inoltre ospitato una protesta ironica: un video in cui si invitavano tutti gli “amanti del nudo” con un account su Facebook a uscire dalla struttura.
Un'invenzione che aveva attirato l'attenzione del social network e portato, a settembre a un incontro tra ambasciatori di Menlo Park e Visitflanders. Risultato: Facebook si è impegnato a modificare il proprio algoritmo e a semplificare la procedura con cui contestare il blocco di nudi artistici. Peter De Wilde, ceo di Visitflanders aveva definito l'incontro “una svolta per il mondo dell’arte mondiale”.