L’intelligenza artificiale aiuta Facebook a rimuovere elementi d’odio dal social network

ULTIMO AGGIORNAMENTO 16:10

Facebook: 97% contenuti odio rimossi sono individuati con AI, che per bullismo e molestie, ha un’individuazione automatica passata al 49%

Facebook contro i contenuti d’odio grazie all’IA – MeteoWeek.com

Migliora su Facebook, grazie all’Intelligenza artificiale, l’individuazione dei contenuti d’odio.

Il 97% di quelli rimossi è stato individuato dai sistemi automatizzati prima che qualsiasi utente li segnalasse.

Nel trimestre precedente la percentuale era al 94%, l’80,5% alla fine del 2019, nel 2017 era al 24%.

E’ uno dati che emerge dal Report periodico sull’applicazione degli Standard della community che mostra come la società ha affrontato questo tipo di contenuti.

Riguardo altri due argomenti sensibili, bullismo e molestie sessuali l’individuazione grazie all’AI è passata su Facebook dal 26% nel terzo trimestre 2020 al 49% nel quarto trimestre, e su Instagram dal 55% all’80%.

Un’altra area che ha fatto progressi con l’AI è il modo in cui i sistemi funzionano in più lingue, anche quelle ampiamente parlate come spagnolo e arabo: la quantità di contenuti di incitamento all’odio rimossa ha raggiunto 26,9 milioni, rispetto ai 22,1 del trimestre precedente.

Stiamo lentamente proseguendo nel reintegrare la nostra forza lavoro addetta alla revisione dei contenuti a livello globale – spiega Guy Rosen, VP of Integrity di Facebookanche se prevediamo che quest’area sarà influenzata dal Covid-19 fino a quando un vaccino non sarà ampiamente disponibile. A causa della limitata capacità, diamo priorità ai contenuti più dannosi, come i contenuti di suicidio e autolesionismo, che vengono esaminati dai nostri team“.

Per il 2021 la società, “intende condividere ulteriori metriche su Instagram e aggiungere nuove categorie di policy su Facebook” e continuerà “a ottimizzare le tecnologie e gli sforzi per tenere i contenuti dannosi fuori dalle app”

Il colosso ha fatto anche un cenno al comitato indipendente per la valutazione dei sistemi di moderazione, l’Oversight Board, che sta valutando l’esclusione di Donald Trump (che Twitter ha confermato a tempo indeterminato) e dovrebbe decidere entro la primavera:

Un processo che prenderà piede pienamente quest’anno”.


Leggi Anche:


Cosa sono i contenuti d’odio?

Fake news rimosse dall’IA – Meteoweek.com

Mark Zuckerberg cerca di placare le polemiche e fermare la fuga della pubblicità delle grandi aziende dalla sua piattaforma.

Facebook inizierà a ‘etichettare’ e segnalare tutti i post che includono informazioni legate agli avvenimenti importanti, come elezioni ad esempio, con un link per incoraggiare gli utenti a verificare i fatti nel nuovo hub per le elezioni della società.

Zuckerberg annuncia anche una stretta su un ampia categoria di contenuti d’odio nelle pubblicità, vietando ogni spot che identifica una razza, una etnia, un orientamento sessuale o un genere come un “pericolo”.

Non c’e’ alcuna eccezione per la politica in nessuna delle azioni che sto annunciando oggi“, ha dichiarato il fondatore di Facebook.

Negli ultimi anni, Facebook ha dimostrato una certa indulgenza nei confronti dei contenuti “controversi”, sia per motivi economici che per motivi politici, e solo il tempo potrà dirci se il nuovo impegno nel combattere l’hate speech sarà preservato nel tempo.

La scissione con un certo tipo di utenza sembra comunque definitiva, se non altro perché gli esponenti radicali del social, insoddisfatti dall’imposizione dei fact-checking, stanno sempre più orbitando verso alternative omologhe più permissive.