IA e social: su Facebook e Instagram rimossi 18 milioni di contenuti

Dall’inizio della pandemia all’aprile 2021, il gruppo Facebook afferma di aver rimosso più di 18 milioni di contenuti a livello globale grazie all’aiuto dell’IA e dei suoi algoritmi

Nel suo usuale “Rapporto sull’applicazione degli Standard della Comunità”, Facebook ha mostrato i risultati raggiunti nel bloccare i contenuti proibiti sui due social network di sua proprietà. Il report quadrimestrale evidenzia come – dall’inizio della pandemia all’aprile 2021 – su Facebook e Instagram siano stati rimossi più di 18 milioni di contenuti a livello globale in violazione delle policy sulla disinformazione e sui danni legati al Covid-19. Un numero di tutto rispetto, favorito dall’implementazione dell’IA e dei suoi algoritmi di moderazione. Certo, ogni tanto non sono mancati alcuni errori curiosi dovuti a “fraintendimenti” e traduzioni errate, ma bisogna ugualmente ammettere che il lavoro svolto dal gruppo Facebook in questo ambito è sicuramente degno di nota. La società di Mark Zuckerberg ribadisce infatti come la percentuale di contenuti dannosi che sfuggono agli algoritmi sia ormai bassissima.

“Il Covid-19 continua ad essere un importante problema di salute pubblica, per questo ci impegniamo a dare accesso alle persone ad informazioni autorevoli, comprese quelle sui vaccini“, afferma Guy Rosen, vicepresidente “dell’Integrità” di Facebook.

LEGGI ANCHE: Facebook accelera l’organismo di vigilanza: esaminerà richieste di eliminazione contenuti

Tuttavia, l’azienda con sede a Menlo Park sembra intenzionata a compiere un ulteriore passo in avanti, con lo sviluppo di un’intelligenza artificiale capace di capire il contesto di un contenuto anche se composto da foto e video oltre che testo. Ma per il momento rimaniamo al presente, considerando i numeri recentemente resi noti dalla società.

Facebook e Instagram dicono addio ai contenuti dannosi: i numeri

Le statistiche su base globale riportano che l’intervento dei moderatori e ancor più dell’IA di Facebook ha raggiunto livelli di efficacia notevoli. Nel primo trimestre del 2021, la diffusione di nudità di adulti sia su Facebook che su Instagram è stata ad esempio ridotta allo 0,03% sul totale dei contenuti, con 28 milioni di contenuti bloccati prima ancora che venissero segnalati dagli utenti. I contenuti che incitano all’odio sono invece calati allo 0,05%; quelli violenti allo 0,01-0,02% su Instagram e 0,03-0,04% su Facebook (16 milioni di post eliminati), in calo rispetto allo 0,05% dello scorso trimestre. Per avere un’idea dei passi avanti compiuti da Facebook negli ultimi anni nella rimozione dei contenuti d’odio basti pensare che nel quarto trimestre del 2017 il tasso di rilevamento proattivo (quando la rimozione avviene prima della segnalazione degli utenti) era del 23,6%, mentre oggi è del 97%.

Ma gli spunti del report non finiscono qui: nel primo trimestre 2021 Facebook dichiara di essere intervenuto su 8,8 milioni di contenuti di bullismo e molestie, in aumento rispetto ai 6,3 milioni del quarto trimestre 2020. Su Instagram, invece, la società è intervenuta su 5,5 milioni di contenuti di bullismo e molestie (5 milioni nel quarto trimestre 2020). Inoltre, su Facebook ha agito su 9,8 milioni di contenuti di odio organizzato e 25,2 milioni di contenuti di incitamento all’odio.

LEGGI ANCHE: Facebook: una IA per capire i contenuti dei video, ecco a cosa servirà

L’aggiornamento dell’IA di Facebook

E riguardo la “nuova IA”, il Chief Technical Officer (CTO) Mike Schroepfer afferma: “Stiamo lavorando ad una nuova IA capace di analizzare nello stesso tempo testi, immagini e video, controllando se il contenuto viola una o più norme. Parliamo di un approccio molto ampio che va oltre il semplice testo. Una foto innocua accompagnata da un testo altrettanto innocuo se preso singolarmente, possono avere un significato completamente diverso se messi assieme. Fino ad ora queste minuzie erano considerate fuori portata per un’intelligenza artificiale. Ora stiamo superando questo ostacolo, passando dall’analisi del dettaglio a quello del contesto, nel quale i singoli elementi sono confrontabili anche con quanto pubblicato in passato”.