InfoAut
Immagine di copertina per il post

Facebook: se i contenuti sono censurati da umani e intelligenza artificiale

||||

In un articolo pubblicato dal The Guardian il 21 maggio e che ha raggiunto in poche ore migliaia di interazioni (Mi Piace, Commenti e Condivisioni), vengono rivelate alcune delle regolamentazioni interne di Facebook su cui si struttura l’operato dei moderatori del Social Network per l’approvazione o la rimozione di contenuti potenzialmente sensibili. Queste sono composte da diverse decine di documenti contenenti indicazioni e politiche aziendali riguardanti svariate tematiche, tra le quali: la sessualità esplicita, la violenza, il linguaggio, le immagini esplicite, il terrorismo e così via.

Fonti interne all’azienda di casa Zuckerberg e la stessa Monika Bickert, Head of Global policy Management di Facebook, affermano come la piattaforma sia effettivamente molto grande e cresciuta troppo in fretta per poter controllare manualmente tutti i contenuti condivisi.

A tale scopo esistono dei moderatori, figure professionali che in pochi secondi devono analizzare contenuti campione definendoli pubblicabili o meno e le cui decisioni vengono poi studiate da algoritmi in grado di auto-apprendere (machine learning) per poter analizzare la mole di dati che viene costantemente condivisa attraverso il social network a partire dall’emulazione del comportamento dei rater (NdA, anche in Google sono presenti tecnologie simili che sfruttano moderatori definiti “Quality Rater” il cui operato viene emulato e migliorato grazie all’algoritmo RankBrain).

In questo modo un contenuto può essere pubblicato o meno in base a delle decisioni precedentemente metabolizzate. Ma come avviene il processo decisionale dei moderatori prima che le macchine lo emulino?
Come mai alcuni contenuti riguardanti atti di violenza non vengono censurati ma al massimo viene avvisato il lettore della potenziale natura esplicita dei contenuti?

E’ ancora la Bickert a risponderci, parlando di “accettazione di alcuni contenuti espliciti al fine di stimolare un dibattito su questioni globali e non”, aggiungendo che “tali contenuti possono generare consapevolezza” citando come esempi gli abusi su minori, la violenza su animali e video e immagini recanti scene di guerra o altro.

Negli ultimi tempi anche la questione delle Fake News è entrata nel pieno del dibattito ed i Big hanno iniziato ad utilizzare contro-misure per mantenere il livello di credibilità della piattaforma agli occhi degli utenti, si veda l’introduzione ancora in via sperimentale del Fact Check di Google.

Non da meno si sta rivelando Facebook, lo stesso Zuckerberg ha infatti dichiarato che la piattaforma si sta muovendo nell’ottica di bloccare la diffusione di notizie false.

Il nodo che si apre è tutt’altro che esiguo: l’etica e la morale passano attraverso le società dei Big Data. Mediante la preferenza espressa da umani (in qualità di rater), algoritmi di Intelligenza Artificiale studieranno il prodotto dell’analisi umana e dalle interazioni sviluppate dai vari users per migliorarsi auto-apprendendo al fine di offrire una “migliore” esperienza utente, subordinando il processo alla necessità di mantenere un livello di gradimento della piattaforma elevato da parte di chi la utilizza. Questo processo rimane opaco agli utenti. Non vi è nessun controllo sul giudizio che i raters danno dei contenuti, eppure come tutti gli esseri umani avranno una soggettività che ne determina scelte e pregiudizi. Allo stesso modo, non vi è controllo nemmeno sull’azione dell’AI: da un lato il suo meccanismo è oscuro alla quasi totalità degli utenti di Facebook, dall’altro questo algoritmo impara dai raters umani acquisendone anche i pregiudizi. Difficile immaginare quali conseguenze potrà avere tutto ciò sul controllo delle informazioni visto che il social network blu è uno dei canali principali tramite cui si diffondono. Sicuramente lascia inquietanti ombre il fatto che ad avere un così grosso potere siano un manipolo di tecnici di un’azienda privata e le sue tecnologie coperte da segreti industriali.

 

Ti è piaciuto questo articolo? Infoaut è un network indipendente che si basa sul lavoro volontario e militante di molte persone. Puoi darci una mano diffondendo i nostri articoli, approfondimenti e reportage ad un pubblico il più vasto possibile e supportarci iscrivendoti al nostro canale telegram, o seguendo le nostre pagine social di facebook, instagram e youtube.

pubblicato il in Culturedi redazioneTag correlati:

tecnologia

Articoli correlati

Immagine di copertina per il post
Culture

Prefazione di Premières Secousses, il libro di Soulèvements de la Terre

Abbiamo tradotto la prefazione del libro dei Soulèvements de la Terre dal titolo Premières Secousses, uscito ad aprile per le edizioni La Fabrique.

Immagine di copertina per il post
Culture

Festa di Radio Onda d’Urto – Il programma

Da mercoledì 7 a sabato 24 agosto 2024 in via Serenissima a Brescia 18 serate di concerti, dibattiti, djset, presentazioni di libri, enogastronomia, spazio per bambine-i…

Immagine di copertina per il post
Culture

Marx: scomodo e attuale, anche nella vecchiaia

Marcello Musto, professore di Sociologia presso la York University di Toronto, può essere considerato tra i maggiori, se non il maggiore tra gli stessi, studiosi contemporanei di Karl Marx.

Immagine di copertina per il post
Culture

Immaginari di crisi. Da Mad Max a Furiosa

Per quanto diversi siano i film della saga, ad accomunarli è certamente la messa in scena di un “immaginario di crisi” variato nei diversi episodi in base al cambiare dei tempi, dei motivi, delle modalità e degli sguardi con cui si guarda con inquietudine al presente ed al futuro più prossimo.

Immagine di copertina per il post
Culture

Le monde est à nous

Rap e seconde generazioni: dare voce ai senza voce

Immagine di copertina per il post
Culture

Occupazione temporanea del MAXXI: dal mondo dell’arte pro Palestina

Occupazione temporanea del MAXXI – mobilitazioni dal mondo dell’arte
in sostegno della Palestina.

Immagine di copertina per il post
Culture

Addio a Giovanna Marini: custode della musica popolare

E’ morta a 87 anni Giovanna Marini, cantautrice e ricercatrice della tradizione orale. Ha percorso tutta Italia raccogliendo una massa sterminata di canti popolari in lingua italiana e nei vari dialetti e lingue regionali.

Immagine di copertina per il post
Culture

50 anni dalla strage di Piazza della Loggia – Maggio 2024 su Radio Onda d’Urto

Radio Onda d’Urto dedica la programmazione dell’intero mese di maggio (dal 6 al 31 maggio 2024) al 50esimo anniversario della Strage fascista, di Stato e della Nato di Piazza della Loggia, avvenuta il 28 maggio 1974 a Brescia.

Immagine di copertina per il post
Culture

Quando il polemos si fa prassi

Majakovsky aveva paura che «una corona» avrebbe potuto «nascondere la sua fronte così umana e geniale e così vera» e «che processioni e mausolei» avrebbero offuscato la «semplicità di Lenin».

Immagine di copertina per il post
Culture

Altri Mondi / Altri Modi – Conclusa la seconda edizione. Video e Podcast degli incontri

La seconda edizione del Festival Altri Mondi/Altri Modi si è chiusa. E’ stata un’edizione intensa e ricca di spunti: sei giorni di dibattiti, musica, spettacoli, socialità ed arte all’insegna di un interrogativo comune, come trovare nuove strade per uscire dal sistema di oppressione, guerra e violenza che condiziona quotidianamente le nostre vite?

Immagine di copertina per il post
Culture

Il reale delle/nelle immagini. La magia neoarcaica delle immagini tecniche

Il doppio offerto da queste “nuove immagini” a partire dalla fotografia finisce per dare vita ad atteggiamenti “neoarcaici” – come li definisce Edgar Morin (L’Esprit du temps) –, attivando reazioni irrazionali, primitive, infantili proprie dell’Homo demens che, da sempre, contraddistinguono il rapporto tra l’essere umano e le differenti forme di rappresentazione.

Immagine di copertina per il post
Formazione

Intelligenza artificiale, Ai Act e panopticon globale

Lo scorso sabato parlamento, consiglio e Unione Europea si sono accordati sul testo finale per la regolamentazione dell’intelligenza artificiale. Un accordo selettivo, che consente l’utilizzo di strumenti di controllo, vietati per i cittadini europei, ai migranti.

Immagine di copertina per il post
Approfondimenti

Intelligenza artificiale e guerra: ieri Iraq oggi Ucraina

La discussione italiana sull’invio delle armi in Ucraina è tanto più surreale nel momento in cui, nel dibattito politico ufficiale e non, si parla di una guerra che non esiste più mimando una teatralità di discussione da primo novecento.

Immagine di copertina per il post
Culture

StakkaStakka 18 Aprile 2023 – Diritto alla Riparazione

Il diritto alla riparazione è un disegno di legge che stabilisce l’obbligo dei produttori di apparecchi elettronici di rispettare criteri di progettazione e montaggio che siano facili da riparare anche dall’utente stesso e di distribuire parti di ricambio e istruzione per la riparazione. Le implicazioni ecologiche e sociali di questa riforma sono evidenti, ma qual’è il dibattito in corso a riguardo?

Immagine di copertina per il post
Conflitti Globali

Silicon Valley Bank: la bolla delle Big Tech alla resa dei conti?

Il fallimento della Silicon Valley Bank è considerato il più grande dal 2008. Non è detto che si trasformi nell’innesco di una nuova nova crisi finanziaria globale, ma è uno sconvolgimento tutt’altro che secondario in uno dei settori di punta del capitalismo USA.

Immagine di copertina per il post
Approfondimenti

“Circuiti di guerra” di Marco D’Eramo

L’articolo affronta il recente ed esteso blocco tecnologico imposto dagli Stati Uniti alla Cina soprattutto nel settore fondamentale dei semiconduttori/microchip.

Immagine di copertina per il post
Editoriali

Il problema della frontiera

Ad oggi sembra emergere come il principale problema della dimensione capitalista sia di fatto l’assenza di nuove possibilità esplorative ed estrattive, almeno per quanto riguarda il pianeta terra e le sue risorse. O meglio, ogni esplorazione, ogni nuova risorsa estratta ha delle conseguenze fuori proporzione sull’equilibrio ecologico del pianeta e sulla sopravvivenza nel suo complesso […]

Immagine di copertina per il post
Approfondimenti

Durante un esperimento di Facebook due AI hanno inventato un proprio linguaggio: è la rivolta dei robot?

La prima cosa da fare è chiarire cosa sia effettivamente successo durante questo esperimento. La maggior parte dei mezzi d’informazione ha inizialmente trattato la notizia in termini sensazionalistici alludendo ad una ribellione delle Intelligenze Artificiali e alla necessità da parte dei ricercatori di spegnerle prima che ne perdessero il controllo. La realtà è un po’ […]