InfoAut
Immagine di copertina per il post

Facebook: se i contenuti sono censurati da umani e intelligenza artificiale

||||

In un articolo pubblicato dal The Guardian il 21 maggio e che ha raggiunto in poche ore migliaia di interazioni (Mi Piace, Commenti e Condivisioni), vengono rivelate alcune delle regolamentazioni interne di Facebook su cui si struttura l’operato dei moderatori del Social Network per l’approvazione o la rimozione di contenuti potenzialmente sensibili. Queste sono composte da diverse decine di documenti contenenti indicazioni e politiche aziendali riguardanti svariate tematiche, tra le quali: la sessualità esplicita, la violenza, il linguaggio, le immagini esplicite, il terrorismo e così via.

Fonti interne all’azienda di casa Zuckerberg e la stessa Monika Bickert, Head of Global policy Management di Facebook, affermano come la piattaforma sia effettivamente molto grande e cresciuta troppo in fretta per poter controllare manualmente tutti i contenuti condivisi.

A tale scopo esistono dei moderatori, figure professionali che in pochi secondi devono analizzare contenuti campione definendoli pubblicabili o meno e le cui decisioni vengono poi studiate da algoritmi in grado di auto-apprendere (machine learning) per poter analizzare la mole di dati che viene costantemente condivisa attraverso il social network a partire dall’emulazione del comportamento dei rater (NdA, anche in Google sono presenti tecnologie simili che sfruttano moderatori definiti “Quality Rater” il cui operato viene emulato e migliorato grazie all’algoritmo RankBrain).

In questo modo un contenuto può essere pubblicato o meno in base a delle decisioni precedentemente metabolizzate. Ma come avviene il processo decisionale dei moderatori prima che le macchine lo emulino?
Come mai alcuni contenuti riguardanti atti di violenza non vengono censurati ma al massimo viene avvisato il lettore della potenziale natura esplicita dei contenuti?

E’ ancora la Bickert a risponderci, parlando di “accettazione di alcuni contenuti espliciti al fine di stimolare un dibattito su questioni globali e non”, aggiungendo che “tali contenuti possono generare consapevolezza” citando come esempi gli abusi su minori, la violenza su animali e video e immagini recanti scene di guerra o altro.

Negli ultimi tempi anche la questione delle Fake News è entrata nel pieno del dibattito ed i Big hanno iniziato ad utilizzare contro-misure per mantenere il livello di credibilità della piattaforma agli occhi degli utenti, si veda l’introduzione ancora in via sperimentale del Fact Check di Google.

Non da meno si sta rivelando Facebook, lo stesso Zuckerberg ha infatti dichiarato che la piattaforma si sta muovendo nell’ottica di bloccare la diffusione di notizie false.

Il nodo che si apre è tutt’altro che esiguo: l’etica e la morale passano attraverso le società dei Big Data. Mediante la preferenza espressa da umani (in qualità di rater), algoritmi di Intelligenza Artificiale studieranno il prodotto dell’analisi umana e dalle interazioni sviluppate dai vari users per migliorarsi auto-apprendendo al fine di offrire una “migliore” esperienza utente, subordinando il processo alla necessità di mantenere un livello di gradimento della piattaforma elevato da parte di chi la utilizza. Questo processo rimane opaco agli utenti. Non vi è nessun controllo sul giudizio che i raters danno dei contenuti, eppure come tutti gli esseri umani avranno una soggettività che ne determina scelte e pregiudizi. Allo stesso modo, non vi è controllo nemmeno sull’azione dell’AI: da un lato il suo meccanismo è oscuro alla quasi totalità degli utenti di Facebook, dall’altro questo algoritmo impara dai raters umani acquisendone anche i pregiudizi. Difficile immaginare quali conseguenze potrà avere tutto ciò sul controllo delle informazioni visto che il social network blu è uno dei canali principali tramite cui si diffondono. Sicuramente lascia inquietanti ombre il fatto che ad avere un così grosso potere siano un manipolo di tecnici di un’azienda privata e le sue tecnologie coperte da segreti industriali.

 

Ti è piaciuto questo articolo? Infoaut è un network indipendente che si basa sul lavoro volontario e militante di molte persone. Puoi darci una mano diffondendo i nostri articoli, approfondimenti e reportage ad un pubblico il più vasto possibile e supportarci iscrivendoti al nostro canale telegram, o seguendo le nostre pagine social di facebook, instagram e youtube.

pubblicato il in Culturedi redazioneTag correlati:

tecnologia

Articoli correlati

Immagine di copertina per il post
Culture

Ciao Gianni! Di Nicoletta Dosio

Conobbi Gianni Vattimo all’università di Torino, quasi sessant’anni fa, in quel ‘68 che per molti giovani fu un richiamo all’impegno culturale e sociale.

Immagine di copertina per il post
Culture

Contro l’etica e la disciplina del lavoro che uccide

Sandro Busso, Lavorare meno. Se otto ore vi sembran poche, Edizioni Gruppo Abele, Torino 2023, pp. 190, 14 euro. di Sandro Moiso, da Carmilla La recensione di questa indagine di Sandro Busso, edita dal Gruppo Abele, arriva per esclusiva colpa del recensore un po’ in ritardo, ma d’altra parte non vi potrebbe essere momento migliore […]

Immagine di copertina per il post
Culture

Eminenti ecologie. Ambiente e Bellezza in età vittoriana tra idillio e apocalisse

Lo sappiamo, l’età vittoriana con il suo impatto tanto vivido sull’immaginario di oggi, sorta di Paradiso perduto di eroi in mantellina e trine, pince-nez e ombrello (perennemente a spasso nell’odierno orizzonte transmediale, attraverso nuove edizioni di romanzi e racconti, trasposizioni su schermo, pastiche) rappresenta per altri versi e in modo concretissimo, in grazia del suo impero quasi planetario, una sorta di prova generale del nostro mondo globalizzato.

Immagine di copertina per il post
Culture

Splendore e caduta di un butronero

Dieci anni fa veniva arrestato Flako, più noto come “il Robin Hood di Vallecas”, insieme alla sua “banda delle fogne”, un gruppo di rapinatori che eseguiva espropri bancari non mediante l’utilizzo di armi e violenza ma attraverso lo studio delle mappe urbane e la tecnica del butrón, quel buco praticato normalmente su un muro che […]

Immagine di copertina per il post
Culture

Contagio Sociale. Guerra di classe microbiologica in Cina

Contagio sociale. Guerra di classe microbiologica in Cina (Nero Editions, Roma, 2023) racconta una storia di classe, quella dell’epidemia di COVID-19 a Wuhan.

Immagine di copertina per il post
Culture

“Il miele da mille fiori”: la guerra israeliana alle api

Le restrizioni e le violazioni israeliane, insieme ai ripetuti attacchi dei coloni, colpiscono direttamente l’intero settore dell’apicoltura nella Palestina occupata.

Immagine di copertina per il post
Culture

Nicoletta Dosio: «Saremo sempre qui, il Tav non passerà»

Da 32 anni dico rivoluzione: cambiamento radicale della società e del rapporto con la natura. Dal basso, resistere per esistere.

Immagine di copertina per il post
Culture

“Sabotage”: passare dall’eco-ansia all’eco-attivismo

Il film “Sabotage”, «How to blow up a pipeline» nella sua versione originale, prende il titolo dall’omonimo libro di Andreas Malm. È nelle sale cinematografiche in Francia quest’estate.

Immagine di copertina per il post
Culture

2.4 Radura – Frontiera Montagna?

E’ tornato significativo il dibattito intorno alla montagna, anche alla luce della crisi climatica, ma non solo. La discussione si divide per lo più tra chi vede le aree montane come territori marginali e destinati allo spopolamento e chi invece immagina grandi opportunità di valorizzazione. Ma innanzitutto cos’è oggi la montagna?

Immagine di copertina per il post
Culture

Di calcio femminile, veti e sogni con vittorie sul campo e fuori

Il 23 marzo 1885, nello Stadio Crouch End di Londra, due squadre composte totalmente da donne hanno svolto la prima partita ufficiale della storia del calcio femminile.

Immagine di copertina per il post
Approfondimenti

Intelligenza artificiale e guerra: ieri Iraq oggi Ucraina

La discussione italiana sull’invio delle armi in Ucraina è tanto più surreale nel momento in cui, nel dibattito politico ufficiale e non, si parla di una guerra che non esiste più mimando una teatralità di discussione da primo novecento.

Immagine di copertina per il post
Culture

StakkaStakka 18 Aprile 2023 – Diritto alla Riparazione

Il diritto alla riparazione è un disegno di legge che stabilisce l’obbligo dei produttori di apparecchi elettronici di rispettare criteri di progettazione e montaggio che siano facili da riparare anche dall’utente stesso e di distribuire parti di ricambio e istruzione per la riparazione. Le implicazioni ecologiche e sociali di questa riforma sono evidenti, ma qual’è il dibattito in corso a riguardo?

Immagine di copertina per il post
Conflitti Globali

Silicon Valley Bank: la bolla delle Big Tech alla resa dei conti?

Il fallimento della Silicon Valley Bank è considerato il più grande dal 2008. Non è detto che si trasformi nell’innesco di una nuova nova crisi finanziaria globale, ma è uno sconvolgimento tutt’altro che secondario in uno dei settori di punta del capitalismo USA.

Immagine di copertina per il post
Approfondimenti

“Circuiti di guerra” di Marco D’Eramo

L’articolo affronta il recente ed esteso blocco tecnologico imposto dagli Stati Uniti alla Cina soprattutto nel settore fondamentale dei semiconduttori/microchip.

Immagine di copertina per il post
Editoriali

Il problema della frontiera

Ad oggi sembra emergere come il principale problema della dimensione capitalista sia di fatto l’assenza di nuove possibilità esplorative ed estrattive, almeno per quanto riguarda il pianeta terra e le sue risorse. O meglio, ogni esplorazione, ogni nuova risorsa estratta ha delle conseguenze fuori proporzione sull’equilibrio ecologico del pianeta e sulla sopravvivenza nel suo complesso […]

Immagine di copertina per il post
Approfondimenti

Durante un esperimento di Facebook due AI hanno inventato un proprio linguaggio: è la rivolta dei robot?

La prima cosa da fare è chiarire cosa sia effettivamente successo durante questo esperimento. La maggior parte dei mezzi d’informazione ha inizialmente trattato la notizia in termini sensazionalistici alludendo ad una ribellione delle Intelligenze Artificiali e alla necessità da parte dei ricercatori di spegnerle prima che ne perdessero il controllo. La realtà è un po’ […]

Immagine di copertina per il post
Approfondimenti

Cicli e Circuiti di Lotta nel Capitalismo High-Tech (II)

  di Nick Witheford   La (non) riproduzione della natura: i rifiuti pericolosi La mobilitazione, da parte del capitale, di high-tech deriva dalla sua tendenza al controllo non soltanto dei luoghi di lavoro, e nemmeno della società nel suo insieme, ma della natura stessa. Per fabbricare merci c’è bisogno non soltanto di lavoratori, ma anche […]

Immagine di copertina per il post
Approfondimenti

Cicli e Circuiti di Lotta nel Capitalismo High-Tech (I)

  Cicli e Circuiti di Lotta nel Capitalismo High-Tech (I) di Nick Witheford Introduzione Questo scritto esplora un territorio che molti non credono esistere; il territorio della guerra di classe high-tech. Secondo i principali teorici della rivoluzione informatica, l’avvento dei computer, delle telecomunicazioni e delle biotecnologie ha fatto, del conflitto tra il capitale ed il […]