InfoAut
Immagine di copertina per il post

Facebook: se i contenuti sono censurati da umani e intelligenza artificiale

||||

In un articolo pubblicato dal The Guardian il 21 maggio e che ha raggiunto in poche ore migliaia di interazioni (Mi Piace, Commenti e Condivisioni), vengono rivelate alcune delle regolamentazioni interne di Facebook su cui si struttura l’operato dei moderatori del Social Network per l’approvazione o la rimozione di contenuti potenzialmente sensibili. Queste sono composte da diverse decine di documenti contenenti indicazioni e politiche aziendali riguardanti svariate tematiche, tra le quali: la sessualità esplicita, la violenza, il linguaggio, le immagini esplicite, il terrorismo e così via.

Fonti interne all’azienda di casa Zuckerberg e la stessa Monika Bickert, Head of Global policy Management di Facebook, affermano come la piattaforma sia effettivamente molto grande e cresciuta troppo in fretta per poter controllare manualmente tutti i contenuti condivisi.

A tale scopo esistono dei moderatori, figure professionali che in pochi secondi devono analizzare contenuti campione definendoli pubblicabili o meno e le cui decisioni vengono poi studiate da algoritmi in grado di auto-apprendere (machine learning) per poter analizzare la mole di dati che viene costantemente condivisa attraverso il social network a partire dall’emulazione del comportamento dei rater (NdA, anche in Google sono presenti tecnologie simili che sfruttano moderatori definiti “Quality Rater” il cui operato viene emulato e migliorato grazie all’algoritmo RankBrain).

In questo modo un contenuto può essere pubblicato o meno in base a delle decisioni precedentemente metabolizzate. Ma come avviene il processo decisionale dei moderatori prima che le macchine lo emulino?
Come mai alcuni contenuti riguardanti atti di violenza non vengono censurati ma al massimo viene avvisato il lettore della potenziale natura esplicita dei contenuti?

E’ ancora la Bickert a risponderci, parlando di “accettazione di alcuni contenuti espliciti al fine di stimolare un dibattito su questioni globali e non”, aggiungendo che “tali contenuti possono generare consapevolezza” citando come esempi gli abusi su minori, la violenza su animali e video e immagini recanti scene di guerra o altro.

Negli ultimi tempi anche la questione delle Fake News è entrata nel pieno del dibattito ed i Big hanno iniziato ad utilizzare contro-misure per mantenere il livello di credibilità della piattaforma agli occhi degli utenti, si veda l’introduzione ancora in via sperimentale del Fact Check di Google.

Non da meno si sta rivelando Facebook, lo stesso Zuckerberg ha infatti dichiarato che la piattaforma si sta muovendo nell’ottica di bloccare la diffusione di notizie false.

Il nodo che si apre è tutt’altro che esiguo: l’etica e la morale passano attraverso le società dei Big Data. Mediante la preferenza espressa da umani (in qualità di rater), algoritmi di Intelligenza Artificiale studieranno il prodotto dell’analisi umana e dalle interazioni sviluppate dai vari users per migliorarsi auto-apprendendo al fine di offrire una “migliore” esperienza utente, subordinando il processo alla necessità di mantenere un livello di gradimento della piattaforma elevato da parte di chi la utilizza. Questo processo rimane opaco agli utenti. Non vi è nessun controllo sul giudizio che i raters danno dei contenuti, eppure come tutti gli esseri umani avranno una soggettività che ne determina scelte e pregiudizi. Allo stesso modo, non vi è controllo nemmeno sull’azione dell’AI: da un lato il suo meccanismo è oscuro alla quasi totalità degli utenti di Facebook, dall’altro questo algoritmo impara dai raters umani acquisendone anche i pregiudizi. Difficile immaginare quali conseguenze potrà avere tutto ciò sul controllo delle informazioni visto che il social network blu è uno dei canali principali tramite cui si diffondono. Sicuramente lascia inquietanti ombre il fatto che ad avere un così grosso potere siano un manipolo di tecnici di un’azienda privata e le sue tecnologie coperte da segreti industriali.

 

Ti è piaciuto questo articolo? Infoaut è un network indipendente che si basa sul lavoro volontario e militante di molte persone. Puoi darci una mano diffondendo i nostri articoli, approfondimenti e reportage ad un pubblico il più vasto possibile e supportarci iscrivendoti al nostro canale telegram, o seguendo le nostre pagine social di facebook, instagram e youtube.

pubblicato il in Culturedi redazioneTag correlati:

tecnologia

Articoli correlati

Immagine di copertina per il post
Culture

Dario Paccino: dall’imbroglio ecologico.. alla crisi climatica

Recensione di Louis Perez, pubblicato su La Bottega Del Barbieri

«Oggi diciamo che “l’ecologia senza lotta di classe è giardinaggio” ma se questo è possibile lo si deve anche al lavoro di chi – come Dario Paccino – e come il gruppo che diede vita alla rivista Rosso Vivo aveva già letto presente e futuro».

Immagine di copertina per il post
Culture

Sostieni Radio Blackout 105.250 fm – Torino

Ultimi giorni della campagna di autofinanziamento per Radio Blackout: sosteniamo le esperienze di controinformazione, sosteniamo l’informazione libera.

Immagine di copertina per il post
Culture

Aldo dice 8×5. L’innovazione non porta nuovi diritti

“Rage against the machine? Automazione, lavoro, resistenze”, il numero 65 di «Zapruder» è in distribuzione da qualche giorno.

Immagine di copertina per il post
Culture

Abolire il turismo

Indipendentemente da dove arriveremo, non è possibile che sia più facile immaginare la fine del capitalismo che la fine del turismo. Il presente testo è la traduzione di un articolo di Miguel Gómez Garrido, Javier Correa Román e María Llinare Galustian (Escuela de las Periferias, La Villana de Vallekas) su El Salto il 21/11/2024 Spain […]

Immagine di copertina per il post
Culture

György Lukács, un’eresia ortodossa / 2 — Affinità elettive

Se decliniamo, infatti, il tema della alienazione dentro l’ambito coloniale avremo la netta sensazione di come le argomentazioni lukácsiane abbiano ben poco di datato, e ancor meno di erudito, ma colgano esattamente la questione essenziale di un’epoca. di Emilio Quadrelli, da Carmilla Qui la prima parte Ciò apre qualcosa di più che un semplice ponte tra Lukács e […]

Immagine di copertina per il post
Culture

György Lukács, un’eresia ortodossa / 1 — L’attualità dell’inattuale

[Inizia oggi la pubblicazione di un lungo saggio di Emilio Quadrelli che il medesimo avrebbe volentieri visto pubblicato su Carmilla. Un modo per ricordare e valorizzare lo strenuo lavoro di rielaborazione teorica condotta da un militante instancabile, ricercatore appassionato e grande collaboratore e amico della nostra testata – Sandro Moiso] di Emilio Quadrelli, da Carmilla […]

Immagine di copertina per il post
Culture

Difendiamo Franco Costabile e la sua poetica dallo sciacallaggio politico!

Caroselli, feste, litigate e sciacallaggi. Sono quest’ultime le condizioni in cui la città di Lamezia si è trovata ad “onorare” il centenario della nascita del grande poeta sambiasino Franco Costabile.

Immagine di copertina per il post
Culture

Lo Stato razziale e l’autonomia dei movimenti decoloniali

Riproponiamo questa intervista pubblicata originariamente su Machina in vista dell’incontro di presentazione del libro “Maranza di tutto il mondo unitevi. Per un’alleanza dei barbari nelle periferie” di Houria Bouteldja, tradotto in italiano da DeriveApprodi, che si terrà presso l’Università di Torino.

Immagine di copertina per il post
Culture

La bianca scienza. Spunti per affrontare l’eredità coloniale della scienza

E’ uscito da qualche mese La bianca scienza. Spunti per affrontare l’eredità coloniale della scienza, di Marco Boscolo (Eris Edizioni). Ne proponiamo un estratto da Le Parole e le Cose.

Immagine di copertina per il post
Culture

Hillbilly highway

J.D. Vance, Elegia americana, Garzanti, Milano 2024 (prima edizione italiana 2017). di Sandro Moiso, da Carmilla «Nonna, Dio ci ama?» Lei ha abbassato la testa, mi ha abbracciato e si è messa a piangere. (J.D. Vance – Elegia americana) Qualsiasi cosa si pensi del candidato vicepresidente repubblicano, è cosa certa che il suo testo qui recensito non potrebbe […]

Immagine di copertina per il post
Culture

Il reale delle/nelle immagini. La magia neoarcaica delle immagini tecniche

Il doppio offerto da queste “nuove immagini” a partire dalla fotografia finisce per dare vita ad atteggiamenti “neoarcaici” – come li definisce Edgar Morin (L’Esprit du temps) –, attivando reazioni irrazionali, primitive, infantili proprie dell’Homo demens che, da sempre, contraddistinguono il rapporto tra l’essere umano e le differenti forme di rappresentazione.

Immagine di copertina per il post
Formazione

Intelligenza artificiale, Ai Act e panopticon globale

Lo scorso sabato parlamento, consiglio e Unione Europea si sono accordati sul testo finale per la regolamentazione dell’intelligenza artificiale. Un accordo selettivo, che consente l’utilizzo di strumenti di controllo, vietati per i cittadini europei, ai migranti.

Immagine di copertina per il post
Approfondimenti

Intelligenza artificiale e guerra: ieri Iraq oggi Ucraina

La discussione italiana sull’invio delle armi in Ucraina è tanto più surreale nel momento in cui, nel dibattito politico ufficiale e non, si parla di una guerra che non esiste più mimando una teatralità di discussione da primo novecento.

Immagine di copertina per il post
Culture

StakkaStakka 18 Aprile 2023 – Diritto alla Riparazione

Il diritto alla riparazione è un disegno di legge che stabilisce l’obbligo dei produttori di apparecchi elettronici di rispettare criteri di progettazione e montaggio che siano facili da riparare anche dall’utente stesso e di distribuire parti di ricambio e istruzione per la riparazione. Le implicazioni ecologiche e sociali di questa riforma sono evidenti, ma qual’è il dibattito in corso a riguardo?

Immagine di copertina per il post
Conflitti Globali

Silicon Valley Bank: la bolla delle Big Tech alla resa dei conti?

Il fallimento della Silicon Valley Bank è considerato il più grande dal 2008. Non è detto che si trasformi nell’innesco di una nuova nova crisi finanziaria globale, ma è uno sconvolgimento tutt’altro che secondario in uno dei settori di punta del capitalismo USA.

Immagine di copertina per il post
Approfondimenti

“Circuiti di guerra” di Marco D’Eramo

L’articolo affronta il recente ed esteso blocco tecnologico imposto dagli Stati Uniti alla Cina soprattutto nel settore fondamentale dei semiconduttori/microchip.

Immagine di copertina per il post
Editoriali

Il problema della frontiera

Ad oggi sembra emergere come il principale problema della dimensione capitalista sia di fatto l’assenza di nuove possibilità esplorative ed estrattive, almeno per quanto riguarda il pianeta terra e le sue risorse. O meglio, ogni esplorazione, ogni nuova risorsa estratta ha delle conseguenze fuori proporzione sull’equilibrio ecologico del pianeta e sulla sopravvivenza nel suo complesso […]

Immagine di copertina per il post
Approfondimenti

Durante un esperimento di Facebook due AI hanno inventato un proprio linguaggio: è la rivolta dei robot?

La prima cosa da fare è chiarire cosa sia effettivamente successo durante questo esperimento. La maggior parte dei mezzi d’informazione ha inizialmente trattato la notizia in termini sensazionalistici alludendo ad una ribellione delle Intelligenze Artificiali e alla necessità da parte dei ricercatori di spegnerle prima che ne perdessero il controllo. La realtà è un po’ […]