InfoAut
Immagine di copertina per il post

Durante un esperimento di Facebook due AI hanno inventato un proprio linguaggio: è la rivolta dei robot?

||||

La prima cosa da fare è chiarire cosa sia effettivamente successo durante questo esperimento. La maggior parte dei mezzi d’informazione ha inizialmente trattato la notizia in termini sensazionalistici alludendo ad una ribellione delle Intelligenze Artificiali e alla necessità da parte dei ricercatori di spegnerle prima che ne perdessero il controllo. La realtà è un po’ diversa.

Infatti proprio uno dei ricercatori coinvolti è intervenuto con un post su Facebook per riportare il discorso alla realtà. Prima di tutto è utile capire meglio di che tipo di esperimento si trattasse. Il team di Facebook sta lavorando allo sviluppo di chatbots, ovvero software in grado di interagire con gli esseri umani tramite chat. L’esperimento in questione prevedeva l’interazione tra due intelligenze artificiali in lingua inglese. Qua si trova il report “Deal or no Deal? Training AI bots to negotiate”.

I due agenti AI devono contrattare come dividersi alcuni oggetti (cappelli, palle, libri), ad ogni oggetto è assegnato un punteggio e ognuno dei due deve cercare di massimizzare la somma dei punteggi degli oggetti in proprio possesso. I ricercatori li hanno programmati in modo che simulassero i possibili sviluppi della conversazione e scegliessero, di volta in volta, le risposte associate ad una maggiore probabilità di ottenere un punteggio alto nella divisione degli oggetti.

Inizialmente entrambi gli agenti sono stati “allenati” ad imitare il comportamento umano usando migliaia di dialoghi tra esseri umani durante contrattazioni simili. Questo passaggio serve a mappare linguaggio e significato; in questo modo, durante il dialogo, la macchina cerca di indovinare quello che avrebbe detto un essere umano nella stessa situazione. Un secondo passaggio è stato utilizzato per raffinare la capacità di negoziazione, ovvero che cosa dire. È stata usata una tecnica chiamata “reinforcement learning” nella quale si allena ulteriormente il modello per favorire le espressioni che portano ad un risultato migliore.

Quando i due bot sono stati fatti interagire, entrambi sottoposti al reinforcement learning, la conversazione è diventata incomprensibile per gli esseri umani. Ma, come ha dichiarato Dhruv Batra: «Sebbene l’idea di agenti AI che inventano un loro linguaggio possa sembrare allarmante/inaspettata alle persone fuori dal campo, è un ben noto sotto-campo dell’intelligenza artificiale, con pubblicazioni risalenti a decenni fa». Infatti i due agenti AI costruiscono espressioni basandosi su parametri, funzioni e distribuzioni di probabilità, ovvero gli oggetti matematici che codificano le informazioni apprese dai dati umani e dal reinforcement learning. Nell’insieme di tutti i dialoghi possibili, scomposti in valori di funzioni matematiche, possono trovare quelli che portano all’obbiettivo nella maniera più efficiente. Per dirla ancora con le parole di Dhruv Batra: « degli agenti in un ambiente che cercano di portare a termine un compito troveranno spesso modi controintuitivi per massimizzare la ricompensa».

In conclusione, i ricercatori si sono semplicemente resi conto di non aver imposto che i bot si limitassero a produrre dialoghi in lingua inglese. Nessuna spina staccata nel panico (anche se ci sarebbe piaciuto…).

Le macchine non si ribellano

Lo abbiamo descritto in maniera molto stringata, ma questo esempio mostra che, sebbene in grado di apprendere e di modificare il proprio comportamento, anche l’intelligenza artificiale (quantomeno sul medio periodo) non è altro che una macchina che viene progettata e programmata dagli esseri umani per scopi precisi. Come in questo caso, le macchine possono trovare la soluzione più efficiente a dei problemi all’interno di un range di possibilità determinate dai sistemi logici e matematici con cui sono programmate. È possibile che svolgano le loro funzioni in modi incomprensibili agli umani o anche dannosi per l’uomo stesso, ma non si tratta di ribellione.

Abbiamo spesso argomentato come le capacità umane vengano incorporate nelle macchine (anche immateriali, come i software), tra cui la capacità di negoziare degli scambi. In questa forma diventano risorse fredde cristallizzate negli ingranaggi o nelle righe di codice, separate dal corpo caldo dell’essere umano dove effettivamente possono essere riprodotte, potenziate, arricchite e trasformate.

Le macchine non si ribellano perché al giorno d’oggi, e per le prossime decadi, non esistono macchine coscienti in grado di ragionare sulla propria esistenza, sul suo senso e i fini della propria attività. Per dirla in altri termini. Incorporando le capacità umane, le macchine possono sostituire l’essere umano nella sua veste di attore di ruoli sociali, ma mancano completamente di quelle caratteristiche di autonomia (almeno potenziale) peculiari dell’essere umano, che permettono di ragionare sul proprio ruolo nella società capitalistica e farsi soggetto, ribellandosi. Le macchine non possono negarsi nel proprio ruolo sociale. La ribellione non è separata dall’essere umano, dalla sua soggettività, dal residuo irrisolto che il capitale non riesce a piegare completamente al suo dominio e alla sua macchinizzazione.

Ci dispace deludere chi aspetta l’arrivo messianico di una rivolta da parte delle macchine: quella continua ad essere affare nostro.

 

Ti è piaciuto questo articolo? Infoaut è un network indipendente che si basa sul lavoro volontario e militante di molte persone. Puoi darci una mano diffondendo i nostri articoli, approfondimenti e reportage ad un pubblico il più vasto possibile e supportarci iscrivendoti al nostro canale telegram, o seguendo le nostre pagine social di facebook, instagram e youtube.

pubblicato il in Approfondimentidi redazioneTag correlati:

facebooktecnologia

Articoli correlati

Immagine di copertina per il post
Approfondimenti

Prevedere la Cina? 

Riprendiamo da New Left Review questo breve testo di Nathan Sperber sulla narrazione che in Occidente si sta facendo della “crisi” economica cinese.  Discussioni di carattere macro-economico su cosa sia o quando ci si trovi in una situazione di crisi economica non sono solitamente il centro delle nostre attenzioni.  Tuttavia, riteniamo che il nostro compito controinformativo odierno […]

Immagine di copertina per il post
Approfondimenti

Breaking the waves (II)

Composizione e destituzione nel recente ciclo di movimenti tra Stati Uniti e Francia – seconda parte

Immagine di copertina per il post
Approfondimenti

Breaking the waves (I)

L’articolo di Nicolò Molinari si pone in dialogo con alcuni testi recenti intorno alla questione della composizione come problema strategico. Per riflettere sui limiti e sulle potenzialità di questa intuizione prende a riferimento il movimento delle pensioni in Francia, Soulevements de la Terre, la lotta contro i megabacini, e Stop Cop City ad Atlanta.

Immagine di copertina per il post
Approfondimenti

Se ne è andato Alberto Magnaghi, animatore dei Quaderni del Territorio

Ci ha lasciato ieri Alberto Magnaghi, architetto ed urbanista, tra i fondatori di Potere Operaio a Torino e animatore dei “Quaderni del Territorio”, fondamentale rivista promossa negli anni Settanta da collettivi di architetti, urbanisti e ricercatori di diverse discipline operanti in molte università italiane, impegnati nelle mobilitazioni sociali di quegli anni.

Immagine di copertina per il post
Approfondimenti

Australia, Referendum “The Voice”: riflessione sul corteo di Sydney a sostegno della voce aborigena all’interno della Costituzione australiana. 

Nonostante il caldo di Sydney sono in migliaia a radunarsi domenica 17 settembre ore 14:00 al Redfern Park, per partecipare alla marcia in sostegno del referendum del 14 ottobre 2023 che promette di dare una voce aborigena all’interno della Costituzione Australiana. L’afflusso delle persone al concentramento è accompagnato dagli interventi dal palco, tra cui la […]

Immagine di copertina per il post
Approfondimenti

Distruttori del Pianeta: come i piani di estrazione di petrolio e gas di 20 paesi rischiano di bloccarci nel caos climatico

Questo nuovo rapporto, intitolato “Distruttori del Pianeta: come i piani di estrazione di petrolio e gas di 20 paesi rischiano di bloccarci nel caos climatico”, viene pubblicato pochi giorni prima del vertice del Segretario Generale delle Nazioni Unite António Guterres, “Climate Ambition Summit”, a New York, dove più di 10.000 persone marceranno per protestare contro l’inazione verso i combustibili fossili.

Immagine di copertina per il post
Approfondimenti

Il rompicapo della ricomposizione dentro le rivolte della banlieue

Frutto di una lunga ricerca sul campo, Atanasio Bugliari Goggia ha scritto, per i tipi di Ombrecorte, due importanti volumi sulle lotte e le organizzazioni politiche di banlieue.

Immagine di copertina per il post
Approfondimenti

Exor, la Juventus e la nuova strategia finanziaria degli Agnelli

Al comando delle partecipazioni Agnelli è in corso un cambiamento di ruoli, almeno parziale, che sembrerebbe motivato dalla volontà di John Elkann in primis di rendere più semplice lo spostamento della holding Exor verso nuovi orizzonti di investimento. Quali? Sanità privata e (ancor più) finanza speculativa.

Immagine di copertina per il post
Approfondimenti

Il gran bazar della guerra

Così come non sono stati i malumori dei contribuenti americani a chiudere una guerra di vent’anni in Afghanistan, così probabilmente non saranno le decine di miliardi già bruciati in diciotto mesi di guerra a riportare la pace in Ucraina.

Immagine di copertina per il post
Approfondimenti

Cultura del rispetto o patriarcato militarista? La scuola con l’elmetto del governo Meloni 

Alla fine dello scorso giugno, il Ministro dell’istruzione e del merito Giuseppe Valditara ha annunciato di voler riformare alcune leggi in materia di valutazione del voto di condotta e delle misure di sospensione nelle scuole secondarie con l’obiettivo, a suo dire, di “ripristinare la cultura del rispetto, di contribuire ad affermare l’autorevolezza dei docenti e […]

Immagine di copertina per il post
Approfondimenti

Intelligenza artificiale e guerra: ieri Iraq oggi Ucraina

La discussione italiana sull’invio delle armi in Ucraina è tanto più surreale nel momento in cui, nel dibattito politico ufficiale e non, si parla di una guerra che non esiste più mimando una teatralità di discussione da primo novecento.

Immagine di copertina per il post
Culture

StakkaStakka 18 Aprile 2023 – Diritto alla Riparazione

Il diritto alla riparazione è un disegno di legge che stabilisce l’obbligo dei produttori di apparecchi elettronici di rispettare criteri di progettazione e montaggio che siano facili da riparare anche dall’utente stesso e di distribuire parti di ricambio e istruzione per la riparazione. Le implicazioni ecologiche e sociali di questa riforma sono evidenti, ma qual’è il dibattito in corso a riguardo?

Immagine di copertina per il post
Conflitti Globali

Silicon Valley Bank: la bolla delle Big Tech alla resa dei conti?

Il fallimento della Silicon Valley Bank è considerato il più grande dal 2008. Non è detto che si trasformi nell’innesco di una nuova nova crisi finanziaria globale, ma è uno sconvolgimento tutt’altro che secondario in uno dei settori di punta del capitalismo USA.

Immagine di copertina per il post
Approfondimenti

“Circuiti di guerra” di Marco D’Eramo

L’articolo affronta il recente ed esteso blocco tecnologico imposto dagli Stati Uniti alla Cina soprattutto nel settore fondamentale dei semiconduttori/microchip.

Immagine di copertina per il post
Conflitti Globali

CHE COS’E’ IL METAVERSO? DI DISTOPIA, AVATAR E ALTRI INCUBI VIRTUALI

Metaverso (in inglese Meta-verse) è un termine coniato da Neal Stephenson in Snow Crash, un libro di fantascienza cyberpunk del 1992, descritto come una sorta di realtà virtuale condivisa tramite internet, dove si è rappresentati in tre dimensioni attraverso il proprio avatar. Nel 2021, però, il termine assume una nuova forma, quando Facebook decide di […]

Immagine di copertina per il post
Conflitti Globali

FACEBOOK: AUDIZIONE AL SENATO DELL’EX DIPENDENTE HAUGEN. “IL SOCIAL NETWORK FAVORISCE ODIO PER GENERARE PROFITTO”

Bufera su Facebook con l’audizione al Senato dell’ex dipendente Frances Haugen, che ha denunciato i danni sociali prodotti dalla creatura di Zuckerberg. Il social network, tramite i suoi algoritmi, favorirebbe discorsi di odio e discriminazione, per aumentare le interazioni e incrementare i profitti. Secondo Haugen “la leadership della compagnia sa come rendere Facebook e Instagram […]

Immagine di copertina per il post
Editoriali

Il problema della frontiera

Ad oggi sembra emergere come il principale problema della dimensione capitalista sia di fatto l’assenza di nuove possibilità esplorative ed estrattive, almeno per quanto riguarda il pianeta terra e le sue risorse. O meglio, ogni esplorazione, ogni nuova risorsa estratta ha delle conseguenze fuori proporzione sull’equilibrio ecologico del pianeta e sulla sopravvivenza nel suo complesso […]

Immagine di copertina per il post
Conflitti Globali

Erdogan e Facebook non possono oscurare l’informazione indipendente

Insieme agli altri siti di informazione indipendente oscurati nei giorni scorsi da Facebook abbiamo preso parola in una conferenza stampa a Roma. Riportiamo la presa di parola collettiva condivisa dalle realtà che hanno partecipato. Facebook non può rimanere in mano a un privato. Oggi venerdì 18 ottobre, si è svolta presso nella sala della Federazione […]

Immagine di copertina per il post
Conflitti Globali

La censura aiuta la guerra di Erdogan – Comunicato congiunto

Tra ieri sera e questa mattina, Facebook ha chiuso le pagine di alcune testate indipendenti e legate ai movimenti sociali. Altre sono state raggiunte da messaggi ufficiali della piattaforma in cui si comunica il rischio della chiusura.I contenuti oggetto dell’operazione sono strettamente legati a post in cui si evidenziava il sostegno alla causa curda e […]

Immagine di copertina per il post
Antifascismo & Nuove Destre

Antifa Zuckerberg? Ma per favore…

Sulla chiusura dei profili social di Casapound e FN Diciamolo subito. A noi non dispiace che i profili social di Casapound e Forza Nuova siano stati oscurati. Quando diciamo “nessuno spazio al fascismo!” stiamo esplicitamente rivendicando che ai peggiori servi del capitalismo, ai peggiori assassini razzisti e sessisti, non venga concesso in alcun modo di […]