Chi sorveglia i sorveglianti?

La serie animata di Netflix Bojack Horseman si è appena conclusa, ma per coglierne uno degli spunti più interessanti occorre tornare indietro alla seconda stagione. Bojack sta girando da protagonista un biopic sul grande cavallo da corsa Secretariat, ma la produzione impone un brusco cambio di rotta alle riprese per alleggerire, fino agli estremi grotteschi tipici della serie, il tono del film. La soluzione più efficace si rivelerà sostituire interamente la performance attoriale di Bojack con una sua versione digitale, che peraltro sarà apprezzatissima da pubblico e critica. Ma quanta parte di tale apprezzamento viene dall’effettiva qualità degli effetti digitali, e quanta dal richiamo della star Bojack Horseman? Il mestiere dell’attore, sembra trapelare, non è più necessario se non come illustre prestanome e presta-volto. Il sarcasmo della serie non va lontano dal bersaglio, anzi si avvicina a quanto visto recentemente in merito a The Irishman di Martin Scorsese. Il film era caratterizzato da una CGI costosa ma piuttosto invasiva, necessaria per ringiovanire i personaggi interpretati, in archi narrativi distanti decenni, dai settantenni Robert De Niro, Al Pacino e Joe Pesci. Una soluzione ambiziosa, laddove il cinema di un tempo avrebbe scartato l’idea a priori perché irrealizzabile oppure sarebbe ricorso ad ampie dosi di trucco o al casting di attori diversi e possibilmente somiglianti. Ma è una soluzione che non ha accontentato tutti, perché i volti ringiovaniti appaiono fin troppo lucidi, spigolosi, del tutto irrealistici a contrasto con l’atmosfera cupa del film. È così che lo YouTuber iFake si è messo al lavoro e ha ritoccato le immagini in una sola settimana, migliorandole ( The Irishman De-Aging: Netflix Millions VS. Free Software!) con l’utilizzo di un software deepfake gratuito – quella tecnologia che appoggiandosi a una banca dati di video e immagini riproduce personaggi estremamente realistici tramite un algoritmo di intelligenza artificiale. Un esempio che mostra in un colpo solo le potenzialità e i pericoli di questa tecnica anche in campo artistico: perché se da un lato il The Irishman di iFake è visivamente migliore, dall’altro i suoi interpreti non sono più, teoricamente, i veri De Niro, Pacino e Pesci.


Le tre macchine da presa per ogni punto macchina necessarie per la CGI di The Irishman (2019) di Martin Scorsese

Che nelle arti visive il confine tra digitale e fisico sia una strada a doppio senso di marcia non è una novità. La tecnica della motion-capture, o performance-capture quando si tratta proprio di “catturare” la prestazione recitativa, è utilizzata ad esempio per trasporre sullo schermo cinematografico personaggi virtuali (uno dei casi più celebri è Gollum interpretato da Andy Serkis ne Il Signore degli Anelli) ma, all’opposto, serve anche per trasportare attori hollywoodiani all’interno di un videogioco: Ellen Page in Beyond – Two Souls, o il cast stellare del recente Death Stranding capitanato da Mads Mikkelsen e Norman Reedus. Viene in mente anche Keanu Reeves, la cui versione digitale campeggia nei trailer dell’attesissimo CyberPunk 2077 di prossima uscita e che nel 2006 ha visto la sua immagine rielaborata graficamente per A Scanner Darkly di Richard Linklater con la tecnica dell’interpolated rotoscoping. Ciò che accomuna questi casi sono le finalità artistiche ed espressive che consentono di transitare sul confine tra fisico e digitale mantenendo ben distinti i due versanti – la tecnica di Linklater è servita, con successo, a rappresentare la realtà allucinata dei tossicodipendenti.


Un deepfake che simula un credibilissimo esponente politico o una celebrità impegnata in un video pornografico mina la coesione politica, informatica e sociale


La novità dei deepfake sta nella loro estrema verosimiglianza. Si intuisce che un deepfake che simula un credibilissimo esponente politico nell’atto di pronunciare opinioni compromettenti, o una celebrità impegnata in un video pornografico falso (☛ Umanità aumentata) si trovi in un territorio ben distante dall’espressività artistica e sconfinante in problematiche che minano la coesione politica, informatica e sociale. Sorgono numerose domande, a cui risposta per adesso abbiamo soltanto una risposta confusa. Tra queste, cosa significa porre una “firma” sulla propria immagine, e come fare a proteggerla dalle imitazioni? Vengono in mente, di nuovo, quei videogiochi sportivi che tramite il motion-capture ripropongono fedelmente le movenze degli atleti. In gergo si chiamano “signature moves”, mosse-firma, perché caratteristiche esclusive di un singolo giocatore, e spesso sono gesti che diventano icone quando non addirittura marchi commerciali. Che succederebbe, però, se potessi sovrapporre una mia immagine del tutto realistica a un’esultanza di Cristiano Ronaldo o a una tipica schiacciata a gambe divaricate di Michael Jordan – che, non a caso, ha sempre concesso malvolentieri e a carissimo prezzo i diritti per nome e immagine?


Cristiano Ronaldo durante la registrazione di motion capture per Fifa 18

Un po’ come nel caso dei software per il riconoscimento facciale (☛ Schedati dal sistema) sembra difficile che i dubbi sulla legalità dell’operazione possano frenare a lungo una potenza tecnologica che finirà per rompere gli argini, forse aprendosi la prima breccia proprio nel campo delle arti visive. È più verosimile pensare che la questione si sposterà interamente nel mondo digitale, dove la firma del nostro corpo sarà realmente rappresentata da una stringa di codice e a quel punto termini come “criptare” e “decrittare” diventeranno parole chiave per difenderci dal furto d’identità. Quella di vedersi replicati, e quindi di perdere la nostra essenza insieme alla nostra unicità, è una paura atavica che ha attecchito fin dagli albori della fantascienza legandosi perlopiù alla minaccia di specie aliene straordinariamente mimetiche (L’invasione degli ultracorpi) o a riflessioni sulla natura intima degli androidi e su cosa li qualifichi come uguali o diversi dagli esseri umani (Blade Runner). La novità della prospettiva odierna è che l’attenzione sul corpo fisico si è spostata verso un’idea di identità più fredda, astratta, forzata dalla tecnologia in direzione di un approccio matematico all’umano. E la fantascienza di oggi suggerisce già delle risposte per il futuro.


Uno dei baccelli replicanti de L’invasione degli ultracorpi (1956) di Don Siegel, durante la fase di replicazione del corpo dei cittadini del paesino di Santa Mira

Nel suo ultimo romanzo Fall, or Dodge in Hell, Neal Stephenson ipotizza che nel giro di pochi anni ci ritroveremo a fare i conti con un world wide web sempre più invasivo, un’autentica invasione di dati sparati sui social network e prodotti, in larghissima maggioranza, da intelligenze artificiali. Per difendersi da questo flusso i personaggi ricorrono ad altri algoritmi che operano da filtro, e rimuovono dai loro feed tutte le informazioni-spazzatura e i falsi più perniciosi: i più facoltosi possono anche permettersi un ulteriore filtro, quello della sensibilità umana, con assistenti personali che setacciano il feed per ripulirlo dai contenuti autentici ma indesiderati. Il risultato è che gran parte della comunicazione digitale avviene in un vuoto: algoritmi che dialogano con altri algoritmi, bot che litigano con altri bot, deepfake visionati soltanto da intelligenze artificiali. Allo stesso modo, i personaggi proteggono i propri dati con firme digitali elaborate da potenti algoritmi – e c’è da credere che più l’identità è preziosa, più si intensificherà la lotta tra guardie e ladri. Di nuovo, si tratta di un totale spostamento di paradigma verso un’idea prettamente informatica di umano, che presuppone due fatti non scontati. Il primo è che rimanga comunque una distinzione tra un’informazione reale e un deepfake, magari non più percepibile dall’occhio umano ma distinguibile da algoritmi allenati. Il secondo è che, affidandoci ad algoritmi per proteggerci da (e relazionarci con) altri algoritmi, emerga al contempo un’autorità sufficientemente forte da garantire l’imparzialità di tale sistema – retto da esecutori eccezionali, ma la cui reale nozione di intelligenza è ancora tutta in discussione. Un vecchissimo e sempre attuale chi sorveglia i sorveglianti? insomma, a cui si accompagna una nuova domanda: chi sono, questi sorveglianti, in che misura sono diversi da noi (e chissà se sognano pecore elettriche)? Le reti neurali sono del resto capaci di produrre forme d’arte autonome; musica, persino romanzi, opere certamente rudimentali e non ancora degne di un Ministero della Verità orwelliano, ma è evidente che la forbice si stia stringendo. Allo stesso modo, è noto che gli algoritmi che controllano i nostri feed sui social network ci conoscano, in un certo senso, meglio di chiunque altro ( Facebook Knows You Better Than Anyone Else): l’idea sviluppata da Neal Stephenson in Fall nasce proprio da qui. E se una macchina ci conosce a un livello così intimo, potrebbe forse sostituirsi a noi senza scarti, nella mera pratica visiva di un deepfake quanto nella sostanza comportamentale, facendo scelte significative in un ambiente digitale che non è più simulazione, ma che coincide pienamente con il reale.


Il deepfake è un totale spostamento di paradigma verso un’idea prettamente informatica di umano


Di nuovo, si tratta di un totale spostamento di paradigma verso un’idea prettamente informatica di umano, che presuppone due fatti non scontati. Il primo è che rimanga comunque una distinzione tra un’informazione reale e un deepfake, magari non più percepibile dall’occhio umano ma distinguibile da algoritmi allenati. Il secondo è che, affidandoci ad algoritmi per proteggerci da (e relazionarci con) altri algoritmi, emerga al contempo un’autorità sufficientemente forte da garantire l’imparzialità di tale sistema – retto da esecutori eccezionali, ma la cui reale nozione di intelligenza è ancora tutta in discussione. Un vecchissimo e sempre attuale chi sorveglia i sorveglianti? insomma, a cui si accompagna una nuova domanda: chi sono, questi sorveglianti, in che misura sono diversi da noi (e chissà se sognano pecore elettriche)? Le reti neurali sono del resto capaci di produrre forme d’arte autonome; musica, persino romanzi, opere certamente rudimentali e non ancora degne di un Ministero della Verità orwelliano, ma è evidente che la forbice si stia stringendo. Allo stesso modo, è noto che gli algoritmi che controllano i nostri feed sui social network ci conoscano, in un certo senso, meglio di chiunque altro ( Facebook Knows You Better Than Anyone Else): l’idea sviluppata da Neal Stephenson in Fall nasce proprio da qui. E se una macchina ci conosce a un livello così intimo, potrebbe forse sostituirsi a noi senza scarti, nella mera pratica visiva di un deepfake quanto nella sostanza comportamentale, facendo scelte significative in un ambiente digitale che non è più simulazione, ma che coincide pienamente con il reale.



In copertina un fotogramma della serie Watchmen (2019)
In collaborazione con la rivista L’indiscreto