Il grande fratello 4.0 è già in video e ha la nostra faccia!

 
Il mix di intelligenza artificiale e informazione digitale può rendere totalmente inaffidabile il nostro futuro
 
Su Engadget ho letto una notizia – dal titolo “AI-powered face swapping has taken a dystopian turn” (traducibile con “Lo scambio di volti potenziato da AI ha preso una svolta distopica”) – che in prima battuta può sembrare uno scherzo di cattivo gusto ma che, riflettendoci, può aprire scenari davvero distopici per il fraintendimento della realtà che presuppone.
Entriamo nello specifico, dicendo che, di fatto, si utilizza la tecnologia dell’intelligenza artificiale per sostituire i volti degli attori porno impegnati nelle relative performance con quelli delle star di Hollywood e, più recentemente, per vendicarsi di amici e conoscenti mettendo il loro viso sempre al posto di quelli degli attori porno. Ciò è fattibile utilizzando la libreria fotografica dei nostri account sui social media. E se da tempo era possibile sostituire manualmente i volti ora tutta la questione è stata automatizzata. Con l’aggravante già ben chiara attualmente di quanto sia difficile a livello legale sospendere la pubblicazione di immagini e video sui social e di quanto sia poi difficile perseguire gli autori di tali operazioni mistificatorie.
Cosa significa tutto questo? Che se temiamo le “fake news”, a maggior ragione la rivoluzione del ML (Machine learning) renderà l’informazione digitale totalmente inaffidabile! Difatti come potremo fidarci delle news, se anche foto, video e audio potranno essere manomessi attraverso una tecnologia sempre più sofisticata?
Il quadro è comprensibile anche per i non “smanettoni” dei computer. Prendo la tua faccia dalle tue foto di Facebook. Prendo i tuoi movimenti dai tuoi video di Instagram, Youtube e Vimeo. Li assemblo più o meno strumentalmente in altri video e il gioco è fatto. Con l’intelligenza artificiale e l’apprendimento automatico che seguono tutto il processo senza il contributo umano. Oggi tutto ciò comporta piccoli errori che svelano le alterazioni, un po’ come capita con Google Translate quando traduciamo qualche testo. Ma cosa accadrà quando le tecniche saranno più raffinate e i computer avranno più potenza di calcolo e di conseguenza non ci saranno più errori?
Forchielli annuncerà in diretta su Facebook che si candiderà per uno scranno in parlamento? Di Maio farà un discorso senza sbagliare un congiuntivo? Sgarbi farà considerazioni pacate? E via discorrendo con altrettante ipotesi fantascientifiche.
I filmati. I reportage. Sono alla base dei telegiornali. Rappresentano la prova incontrovertibile della realtà. La diretta video è uno dei fondamenti del “piccolo mondo” nel quale viviamo e che ci fa sentire, giustamente, vicini anche se viviamo a 12mila chilometri di distanza. E se queste certezze venissero messe in discussione dallo sviluppo distopico della tecnologia in che mondo vivremmo, con quali certezze?
Tornare a incontrarci realmente dal vivo per avere la certezza che siamo effettivamente noi è semplicemente impossibile.
Senza pensare ai rischi per le categorie più deboli, su tutti i bambini davanti a un video manipolato strumentalmente.
Per quanto concerne i bambini, a dire il vero il quadro è preoccupante anche senza entrare nel peggiore futuro possibile della mistificazione della realtà digitale. Perché già oggi YouTube è una fonte inesauribile di potenziali pericoli che i genitori per disattenzione o ignoranza non percepiscono, con miliardi di contenuti dedicati ai piccoli fruitori che, invece, per i più svariati motivi non sono adatti a loro. Infatti se nelle tv tradizionali e a maggior ragione in quelle a pagamento i contenuti dedicati sono vagliati ad hoc con linee editoriali curate da specialisti dell’infanzia, Internet è ancora una fonte infinita di pericoli più o meno grandi.
Ecco uno scenario del presente-futuro super-tecnologico che mette i brividi e che a tutti i costi va controllato e regolamentato. E, senza retorica, facciamo attenzione a ciò che guardano i nostri figli su Internet!
 
Qui il PDF