(496) — le mascherine “strane” ed il doppio naso si sono viralizzati; ma che dire dei futuri conflitti tra l’Intelligenza Artificiale e…
(496) — le mascherine “strane” ed il doppio naso si sono viralizzati; ma che dire dei futuri conflitti tra l’Intelligenza Artificiale e l’integrità dell’Infosfera?
6 febbraio 2022 — Si è scritto che un noto politico avesse
quattro narici, e che i suoi colleghi indossassero mascherine
photoshoppate.
Ma non è vero; questo è stato provato da analisi tecniche, così ben
riassunte da Paolo Attivissimo in questo suo podcast che non vale la pena
ripeterle qui.
A grandi linee cosa è successo?
Una foto pubblicata in rete, con un gruppo di persone note e meno note, sembrava “strana”, e qualcuno aveva espresso, a voce molto alta, il dubbio, prontamente amplificato a dismisura dai media, che le persone nella foto originale non indossassero le mascherine, e che in un secondo tempo gli fossero state “incollate” sul volto usando un programma di fotoritocco, al fine di poter pubblicare la foto.
Così non è. La foto è stata semplicemente trattata con filtri
automatici per “migliorarla”, come quelli che aumentano la
nitidezza, migliorano i colori o cancellano gli “occhi
rossi”.
Si tratta di un’operazione ormai normale per tutte le immagini
pubblicate, sia su carta che in rete; ed operazioni di
“miglioramento” sono sempre più spesso eseguite anche
automaticamente dai cellulari, all’insaputa dei loro utilizzatori.
Ma se questi “filtri”, in passato, si basavano su formule matematiche astruse, ma i cui effetti erano prevedibili, quelli più moderni, come quello incriminato, si basano su tecniche di Intelligenza Artificiale, e riescono ad ottenere risultati impensabili fino a pochi anni fa, anche senza nessuna necessità di intervento da parte di chi questi filtri usa. Questo filtro doveva “migliorare” le facce, ed ha fatto quello che doveva come poteva, anche sui lineamenti appena accennati sotto ad una mascherina, anche su un viso inquadrato di tre quarti. Fine della notizia di cronaca.
In questo caso infatti il problema che angustia Cassandra, e le fa pronunciare fosche profezie, è legato non al futuro prossimo, ma ad uno appena più lontano, ma sempre assai vicino; prendiamo quindi la sfera di cristallo ed esaminiamo meglio questo “cavallo di legno”.
Il filtro fotografico dotato di IA usato nella foto suddetta deve “migliorare” l’immagine, e per far questo applica tecniche di riconoscimento di oggetti, in primis facce, e su queste applica algoritmi di “miglioramento”.
Abbiamo quindi un problema; cosa vuol dire, in realtà, “migliorare” una foto?
La foto è una rappresentazione il più possibile fedele di una
certa realtà, in un certo istante, da un certo punto di vista, con i
limiti dello strumento che viene utilizzato per
riprenderla.
Quello che si ottiene, con le sue sfocature, occhi rossi o chiusi,
mascherine o sfondi indesiderati, è la “realtà” più vera, o
meglio la migliore approssimazione di essa ottenibile con lo strumento
utilizzato.
Quando si lavora sulla foto, anche con i semplici comandi di contrasto e luminosità, la realtà comincia ad essere alterata, ma va bene così.
Se ritagliamo l’inquadratura, una parte della realtà si perde, ma può andar bene così.
Se togliamo gli occhi rossi, che erano davvero rossi, l’immagine per quel particolare non rappresenta più la realtà, ma è poca cosa, e va bene così.
Se ritagliamo ed eliminiamo un’automobile dallo sfondo, perché con il soggetto principale della foto non c’entra, forse “miglioriamo” la foto, ma essa comincia anche a “mentire”, perché c’era una cosa ed ora non c’è più.
Se ritagliamo ed eliminiamo un intruso da un gruppo di persone la foto forse “migliorerà” da un certo punto di vista, ma “mentirà” in modo evidente da tutti gli altri, anche se in un album del matrimonio potrebbe andar bene così.
Nel suddetto album magari sarebbe ammissibile anche applicare un filtro che faccia sorridere tutti, anche le persone annoiate o contrariate dal matrimonio. Un Don Rodrigo contento al matrimonio di Renzo e Lucia.
Ma stiamo percorrendo una strada pericolosissima.
Ci sono versioni diverse di importanti foto, notissime quelle “politiche” del ’900 in Unione Sovietica, che vedevano sparire uno ad uno personaggi diventati “sgraditi”, perché l’aderenza alla “verità del momento” lo richiedeva. Non va affatto bene così, ed il nocciolo del problema comincia a venir fuori.
Ma i 24 informatissimi lettori potrebbero dire che in quel caso di “propaganda” si tratta, non di “informazione”; il recupero da altre fonti delle immagini originali consente di ristabilire, almeno in questo caso, la verità.
E’ con l’Intelligenza Artificiale che la questione si complica fino a
diventare un incubo.
L’uso indiscriminato di IA nella produzione di immagini permette oggi di
“inventare” una realtà completamente diversa da quella “vera”.
Permetterà domani di produrre informazioni “inventate” di qualsiasi tipo ed in grande quantità, informazioni che saranno difficilmente distinguibili da quelle “vere”.
E quello che le piccole intelligenze artificiali di oggi fanno, spesso malamente come nella nostra foto, domani potranno farlo le grandi IA, con estrema esattezza per trasformare il vero in falso, creare o distruggere storia e conoscenza, “inquinando” un domani permanentemente l’Infosfera come stiamo facendo oggi con l’ecologia del nostro pianeta.
Ecco che nella foto “migliorata” di un gruppo di persone potrebbero ad esempio apparire solo quelle iscritte, o non iscritte, ad un certo partito, perché l’IA della macchina fotografica, opportunamente istruita, accederà in tempo reale ai dati del tesseramento nel cloud ed “inventerà” la realtà, senza che un “originale” sia mai stato “scattato”.
In questo modo le altre persone non saranno “rimosse” dalla foto, come facevano i fotografi di Stalin, e neppure dalla cronaca e dalla storia, come faceva Winston Smith in “1984”, ma semplicemente non saranno mai esistite. Non avranno mai fatto parte della realtà.
E se questo non basta, le tecniche di intelligenza artificiale non sono limitate alle foto, e nemmeno ai video, come i deep-fake così popolari qualche mese fa.
Per una IA il mondo è una sequenza di bit, e su questa impara ad operare, a seconda di come viene costruita od addestrata.
Per cui una IA, debitamente istruita, potrebbe far sparire donna
Prassede dai Promessi Sposi, aggiustando la trama e tutto il romanzo
automaticamente.
Potrebbe creare una versione dei Promessi Sposi dove Lucia fugge con
l’Innominato, ed in cui la peste a Milano viene rimpiazzata con il
Covid-19 a Wuhan o con la Morte Rossa nel castello del principe
Prospero.
Come distinguerli poi dall’originale in questa nuova Biblioteca di Babele dell’IA?
Ma un’intelligenza artificiale può già adesso generare informazione testuale “credibile”, e migliorerà certamente nel prossimo futuro; debitamente istruita produrrà foto, testi, filmati, romanzi, dati “scientifici”, che saranno “realistici”, ancorché non rappresentino affatto la realtà.
E potranno fare questo a comando, per attuare scopi su cui non voglio fare ipotesi perché mi spaventano troppo.
Cosa succederà dell’Infosfera tra qualche decennio?
L’Infosfera, l’insieme di tutte le conoscenze umane, sarà permanentemente inquinata da “quasi-verità”, da verità “false ma credibili”, da pura fantasia resa indistinguibile dalla realtà, da informazioni generate come atti non di una Cyberguerra ma di una Guerra Informativa.
Che ne sarà della conoscenza, il più prezioso patrimonio dell’umanità, quando verrà inquinata aldilà di ogni possibilità di recupero?
Prima che un cambiamento “catastrofico” dell’infosfera ci travolga e ci cancelli, travolga e cancelli la parte migliore di noi, forse dovremmo cominciare a riflettere ed a prendere provvedimenti. Subito, anche se forse è già tardi, come forse lo è per il cambiamento climatico.
Ve lo (pre)dice Cassandra.
By Marco A. L. Calamari on February 10, 2022.
Exported from Medium on January 2, 2024.