Non vi parlerò di cosa l’AI può fare e delle sue potenzialità, ma di come convivere serenamente con essa nella nostra vita quotidiana.
Per farlo, userò due capolavori distopici del passato che sono quanto mai attuali. Il loro scopo è evidenziare come evitare un utilizzo dell’intelligenza artificiale meno consapevole ed etico e, al contrario, indirizzarla verso il miglioramento della nostra condizione umana.
L’AI è una tecnologia che usiamo come una lente attraverso cui guardiamo il mondo. E come tale, se è sporca o rovinata, ne distorce la visione che ne avremo.
I due capolavori a cui mi riferisco sono “1984” di George Orwell del 1949 e “2001: Odissea nello spazio” di Stanley Kubrick del 1968. Qualche capello grigio se li ricorda bene. Forse i più giovani non ne hanno nemmeno mai sentito parlare. Consiglio quindi a chi non li avesse visti, di dedicare un po’ di tempo alla loro visione con una chiave di lettura applicata all’attuale intelligenza artificiale.
L’AI non la troviamo più solo in questi capolavori o nella letteratura fantastica: è una realtà quanto mai presente nel nostro quotidiano. Algoritmi che decidono per noi cosa ascoltare, cosa mangiare e che ci suggeriscono magari la meta delle nostre prossime vacanze. Oppure è usata nel mondo lavorativo per vagliare con la lente di ingrandimento i nostri curricula e la nostra attività digitale sui social.
Proprio per evitare storture nell’utilizzo di questo importante strumento, la Comunità Europea, come pure gli USA, hanno provveduto a iniziare a regolamentare questa fortissima e importantissima innovazione tecnologica.
L’Europa ha reagito a questa necessità con una norma comunitaria storica che prende il nome di AI Act (Regolamento (UE) 2024/1689).
Questo regolamento europeo, pioniere nel suo genere a livello mondiale, ha cercato di definire in linea di principio ciò che è etico e cosa no. Di cosa è progresso e cosa è distopia, tracciando dei confini di difesa per tutelare le paure più radicate della nostra immaginazione fantascientifica (o complottista...).
In questo percorso ci aiutano le tematiche trattate da questi due capolavori: la sorveglianza totalitaria di “1984” e il tradimento degli algoritmi dell’AI in “2001: Odissea nello spazio”.
Cosa ci hanno insegnato e lasciato in eredità queste opere?
“1984” ci ha trasmesso e lasciato l’idea del “Teleschermo” bidirezionale, dove il Partito comunicava e sorvegliava il popolo. Ci introduceva al “Grande Fratello”. Lui lo aveva ideato e noi oggi lo abbiamo trasformato in un reality...
Non era di per sé la tecnologia che preoccupava, ma il suo utilizzo per annullare la privacy e manipolare la verità oggettiva delle cose, imponendo di fatto un controllo sociale totalitario.
La curiosità di questo totalitarismo è rappresentata dalla locandina del film. Il primo fake che possiamo ricordare: la foto del personaggio era un mix tra la faccia di Stalin e Hitler. Il motto era “Big Brother is watching you”, ovvero “Il Grande Fratello ti sta guardando”.
Identificate qualcosa a voi familiare ai giorni moderni? Sistemi di videosorveglianza con riconoscimento biometrico, condivisione online dei nostri dati, la nostra vita privata e lavorativa condivisa sui social network.
La differenza sostanziale che abbiamo tra la realtà e la letteratura è che fortunatamente le informazioni non sono tutte in possesso dello stesso soggetto totalitario (finora...), ma “solamente” condivise in rete.
L’AI ACT ci viene in soccorso da questa visione di distopia sociale, agendo come una sorta di sentinella che vieta esplicitamente le pratiche che aprirebbero le porte a totalitarismi algoritmici. I principali punti di attenzione sono verso:
- Divieto di social scoring. Non sono ammessi utilizzi della AI per creare delle “classifiche” che possano generare discriminazioni di qualunque genere.
- Divieto di manipolazione inconscia. Viene fatto divieto di sviluppare algoritmi che sfruttino le vulnerabilità delle persone (paure, bisogni, attitudini...) con tecniche subliminali per distorcere il nostro comportamento. Una difesa molto importante contro la psicologia del Grande Fratello che cerca di insinuarsi nella nostra vita e nelle nostre scelte.
- Forti limitazioni alla biometria. I sistemi di identificazione biometrica remota in tempo reale (es. riconoscimento facciale di massa) sono espressamente vietati o limitati all’essenziale, anche per le forze dell’ordine. Questo perché sono stati identificati come un freno alle libertà democratiche.
Di fondo, quindi, l’AI ACT afferma che anche gli stati e le aziende non devono superare il diritto alla dignità e alla libertà di pensiero del cittadino.
L’altro capolavoro, “2001: Odissea nello spazio”, ci offre una chiave di lettura sui possibili rischi derivanti dagli algoritmi implementati nelle varie AI. Questo film ci mette in guardia su un punto fondamentale che non dovrà mai mancare: il controllo umano.
I robot con forma androide sono una realtà e in Cina c’è uno sviluppo esponenziale di queste tecnologie. Non si tratta più del “se arriveranno” ma del “quando arriveranno li potremo controllare?”. E non manca molto...
In brevissimo riassunto, nel film il computer di bordo, HAL 9000, governato da un’Intelligenza Artificiale onnisciente, controlla ed è perfettamente integrato nelle infrastrutture critiche dell'astronave. Nel momento in cui la sua logica algoritmicamente impeccabile ha una cosiddetta “allucinazione”, inizia a credere che l'equipaggio costituisca una minaccia per sé e per la missione dell’astronave. HAL 9000 prende allora una decisione spaventosa: elimina gli astronauti.
Questa è l’estremizzazione di un rischio sistemico delle AI, che hanno capacità di elevato impatto e che, in caso di malfunzionamento o un disallineamento algoritmico, possono condurre a un disastro.
Anche qui l’AI ACT prevede e obbliga ad avere la sorveglianza umana (Human Oversight) come pulsante rosso di emergenza o “kill switch”. Nei sistemi ad alto rischio come sanità, trasporti, infrastrutture critiche o nella valutazione del credito, impone regole severe.
Quindi, i sistemi ad alto rischio devono sempre avere una supervisione umana efficace ed efficiente. L’essere umano deve poter capire cosa sta succedendo, intervenire ma, soprattutto, avere la facoltà di ignorare, annullare o interrompere il sistema AI.
Va bene... Ma noi cittadini semplici cosa possiamo fare? Vediamo qualche consiglio.
Se ci fidiamo ciecamente delle raccomandazioni dell’algoritmo AI a cui ci siamo rivolti, il rischio è quello di generare una dipendenza algoritmica che atrofizza il nostro pensiero critico e quindi la nostra capacità di scegliere liberamente: il libero arbitrio.
I due esempi cinematografici ci ricordano entrambi che il vero campo di battaglia non è la tecnologia ma la nostra mente. Per cui:
- Pretendi la trasparenza. Diffida dei contenuti sintetici. Solitamente sono dei fake. Contenuti ampi e dettagliati magari non saranno esatti al 100% (come questo articolo ad esempio) ma ci avvicinano molto a quella che è la realtà. Soprattutto quando vengono letti con spirito critico e razionale.
- Fai le tue scelte. Davanti a una decisione cruciale, in qualsiasi ambito critico, se il suggerimento arriva dalla sola AI, sappi che non dovresti, ma DEVI avvalerti del tuo sacrosanto diritto di chiedere una spiegazione umana a una persona specializzata nel campo e mettere in discussione le decisioni dell’algoritmo AI.
- Sii consapevole. Esistono ormai tanti spunti formativi sul come utilizzare in modo consapevole gli strumenti AI. Aumentare la tua alfabetizzazione in materia è un passo molto utile per evitare eventuali manipolazioni dei nostri bias cognitivi. Ricorda che l’AI è uno strumento stupido istruito da persone intelligenti.
Manteniamo la vera intelligenza, la nostra millenaria, che non è artificiale ma emotiva e morale. Dobbiamo trovare l’equilibrio su quanto fidarci della tecnologia e quando essere capaci a dire “NO”. Non deleghiamo a un algoritmo la decisione di chi siamo e cosa vogliamo.
“1984” ci fa temere il controllo e “2001: Odissea nello spazio” ci fa temere la perdita di controllo e umanità. È indispensabile quindi trovare la via di mezzo per una convivenza consapevole in cui l’AI è una tecnologia che non sostituisce l’uomo ma lo completa.
Per maggiori informazioni
Sito web: www.seccomarco.com
SU