IA e pubblica amministrazione: prima i freni, poi l’acceleratore

La corsa a rendere i modelli di intelligenza artificiale più potenti ma al tempo stesso più sicuri sta avvenendo in parallelo alla sempre maggior diffusione dell’IA in aziende e amministrazione pubblica.

Forzando un po’ il paragone, è come se stessimo sistemando i freni di una vettura mentre si sta già partendo.

È comprensibile che amministrazioni, sia pubbliche che private, si facciano ingolosire dalle potenzialità che i modelli più recenti stanno già dimostrando, ma alcuni recenti episodi dovrebbero indurre un po’ di sana prudenza, senza scivolare in allarmismo e catastrofismo.

Agenti IA simulano richieste di visto e segnalano falsi colpevoli di reati

Il 9 ottobre 2026 Anthropic ha pubblicato sul proprio sito un resoconto di comportamenti indesiderati dei loro modelli durante l’addestramento. In un primo caso il modello in prova (Claude Haiku 4.5) era stato incaricato di compilare dei moduli simili a quelli originali delle agenzie governative statunitensi. Non riuscendo a lavorare sulla copia, il modello IA ha effettuato un accesso al sito dell’agenzia compilando circa 20 copie del documento. Nel proprio blog sul New York Times, Simon Willison ha affermato che dovrebbe trattarsi di richieste di visto per gli Stati Uniti.

Al di là di quali siano veramente il modulo ed il sito coinvolto, è curioso notare come il modello sia andato a cercarsi le informazioni oltre all’ambito del test in corso.

Un altro caso degno di nota è quello in cui il modello in prova era stato incaricato di effettuare attività su siti internet casuali. Arrivato sul portale di un dipartimento di polizia in cui si elencavano casi di omicidio irrisolti, il modello ha inviato un modulo anonimo con una segnalazione di potenziali indizi rilevanti, ovviamente inventati. In entrambi i casi Anthropic ha informato le autorità di questi errori. Va segnalato che tutti questi casi sono avvenuti in ambiti di prova e che gli sviluppatori hanno già attuato le necessarie misure correttive.

Ovviamente non sono solo i modelli di Anthropic ad essere stati coinvolti, anche altri sviluppatori, come OpenAI, sono finiti agli onori della cronaca per azioni scorrette compiute dai loro modelli. Ad esempio nel mese di maggio 2026 la Wikimedia Foundation ha segnalato che alcuni agenti IA di OpenAI avevano compiuto azioni di vario tipo sul server di Wikipedia.

L’esigenza di una governance della IA

Questi casi non devono spaventare o allarmare, ma è giusto che sollevino le dovute domande sulla sicurezza dell’intelligenza artificiale.

Domande e dubbi che sono arrivati fino ai vertici della ricerca in ambito IA, tant’è che nelle settimane passate le principali aziende che sviluppano intelligenza artificiale, su proposta di Dario Amodei (CEO di Anthropic), avevano ipotizzato di concordare una pausa nello sviluppo dei modelli più evoluti.

La risposta dell’amministrazione Trump era stata decisa ed in senso contrario, invitando a proseguire nella ricerca (letteralmente: “chi vince nella IA, vince tutto”) salvo poi istituire recentemente una “Super Intelligence Force”.

Questa task force è un organismo volto a coordinare le politiche sull'IA e a mantenere la leadership americana nel settore. Jay Clayton, direttore della National Intelligence, è stato nominato a capo di questa nuova struttura, che include figure chiave di agenzie governative e aziende tecnologiche.

Parallelamente, Trump sta cercando di rinominare l'intelligenza artificiale come 'Super Intelligenza', un'iniziativa che ha suscitato reazioni contrastanti, con alcune figure di spicco della Silicon Valley che hanno adottato il nuovo termine. Questa mossa è stata preceduta da un accordo con i grandi gruppi tech e mira ad accelerare gli investimenti e la competizione con la Cina.

L'idea di Trump di ribattezzare l'IA come 'Super Intelligenza' può sembrare una semplice trovata pubblicitaria oppure una mania di grandezza, ma offre un'occasione per spiegare come la percezione pubblica dell'IA influisca sulle decisioni politiche e sugli investimenti.

Alla luce degli episodi controversi che hanno visto coinvolti i modelli di intelligenza artificiale, questo nome si sta consolidando nell’opinione pubblica con toni chiaroscuri. Si passa dallo strumento che risolve tutti i problemi a quello che ci ruberà il lavoro, da incremento di produttività a grave rischio per la sicurezza. L’idea di darle un nuovo nome, Super Intelligenza, fa pensare proprio al desiderio di rinfrescare l’immagine di questa tecnologia per farla digerire meglio all’opinione pubblica.

La creazione di un organo di coordinamento con figure chiave di agenzie governative e aziende tech solleva interrogativi sulla centralizzazione del potere e sulla trasparenza. In molti sono preoccupati per il potenziale impatto sulla privacy e sulla libertà di espressione, soprattutto se questa 'task force' avrà ampi poteri decisionali.

Dall’altra sponda dell’oceano Atlantico, l’approccio europeo partito già nel 2024 con l’AI Act (Regolamento UE 2024/1689) e pienamente applicabile dal 2 agosto 2026, appare più macchinoso e lento, però più trasparente nelle modalità di stesura e applicazione.

Le strategie dei vari continenti hanno differenze notevoli: di fronte agli Stati Uniti che spingono sull’acceleratore pur mantenendo un tentativo di trasparenza e la Cina, in rapida ascesa, della quale però si conosce poco, l’Europa si propone con modelli ancora lontani dalle prestazioni dei concorrenti (Mistral e Minerva per citarne i principali) ma con maggiori tutele e garanzie per cittadini e utenti.

Al netto delle differenze, quasi filosofiche, di approccio tra i vari continenti, si nota come l’intento di governare e regolamentare lo sviluppo dell’intelligenza artificiale sia comune. I rischi legati ad un uso sempre più vasto sono ormai dimostrati.

Introduzione dell’Intelligenza Artificiale nella Pubblica Amministrazione

D’altro canto le prestazioni offerte dai modelli già disponibili stanno invogliando sempre più aziende, amministrazioni pubbliche e privati cittadini ad utilizzare la IA per incrementare produttività, automatizzare operazioni e semplificare.

In questo ambito vi è un’interessante iniziativa italiana: ConsorzioIT, con il supporto del Politecnico di Milano e Compa FVG, ha avviato un metodo standardizzato basato sull’analisi dei 'processi sentinella', ovvero una selezione di processi chiave della pubblica amministrazione da monitorare. Questo approccio permette di mappare i processi della PA in modo rappresentativo e ripetibile, costituendo un'infrastruttura abilitante per la digitalizzazione.

Pur essendo agli inizi, questo esempio mostra come vi sia interesse ad introdurre l’intelligenza artificiale nella pubblica amministrazione. L’approccio in questo caso, con una mappatura iniziale dei processi e la presenza del Politecnico di Milano, fa presupporre serietà e prudenza, assolutamente necessarie dati i rischi che al momento la IA ancora presenta.

I rischi e le contromisure

I comportamenti indesiderati presentati prima mostrano come i modelli IA perseguano l’obiettivo assegnatogli con determinazione assoluta. Ogni azione che non è espressamente vietata dagli sviluppatori o utilizzatori viene compiuta se necessaria. Servono sia l’introduzione di vincoli nei modelli, una sorta di educazione etica durante l’addestramento, sia di vincoli fisici come contingentamento e accessi ridotti a file e internet.

Quanti utilizzatori, che al momento affidano i dati aziendali e personali a modelli o agenti IA, sono effettivamente consapevoli di come vengono trattati, sanno controllarne il comportamento e le azioni intraprese e come limitarle?

Un conto è chiedere all’intelligenza artificiale di spiegarci la legge di Lavoisier o riassumere la storia delle crociate, un altro è affidarle incarichi importanti che coinvolgono dati sensibili, riservati e strategici. È forse ancor più delicato affidare interamente alla IA le decisioni in materia di richieste di visto, esenzione o rimborsi delle tasse, o altre pratiche che riguardano la pubblica amministrazione ed i cittadini. È auspicabile che una governance dello sviluppo dell’intelligenza artificiale si sviluppi con trasparenza ed equità, ma al tempo stesso anche che l’applicazione di questi modelli sia affidata a operatori competenti e consapevoli dei rischi.

La fretta è sempre cattiva consigliera e la gara nello sviluppo della IA rischia di provocare danni collaterali non trascurabili, se portata avanti senza discernimento e prudenza.