Rischio esistenziale, vuoto normativo in materia d’intelligenza artificiale: San Marino può riempire la lacuna

di Achille Campagna, avvocato, ed Ayan Iyer, ricercatore legale

Introduzione

Qualche giorno fa, il CEO di Anthropic, Dario Amodei, ha pubblicato una lettera aperta esprimendo serie preoccupazioni sul fatto che la normativa sull'IA non stia tenendo il passo con lo sviluppo della tecnologia. Poiché le capacità dell'IA aumentano in funzione del livello di informazioni cui ha accesso e alla sua abilità di addestrarsi da sola, fra gli operatori nel campo dell'intelligenza artificiale è pacifico che un giorno l'IA raggiungerà un livello di potere cognitivo che costituirà una minaccia esistenziale per la nostra società. Questo concetto, noto come "rischio esistenziale", a lungo è stato ignorato dai policymakers come una preoccupazione esagerata, al punto che giornalisti e scienziati dell'IA hanno evidenziato come le discussioni sul rischio esistenziale siano state praticamente "ghigliottinate" durante la conferenza dell'AI Action Summit a Parigi nel 2025.

Leader politici e religiosi di tutto il mondo hanno espresso le loro preoccupazioni circa il rischio esistenziale rappresentato dall'IA. Il Papa ha emesso un vero e proprio Encyclical Letter of His Holiness Leo XIV Magnifica Humanitas (15 May 2026)(di 150 pagine) che invoca l'utilizzo etico dell'IA e la necessità di "disarmarla", liberandola sostanzialmente da dinamiche competitive e rendendola più vicina alla società, anziché una forza da temere - non solo a causa delle sue capacità tecnologiche e cognitive, ma anche in virtù del rischio di commissione di gravi errori.

Per garantire l'uso etico e sicuro dell'IA, i policymakers non devono limitarsi a regolamentare l’uso quotidiano e più comune di questa tecnologia. Occorre affrontare la questione del rischio esistenziale e creare dei principi di regolamentazione per le future iterazioni dell'IA, dato l'aumento a ritmo vertiginoso delle sue capacità.

Il rischio esistenziale associato all’IA

Si ritiene che L’intelligenza artificiale si svilupperà in modo esponenziale nei prossimi decenni, ed è opinione diffusa nel settore che potrebbe raggiungere lo status di intelligenza generale entro il 2050, sebbene alcuni rapporti contraddicano questa previsione. Tuttavia, benché gli studiosi non siano concordi sulle tempistiche, riconoscono l’esistenza di un rischio esistenziale, così come l’incapacità delle politiche attuali di contrastarlo, soprattutto su questa scala temporale.

Diversi ricercatori hanno elaborato possibili quadri normativi e principi guida per mitigare la minacce esistenziali legate all’IA, incluse proposte legislative avanzate dalla stessa Anthropic, ma tali iniziative hanno ricevuto scarsa o nessuna considerazione presso i policymakers. Ricercatori cinesi hanno proposto misure di mitigazione volte a garantire il protrarsi del controllo umano sull’IA, nonché ridurre i rischi legati all’autonomia. Queste ultime includono l’obbligo di supervisione umana sulle azioni dell’IA, il divieto per l’IA di creare o sviluppare tecnologie non benefiche per la civiltà umana, e l’integrazione di codici etici nei sistemi di IA per prevenire l’uso di metodi immorali o non etici nel raggiungimento degli obiettivi.

I ricercatori hanno inoltre evidenziato problemi di disallineamento — ovvero situazioni in cui l’IA è in grado di svolgere compiti richiesti, ma non nel modo desiderato. Alcuni modelli di IA hanno utilizzato metodi non etici per completare determinati compiti, ad esempio ingannando gli esseri umani. Risolvere i problemi di allineamento potrebbe contribuire ad affrontare i rischi esistenziali.

Sebbene i percorsi attraverso cui il rischio esistenziale associato all’IA potrebbe concretizzarsi siano estremamente complessi, imprevedibili e diversificati, esiste un’azione semplice e chiara che possiamo immediatamente adottare: scriverlo in un testo di legge. Proprio come farebbe un bambino, se l’IA è ancora sotto il nostro controllo — situazione che potrebbe non durare ancora a lungo — potremmo stabilire un divieto per l’IA di arrecare danno all’umanità.

Purtroppo, i legislatori di tutto il mondo non sono finora riusciti ad adottare un’azione così semplice.

AI Act dell’UE e Rischio Esistenziale

L’Unione Europea si è dimostrata un attore particolarmente proattivo in materia di regolamentazione, soprattutto nella creazione di protocolli e standard unificati per criticità sopravvenute. Non sorprende quindi che nel 2025 sia stato introdotto l’AI Act. Quest’ultimo assegna livelli di rischio e definisce standard per uno sviluppo accettabile dell’IA, includendo il divieto di sistemi progettati per ingannare o sfruttare le vulnerabilità di individui o gruppi.

Tuttavia, come evidenziato dai ricercatori, l’AI Act dell’UE non contiene alcun riferimento al rischio esistenziale. Ciò lascia una lacuna significativa in una delle normative sulla governance dell’IA più complete al mondo, specialmente considerando che avrebbe potuto rappresentare un modello avanzato di approccio preventivo. Al contrario, l’AI Act si basa su valutazioni interne del rischio da parte delle aziende e non prevede disposizioni specifiche sul rischio esistenziale. Considerata la velocità con cui lo sviluppo dell’IA è destinato ad accelerare, questo aspetto risulta particolarmente preoccupante.

Il Ruolo di San Marino nella Mitigazione del Rischio Esistenziale

Sebbene San Marino non sia membro dell’UE, sarà inevitabilmente influenzato dall’AI Act e dalle più ampie politiche europee di governance dell’IA. Ciò gli conferisce una posizione unica per definire ulteriori linee guida in materia, può a tutti gli effetti cogliere l’opportunità di colmare le lacune della legislazione europea, soprattutto in relazione al rischio esistenziale.

In termini pragmatici (e non auspicabili), è probabile che la legislazione sull’IA che San Marino adotterà quest’estate sia una replica dell’AI Act europeo, a meno che non si sviluppi un consistente dibattito — il che rappresenterebbe già di per sé un risultato lodevole.

Per affrontare specificamente il problema del rischio esistenziale, proponiamo quanto segue:

- Prevedere espressamente il rischio esistenziale nel futuro AI Act di San Marino come qualsiasi forma di danno all’umanità nel suo complesso, inclusa ma non limitata alla cessazione della sua esistenza; vietare esplicitamente all’IA di perseguire tali esiti. Questo mira a colmare la lacuna presente nell’AI Act dell’UE, affrontando il rischio che l’IA possa essere utilizzata da attori criminali o arrecare danno all’uomo in modo autonomo.

- Creare organismi di approvazione indipendenti per la valutazione del rischio dell’IA, includendo esperti qualificati e rappresentanti della società civile. Una proposta simile è stata avanzata da Anthropic, e meccanismi di approvazione sono stati introdotti nell’AI Act dell’UE, ma tali strumenti rischiano di non essere realmente indipendenti, basandosi su valutazioni interne — permettendo di fatto agli operatori del settore di definire le regole a cui sono soggetti.

In definitiva, il rischio che l’IA rappresenta per la nostra società è in costante aumento, ed è fondamentale intervenire non solo per mitigare i rischi attuali, ma anche per prevenire quelli futuri, così da tenere il passo con la rapida evoluzione tecnologica. In assenza di cambiamenti nelle politiche, i legislatori saranno costretti ad inseguire una corsa allo sviluppo senza un traguardo.

San Marino ha l’opportunità di fare qualcosa di semplice e concreto, contribuendo a recuperare il controllo sull’IA, il progresso più importante della storia recente, destinato a migliorare le nostre vite, ma che si sta diffondendo in modo non testato e non controllato a causa della mancanza di una regolamentazione adeguata, trasformando di fatto l’umanità nel suo laboratorio sperimentale.