FONTE ALGORITHM WATCH CHE RINGRAZIAMO
Due agenzie dell’UE, Frontex ed eu-LISA, stanno sviluppando ETIAS, un nuovo sistema che valuta automaticamente il “rischio” rappresentato da alcuni viaggiatori. L’algoritmo di smistamento sarà addestrato in parte con le decisioni passate delle guardie di frontiera.
Per gli Anti-Brexiteers di Twitter, l’imminente fine dell’esenzione dal visto verso l’UE, che introdurrà controlli sui precedenti di “salute e sicurezza” sui viaggiatori del Regno Unito, tra gli altri, è un argomento caldo. “Immagino che Barry di Carlisle, che ha preso a pugni il suo amico al pub nel 1988, sia rimasto a casa”, ha gongolato un account. Un altro ha esclamato che i controlli serviranno a “tenere l’UE al sicuro dagli stronzi” e un terzo ha alzato gli occhi al cielo, “preparandomi per le storie di singhiozzi indignati nel Mail”.
Paesi come gli Stati Uniti e l’Australia dispongono già di sistemi come ESTA ed ETA per confrontare le domande di viaggio di paesi senza visto con set di dati governativi (potenzialmente imprecisi ). A differenza di loro, ETIAS, o il sistema europeo di informazione e autorizzazione ai viaggi, includerà anche un algoritmo che, affermano i legislatori, può segnalare le persone che rappresentano un “rischio” vagamente definito per “salute pubblica, sicurezza o migrazione irregolare”. Da novembre 2023 in poi, Frontex, l’Agenzia della guardia costiera e di frontiera dell’UE, prevede che circa il 5% dei futuri viaggiatori verrà segnalato e quindi potenzialmente negato l’ingresso.
Valutazioni del rischio: il futuro di eu-LISA
Organizzazioni accademiche e non governative come Access Now vogliono vietare le valutazioni del rischio automatizzate come ETIAS. Sostengono che anche se tali valutazioni vengono eseguite su “dati non sensibili” legalmente, come la nazionalità, possono comunque portare a una discriminazione indiretta illegale . E sono particolarmente infastiditi dal fatto che la bozza della legge sull’IA in questo momento escluda l’ETIAS e altri database sulla migrazione dell’UE dal suo campo di applicazione, che offre una protezione rigorosa ai cittadini dell’UE che potrebbero essere interessati dalle stesse tecnologie.
Ma a sentirlo dire dalla sicurezza delle frontiere, il regolamento ETIAS è solo l’inizio. Eu-LISA è l’equivalente tecnologico dell’UE di Frontex, che gestisce una serie crescente di database che presto saranno collegati con informazioni sui cittadini non UE a fini di controllo della migrazione e sicurezza.
Alla conferenza di ottobre dell’agenzia a Tallinn, dove ha la sua sede centrale, il vicedirettore esecutivo di Frontex Uku Särekenanno ha affermato che le “valutazioni del rischio e la profilazione” dell’IA possono svolgere un ruolo importante nel futuro del controllo delle frontiere dell’UE. Se l’Europa vuole competere con aziende americane come Google, Särekanno ha affermato, “eu-LISA è molto ben posizionata per sviluppare tali tecnologie”, perché “[è] probabilmente l’unica agenzia in Europa con una così grande quantità di dati che potrebbero essere utilizzato per scopi scientifici”. Le reazioni del pubblico, che includeva persone che si presentavano come “gestori di sistemi IT”, andavano dall’entusiasmo (“potremmo colmare il divario per l’IA in Europa!”) allo scetticismo (“è solo un pannello”).
Oltre a ETIAS, ci sono anche piani per iniziare a utilizzare un algoritmo per contrassegnare le domande di visto “rischiose”. Quindi il passo successivo è sviluppare strumenti che categorizzino i “rischi”. Un rapporto eu-LISA del 2020 conferma che l’agenzia sta conducendo ricerche su come utilizzare l’intelligenza artificiale per i suoi sistemi IT. Il rapporto propone che eu-LISA potrebbe, in linea con gli obiettivi dell’UE di aprire la strada all’IA “radicata nei valori europei comuni” – gestire l’archiviazione dei dati di formazione e il conseguente sviluppo di strumenti per scopi di contrasto.
“Esercizio politico”
Eu-LISA nasce 10 anni fa per gestire Eurodac (un database che raccoglie le impronte dei richiedenti asilo) e il Sistema Informativo Schengen (per monitorare i cittadini non comunitari sospettati o condannati per reati o soggetti a divieti d’ingresso). Da allora continua a crescere: sono state costruite nuove banche dati, per persone con visto, persone provenienti da paesi senza visto, nonché un sistema per monitorare l’ingresso e l’uscita di tutti i cittadini non comunitari. “La Commissione europea sente che ci sono delle lacune, diciamo oh non copriamo questo sistema di cittadini di paesi terzi, quindi dobbiamo creare un altro sistema”, afferma Niovi Vavoula, docente senior di migrazione e sicurezza alla Queen Mary University di Londra .
Secondo Vavoula, la motivazione della crescita di eu-LISA è politica, non pratica. “È al cento per cento un esercizio politico”, dice. La brusca svolta a destra nella politica di immigrazione dell’UE avvenuta intorno al 2015, nonché la pressione per “tenere il passo” con iniziative simili in corso negli Stati Uniti e in Australia, hanno contribuito all’ampliamento del mandato di eu-LISA e ad un aumento della spesa sugli appaltatori del settore privato.
Dove lo stato incontra l’industria
Alla conferenza eu-LISA di ottobre a Tallinn, nel frattempo, una società di lancio di software per la valutazione del rischio ha mostrato una clip di una giovane coppia spensierata che passeggiava in un aeroporto vuoto prima di farsi scansionare i volti. Un delegato di eu-LISA ha detto che non avrebbe voluto che il suo viso fosse scansionato e che i dati personali fossero usati in questo modo, ed è per questo che negli ultimi anni non si è registrato ad alcune app di appuntamenti. Ma a eu-LISA, ha detto, aiuta a mantenere aperte le frontiere per i cittadini dell’UE. Non poteva dire perché esiste ETIAS, tuttavia, poiché “il regolamento [ETIAS] era già presente quando mi sono unito”.
Quando gli è stato chiesto perché esiste ETIAS, un ingegnere – la cui società informatica con sede ad Atene è uno dei numerosi appaltatori privati assunti da eu-LISA – ha detto di essere “geloso” che qualcuno fosse interessato: “per la maggior parte delle persone qui, ETIAS è solo questione di soldi .” Si aspetta che i contratti continuino ad arrivare: “In questo momento, ETIAS è una soluzione, proprio come 10 anni fa, eu-LISA era una soluzione. Tra 10 anni, ETIAS sarà un problema e ci saranno nuove soluzioni: ecco come funziona la sicurezza”.
Il 5% di Frontex
A Varsavia, una “Unità centrale ETIAS” gestita da Frontex sta attualmente assumendo persone che lavorino in turni 24 ore su 24 per controllare eventuali applicazioni ETIAS contrassegnate come potenzialmente “rischiose”. Frontex sta inoltre aiutando eu-LISA sviluppando l’algoritmo di segnalazione. L’agenzia prevede che un candidato su venti, ovvero il 5%, verrà automaticamente selezionato per la revisione manuale.
Jorge Silva Rodrigues, un responsabile del progetto Frontex che sta allestendo l’Unità centrale, fornisce un ipotetico esempio di come funzionerebbe l’algoritmo: “Se avessimo ETIAS in esecuzione durante la situazione di Covid-19, faremmo domande specifiche relative al Covid in l’applicazione.” Una persona proveniente da un Paese con un’alta incidenza di Covid, ha detto, sarebbe stata segnalata.
“Sono sbalordito”, dice Vavoula, docente di migrazione, quando gli viene raccontato l’esempio di Silva Rodrigues. I futuri potentissimi dipendenti di Frontex presso l’Unità centrale dovrebbero sapere che non sarà loro consentito addestrare l’algoritmo con i dati sulla pandemia, perché il regolamento ETIAS parla solo di “rischi epidemici”, anziché di pandemia, il che implica una diffusione globale.
Per decidere quali caratteristiche debbano essere considerate “rischiose”, Frontex si baserà sui dati degli Stati membri dell’UE, in particolare delle loro guardie di frontiera, per scoprire quali “indicatori” le guardie di frontiera hanno utilizzato in passato, quando hanno deciso che qualcuno da un visto -paese libero rappresentava una “minaccia” per “l’ordine pubblico, la sicurezza interna, la salute pubblica o le relazioni internazionali di uno qualsiasi degli Stati Schengen”.
Le attuali pratiche delle guardie di frontiera in vari Stati membri dell’UE sono molto controverse: la polizia è stata accusata di crimini violenti contro persone provenienti da paesi senza visto come Albania e Serbia . In primavera, funzionari in Polonia e Ucraina sono stati accusati di aver fermato e intimidito persone di origine africana, mediorientale e dell’Asia meridionale che cercavano di fuggire dalla guerra in Ucraina.
Alcuni Stati membri potrebbero non tenere nemmeno le statistiche sul motivo per cui le persone con passaporti provenienti da paesi senza visto vengono respinte. “Secondo me, è possibile che questi dati statistici possano essere sostituiti da testimonianze di guardie di frontiera su base aneddotica, al fine di creare un’idea di ciò che sta accadendo sul campo”, afferma Vavoula.