Piattaforme che opprimono la ricerca di interesse pubblico: la Commissione europea risponde alla domanda dell’eurodeputato Breyer su AlgorithmWatch

Fonte AlgoritmWatch

 

 

 

Dopo che Facebook ha costretto AlgorithmWatch a chiudere il nostro progetto di monitoraggio di Instagram, l’eurodeputato Patrick Breyer ha presentato una domanda scritta alla Commissione europea chiedendo come proteggere la ricerca di interesse pubblico dall’essere oppressa dalle grandi piattaforme tecnologiche. Ora la Commissione ha risposto.

Nell’ottobre 2021, dopo che Facebook ha costretto AlgorithmWatch a chiudere il nostro progetto di donazione di dati sull’algoritmo di Instagram, l’eurodeputato Patrick Breyer ha presentato una domanda scritta alla Commissione europea sulle piattaforme che opprimono la ricerca di interesse pubblico, l’accesso ai dati e l’articolo 31 della proposta di legge sui servizi digitali ( DSA).

Tra le questioni sollevate dall’onorevole Breyer c’era la domanda sulle soluzioni proposte dalla Commissione per le organizzazioni della società civile ei giornalisti che desiderano accedere ai dati della piattaforma. L’articolo 31, paragrafo 4, del progetto di DSA prevede tale accesso solo per i “ricercatori controllati” con affiliazioni accademiche, quindi il signor Breyer ha chiesto specificamente se questo articolo debba essere modificato per estendere l’accesso ai dati per i ricercatori controllati al di fuori del mondo accademico.

Ora, il commissario UE Thierry Breton ha scritto una risposta a nome della Commissione . Quando si tratta di disinformazione, affermano che le piattaforme dovrebbero garantire un “livello sufficiente di accesso ai dati” alle parti interessate come le organizzazioni della società civile e i giornalisti investigativi. Ma quando si parla di art. 31(4), la Commissione ribadisce il linguaggio del progetto di DSA affermando che i “ricercatori controllati” che cercano di accedere ai dati della piattaforma devono avere affiliazioni accademiche.

AlgorithmWatch crede fermamente che tale definizione di “ricercatori controllati” sia troppo limitata e che la modifica dell’articolo 31 sia fondamentale per garantire una maggiore trasparenza e responsabilità per le grandi piattaforme tecnologiche. Questa convinzione è stata ripresa da dozzine di organizzazioni e ricercatori della società civile, nonché da oltre 6.000 persone che hanno firmato le nostre lettere aperte ai legislatori europei chiedendo che il DSA autorizzi la ricerca controllata di interesse pubblico a regnare sui rischi della piattaforma per la sfera pubblica.

Abbiamo già compiuto importanti passi avanti su questo fronte, poiché le nostre richieste si sono riflesse nel testo finale del DSA approvato dalla commissione per il mercato interno e la protezione dei consumatori (IMCO) del Parlamento europeo. A metà gennaio, la plenaria del Parlamento voterà su questo testo, auspicabilmente confermando la sua posizione sull’accesso ai dati. In linea con i progressi compiuti dall’IMCO, esortiamo vivamente la Commissione europea ad accogliere le nostre richieste nei negoziati a tre che ci attendono e ad ampliare la definizione di “ricercatori controllati” nel DSA per includere la società civile.

Per valutare in che modo le piattaforme influenzano la nostra sfera pubblica, dobbiamo proteggere e potenziare la ricerca di interesse pubblico. Solo allora possiamo avere un dibattito basato sull’evidenza sulla questione e solo allora possiamo tenere conto delle piattaforme.

All’interno dell’app “selfie” casalinga della Polonia

Fonte algorithmwatch.org

 

L’app obbligatoria del governo polacco “Home Quarantine” avrebbe dovuto sostituire le visite della polizia a domicilio. Gli utenti dicono che è uno scherzo.

 

Su un treno per la città di Breslavia durante le prime settimane caotiche in cui la Polonia era sotto blocco nell’aprile 2020, Sławomir Gadek ha scritto il suo numero di telefono su un modulo. Poco dopo, ha ricevuto una telefonata che gli diceva di mettersi in quarantena e ha prontamente scaricato la nuovissima app “Home Quarantine” del governo polacco, che era stata appena resa obbligatoria per chiunque fosse potenzialmente infetto dal coronavirus.  

Qui, Gadek avrebbe 20 minuti per fare un selfie per l’app dopo aver ricevuto un messaggio di testo. Il sistema di localizzazione utilizzerà quindi i dati sulla posizione GPS del suo smartphone per connettersi a un database nazionale per le persone in quarantena per verificare che si trovasse all’indirizzo che aveva fornito alle autorità sanitarie. Se l’app non riconosceva il suo volto o la sua posizione in tempo, avviserebbe automaticamente la polizia di andare a casa sua per controllarlo.

Quando il governo polacco ha introdotto la sua app “Home Quarantine” (la prima del suo genere in Europa) nel marzo 2020, il Ministero degli Affari Digitali si è vantato che la Polonia è stata un pioniere nello sviluppo di nuove tecnologie nella lotta contro il Covid-19. Ma da allora, l’app è diventata uno scherzo: le persone hanno condiviso suggerimenti su come ingannare l’app manipolando le impostazioni di posizione sui loro telefoni e hanno creato meme di se stessi che scattano selfie all’aperto mentre tengono ritagli di cartone delle loro stanze.

Al suo arrivo a casa nell’aprile 2020, Gadek ha utilizzato l’app per una settimana. Gli era stato promosso come, nelle sue parole, “un modo più conveniente per confermare alle autorità che sono davvero in quarantena ed evitare le visite della polizia”. Ma questa era una promessa vuota. 

Riceveva tre notifiche al giorno e ogni volta rispondeva prontamente con un selfie e i dettagli della sua posizione. Ma due agenti di polizia venivano comunque nel suo appartamento una volta al giorno. Lo chiamavano ogni volta utilizzando un numero di cellulare diverso e gli chiedevano di uscire sul balcone e salutarli. “Non so perché usano sempre numeri diversi”, ha detto Gadek. (Come membro del partito di opposizione di sinistra Razem, ha spesso contatti con gli agenti di polizia, l’ultimo quando ha contribuito a organizzare una protesta nella città occidentale di Lubin, dopo che un uomo è stato ucciso in custodia di polizia lo scorso agosto.) 

“Certo, questi erano i primi giorni”, dice Gadek.

Avanti veloce di venti mesi e gli utenti continuano a segnalare gli stessi problemi con l’app “Home Quarantine”. Gli utenti di GooglePlay e AppStore affermano ancora che l’app non funziona correttamente: delle oltre 20.000 recensioni, la stragrande maggioranza era negativa. Un utente, Pawel Fuchs, ha scritto: “È una specie di fallimento, i primi due giorni ha funzionato e poi non ha più funzionato e la polizia mi dà fastidio perché presumibilmente non svolgo i miei compiti. Non lo faccio, perché Non li capisco”.

Preoccupazioni relative alla privacy

Mentre alcuni utenti fanno meme sull’evasione dell’app, altri si lamentano con l’Ufficio polacco per la protezione dei dati personali.

“La maggior parte dei denuncianti ha espresso preoccupazione per la sicurezza dei dati elaborati nell’app, l’obbligo di installare l’app al ritorno dall’estero o le questioni relative alla fornitura del consenso per il trattamento dei dati personali”, afferma Adam Sanocki, portavoce Ufficio per la protezione dei dati personali. 

Al contrario, Sanocki ha affermato che il suo ufficio ha ricevuto solo due reclami per indicare che l’app non funzionava correttamente. Uno di loro non è stato in grado di registrarsi nell’applicazione e un altro ha ricevuto messaggi di testo che ricordavano loro di installarlo anche se la quarantena non si applicava.  

La mia esperienza di “quarantena domestica”.

Posso testimoniare io stesso i problemi dell’app: nell’aprile 2021, un anno dopo che l’app è diventata obbligatoria in Polonia, ho dovuto mettere in quarantena mentre aspettavo i risultati di un test Covid. Ho ricevuto un messaggio di testo: “Sei in quarantena. Hai l’obbligo legale di utilizzare l’app Home Quarantine” e ho scaricato l’app. Mi ha chiesto il mio numero di telefono, ha richiesto l’accesso alla fotocamera e alla posizione del mio telefono e mi ha chiesto di caricare un selfie. 

L’app mi ha informato che, durante i prossimi 10 giorni di quarantena, a qualsiasi ora del giorno e della notte, potevo aspettarmi istruzioni per fare un selfie entro 20 minuti per confermare che mi trovavo nello stesso posto. Il mancato completamento del compito, mi è stato detto, avrebbe portato una pattuglia di polizia a verificare che stessi seguendo le regole di quarantena. A differenza di Sławomir Gadek, l’app non mi ha inviato alcuna notifica durante la mia quarantena. Inoltre non ho ricevuto telefonate o visite da parte della polizia. 

I termini di servizio dell’app affermano inoltre che le foto degli utenti e le foto scattate dagli utenti e i loro dati vengono archiviati ed elaborati solo su server governativi solo mentre rimangono in quarantena.  

Tuttavia, alcuni mesi dopo la mia quarantena, quando ho reinstallato l’app per fare ricerche per questo articolo, sono stato turbato nello scoprire che potevo ancora accedervi. Ha anche mostrato la data sbagliata del mio rilascio dalla quarantena. Ai sensi dell’articolo 15 del GDPR, ho chiesto ripetutamente al responsabile della protezione dei dati del Dipartimento per gli affari digitali che tipo di dati sono ancora archiviati sulla mia quarantena. Non ho ricevuto risposta. 

Con così tanta intrusione nella privacy dei cittadini, l’app è anche efficace? Secondo i dati forniti dalla polizia, dall’inizio della pandemia la polizia ha visitato le persone in quarantena più di 82,5 milioni di volte.

Teatro della sicurezza

Quando Gadek ha scaricato l’app “Home Quarantine” nell’aprile 2020, alcuni dei suoi conoscenti erano diffidenti nei confronti del “tracciamento non necessario tramite app governative sui loro telefoni”, afferma. All’epoca, Gadek afferma: “Non mi aspettavo che il nostro governo fosse così avanzato nell’utilizzo degli strumenti di sorveglianza per rintracciare i cittadini immediatamente all’inizio della pandemia”. 

Venti mesi dopo, afferma: “Non è un’app avanzata. La mia ipotesi è che questo sia principalmente teatro, come una ricerca eccessiva all’aeroporto. Le persone sentono di essere osservate, quindi si comportano bene”. A questo punto della nostra conversazione su Skype, ha catturato lo sguardo della sua ragazza fuori campo e ha riso: “No, non avevo intenzione di dire “panopticon”.” 

Sorveglianza tramite Intelligenza Artificiale sulle prestazioni di welfare sotto processo nei Paesi Bassi

Autore :

 

I tribunali hanno tenuto udienze su una causa di un certo numero di gruppi interessati al sistema draconiano olandese alla fine di ottobre, con una decisione attesa a gennaio.

I Paesi Bassi sono  costantemente classificati  come una delle democrazie più forti del mondo. Potresti essere sorpreso di apprendere che ospita anche uno dei sistemi di sorveglianza più invadenti che automatizza il tracciamento e la profilazione dei poveri.

Il 29 ottobre il tribunale distrettuale dell’Aia ha  tenuto udienze  sulla legalità del  Systeem Risico Indicatie  (SyRI), il sistema automatizzato del governo olandese per rilevare le frodi assistenziali. La causa, intentata da una coalizione di gruppi e attivisti della società civile,  sostiene  che il sistema viola le leggi sulla protezione dei dati e gli standard sui diritti umani.

SyRI è un  modello di calcolo del rischio  sviluppato dal Ministero degli Affari Sociali e dell’Occupazione per prevedere la probabilità di un individuo di impegnarsi in benefici, frode fiscale e violazioni delle leggi sul lavoro. I calcoli di SyRI attingono  a  vasti pool di dati personali e sensibili raccolti da varie agenzie governative, dai registri del lavoro alle informazioni sui sussidi, dai rapporti sui debiti personali all’istruzione e alla storia abitativa.

Quando il sistema profila un individuo come un rischio di frode, lo notifica all’agenzia governativa competente, che ha  fino a due anni  per aprire un’indagine.

Il lancio selettivo del SyRI nei quartieri prevalentemente a basso reddito ha creato un regime di sorveglianza che prende di mira in modo sproporzionato i cittadini più poveri per un controllo più invadente. Finora, il ministero ha collaborato con le autorità municipali per  implementare  SyRI a Rotterdam, la seconda città più grande dei Paesi Bassi, che ha il  più alto tasso di povertà  del paese, così come Eindhoven e Haarlem. Durante l’audizione, il governo ha  ammesso  che il SyRI è stato preso di mira nei quartieri con un numero maggiore di residenti in assistenza sociale, nonostante la mancanza di prove che questi quartieri siano responsabili di tassi più elevati di frode sui benefici.

Ma SyRI non ha solo effetti discriminatori sulla privacy dei beneficiari del welfare. Potrebbe anche facilitare le violazioni del loro diritto alla sicurezza sociale. Poiché SyRI è avvolto dal segreto, i beneficiari del welfare non hanno modo significativo di sapere quando o come i calcoli del sistema vengono presi in considerazione nelle decisioni per tagliarli fuori dai benefici salvavita.

Il governo ha rifiutato di rivelare come funziona SyRI, per paura che spiegare i suoi algoritmi di calcolo del rischio consentirà ai truffatori di ingannare il sistema. Ma ha rivelato che il sistema  genera “falsi positivi”  – casi in cui il sistema segnala erroneamente le persone come rischio di frode.

Senza spiegazioni più trasparenti, è impossibile sapere se tali errori abbiano portato ad indagini improprie nei confronti dei beneficiari di welfare o all’ingiusta sospensione dei loro benefici.

Il governo afferma di utilizzare questi “falsi positivi” per correggere i difetti nel suo modello di calcolo del rischio, ma non c’è nemmeno modo di testare questa affermazione. In effetti, nessuno può indovinare se il sistema mantenga un tasso di accuratezza sufficientemente alto da giustificare valutazioni del rischio che tengono le persone sospette per un massimo di due anni.

SyRI fa parte di una  più ampia tendenza globale volta  a integrare l’Intelligenza Artificiale e altre tecnologie basate sui dati nell’amministrazione di prestazioni sociali e altri servizi essenziali. Ma queste tecnologie sono spesso implementate  senza una consultazione significativa  con i beneficiari del welfare o il pubblico in generale.

Nel caso di SyRI, il sistema è stato autorizzato dal Parlamento nell’ambito di un pacchetto di riforme del  welfare  varato nel 2014. Tuttavia, il governo ha  sperimentato  iniziative di rilevamento delle frodi ad alta tecnologia per quasi un decennio prima di cedere al controllo legislativo. I gruppi locali si sono  anche lamentati  dell’inadeguatezza dell’iter legislativo. Secondo la  causa , il Parlamento non ha affrontato in modo significativo le preoccupazioni sulla privacy e sulla protezione dei dati sollevate dal proprio consiglio consultivo legislativo e dall’organismo di controllo della protezione dei dati del governo.

Il tribunale emetterà la sua decisione a gennaio. Staremo a guardare per vedere se protegge i diritti delle persone più povere e vulnerabili dai capricci dell’automazione.