Come definire i rischi sistemici delle piattaforme per la democrazia

Dare un senso alla legge sui servizi digitali

Non è chiaro come le piattaforme e i motori di ricerca più grandi dovrebbero identificare i “rischi sistemici” per conformarsi al DSA. AlgorithmWatch delinea una metodologia che servirà da punto di riferimento per il modo in cui noi, in quanto osservatori della società civile, giudicheremo le valutazioni del rischio che stiamo conducendo proprio in questo momento.

Autore Michele Loi 

Fonte Algorithm Watch

È difficile negare che i servizi Internet dominanti forniscano beni di consumo essenziali per gran parte del mondo. Dover passare una settimana, tanto meno un giorno, senza ricerche Google efficienti, o perdere la capacità di interagire con gli altri tramite una piattaforma di social media come Instagram, sconvolgerebbe sicuramente la vita personale e professionale di molte persone. Nonostante i loro vantaggi, tuttavia, questi e altri potenti servizi Internet stanno radicalmente trasformando la nostra società capitalista, potenzialmente , nella sua versione peggiore. In tal modo, l’economia delle piattaforme genera una miriade di rischi che possono avere un impatto negativo sugli individui e sulla democrazia stessa.

Valutazione dei rischi

I legislatori dell’Unione Europea sono convinti che le piattaforme possano comportare tali rischi e hanno quindi promulgato il Digital Services Act (DSA), una legge che impone alle cosiddette piattaforme online molto grandi (VLOP) e ai motori di ricerca online molto grandi (VLOSE) di “identificare, analizzare e valutare diligentemente qualsiasi rischio sistemico nell’Unione derivante dalla progettazione o dal funzionamento del loro servizio e dei relativi sistemi, inclusi i sistemi algoritmici, o dall’uso che viene fatto dei loro servizi”. Tali rischi includono, ma non sono limitati a, la diffusione di contenuti illegali attraverso i servizi di piattaforme e motori di ricerca; eventuali effetti negativi attuali o prevedibili per l’esercizio dei diritti fondamentali; sul discorso civico e sui processi elettorali e sulla pubblica sicurezza; in materia di violenza di genere, tutela della salute pubblica e minori; e gravi conseguenze negative per il benessere fisico e psichico della persona. Quando tali rischi vengono identificati,

Manca la guida

Mentre la legge fornisce un lungo elenco di possibili misure per mitigare i rischi – ad esempio “adattare il design, le caratteristiche o il funzionamento dei loro servizi, comprese le loro interfacce online” – è notevolmente  silenzioso su come VLOP e VLOSE dovrebbero condurre una valutazione del rischio e cosa i legislatori aspettarsi da loro. La legge precisa che VLOP e VLOSE devono tenere conto dei modi in cui determinati fattori possono influenzare i rischi sistemici, compresa la progettazione di sistemi di raccomandazione e qualsiasi altro sistema algoritmico pertinente, sistemi di moderazione dei contenuti, termini e condizioni applicabili e la loro applicazione, sistemi per selezionare e presentare annunci pubblicitari e pratiche relative ai dati del fornitore.

Non vi è, tuttavia, alcuna menzione di una procedura che delinei come identificare un rischio sistemico nella pratica. Inoltre, la Commissione europea non ha pubblicato alcuna guida per queste società. Ciò significa che in questo momento non è molto chiaro come VLOP e VLOSE debbano valutare i rischi per conformarsi ai requisiti del DSA . I VLOP e i VLOSE sono tenuti a consegnare le loro prime valutazioni del rischio alla Commissione europea fino all’agosto del 2023 – va detto, tuttavia, che è improbabile che rendano queste valutazioni disponibili al pubblico. Inoltre, non è chiaro cosa rilascerà la Commissione sui loro contenuti e quando.

Tracciare un percorso in avanti

Questo è il contesto del nostro articolo. Non cercheremo di fornire una valutazione olistica dei vantaggi e dei mali della società digitale modellata dai servizi Internet attualmente dominanti. Il nostro obiettivo è piuttosto più ristretto e più specifico. Lo scopo del lavoro è determinare se alcuni elementi di rischio che un servizio Internet genera per la libertà di parola e il pluralismo dei media sono identificabili. La nostra speranza è che con questo contributo, forniamo un punto di partenza tangibile per la discussione su ciò che le diverse parti interessate possono e devono aspettarsi da una valutazione del rischio, e come potrebbe essere fatto in pratica.

Michele Loi, Ph.D., è Marie Sklowdoska-Curie Individual Fellow presso il Dipartimento di Matematica del Politecnico di Milano con un progetto di ricerca su Fair Predictions in Health. È anche co-principal investigator del progetto interdisciplinare Socially Acceptable and Fair Algorithms, finanziato dal Fondo Nazionale Svizzero per la Ricerca Scientifica, ed è stato Principal Investigator del progetto “Algorithmic Fairness: Sviluppo di una metodologia per il controllo e la minimizzazione del bias algoritmico nei dati basati processo decisionale”, finanziato dall’Agenzia svizzera per l’innovazione.

All’interno dell’app “selfie” casalinga della Polonia

Fonte algorithmwatch.org

 

L’app obbligatoria del governo polacco “Home Quarantine” avrebbe dovuto sostituire le visite della polizia a domicilio. Gli utenti dicono che è uno scherzo.

 

Su un treno per la città di Breslavia durante le prime settimane caotiche in cui la Polonia era sotto blocco nell’aprile 2020, Sławomir Gadek ha scritto il suo numero di telefono su un modulo. Poco dopo, ha ricevuto una telefonata che gli diceva di mettersi in quarantena e ha prontamente scaricato la nuovissima app “Home Quarantine” del governo polacco, che era stata appena resa obbligatoria per chiunque fosse potenzialmente infetto dal coronavirus.  

Qui, Gadek avrebbe 20 minuti per fare un selfie per l’app dopo aver ricevuto un messaggio di testo. Il sistema di localizzazione utilizzerà quindi i dati sulla posizione GPS del suo smartphone per connettersi a un database nazionale per le persone in quarantena per verificare che si trovasse all’indirizzo che aveva fornito alle autorità sanitarie. Se l’app non riconosceva il suo volto o la sua posizione in tempo, avviserebbe automaticamente la polizia di andare a casa sua per controllarlo.

Quando il governo polacco ha introdotto la sua app “Home Quarantine” (la prima del suo genere in Europa) nel marzo 2020, il Ministero degli Affari Digitali si è vantato che la Polonia è stata un pioniere nello sviluppo di nuove tecnologie nella lotta contro il Covid-19. Ma da allora, l’app è diventata uno scherzo: le persone hanno condiviso suggerimenti su come ingannare l’app manipolando le impostazioni di posizione sui loro telefoni e hanno creato meme di se stessi che scattano selfie all’aperto mentre tengono ritagli di cartone delle loro stanze.

Al suo arrivo a casa nell’aprile 2020, Gadek ha utilizzato l’app per una settimana. Gli era stato promosso come, nelle sue parole, “un modo più conveniente per confermare alle autorità che sono davvero in quarantena ed evitare le visite della polizia”. Ma questa era una promessa vuota. 

Riceveva tre notifiche al giorno e ogni volta rispondeva prontamente con un selfie e i dettagli della sua posizione. Ma due agenti di polizia venivano comunque nel suo appartamento una volta al giorno. Lo chiamavano ogni volta utilizzando un numero di cellulare diverso e gli chiedevano di uscire sul balcone e salutarli. “Non so perché usano sempre numeri diversi”, ha detto Gadek. (Come membro del partito di opposizione di sinistra Razem, ha spesso contatti con gli agenti di polizia, l’ultimo quando ha contribuito a organizzare una protesta nella città occidentale di Lubin, dopo che un uomo è stato ucciso in custodia di polizia lo scorso agosto.) 

“Certo, questi erano i primi giorni”, dice Gadek.

Avanti veloce di venti mesi e gli utenti continuano a segnalare gli stessi problemi con l’app “Home Quarantine”. Gli utenti di GooglePlay e AppStore affermano ancora che l’app non funziona correttamente: delle oltre 20.000 recensioni, la stragrande maggioranza era negativa. Un utente, Pawel Fuchs, ha scritto: “È una specie di fallimento, i primi due giorni ha funzionato e poi non ha più funzionato e la polizia mi dà fastidio perché presumibilmente non svolgo i miei compiti. Non lo faccio, perché Non li capisco”.

Preoccupazioni relative alla privacy

Mentre alcuni utenti fanno meme sull’evasione dell’app, altri si lamentano con l’Ufficio polacco per la protezione dei dati personali.

“La maggior parte dei denuncianti ha espresso preoccupazione per la sicurezza dei dati elaborati nell’app, l’obbligo di installare l’app al ritorno dall’estero o le questioni relative alla fornitura del consenso per il trattamento dei dati personali”, afferma Adam Sanocki, portavoce Ufficio per la protezione dei dati personali. 

Al contrario, Sanocki ha affermato che il suo ufficio ha ricevuto solo due reclami per indicare che l’app non funzionava correttamente. Uno di loro non è stato in grado di registrarsi nell’applicazione e un altro ha ricevuto messaggi di testo che ricordavano loro di installarlo anche se la quarantena non si applicava.  

La mia esperienza di “quarantena domestica”.

Posso testimoniare io stesso i problemi dell’app: nell’aprile 2021, un anno dopo che l’app è diventata obbligatoria in Polonia, ho dovuto mettere in quarantena mentre aspettavo i risultati di un test Covid. Ho ricevuto un messaggio di testo: “Sei in quarantena. Hai l’obbligo legale di utilizzare l’app Home Quarantine” e ho scaricato l’app. Mi ha chiesto il mio numero di telefono, ha richiesto l’accesso alla fotocamera e alla posizione del mio telefono e mi ha chiesto di caricare un selfie. 

L’app mi ha informato che, durante i prossimi 10 giorni di quarantena, a qualsiasi ora del giorno e della notte, potevo aspettarmi istruzioni per fare un selfie entro 20 minuti per confermare che mi trovavo nello stesso posto. Il mancato completamento del compito, mi è stato detto, avrebbe portato una pattuglia di polizia a verificare che stessi seguendo le regole di quarantena. A differenza di Sławomir Gadek, l’app non mi ha inviato alcuna notifica durante la mia quarantena. Inoltre non ho ricevuto telefonate o visite da parte della polizia. 

I termini di servizio dell’app affermano inoltre che le foto degli utenti e le foto scattate dagli utenti e i loro dati vengono archiviati ed elaborati solo su server governativi solo mentre rimangono in quarantena.  

Tuttavia, alcuni mesi dopo la mia quarantena, quando ho reinstallato l’app per fare ricerche per questo articolo, sono stato turbato nello scoprire che potevo ancora accedervi. Ha anche mostrato la data sbagliata del mio rilascio dalla quarantena. Ai sensi dell’articolo 15 del GDPR, ho chiesto ripetutamente al responsabile della protezione dei dati del Dipartimento per gli affari digitali che tipo di dati sono ancora archiviati sulla mia quarantena. Non ho ricevuto risposta. 

Con così tanta intrusione nella privacy dei cittadini, l’app è anche efficace? Secondo i dati forniti dalla polizia, dall’inizio della pandemia la polizia ha visitato le persone in quarantena più di 82,5 milioni di volte.

Teatro della sicurezza

Quando Gadek ha scaricato l’app “Home Quarantine” nell’aprile 2020, alcuni dei suoi conoscenti erano diffidenti nei confronti del “tracciamento non necessario tramite app governative sui loro telefoni”, afferma. All’epoca, Gadek afferma: “Non mi aspettavo che il nostro governo fosse così avanzato nell’utilizzo degli strumenti di sorveglianza per rintracciare i cittadini immediatamente all’inizio della pandemia”. 

Venti mesi dopo, afferma: “Non è un’app avanzata. La mia ipotesi è che questo sia principalmente teatro, come una ricerca eccessiva all’aeroporto. Le persone sentono di essere osservate, quindi si comportano bene”. A questo punto della nostra conversazione su Skype, ha catturato lo sguardo della sua ragazza fuori campo e ha riso: “No, non avevo intenzione di dire “panopticon”.” 

Loris Campetti: Landini segretario della Cgil in attesa del 9 febbraio

 

 

Maurizio Landini ha preso in mano la ultracentenaria Cgil con la forza di un tornado, ma la sua non è una forza distruttrice. Si potrebbe parlare di sindacato del cambiamento se non fosse che chi usa questo sostantivo in politica è un gattopardo che vuole cambiare tutto per non cambiare niente, come fa il governo gialloverde o giallonero che dir si voglia con le politiche economiche, liberiste erano e liberiste restano. Landini vuole bene alle persone che rappresenta, ha con loro una connessione sentimentale per dirla con Antonio Gramsci.

Leggi tutto

Il Nord che cambia, un’inchiesta operaia fresca di stampa

Fonte: Sbilanciamoci

“Ma come fanno gli operai” è il titolo del libro di Loris Campetti risultato di una lunga inchiesta operaia nelle fabbriche e nei cantieri del Nord Italia. Ne esce una imprescindibile radiografia dei rapporti con i sindacati, la rappresentanza, gli immigrati.

Loris Campetti ci porta in giro per l’Italia del Nord a colloquio con venti o trenta dei suoi amici e delle sue amiche. Sono tutti operai, tanto che il titolo del viaggio è “Ma come fanno gli operai”. L’editore del libro, Manni, riassume così: “Precarietà, solitudine, sfruttamento/ Reportage da una classe fantasma”.

Loris ha di certo un’ invidiabile capacità di mettere a proprio agio le persone; le fa parlare, si confidano con lui, sono convinte che lui capisca i loro problemi e sappia spiegarli: dunque, da Torino al Varesotto, dalle valli di Brescia alla Bergamasca, dal Veneto al mare di Trieste impariamo a conoscere i lavori e la speranze della classe fantasma. Le persone che ci raccontano della loro vita sono per lo più inserite nella produzione metalmeccanica, tranne gli occhialai del bellunese che lavorano naturalmente al “miracolo” Luxottica oltre ai “ragazzi” della gig economy e la gente delle cooperative, dalle parti di Reggio Emilia.

Leggi tutto

I nuovi schiavi… degli algoritmi e delle gerarchie aziendali

fonte controlacrisi.org

orologio

Vogliamo andare in ordine sparso cedendo alla presunta caoticità di argomenti che solo un osservatore superficiale giudicherebbe tra loro scollegati.
Nei giorni scorsi, una sentenza della Corte di Cassazione ha stabilito che i lavoratori pubblici e quelli privati di fronte alla gerarchia aziendale e a ordini di servizio anche illegittimi debbono rispondere nel medesimo modo: obbedire.
Credere, obbedire e servire al posto del credere, obbedire e combattere di epoca mussoliniana, il diritto del lavoro è ormai prono ai rapporti di forza che da 30 anni a questa parte sono decisamente a favore dei padroni.

Leggi tutto