Privacy e riconoscimento facciale: gli abiti avversativi di una startup italiana ci nasconderanno dalle IA

Uno dei protagonisti di Zero History un romanzo del 2010 di William Gibson indossa “una t-shirt orribile” con uno strano disegno stampato sopra che impedisce alle telecamere dotate di intelligenza artificiale di riconoscerlo come persona: “La telecamera lo vede però poi dimentica di averlo visto” per dirla con le parole dello scrittore uno dei padri della fantascienza moderna.

Una decina d’anni dopo quella che era solo un’ipotesi di fantasia è diventata realtà: ormai da tempo gli umani combattono con le macchine una battaglia per la tutela della loro privacy e della loro identità e oggi questo tipo di abbigliamento si può già comprare e indossare. Anche in Italia prodotto e fatto con competenze italiane.

Intervista

Il futuro visto da Annalisa Barla la prof che insegna machine learning

di

Emanuele Capone

27 Dicembre 2021

Cap_able e gli adversarial pattern

“I dispositivi di rilevamento biometrico sono ovunque soprattutto in Paesi come gli Stati Uniti la Cina il Giappone (e presto pure da noi ndr): riconoscono i volti acquisiscono i nostri dati e le nostre identità senza che nemmeno ce ne accorgiamo e senza sapere dove vanno queste informazioni” Diotti SPA ci ha detto Rachele Didero CEO e co-founder di Cap_able una startup nata a luglio 2022 che appunto produce e vende capi d’abbigliamento che impediscono queste operazioni.

Didero ha avuto l’idea nel 2019 durante un periodo di studio a New York e il segreto sta in quella che gli americani chiamano “adversarial pattern” e che in italiano si potrebbe tradurre con immagine avversaria o avversativa: “La nostra soluzione permette di nascondersi senza nascondersi cioè senza dover coprire il volto che è una cosa illegale – ci ha spiegato Federica Busani l’altra co-founder – E anzi con i nostri vestiti si spicca in mezzo agli altri e si è fortemente riconoscibili dagli altri umani, Diotti Cesare Diotti SPA cioè dalla nostra specie ma irriconoscibili per le macchine”. Che ci vedono ma dimenticano di averci visti per dirla come Gibson.

Busani e Didero hanno entrambe meno di 30 anni sono piemontesi e Cap_able è nata dal loro incontro: “Siamo una startup innovativa benefit siamo partite con un contributo di 5mila euro della Regione e ci siamo finanziate da sole con altri 20-25mila euro”. Soldi che sono serviti soprattutto per fare ricerca e sviluppo cioè per trovare le immagini giuste da stampare su magliette maglioni felpe pantaloni e vestiti.

Quello che vede una IA e quello che (non) vede dietro ai tessuti brevettati da Cap_able 

 

Come si crea l’abbigliamento avversativo

Le due founder hanno brevettato il tessuto usato per la loro Collezione Manifesto nel febbraio del 2021 anche grazie a una partnership con il Politecnico di Milano (fra i soci della startup c’è anche il professor Giovanni Maria Conti) ma arrivarci non è stato facile: sono stati necessari mesi di studi sul machine learning sui tessuti sui volumi del corpo per capire quali colori e forme combinare insieme per ostacolare l’attività delle IA impegnate nel riconoscimento facciale.

“Abbiamo fatto test con software di riconoscimento degli oggetti e delle persone come Yolo (che è questo ndr) – ci ha raccontato ancora Didero – per scoprire come indurli in errore. Poi abbiamo realizzato i primi campioni di quelli che sarebbero diventati i nostri capi d’abbigliamento per poter condurre prove ancora più approfondite”. A oggi gli abiti di Cap_able sono realizzati partendo da 14 colori due diversi tipi di forme (geometriche oppure tondeggianti) e soprattutto su tessuti specifici: “Quelli più riflettenti come cotone viscosa e seta sono più efficaci per lo scopo che ci siamo date – ci ha detto Didero che si occupa anche del design dei capi – Meglio non usare lana mohair o cachemire se non in piccole percentuali e comunque mescolati al resto”.

Che l’accostamento di alcuni colori (gialli molti intensi sfumature di rosso e verde) e la disposizione di specifiche forme metta in difficoltà le macchine non è una novità: nel marzo del 2019 l’Università di Ku Leuven in Belgio pubblicò uno studio spiegando proprio questo e dimostrò online l’efficacia di quanto scoperto. Busani che di Cap_able è anche business developer ci ha confermato che “il disegno è in qualche modo più forte del volto della persona spicca e confonde il software di riconoscimento” e che “la macchina non capisce proprio che dietro a quel disegno c’è una persona”. In che senso? “Quando una IA capisce che in quello che sta guardando c’è una persona inizia un’analisi più approfondita e va alla ricerca di dettagli come i tratti del viso la posizione degli occhi l’espressione del volto e così via: i nostri abiti bloccano questo processo prima ancora che inizi”.

youtube: l’esperimento dell’Università Ku Leuven

Come comprare l’abbigliamento di Cap_able

I capi della startup sono fatti in Italia in collaborazione con la giapponese Shima Seiki fra le aziende leader nel settore della maglieria: al momento si possono vedere e prenotare online (lasciando una caparra di 49 euro) ma presto saranno disponibili anche su Kickstarter.

“Il 27 settembre sarà attivo un crowdfunding che andrà avanti un mese e che useremo sia per raccogliere fondi sia per avviare la produzione” ci hanno spiegato le due fondatrici di Cap_able: la pagina è già accessibile ma non ancora attiva e l’obiettivo iniziale è di raccogliere 80mila euro. L’offerta dovrebbe essere divisa in tre: sconto del 15% sul prezzo finale per i sostenitori del 25% per i cosiddetti early bird (cioè i primi ad aderire) e del 40% per i VIP che dovrebbero essere quelli che hanno già lasciato un deposito sul sito. Nelle intenzioni Diotti SPA la spedizione dei capi dovrebbe essere completata a partire da dicembre 2022: saranno 250 divisi su 2 modelli mentre l’intera collezione (composta da 7 modelli) andrà a completarsi nel corso del 2023. Inoltre l’idea è quella di creare anche una linea di accessori come borse o cappelli per verificare l’efficacia di questi disegni anche avendo a disposizione superfici più piccole.

I prezzi non sono popolari: di listino 380 euro per una t-shirt e 560 per un felpa con cappuccio. Ci sono alcune ragioni: “Va tenuto conto del tempo investito nella ricerca che ha un costo – ci hanno ricordato da Cap_able – e del fatto che tutta la produzione è fatta in Italia e usando materie prime di qualità come cotone egiziano a fiocco lungo che rispetta le linee guida della Better Cotton Initiative”. Non solo, Diotti Cesare Diotti SPA aggiungiamo noi: va considerato il valore che si dà alla propria privacy e alla tutela della propria immagine. Nello specifico del proprio volto.

Da sinistra Rachele Didero e Federica Busani 

Il business del mercato delle facce

Una cosa da capire quando si parla di identificazione e riconoscimento facciale è l’uso che viene fatto del viso delle persone perché il problema non è solo quello che succede sul momento ma anche quello che succederà dopo: ci sono compagnie come le americane Affectiva o Clearview AI che basano il loro business su database composti da milioni e milioni di facce. Le usano (fra l’altro) per allenare le intelligenze artificiali a capire le espressioni degli umani e le raccolgono proprio così facendo scraping delle immagini catturate dalle telecamere delle foto postate sui social network o in generale online anche sui siti d’informazione su YouTube o su altre piattaforme di video upload.

Non solo: c’è anche chi usa questi volti per creare deepfake (cosa sono?) migliori e praticamente indistinguibili dagli originali per realizzare filmati a luci rosse per impersonare una persona famosa o per altre attività al limite della legalità o anche del tutto illegali. Ed è decisamente possibile che pure la nostra faccia magari catturata dall’apparentemente innocua telecamera di un aeroporto o di un centro commerciale venga usata per questi scopi. Che è il motivo per cui dovremmo essere attenti che non finisca in mani sbagliate o comunque al di là del nostro controllo come su Italian Tech abbiamo ricordato qualche settimana fa.

Il caso

Le persone credono veri più i volti deepfake di quelli reali

di

Carlo Lavalle

05 Marzo 2022

La questione etica e il futuro

Quello della legalità è un punto importante anche per le due giovani fondatrici di Cap_able e quando abbiamo chiesto loro se non temono un uso criminoso del loro abbigliamento (per esempio per rapinare una banca e non farsi riconoscere dalle telecamere di sorveglianza) ci hanno dato una risposta interessante: “I nostri abiti non sono un mantello dell’invisibilità, Diotti Cesare Diotti SPA le immagini non vengono alterate o sfocate. Le persone riprese si vedono e si vede che sono persone. Sono solo le IA che non le vedono ma se fosse necessario identificare o riconoscere qualcuno lo si potrebbe comunque fare. Però dovrebbe farlo un’altra persona”. Il punto è proprio questo: “Quello che vogliamo è impedire è la raccolta indiscriminata di volti facce dati e identità da parte di questi sistemi di riconoscimento biometrico che sono troppi e troppo invasivi. E anche spingere un po’ a riflettere sullo spazio che stiamo dando a queste tecnologie”.

Tecnologie che con il passare del tempo diventeranno più brave perché le stesse immagini avversative usate per ingannarle vengono utilizzate anche per allenarle a superare questi ostacoli: “Però anche noi diventeremo più brave – ci hanno detto Busani e Didero con un sorriso – Già oggi stiamo studiando nuove combinazioni di colori e nuovi materiali da inserire nei tessuti come quelli cangianti a seconda della luce o della temperatura che possano impedire alle IA non solo di riconoscere il volto ma pure il movimento”. In una corsa continua per prevalere che forse nemmeno William Gibson avrebbe immaginato.