Ho visto Coded Bias su Netflix. Si tratta di un documentario sui pericoli connessi all’utilizzo in ambito governativo di tecnologie basate sull’intelligenza artificiale. Viene preso in considerazione il riconoscimento facciale per sviluppare un’analisi dell’impatto che questo ha sulla privacy e tutela dei diritti, soprattutto per quanto riguarda le minoranze. Il documentario mette in guardia soprattutto sui rischi di replicare all’interno degli algoritmi i limiti di una società non inclusiva e piena di pregiudizi.
No, non è che c’è un cattivo programmatore fascista che scrive del codice appositamente fatto per discriminare le persone di colore. Il fatto è che le intelligenze artificiali che vanno per la maggiore si “allenano” su dei modelli. Quando un sito vi chiede di spuntare una casella con scritto “non sono un robot” e vi chiede di selezionare le immagini con un semaforo o una moto, ecco, lì state allenando un’intelligenza artificiale a riconoscere che all’interno di una certa immagine c’è qualcosa di significativo.
Il documentario parte proprio dal lavoro di ricerca di una dottoranda del MIT Media Lab che scopre una IA molto brava a riconoscere i volti delle persone, ma solo se sono maschi e bianchi. Perché l’insieme di foto su cui avevano allenato quella IA era evidentemente composto per la maggior parte da maschi bianchi.
Vabbè, se la tematica vi solletica il documentario è interessante. Ho alcuni appunti da fare all’aspetto più “cinematografico” se volete: non ho apprezzato le parti con il computer che parla (molto cringe), così come la scelta di mettere in scena appositamente alcune situazioni funzionali alla comprensione di una certa realtà. In generale il tono è parecchio di denuncia alla Micheal Moore, ma con uno stile più “tech”, non so come spiegarlo 🧐.
So che Netflix ha prodotto anche altra non-fiction sui temi del digitale, che però non ho visto. Gli unici altri due titoli in qualche modo tangenti a questi temi sono stati:
Terms and conditions may apply (2013) (IMDb)
Un’ampia narrazione del business legato ai dati (sì, un po’ di anni prima di Cambridge Analytica). Ne ho un ricordo positivo anche se pure in questo documentario c’erano uno o due crescendo di complottismi che mi hanno fatto sorridere 😀
The Internet’s Own Boy: The Story of Aaron Swartz (2014) (IMDb – Wikipedia)
La storia di Aaron Swartz, che se non conoscete dovreste conoscere (se vi va c’è un ebook ricco di contributi), che non è tanto legata alla privacy o all’uso dei dati, quanto ai temi dell’open access e all’attivismo sui temi del digitale. Tra l’altro questo documentario è stato la seconda cosa che ho mai finanziato su Kickstarter 💪. Credo che le personalità come quella di Aaron siano quelle di cui c’è enorme bisogno per essere ispirati e fare in modo che il progresso tecnologico sia orientato ad un miglioramento della nostra società e non ad una replica dei problemi che abbiamo già anche senza IA.