L’ONU ha presentat un informe en què s’alerta sobre l’ús del Big Data que estan fent els països. Philip Alston, relator especial per la pobresa de l’ONU, ha dut a terme l’informe per descriure l'”Estat de benestar digital”. Alston denuncia que l’ús creixent de la tecnologia en els serveis de l’Estat pot afectar a la qualitat de vida dels col·lectius més vulnerables.
L’autor assegura que l’opció d’usar massivament algoritmes i la Intel·ligència Artificial (AI en anglès) té una “atracció irresistible” però que hi ha un gran perill de generar problemes de greus conseqüències. Alston posa com a exemple els programes que permeten a les autoritats combinar múltiples categories de dades d’acord amb un “model de risc” no revelat que teòricament permet identificar algunes persones com més propenses a cometre frau en la sol·licitud d’ajuts.
“Les tecnologies digitals de l’estat de benestar no són el resultat inevitable del progrés “científic”, sinó que reflecteixen les decisions polítiques preses pels éssers humans”, continua Alston. Posa el focus sobre el problema ètic que comporta l’ús de sistemes automatitzats i d’Intel·ligència Artificial, assegurant que “es corre el risc” d’abandonar els principis dels drets humans junt “amb la presa de decisions democràtiques”.
En l’informe de l’ONU també s’esmenta a les grans companyies tecnològiques, a les quals se’ls està permetent desregularitzar-se en “zones lliures de drets humans”. Alston fa especial èmfasi en com els pressupostos per “el benestar social” estan sent retallats i s’estan imposant noves sancions a persones “analfabetes digitals o que no tenen accés a Internet”.
Per Alston, si busquem garantir la justícia social, són necessaris “cert grau de transparència i garanties que determinats grups no estan sent injustament seleccionats”, en referència al fet que el programa SyRI només s’ha utilitzat per ara per analitzar la població de barris molt concrets. “Aquest problema s’agreuja quan sabem que, una vegada que el programa va ser dotat de base legal, pràcticament no hi va haver debat al Parlament holandès, els mitjans no van dedicar atenció a l’assumpte, i no hi va haver transparència sobre el funcionament del sistema: el resultat és que els criteris [de SyRI] segueixen sent un misteri fins i tot per a aquells que l’han estudiat amb deteniment”.
L’informe recomana que, en lloc d’obsessionar-se amb el frau, l’estalvi de costos, les sancions i les definicions d’eficiència, el punt de partida hauria de ser veure “com els pressupostos dedicats a qüestions socials poden transformar-se a través de la tecnologia per garantir un nivell de vida més alt per als més vulnerables i desfavorits”. L’autor del document adverteix que, en canvi, sovint la introducció dels algoritmes i altres solucions digitals comporta una reducció d’aquestes partides pressupostàries.
