Eticas Foundation ya dispone de un buscador que aporta información de interés sobre los algoritmos que regulan aspectos fundamentales de nuestra existencia. En el listado hay desarrollos de las grandes tecnológicas y de instituciones como la Policía Nacional.
En esencia, un algoritmo es una serie de pasos que se siguen para resolver un problema o lograr un resultado. Una receta de cocina es un algoritmo. Pero los algoritmos, apoyados en la inteligencia artificial y la eclosión de los datos en internet y en las redes sociales, han dado un salto de gigante en las últimas décadas. Y hoy se usan para automatizar muchas tareas que antes se llevaban a cabo manualmente. De hecho, los algoritmos se han promocionado como soluciones a los problemas de las personas y como una vía para lidiar con las complejidades crecientes de la sociedad.
El algoritmo quizá más famoso (y secreto), el de Google, determina el orden de resultados en su buscador. De este algoritmo depende el resultado millonario del buscador. Pero también el comercio electrónico mundial o gran parte de las opiniones que albergamos sobre muchos temas. Los algoritmos también deciden si podremos conseguir un crédito en un banco, si accederemos a una beca para seguir estudiando o si cumplimos los requisitos para contratar un seguro médico. Incluso determinarán el orden en que vamos a ser atendidos en un hospital. O si podremos acceder a una ayuda económica del gobierno en caso de necesidad.
Los algoritmos hoy deciden decenas de cuestiones, y muchas no son nada triviales. Sin embargo, sabemos muy poco de ellos, por no decir nada. Y el gran problema es que hay algoritmos cuyos resultados contienen sesgos en su diseño. Son desviaciones que tienden a discriminar a mujeres, minorías étnicas o grupos sociales marginales.
Casi 60 algoritmos analizados
Eticas Foundation es una entidad sin ánimo de lucro que promueve el uso responsable de algoritmos y de la inteligencia artificial. Y ha creado el Observatorio de Algoritmos con Impacto Social (OASI), con el que pretende “investigar, visualizar y documentar sistemáticamente y de forma transparente el desarrollo de algoritmos que pueden tener un impacto social negativo”, como asegura el periodista de investigación José Miguel Calatayud, que es colaborador del proyecto.
Una de las herramientas más interesantes de ese observatorio es un buscador que permite saber más sobre los algoritmos que toman decisiones cruciales sobre nuestra vida cotidiana. Este buscador ya cuenta con casi 60 algoritmos y en los próximos meses podría superar los 100. Con él Eticas Foundation quiere aportar transparencia en este ámbito y ayudar a la población a recuperar cierta capacidad de control. La herramienta permite saber cuestiones como quién ha desarrollado el algoritmo, quién lo usa o en qué ámbito geográfico se aplica. O si ha sido auditado, sus objetivos y el impacto social que tiene y las amenazas a las que expone a la población.
Algunos algoritmos discriminatorios
No hay que olvidar que en los últimos años se han descubierto casos sonados de discriminación hacia las mujeres. Como el intento de Amazon de construir una herramienta de IA para facilitar la contratación de personal, y que aplicaba un sesgo de sexo en los puestos técnicos y de desarrollador de software porque en los currículos de los 10 años anteriores que alimentaban el programa los candidatos eran mayoritariamente hombres.
Eticas Foundation también da cuenta de otra discriminación de sexo en la aplicación de salud Apple, que inicialmente no contaba con un registro de la menstruación (algo útil para la mitad de los potenciales usuarios de la app). La razón era que el equipo de ingenieros de la compañía estaba formado mayoritariamente por hombres.
En España, también causó polémica en su momento Bosco, el algoritmo del bono social del Gobierno, que es usado por las compañías eléctricas. Bosco impedía beneficiarse de esta ayuda a personas que sí tenían derecho a ella. Eso llevó a Civio, una organización sin ánimo de lucro que vigila los poderes públicos y busca la transparencia de las instituciones, a presentar un recurso judicial en 2019.
Las sospechas sobre Facebook
En los últimos meses también han aflorado sospechas sobre los algoritmos que emplea Facebook a raíz de las declaraciones de la exempleada Frances Haugen ante el Senado de los Estados Unidos. Haugen trabajó con algoritmos entre 2018 y 2021 en la red social. Su equipo se dedicaba a tratar las noticias falsas y la desinformación.
Haugen ha advertido de que las plataformas de Mark Zuckerberg, que anteponen los resultados empresariales a otras consideraciones, son nocivas para los menores y debilitan la democracia. Ante los senadores, y cargada de mucha documentación, habló del problema que supone que la red social aplique sistemáticamente el sesgo de popularidad a la hora de recomendar contenidos, lo que polariza las opiniones de la sociedad. Y lo que, en su opinión, ayudó a fomentar la violencia que desembocó en la invasión al Capitolio.
El buscador de algoritmos de Eticas Foundation ya recoge desarrollos de empresas como Google, Facebook, Netflix o Microsoft. Y también, en España, aporta información sobre herramientas como Veripol, que permite a la Policía Nacional detectar denuncias falsas. O sobre RisCanvi, que ayuda a los jueces en Cataluña a valorar el riesgo de reincidencia de los presos, una información que luego puede determinar si los reclusos acceden a la libertad condicional o no.
Legislación europea para vigilar los algoritmos
Hay que aclarar que en muchos casos, los sesgos que contienen los algoritmos no son intencionados. Y que pueden deberse a olvidos (como en el caso antes comentado de la aplicación de salud de Apple), a los prejuicios de los propios desarrolladores o a la inercia de su propio trabajo. Sin embargo, sean deliberados o no, sus resultados son igualmente discriminatorios e injustos, y deben ser corregidos.
A nivel continental, la Unión Europea presentó el pasado abril la primera legislación en materia de inteligencia artificial. El objetivo es defender los derechos fundamentales de las personas cuando estén amenazados por estos avances tecnológicos. En el caso de los algoritmos, los legisladores europeos quieren que se sigan procedimientos estrictos en su desarrollo. El fin es el de garantizar que los datos que producen son correctos, fiables y no contienen sesgos. La tarea es compleja, pero visto lo omnipresentes que están y van a estar los algoritmos en nuestra vida, se torna fundamental.
En Nobbot | Cómo gobernar los algoritmos (en lugar de que lo hagan ellos)
Imágenes | Unsplash/Christopher Gower, Pexels.com/BretJordan, Eticas Foundation