¿Qué son los algoritmos de caja negra y qué problemas pueden causar?

¿Qué son los algoritmos de caja negra y qué problemas nos pueden causar?

Se puede decir que vivimos gobernados por algoritmos. En realidad, han existido siempre, pero la tecnología ha hecho que ahora sean decisivos en cada segundo de nuestra vida y decidan cada paso que damos. En esencia, un algoritmo es un conjunto de instrucciones o reglas bien definidas que dan lugar a una solución. En ellos, los pasos deben estar muy claros. Si no es así, hablamos de poesía o de otra cosa.

Los algoritmos más famosos y omnipresentes que conocemos son los de Google, diseñados para bucear en décimas de segundo por millones y millones de páginas web y mostrarnos el resultado y la información más interesante. Sin embargo, hoy los algoritmos ayudan a los bancos a decidir si nos dan una hipoteca, a los coches a llevarnos por una ruta determinada o a un ecommerce a ofrecernos el libro o el vuelo de avión que, en teoría, más feliz nos va a hacer.

El problema es que la complejidad creciente de la tecnología está haciendo que, según los expertos, se conviertan en “una caja negra”. Sabemos lo que metemos en ella, también lo que produce, pero no tenemos ni idea de cómo funciona su interior, qué parámetros usa para darnos lo que creemos que es el mejor resultado. El famoso PageRank de Google es un buen ejemplo de ello. El algoritmo que clasifica por importancia a las páginas de internet y nos las da en un orden que casi nadie discute en realidad es un perfecto desconocido. Y eso a pesar de que el rendimiento de millones de empresas y personas son medidos cada día en función de tan misteriosa fórmula.

Lidiando con el ‘cajanegrismo’

El desconocimiento de la tecnología es un asunto relativamente reciente en nuestra historia. Hasta hace bien poco, cualquiera abría el capó de su coche y podía nombrar lo que allí se encontraba. Además, se daba por hecho que uno podría cambiar la rueda de su vehículo en caso de pinchazo. Pero hoy no sabemos casi nada de los coches que conducimos. Ni siquiera los mecánicos los dominan a fondo y tienen que recurrir a su vez a potentes máquinas que los escanean para encontrar la avería. Es lo que los sociólogos llaman el ‘cajanegrismo’. Este concepto hace referencia al hecho de que las personas solemos olvidarnos del funcionamiento interno de las cosas a medida que nos familiarizamos con ellas y terminamos por asimilarlas.

Más ejemplos. Antes, uno podía saber cómo funcionaba un termómetro de mercurio. El mecanismo estaba bien a la vista. Hoy, con los electrónicos, ese tema también se ha vuelto un misterio. Como decía Arthur C. Clarke, el divulgador británico que escribió la maravillosa ‘2001: Una odisea del espacio’, “una tecnología suficientemente avanzada es indistinguible de la magia”.  

Hay que admitir que es imposible conocer al detalle toda la tecnología que nos rodea, pero la rapidez con que adoptamos el último gadget y la facilidad para cambiarlo al poco tiempo por otro más dotado y trendy nos ha hecho despreocuparnos demasiado por lo que pasa en su interior.

El caso del smartphone es paradigmático. Casi nada sabemos de lo que hay entre las paredes de la fina carcasa de los móviles más modernos, de cómo trabaja el variado software que carga y de cómo se conecta con las grandes redes de comunicación, por más que ese aparatito decida por dónde circulamos, qué vuelo cogemos o qué restaurante nos dará de cenar. En este mundo de aparatos ‘mágicos’, nos hemos convertido, como nos advierte el analista político estadounidense Langdon Winner, en “sonámbulos tecnológicos”. En realidad solo nos preocupamos por saber cuando el aparato o la tecnología estalla en nuestras manos.

El Flash Clash de 2010

Y eso a veces ocurre. Y los resultados pueden ser catastróficos. Los algoritmos no solo nos dan en segundos un resultado en un buscador, sino que también determinan el destino de nuestros ahorros. En las bolsas de valores de todo el mundo, los programas informáticos colocan a cada segundo millones de euros o dólares, sin que nadie sea capaz de saber exactamente qué criterios mandan.

Precisamente, el cortocircuito de uno de estos algoritmos provocó un tsunami financiero momentáneo a primeros de mayo de 2010, en el famoso Flash Clash, cuando el Dow Jones cayó 1.000 puntos, perdiendo durante unos minutos un 9% de su valor y produciendo la cancelación de 21.000 operaciones bursátiles. Exactamente, el día 6 de aquel mes, un algoritmo vendió 75.000 contratos de futuros por valor de 4.100 millones de dólares, provocando una avalancha que llevó a otros algoritmos a comprar y vender de forma masiva. El susto duró exactamente 15 minutos.

Cada vez más y más aspectos de nuestra vida van a depender de estas piezas de lógica matemática e informática que mejoran automáticamente y sin intervención humana gracias al machine learning, y sacan patrones de actuación a base de analizar millones de datos. El crédito del banco, el diagnóstico del médico o la concesión de la beca de nuestros hijos estará en manos, total o parcialmente, de los algoritmos.

Por eso es necesario que sean lo más transparentes posibles, que dejen de ser una caja oscura e ingobernable donde solo importan los resultados, y no los medios para lograrlo. Para evitar sorpresas desagradables y tomar control de la maravillosa tecnología que tenemos. Para no acabar como aquellos astronautas de la nave Discovery en Una odisea del espacio’, que minusvaloran el poder del superordenador que llevan a bordo, encarnado por el quisquilloso HAL 9000, el ojo rojo que todo lo ve.

Imágenes / iStock.com/Filippo Carlot / Monsitj / BeeBright