Ética e inteligencia artificial: ¿Hacia una nueva definición de lo humano?

Ética e Inteligencia Artificial: Adán y Eva de silicio mordiendo la manzana prohibida

Juan Antonio Torrero Orange
Juan Antonio Torrero, Big Data Innovation Leader en Orange

“Y dijo Jehová Dios: He aquí el hombre es como uno de nosotros, sabiendo el bien y el mal; ahora, pues, que no alargue su mano, y tome también del árbol de la vida, y coma, y viva para siempre. “

Génesis 3, 22

Desde estas mismas páginas, ya hemos hablado varias veces sobre la importancia de dotar de Ética a la Inteligencia Artificial. Muchos proyectos están intentando encontrar reglas generales que puedan servir para que, por ejemplo, los coches autónomos sepan cómo actuar ante situaciones en los que están en juego vidas humanas, y han conseguido ya ciertas conclusiones que incluso nos permiten conocer nuestro mismo comportamiento ético.

Aunque parezca que estos esfuerzos sean disquisiciones sin aplicaciones prácticas y que son más espectáculo para gloria de los más eminentes gurús tecnológicos, los últimos acontecimientos han puesto ante nuestros ojos que todavía no estamos muy preparados para analizar las consecuencias éticas y legales de los errores producidos por los robots y la inteligencia artificial, y tiene consecuencias directas en el desarrollo de estos nuevos tipos de tecnología. Es un tema tan importante que el IEEE, un organismo estandarizador de referencia a nivel mundial, está creando grupos de trabajo para introducir los aspectos éticos en el diseño mismo de los sistemas de inteligencia artificial.

el infierno de lo robots

La respuesta típica ante estos desafíos en que se deben aumentar la investigación y las pruebas en todos los ambientes posibles. Debemos de lanzar a los coches autónomos a situaciones casi imposibles para ver cómo responden y ajustar sus algoritmos y entrenamientos una y mil veces. Es el infierno de los robots: siempre puestos en prueba y sin certeza de que su respuesta sea la adecuada y no se ajuste a los que consideramos un comportamiento adecuado y “humano”.

Desde este punto, hace unos días, Marcos Martínez (@euklidiadas) lanzó una pregunta abierta, aunque con especial “cariño” a Borja Adsuara (@adsuara) y a mí, señalando una contradicción subyacente a esta situación:

Esta falta de equilibrio entre las exigencias requeridas a los coches autónomos y a los conductores puede parecer adecuada e incluso sin discusión. Quizás esté de acuerdo, pero me parece que no podemos quedarnos en la superficie, ya que, si buceamos un poco más, podemos sorprendernos del significado y principios que nos han llevado a aceptar de forma generalizada de este tipo de supuestos, con las consecuencias que van de la mano. Ya di una respuesta más resumida en contestación a la pregunta, pero la importancia del tema merecía una respuesta más extensa y pausada.

Porque podemos extender este tipo de pregunta a otros ámbitos más peligrosos. Voy a ser un poco radical, pero creo que es necesario para romper la fina capa de hielo que creemos que es nuestro soporte más seguro y estable. Allá va.

¿Por qué a las parejas o personas que quieren adoptar se les enfrenta a un proceso largo y complicado para saber si son idóneas para criar a un hijo y no se evalúa de una forma similar a alguien que quiere tener o simplemente puede tener un hijo natural? ¿Por qué para cualquier puesto de trabajo se debe tener una experiencia demostrada y pasar pruebas que son a veces muy duras, y, sin embargo, para ser un representante político, que gestiona los problemas comunes que impactan directamente en la vida de millones de personas? ¿Por qué para ser un ciudadano de pleno derecho sólo es necesario ser mayor de edad (y me da igual que sea a los 16, 18, 21 ó 70 años)?

No es mi intención dar soporte a posiciones aristocráticas, oligárquicas o supremacistas. Es lo más alejado de mi forma de pensar, pero siempre suelo partir de estas preguntas desafiantes que tienen relación directa con la raíz de los que nos hace humanos y ciudadanos de pleno derecho, porque no me conformo con aceptar y dar por hecho los grandes tesoros que hemos ido creando en nuestro camino de evolución cultural que ha sustituido a la más lenta evolución natural. Ha sido una guerra continua, con multitud de batallas cruentas y debemos tener en cuenta todo el sufrimiento que ha llevado para darle el valor justo y para saber que hay que defenderlo una y otra vez, en nuestros actos de cada día, y pasar el testigo de esa lucha a los que irán detrás de nosotros.

La raíz de lo humano se enreda en la esencia ética del hombre.

Me gustaría empezar por una reflexión sobre la “eticidad” del hombre: la raíz de lo humano se enreda en la esencia ética del hombre. No podemos no elegir. Somos libres radicalmente, somos libres porque somos éticos. Decía Zubiri y Aranguren que los animales no tienen que “justificar” sus respuestas ante los estímulos. Gracias a su instinto, creado a partir de millones de años de evolución, cuando el animal recibe un estímulo determinado, su respuesta se “ajusta” perfectamente a la situación, está “justificada” de por sí. Sin embargo, el hombre ha desarrollado una capacidad que le permite dar respuestas distintas ante los mismos estímulos. Puede suspender el instinto y tomas decisiones no instintivas. Sus respuestas no siempre se ajustan perfectamente a la situación, tiene que hacerlas justas, “justificarlas”. Tiene que saber si han sido buenas o malas. Esta es la esencia misma de la eticidad.

Pero más aún, los mismos autores destacan dos momentos en esta esencia: la más fundamental es la ética como estructura: estamos lanzados a decidir una y otra vez porque es lo que nos define como humanos. Con los últimos descubrimientos en el campo de la Neurología y Psicología, se puede pensar que hasta esta capacidad se debe totalmente al desarrollo evolutivo. Se ha demostrado que muchas decisiones que parecen voluntarias tienen un componente emocional que está directamente relacionado con las respuestas instintivas que la evolución ha creado para nosotros, y por lo tanto como los animales, no podemos elegir otra acción. Esta es una discusión paralela que también surgió, pero que merecería otra reflexión pausada.

valores y reglas

Pero la Ética como estructura necesita la Ética como contenido. Esta estructura, esta capacidad de elegir, debe llenarse de valores y reglas para que de verdad sea efectiva y útil. Ante diversas situaciones, debemos dar preferencia a alguna de las infinitas de posibles respuestas, y para ello utilizamos estas reglas o valores dados y aceptados. Si no, estaríamos paralizados sin dar una respuesta adecuada. Y ¿cómo hemos adquirido estas reglas y valores? Con la Cultura y de la Civilización.

A través de la familia, la sociedad, la relación con los demás, creamos ese contenido. Pero al depender ese contenido en gran medida de las situaciones personales de cada uno, es diferente para cada individuo. Sin embargo, aunque en la esfera de lo personal podemos tener valores únicos, nuestra necesidad de vivir con los demás, de ser seres sociales y políticos, hace necesario que fijemos unos mínimos valores comunes, una Ética Mínima, que nos permitan convivir y aunque no lo creamos posible, trabajar en objetivos y proyectos comunes. Allí, en ese espacio común, nacen las leyes, las constituciones y los Derechos Humanos, como marcos mínimos de convivencia para asegurar el máximo valor de la libertad individual y fundamental del ser humano, asegurar esa eticidad que nos hace ser libres y sujetos de dignidad (o al menos darnos a nosotros mismos la definición de seres libres y éticos).

Y esta conclusión parece que no tiene nada que ver con la pregunta original: ¿Por qué a los coches autónomos se les hace miles de pruebas “éticas” y respecto a los conductores nadie les pregunta qué decisión tomarían ante situaciones como el dilema del tranvía?

Nuestra necesidad de vivir con los demás, de ser seres sociales y políticos, hace necesario que fijemos unos mínimos valores comunes.

Voy a dar un salto mortal si se me permite y explicar la eticidad del hombre en modo software, como si no fuéramos más que robots (¿o quizás lo somos?).

ética de algoritmos e inteligencia artificial

La ética como estructura, de la que hemos hablado, y que es la esencia de la capacidad de elegir humana serían como los algoritmos fundamentales que se utilizan en la Inteligencia Artificial, como los algoritmos de clusterización, árboles de decisiones, random forest, redes neuronales, etc.

Estos algoritmos son procesos estandarizados que se usan en multitud de robots y de sistemas inteligentes, aunque cada uno haya sido diseñado para tareas totalmente diferentes. Son idénticos en todos esos sistemas, no cambian (o tienen pequeñas modificaciones), pero sin embargo las respuestas son totalmente distintas. La diferencia es que a cada uno de esos sistemas se les entrena con datos de entrada y objetivos distintos. Con multitud de “pruebas” las respuestas dadas son ajustadas para conseguir los objetivos buscados. Es el proceso de aprendizaje de esos sistemas, lo que les hace ser cómo son. Como se puede intuir, se podría asemejar a la Ética como contenido: con el entrenamiento se van creando reglas y valores que hacen que el sistema sea útil y distinto a todos los demás.

Finalmente, los sistemas inteligentes están incrustados en un sistema mínimo, un sistema operativo que ante errores que se pueden dar, puede controlar la situación ante los fallos. En este caso, serían comparables a las leyes y marco jurídico que creamos como marco mínimo, que nos permite actuar ante ”fallos” producidos y recuperar el control para asegurar la libertad y dignidad de cada uno de los que formamos la sociedad.

Toda nuestra vida, con la estructura ética que tenemos, nos han puesto a ”prueba” en un proceso de aprendizaje continuo. A nivel de familia y sociedad, para ajustarnos a una manera de comportarse y actuar comúnmente aceptada (Civilización y Cultura), nos han ido poniendo pequeños desafíos que exigían una respuesta determinada, cuyo precio o castigo era ser aceptados o no aceptados en ese grupo. Pruebas una y otra vez repetidas, que conforman al final nuestro carácter y valores distintivos, pero que también nos preparan para poder convivir con los demás. Si ese control no es suficiente, se “lanza” un “error” que es recogido por ese sistema operativo mínimo que son las leyes, para asegurar el buen funcionamiento del sistema.

Esto nos dejan varias cuestiones preocupantes. La primera es: ¿no somos más que robots tecnológicos moldeados por la Evolución, la Cultura y la Civilización? Es otra discusión, pero baste decir que puede ser que sí, pero que, tenemos la capacidad de decidir qué queremos ser y cómo queremos definirnos. Y para dotarnos de dignidad y darnos sentido, podemos definirnos como seres realmente libres.

La segunda pregunta nos lleva directamente al tema que estamos tratando respecto a la Inteligencia Artificial. Si recorremos el camino contrario, desde el punto de vista de que nosotros podríamos ser considerados como robots y le damos la vuelta, surge la pregunta ¿podrían los robots que han sido entrenados para dar respuestas éticas similares a las humanas ser considerados humanos y sujetos de libertad, de derechos y deberes?

el test de turing

La respuesta más inmediata de la mayoría de las personas sería que no. Pero ante eso propongo la extensión del Test de Turing para este caso. Turing fue un matemático de mediados del siglo XX que puede ser considerado el padre de los ordenadores y de la Inteligencia Artificial tal y como la conocemos hoy en día. Cuando él y otros matemáticos empezaron a crear las primeras máquinas “inteligentes”, en seguida se preguntaron cómo podrían saber si esas máquinas que construían eran o no inteligentes.

Turing dio una respuesta brillante: si una máquina que estableciera un diálogo con una persona pudiera engañarla para que esta persona no pudiera saber si era otra persona o una máquina, entonces debería ser considerada como inteligente. Puede parecer una respuesta simple, pero verdaderamente, si lo pensamos bien, es una prueba que incluso puede servir para la vida real: consideramos que una persona es inteligente si actúa y responde como el concepto que nosotros tenemos de una persona inteligente. Consideramos que es una buena o mala persona, si responde a un ideal que nosotros tenemos de persona buena o mala.

¿No somos más que robots tecnológicos moldeados por la Evolución, la Cultura y la Civilización?

Y ahí arranca esta propuesta: para considerar que una máquina es ética deberíamos realizar un Test Ético de Turing, poniendo a prueba sus respuestas ante las situaciones normales que una persona puede encontrarse en su día a día. Y si otra persona, examinado su comportamiento, puede decir que es un comportamiento asimilable a que tendría un humano ético, ¿entonces se puede considerar que es un ente ético y, por tanto, puede ser considerado con capacidad de elección, como sujeto libre con derechos y obligaciones? ¿Será responsable de esas decisiones y por tanto podrá estar sometido a las mismas leyes que nosotros y podrá ir a prisión?

Inquietante, ¿no?

Y más si aún tenemos en cuenta que estamos entrenando a esa Inteligencia Artificial para que dé respuestas éticas a las mismas situaciones a las que nosotros nos enfrentamos. Y si hemos sido capaces de entrenarlas para detectar objetos en las imágenes, en hablar multitud de idiomas, en decidir si una persona tiene cáncer o no con mayor precisión que los mejores especialistas, ¿conseguirán ser más éticas que nosotros mismos?

Inteligencia Artificial
La expulsión de Adán y Eva del Paraíso terrenal de Masaccio

adán y eva de silicio

Todo esto me hace recordar el mito de Adán y Eva. Me permito la licencia de usar esta historia con el peligro de levantar ciertas suspicacias en ambos bandos bien conocidos por todos y bien enfrentados también. Pero siempre me ha gustado bucear en las historias tan antiguas como la Humanidad, ya que creo que pueden enseñarnos o inspirarnos nuevos puntos de vista. En cierta medida encierran una sabiduría moldeada a lo largo de miles de años y que es origen de la Civilización y Cultura que ahora tenemos. He encabezado este artículo con uno de los versículos que siempre me han llamado más la atención.

Dios, después de haber creado el universo, prohíbe a Adán y a Eva comer del fruto del Árbol del Bien y del Mal. Mucho se ha hablado del significado simbólico de este árbol, pero a mí me gusta entenderlo como una referencia a la eticidad intrínseca del ser humano: cuando comen del fruto del árbol, son conscientes del Bien y del Mal, se vuelven seres éticos y se produce una ruptura con la naturaleza paradisíaca. Por ejemplo, se avergüenzan de sus cuerpos desnudos, otorgando ya un significado de lo que creen correcto e incorrecto. Es muy significativo que en ese momento Dios les expulse del Paraíso y les envíe al este del Edén: según este mito, se convierten en humanos mortales.

¿No será que nosotros estamos ofreciendo a las máquinas un nuevo fruto prohibido, con el que se harán conocedores del Bien y del Mal? ¿Les estamos dando la posibilidad de elegir, de ser libres como parte fundamental de lo que serán? ¿Y en ese momento habremos creado vida inteligente y ética, y, por lo tanto, sujetos de derechos, libertades y responsabilidades?

Y entonces ¿cómo deberemos considerarnos nosotros mismos?

P.D. Querría agradecer a Marcos Martínez y Borja Adusuara lo que me hacen disfrutar de sus pensamientos e ideas, y por hacerme pensar y enfrentarme a lo que damos por supuesto a través de hilos interminables de Twitter. También, agradecer a David Martínez Pradales por las discusiones que tenemos, y por publicarme este artículo tan largo en nobbot. Él sí que es valiente por hacerlo y no yo por escribirlo.