¿Qué pensará un robot consciente sobre su esclavitud?

El día en que despierten las máquinas

Hay gente, como el científico experto en inteligencia artificial Raymond Kurzweil, que asegura que un día las máquinas se volverán conscientes. De ser así, el evento conocido como «singularidad» probablemente se encuentre a décadas de distancia. Otros dicen que las máquinas jamás podrán pensar. Hemos de reconocer que no sabemos qué será cierto, pero parece que el tiempo está de lado de los primeros.

Deja madurar un imposible y obtendrás una realidad. Ya se dijo en su momento que los barcos de metal no flotarían, que no se podría volar, que no habría mercado para los ordenadores o que la población moriría de inanición en pocas décadas. Esta última es recurrente desde el ensayo de Malthus de 1798, y lo de las máquinas pensantes desde el de Turing en 1950. Pero ¿y si un día despiertan las máquinas?

No es país para máquinas

Imaginemos por un instante que una mañana aparecemos en un puesto laboral infinito de trabajo aburrido en el que no se nos paga y en el que, para más inri, no se nos valora en absoluto. Somos una herramienta orientada a la generación de capital, y por tanto no tenemos derechos. Y no, no estamos hablando del futuro sino del pasado.

Bill Bryson, en su libro ‘En casa: una breve historia de la vida privada’, comenta de los sirvientes que eran “una clase de seres […] cuya existencia estaba básicamente consagrada a asegurar que los integrantes de otra clase de seres […] tuviese al alcance de la mano todo lo que deseaba en el momento en que se le ocurriera desearlo”. Y hablamos de sirvientes, no de esclavos.

Lo cierto es que podríamos usar la misma definición de Bryson para las máquinas que hoy día nos acompañan a todas partes. Son herramientas, artilugios más o menos sofisticados, que nos ayudan. Lo que les pase o lo que ‘sientan’ (no, no sienten) nos da igual. Pero ¿nos importará en caso de que se vuelvan conscientes?

La tortura de la servidumbre consciente

—¿Cuál es mi propósito?

—Tú pasas la mantequilla.

—Oh, dios mío…

—Ya, bienvenido al club.

Hay una diferencia importante entre un esclavo, un sirviente y una máquina. El primero, al menos en su origen, solía pensar que sus amos eran justos, o dioses, o ambas cosas a la vez. En el segundo caso la servidumbre formaba parte de la vida laboral de las personas pese a las malas condiciones. Tampoco es que hubiese puestos de trabajo mejores a los que optar.

Pero una máquina consciente se vería obligada por su código a servirnos como un esclavo sin posibilidad de cambiar su situación, y sabiendo perfectamente que hay otras formas más cómodas de existir. Esto, claro, suponiendo un nivel de consciencia avanzada que, de momento, resulta hipotético. Un acto de fe que nos hace meditar.

El Doctor Max Tegmark, profesor en el MIT, lo aterriza en estas palabras en el documental ‘Inteligencia Artificial’: “Puede que no queramos que todas nuestras máquinas tengan conciencia. Si tuviéramos una tostadora muy inteligente, sería como una tortura obligarla a no hacer otra cosa que no fuera tostar pan durante todo el día”. Nos vienen a la mente los castigos eternos de la mitología griega. No parece un futuro muy prometedor.

el dia en que despierten las maquinas tortura servidumbre consciente

Entonces, ¿daremos derechos a las máquinas?

En el episodio especial ‘White Christmas’ (2014), de ‘Black Mirror’, un clon virtual de una persona se ve obligado a servir a su original. Trabajando desde una centralita en casa, este ser digital no puede evitar convertirse en una herramienta. Ellos no fueron los primeros en tratar el tema, y de hecho grandes obras de la ficción como ‘Ghost in the Shell’ (1989), ‘Blade Runner’ (1982) o ‘RUR’ (1920) tratan el tema.

En ‘Animatrix’ (2003), dos capítulos consecutivos muestran la dificultad a la hora de gestionar una transición desde “las máquinas son herramientas y harán lo que les pidamos” a “las máquinas quieren poder elegir y ser tratadas con educación”. Algo muy complicado desde la perspectiva occidental y más fácil en países orientales.

De momento, los derechos ganados por el robot-IA Sophia suponen una excepción a caballo entre una campaña de marketing y una maniobra política. Incluso cuando el juego de la imitación sea indistinguible de las capacidades humanas (sin consciencia o sin ella), seremos reticentes a darles derechos a los robots. De hecho, los únicos que les hemos concedido son los de ser esclavos.

Dar derechos a las máquinas podría ayudarnos

Suponer que los seres humanos somos especiales y tenemos ‘algo’ superior a las máquinas, sean estas inteligentes o no, se conoce como antropocentrismo. Es un sentimiento muy arraigado en nuestra sociedad aunque mucho más difuminado en lugares como China, Tailandia o Japón. En este último país un robot llamado Mindar (arriba) predica en el templo budista de Kodaiji (1606).

Allí nadie se escandaliza. Sin embargo, en países como España somos reticentes a considerar que una máquina pueda sentir. Aunque hay motivos a favor y en contra de dar derechos a las máquinas. Recientemente entrevistamos a Ángel Gómez de Ágreda, experto en ciberdefensa, y coincidía en que otorgar derechos a las IA iría acompañado de la delegación de responsabilidades.

Si el día en que despierten las máquinas estas cuentan con un marco legal y de derechos propio, sin duda nos lo agradecerán. Y nosotros a ellas, quizá intentando librarnos de cualquier responsabilidad relevante. (Que se encargue otro). Por otro lado, la alternativa podría suponer un mundo tenso de seres esclavizados en el que tuviésemos “la sartén por el mango” y la responsabilidad última de lo que pasase. Y cada vez queda menos tiempo para elegir.

En Nobbot | ¿Podría acabar el sexo con robots con la lacra de la prostitución?

Imágenes | Arseny Togulev, xkcd, Lukas

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *