“La innovación debe mejorar la vida de las personas”

“La innovación no es un mandamiento divino, debe mejorar la vida de las personas”

Abogada, socia directora de Razona Legaltech y Presidenta de AEDEL, Paloma Llaneza González es especialista en Derechos comunitario, nuevas tecnologías y sistemas de la información. Acaba de publicar su nuevo libro “Seguridad y responsabilidad en la Internet de las cosas (IoT)” y, por ello, no hemos querido perder la oportunidad de hablar con ella de esta novedad editorial así como de otros asuntos relacionados innovación, la realidad digital que vivimos y la que ya asoma por el horizonte. También es experta en cultura japonesa, pero sobre eso no nos hemos atrevido a preguntar nada.

– En primer lugar, cuéntanos que nos podemos encontrar en tu nuevo libro Seguridad y responsabilidad en la Internet de las cosas (IoT)”.

Una reflexión sobre quien va a pagar la fiesta de la innovación sin sentido. Puede que a alguien le pareciera gracioso conectar la cafetera para poder mandar un tuit y encenderla por la mañana sin salir de la cama, pero nadie se ha planteado los problemas de seguridad que una decisión tan absurda conlleva. Como señalaba Wired a cuenta de la última vulnerabilidad detectada en los routers domésticos, los dispositivos conectados se han convertido en las ratas de la peste bubónica de los piratas informáticos: una población fácilmente infectable, no tratada y ubicua con la que se pueden propagar peligrosos ataques digitales.

Si pensamos que la IoT son elementos que sienten su entorno y actúan sobre él, que los hayamos conectado permite que alguien remotamente -de manera maliciosa o porque ha programado de manera inseguridad- cause un daño físico. Ya no pensamos solo en los ataques de denegación de servicio que están utilizando redes de bots de IoT, sino en los coches autónomos y conectados que atropellan a peatones porque su programación les indicaba que ignoraran los bultos.

Necesitamos que las cosas conectadas, desde un marcapasos a un coche, se diseñen desde la seguridad, que esa seguridad se mantenga durante todo el ciclo de vida del elemento (que en el caso de un avión pueden ser 30 años) y que se establezcan normas claras para determinar quién es el responsable en caso de que alguien sufra un daño.

Los dispositivos conectados se han convertido en las ratas de la peste bubónica de los piratas informáticos: una población fácilmente infectable.

– En ese contexto hiperconectado  que describe tu libro, el control de nuestros datos se antoja muy difícil. ¿Debemos resignarnos a que nuestra transparencia sea rentabilizada por empresas que, paradójicamente, muestran un alto nivel de opacidad?

En el libro solo dedico la  última parte a los datos y lo hago como parte de la responsabilidad empresarial. Mantengo que el sistema de recogida del consentimiento es ineficiente porque nadie se lee las condiciones y porque, a pesar del nuevo RGPD, no es libre, al dejar a los usuarios sin los servicios si no aceptan las condiciones. En el entorno de la IoT en el que, en muchos casos, no hay interfaz para la recogida del consentimiento, esa situación es aún más evidente.

Por ello, la única manera de solucionar un problema que la tecnología crea es con tecnología: limitar el procesamiento al dispositivo sin que se suban datos a las plataformas de los prestadores, borrarlos tan pronto no sean necesarios para el funcionamiento correcto del dispositivo, minimizar los datos que se recogen a los mínimos imprescindibles, anonimizar…

Ya hay empresas que lo hacen porque son respetuosas con la privacidad de sus usuarios a los que respetan como sus clientes. Hay otras que viven del dato en donde el usuario y el cliente son distintos. Estas son las que recogerán una infinidad de datos innecesarios y realizarán tratamientos invasivos.

Espero que las empresas en el futuro identifiquen qué parte de su facturación depende de monetizar datos y cuál de la venta de productos o prestación de servicios para que los usuarios tengan aún más clara su posición con respecto a estas empresas.

se puede vivir sin facebook

– ¿Hay posibilidad de volver atrás en esta pérdida de privacidad? ¿Cómo garantizar el derecho a la desconexión?

Complicado. Es importante no usar servicios que no nos respetan como clientes por muy gratis que sean o por mucho que creamos depender de ellos. Se puede vivir sin WhatsApp y Facebook, yo soy prueba de ello.

La regulación es importante y más cuando las multas lo son. Pero no solo. Es necesario que los estados que pueden hacerlo (y estoy pensando en los EEUU donde tienen su sede la mayor parte de las tecnológicas) apliquen con dureza las leyes antimonopolio en favor de la innovación, la privacidad y la salud de la democracia.

– ¿Cuál es tu opinión sobre la monetización de los datos?

Estoy en contra de la monetización de un derecho fundamental que, para mí, es indisponible. En esto soy seguidora de Michael Sandel, hay cosas que moralmente han de estar fuera del comercio de los hombres, la “res extracomerci” de los romanos. Además, es una trampa que justifica el tratamiento masivo de datos haciendo creer que se comparte el beneficio, lo que no es cierto. Los servicios que recibes gratuitamente más lo que tus datos, sueltos, valdrían, es una menudencia comparado con el beneficio que las empresas sacan de ti. El secreto está en que esto no funciona sin muchos datos, escala y tratamientos masivos. Estoy, por tanto, en contra de la monetización porque es una estafa.

Espero que las empresas en el futuro identifiquen qué parte de su facturación depende de monetizar datos y cuál de la venta de productos.

– Si la información es poder, parece que el poder se está desplazando de los Estados a los gigantes de internet. ¿Cuál crees que debería ser el papel de los Estados, de lo público,en el mundo digital?

Los Estados están desaparecidos. Han dejado crecer tanto a las tecnológicas que si intentaran aplicarles las normas antimonopolio ahora no las harían ni un rasguño. Google no se ha visto afectada por la sanción de 2.600 millones de euros que le ha puesto la DG de Competencia de la Comisión Europea. Es necesario que haya una voluntad de auditar y revisar estas compañías, y aplicarles medidas que las hagan más pequeñas, manejables y sujetas a las normas que rigen el mercado.

las personas antes que la innovación

– ¿Y de Europa? Parece que, de momento, la Unión Europea está respondiendo a la innovación tecnológica que llega desde otras zonas del mundo solo desde la innovación regulatoria… 

Un motivo por el que me alegro de ser Europea. La innovación no es un mandamiento divino, tiene que integrarse en la mejora de la vida de los seres humanos desde una perspectiva holística, no dejando las cuestiones éticas para el final, sino incorporando la reflexión legal y filosófica desde el inicio. Y si un proyecto o una tecnología tiene riesgos éticos o se minimizan o se descarta la tecnología. No creo que hayamos avanzado mucho si, al final, construimos una sociedad orwelliana solo por no haberles quitado sus juguetes a los ingenieros cuando debíamos.

Paloma Llaneza libro

Hablando de regulación europea, el último hito ha sido la puesta en marcha del nuevo reglamento de protección de datos ¿Te parece suficiente para protegernos a los ciudadanos del uso que hacen las compañías de nuestra información? ¿Qué más podemos hacer nosotros como individuos, usuarios y consumidores?

Me parece un acierto aunque sea más complicado de comprender desde los sistemas legales continentales, al ser muy anglosajón. Solo hay que ver cómo han reaccionado al otro lado del Atlántico con su llegada, que hasta Google ha tenido que ceder en la venta de publicidad programática. Si se aplica bien y si se dota de medios al regulador puede cambiar el ecosistema.

En cuanto a los consumidores, soy muy poco partidaria, en este momento, de hacer caer del lado de los mismos la responsabilidad, simple y llanamente porque el sistema está pensado para engancharles, para encandilarles, para dejarles sin opciones. Que sean las empresas que lo hacen las que pongan la responsabilidad del lado del usuario es de risa, es como culpar del timo al timado. Un usuario no tiene que saber cómo funciona su lavadora más allá de lo evidente; espera que lo que le venda no estalle o no se coma la ropa. Con estos servicios, igual, tienen que venir con la privacidad desde el diseño como exige el RGPD.

Creo que nos encaminamos a un mundo con más desigualdades, en donde el que no se pueda pagar un trato personalizado por un ser humano, se tendrá que aguantar con el resultado que la máquina ofrezca.

– Cuando aún no hemos entrado de lleno en el mundo del internet de las cosas que aborda tu libro, ya debemos prepararnos también sobre  Blockchain ,con su modelo de descentralización ¿Será también un modelo de desregulación? Cuál es tu visión de cómo se podrá garantizar la seguridad de los ciudadanos en ese nuevo entorno.

Últimamente no hacemos más que leer noticias sobre ataques sobre infraestructuras de blockchain que nos tienen que hacer ser cautos. Es una solución tecnológica que vale para muchas cosas, pero no para todo, y cuyo funcionamiento está dejando claro que hemos de reflexionar sobre sus vulnerabilidades técnicas y legales.

los modelos matemáticos no son neutros

– Se habla del algoritmo y la inteligencia artificial desde una perspectiva de confianza que asume que sus decisiones están guiadas por el puro dato. Sin embargo, el algoritmo no deja de ser ideología, como hemos visto en casos recientes protagonizados por Facebook. ¿Nos encaminamos hacia el pensamiento único? ¿cómo evitarlo?

Los modelos matemáticos con los que se tratan los datos no son neutros, no porque se aplique un sesgo cognitivo u otro, sino porque pueden estar mal diseñados, dar resultados injustos, y funcionar como una caja negra con soluciones inapelables. Creo que nos encaminamos a un mundo con más desigualdades, en donde el que no se pueda pagar un trato personalizado por un ser humano, se tendrá que aguantar con el resultado que la máquina ofrezca.

La monetización de los datos es una estafa y una trampa que justifica el tratamiento masivo de datos haciendo creer que se comparte el beneficio, lo que no es cierto.

– Hablando de pensar…¿hay alguien pensando ya en el tratamiento de los robots como individuos sujetos a derecho?

Hay un documento del Parlamento Europeo que avizora esta vía y algunas propuestas más académicas que otra cosa. En todo caso, entiendo que os referís a los humanoides y no a los brazos robóticos de una fábrica. En mi opinión, aún estamos lejos de tener humanoides pensantes independientes de su programación y, por tanto, con derechos. Hice en el Proyecto Carol esta reflexión “Dios no ama a los autobots”.

– Por último, al hilo de los casos de condenas por la expresión de opiniones en la red, ¿cuál es tu opinión sobre el estado de salud de la libertad de expresión en España?

Si os soy sincera, es un tema que me parece más mediático que real. En general, decimos lo que queremos y no pasa nada. Desde el inicio de la democracia ha existido la tensión entre dos derechos fundamentales, la libertad de expresión y el derecho al honor, y tenemos sentencias en todos los sentidos. Hay que ir caso por caso y evitar caer en el flame de turno.