Control social, privacidad y libertad: un difícil equilibrio

Ingeniería de control social: adiós a los delitos y a la disidencia

tecnologia de control social informes inteligencia artificial

La inteligencia artificial se está convirtiendo en un fenómeno global de control social. Así aparece reflejado en el informe ‘The Global Expansion of AI Surveillance’ de septiembre de 2019.
En paralelo, el informe ‘The Global Disinformation Order’ habla de la “propaganda computacional” y detecta al menos 70 países con campañas de desinformación.

La inteligencia artificial es una herramienta, o conjunto de ellas. Por tanto, puede usarse tanto para causas intrínsecamente buenas, como es la mejora de la medicina, e intrínsecamente malas, como es la generación de nuevas armas. La ingeniería de control social se enmarca en un gris oscuro, casi negro. ¿Está justificado manipular a la sociedad para evitar delitos?

¿Justificamos Gran hermano?

En cuanto uno pasea por los centros de las grandes ciudades europeas pronto nota la presencia de cámaras. Están ahí para prevenir delitos (disuasión), así como para que los cuerpos de seguridad los resuelvan en caso de cometerse. Como recalca el informe ‘The Global Expansion of AI Surveillance’, redactado por el Fondo Carnegie para la Paz Internacional, “la vigilancia estatal no es inherentemente ilegal”. Tampoco es mala per se.

paises con presencia de smart cities sensorizadas seguridad
Países con ciudades con sensores que transmiten datos en tiempo real para facilitar el servicio de reparto, la gestión municipal y la seguridad pública. | Fuente: Fondo Carnegie para la Paz Internacional

Existe un gran número de casos por los que la vigilancia está justificada e incluso apoyada por la población. Los dueños de los comercios de las zonas turísticas agradecen la presencia policial y el séquito de cámaras. Lo hacen porque estas trabajan en paralelo a sus intereses personales. Cuando hemos sido víctimas de hurtos, todos agradecemos una cámara cerca.

Pero también hay una gran cantidad de escenarios en los que la escucha vulnera los derechos básicos de los ciudadanos y se persigue cualquier tipo de disidencia. A veces incluso ciudadanos de países extranjeros, como puso de manifiesto Edward Snowden. En el vídeo de abajo, publicado por The Wall Street Journal, podemos ver cómo los alumnos tienen una banda en la cabeza que determina en tiempo real si prestan atención o no. La monitorización es total.

El informe mencionado dibuja una marcada línea divisoria entre un grado de vigilancia coherente para soportar el estado de bienestar y un manifiesto control “injustificado o arbitrario” que restringe los derechos de los ciudadanos. Y hemos cruzado esta línea con alegría.

¿España espía a sus ciudadanos?

Al menos 75 países, entre los cuales España está incluida, han desplegado tecnología de vigilancia controlada por inteligencia artificial. Según el informe, “las democracias liberales en Europa han acelerado a la hora de instalar controles de frontera automatizados, policía predictiva, ciudades seguras y sistemas de reconocimiento facial”. Y en este punto, nuestro país es un ejemplo.

paises con ciudades tecnologia biometrica
Países con tecnología biométrica que usa cámaras para localizar individuos. | Fuente: Fondo Carnegie para la Paz Internacional

En España pecamos de incorporar mecanismos de ciudades seguras que vulneran la privacidad o tecnología de reconocimiento facial, que en algunos casos puede resultar muy útil. También de hacer uso de sistemas policiales inteligentes, como VeriPol. Además, usamos tecnología estadounidense y china, lo que nos hace vulnerables al espionaje masivo.

Nos libramos, eso sí, de que la infraestructura del proyecto chino ‘Belt and Road Initiative’ sea incorporada a nuestro país. Aunque de todas formas, esta nueva ruta de la seda nos alcanza por transporte marítimo y ferroviario. El informe no parece indicar que España espíe a sus ciudadanos, pero sí que hemos abierto la puerta de par en par a que otros países lo hagan. Y de paso, manipulamos un poco.

Desinformación estatal ¿con qué objetivo?

El otro estudio mencionado, ‘The Global Disinformation Order’, también guarda relación directa con la ingeniería de control social. Aunque en este caso resulta difícil establecer un hilo conductor en algunos países, según informa la Universidad de Oxford.

Mientras que en países como China o Vietnam hay una marcada pauta estatal para desinformar (también hacen uso de tecnología policial y un sistema de puntos que verifica la afinidad al régimen), en otros países la desinformación viene por parte de grupos de la sociedad civil. En tan solo dos años ha aumentado un 50% los países que usan esta aproximación, con Facebook como red preferida para desinformar.

facebook desinformacion informacion veraz

En ocasiones, incluso de partidos políticos en la oposición, como es el caso de España, donde “Politicians and Parties” (políticos y partidos) han entrado al juego de manipular la opinión pública. Entre sus objetivos están:

  • Desinformar y engañar (confundir) a la población.
  • ‘Trolear’ a disidentes políticos y periodistas.
  • Amplificar contenido afín a una ideología.

De hecho la publicación de sendos informes coincidió con un comunicado por parte de Twitter sobre cómo algunas iniciativas han tratado de usar la plataforma para manipular a las masas. Decenas de organizaciones han sido señaladas y miles de cuentas se han desactivado. En España fueron desactivadas 259 cuentas operadas por el Partido Popular.

La clásica propaganda de televisión

Aunque el avance los automatismos permite un crecimiento explosivo en bots y campañas dirigidas, la propaganda de brocha gorda sigue muy presente. No siempre es necesario hacer uso de la última tecnología del mercado.

Como ejemplo, el Partido Comunista de China ha regalado 620.000 televisores con objeto de que las familias sin recursos puedan ver los desfiles militares del 70º aniversario del nacimiento de la República Popular. Con una fuerte presión prodemocracia en Hong Kong (al escribir esto recibimos la confirmación de que un manifestado ha sido disparado por la policía hongkonesa), el Partido Comunista de China ha optado por saturar la atención de sus ciudadanos y suprimir mediante censura aquello que no quieren que vean.

Tecnología como la inteligencia artificial solo ha hecho estas campañas en contra de la disidencia y la información veraz algo aún más virulento. Se espera que empresas como Google o Facebook sigan los pasos de Twitter al denunciar manipulación política a fin de lograr un internet más transparente, y que los informes mencionados ayuden a valorar y restaurar la privacidad.

En Nobbot | Ángel Gómez de Ágreda, experto en ciberdefensa: «Hemos regalado nuestra privacidad a cambio de comodidad»

Imágenes | Bernard Hermant, George Pagan III

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *