El sociólogo y profesor de la Universidad del País Vasco Imanol Zubero (Bilbao, 1961) lleva décadas reflexionando sobre la ciudadanía, la convivencia y el papel de los movimientos sociales. Militante en los años de plomo del País Vasco del movimiento cívico Gesto por la Paz, es autor de obras sobre sindicalismo, voluntariado o inclusión, y una de las voces más lúcidas del pensamiento crítico contemporáneo en España.
El próximo 18 de octubre participará en el Congreso “Autoritarismo y guerra. En defensa de los valores democráticos y la cultura de la paz”, organizado este fin de semana por la Fundación 1º de Mayo de CCOO en Xixón, donde impartirá la conferencia “Digitalización e inteligencia artificial: de la democracia digital al control de la ciudadanía”. Su intervención se enmarca en un amplio debate sobre tecnología, democracia y control social, con la participación de académicos, periodistas y sindicalistas de ámbito estatal e internacional.
“La tecnología parece un hecho natural, como una tormenta o una nevada, pero siempre hay política detrás”, recuerda Zubero. Desde esa conciencia crítica arranca su análisis del mundo digital y sus contradicciones: “Promesas de emancipación, pero también terreno fértil para nuevas formas de dominación.”
Lleva décadas reflexionando sobre el papel de la ciudadanía en los procesos sociales. ¿Qué le ha hecho mirar ahora hacia la digitalización y la inteligencia artificial como nuevo escenario de poder y control?
En realidad, ha sido un encargo; me propusieron el tema. Pero lo cierto es que ya en los años noventa hice mi tesis doctoral sobre la introducción de las nuevas tecnologías en la empresa y el papel de los sindicatos. Siempre he tenido la intuición —o la preocupación— de que las tecnologías son mucho más que simples herramientas. Podríamos decir que son una forma de legislación sobre la realidad: nos obligan a adaptarnos, y nunca las votamos. No votamos el correo electrónico, ni el teléfono móvil, ni ahora la inteligencia artificial. Parecen hechos naturales a los que solo cabe amoldarse, cuando en realidad deberían adaptarse ellas a nuestras necesidades. Llevo tiempo preguntándome cómo es posible que tecnologías que nos prometen ahorrar tiempo —como el correo electrónico frente a la carta— no lo hagan. Cada vez tenemos menos tiempo. Las tecnologías se nos imponen sin haberlas debatido, como si fueran fenómenos naturales, cuando en realidad siempre hay política detrás de ellas.
Ha trabajado en el sindicalismo, por la paz y en el voluntariado, tres ámbitos donde la ciudadanía se organiza y actúa colectivamente. ¿Qué continuidad ve entre esas formas de participación y los desafíos que plantea hoy la sociedad digital?
Veo dos líneas de conexión. La primera es de posibilidades. Cuando las tecnologías están a nuestro servicio, son herramientas poderosas para la sociedad civil: nos conectan, nos informan y nos permiten difundir nuestras reivindicaciones. Siempre digo que Frankenstein es el gran relato que deberíamos leer para entender la tecnología. El doctor crea vida a partir de la muerte, pero acaba siendo dominado por su criatura. Eso ocurre con la tecnología: algo que no existiría sin nosotros, pero que una vez creado puede imponerse y volverse contra quien la produce. Cuando podemos decidir sobre la tecnología, nos ayuda. Pero cuando se nos escapa del control, se convierte en un adversario. Cada conquista social o cultural puede desvanecerse por las dinámicas tecnológicas. Hoy lo vemos en cuestiones como la inmigración o los feminismos, sobre todo entre la gente joven. Las redes sociales se han convertido en espacios de desinformación y retroceso. Pienso en Euskadi: todo el trabajo por la paz, contra el terrorismo, por una memoria respetuosa con las víctimas… puede desmoronarse cuando circulan informaciones falsas que borran años de esfuerzo en las calles o en las aulas. La tecnología tiene esa doble cara: cuando la controlamos, nos fortalece; cuando se impone, puede volverse contra nuestras propias conquistas.
“El punto de inflexión llegó cuando vimos la facilidad con la que Trump o Bolsonaro usaban esas herramientas para manipular la opinión pública”
Tecnología, poder y ciudadanía
Su ponencia en Gijón se titula “De la democracia digital al control de la ciudadanía”. ¿Cuándo cree que ese tránsito comenzó a hacerse evidente?
Ese cambio lo hemos empezado a notar relativamente hace poco, diría que en torno a 2016. Entre 2010 y 2014, con las plazas del 15M, la Primavera Árabe o Occupy Wall Street, la tecnología parecía un espacio de agitación progresista y universalista. Nos permitió unir a gente en todo el mundo y soñar con una gran democracia digital cosmopolita, donde apoyar luchas en otros lugares. El activismo digital fue clave: surgieron plataformas de participación y reivindicación que vivimos con mucha ilusión hasta 2014 o 2016. Pero a partir de entonces el entorno digital se transformó en un instrumento para otros fines: sembrar miedo, incertidumbre, negacionismo o rechazo a la diversidad. Hoy vemos que quienes más crecen en ese espacio son fuerzas y liderazgos de extrema derecha. Fue entonces cuando comprendimos que detrás de lo digital hay grandes corporaciones con intereses propios. Y debemos ser autocríticas: como escribió Audre Lorde, “las herramientas del amo no sirven para desmantelar la casa del amo”. Las tecnologías digitales nacen en un contexto capitalista, colonial, patriarcal y antropocéntrico, y eso marca su ADN. El punto de inflexión llegó cuando vimos la facilidad con la que Trump o Bolsonaro usaban esas herramientas para manipular la opinión pública.
¿Qué papel juegan la inteligencia artificial, los Big Data y los algoritmos en la configuración de la opinión pública y el comportamiento electoral?
Cada vez tienen más peso. Hasta hace poco ya era difícil seleccionar buena información por la acumulación de datos; hoy es casi imposible distinguir lo verdadero de lo falso. Con la inteligencia artificial generativa, uno puede ver a una persona pública —un político, un artista— diciendo barbaridades que nunca pronunció. La frontera entre lo real y lo manipulado se ha vuelto borrosa. Lo inquietante es que las soluciones también parecen depender de la propia tecnología, lo que nos encierra en el mismo problema. Cualquiera puede encontrarse una recreación del Papa o de un líder político diciendo algo absurdo, sin poder saber si es cierto. Vivimos en un contexto donde ya no basta con informarse: hay que desconfiar permanentemente.
Muchas herramientas tecnológicas se presentaron como instrumentos de participación, pero hoy parecen servir más para la vigilancia. ¿Estamos entrando en un nuevo tipo de autoritarismo tecnológico impulsado por los datos y los algoritmos?
Susan Zuboff ya lo ha definido como capitalismo de la vigilancia. La imagen del Gran Hermano de Orwell sigue vigente: cada vez que interactuamos en el espacio digital dejamos rastros que desconocemos quién recoge y con qué propósito. Hasta hace poco pensábamos que la masa nos protegía, que había tanta información que nadie podría procesarla. Pero eso ha cambiado. Hoy sí es posible perfilar a las personas a partir de los datos que generamos: lo que compramos, leemos, vemos o escribimos. Hay quien ha pedido su propio perfil a Facebook y se ha sorprendido de todo lo que la plataforma sabe. Por ahora, ese conocimiento se usa sobre todo con fines comerciales —para ofrecernos productos—, pero puede tener usos ideológicos: saber qué pensamos, a quién votamos o si nuestro perfil encaja en un determinado patrón. En la universidad, por ejemplo, cuando se organizan cursos de formación para el empleo, se recomienda al alumnado revisar sus redes sociales, porque hoy son una ventana abierta que permite a empresas y organizaciones analizar nuestra vida digital y juzgarla.
Del sueño participativo al capitalismo de la vigilancia
¿Cree que la ciudadanía es consciente del poder que otorga a las plataformas cuando cede sus datos o permite que los algoritmos seleccionen la información que ve?
Creo que no somos plenamente conscientes. Cuando una persona empieza a leer, a investigar y a pensar en ello, puede rozar la paranoia: las posibilidades de anticipación que ofrecen estos sistemas son enormes. Hoy ya no se trata solo de conocer el historial clínico de alguien, sino de hacer proyecciones de futuro: decidir, por ejemplo, no ofrecerte un seguro o no contratarte porque existe un 87% de probabilidad de que desarrolles una enfermedad. Es un mundo muy difícil de valorar sin formación técnica. Aun así, creo que tenemos cierta conciencia, aunque no toda la necesaria. A todos nos ha pasado algo parecido: comentar con amistades un tema —viajes, seguros— y después encontrarnos anuncios relacionados, incluso con los teléfonos aparentemente apagados. Hay compañías que ofrecen descuentos a cambio de instalar un dispositivo en el coche que monitoriza la conducción. Y mucha gente acepta: “total, no tengo nada que ocultar”. Esa frase refleja bien nuestra rendición cotidiana a la vigilancia. Seguramente desconocemos todas las formas posibles de control, pero intuimos que estamos siendo observados. El problema es que todo lo tenemos ya en el teléfono y eso es profundamente gratificante: consultar, comunicarse, resolver dudas, incluso conversar con una IA. Parece que ganamos mucho, pero sin darnos cuenta vamos perdiendo libertad y autonomía.
“Todo apunta a que estamos entrando en un nuevo ciclo de insostenibilidad tecnológica”
Y hablando de la inteligencia artificial, ¿qué riesgos ve en su uso masivo por parte de los gobiernos y de las grandes corporaciones? Antes lo ha mencionado al hablar de la dificultad para diferenciar la información, pero ¿qué riesgos concretos observa de cara al futuro?
El primer riesgo es la insostenibilidad ecológica. Lo digital parece inmaterial, como si flotara en la nube, pero es profundamente material. Consume una enorme cantidad de recursos mineros, agua y electricidad, a menudo para usos muy banales. Ver una serie en streaming, por ejemplo, puede implicar una huella de carbono similar a recorrer más de cien kilómetros en coche. Y ya empiezan a notarse tensiones: minerales como el litio o el cobalto, esenciales para las baterías de los coches eléctricos, también lo son para los centros de datos o los cables submarinos que sustentan la red. Las grandes corporaciones se preguntan hoy dónde invertir esos recursos escasos: ¿en la movilidad eléctrica o en la inteligencia artificial, que consume cantidades ingentes de energía? Todo apunta a que estamos entrando en un nuevo ciclo de insostenibilidad tecnológica. El segundo riesgo es político. La capacidad que tienen los gobiernos —especialmente los menos democráticos— de influir y controlar a la población mediante estas herramientas es enorme. La inteligencia artificial es una poderosa herramienta de disciplinamiento y construcción de hegemonía: puede crear realidad. No quiero caer en la imagen del Gran Hermano, pero es evidente que facilita la elaboración de mensajes contra el adversario o la manipulación emocional. Son mensajes muy creíbles porque la IA funciona bien. Tiene una capacidad inmensa para convertirse en instrumento de propaganda o de modelado de conciencia, algo que ya hicieron la televisión o la radio, pero ahora multiplicado por mil.
El espejismo del empoderamiento tecnológico
Muchos discursos presentan la tecnología como una herramienta de empoderamiento. ¿Hasta qué punto esa promesa se ha cumplido o, por el contrario, se ha invertido?
Para algunas personas y en ciertos ámbitos, seguramente sí se ha cumplido. Hay tecnologías que han servido para liberar tiempo o facilitar tareas. Pero en general no vivimos más libres ni con más tiempo. Todo va más deprisa. El coche o el correo electrónico, por ejemplo, deberían habernos permitido dedicar más tiempo a la vida personal, y sin embargo no ha sido así. Las tecnologías se desarrollan dentro de un contexto de mercado, y el capitalismo necesita consumidores. El tiempo que ganamos en lo productivo se canaliza hacia actividades de consumo. ¿Nos ha empoderado? Sinceramente, creo que no. En la universidad, mis compañeras y compañeros sienten —como yo— que cada vez tenemos menos control sobre lo que hacemos. Trabajamos en una burocracia constante: hay que rellenar documentos y plataformas sin saber muy bien para qué, y nadie gana tiempo ni tranquilidad. Además, la tecnología es cada vez más opaca. Ya no entendemos los algoritmos, no sabemos cómo funcionan ni qué decisiones toman. Hemos perdido el control sobre las herramientas que usamos. Seguro que hay sectores a los que les ha beneficiado, pero en términos generales no nos ha empoderado como sociedad.
¿Qué papel pueden jugar los movimientos sociales y sindicales en la defensa de una digitalización democrática?
Sobre todo, deberían insistir en controles políticos, regulación pública y en el desarrollo de tecnologías basadas en evidencias.
Hace tiempo que muchas investigadoras e investigadores reclaman una democratización de la ciencia. Es cierto que la mayoría de la gente no entiende cómo funciona un algoritmo, pero sí puede exigir transparencia: saber para qué sirve, para qué no, y bajo qué condiciones. Y, sobre todo, debemos evitar creer que la tecnología sirve para todo. Hay problemas que requieren respuestas sociales y políticas, no soluciones técnicas. Pensemos en la soledad no deseada: ya se plantean robots de compañía o chatbots como conversadores para personas solas. No, por favor. Lo que hace falta son barrios vivos, comunidad e infraestructuras sociales, no máquinas que sustituyan la presencia humana. Hace falta política, regulación y evaluación social de la ciencia y la tecnología. No todo lo que se puede hacer debe hacerse inmediatamente.Hace pocos años se publicaban reportajes defendiendo el uso del móvil en las aulas; hoy se dice lo contrario. Quizá deberíamos aprender a esperar, a evaluar antes de implantar cada innovación. El problema es que la tecnología, además de herramienta, es un bien de mercado, y el mercado manda. Si un lanzamiento tecnológico dispara el valor de una empresa, se hace sin valorar consecuencias. Y si después hay que rectificar, lo pagará la sociedad. Necesitamos políticas públicas, tiempo, debate y evidencias científicas. Si no, acabamos viviendo la tecnología como si fueran fenómenos naturales ante los que solo cabe adaptarse.
Una inteligencia artificial con derechos humanos
¿Qué tipo de políticas públicas serían necesarias para garantizar una inteligencia artificial con derechos humanos? ¿Podemos hablar hoy de derechos digitales del trabajo?
Tendríamos que aspirar a una inteligencia artificial conversada, discutida, disputada y pública. Del mismo modo que existen medios de comunicación públicos, sanidad pública o educación pública, debería existir también una IA pública. Puede haber inteligencia artificial privada, por supuesto, pero necesitamos un espacio público de referencia, un lugar al que acudir para contrastar información o como alternativa ética y transparente al mercado. Una IA pública no sería infalible, pero estaría sustentada en conocimiento científico y criterios éticos. Del mismo modo, debería existir una Internet pública, un entorno seguro y confiable que no dependa de la lógica mercantil. Si todo se convierte en un bien de mercado, perdemos el control sobre la verdad y el bienestar colectivo. El problema es que el mercado funciona con su propia lógica: la rentabilidad inmediata. No le interesa la verdad ni la serenidad social.
Porque, además, los algoritmos que rigen todo esto priorizan el conflicto. Entonces, ¿cómo se puede reconstruir una esfera pública basada en el diálogo si los algoritmos premian el enfrentamiento?
Los algoritmos deberían ser claros, transparentes y públicos. En los primeros tiempos de la programación abierta —como Linux— se intentó que los códigos fueran accesibles y comprensibles. Con Google también se ha presionado para que indique cómo posiciona las páginas en sus buscadores. La idea es la misma: transparencia. Los algoritmos deben considerarse un bien común, no una propiedad privada manipulable. Una vez establecidos como ciencia y tecnología públicas, cada cual podrá innovar o crear servicios derivados, pero no manipular el origen. Son demasiado importantes como para dejarlos en manos del mercado. Tiene que haber control público, seguimiento y evaluación social sobre ellos.
“Hemos naturalizado la conectividad hasta el punto de que parece un requisito para existir.”
¿Qué papel cree que debería jugar Europa frente al modelo digital dominante de Estados Unidos y China?
Europa tiene la escala, la trayectoria y la tradición necesarias para ofrecer un modelo distinto al de China o Estados Unidos. Podría ser el espacio que encarne una Europa social, de derechos y valores democráticos, también en el ámbito digital. Deberíamos ser capaces de desarrollar tecnologías más sociales, algoritmos respetuosos con los derechos humanos y una ciencia más democrática. Tenemos universidades de prestigio y grupos de investigación suficientes para hacerlo. La cuestión es si la Europa actual está dispuesta. Pero como Unión Europea, capacidad y escala existen para construir ese modelo alternativo.
De todo esto que estamos hablando, y dado que usted está en contacto con gente joven, ¿percibe entre las nuevas generaciones signos de esperanza o de resistencia? Se habla mucho de las generaciones hiperconectadas, aunque no está claro si los adultos también lo estamos. ¿Cómo cree que viven ellas esta realidad digital?
Están muy expuestas a esa hiperconexión. Yo tengo 64 años y suelo contar que empecé mi tesis con una máquina de escribir de cinta, luego con una electrónica que permitía corregir una línea… y ya me pareció una revolución. Ellas y ellos, en cambio, han nacido en lo digital; lo tienen completamente incorporado. Vivimos en una sociedad donde es casi imposible no tener el móvil siempre encima. La administración pública debería reflexionar sobre eso: hoy todo exige un teléfono móvil —para pagar, pedir una cita o hacer un trámite—. Hemos naturalizado la conectividad hasta el punto de que parece un requisito para existir. Para la gente joven, ese es su entorno natural. Por eso les cuesta tanto desconectarse. Ya se habla incluso de adicciones tecnológicas. La cantidad de veces que miramos el móvil al día es asombrosa; en las aulas, por ejemplo, resulta casi imposible que pasen diez minutos sin consultarlo. Es un problema serio. El investigador Nicholas Carr, autor de Superficiales, dice que Internet es un ecosistema pensado para la interrupción. Y es verdad: lo digital genera mentes permanentemente interrumpidas, que buscan estímulo tras estímulo, igual que una droga. Nunca llega la satisfacción completa, solo el impulso de buscar más. Eso crea un contexto muy complicado. Les pedimos que desconecten, pero al mismo tiempo les exigimos conexión constante para todo. Es una contradicción enorme, y les veo muy atrapados en ella.
Y para terminar, después de tantos años estudiando los cambios sociales, ¿qué le sigue dando esperanza en la capacidad transformadora de la ciudadanía?
Me dan esperanza los pequeños cambios, los gestos cotidianos que muestran que la gente se mueve. Por ejemplo, me alegró ver la reacción ciudadana ante algunos acontecimientos recientes, como lo de Gaza en la Vuelta Ciclista: ver a tanta gente movilizada, activa, preocupada. También me conmueven las acciones de barrio, las personas que acompañan a mayores que viven solas o enseñan castellano a personas migrantes. Eso me da esperanza: la gente que se levanta cada día para hacer algo por los demás, que mira más allá de sí misma y trabaja por mejorar su entorno. A veces esa misma gente también me desespera, claro, pero, en el fondo, son ellas y ellos quienes mantienen viva la posibilidad de una sociedad mejor.
