La inteligencia artificial suele presentarse como una fuerza inevitable, opaca y ajena, un bloque técnico que avanza sin que nadie parezca tomar decisiones concretas. Para Margarita Padilla (Barcelona, 1957), ingeniera informática y referente del pensamiento crítico sobre tecnología, ese relato no solo es falso: es profundamente político.
Padilla ha estado esta semana en Asturias, invitada a la Semana del Aula Popular José Luis García Rúa en Gijón, donde impartió la charla “Inteligencia artificial: jugar o romper la baraja”, título también de su libro publicado en 2025 en Traficantes de Sueños.
Desde hace décadas trabaja en la intersección entre código, poder y comunidad, desmontando la idea de que los algoritmos son neutros y señalando las cadenas de decisiones —empresariales, institucionales y sociales— que los hacen operar como lo hacen. En esta conversación reflexiona sobre trabajo, derechos, guerra, infancia y organización colectiva, y plantea una pregunta incómoda pero urgente: quién diseña hoy las reglas del juego tecnológico y con qué consecuencias.
En sus textos insiste en que a la inteligencia artificial hay que “quitarle el envoltorio”. ¿Qué es lo primero que aparece cuando dejamos de mirar el marketing?
Lo primero que aparece es la comprensión de qué son decisiones de negocio y qué son realmente las potencias y las limitaciones de la tecnología base. Por ejemplo, ChatGPT se basa en un modelo de lenguaje, pero que pueda responder a todo tipo de preguntas —incluidas preguntas emocionales— es una decisión de diseño. Que se ofrezca gratuitamente sin tener en cuenta la edad de la persona usuaria o las condiciones en las que se encuentra, también es una decisión de diseño. En qué idioma se ofrece, igualmente. Todas esas decisiones se envuelven bajo la etiqueta de “modelo de lenguaje”, pero podría existir un modelo de lenguaje con otras decisiones de diseño. Por ejemplo, el Ministerio de Educación podría montar un sistema basado en modelos de lenguaje para la enseñanza de matemáticas en las aulas: un sistema que solo hablara de matemáticas, que fuera privado, seguro y adaptado a ese contexto. Eso también sería inteligencia artificial, pero con otro ensamblaje.
Bajo la misma etiqueta se agrupan tecnologías muy distintas, desde sistemas militares hasta herramientas cotidianas. ¿Qué efectos políticos tiene esa confusión?
Genera miedo y genera aceptación de que no tenemos agencia. El miedo viene envuelto en la opacidad y en una nebulosa de amenazas: que nos van a dominar, que van a gobernar el mundo, que los robots acabarán con lo humano. Son miedos injustificados si miramos el estado real del desarrollo tecnológico actual. Además, se levanta una barrera muy clara: la idea de que para desarrollar inteligencia artificial hacen falta muchísimos datos, muchísimos chips y, por tanto, muchísimo dinero y poder. Eso expulsa a la ciudadanía, que somos la mayoría. Esa barrera la ha levantado la industria porque es donde ella es fuerte: muchos datos, muchos chips, y desprecio absoluto por los costes medioambientales o sociales. La tecnología se ha derivado hacia servicios megalómanos: sistemas que responden en tiempo real a millones de personas simultáneamente, a cualquier tipo de pregunta. Si solo vemos eso, lo único que percibimos son barreras. Pero eso es solo una forma de ensamblar la tecnología base. Es como si cogiéramos el motor de explosión y solo fabricáramos tanques: la gente pensaría que esa tecnología no sirve para nada en su vida cotidiana. Pero el mismo motor puede servir para una motocicleta. No es lo mismo un tanque que una moto.
¿Cree que el discurso de la inevitabilidad tecnológica sirve hoy para desactivar el conflicto social?
No estoy tan segura. Ese discurso plantea una especie de determinismo: las cosas son así y no pueden ser de otra manera. Y es verdad que así se presenta muchas veces la situación. Yo estoy a favor del conocimiento y de entender cómo funcionan las cosas, porque creo que eso da poder a la ciudadanía. Pero la idea de inevitabilidad también puede generar conflicto. La historia lo muestra: la inevitabilidad de los telares industriales no evitó los conflictos luditas; al contrario, hubo resistencias, sabotajes, incendios. No tiene por qué desactivar el conflicto social, puede incluso exacerbarlo. Depende de otras condiciones. El cabreo social existe, y no es descartable que se exprese de formas muy materiales. Nadie puede asegurar que no haya resistencias directas contra infraestructuras tecnológicas. Así que no daría por hecho que la gente vaya a asumirlo todo sin más.
Trabajo, valor y cadenas de decisión
Ha dicho en varias ocasiones que la inteligencia artificial está funcionando como un atajo para la desvalorización del trabajo humano. ¿Qué tipo de trabajo es hoy el más vulnerable?
El trabajo cognitivo autónomo, especialmente el de personas que no están organizadas como gremio y que son socialmente débiles. Traducción, corrección de textos, comunicación, diseño, formulación de proyectos, incluso ciertos trabajos jurídicos de nivel medio. En los grandes centros de pensamiento o en los think tanks, la creatividad no se produce consultando a ChatGPT, sino a partir de procesos sociales complejos. Pero si usted es traductora, si trabaja en comunicación o en periodismo, el impacto es inmediato y muy fuerte. Puede perder su trabajo en cuestión de meses. Aquí debería activarse una lógica de reconversión de sectores. Cuando se cerraron astilleros o minas hubo reconversiones que duraron décadas, con subvenciones y acompañamiento. En cambio, ahora los sectores afectados están desestructurados, con personas que trabajan como autónomas, a las que se les ha dicho que son empresarias cuando en realidad son muy vulnerables. No tienen sindicatos fuertes ni estructuras colectivas.
“Una persona de 50 años que ha trabajado toda su vida como traductora no puede reinventarse en tres meses”
¿Qué tipo de respuesta social exigiría una reconversión de este tipo?
Sería necesaria la activación de redes profesionales, nuevas formas de sindicalismo y mecanismos públicos de apoyo. Igual que durante la pandemia se dio dinero porque no se podía trabajar, ahora habría que pensar en fórmulas similares: dar tiempo y recursos para que la gente pueda reciclarse. Las nuevas profesiones no se crean de un día para otro. Una persona de 50 años que ha trabajado toda su vida como traductora no puede reinventarse en tres meses. Hace falta tiempo, formación y una red de apoyo real. Y eso puede generar conflicto social si no se aborda.
Frente a las demandas de copyright o compensación individual, usted plantea la renta básica como horizonte. ¿Por qué le parece una respuesta más ajustada al problema real?
En primer lugar, por eficacia. Lo que una persona puede cobrar por derechos de autor en este contexto es mínimo. Las inteligencias artificiales se nutren de pequeños aportes individuales, pero a gran escala. El reconocimiento económico a cada persona por lo que ha escrito, por ejemplo en Wikipedia, es prácticamente irrelevante. Además, históricamente, ese tipo de compensaciones las gestionan entidades intermediarias. Me parece más sensato pensar en una redistribución de la renta que permita reconvertir sectores vulnerables. La renta básica no es solo un ingreso directo: también tiene que ver con abaratar la vida, con bajar alquileres, con redistribuir recursos. Los ERTE durante la pandemia fueron, en la práctica, una forma de renta básica. Permitieron sobrevivir en una situación excepcional. Frente a eso, volver a cerrar el acceso al conocimiento mediante derechos de autor me parece ineficaz y con poco recorrido, aunque entiendo que haya debates legítimos dentro de los sectores afectados.
Suele decir que el problema no es el algoritmo aislado, sino la cadena de uso. ¿Dónde se toman hoy las decisiones clave de esa cadena?
Las decisiones las toman, en general, las empresas, la industria o la administración. En una red social privada, como X, las decisiones sobre el algoritmo las toma su propietario. En plataformas como Netflix o Google ocurre lo mismo: son decisiones empresariales. Pero también hay algoritmos en la administración pública. Por ejemplo, en el sistema de detección de melanomas implantado en la sanidad pública vasca, la administración decidió licitar, pagar e implantar un sistema automatizado que evalúa riesgos de cáncer de piel. Ese sistema administra un derecho fundamental, el derecho a la salud. Una auditoría ciudadana mostró que el sistema tenía un margen de error del 25%, algo muy elevado para este tipo de diagnóstico. La empresa culpaba a la mala calidad de las fotos; las profesionales sanitarias explicaban que trabajaban con los medios disponibles. Ahí se ve claramente la cadena: la administración busca eficiencia, las médicas hacen lo que pueden y el sistema falla en ese contexto real. La responsabilidad última es de quien decide implantarlo.
¿Qué cambia cuando el algoritmo deja de apoyar y empieza a decidir, por ejemplo, en los cuidados, la justicia o la policía?
Cambian varias cosas. Primero, la necesidad de auditorías ciudadanas con datos anonimizados para saber qué errores se producen y a quién afectan. Y segundo, entra en juego el sesgo de autoridad tecnológica: tendemos a confiar más en lo que dice una máquina que en nuestro propio criterio. Además, estos sistemas se entrenan con datos del pasado y proyectan ese pasado al futuro. Fosilizan las desigualdades existentes y son muy resistentes al cambio social. Las personas, en cambio, podemos cambiar rápidamente nuestra percepción tras un acontecimiento social relevante. Un algoritmo de selección de personal entrenado con datos históricos reproducirá sesgos de género, aunque la empresa quiera cambiar. De ese modo, se bloquea la transformación social y se perpetúa lo existente.
Guerra, derechos y regulación social
Cuando la selección algorítmica entra en la guerra, ¿qué es lo primero que se pierde: la responsabilidad política, la posibilidad de rendir cuentas o la propia idea de derechos humanos?
Para mí, lo fundamental que se pierde es la idea de que lo humano es portador de derechos universales. La deshumanización del adversario permite que el error no tenga consecuencias morales: si se mata a quien no se considera plenamente humano, parece que no importa. La responsabilidad política existe, pero la deshumanización es un proceso social mucho más amplio. Empieza en el lenguaje cotidiano, en cómo hablamos de determinados colectivos. Cuando se pierde la idea de humanidad compartida, cualquier política se vuelve posible.
Para quien la lea estos días, lejos de los grandes centros de poder tecnológico, ¿por dónde empezaría a cambiar las reglas del juego sin necesidad de grandes medios?
Por la formación y por la experimentación. Entender cómo funcionan estas tecnologías da poder. Hay formación técnica, pero también construcción colectiva de sentido. Con organización, algo de formación y recursos relativamente modestos se puede empezar a experimentar. Necesitamos espacios donde la ciudadanía pueda probar, evaluar y criticar estas tecnologías: decidir colectivamente si algo es útil o no, si merece la pena o no. Mancharnos las manos con la tecnología rompe la idea de que esto no va con nosotros.
En los últimos días se ha anunciado la prohibición del acceso a redes sociales a menores de 16 años, con verificación obligatoria de edad. Desde su perspectiva, ¿qué problemas resuelve este enfoque y qué problemas puede introducir?
A mí me parece una buena medida. No resuelve todos los problemas, pero es positiva porque desplaza la responsabilidad de las familias y de los menores hacia las empresas. Hasta ahora la lógica ha sido la del “sálvese quien pueda” .Las redes sociales están diseñadas para ser adictivas, no son como Wikipedia, que uno consulta y se va. Son entornos comparables a un casino. Y estamos pidiendo a personas que aún no tienen desarrollado plenamente el control de impulsos que se autorregulen. Eso no es realista. La regulación asume que la sociedad necesita normas para convivir, igual que existen semáforos para evitar accidentes. Esta medida también señala algo importante: que las redes sociales actuales no son lugares neutros ni saludables para habitar sin cuidado. No están prohibidas, pero no son espacios para vivir dentro. Y que eso se diga desde una ley me parece muy relevante.
