Calin Segal, un innovador artista rumano, se encuentra en la vanguardia del arte generativo e interactivo, desafiando los límites de la tecnología y el diseño digital para explorar cómo los algoritmos moldean nuestras identidades y emociones. Formado en la Escuela Especial de Arquitectura de París, Segal ha desarrollado una trayectoria que lo ha llevado a investigar las complejas intersecciones entre la tecnología, la sociedad y nuestras respuestas emocionales. Este lunes visitó LABoral, donde expondrá próximamente.
“Mi proyecto comenzó como una aproximación al análisis de los influenciadores sociales, pero se ha ido transformando en analizar los algoritmos detrás de la manipulación.”
A través de personajes digitales creados a partir de datos de redes sociales, Whispers expone cómo los algoritmos manipulan nuestras emociones, amplificando el miedo y la ira para fomentar el compromiso en línea. Con una combinación de matemáticas complejas y crítica social, la instalación invita a los espectadores a reflexionar sobre el papel de la tecnología en la construcción de las identidades digitales y su impacto en la dinámica emocional de la sociedad.
¿Qué es Whispers?
Es parte de lo que se llama the European Digital Deal, una iniciativa donde se han seleccionado varios artistas para analizar la dinámica de los medios en relación con la Inteligencia Artificial (IA) y la tecnología para ver cómo todo esto influye en el panorama actual. Mi proyecto comenzó como una aproximación al análisis de los influenciadores sociales, pero se ha ido transformando en analizar los algoritmos detrás de la manipulación, la curación de la información y en observar cómo los sistemas de IA se ven influenciados por los sesgos dentro de ellos mismos. En Whispers el público podrá interaccionar con diferentes personajes que he creado a través de Inteligencia Artificial.
¿Cuántos personajes ha creado para Whispers?
Seis. Identifiqué tipologías de personas influyentes en las redes sociales donde tienes influencers activistas, conservadores, políticos. O influencers en el ámbito corporativo o influencers con masculinidad tóxica, etc… Así que después de identificar distintas tipologías, creé un repositorio de discursos públicos que traduje de Internet. Con todo esto, conseguí una especie de patrones y mecanismos que los influenciadores usan para transmitir sus mensajes. Más tarde ajusté un modelo IA para que se comportara con un estilo determinado que imitara esa tipología. De esta forma, tuve que analizar cuáles eran los mecanismos lingüísticos que utilizan para transmitir sus mensajes. Como todo esto está basado en la semántica, es muy fácil entrenar a un modelo de IA para que se comporte con una personalidad determinada.
¿Entonces trabajó sobre arquetipos?
Sí, son arquetipos muy radicalizados porque la idea subyacente que puede verse en Whispers es que si a cualquiera de ellos, independientemente del extremo en que estén, les quitas las creencias ideológicas y te concentras solo en los mecanismos lingüísticos que emplean, entonces te das cuenta de que todos, sin excepción, hacen lo mismo. Da igual la ideología. Tanto los progresistas como los conservadores apelan a las emociones para intentar convencer, para influir. Da igual que seas un activista climático o el mismísimo ayatolá Jomeini. Siempre vas a usar las mismas tácticas. La ideología es solo otra capa sobre esas tácticas.
“Tu causa es la buena y los de enfrente son los malos. Y en esta dicotomía los algoritmos funcionan genial. Pero no es un problema de la tecnología, en realidad, es un problema de la sociedad.”
Y en Internet las emociones son explotadas por algoritmos para intentar generar engagement.
Sí, claro. Este mecanismo ha existido a lo largo de la historia, pero ahora los influencers sociales han entendido que el algoritmo prioriza el engagement. Y el compromiso emocional es el truco más simple que puedes usar para atraer la atención a tu causa. Por eso digo que da igual la ideología. Todo el mundo usa trucos simples y básicos para atraer la atención. Lo hacemos también en nuestra vida cotidiana. Es parte del ser humano. Siempre intentamos crear una relación empática con la persona que estamos hablando. Intentas venderle la idea de que tu opción se debe a un llamamiento emocional, del tipo que sea. Tu causa es la buena y los de enfrente son los malos. Y en esta dicotomía los algoritmos funcionan genial. Pero no es un problema de tecnología, en realidad, es un problema de la sociedad, es un problema humano, porque caemos en esa forma de ver las cosas muy fácilmente. Es fácil demonizar.
Por lo que cuenta, ¿uno también podría caer en la misantropía?
También. (Risas) Lo que es gracioso es que cuando estaba haciendo esta investigación, me di cuenta de que aunque conozco la tecnología y entiendo lo que hacen los algoritmos, sigo atrapado en ello. Da igual lo mucho que sepas del tema o cuánto creas que entiendes, el ser humano se comporta de una determinada forma y el algoritmo lo sabe. Por ejemplo, tras la investigación acabé eliminando Youtube de mi teléfono. Me hacía caer en la trampa una y otra vez. Me estaba guiando todo el tiempo. Ahora si lo tengo que usar, borro la historia y cambio de cuenta. Así puedo empezar de cero con el algoritmo. Y lo mismo para mi cuenta personal de Instagram. Hacer esto cambia mucho la forma en la que navegas en Internet y el tipo de exposición a la que te enfrentas. El algoritmo está ahí siempre, pero al menos cuando empiezas con una cuenta nueva, consigues te haces una idea mucho más real sobre qué tipos de personas buscan o cuáles son los temas dominantes y no solo los que te llegan personalizados a tu móvil
¿Cree que la edad o el tipo de generación al que perteneces es importante para saber enfrentarte al algoritmo?
No, para nada. Todos estamos expuestos a la manipulación de las redes sociales. En todo caso tal vez las nuevas generaciones pueden ser más conscientes de este tipo de mecanismos que las personas mayores. Antes había guardianes de los medios que se aseguraban que lo que leyeras pasara por un proceso editorial que, a su vez, era revisado por la institución a la que representaban. Y la institución tenía prejuicios e idiología, ya fueran de izquierda, liberales o conservadores. Y tú sabías a qué tendencia política pertenecía cada institución, cada cabecera, cada canal. Ahora todo es mucho más difuso. En las redes sociales todo va más de creencias personales que de creencias ideológicas. Es muy difícil captar el tono o el ritmo de la conversación porque está muy personalizado todo, adaptado a tu perfil de usuario de forma extremadamente específica. Y no lo notas. No notas que muy poco a poco el algoritmo te empuja en una dirección determinada. Te da empujoncitos y no te das cuenta porque es todo muy sutil. Solo lo notas cuando te enfadas. Ahí es donde aparece una emoción extrema y entonces dices: “No volveré a leer nunca este medio o esta noticia”. Y por lo tanto el algoritmo no te vuelve a dar esa noticia porque ve que no interactúas con ella.
¿Cuál es realmente el efecto que todo esto está teniendo en la sociedad?
Nos está tribalizando. No tenemos exposición a otros puntos de vista. Antes uno podía ir a un bar y tener una discusión política porque no había filtros, no había algoritmos. En un debate cara a cara estás expuesto sin remedio a las creencias de otra persona. Ahora todo está centralizado en un solo dispositivo y no hay interacción física. El algoritmo te trae la información adaptándotela. El algoritmo no te expone a lo que no te gusta o no comprendes.
“Debería haber más diversidad, pero no se trata de escapar, sino de entender cómo funciona para poder aplicar el espíritu crítico. Hay que entender de qué va el juego.”
¿Podemos hablar de un peligro para la sociedad?
No me gusta emplear la palabra “peligro”. Esta palabra, de nuevo, apela a las emociones. Y si empezamos a hablar de “peligro”, acabamos cayendo en el miedo. Prefiero hablar de que todo esto tiene un impacto en la sociedad y que es complicado llegar a consentimientos, a acuerdos, a consensos, a negociar. Todo acaba en los extremos. Por ejemplo, el centro político, con una influencia real, ha desparecido de casi todos los países. Ya no hay mediación. Solo extremos que hablan del bien contra el mal. De unos contra otros. Tal vez habría que plantearse algo como “no estoy de acuerdo contigo, pero aceptemos estar en desacuerdo.” Prefiero hablar de “impacto” porque presenta la situación en base a “hechos”, no a emociones que es lo que hace la palabra “peligro”.
En cualquier caso, ¿cree que nos enfrentamos a un desafío tecnológico?
No creo que haya un problema tecnológico, sino educativo. Debemos estar educados en los algoritmos. No puedes decirle a un niño que todo lo que encuentra en Internet o en las redes sociales tiene autoridad. Como tampoco antes había que creerse algo por el mero hecho de salir en televisión. Debe fomentarse más el espíritu crítico que la acumulación de información. No hay que tomar la información al pie de la letra. Y si a los niños los enseñas de esta forma, adquirirán el espíritu crítico casi como un acto reflejo cuando lleguen a la edad adulta. Pero si seguimos con el método fordiano de la escuela actual, efectivamente nos encontraremos con mucha gente que será susceptible a la manipulación.
No hay forma de escapar del algoritmo…
Evidentemente, debería haber más diversidad, pero no se trata de escapar, sino de entender cómo funciona para poder aplicar el espíritu crítico. Hay que entender de qué va el juego. Y de todas formas, con los libros en una época analógica también uno podía ser manipulado. También tenías que aplicar el espíritu crítico aunque en diferentes términos o frente a otro tipo de problemas. Espero que cuando la gente vea Whispers a partir de enero, se queden lo suficiente para, en un análisis posterior, entiendan de qué van estos personajes que ven en la redes continuamente, que entiendan y debatan cómo se manipulan nuestras emociones. Entender el algoritmo y lo que produce es la mejor forma de combatirlo. Con espíritu crítico.
