Grit & Grace #76: "tecno-totalitarismo": el algoritmo no vota... pero a veces, decide quién gana
Arquitectura digital, cámara de eco, sesgos, identidad y atención
José Luis y yo vemos la misma noticia y llegamos a conclusiones completamente opuestas, ambos convencidos de tener “los datos”. 😅 ¿Te ha pasado algo así con alguien? No es ni casualidad ni que uno de los dos está mal informado. Es la arquitectura digital haciendo bien su trabajo.
He estado leyendo trabajos de la académica francesa Asma Mhalla1, quien lleva años estudiando cómo la tecnología digital reconfigurara quién tiene poder, cómo se forma la identidad individual y colectiva y qué le queda de soberanía a los Estados frente a plataformas que operan sin fronteras. Si bien su narrativa puede parecer básica y binaria, y con un lenguaje que busca impacto mediático (la misma lógica de búsqueda de atención masiva que ella critica), en el fondo, encuentro valor en sus ideas porque nos hacen reflexionar sobre “cómo pensamos”, como personas, como equipos y como sociedades.
El negocio que monetiza tu atención, no tu compra
Los modelos de negocio de las grandes plataformas no venden un producto, venden atención, y la atención se maximiza con contenido que genera reacción emocional, no comprensión. Así fue diseñado el sistema.
Los algoritmos de personalización crean burbujas que refuerzan lo que ya creíamos, dificultando y a veces impidiendo que un equipo o una sociedad construya una narrativa compartida sobre lo que está pasando. Esa fragmentación nos acompaña a todas partes 🤷🏻♀️.
Desorientación y velocidad de la información
Hay algo en el análisis de Mhalla que conecta con lo que veo en las organizaciones que acompañamos desde la EEG: la velocidad del cambio en el entorno digital rompe los ritmos con los que construíamos identidad, pertenencia y sentido de continuidad. Antes, la identidad se formaba en comunidades relativamente estables y teníamos rutinas repetidas que reforzaban el sentido de pertenencia. Hoy, la identidad se forma y se rompe en un momento.
La historiadora Eliza Filby2 señala que las organizaciones están teniendo dificultades para entender el mundo desde un mismo lente. No es que unos tengan razón y otros no. Es que la personalización de todo (noticias, redes, contenido, hasta la publicidad que ve cada persona) nos ha llevado a vivir en múltiples narrativas simultáneas, no …en una realidad compartida con matices.
Estamos respondiendo a la misma arquitectura de reacción instantánea que fragmenta el debate público.
El algoritmo amplifica, no es la causa de todo
Claro, la tesis de Mhalla, llevada al extremo, puede sobreestimar la influencia de lo digital cuando muchas crisis identitarias y organizacionales tienen raíces económicas, históricas y culturales que preceden por mucho a cualquier algoritmo.
Tenemos la tendencia, en estos días, de hacer que la tecnología se convierta en la explicación de todo, cuando la polarización, la desconfianza institucional o la parcelación cultural tienen también causas materiales: desigualdad, precariedad laboral, historia política y asimetrías de poder. El algoritmo amplifica.
Respuesta al determinismo tecnológico: el “Big Citizen”
Lo que más me gusta del trabajo de Mhalla es su respuesta al determinismo tecnológico: el concepto de “Big Citizen”. La idea es que frente al poder del “Big Tech” y el “Big State”, la ciudadanía organizada pueda constituir un contrapoder real, y no solo sufrir pasivamente las decisiones de unos y otros.
Para el liderazgo organizacional, esto significa que debemos desarrollar procesos de alfabetización crítica sobre cómo funciona la información que consumimos.
Y tú, como líder, tienes la responsabilidad de crear espacios deliberativos internos donde haya tiempo para el desacuerdo y que éste se procese y se valide, con calma, no con reacciones instantáneas.
Pero hay una tarea previa, y es la más difícil: crear condiciones para narrativas en común. No una narrativa única impuesta desde arriba (eso, en el mejor de los casos, genera cumplimiento superficial, y en el peor, resentimiento silencioso) sino un “paraguas de sentido” lo bastante amplio para que quepan lecturas distintas sin que cada una se convierta en su propia isla.
Si todo es personalizado, si cada grupo, sub-grupo, generación o departamento vive en su propia versión de la realidad organizacional, el reto de una cultura compartida deja de ser difícil y se vuelve casi imposible. No porque la gente no quiera pertenecer, sino porque cada quien construye su sentido de pertenencia con materiales distintos.
Esto cambia lo que significa, hoy, el trabajo de “crear y mantener cultura”. Ya no alcanza con definir el propósito y los valores. Diseñar y mantener la cultura hoy es un trabajo activo de RRHH y de los líderes de toda la organización. Pasa por encontrar puntos de referencia compartidos como rituales, anécdotas, historias, decisiones difíciles, y alineamiento con el “por qué”. ¿Quién dijo que sería fácil?
Influencia digital
Las plataformas digitales a las que están expuestas las personas en una organización o en un equipo, construyen una infraestructura que moldea cómo piensan, qué narrativas se asimilan, y cómo se forma el consenso.
¿Le has dado a tu equipo, alguna vez, el espacio explícito para procesar una noticia o un cambio organizacional?
¿Sabes qué fuentes de información está consumiendo tu equipo directivo, o asumes que todos parten de la misma realidad informativa?
Si la polarización ha llegado a tu equipo, ¿cómo gestionas esas diferencias?
Soberanía tecnológica a diferentes escalas
Esta semana, en Berlín, una fundación alemana convocó, bajo el título "Hacking the System? Middle Powers and the Geopolitics of Technology3 a expertos de Brasil, Japón, Indonesia, México y Canadá para discutir qué pasa con los países y las empresas que no diseñan la inteligencia artificial, solo la usan. Lo llamaron el problema de las “potencias medianas”.
Es el lugar donde está parada buena parte de Iberoamérica frente a esta tecnología. Y también muchas de nuestras empresas.
“La IA afecta, pues, a la industria, la defensa, la administración pública, la educación, la seguridad, la creación de opinión e incluso a nuestra aptitud para distinguir entre verdad y mentira. Cambia la forma en que se genera conocimiento, se asignan recursos, se toman decisiones y se ejerce la autoridad. Por eso la pregunta es quién posee las herramientas para orientarla, incorporarla o limitarla y, llegado el caso, resistirla”. Ana Palacio
Soberanía tecnológica no significa aislarte ni fingir que puedes prescindir de proveedores externos. Significa saber exactamente de quién dependes, decidir esa dependencia con objetividad en lugar de heredarla sin darte cuenta, e intentar construir capacidad propia para mitigar la vulnerabilidad.
Cuando adoptas una herramienta de IA de un proveedor externo, ¿sabes qué estás cediendo a cambio? ¿Tus datos, tu criterio de decisión, tu capacidad de auditar por qué el sistema decidió lo que decidió?
🦉 Momento de sabiduría
“No vemos las cosas como son, las vemos como somos.” Anaïs Nin
“Quien controla la narrativa, controla la percepción de la realidad.” Yuval Noah Harari
“No hay neutralidad tecnológica; hay decisiones de diseño con consecuencias humanas.” Shoshana Zuboff
📚 Lecturas recomendadas
“Technopolitique: Comment la technologie fait de nous des soldats” Asma Mhalla (Seuil, 2024). Tecnopolítica, soberanía digital y el concepto de “Big Citizen” que cito en esta reflexión.
“La era del capitalismo de la vigilancia” de Shoshana Zuboff. Explica cómo el modelo de negocio de extracción de datos transformó el poder corporativo en poder político de facto. 4 Me parece muy interesante, pero hay que leerlo de manera crítica.
🎯 Tu desafío de la semana
La pausa antes de reaccionar
Antes de opinar de manera reactiva en tu próxima reunión, pregúntate: ¿de dónde la información que estoy manejando sobre esto? ¿Es sólo una opinión, son datos, lo viví yo mismo?¿La ha visto también mi equipo, o cada quien llegó por un camino distinto?
Piensa de manera crítica, haz pausa, y lidera con grit & grace.
Asma Mhalla es una politóloga y ensayista francesa que investiga sobre la geopolítica de la tecnología y la Inteligencia Artificial. Su trabajo analiza cómo las Big Tech y los Estados-nación están redefiniendo el poder.
Eliza Filby es historiadora , autora y experta en cambios generacionales. La escuché una vez en un podcast cuando estaba investigando sobre este tema para una conferencia. Su mirada es fresca, y basada en datos.
Artículo de Ana Palacio en El Mundo: “Soberanía Artificial”.
Según el análisis de Zuboff, el modelo opera en un ciclo continuo con estas fases:
Rendición: La experiencia diaria de las personas se digitaliza y extrae sin resistencia.
Análisis: Máquinas avanzadas procesan la información buscando patrones ocultos.
Predicción: Se proyectan las acciones futuras de los usuarios.
Modificación: El sistema interviene sutilmente en tu interfaz (notificaciones, contenidos) para garantizar que actúes según lo predicho.