El comunicado del Ministerio de Capital Humano sobre el uso de Inteligencia Artificial se inscribe en una tendencia global de incorporación de sistemas algorítmicos para la gestión estatal, pero abre varias dimensiones de análisis político, técnico y ético.
Por Ángel Paliza
Aspectos centrales del anuncio
El programa denominado “Gemelo Digital Social” apunta a construir una representación virtual de la realidad social argentina mediante la integración de bases de datos estatales. Según lo difundido oficialmente, el sistema tendría tres funciones principales:
- Predicción y simulación de políticas públicas: modelar posibles efectos de medidas económicas o sociales antes de aplicarlas.
- Auditoría automatizada: detectar inconsistencias, duplicaciones o posibles fraudes en programas sociales.
- Centralización de datos: unificar información dispersa de distintos organismos estatales.
Además, el ministerio anunció el uso de asistentes virtuales con IA para atención ciudadana y la continuidad del programa PAIDEIA para formación en computación e IA en escuelas.
Qué significa un “gemelo digital” en términos técnicos
La idea de “gemelo digital” proviene originalmente de la ingeniería industrial: crear una copia virtual dinámica de un sistema real para simular comportamientos y anticipar resultados. Aplicado al ámbito social, implica recopilación masiva de datos; modelización estadística; sistemas predictivos; y toma de decisiones asistida por algoritmos.
En teoría, podría permitir detectar problemas antes de que se agraven o evaluar impactos de políticas sin aplicarlas directamente sobre la población.
Principales debates y críticas
Diversos sectores académicos, jurídicos y políticos señalan riesgos importantes:
- Concentración y vigilancia de datos
La unificación de información social sensible puede aumentar la capacidad estatal de monitoreo sobre la población.
Aquí aparecen debates vinculados a:
- privacidad;
- protección de datos personales;
- perfiles automatizados;
- y posibles mecanismos de vigilancia social.
Este tema no es nuevo, conecta con discusiones desarrolladas hace años por pensadores como Michel Foucault sobre biopolítica y administración de poblaciones, o más recientemente Byung-Chul Han respecto de la sociedad de la transparencia y la auto-explotación digital.
2. Sesgos algorítmicos
Los sistemas predictivos aprenden de datos históricos. Si esos datos contienen desigualdades previas, la IA puede reproducirlas o profundizarlas. Por ejemplo:
- focalización desigual;
- exclusión errónea de beneficiarios;
- clasificación automática de “riesgo social”;
- o criminalización indirecta de sectores vulnerables.
3. Opacidad
Uno de los cuestionamientos más fuertes es la falta de información pública sobre:
- qué software se utilizará;
- qué empresas participan;
- qué datos concretos se integrarán;
- y qué mecanismos de control independiente existirán.
El problema de la “caja negra algorítmica” es central en el debate internacional sobre IA estatal.
4. Ciberseguridad
Una base de datos social altamente centralizada también se vuelve un objetivo sensible ante:
- filtraciones;
- hackeos;
- uso indebido de información;
- o comercialización ilegal de datos.
La dimensión ideológica
El discurso oficial presenta la IA como herramienta de:
- “eficiencia”,
- “honestidad matemática”,
- y “desburocratización”.
Sin embargo, varios críticos señalan que ningún algoritmo es neutral. Los criterios de programación responden a decisiones políticas; los indicadores seleccionados expresan prioridades ideológicas y la definición de qué constituye “anomalía”, “fraude” o “riesgo” nunca es puramente técnica.
En ese sentido, algunos analistas interpretan este tipo de sistemas como una nueva etapa de gestión tecnocrática de lo social, donde la legitimidad política tiende a desplazarse hacia métricas, datos y automatización.
Contexto internacional
Experiencias similares existen en China con sistemas de monitoreo social masivo; India mediante bases biométricas centralizadas y distintos países europeos que utilizan IA para detección de fraude en ayudas sociales.
Algunos de esos casos terminaron en escándalos por discriminación algorítmica o violaciones de derechos, como ocurrió en Países Bajos con el caso de subsidios familiares investigado por sesgos automatizados.
El núcleo del debate
La discusión de fondo no es solamente “usar o no usar IA”, sino:
- quién controla los algoritmos;
- con qué transparencia funcionan;
- qué derechos tienen los ciudadanos frente a decisiones automatizadas;
- y qué límites democráticos existen sobre la acumulación de datos estatales.
Un programa como el “Gemelo Digital Social” podría interpretarse, desde muchos de los autores que estamos estudiando, como una profundización de las formas contemporáneas de control social. Lo interesante es que casi todos probablemente coincidirían en que el control ya no funciona principalmente mediante la coerción visible, sino a través de mecanismos más difusos: información, predicción, administración de conductas y producción de subjetividad.
Michel Foucault: biopolítica y gubernamentalidad algorítmica
Imaginemos solo por un momento que Michel Foucault estuviera vivo. Probablemente vería este tipo de sistemas como una evolución de lo que llamó biopolítica: formas de poder orientadas no sólo a castigar individuos, sino a administrar poblaciones enteras mediante estadísticas, vigilancia y regulación. Según el autor este sistema es utilizado desde el SXVIII para gestionar y administrar la vida biológica de la población.
En sus análisis el poder moderno ya no actúa solamente “prohibiendo”, sino clasificando, normalizando y gestionando comportamientos.
Un sistema predictivo estatal basado en IA encajaría muy claramente en esa lógica:
- recopila datos de millones de personas;
- identifica patrones;
- anticipa conductas;
- clasifica riesgos;
- y permite intervenir antes de que ocurra un problema.
La cuestión central para Foucault sería que el poder se vuelve más invisible, más técnico, y aparentemente neutral. El “gemelo digital” podría interpretarse como una versión digital del panóptico:No hace falta vigilar físicamente a cada individuo; basta con que la población sepa que toda acción deja rastros analizables.
También hablaría probablemente de una transición desde instituciones disciplinarias clásicas (escuela, fábrica, cárcel) hacia formas más fluidas de control apoyadas en datos y algoritmos.
Byung-Chul Han: psicopolítica y transparencia
Han probablemente diría que este sistema representa el paso desde la biopolítica hacia la psicopolítica digital. Para Han, el neoliberalismo (yo agregaría que el capitalismo como sistema totalizador), ya no necesita imponer obediencia mediante violencia visible:
- induce auto-exposición,
- auto optimización,
- y autocontrol.
La IA estatal basada en datos sociales podría funcionar como una enorme maquinaria de:
- cuantificación de la vida;
- transparencia obligatoria;
- y producción de sujetos permanentemente evaluables.
Han sostiene que hoy el control funciona mejor cuando parece útil, eficiente, cómodo o incluso beneficioso para el individuo. El peligro no sería solamente la vigilancia externa, sino que las personas terminen adaptando espontáneamente su conducta a lo que el sistema considera “normal”, “eficiente” o “confiable”. También Han podría criticar la idea de “honestidad matemática” porque, para él, el exceso de confianza en datos y métricas tiende a eliminar ambigüedad, conflicto político, deliberación democrática y dimensión humana.
El camino directo hacia la normalización de el sentido común creado por el sistema para ser aceptado por la Sociedad Civil sin objeciones.
Noam Chomsky: concentración de poder y manufactura del consenso
Chomsky probablemente pondría el foco menos en la tecnología en sí y más en quién controla el sistema, qué intereses económicos y políticos lo dirigen, y cómo puede utilizarse para disciplinar socialmente.
Desde su perspectiva crítica sobre medios y poder la IA estatal podría convertirse en una herramienta de administración tecnocrática funcional a élites económicas y gubernamentales.
Posiblemente advertiría varios riesgos:
- centralización extrema de información;
- debilitamiento de controles democráticos;
- opacidad técnica;
- y naturalización de decisiones políticas bajo apariencia científica.
Chomsky suele insistir en que las estructuras de poder buscan presentarse como inevitables o racionales. Un algoritmo puede reforzar esa lógica: “no es una decisión política, lo dice el sistema”.
También probablemente relacionaría esto con la creciente alianza entre: grandes corporaciones tecnológicas (Palantir),
aparatos estatales, y sistemas de vigilancia masiva.
Antonio Gramsci: hegemonía tecnológica
Para Antonio Gramsci, el “bloque hegemónico” es la articulación entre una clase social dirigente, sus aliados, sus instituciones, las ideas y valores culturales, y las formas de organización política que logran presentar determinado orden social como si fuera “natural” o “normal” o beneficioso para toda la sociedad.
No se trata solo de dominar por la fuerza. La hegemonía implica sobre todo dirección cultural y moral. Desde una mirada gramsciana, el punto central sería cómo estas tecnologías ayudan a construir consenso y hegemonía cultural.
Gramsci podría interpretar el discurso de: eficiencia, modernización, transparencia, inteligencia artificial, como parte de una narrativa que presenta determinadas formas de organización social como inevitables y “científicamente correctas”.
El control no operaría sólo por coerción, sino porque la propia sociedad termina aceptando la vigilancia; la recopilación masiva de datos; y la evaluación algorítmica; como algo normal o incluso deseable. La hegemonía tecnológica funciona cuando el lenguaje técnico reemplaza al debate político.
Slavoj Žižek: ideología y fetichismo tecnológico
Žižek señala una paradoja: La tecnología aparece como solución neutral a problemas sociales que en realidad son profundamente políticos.
Podría decir que existe un “fetichismo algorítmico”. Esto es, la creencia de que los datos eliminan ideología, cuando en realidad los algoritmos incorporan decisiones ideológicas invisibles. También seguramente subrayaría que cuanto más complejos se vuelven estos sistemas, más difícil resulta cuestionarlos públicamente, porque el poder se desplaza hacia expertos técnicos y modelos opacos.
Tanto la última encíclica de León XIV como la obra de Giuliano da Empoli dialogan directamente con estos problemas de control social algorítmico, aunque desde perspectivas distintas. La primera encíclica de León XIV, Magnifica Humanitas, está centrada precisamente en la relación entre:
- inteligencia artificial,
- dignidad humana,
- poder tecnológico,
- y transformación social.
El documento sostiene una idea muy cercana a varios de los autores críticos: la tecnología no es neutral. Depende de quién la diseña, quién la financia, quién controla los datos, y con qué fines se utiliza. Los motivos de la iglesia católica para objetar los mecanismos de administración y control de la conducta por parte de las grandes corporaciones tecnológicas probablemente estén asociados al hecho de que se han convertido no solo en competidores por el control en importantes sectores de la sociedad durante miles de años, sino que en gran medida han reemplazado ese control por otro mil veces más riguroso y efectivo.
Giuliano da Empoli: algoritmos, caos y poder
Da Empoli trabaja estos temas sobre todo en Los ingenieros del caos y El mago del Kremlin. Su mirada es menos filosófica y más político-tecnológica, pero muy conectada con estas discusiones. En el libro Los ingenieros del caos analiza cómo la big data, redes sociales, algoritmos, microsegmentación, y manipulación emocional, transformaron la política contemporánea.
Da Empoli sostiene que hoy el poder ya no necesita convencer racionalmente, puede modular emociones masivas mediante datos y plataformas digitales.
Relación con Foucault y Han
Hay muchos puntos de contacto. Con Foucault la política deja de organizarse sólo mediante ideologías tradicionales y pasa a funcionar como monitoreo permanente, experimentación social continua y gestión de conductas en tiempo real. El algoritmo reemplaza parcialmente a la vieja propaganda. Con Han, Da Empoli muestra cómo el sistema digital explota la ansiedad, la indignación, la impulsividad y la necesidad de reconocimiento para orientar comportamientos políticos. Es muy cercano a la idea de “psicopolítica”: el control actúa desde dentro de las emociones.
“Los ingenieros del caos” y el caso argentino
Aunque Da Empoli habla sobre fenómenos globales (Trump, Brexit, Salvini, Bolsonaro) sus categorías pueden aplicarse fácilmente a procesos latinoamericanos contemporáneos. La combinación entre discurso antisistema, hiperpersonalización,
redes sociales, guerra cultural, y tecnologías predictivas, encaja bastante con varios fenómenos políticos actuales.
Existe una aproximación entre la crítica de la iglesia católica y el análisis de Empoli, aunque con objetivos diferentes. El problema es la concentración del poder sobre la información, la capacidad de modelar conductas y la sustitución del debate democrático por sistemas opacos de influencia y predicción.
En términos más amplios, Foucault hablaría de gubernamentalidad; Han de psicopolítica; Chomsky de manufactura del consenso; Da Empoli de ingeniería algorítmica del comportamiento y León XIV de una amenaza a la dignidad humana y al bien común.
Todos, desde lugares distintos, están describiendo una misma transformación histórica: el pasaje hacia sociedades donde el poder opera cada vez más mediante datos, predicción y modulación invisible de la conducta.
Una síntesis posible
Tomando a todos estos autores en conjunto, un programa como el “Gemelo Digital Social” podría entenderse como una expansión de la capacidad estatal de vigilancia y predicción; una transformación del control social desde la coerción visible hacia la administración algorítmica; una naturalización técnica de decisiones políticas y una forma de producción de subjetividades adaptadas a métricas, datos y evaluación permanente.
La novedad histórica sería que el control ya no depende solamente de instituciones físicas tradicionales, sino de infraestructuras digitales capaces de observar, clasificar, anticipar, y modular conductas a gran escala y en tiempo real.
