Por Francisco Battistella (Fuente: El Ágora).-
Como era de esperar, la idea del Gobierno de cruzar las bases de datos del Estado para crear un “Gemelo Digital Social” con IA encendió las alarmas por la posibilidad de que derive en un instrumento de vigilancia masiva: ¿Qué pasa cuando la IA es la que decide sobre políticas sociales?
¿Qué pasa cuando la que decide es la IA?
El viernes pasado el Ministerio de Capital Humano difundió un video presentando lo que denominó “Gemelo Digital Social”: un sistema de inteligencia artificial capaz de cruzar bases de datos estatales para “simular escenarios, anticipar impactos y optimizar decisiones en tiempo real”.
Dicho de otro modo, la iniciativa consiste en pasar los datos de los argentinos por una IA, construir una representación virtual de cada ciudadano y, a partir de ahí, rediseñar políticas sociales.
Según la cartera que conduce Sandra Pettovello, el sistema opera en cuatro capas: una descriptiva, que organiza registros; una explicativa, que detecta relaciones causales; una predictiva, que proyecta escenarios; y una prescriptiva, que recomendaría decisiones para “optimizar” el uso de recursos estatales. El oficialismo sostiene que la herramienta mejorará la asignación presupuestaria, focalizará la asistencia y reducirá costos administrativos.
Lo que el gobierno no dejó claro es qué datos se usarán, qué organismos participarán ni quién auditará el proceso. Esa opacidad encendió alarmas inmediatas. El diputado Agustín Rossi (Fuerza Patria) presentó una acción de hábeas data colectivo exigiendo precisiones sobre el funcionamiento del sistema. Pablo Juliano, de Provincias Unidas, reclamó saber qué actos administrativos sustentan el proyecto, cómo se financiará y cómo se accederá a datos de ANSES, RENAPER, historias clínicas y PAMI.
Lo que también llamó la atención fue el parecido del proyecto con uno de los servicios que vende Palantir Technologies, la empresa de vigilancia masiva de Peter Thiel, quien llegó a Argentina el mes pasado y se reunió con Milei.
El comunicado oficial que publicó Capital Humano esta semana intentó despejar esa asociación, asegurando que el sistema está “lejos de pertenecer a una corporación o individuo en particular”. La aclaración llegó tarde y explicó poco.
El investigador del CONICET y director del Laboratorio de IA Aplicada de la UBA, Diego Fernández Slezak, fue lapidario: “La tecnología de los digital twins todavía no está disponible. Hay empresas que ofrecen ese servicio, como Palantir, pero no tienen ningún artículo científico ni caso de éxito documentado de que efectivamente funcionen”.
Amnistía Internacional Argentina agregó que “las tecnologías de vigilancia no son neutrales y sin controles adecuados, pueden convertirse en herramientas de vigilancia masiva, discriminación y persecución de voces críticas”.
La pregunta que subyace es más profunda: ¿qué ocurre cuando se delega en un algoritmo el poder de decidir sobre políticas sensibles? La respuesta, al menos parcial, ya fue respondida en otros países.
En Países Bajos, las autoridades fiscales implementaron un sistema algorítmico para detectar solicitudes fraudulentas de ayuda social para niños. El resultado fue que familias que simplemente habían completado mal un formulario fueron acusadas de fraude.
Como la nacionalidad era uno de los factores de riesgo evaluados, el sistema derivó en decisiones xenofóbicas que perjudicaron sistemáticamente a hijos de extranjeros. En Serbia, en 2023, un sistema similar aplicado a la “tarjeta social” afectó de manera desproporcionada a personas con discapacidad y comunidades en situación de pobreza extrema.
En todos esos casos el argumento oficial fue el mismo: usar la automatización para garantizar un mejor uso de los recursos. El resultado fue el mismo también: expulsar del sistema a los más vulnerables y quitarles la posibilidad de reclamar ante una ventanilla.
Acá lo que se propone es usar una herramienta pensada para planificar el mantenimiento de piezas industriales —la NASA utilizó simulaciones de este tipo para monitorear naves desde 2002— con el objetivo de dictar políticas sociales y construir, en esencia, un identikit de los ciudadanos.
La referencia inevitable es Minority Report, la película de 2002 basada en un relato de Philip K. Dick, donde un sistema de predicción detiene a personas por crímenes que aún no cometieron. El punto no es la ciencia ficción sino la distinción entre “prevención” y “predicción”: la primera protege, la segunda condena por anticipado.
¿Qué espera Javier Milei de la visita del Papa León XIV?
El lunes 25 de mayo, durante el Tedeum en la Catedral de Buenos Aires, el arzobispo Jorge García Cuerva dirigió un mensaje al presidente y su gabinete, sentados en las primeras filas. Dijo que “nadie es descartable, nadie es desechable” y enumeró a los sectores afectados por el ajuste: abuelos, niños, enfermos, personas con discapacidad, trabajadores informales.
Agregó que lo que falta es “una clase dirigente que se anime al diálogo, al encuentro, a la reconciliación”. Y, con el gabinete libertario enfrente, fue más directo: “Viven de privilegios; alejados del común de la gente, perdieron la sensibilidad con los que sufren”.
La respuesta de Milei fue llamativamente moderada para quien calificó a Francisco de “personificación del maligno en la tierra”. Dijo que García Cuerva “ha dado una opinión válida” y aunque no pareció sentirse aludido, no se contuvo y terminó cuestionando uno de los puntos.
Al libertario, la comparación que hizo el arzobispo entre el hostigamiento en redes y el terrorismo le pareció “exagerada”. Para el presidente, la violencia en las redes es simplemente “la forma en que la gente se vincula”.
Esto lo dice el mismo presidente que lleva más de un año calificando de “golpe de Estado” a cualquier medio que lo critique. Y lo dice alguien que, cuando en 2019 Sol Pérez señaló su malestar por una serie de retuits misóginos, respondió que “no era un tuit mío, yo no lo escribí”, como si sus acciones en redes fueran externas a él.
Más recientemente, cuando estalló el escándalo de la criptomoneda $LIBRA, ensayó el mismo argumento, pero invertido: dijo que lo había compartido como civil en su cuenta personal, no como presidente.
Esa lógica de separación entre el “personaje” online y la persona real tiene una función precisa: dar impunidad a quien ejerce violencia digital y deshumanizar a quien la recibe. Insultar es más fácil cuando el otro no está enfrente. Y ejercer esa violencia impunemente es más fácil cuando uno lo hace desde un nombre de usuario.
Los principales comunicadores del gobierno son conocidos, precisamente, por sus apodos de redes y los personajes que construyeron desde el anonimato. La pregunta que queda abierta no es solo sobre Milei: ¿en qué medida nuestras pautas sociales e identitarias siguen desactualizadas respecto de los entornos donde hoy ocurren la mayoría de las discusiones políticas?
La moderación del presidente frente a la Iglesia probablemente tenga una explicación pragmática: la posibilidad cada vez más concreta de que el Papa León XIV visite Argentina este año.
Sería una oportunidad para recomponer una relación dañada por años de insultos contra Francisco y contra las organizaciones dedicadas al cuidado de personas vulnerables, territorio en el que la Iglesia Católica tiene una presencia extendida.
El problema es que León XIV tampoco parece un interlocutor fácil para el libertario. En su primera encíclica, Magnifica Humanitas, el Papa abordó específicamente la inteligencia artificial y el lugar del ser humano frente al desarrollo tecnológico.
Reconoció que las innovaciones pueden “aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. Advirtió que la IA puede “alimentar la brecha entre los incluidos y los excluidos”. Y agregó: “Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público”.
Por lo visto, el Papa parece ir en la dirección exactamente opuesta a lo que profesa el libertario sobre la Inteligencia Artificial, las redes sociales e incluso sobre los Derechos Humanos. Restará esperar su visita para ver en qué derivará su eventual reunión.
Deja una respuesta