El diputado nacional Nicolás Trotta presentó un exhaustivo proyecto de resolución para que el Poder Ejecutivo Nacional brinde explicaciones detalladas sobre el lanzamiento e implementación de la plataforma de Inteligencia Artificial denominada “Gemelo Digital Social”. La iniciativa surge tras el anuncio del Ministerio de Capital Humano sobre la creación de una réplica virtual de la sociedad argentina destinada a la simulación de políticas públicas.
En sus fundamentos, sostiene que este sistema “introduce un cambio drástico en el diseño y ejecución de las políticas públicas que exige un seguimiento institucional riguroso”. El legislador advierte que no se trata de una modernización de rutina, sino de la implementación de un modelo que “alterará estructuralmente la relación entre el Estado y el ciudadano” y genera profundos interrogantes sobre la “transparencia algorítmica”.
Soberanía y datos en la mira
Uno de los puntos más críticos del pedido de informes apunta a la participación de corporaciones transnacionales. Trotta solicita que el Gobierno informe si se ha contratado a la empresa Palantir Technologies y exige que se aclaren los términos de propiedad intelectual: específicamente, si el software y el código fuente “serán de propiedad exclusiva y soberana del Estado Argentino o si permanecerán bajo la titularidad de las empresas proveedoras”.
El proyecto también busca poner luz sobre el manejo de la privacidad, cuestionando los fundamentos por los cuales el Estado prevé “prescindir del consentimiento expreso e informado de los titulares de los datos para este tratamiento predictivo automatizado”.
Contra la «fría lógica» del algoritmo
Respecto a la operatividad del sistema, el diputado exige conocer los mecanismos técnicos para evitar la “exclusión arbitraria de beneficiarios en el diseño e implementación de políticas sociales a partir de las predicciones de la Inteligencia Artificial”. En un apartado técnico clave, el texto reclama detalles sobre las instancias de revisión humana para “revertir o impugnar de forma inmediata decisiones automatizadas erróneas derivadas de sesgos o alucinaciones del software”.
“Esta Cámara no puede adoptar un rol pasivo frente a una reforma que pretende reconfigurar la asistencia social bajo la fría lógica de un algoritmo predictivo”, concluye el documento presentado por Trotta, quien integra la Fundación Sociedades Digitales, espacio desde el cual se trabaja activamente en la defensa de los derechos ciudadanos frente al avance de la tecnocracia digital.
