IAcracia: Nuevos desafíos del Estado
DOI:
https://doi.org/10.71068/pdrdqf37Palabras clave:
inteligencia artificial, iacracia, estado, transparencia, empleo públicoResumen
El avance de la Inteligencia Artificial (IA) está transformando el rol del Estado y la administración pública, planteando el desafío de equilibrar eficiencia tecnológica con principios democráticos. Este ensayo introduce el concepto de "IAcracia", una situación en la que la IA se convierte en un actor central en la toma de decisiones gubernamentales. Desde una perspectiva socialdemócrata, se analizan las implicancias de esta transición, poniendo énfasis en los riesgos de automatizar la toma de decisiones dentro del ámbito estatal, la posible opacidad generada por algoritmos de funcionamiento poco transparente y la necesidad de establecer regulaciones que garanticen el control ciudadano. Se sostiene que el Estado debe orientar el uso de la IA en favor del interés público, sin comprometer la equidad ni la soberanía popular.
Referencias
Amnistía Internacional. (2024). Dinamarca: El sistema de bienestar social basado en la inteligencia artificial alimenta la vigilancia masiva y corre el riesgo de discriminar a los grupos marginados. Recuperado de https://www.amnesty.org/es/latest/news/2024/11/denmark-ai-powered-welfare-system-fuels-mass-surveillance-and-risks-discriminating-against-marginalized-groups-report/
Australian Government. (2021). AI Ethics Framework. Department of Industry, Science, Energy and Resources. https://www.industry.gov.au/data-and-publications/australias-artificial-intelligence-ethics-framework
Cave, S., & ÓhÉigeartaigh, S. S. (2019). Bridging near- and long-term concerns about AI. Nature Machine Intelligence, 1(1), 5–6. https://doi.org/10.1038/s42256-018-0003-2
Chiliquinga Amaya, J. A., Arcentales Macias, A. M., & Pereira Salcedo, J. R. (2024). La influencia de la inteligencia artificial en la sociedad actual y en el futuro de las próximas generaciones. Sapiens in Artificial Intelligence, 1(1), 37-47. https://revistasapiensec.com/index.php/Sapiens_in_Artificial_Intelligen/article/view/35
Creemers, R. (2021). China's Social Credit System: An Evolving Practice of Control. China Information, 35(1), 1-24. http://dx.doi.org/10.2139/ssrn.3175792
Danish Agency for Digital Government. (2022). Artificial Intelligence in Denmark. https://en.digst.dk/policy-and-strategy/artificial-intelligence/
El Estado Virtual. (2021). X-Road: el sistema operativo de los Estados. Recuperado de https://elestadovirtual.com/x-road-el-sistema-operativo-de-los-estados/
European Commission. (2019). Ethics Guidelines for Trustworthy AI. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
European Commission. (2021). Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
Eubanks, V. (2018). Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. St. Martin’s Press.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., ... & Schafer, B. (2018). AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28, 689-707. https://doi.org/10.1007/s11023-018-9482-5
Gentilini, U., Grosh, M., Rigolini, J., & Yemtsov, R. (2020). Exploring Universal Basic Income: A Guide to Navigating Concepts, Evidence, and Practices. World Bank. https://doi.org/10.1596/978-1-4648-1458-7
Government of Canada. (2022). Algorithmic Impact Assessment. https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/algorithmic-impact-assessment.html
Lazcoz Moratinos, G., & Castillo Parrilla, J. A. (2020). Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso SyRI. Revista Chilena De Derecho Y Tecnología, 9(1), pp. 207–225. https://doi.org/10.5354/0719-2584.2020.56843
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A Survey on Bias and Fairness in Machine Learning. ACM Computing Surveys, 54(6), 1-35. https://doi.org/10.1145/3457607
Ministry of Finance Finland. (2020). AuroraAI – Towards a human-centric and ethically sustainable digital society. United Nations Department of Economic and Social Affairs (UNDESA). Retrieved from https://publicadministration.desa.un.org/good-practices-for-digital-government/compendium/aurora-ai-finland
New Zealand Government. (2021). Algorithm Charter for Aotearoa New Zealand. https://data.govt.nz/assets/data-ethics/algorithm/Algorithm-Charter-2020_Final-English-1.pdf
Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press. https://doi.org/10.2307/j.ctt1pwt9w5
OECD. (2021). OECD Digital Government Index: 2020 Results. https://www.oecd.org/en/publications/digital-government-index_4de9f5bb-en.html
Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press. http://www.jstor.org/stable/j.ctt13x0hch
Pasquale, F. (2020). New Laws of Robotics: Defending Human Expertise in the Age of AI. Harvard University Press.
Ruiz Muro, J. A., Jara Vera, R. J., Bastidas González, W. W., & Bastidas Jimbo, W. W. (2024). El impacto de la inteligencia artificial en tiempos modernos. Sapiens in Artificial Intelligence, 1(2), 1-14. https://revistasapiensec.com/index.php/Sapiens_in_Artificial_Intelligen/article/view/37
Susskind, D. (2022). A World Without Work: Technology, Automation, and How We Should Respond. Oxford University Press. http://dx.doi.org/10.1111/ntwe.12186
United Nations. (2021). AI for Good Global Summit. https://aiforgood.itu.int/
Veale, M., & Edwards, L. (2018). Clarity, Surprises, and Further Questions in the Article 29 Working Party Draft Guidance on Automated Decision-Making and Profiling. Computer Law & Security Review, 34(2), 398-404. https://doi.org/10.1016/j.clsr.2017.12.002}
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000380455
Vázquez Ríos, J. R., & Alvarado Bastidas, E. A. (2024). Automatización de procesos usando robótica y control de movimiento. Sapiens in Artificial Intelligence, 1(1), 68-82. https://revistasapiensec.com/index.php/Sapiens_in_Artificial_Intelligen/article/view/69
Publicado
Número
Sección
Licencia
Derechos de autor 2025 Leandro Guerschberg (Autor/a)
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Los artículos publicados en la revista se distribuyen bajo la licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0). Esta licencia permite a terceros descargar, copiar, distribuir, adaptar y reutilizar una obra, incluso con fines comerciales, siempre que se otorgue el crédito adecuado al autor original.
