Hacia la gobernanza de la inteligencia artificial en la Administración pública
Barra lateral del artículo
Contenido principal del artículo
Resumen
Este trabajo examina la implementación de la IA en la Administración pública desde la perspectiva de su gobernanza. Para este fin, explora las ventajas y retos que plantean las aplicaciones de los sistemas de IA en el ámbito gubernamental, mediante el uso de una metodología deductiva y analítica, que busca plantear propuestas para su regulación efectiva. El uso de sistemas de IA aumenta la capacidad gubernamental en la previsión de servicios públicos, mejora su calidad y precisión, la confiabilidad ciudadana, así como contribuye a la promoción de la gobernanza, al fortalecer valores como la eficiencia, el control y la neutralidad política. Sin embargo, ante los retos que implica la transparencia y esclarecimiento en su configuración, con el fin de conocer cómo funcionan los sistemas de IA en el ámbito gubernamental, es necesario establecer estructuras institucionales que coordinen los esfuerzos para su adecuación en aras de lograr la gobernanza en su funcionamiento, así como un equilibrio entre decisiones eficientes y objetivas y la satisfacción de las necesidades, demandas e intereses de los ciudadanos. Para ello, se hace indispensable instruir la colaboración institucional y organizar la participación ciudadana, que permitan evaluar de forma continua su funcionamiento, corregir las deficiencias y realizar los ajustes necesarios para garantizar la protección de los derechos de las personas.
##plugins.themes.bootstrap3.displayStats.downloads##
Detalles del artículo
Sección
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
CESIÓN DE DERECHOS, DECLARACIÓN DE CONFLICTO DE INTERESES Y DIFUSIÓN
Los autores/as que publiquen en esta revista aceptan las siguientes condiciones:
- Los autores ceden a la Foro: Revista de Derecho, el derecho de la primera publicación. Las obras se publican en la edición electrónica e impresa de la revista bajo una Licencia Creative Commons 4.0 de Reconocimiento No Comercial-Compartir Igual 4.0, que habilita a compartir, adaptar y atribuir el trabajo (ver: Políticas de acceso abierto).
- Ver información completa de cesión de derechos, declaración de conflicto de intereses y difusión, aquí
Cómo citar
Referencias
Amsler, L. B., J. K. Martínez y S. E. Smith. Dispute System Design: Preventing, Mana- ging, and Resolving Conflict. Stanford: Stanford University Press, 2020. DOI: https://doi.org/10.1515/9781503611368
Benfeldt, O., J. S. Persson y S. Madsen. “Data Governance as a Collective Action Problem”. Information Systems Frontiers 22, n.º 2 (2020): 299-313. https://doi. org/10.1007/s10796-019-09923-z. DOI: https://doi.org/10.1007/s10796-019-09923-z
Berning Prieto, A. D. “La naturaleza jurídica de los algoritmos”. En Inteligencia artificial y sector público: retos, límites y medios, coordinado por Eduardo Gamero Casado y Francisco Luis Pérez Guerrero, 95-130. Valencia: Tirant lo Blanch, 2023.
Binns, R. “Algorithmic Accountability and Public Reason”. Philosophy and Technolo- gy 31, n.º 4 (2018): 543-56. https://doi.org/10.1007/s13347-017-0263-5. DOI: https://doi.org/10.1007/s13347-017-0263-5
Cerrillo Martínez, A. “How can we open the black box of public administration? Trans- parency and accountability in the use of algorithms”. Revista Catalana de Dret Públic, n.º 58 (2019): 13-28. https://doi.org/10.2436/rcdp.i58.2019.3277.
Collier, Matt, Richard Fu y Lucy Yin. Artificial Intelligence: Healthcare’s New Nervous System. Dublin: Accenture, 2017.
Cotino Hueso, L. “Transparencia y explicabilidad de la inteligencia artificial y ‘com- pañía’ (comunicación, interpretabilidad, inteligibilidad, auditabilidad, testabilidad, comprobabilidad, simulabilidad...). Para qué, para quién y cuánta”. En Transparen- cia y explicabilidad de la inteligencia artificial, editado por Lorenzo Cotino Hueso y Jorge Castellanos Claramunt, 29-70. Valencia: Tirant lo Blanch, 2022.
Crain, M. “The Limits of Transparency: Data Brokers and Commodification”. New Me- dia and Society 20, n.º 1 (2018): 88-104. https://doi.org/10.1177/1461444816657096. DOI: https://doi.org/10.1177/1461444816657096
Criado, J. I. “Inteligencia artificial (y Administración pública)”. EUNOMÍA. Revista en Cultura de la Legalidad, n.º 20 (2020): 348-72. https://doi.org/10.20318/euno- mia.2021.6097. DOI: https://doi.org/10.20318/eunomia.2021.6097
Donahoe, E., y M. M. Metzger. “Artificial Intelligence and Human Rights”. Journal of Democracy 30, n.º 2 (2019): 115-26. https://doi.org/10.1353/jod.2019.0029. DOI: https://doi.org/10.1353/jod.2019.0029
Filgueiras, F., y V. Almeida. Governance for the Digital World. Neither More State nor More Market. Londres: Palgrave, 2020. DOI: https://doi.org/10.1007/978-3-030-55248-0
Fine Licht, K., y J. Fine Licht. “Artificial Intelligence, Transparency, and Public De- cision-Making”. AI and Society 35, n.º 4 (2020): 917-26. https://doi.org/10.1007/ s00146-020-00960-w. DOI: https://doi.org/10.1007/s00146-020-00960-w
Freeman, L. “Testing and Evaluating Artificial Intelligence”. Insights 23, n.º 1 (2020): 27-30. https://doi.org/10.1002/inst.12281. DOI: https://doi.org/10.1002/inst.12281
Hageman, Ryan, Jennifer Huddleston y Adam D. Thierer. “Soft Law for Hard Pro- blems: The Governance of Emerging Technologies in a Uncertain Future”. Colo Tech L. J. 17, n.º 1 (2018): 37-129.
Huergo Lora, A. “Una aproximación a los algoritmos desde el derecho administrativo. En La regulación de los algoritmos, dirigido por Alejandro Huergo Lora y coordi- nado por Gustavo Díaz, 23-87. Navarra: Thomson-Reuters Aranzadi, 2020.
Jeffares, S. The Virtual Public Servant. Artificial Intelligence and Frontline Work. Lon- dres: Palgrave, 2021. DOI: https://doi.org/10.1007/978-3-030-54084-5
Just, N., y M. Latzer. “Governance by Algorithms: Reality Construction by Algorith- mic Selection on the Internet”. Media Culture and Society 39, n.º 2 (2017): 238-58. http://dx.doi.org/10.1177/0163443716643157. DOI: https://doi.org/10.1177/0163443716643157
Marchant, Gary. “The Growing gap between emerging technologies and the law”. En The Growing Gap between emerging technologies and legal. Ethical oversight. The pacing problem, editado por Gary E. Marchant, Braden R. Allenby y Joseph R. Herkert, 19-33. Nueva York: Springer, 2011. DOI: https://doi.org/10.1007/978-94-007-1356-7_2
Mikalef, P. “Artificial intelligence capability: conceptualization, measurement cali- bration, and empirical study on its impact on organizational creativity and firm performance”. Information & Management 58 (3) (2021). https://doi.org/10.1016/j. im.2021.103434. DOI: https://doi.org/10.1016/j.im.2021.103434
Misuraca, Gianluca, Egidijus Barcevicius y Cristiano Codagnone, eds. Exploring Digi- tal Government Transformation in the EU. Understanding Public sector innovation in a data-driven society. Publications Office of the European Union, 2020.
O’Neil, C. Weapons of Math Destruction. Londres: Allen Lane, 2016.
Orofino, A. G. “The Implementation of the Transparency Principle in the Development of Electronic Administration”. European Review of Digital Administration & Law, n.º 1-2 (2020): 123-42.
Power, Daniel J. “ ‘Big Brother’ Can Watch Us”. Journal of Decision Systems 25, Issue Sup 1 (2016): 578-88. http://dx.doi.org/10.1080/12460125.2016.1187420. DOI: https://doi.org/10.1080/12460125.2016.1187420
Ruvalcaba-Gómez, Edgar A., y Víctor Hugo García Benítez. La adopción de la inteli- gencia artificial en los gobiernos estatales de México. Guadalajara: CLACSO / Uni- versidad de Guadalajara, 2023.
Sandoval-Almazán, R. “Inteligencia artificial aplicada al Gobierno: una exploración internacional de casos”. En Inteligencia artificial y ética en la gestión pública, 157-
85. Caracas: CLAD, 2021.
Salvador, M., y C. Ramió. “Capacidades analíticas y gobernanza de datos en la Admi- nistración pública como paso previo a la introducción de la inteligencia artificial”. Reforma y Democracia 77 (2020): 5-36. DOI: https://doi.org/10.69733/clad.ryd.n77.a205
Taylor, F. W. The Principies of Scientific Management. Nueva York: Harpers & Brothers, 1911.
Valle-Cruz, D., J. I. Criado, R. Sandoval-Almazán y E. A. Ruvalcaba-Gómez. “Asses- sing the public policy-cycle framework in the age of artificial intelligence: from agenda-setting to policy evaluation”. Government Information Quarterly 37, n.º 4 (2020). https://doi.org/10.1016/j.giq.2020.101509. DOI: https://doi.org/10.1016/j.giq.2020.101509
Vestri, G. “La inteligencia artificial ante el desafío de la transparencia algorítmica: una aproximación desde la perspectiva jurídico administrativa”. Revista Aragonesa de Administración Pública 56 (2021): 368-98. DOI: https://doi.org/10.71296/raap.62
Wachter, S., B. Mitelsstadt y C. Russell. “Counterfactual explanations without opening the black box: automated decisions and the GDPR”. Harvard Journal of Law & Technology 31, n.º 2 (2018): 841-87. DOI: https://doi.org/10.2139/ssrn.3063289
Williamson, B. “Knowing Public Services: Cross-Sector Intermediaries and Algorith- mic Governance in Public Sector Reform”. Public Policy and Administration 29, n.º 4 (2014): 292-312. https://doi.org/10.1177/0952076714529139. DOI: https://doi.org/10.1177/0952076714529139
NORMATIVA NACIONAL E INTERNACIONAL
Cumbre Mundial sobre la Sociedad de la Información. Declaración de Principios: Construir la Sociedad de la Información: un desafío global para el nuevo milenio. 12 de mayo de 2004. WSIS-03/GENEVA/4-S.
OECD. Legal Instruments: Recomendación del Consejo sobre Inteligencia Artificial. http://bit.ly/40zhc4D.
ONU Asamblea General. Resolución. 26 de noviembre de 2018. A/RES/73/17.
Unión Europea. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024. Diario Oficial de la Unión Europea. 12 de julio de 2024.