El 21 de marzo de 2025, la Comisión de Inclusión Social, Democracia Participativa y Derechos Humanos (CISDPHR) de CGLU se unió al Observatorio Internacional de la Democracia Participativa (OIDP), junto con la Alianza Internacional de Habitantes (IAI), el Proyecto PHOENIX/CES - Universidad de Coimbra y la Asociación Internacional de Facilitadores (IAF) para coorganizar el seminario web: "Inteligencia artificial y democracia local: ¿de qué estamos hablando?".
Este oportuno intercambio tuvo como objetivo reflexionar sobre cómo los gobiernos locales y regionales pueden garantizar que la transformación digital en curso defienda los derechos humanos y no deje a nadie atrás, como afirmó nuestro coordinador, Adrià Duarte, en su discurso de apertura. En este sentido, los participantes compartieron su experiencia en el uso de la IA para transformar la gobernanza local hacia una más inclusiva y respetuosa con los derechos humanos, al tiempo que destacaron los retos a los que se enfrentan y el poder de la colectividad para afrontarlos.
Una reflexión colectiva hacia OIDP Córdoba 2025
Juan Domingo Viola, Secretario de Participación Ciudadana de la Municipalidad de Córdoba, Argentina, anfitrión de la próxima Conferencia OIDP Córdoba 2025, inauguró la sesión enfatizando la relevancia de este debate como un paso hacia la agenda de la reunión anual de democracia local: "Conectar, Integrar y Humanizar: Las ciudades ante el desafío de generar Comunidad".
¡Haga clic aquí para inscribirse en la Conferencia OIDP Córdoba 2025!
Enfoque basado en los derechos y regulaciones estrictas para abordar las desigualdades estructurales
Flavia Marzano, experta en IA y representante de la Asociación Italiana de Gobierno Abierto, presentó la Ley Europea de IA como una regulación pionera para garantizar un uso seguro, transparente y ético de la IA. Este importante hito regulatorio adopta un enfoque basado en los derechos, asegurando que esta herramienta promueva la transparencia y la rendición de cuentas mediante la imposición de reglas estrictas.
Invitó a los participantes a reconocer los riesgos inherentes de la IA, específicamente en cuanto a la perpetuación de las desigualdades estructurales y los resultados discriminatorios para los grupos históricamente marginados. Por ejemplo, la IA trae consigo una amplia serie de sesgos de género, raciales, socioeconómicos y de otro tipo, como favorecer a los candidatos masculinos en los procesos de contratación, estigmatizar a las comunidades racializadas como criminales y excluir a las personas mayores y con discapacidad.
"Cuando nos enfrentamos a transformaciones sociales, podemos sentirnos abrumados o elegir gobernarlas", animó Flavia Marzano. Teniendo esto en cuenta, compartió el compromiso de su organización para lograr un despliegue de IA que sea inclusivo y respetuoso con los derechos humanos. Marzano mostró vías para mejorar la participación ciudadana a través de la IA, como facilitar el acceso a la información, analizar grandes conjuntos de datos para la elaboración de políticas basadas en evidencias y reforzar el compromiso cívico a través de chatbots y asistentes virtuales. Su intervención hizo hincapié en la necesidad de marcos éticos, alfabetización digital e innovación inclusiva como pilares esenciales para reducir la brecha digital, especialmente en las comunidades marginadas.
Haga clic aquí para ver las diapositivas de la presentación de Flavia Marzano.
Reconocer las asimetrías y las barreras de exclusión que la IA conlleva
Michelangelo Secchi, investigador de Eudema.net: Transiciones digitales sostenibles y colaborador de la OIDP, abordó los retos de gobernanza de una tecnología tan compleja y opaca como la IA. Aunque la normativa actual contiene principios positivos, su aplicación sigue siendo limitada.
Destacó que la "calidad" de la IA es nuestro "qué" a la hora de actuar, destacando el papel de la agencia colectiva en la configuración de herramientas participativas, desde la moderación y el muestreo deliberativo hasta las redes cívicas ampliadas.
Haga clic aquí para ver las diapositivas de la presentación de Michelangelo Secchi
Gobiernos locales que aprovechan la IA para la participación: el caso de Sundsvall
Anders Nordh, director de desarrollo de la Asociación Sueca de Gobiernos Locales y Regionales (SALAR), presentó el compromiso de esta organización de apoyar a los municipios en el uso de la IA para mejorar la participación. Un caso destacado es el modelo de Sundsvall para el diálogo sistémico con la ciudadanía, compartido por Ulrika Sjöberg y Andreaz Strömgren.
El modelo de diálogo ciudadano sistémico de Sundsvall apoyó el proceso de participación para desarrollar lugares de encuentro en la plaza central del municipio. El municipio adoptó un enfoque de toda la sociedad para llevar a cabo diálogos con una diversidad de partes interesadas, como políticos, jóvenes y estudiantes, basados en diez principios de diálogo ciudadano que fomentan la igualdad, la inclusión y la transparencia. La IA apoyó la recopilación de grandes resultados de datos, como los resultados de los diálogos, entrevistas, encuestas y respuestas, investigaciones e informes.
Entre las lecciones aprendidas por Sundvall, está que la IA tiene ventajas y desventajas. La herramienta ahorra tiempo, permite recopilar datos de manera eficiente y proporciona una rápida recuperación de respuestas. Sin embargo, carece de señales "humanas", puede ser demasiado creativa y sigue requiriendo preguntas bien formuladas. Para abordar esto, en asociación con el sector privado, el municipio está desarrollando Intric, una innovadora plataforma de IA generativa para facilitar un uso amplio y eficaz de la tecnología. Además, se lanzará como código abierto para fomentar el intercambio de recursos y la colaboración.
Haga clic aquí para ver las diapositivas de la presentación de la ciudad de Sundsvall
"La IA es una herramienta, como lo fue una vez un post-it"
Gerardo de Luzenberger, de la Asociación Internacional de Facilitadores (IAF), recordó a la audiencia que la IA es solo una herramienta, como lo fue una vez un post-it. Utilizó esta analogía para argumentar la responsabilidad que tienen nuestras comunidades a la hora de preguntarse qué uso quieren dar a la IA en su vida diaria, especialmente en contextos en los que la libertad está siendo cuestionada.
El impacto de la IA en el derecho a la vivienda
Cesare Ottolini, de la Alianza Internacional de Habitantes, advirtió de los riesgos de la especulación impulsada por la IA en la vivienda y las ciudades inteligentes. Sin salvaguardias, estas tecnologías pueden desplazar a las comunidades vulnerables y agravar las desigualdades.
Hizo un llamamiento a la vigilancia y a la acción de los gobiernos locales para proteger los derechos de vivienda y garantizar un desarrollo urbano inclusivo.
Un llamamiento a la regulación democrática y la cooperación mundial
El seminario web concluyó con un mensaje compartido: la IA no es solo una cuestión tecnológica, sino un desafío político y ético que debe abordarse de manera colectiva. Los gobiernos locales y regionales, la sociedad civil, el mundo académico y las instituciones mundiales deben unirse para:
-
Garantizar el control democrático de las herramientas digitales.
-
Promover tecnologías socialmente justas e inclusivas.
-
Proteger los derechos humanos en todas las etapas de diseño, implementación y uso.
Este intercambio marca un paso adelante en el compromiso de la CISDPDH de apoyar a los gobiernos locales en la transición digital desde una perspectiva de derechos humanos, especialmente en vista de la próxima Conferencia OIDP Córdoba 2025 (21-23 de mayo), donde se explorarán más a fondo los vínculos entre la IA, el cuidado, la democracia y los derechos.