Rendición de cuentas y transparencia en IA urbana

Muchas administraciones públicas urbanas ven el potencial que ofrece la implementación de inteligencia artificial (IA), pero no se sienten preparadas para aplicarla de forma responsable. Aunque los enfoques y los marcos basados en una IA responsable son cada vez más frecuentes, muchos de ellos se centran en actores del sector privado o empresarial. Si bien el papel de la IA responsable en el sector público recibe cada vez más atención, existen muchas menos directrices específicas para los gobiernos locales. El objetivo de este capítulo es reducir esta brecha presentando definiciones de rendición de cuentas y transparencia que incluyan tanto perspectivas técnicas acotadas como sociopolíticas más amplias. Para facilitar la rendición de cuentas y la transparencia en el contexto de la aplicación de la IA por parte de las administraciones públicas urbanas, hay dos preguntas orientativas aparentemente sencillas pero fundamentales para la fase de diseño: «¿Debe utilizarse la IA?» y «¿Cómo debe utilizarse la IA?». Tras reflexionar sobre el significado de estas preguntas para los profesionales urbanos, el capítulo presenta un resumen de los mecanismos de política existentes que pueden adaptarse para trabajar en pos de estos objetivos y ofrece algunas lecciones aprendidas de investigaciones anteriores.