La regulació europea sobre IA

La innovació social i tecnològica és crucial per respondre a les necessitats de les persones i avançar cap a governs locals més inclusius i equitatius. Tecnologies disruptives com la intel·ligència artificial (IA) obren noves oportunitats per a millorar la prestació de serveis públics i la gestió d’alguns dels reptes urbans més urgents: la mobilitat sostenible, la transició energètica, l’ús responsable de l’aigua, o la reducció de la contaminació, entre d’altres. En els propers anys, la creixent adopció de la IA comportarà una transformació de les administracions públiques, que han d’estar preparades per encarar els nous desafiaments i riscos associats amb l’ús extensiu de sistemes algorísmics. Cal tenir en compte, a més, la doble responsabilitat dels governs locals en tant que “consumidors” de solucions tecnològiques i “reguladors” que han de garantir el marc adequat per al desenvolupament d’una IA ètica, segura, que respecti la legalitat vigent, sigui compatible amb les nostres normes socials i culturals, i posi les persones al centre. 

En aquest sentit, el PAM 2024-2027 de l’AMB identifica la IA com un dels principals focus de les polítiques metropolitanes del futur. Les ciutats metropolitanes han d’estar preparades per adoptar solucions basades en algoritmes i gestionar els riscos que se’n puguin derivar, però també han d’impulsar mesures polítiques que els permetin competir, atraure talent i fidelitzar-lo, per tal d’avançar en la consolidació de l’AMB com a metròpolis digital. I tot això ho han de fer tenint en compte l’entorn normatiu on operen, que en un futur vindrà condicionat per la recentment aprovada Llei d’Intel·ligència Artificial de la UE (EU AI Act), però també les tendències geopolítiques a escala global. 

Aquest seminari busca contribuir a aquest esforç per preparar a les ciutats metropolitanes i a l’AMB per encarar amb èxit els reptes associats amb l’adopció de la IA a partir d’un doble exercici. D’una banda, s’analitzaran les implicacions de la regulació europea de la IA per als governs locals i les àrees metropolitanes. De l’altra, es realitzarà un exercici de prospectiva on s’identificaran alguns escenaris que contemplen possibles futurs impactes de la IA a mitjà i a llarg termini, des de la prosperitat global fins al risc catastròfic i existencial dels sistemes algorísmics. L’objectiu és reflexionar sobre com es podria garantir que les estratègies i els marcs polítics establerts avui per l’AMB siguin resilients i adaptatius davant les diferents direccions potencials que podria prendre la transformació digital.