Reseña de libros | Inteligencia artificial y derecho: ¿debería ser maniatado Deus ex machina?
Tanel Kerikmäe, catedrático de Derecho Comunitario y Tecnológico, TalTech-Tallinn University of Technology
Reseña de libro: Chesterman, Simon. We, the Robots? Regulating Artificial Intelligence and the Limits of Law. Cambridge University Press, 2021. 289 págs.
La tecnología se desarrolla rápidamente en un mundo impulsado por los datos, lo que plantea nuevas e incómodas cuestiones éticas, morales y legales. ¿Deberíamos innovar solo porque podemos? ¿Quién controla la caja negra de la inteligencia Artificial (IA) opaca? ¿Quién es responsable si la IA daña intereses privados, propiedades o incluso la vida humana? ¿Hay algún límite en el uso de la automatización? ¿Perdemos humanidad al darles a los robots la oportunidad de ser parte de nuestras comunidades? ¿Quién tiene estas respuestas?
A este respecto, esperamos que expertos, legisladores y líderes actuales o futuros puedan inspirarse en el libro de Simon Chesterman, decano de la Facultad de Derecho de la Universidad Nacional de Singapur (Derecho NUS) y director sénior de AI Governance. Tal como comuniqué al propio autor, creo que este libro es uno de los mejores estudios sobre una cuestión tan trascendente y de gran actualidad como es la del encuadre de la IA en disposiciones y principios legales. En este sentido, la obra abarca diferentes esferas. Aunque cualquiera puede encontrar fácilmente una respuesta general a una pregunta con cierto nivel de abstracción, para captar la foto completa, hay que profundizar para vislumbrar la complejidad de los problemas. Chesterman, al respecto, es un perfeccionista que ha cubierto los temas más relevantes, aquellos sobre los que los abogados debaten cuando discuten sobre IA. La publicación incluye análisis de la esencia misma de la IA (personalidad jurídica), investigación comparativa, enfoques de ramas jurídicas distintivas (derecho penal, derecho privado, derecho internacional humanitario) e instituciones (responsabilidad, seguros). La confiabilidad del libro también se basa en la excelente bibliografía (más de 30 páginas) que consta de libros y artículos recientes y relevantes, pero también incluye a filósofos del derecho como Hart, Raz y Dworkin. La obra incluye excelentes ejemplos y jurisprudencia que no solo ilustran supuestos teóricos, sino que también aclaran cómo evolucionan las discusiones (jurídicas). El texto comienza con un caso de Wall Street relacionado con el impacto de la velocidad de la tecnología de la información; y se centra en otro gran caso práctico que proviene del Tribunal Comercial Internacional de Singapur, donde un juez afirmó que los algoritmos son «incapaces de saber lo que hacen».
Este libro puede ser de interés no solo para los expertos legales, sino también para cualquier persona que desee tener una visión holística de los desarrollos recientes relacionados con uno de los mayores avances de las últimas décadas: la IA. En su análisis, el autor no solo brinda perspectivas globales, sino también un discurso filosófico, citando a Tomás de Aquino, a los teóricos del derecho, así como a Karel Čapek, quien inventó la palabra «robot» en 1921: «nada es más extraño para un hombre que su propia imagen». El autor también presenta la mentalidad de visionarios como Musk o Gates. Paralelamente, el estilo del autor sigue siendo el de un hombre de leyes, más sobrio y moderado que provocador. Evitando tener una respuesta definitiva a la plétora de preguntas que se plantean en el libro, Chesterman ciertamente tiene su propia visión y opiniones, como así refleja la sección que trata sobre problemas de responsabilidad, donde no apoya el uso de la responsabilidad estricta como herramienta, sino que sugiere la responsabilidad del productor. El lector no debe temer que el autor sea un robot legal, de corazón frío, con una opinión neutra; es más bien un académico experimentado y de mente abierta que analiza las razones de la no regulación y los detalles detrás de la regulación (cuándo, por quién y cómo). El texto no está sobrecargado de referencias a las normas legales, sino que está encabezado por narraciones originales y lógicas. Las explicaciones de los capítulos a menudo están complementadas con ejemplos bien enmarcados de rivales económicos y políticos para levantar el telón de un razonamiento, frecuentemente, muy pragmático.
La monografía se divide en tres partes que hacen que el texto se siga lógicamente: «Desafíos», «Herramientas» y «Posibilidades». El enfoque principal es comprender cómo debemos resolver los desafíos para regular la IA. Así, Chesterman construye su texto en torno a cuestiones esenciales, como los procesos automatizados de toma de decisiones, que él define como «los más importantes en áreas de alto volumen y riesgo legal». Asimismo, nos habla de gobiernos que están dispuestos a utilizar la automatización y enmarca la discusión bajo la óptica de tres dilemas: pragmatismo, moralidad y legitimidad. Uno de los dilemas más cruciales analizados es el control de la IA y la disyuntiva sobre su centralización o descentralización. Aquí, como una de las soluciones posibles, la sugerencia es la creación de una agencia internacional de IA, con autoridad y estructura. En cuanto a los problemas de la IA a nivel nacional, también se propone como solución la creación de una oficina de defensor del pueblo exclusivamente enfocada en IA.
Estoy seguro de que tanto los juristas como el público general encontrarán emocionante filosofar y pensar analíticamente cuando lean las páginas dedicadas a la cuestión de la automatización de la creación de leyes y el sistema judicial. Este no es ciertamente un tema futurista sino muy actual, ya que, por ejemplo, en China, la tecnología compatible con IA para los tribunales ya se desarrolla desde hace bastantes años. Ha habido muchos foros y declaraciones de expertos legales en este campo y Chesterman los une elegantemente, brindando su propia perspectiva. Desde mi punto de vista, es una de las partes más emocionantes del libro, discutiendo las normas jurídicas como «un dato» o «un código», llegando al área de la esencia misma del derecho y su papel en la sociedad.
En definitiva, el libro de Chesterman, aunque puede escucharse primero como una canción pegadiza, es más bien una fusión de jazz, con sus líneas de bajo, sonidos electrónicos, ritmo original, experimentalismo y sofisticación. Quizás, para convertirse en una guía aún mejor, el autor podría agregar algo de multidisciplinariedad, característica que define la IA. Sin duda, recomendaría el libro a todos los interesados en las perspectivas de la sociedad humana y la IA.
Revista CIDOB d’Afers Internacionals, nº 131, p. 211-213
Cuatrimestral (mayo-septiembre 2022)
ISSN:1133-6595 | E-ISSN:2013-035X