Resumen de Luces y sombras del Estado algorítmico de Derecho
- español
En las últimas décadas, los Estados dependen cada vez más de programas y algoritmos para ejercer sus potestades públicas. Sin embargo, se ha demostrado que la transformación digital de los Estados tiene aspectos sin resolver. Los estudios académicos y procesos judiciales recaídos al respecto han revelado un patrón pernicioso de resultados extraños e ininteligibles en el empleo de sistemas automatizados de toma de decisiones, que, en los casos más extremos, desembocan en absurdos algorítmicos. Sin embargo, la respuesta no es negar a los Estados el acceso a la tecnología automatizadora. Este artículo apunta hacia una visión positiva de lo que hemos bautizado como el «Estado algorítmico de Derecho», que adopta herramientas automatizadas sólo cuando éstas mejoran, en lugar de socavar, los fundamentos de la legitimidad de los Estados democráticos.
- English
In recent decades, States have become increasingly dependent on software and algorithms to exercise their public powers. However, the digital transformation of States has been proven to have unresolved issues. Academic studies and court cases have revealed a pernicious pattern of strange and unintelligible results in the use of automated decision-making systems, leading in the most extreme cases to algorithmic absurdities. However, the answer is not to deny States access to automated technology. This paper points towards a positive vision of what we have called the «algorithmic rule of law», which adopts automated tools only when they improve, rather than undermine, the foundations of the legitimacy of democratic nations.
