El año 2021 fue testigo del nacimiento de un importante proyecto legislativo: la Ley de Inteligencia Artificial (IA). Este proyecto, que vino antes del boom de las herramientas de IA generativa, establece una serie de disposiciones para regular el uso y abuso de la IA. Según la misma, los riesgos de la IA se dividirán en cuatro categorías dependiendo el nivel de riesgo que puedan representar para los usuarios durante su uso.
Categorización de Riesgos y Prohibiciones
La categoría de riesgo más importante es la que se conoce como «inaceptable». En esta categoría entran todas las tecnologías de IA que deberían ser prohibidas debido a su potencial perjudicial. Esto incluye sistemas dedicados a la puntuación social, reconocimiento de emociones o aquellos diseñados para explotar vulnerabilidades humanas. Otros tipos de IA se clasifican en peligros altos, medios y bajos, dependiendo de su naturaleza y aplicaciones.
Los sistemas de alto riesgo son aquellos aplicados a infraestructuras críticas, como la educación o la capacitación vocacional, o aquellos que puedan influir en procesos democráticos.
Reacciones y Críticas
Aunque esta ley es un paso importante para la regulación de la IA, ha habido algunas críticas y controversias. Algunos países miembros de la UE, incluyendo Francia, Alemania e Italia, han abogado por la autorregulación en lugar de restricciones generales, argumentando que estas podrían sofocar la innovación y causar un retraso frente a otras potencias tecnológicas, como China y Estados Unidos.
Estos países lograron suavizar algunas de las restricciones en los sistemas de «alto riesgo», incluyendo dos nuevos niveles y algunas excepciones para tareas de seguridad policial. Sin embargo, la ley sigue siendo objeto de críticas por no abordar adecuadamente la cuestión de los datos utilizados para entrenar los modelos de IA. La Ley de IA no creó nuevas regulaciones en este aspecto, permitiendo a las empresas continuar recopilando información, siempre y cuando sigan las pautas del Reglamento General de Protección de Datos (GDPR).
