El 13 de marzo el Parlamento Europeo aprobó la Ley de Inteligencia Artificial, pionera en regular y normar el diseño, desarrollo y difusión social de la Inteligencia Artificial. La ley busca establecer un marco regulatorio armonizado para promover una IA confiable y al mismo tiempo garantizar el respeto de los derechos y valores fundamentales.
La ley establece obligaciones para los sistemas IA en función de sus riesgos potenciales y nivel de impacto, en la seguridad, los derechos fundamentales y los valores sociales. A mayor riesgo, mayor es la regulación. Las categorías de riesgo son:
- Mínimo (por ej. Videojuegos, filtro de spam)
- Limitado (por ej. Chatbox, Deep Fake)
- Alto (uso de IA en educación, transporte, salud, seguridad y aplicación de la ley)
- Inaceptable (por ej. puntuación social)
Algunos usos de la IA quedarán prohibidos este año
La ley impone restricciones a los casos de uso de la IA que suponen un alto riesgo para los derechos fundamentales de las personas, como la sanidad, la educación y la vigilancia policial. Estos usos quedarán prohibidos a finales de año.
También prohíbe algunos usos que se consideran un «riesgo inaceptable». Entre ellos se incluyen algunos casos de uso bastante extravagantes y ambiguos, como los sistemas de IA que despliegan «técnicas subliminales, manipuladoras o engañosas para distorsionar el comportamiento y dificultar la toma de decisiones informadas», o explotan a personas vulnerables. La ley de IA también prohíbe los sistemas que infieren características sensibles, como las opiniones políticas o la orientación sexual de alguien, y el uso de software de reconocimiento facial en tiempo real en lugares públicos. También se prohíbe la creación de bases de datos de reconocimiento facial a través de Internet, como hace Clearview AI.
Sin embargo, hay algunas salvedades importantes. Las fuerzas del orden podrán seguir utilizando datos biométricos sensibles y programas de reconocimiento facial en lugares públicos para luchar contra delitos graves, como el terrorismo o los secuestros. Algunas organizaciones de derechos civiles, como la organización de derechos digitales Access Now, han calificado la Ley de Inteligencia Artificial de «fracaso para los derechos humanos» porque no prohíbe rotundamente casos controvertidos de uso de la IA, como el reconocimiento facial. Y aunque las empresas y las escuelas no pueden utilizar software que pretenda reconocer las emociones de las personas, sí pueden hacerlo si es por razones médicas o de seguridad.
Será más obvio cuándo estás interactuando con un sistema de IA
Las empresas tecnológicas estarán obligadas a etiquetar los deepfakes y el contenido generado por IA y notificar a las personas cuando estén interactuando con un chatbot u otro sistema de IA. La ley de IA también exigirá a las empresas que desarrollen medios generados por IA de forma que sea posible detectarlos. Se trata de una noticia prometedora en la lucha contra la desinformación, y dará un gran impulso a la investigación en torno a las marcas de agua y la procedencia de los contenidos.
Sin embargo, todo esto es más fácil de decir que de hacer, y la investigación va muy por detrás de lo que exige la normativa. Las marcas de agua siguen siendo una tecnología experimental y fácil de manipular. Sigue siendo difícil detectar con fiabilidad los contenidos generados por inteligencia artificial. Algunos esfuerzos son prometedores, como el C2PA, un protocolo de internet de código abierto, pero es necesario trabajar mucho más para que las técnicas de procedencia sean fiables y para crear una norma que abarque a todo el sector.
Los ciudadanos pueden denunciar si han sido perjudicados por una IA
La Ley de Inteligencia Artificial creará una nueva Oficina Europea de Inteligencia Artificial para coordinar el cumplimiento, la aplicación y la ejecución (y están contratando personal). Gracias a la ley de IA, los ciudadanos de la UE podrán presentar quejas sobre los sistemas de IA cuando sospechen que han sido perjudicados por uno de ellos, y podrán recibir explicaciones sobre por qué los sistemas de IA tomaron las decisiones que tomaron. Es un primer paso importante para dar a los ciudadanos más capacidad de decisión en un mundo cada vez más automatizado. Sin embargo, esto requerirá que los ciudadanos tengan un nivel decente de conocimientos sobre IA y sean conscientes de cómo se producen los daños algorítmicos. Para la mayoría de la gente, estos conceptos siguen siendo muy extraños y abstractos.
Las empresas de IA tendrán que ser más transparentes
La mayoría de los usos de la IA no requerirán el cumplimiento de la ley de IA. Sólo las empresas de IA que desarrollen tecnologías en sectores de «alto riesgo», como infraestructuras críticas o sanidad, tendrán nuevas obligaciones cuando la ley entre plenamente en vigor dentro de tres años. Entre ellas figuran mejorar la gobernanza de los datos, garantizar la supervisión humana y evaluar cómo afectarán estos sistemas a los derechos de las personas.
Las empresas de IA que desarrollen «modelos de IA de propósito general», como modelos lingüísticos, también tendrán que crear y conservar documentación técnica que muestre cómo han construido el modelo, cómo respetan la ley de derechos de autor y publicar un resumen público de los datos de entrenamiento que se han utilizado para entrenar el modelo de IA.
Se trata de un gran cambio con respecto al statu quo actual, en el que las empresas tecnológicas mantienen en secreto los datos utilizados en sus modelos, y exigirá una revisión de las desordenadas prácticas de gestión de datos del sector de la IA.
Las empresas con los modelos de IA más potentes, como GPT-4 y Gemini, se enfrentarán a requisitos más onerosos, como tener que realizar evaluaciones de los modelos y de los riesgos para mitigarlos, garantizar la protección de la ciberseguridad e informar de cualquier incidente en el que haya fallado el sistema de IA. Las empresas que incumplan la normativa se enfrentarán a multas enormes o sus productos podrían ser prohibidos en la UE.
Fuentes:
Heikkilä, Melissa. “La ley de la IA de la UE en cuatro claves” en MIT Technology Review. 25 de abril de 2024. https://www.technologyreview.es/s/16267/la-ley-de-la-ia-de-la-ue-en-cuatro-claves
“Aprobada Ley Europea de Inteligencia Artificial” en Biblioteca del Congreso Nacional de Chile. 15 de mayo de 2024 https://www.bcn.cl/delibera/pagina?tipo=1&id=aprobada-ley-europea-de-inteligencia-artificial.html
