La Unión Europea encabeza la carrera para regular la inteligencia artificial (IA) con el fin de garantizar mejores condiciones de desarrollo y uso de esta tecnología por parte de empresas, particulares y entidades públicas. Los beneficios y aplicaciones de la IA son muchos, desde una mejor asistencia al cliente, fabricación más eficiente, hasta un transporte más limpio y seguro. Sin embargo, su uso también puede entrañar ciertos riegos, en especial para los usuarios que introduzcan en ellas datos de carácter personal. Por ello, la UE propone que los sistemas de IA que puedan utilizarse en diferentes aplicaciones deben analizarse y clasificarse según el riesgo que comporte para los usuarios. Estos distintos niveles de peligro implicarán una mayor o menor regulación.

En este contexto, el Reglamento de Inteligencia Artificial de la UE pretende «promover la adopción de una inteligencia artificial fiable y centrada en el ser humano, garantizando un elevado nivel de protección de la salud, la seguridad, los derechos fundamentales, la democracia y el Estado de derecho, así como del medio ambiente, frente a sus efectos nocivos».

La misma semana de aprobación en el Parlamento de la versión preliminar de este reglamento, cientos de investigadores, científicos y varios líderes empresariales alzaron su voz contra la IA, advirtiendo en la Cumbre CEO de Yale que esta tecnología supone un riesgo de extinción para la humanidad de aquí a cinco o diez años.

Seguridad y transparencia

El objetivo básico de la Unión Europea es garantizar que los sistemas de IA sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Además, proponen que estén supervisados por personas y no por procesos automatizados.

Diferentes niveles de riesgo

La nueva normativa establece obligaciones para proveedores y usuarios en función del nivel de riesgo de la IA. Los riesgos establecidos son:

  • Riesgo inaceptable/prohibidos: aquellos sistemas de IA que supongan una amenaza para las personas, por lo que deberán ser prohibidos. Estos incluyen: manipulación cognitiva del comportamiento de personas o grupos vulnerables (ej: juguetes activados por voz que fomenten actitudes peligrosas por parte de los niños), sistemas de identificación biométrica en tiempo real y a distancia en espacios públicos, como el reconocimiento facial, o la clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales.
  • Alto riesgo: aquellos sistemas de IA que afecten negativamente la seguridad o derechos fundamentales. Estos se dividirán en dos categorías:
  • Los sistemas de IA que se utilicen en productos sujetos a la legislación de la UE sobre seguridad de los productos. Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores.
  • Los sistemas de IA pertenecientes a una serie de ámbitos específicos que deberán registrarse en una base de datos de la UE:
  1. identificación biométrica y categorización de personas físicas
  2. gestión y explotación de infraestructuras críticas
  3. educación y formación profesional
  4. empleo, gestión de trabajadores y acceso al autoempleo
  5. acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas
  6. aplicación de la ley
  7. gestión de la migración, el asilo y el control de fronteras
  8. asistencia en la interpretación jurídica y aplicación de la ley
  • IA generativa: la IA generativa, como el ChatGPT, debe cumplir una serie de requisitos de transparencia como el revelar el contenido que ha sido generado por IA, diseñar el modelo para evitar que genere contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor.
  • Riesgo limitado: los sistemas de IA con riesgo limitado deberán cumplir unos requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con conocimiento de causa (ej.: filtros de spam).
  • Riesgo bajo o mínimo: Las IA con riesgos bajo o mínimo no tendrán que cumplir obligaciones legales adicionales.

El pasado 14 de junio, el Parlamento Europeo acordó una versión preliminar del reglamento y, que ahora se negociará con el Consejo de la Unión Europea y los Estados miembro de la UE, antes de convertirse en normativa.

Uno de los temas más controvertidos previamente a su exposición en el Parlamento, surgió en torno a la identificación biométrica remota, es decir, la posibilidad de seguir un rostro entre la multitud en un espacio público. Finalmente, se ha mantenido la prohibición, tal y como estaba en el borrador.