Inteligencia artificial, su futuro marco legal dentro de la UE

"¿Pueden pensar las máquinas?" se preguntaba Alan Tourig en su manifiesto “maquinaria e inteligencia informática” en 1950. Desde entonces, las mejoras en los grandes volúmenes de datos, los algoritmos y la potencia de cálculo han desarrollado significativamente la Inteligencia Artificial (IA) la cual, a través de avanzados algoritmos y potentes ordenadores, llega a simular la lógica humana. La IA realiza tareas que, hasta ahora, sólo podían cometer las personas: reconocer, interpretar y tomar determinadas decisiones.

La propuesta de Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial, “LIA”) tiene como objetivo establecer un marco jurídico uniforme en lo que respecta al desarrollo, la comercialización y la utilización de la IA dentro la Unión Europea (UE).

El Consejo Europeo ha adoptado su posición sobre esta propuesta, a través del Consejo de Transporte, Telecomunicaciones y Energía, en su sesión celebrada el 6 de diciembre de 2022, constituyendo la base para los próximos preparativos de las negociaciones con el Parlamento Europeo. El Reglamento será publicado y entrará en vigor en el transcurso del año 2023.

De aplicación directa en toda la UE, repercutirá en numerosos sectores de la economía española y, en particular, el sector turístico. Un sector en el cual la IA afectará el procesamiento de los datos (personalización y recomendación), los sistemas de predicción y previsión, la optimización de las operaciones, la asignación de los recursos o la personalización de la prestación de servicios. Al igual que el Reglamento General de Protección de Datos (RGPD), la LIA podría convertirse en una norma global.

El reglamento persigue los siguientes objetivos específicos, propuestos inicialmente por la Comisión Europea:

- garantizar que los sistemas de IA introducidos y usados en el mercado de la UE sean seguros y respeten la legislación vigente en materia de derechos fundamentales y valores de la Unión;

- garantizar la seguridad jurídica para facilitar la inversión e innovación en IA;

- mejorar la gobernanza y la aplicación efectiva de la legislación vigente en materia de derechos fundamentales y los requisitos de seguridad aplicables a los sistemas de IA;

- facilitar el desarrollo de un mercado único para hacer un uso legal, seguro y fiable de las aplicaciones de IA y evitar la fragmentación del mercado.

El reglamento clasifica las aplicaciones de IA en función de su riesgo y las regula en consecuencia. Los cuatro niveles de riesgo son los siguientes:

- El nivel superior comprende los usos que presentan un riesgo inaceptable para la seguridad, los medios de vida y los derechos de las personas (sólo autorizados por ley con fines de seguridad nacional).

- El nivel de riesgo alto requeriría una evaluación obligatoria de la conformidad, realizada como autoevaluación por el proveedor, antes de su comercialización (acceso a servicios públicos, aplicación de la ley, etc.)

- El nivel de riesgo medio o limitado requeriría una obligación de transparencia (suplantación de personalidad, chatbots, reconocimiento de emociones, etc.)

- El nivel de riesgo mínimo no requerirá obligación alguna.

La propuesta también impondría prohibiciones a determinados tipos de aplicaciones, a saber, el reconocimiento biométrico a distancia, las aplicaciones que manipulan subliminalmente a las personas, las aplicaciones que explotan vulnerabilidades de determinados grupos de forma perjudicial y la evaluación social. Para las tres primeras se propone un régimen de autorización en el contexto de la aplicación de la ley, pero la evaluación social se prohibiría por completo.

La ley también propone la introducción de una Junta Europea de Inteligencia Artificial que fomentará la cooperación nacional y garantizará que se respete la regulación.

Marc Ripoll

Abogado de MONLEX

mripoll@monlexabogados.es