top of page
  • Foto del escritorEMPS

La Ley de lnteligencia Artificial, cada vez más cerca


El pasado diciembre el Parlamento Europeo alcanzó un acuerdo provisional con el Consejo sobre el texto de la nueva ley de la Inteligencia Artificial (IA), que será pionera en el mundo.


La prioridad del Parlamento es garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. Además, los sistemas de IA deberían ser supervisados por personas y no gobernados por una automatización.


Las nuevas normas establecen obligaciones para proveedores y usuarios en función del nivel de riesgo de la IA utilizada. Se han determinado tres niveles de riesgo: inaceptable, alto y limitado.


En el primer grupo se encuentran los sistemas de IA considerados una amenaza para las personas. Incluyen aquellos orientados a la manipulación cognitiva conductual de personas o grupos vulnerables específicos (niños); a los que elaboran una "puntuación social" para clasificar a las personas según su comportamiento, estatus socioeconómico o características personales; la identificación biométrica y categorización de personas y los sistemas de identificación biométrica remota y en tiempo real, como el reconocimiento facial. Estas IA serán prohibidas.


Como de alto riesgo se categorizan los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales. Ahí encontramos IA que se empleen en productos sujetos a la legislación de seguridad de la UE (juguetes, aviación, automóviles, dispositivos médicos etc.) así como la IA generativa, como la célebre aplicación ChatGPT. Esta última tendrá que cumplir con requisitos de transparencia, es decir, revelar que el contenido es generado por IA y publicar resúmenes de los datos protegidos por derechos de autor empleados en el entrenamiento de la IA. Deberá además evitar activamente la generación de contenidos ilegales.


Por último, los sistemas de IA de riesgo limitado deben cumplir con requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones informadas. Los usuarios deben ser conscientes cuando interactúan con una IA. Esto incluye sistemas de inteligencia artificial que generan o manipulan contenidos de imágenes, audio o vídeo, por ejemplo, deepfakes.


El texto acordado ahora tendrá que ser adoptado formalmente tanto por el Parlamento como por el Consejo para convertirse en ley de la UE. Esta ley espera convertirse en un marco pionero e influyente a nivel mundial en este campo que tan prometedor resulta, pero que tantos retos presenta tanto los derechos de privacidad como a los de propiedad intelectual.

17 visualizaciones0 comentarios

Entradas Recientes

Ver todo

Comments


bottom of page