Después de tres intensos días de negociaciones, la Comisión acoge con satisfacción el acuerdo político alcanzado entre el Parlamento Europeo y el Consejo sobre la Ley de Inteligencia Artificial (Ley AI), propuesto por la Comisión en abril de 2021, un acuerdo provisional que marca un hito en la regulación de la IA a nivel mundial. Esta histórica propuesta tiene como objetivo establecer normas armonizadas para garantizar la seguridad y el respeto a los derechos fundamentales en el uso de sistemas de IA en el mercado europeo.
En palabras de la presidenta de la Comisión Europea, Ursula von der Leyen, “el acuerdo de hoy centra la regulación en riesgos identificables, proporciona seguridad jurídica y abre el camino a la innovación en IA confiable. Al garantizar la seguridad y los derechos fundamentales de las personas y las empresas, la Ley apoyará el desarrollo, el despliegue y la adopción de la IA en la UE, centrados en las personas, transparentes y responsables”.
La Ley IA, que contiene unas nuevas normas aplicables de manera uniforme en todos los Estados miembros, propone un enfoque basado en el riesgo para regular la IA, donde las reglas se vuelven más estrictas a medida que aumenta el riesgo potencial de daño a la sociedad. Se clasifican los sistemas en categorías de riesgo mínimo, alto riesgo, riesgo inaceptable y riesgo de transparencia específico, estableciendo requisitos específicos para cada categoría:
Bajo riesgo: La mayoría de los sistemas de inteligencia artificial caen en la categoría de riesgo mínimo. Aplicaciones de bajo riesgo, como los sistemas de recomendación y los filtros de spam basados en IA, disfrutarán de ciertas libertades y exenciones, ya que representan un riesgo mínimo o nulo para los derechos y la seguridad de los ciudadanos. Sin embargo, las empresas pueden optar por seguir códigos de conducta adicionales de manera voluntaria para estos sistemas.
Alto riesgo: Los sistemas de inteligencia artificial identificados como de alto riesgo deben cumplir con requisitos rigurosos, incluyendo medidas de mitigación de riesgos, conjuntos de datos de alta calidad, registro de actividades, documentación detallada, claridad de la información para el usuario, supervisión humana y altos estándares de robustez, precisión y ciberseguridad. Ambientes regulativos de prueba facilitarán la innovación responsable y el desarrollo de sistemas de IA seguros.
Riesgo inaceptable: Se prohibirán los sistemas de IA que representen una amenaza clara para los derechos fundamentales de las personas. Esto abarca sistemas que manipulan el comportamiento humano para eludir el libre albedrío, como juguetes que fomentan comportamientos peligrosos en menores, sistemas de «puntuación social» gubernamentales o empresariales, y ciertas aplicaciones de vigilancia policial predictiva. Además, se prohíben algunos usos de sistemas biométricos, como el reconocimiento de emociones en el lugar de trabajo y la identificación biométrica remota en tiempo real con fines policiales en espacios públicos, con excepciones limitadas.
Riesgo de transparencia específico: Al utilizar sistemas de IA como chatbots, los usuarios deben ser conscientes de que interactúan con una máquina. Los deepfakes y otros contenidos generados por IA deben etiquetarse como tales, y los usuarios deben ser informados cuando se utilicen sistemas de categorización biométrica o reconocimiento de emociones. Además, los proveedores deben diseñar sistemas de manera que el contenido sintético esté marcado de forma legible y detectable como generado o manipulado artificialmente.
Penalizaciones
Para asegurar su correcto cumplimiento, se impondrán multas por violaciones de la Ley IA a las empresas que no se adhieran a las reglamentaciones. En este sentido, las multas oscilarían entre 35 millones de euros o el 7% de la facturación anual global (lo que sea mayor) por violaciones de aplicaciones de IA prohibidas, 15 millones de euros o el 3% por violaciones de otras obligaciones y 7,5 millones de euros o el 1,5% por proporcionar información incorrecta. Se prevén límites más proporcionados para las multas administrativas para las pymes y las empresas de nueva creación en caso de infracciones de la Ley de IA.
Entrada en vigor y próximos pasos
El acuerdo provisional establece que la Ley IA se aplicará dos años después de su entrada en vigor, con algunas excepciones: las prohibiciones entrarán en vigencia después de 6 meses, y las normas generales sobre IA se aplicarán después de 12 meses.
Para cubrir el período antes de que la Ley sea de aplicación general, la Comisión lanzará un Pacto sobre IA, invitando a desarrolladores de IA de Europa y de todo el mundo a comprometerse voluntariamente a cumplir con las obligaciones clave antes de los plazos legales. Además, la Unión Europea continuará trabajando en foros internacionales como el G7, la OCDE, el Consejo de Europa, el G20 y las Naciones Unidas para promover normas sobre una IA confiable.
Se espera que, tras la firma del acuerdo provisional, se continúe trabajando para finalizar los detalles del nuevo reglamento, que luego será presentado a los representantes de los Estados miembros para su aprobación.
La Ley de Inteligencia Artificial de la Unión Europea representa un paso crucial hacia la regulación global de la IA, estableciendo normas que buscan garantizar la seguridad, el respeto a los derechos fundamentales y la promoción de la innovación en este campo. Su implementación podría marcar un precedente para futuras regulaciones en todo el mundo, consolidando el liderazgo europeo en la formulación de políticas tecnológicas.
Fuente: https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473
La presente publicación no constituye asesoramiento jurídico.
_____
¿Cómo podemos ayudarte desde LAW4DIGITAL?
En LAW4DIGITAL somos abogados especializados en negocios digitales. Prestamos asesoramiento legal integral a empresas digitales. Te ayudamos con asesoramiento legal online.
Os iremos actualizando sobre negocios digitales. En todo caso, podéis contactarnos mediante correo dirigido a hola@law4digital.com, llamando al (+34) 931 444 820 o rellenando nuestro formulario en law4digital.com.
¡Os esperamos en el próximo post!
Equipo de Law4Digital.