La vicepresidenta de Valores y Transparencia de la Comisión Europea, Věra Jourová, firmó el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho en nombre de la Unión Europea. Esto se hizo durante la conferencia informal de Ministros de Justicia de los Estados miembros del Consejo de Europa en Vilna, Lituania. Esta Convención es el primer instrumento internacional jurídicamente vinculante sobre inteligencia artificial. Es plenamente compatible con el Derecho de la Unión en general y con la Ley de IA de la UEen particular, que es el primer Reglamento global sobre IA a escala mundial.
La UE, representada por la Comisión y con el apoyo de los Estados miembros, participó muy activamente en las negociaciones de este Convenio. El convenio es coherente con la Ley de IA de la UE, así como con otras leyes de la Unión Europea, e incluye una serie de conceptos clave de la Ley de IA, como:
- un enfoque en la IA centrada en el ser humano, coherente con los derechos humanos, la democracia y el Estado de Derecho
- un enfoque basado en el riesgo
- principios clave para una IA fiable (por ejemplo, transparencia, solidez, seguridad, gobernanza y protección de datos)
- transparencia para el contenido generado por la IA y en las interacciones con los sistemas de IA
- refuerzo de la documentación, la rendición de cuentas y las vías de recurso
- apoyo a la innovación segura a través de espacios controlados de pruebas
- obligaciones de gestión de riesgos
- Obligaciones de documentación
- mecanismos de supervisión para la supervisión de las actividades de IA
Esto es vital para proporcionar un marco eficaz a nivel internacional para abordar los riesgos que plantea la IA para los derechos humanos, la democracia y el Estado de Derecho.
Como tal, el Convenio establece un enfoque común para garantizar que las actividades dentro del ciclo de vida de los sistemas de IA sean compatibles con los derechos humanos, la democracia y el Estado de Derecho, permitiendo al mismo tiempo la innovación y la confianza. El Convenio abarca los sistemas de IA que puedan interferir en los derechos humanos, la democracia y el Estado de Derecho antes mencionados, siguiendo un enfoque diferenciado y basado en el riesgo.
Los principios y las obligaciones previstos en el Convenio se aplicarán a las actividades dentro del ciclo de vida de los sistemas de IA emprendidas por autoridades públicas o agentes privados que actúen en su nombre. Por lo que se refiere a los agentes del sector privado, si bien aún deben abordar los riesgos y las repercusiones de los sistemas de IA de manera acorde con los objetivos del Convenio, tienen la opción de aplicar directamente las obligaciones del Convenio o de aplicar medidas alternativas adecuadas.
El Convenio incluye exenciones para la investigación y el desarrollo, así como para la seguridad nacional. Está abierto a la adhesión de los miembros del Consejo de Europa, la UE y otros terceros países de todo el mundo.
El Convenio se aplicará en la UE mediante la Ley de IA, que contiene normas generalmente plenamente armonizadas para la introducción en el mercado, la puesta en servicio y el uso de sistemas de IA, complementadas por otro acervo pertinente de la Unión, cuando proceda.
Próximos pasos
Esta firma expresa la intención de la UE de convertirse en Parte en el Convenio. A continuación, la Comisión Europea preparará una propuesta de decisión del Consejo para celebrar el Convenio. El Parlamento Europeo también debe dar su aprobación.
Antecedentes
Las negociaciones sobre la Convención comenzaron en septiembre de 2022 bajo los auspicios del Comité de IA (CAI) establecido por el Consejo de Europa en Estrasburgo. Las negociaciones incluyeron a la Comisión Europea negociando en nombre de la UE, otros Estados miembros del Consejo de Europa, la Santa Sede, los Estados Unidos, Canadá, México, Japón, Israel, Australia, Argentina, Perú, Uruguay y Costa Rica. La contribución de 68 representantes internacionales de la sociedad civil, el mundo académico, la industria y otras organizaciones internacionales garantizó un enfoque integral e inclusivo.
