El avance vertiginoso de la inteligencia artificial (IA) plantea grandes oportunidades, pero también desafíos éticos, sociales y jurídicos. Frente a estos riesgos, el Consejo de Europa adoptó en mayo de 2024 el Convenio Marco sobre la Inteligencia Artificial, los Derechos Humanos, la Democracia y el Estado de Derecho, convirtiéndose en el primer instrumento jurídicamente vinculante a nivel internacional para regular el desarrollo y uso responsable de los sistemas de IA.
Este tratado sienta las bases para un modelo de gobernanza internacional basado en derechos, que busca prevenir abusos y garantizar que la IA sirva al ser humano y no lo sustituya o margine.
Alcance del convenio
El Convenio fue adoptado por el Consejo de Europa y está abierto a países de todo el mundo, no solo a los miembros de la organización. Su objetivo es:
- Asegurar que el diseño, desarrollo y uso de sistemas de IA respeten los derechos humanos, las libertades fundamentales, la democracia y el Estado de derecho.
- Establecer principios y obligaciones vinculantes para los Estados parte, independientemente del sector en el que se aplique la IA (justicia, salud, seguridad, servicios públicos, educación, etc.).
Principios clave del convenio
Entre los pilares fundamentales del Convenio Marco destacan:
1. Legalidad y respeto a los derechos humanos
Los sistemas de IA deben cumplir con las normas constitucionales, convencionales e internacionales vigentes. Su uso no puede justificar la restricción indebida de derechos como la privacidad, la igualdad, la libertad de expresión o el debido proceso.
2. Transparencia y explicabilidad
El tratado obliga a que los sistemas de IA sean comprensibles y auditables, especialmente en decisiones automatizadas que afectan a personas. Los Estados deben garantizar mecanismos de rendición de cuentas.
3. Responsabilidad y supervisión humana
Los usos de IA deben prever siempre la intervención humana significativa, así como regímenes de responsabilidad clara frente a daños o decisiones erróneas causadas por algoritmos.
4. No discriminación y equidad
Se prohíbe el uso de IA que reproduzca o agrave discriminaciones por género, raza, etnia, origen, edad, discapacidad u orientación sexual. También se exige mitigar sesgos algorítmicos.
5. Acceso a remedios
Toda persona afectada por una decisión basada en IA debe tener acceso efectivo a recursos legales, incluyendo revisión por una autoridad competente.
Obligaciones de los Estados
Los Estados parte deberán:
- Adoptar marcos regulatorios nacionales compatibles con el tratado.
- Establecer evaluaciones de impacto de derechos humanos antes de implementar sistemas de IA sensibles.
- Crear o fortalecer autoridades independientes de supervisión tecnológica.
- Asegurar la participación pública y consulta democrática en el desarrollo de políticas de IA.
- Promover la educación digital y la alfabetización algorítmica.
Aplicación en Latinoamérica y Caribe
Aunque el convenio nace en Europa, es de aplicación universal. Su apertura a terceros países crea la posibilidad para que Estados de América Latina y el Caribe, incluyendo República Dominicana, se adhieran al mismo y armonicen sus políticas tecnológicas con los estándares de derechos humanos.
En particular, puede orientar:
- El uso ético de la IA en procesos judiciales y administrativos.
- La prevención del vigilantismo estatal masivo.
- La regulación del reclutamiento algorítmico y la educación asistida por IA.
- La protección de datos en contextos con tecnologías biométricas.
Un instrumento complementario
El Convenio Marco no busca reemplazar tratados de derechos humanos como la Convención Americana o el Pacto Internacional de Derechos Civiles y Políticos, sino complementarlos ante los nuevos desafíos que plantea la tecnología. La inteligencia artificial, como fenómeno transversal, requiere enfoques intersectoriales y multilaterales
