La inteligencia artificial ya no es una tecnología reservada para laboratorios o empresas tecnológicas. Actualmente interviene en decisiones relacionadas con créditos bancarios, contratación laboral, servicios públicos, seguridad, salud, educación e incluso en algunos sistemas de administración de justicia alrededor del mundo.
Esta realidad plantea una pregunta fundamental para el derecho contemporáneo: ¿puede un algoritmo decidir cuestiones que afectan derechos fundamentales de las personas?
Aunque la automatización promete eficiencia, rapidez y reducción de errores humanos, también genera importantes desafíos jurídicos relacionados con la transparencia, la igualdad, el debido proceso y la responsabilidad por decisiones automatizadas.
La expansión de las decisiones automatizadas
Cada vez más instituciones públicas y privadas utilizan sistemas de inteligencia artificial para analizar grandes volúmenes de datos y formular recomendaciones o decisiones.
Actualmente los algoritmos pueden intervenir en procesos como:
- Evaluación de solicitudes de crédito.
- Selección de candidatos para empleos.
- Detección de fraudes.
- Asignación de beneficios sociales.
- Análisis de riesgos.
- Predicción de comportamientos.
El problema surge cuando estas herramientas dejan de ser simples mecanismos de apoyo y comienzan a influir directamente en derechos y oportunidades de las personas.
La aparente neutralidad de los algoritmos
Uno de los argumentos más frecuentes a favor de la inteligencia artificial es su supuesta objetividad.
Sin embargo, los algoritmos no son completamente neutrales.
Los sistemas de inteligencia artificial aprenden a partir de datos suministrados por seres humanos. Si esos datos contienen errores, sesgos o desigualdades históricas, el sistema puede reproducirlos e incluso amplificarlos.
Por esta razón, una decisión automatizada puede terminar afectando desproporcionadamente a determinados grupos sociales sin que exista una intención discriminatoria explícita.
El problema de la opacidad algorítmica
Otro desafío importante es la llamada «caja negra» de los algoritmos.
En muchos casos, ni siquiera quienes utilizan estas herramientas comprenden completamente cómo se genera el resultado final.
Cuando una persona recibe una negativa para un préstamo, pierde un beneficio estatal o es clasificada como de alto riesgo por un sistema automatizado, surge una pregunta esencial:
¿Tiene derecho a conocer las razones de esa decisión?
Desde la perspectiva del Estado de Derecho, la respuesta debería ser afirmativa.
Las decisiones que afectan derechos no pueden descansar exclusivamente en procesos incomprensibles o imposibles de verificar.
Inteligencia artificial y debido proceso
El debido proceso constituye una de las garantías fundamentales reconocidas por la Constitución dominicana y los instrumentos internacionales de derechos humanos.
Este principio implica que toda persona tiene derecho a:
- Conocer las razones de una decisión que le afecta.
- Presentar pruebas.
- Contradecir la evidencia utilizada en su contra.
- Obtener una decisión motivada.
Cuando una decisión depende de un algoritmo opaco, el ejercicio efectivo de estos derechos puede verse seriamente comprometido.
¿Puede la inteligencia artificial sustituir a un juez?
La discusión adquiere especial relevancia en el ámbito judicial.
Diversos expertos han advertido que la inteligencia artificial puede ser una herramienta útil para organizar información, analizar documentos o identificar patrones, pero no debe sustituir la función jurisdiccional.
Juzgar implica mucho más que procesar datos.
Supone interpretar normas, ponderar principios constitucionales, valorar circunstancias humanas particulares y asumir responsabilidad institucional por la decisión adoptada.
Un algoritmo puede ofrecer información útil, pero carece de la capacidad jurídica y ética necesaria para asumir la función de impartir justicia.
Los riesgos para los derechos fundamentales
La utilización indiscriminada de sistemas automatizados podría afectar derechos fundamentales como:
- Igualdad y no discriminación.
- Debido proceso.
- Derecho de defensa.
- Protección de datos personales.
- Presunción de inocencia.
- Tutela judicial efectiva.
Por esta razón, diversos organismos internacionales han comenzado a promover principios de transparencia, supervisión humana y rendición de cuentas en el desarrollo de sistemas de inteligencia artificial.
La necesidad de regulación en República Dominicana
República Dominicana aún se encuentra en una etapa inicial de discusión sobre la regulación de la inteligencia artificial.
Sin embargo, el avance acelerado de estas tecnologías hace cada vez más urgente la creación de marcos normativos que permitan:
- Garantizar la transparencia algorítmica.
- Proteger los datos personales.
- Evitar decisiones discriminatorias.
- Establecer responsabilidades legales.
- Preservar el control humano sobre decisiones sensibles.
La regulación no debe verse como un obstáculo para la innovación, sino como una garantía para que el desarrollo tecnológico respete los principios fundamentales del orden constitucional.
La última decisión debe seguir siendo humana
La inteligencia artificial puede mejorar la eficiencia de las instituciones y facilitar la toma de decisiones complejas.
Sin embargo, cuando están en juego derechos fundamentales, la tecnología debe actuar como una herramienta de apoyo y no como la autoridad final.
En una sociedad democrática, los ciudadanos tienen derecho a que las decisiones que afectan su libertad, patrimonio, salud o acceso a servicios públicos sean adoptadas por autoridades identificables, responsables y sujetas al control jurídico.
Porque, al final, los algoritmos pueden procesar información, pero la responsabilidad de proteger los derechos fundamentales sigue correspondiendo a los seres humanos.
