La inteligencia artificial está transformando la manera en que trabajamos, consumimos información, tomamos decisiones e interactuamos con empresas y entidades públicas. Sin embargo, a medida que estas herramientas adquieren mayor autonomía, surge una pregunta cada vez más relevante desde el punto de vista jurídico: ¿quién responde cuando una inteligencia artificial comete un error y causa un daño?
Imagine que un sistema de inteligencia artificial rechaza injustamente una solicitud de crédito, realiza un diagnóstico médico equivocado, provoca pérdidas económicas en una empresa o genera contenido falso que afecta la reputación de una persona. En estos casos, ¿la responsabilidad recae sobre el desarrollador, la empresa que utiliza la tecnología, el usuario o nadie en particular?
La respuesta constituye uno de los mayores retos del derecho en el siglo XXI.
La inteligencia artificial no tiene personalidad jurídica
Desde una perspectiva legal, la inteligencia artificial no es una persona ni posee personalidad jurídica propia.
A diferencia de una empresa o una persona física, un algoritmo no puede ser demandado, condenado o responsabilizado por los daños que ocasione.
Por esta razón, cuando una herramienta de inteligencia artificial produce un perjuicio, el ordenamiento jurídico debe identificar a una persona física o jurídica responsable de su diseño, implementación, supervisión o utilización.
¿Qué tipos de daños puede causar una inteligencia artificial?
Los riesgos asociados a la inteligencia artificial son diversos y continúan evolucionando.
Entre los más comunes se encuentran:
- Errores en diagnósticos médicos.
- Negativas injustificadas de créditos o seguros.
- Discriminación algorítmica.
- Accidentes causados por sistemas automatizados.
- Difusión de información falsa.
- Violaciones a la privacidad.
- Uso indebido de datos personales.
- Daños reputacionales derivados de contenido generado automáticamente.
A medida que estas tecnologías se integran en actividades sensibles, aumenta la necesidad de establecer mecanismos claros de responsabilidad.
La responsabilidad del desarrollador
Una primera posibilidad consiste en atribuir responsabilidad a la empresa o persona que desarrolló el sistema de inteligencia artificial.
Esto podría ocurrir cuando el daño sea consecuencia de:
- Defectos de programación.
- Errores de diseño.
- Fallas de seguridad.
- Entrenamiento inadecuado del sistema.
- Ausencia de controles mínimos de calidad.
En estos casos, la situación podría asemejarse a la responsabilidad por productos defectuosos, ampliamente reconocida en numerosos sistemas jurídicos.
La responsabilidad de quien utiliza la inteligencia artificial
No siempre el problema proviene del diseño del sistema.
En ocasiones el daño surge porque una empresa o institución utiliza incorrectamente la herramienta o delega decisiones que requieren supervisión humana.
Por ejemplo:
- Una empresa que despide empleados basándose exclusivamente en una evaluación automatizada.
- Un banco que niega créditos sin verificar los resultados generados por el algoritmo.
- Un hospital que adopta diagnósticos automáticos sin revisión médica.
En estos supuestos, la responsabilidad podría recaer sobre quien tomó la decisión de utilizar la tecnología sin los controles adecuados.
¿Puede existir responsabilidad compartida?
En muchos casos la respuesta probablemente será afirmativa.
Los daños causados por inteligencia artificial pueden involucrar múltiples actores:
- Desarrolladores.
- Proveedores tecnológicos.
- Empresas usuarias.
- Operadores humanos.
- Instituciones públicas.
La determinación de responsabilidades dependerá de las circunstancias concretas de cada caso y del grado de participación de cada interviniente.
Inteligencia artificial y protección de datos personales
Uno de los ámbitos más sensibles es el tratamiento de datos personales.
Los sistemas de inteligencia artificial suelen operar mediante el análisis masivo de información sobre individuos.
Si una organización recopila, procesa o utiliza datos de forma ilegal o sin las garantías adecuadas, podría enfrentar responsabilidades civiles, administrativas e incluso penales dependiendo de la naturaleza de la infracción.
La protección de la privacidad se ha convertido en uno de los principales desafíos regulatorios de la era digital.
El problema de los algoritmos discriminatorios
Diversos estudios internacionales han demostrado que algunos sistemas automatizados pueden reproducir sesgos presentes en los datos utilizados para su entrenamiento.
Esto puede provocar decisiones discriminatorias relacionadas con:
- Empleo.
- Créditos.
- Vivienda.
- Educación.
- Servicios públicos.
Cuando una persona resulta perjudicada por este tipo de decisiones, surge la necesidad de determinar quién debe responder por la discriminación generada por el algoritmo.
¿Qué ocurre en República Dominicana?
Actualmente, República Dominicana no cuenta con una legislación específica que regule integralmente la responsabilidad derivada de la inteligencia artificial.
Sin embargo, ello no significa que los daños causados por estas tecnologías queden sin consecuencias jurídicas.
Dependiendo de las circunstancias, podrían aplicarse normas relacionadas con:
- Responsabilidad civil.
- Protección al consumidor.
- Protección de datos personales.
- Responsabilidad contractual.
- Daños y perjuicios.
- Derechos fundamentales.
Los principios generales del derecho continúan siendo plenamente aplicables, incluso frente a tecnologías emergentes.
La tendencia internacional
A nivel global, diversas jurisdicciones trabajan en marcos regulatorios destinados a garantizar un uso seguro y responsable de la inteligencia artificial.
Las principales tendencias incluyen:
- Transparencia algorítmica.
- Supervisión humana obligatoria.
- Evaluaciones de riesgo.
- Auditorías tecnológicas.
- Responsabilidad de desarrolladores y operadores.
- Protección reforzada de derechos fundamentales.
El objetivo es asegurar que la innovación tecnológica no se produzca a costa de la seguridad jurídica y la protección de las personas.
La supervisión humana sigue siendo indispensable
Uno de los principios más aceptados actualmente es que las decisiones que afectan significativamente derechos o intereses de las personas no deberían depender exclusivamente de sistemas automatizados.
La intervención humana permite:
- Detectar errores.
- Corregir sesgos.
- Evaluar circunstancias particulares.
- Garantizar el debido proceso.
- Asumir responsabilidad por las decisiones adoptadas.
La inteligencia artificial puede asistir en la toma de decisiones, pero la responsabilidad jurídica continúa siendo esencialmente humana.
Un reto para el derecho del futuro
La expansión de la inteligencia artificial obliga a replantear conceptos tradicionales de responsabilidad civil, empresarial y administrativa. Aunque la tecnología evoluciona rápidamente, los principios fundamentales del derecho mantienen plena vigencia: quien causa un daño injustificado debe responder por sus consecuencias.
El verdadero desafío para los próximos años será encontrar un equilibrio entre la promoción de la innovación y la protección efectiva de los derechos de las personas en un entorno cada vez más automatizado.
