Desafíos del derecho en la era de la inteligencia artificial y la automatización jurídica
Challenges of law in the era of artificial intelligence and legal automation
Ullauri Ocampo, Ivan Andy
1. Ministerio Público-Fiscalía de la Nación, Lima, Perú.
a. Maestro en Derecho Penal y Procesal Penal.
ORCID: https://orcid.org/0000-0001-6365-6590
Contribución de los autores
IUO: recojo, análisis e interpretación de datos para el desarrollo y diseño del trabajo; redacción del trabajo y su revisión crítica al contenido intelectual importante; aprobación final de la versión que se publicará.
Fuentes de financiamiento
La presente investigación fue autofinanciada.
Conflictos de interés
El autor declara no tener conflicto de interés.
Citar como: Ullauri Ocampo, I. A. (2025). Desafíos del derecho en la era de la inteligencia artificial y la automatización jurídica. Revista jurídica peruana Desafíos en Derecho, 3(1). https://doi.org/10.37711/RJPDD.2026.3.1.1
Recibido: 22-10-25Aprobado: 26-12-25
Publicado: 23-01-26
RESUMEN
Objetivo. La investigación
abordó las dificultades legales y éticas que genera la
introducción de la inteligencia artificial (IA) en la
práctica legal, partiendo del estudio del sesgo
algorítmico, la opacidad y la deshumanización del proceso
judicial. Metodología. Se optó por una
estrategia cualitativa con diseño exploratorio y
fenomenológico, sustentada en las entrevistas semiestructuradas
a jueces, abogados, académicos y expertos en IA, más el
estudio de los documentos normativos y académicos. Para el
trabajo de los datos, se aplicó la codificación inductiva
en Atlas.ti y se validó mediante triangulación. Resultados. Los
resultados identifican tres problemas relevantes: el sesgo
algorítmico, con la posibilidad de reproducir desigualdades; el
déficit de transparencia, que dificulta comprender y cuestionar
decisiones automatizadas; y la deshumanización, que quita
empatía en los procesos sensibles. Los participantes enfatizaron
también la necesidad de tener un marco normativo
específico que garantice que se cumplan la responsabilidad, la
transparencia y la protección de los derechos en la
utilización de la IA en el derecho. Conclusiones.
La principal conclusión mantiene que la IA se debe ver como un
instrumento auxiliar, no como un sustituto de la actividad
jurídica, generando eficiencias y accesibilidad, pero sin
menoscabar los valores humanos minados que asientan la justicia.
Palabras clave: inteligencia artificial; derecho; sesgo algorítmico; transparencia.
ABSTRACT
Objective. The research targeted the legal and ethical difficulties that generates the introduction of artificial intelligence (AI) into legal practice, starting from the study of algorithmic bias, opacity, and the dehumanization of the judicial process. Methodology. A qualitative exploratory and phenomenological strategy was adopted, supported by semi-structured interviews with judges, lawyers, academics, and AI experts, along with the study of legal and academic documents. For data processing inductive coding was applied in Atlas.ti and validated through triangulation. Results. The results identified three relevant problems: algorithmic bias, with the possibility to reproduce inequalities; a lack of transparency, which makes it difficult to understand and challenge automated decisions; and dehumanization, which reduces empathy in sensitive proceedings. Participants also emphasized the need to have a specific regulatory framework that ensures accountability, transparency, and the protection of rights in the use of AI in the legal field. Conclusions. The main conclusion holds that artificial intelligence should be viewed as an auxiliary tool rather than a replacement for legal activity, generating efficiency and accessibility, but without undermining the fundamental human values that underpin justice.
Keywords: artificial intelligence ; law, ; algorithmic bias, ; transparency.
Introducción
Recientemente, la inteligencia artificial (IA) ha comenzado a generar cambios en los diferentes sectores en los que se aplica, y el sector del derecho no ha sido una excepción (Hernández Giménez, 2019). Desde la automatización de procesos como la redacción de contratos hasta la utilización de sistemas predictivos para la toma de decisiones judiciales, esta nueva tecnología está transformando las prácticas tradicionales del derecho (Parra Sepúlveda y Concha Machuca, 2021). Sin embargo, este avance tecnológico también encierra un conjunto de problemas éticos, jurídicos y operativos que tienden a estimular una atención particularizada en relación con el ámbito de la equidad, la justicia y los derechos humanos de las personas.
Al mismo tiempo, es cierto que la inteligencia artificial plantea importantes retos jurídicos y éticos, pero también da lugar a oportunidades para hacer más eficiente el sistema y alcanzar una mayor justicia en el ámbito del derecho (Crespo-Berti, 2023; Granero, 2020). Su capacidad para analizar enormes cantidades de datos e incluso realizar pronósticos le confiere cierto potencial disruptivo respecto al sistema judicial, dado que podría facilitar el proceso de tomar una decisión o, incluso, apoyarlo (Aguilar Cabrera, 2024). Finalmente, la inteligencia artificial ha llegado para quedarse e irse incorporando poco a poco a nuestra vida cotidiana, lo que obliga al derecho a pensar y reflexionar sobre el papel que deberían jugar estas tecnologías, así como su posible regulación desde el marco del derecho actual (Santome-Sánchez, 2024).
La implementación de la IA en el campo del derecho, a pesar de sus manifiestos beneficios en cuanto a la eficiencia, plantea una cuestión jurídica central: ¿de qué forma lograr que las decisiones automáticas sean justas, transparentes y tengan en cuenta los valores o principios fundamentales del derecho? En este trabajo se analiza dicho problema, los desafíos que el derecho tiene frente a la IA desde una perspectiva tanto teórica como práctica, ya que la IA es capaz de tomar decisiones que históricamente han estado en manos de los jueces, los cuales son seres humanos.
El principal dilema jurídico que se plantea es la creciente dependencia de sistemas automatizados en la administración de justicia, por lo que, en términos generales, se pone en entredicho el papel del ser humano en el propio campo de la administración de justicia (Sánchez Acevedo, 2022). La IA puede automatizar y mecanizar tareas repetitivas y muy complejas, como, por ejemplo, la explotación de grandes volúmenes de datos (big data); pero también puede dar lugar a situaciones de sesgo, a la no rendición de cuentas y a la falta de auditorías masivas, características esenciales en la práctica del derecho (Chamoli Falcón y Patiño García, 2024). Además, se plantea la cuestión de la responsabilidad jurídica por decisiones tomadas por máquinas y el impacto que esto puede tener en los derechos de toda persona y, concretamente, el acceso a una justicia imparcial y la falta de explicabilidad en las decisiones algorítmicas (Agencia de los Derechos Fundamentales de la Unión Europea, 2021).
Diversos estudios han comenzado a abordar el impacto de la IA en el derecho, destacando tanto sus beneficios como sus peligros (Rincón Cárdenas y Martínez Molano, 2021). A partir de la cuestión de los sistemas de predicción, por ejemplo, se identifican preocupaciones sobre el riesgo de replicar sesgos ya existentes en la información utilizada para entrar a la IA en el sistema, lo que podría derivar en mantener desigualdades en el acceso a la justicia (Cabrera Peña y Pérez Arteta, 2024). Además, se plantea que lo automático del derecho podría poner en cuestión su integridad, en tanto que la automatización reduciría el contacto humano en las decisiones y esto podría suponer un ataque a la imparcialidad y a la empatía necesarias en muchos casos judiciales (Susskind, 2023). A pesar de esos estudios, la literatura sigue siendo muy inicial, no dando cuenta en profundidad de la cuestión de cómo los sistemas jurídicos deben adaptarse para incluir la IA sin perjudicar la manera de gestionar o fundamentar el derecho.
A su vez, la utilización de la inteligencia artificial en la ocupación del mandato judicial dispone de un valor adicional relacionado con la materialización de valores, tales como la rapidez en el procedimiento y la seguridad jurídica; pero, a su vez, arrastra consigo riesgos a la hora de proteger los derechos fundamentales, como puede ser el caso de la privacidad, la igualdad o la libertad de las personas humanas (Segura, 2023). También es cierto que se enfrenta a desafíos alrededor de la calidad, el propio carácter o la dependencia con la que se utiliza (Jalón Arias et al., 2021). La propia IA tiene la posibilidad de ofrecer conclusiones o soluciones que, bajo determinados límites interpretativos, pueden retratar la voluntad del ser humano (Yaipén-Torres y Rojas-Luján, 2024).
El contexto normativo respecto al uso de la inteligencia artificial en el derecho es todavía reciente, y hay una ausencia de normativa concreta que regule expresamente su uso. En Europa, por ejemplo, el Reglamento General de Protección de Datos (RGPD) (Parlamento Europeo y Consejo de la Unión Europea, 2016) determina vías de automatización de decisiones y derecho a la explicación, lo que establece ciertas cautelas frente a la utilización de la IA en los procesos que alcancen a los derechos de las personas, como los datos personales (Mendoza Enríquez, 2021). Ahora bien, en muchos países las normas sobre IA en la administración de justicia se encuentran en vías de desarrollo e incluso muchas no existen (Suárez Manrique et al., 2023), existiendo por lo tanto incertidumbre jurídica (Suárez Manrique et al., 2023). La falta de normativa específica relativa a la IA en el derecho impide establecer pautas claras en relación con la responsabilidad, la ética y la transparencia de los sistemas automatizados de justicia, alertando de efectos respecto al derecho y peligros en su implementación (Breceda Pérez, 2024).
Este estudio tiene como objetivo principal investigar de forma exhaustiva los problemas legales y éticos que se perciben en el derecho en los tiempos de la inteligencia artificial, haciendo hincapié en los problemas de potencial sesgo algorítmico, deshumanización del proceso judicial y falta de transparencia en los dispositivos automatizados. Asimismo, el estudio intenta presentar un marco que sirva para regular esta IA dentro del derecho, garantizando la ecuanimidad, el respeto de los derechos y la objetividad en el aspecto de la automatización jurídica.
La asimilación de la inteligencia artificial en el ámbito jurídico cuenta con el potencial para incrementar la eficacia y la disponibilidad de la justicia, pero este progreso tecnológico puede también causar nuevas formas de discriminación y desigualdad y desafiar también los pilares más importantes de dicho sistema. La investigación es muy importante para hacer frente a estos retos incluso antes de que la IA se incorpore de una manera permanente en los sistemas judiciales, afirmando así que el progreso técnico no compromete en modo alguno el derecho de las personas. La falta de un marco legal en muchos países pone de manifiesto también la necesidad de investigar y proponer una regulación de la utilización de la IA en la ley, la cual permita aclarar y justificar la rendición de cuentas en los procesos automatizados de justicia.
Metodología
El enfoque de estudio que adopta esta investigación es de tipo cualitativo, puesto que pretende profundizar analíticamente en los retos jurídicos y éticos que supone la incorporación de la inteligencia artificial en el campo del derecho, con un enfoque en el examen de las experiencias, las percepciones y las inquietudes de los sujetos intervinientes en la confluencia de la IA y el derecho, ya que con ello se busca comprender los efectos que esta tecnología tiene respecto a los principios básicos de la justicia y la imparcialidad. Adoptar este tipo de enfoque permite entender de forma detallada los fenómenos emergentes, así como las dinámicas que los sustentan, a través de un análisis interpretativo y reflexivo (Cházaro-Arellano, 2024).
La investigación es de tipo exploratorio-descriptivo, ya que se busca entender y describir el fenómeno estudiado o identificado (Moromi Nakata et al., 2022), siendo también de diseño fenomenológico porque se estudian todas las experiencias vividas (Ruiz-Velazco Sandoval, 2023) para averiguar cómo los profesionales del derecho y los expertos en inteligencia artificial conocen los retos éticos, legales y sociales implicados en la introducción de la IA en los procedimientos judiciales y legales, así como el conocimiento de las implicaciones de esta automatización jurídica por varios ángulos (control, transparencia, equidad y responsabilidad). Este diseño nos permite profundizar en los temas que estamos abordando mediante entrevistas semiestructuradas y el análisis de documentos normativos (Altamira-Camacho y de la Cruz Alvarado, 2022). De la misma manera, la fenomenología permite conocer e identificar los significados que los sujetos otorgan a las experiencias vividas con la IA desde el ámbito jurídico, lo que resulta ser un aspecto fundamental y relevante para acceder al mismo tiempo que los retos y las oportunidades del fenómeno.
Los participantes que formaron parte de la investigación son profesionales del derecho y expertos en inteligencia artificial, es decir, jueces, abogados, académicos y desarrolladores de la IA, de tal forma que se consultó sobre diferentes posiciones y saberes en relación con el contenido, tal y como señala Espinoza Freire (2020). Entre los criterios de inclusión de los participantes, se fijó que deben tener experiencia en la aplicación de la IA en sus prácticas jurídicas, también en inteligencia artificial, con saberes sobre su ejercicio en el ámbito del derecho, y contar con un tiempo de experiencia profesional de al menos tres años en el ámbito vinculado. Por otro lado, se excluyó a los participantes sin experiencia directa o sin saber en relación con el ejercicio de la IA en la aplicación del derecho y también a los profesionales que no asumen un rol activo en el ámbito del derecho o de la IA.
A través de la técnica de las entrevistas semiestructuradas con los participantes, se accedió a información detallada sobre las percepciones de los participantes, sus experiencias y sus preocupaciones respecto a la utilización de la inteligencia artificial en el marco del derecho (Mendieta Izquierdo et al., 2023). Estas entrevistas se llevaron a cabo utilizando un guion flexible que profundizara en los temas de interés, a la vez que permitiese a los participantes realizar sus propias manifestaciones de una forma libre (Díaz-Bravo et al., 2013). También se revisó documentación normativa y académica relacionada con el uso de la IA en el derecho, con el objetivo de comprender el marco legislativo como los principios que han de guiar la utilización de la IA en el marco de los sistemas judiciales. Se incluyeron las normativas de protección de datos, así como los estudios académicos que resultaban relevantes para hacerlo.
El proceso de análisis de los datos se llevó a cabo utilizando el software Atlas.ti 25, especializado en investigación cualitativa. El proceso analítico contempló las etapas de transcripción y codificación inicial de entrevistas y documentos; la identificación de patrones y temas recurrentes sobre los desafíos de la IA en el contexto jurídico a partir de códigos inductivos; la agrupación de códigos en categorías, centrando la atención en aspectos tales como sesgo algorítmico, transparencia y deshumanización; y la interpretación a partir de estas categorías en la que se confrontaron los resultados con la teoría jurídica y normativa en pro de derivar implicaciones y recomendaciones regulatorias. Finalmente, mediante un proceso de triangulación, la confrontación de resultados con documentos y estudios previos permitió corroborar la coherencia y robustez de las conclusiones.
Las consideraciones éticas que guiaron la elaboración del estudio se centraron en garantizar la participación libre y el aseguramiento de los derechos básicos de las personas involucradas en el presente estudio. Antes de participar, todos los sujetos informados del propósito y del ámbito de la investigación firmaron un consentimiento por escrito, incluyendo la autorización para la grabación de las entrevistas. De la misma manera, la confidencialidad estuvo asegurada mediante la utilización de códigos que garantizaran la identidad de los participantes, como el anonimato de su información personal. Por último, se garantizó la transparencia y la reproducibilidad del estudio mediante la documentación detallada de todos los procedimientos, las herramientas e incluso la toma de decisiones metodológicas, la cual estará disponible para todas las personas que deseen replicar o simplemente profundizar en el análisis de los resultados.
Resultados
En esta sección se recogen los hallazgos candidatos del estudio, que fueron adquiridos mediante el análisis de los datos recogidos siguiendo a cada uno de los participantes en las entrevistas semiestructuradas y en la revisión documental. También están distribuidos en relación con los temas emergentes que corresponden al análisis que retroalimentan sus preocupaciones u oportunidades en el marco de la aplicación de la interfaz de la inteligencia artificial en el espacio jurídico.
En la Figura 1, se muestra una representación gráfica de las tres principales categorías relevantes de los hallazgos de las entrevistas, demostrándose posteriormente la distribución de las preocupaciones de todos los participantes.
El mapa muestra la red de categorías emergentes derivadas del análisis en Atlas.ti, que propicia un análisis más pormenorizado sobre las relaciones entre los principales desafíos hallados en el trabajo. El sesgo algorítmico se vincula con desigualdades históricas de género, clase y raza, lo que pone de manifiesto la posibilidad de la reproducción de patrones sesgados en modos judiciales automatizados. La falta de transparencia está asociada a la opacidad de los algoritmos, que, en ocasiones, son descritos como cajas negras, y ello algunas veces se relaciona con la escasa capacidad de impugnar decisiones elaboradas de forma automatizada por todos los sistemas de IA.
Por último, la deshumanización no manejada de la justicia se relaciona con la falta de empatía y juicio moral en casos sensibles, que, de llevarse a cabo, podría mermar la legitimidad de los procesos judiciales. En términos globales, este mapa ponente ilustra la necesidad de implementar mecanismos de carácter normativo y ético que protejan la justificación, la rendición de cuentas y la implicación del elemento de transparencia y centralidad del factor humano en el proceso de administración de justicia.
Desafíos principales identificados
Los participantes manifestaron de forma recurrente su inquietud ante la posibilidad de que los sistemas de inteligencia artificial reproduzcan sesgos de datos previos para su entreno. Esta circunstancia, tal y como la consideran, podría dar lugar a decisiones judiciales que perpetúen formas de discriminación asociadas a la clase social, el género o la raza y, por lo tanto, suponer un atentado a la igualdad y la justicia. El sesgo algorítmico emergió como uno de los principales desafíos éticos identificados por los participantes, cuyo grado de complejidad se encuentra incrementado por la escasa transparencia y explicabilidad de los procesos automatizados.
La ambigüedad en los procesos automatizados de decisión constituyó una preocupación recurrente. Cuando los participantes se dirigieron sobre los sistemas de inteligencia artificial, se refirieron a ellos como una “caja negra”, ya que les resultaba difícil entender los criterios y las lógicas que empleaban para llegar a obtener resultados o recomendaciones. Esta situación pone en evidencia la inquietud de poder impugnar decisiones automatizadas, sobre todo cuando estas intervienen en derechos e intereses de las personas. Cabe destacar que los entrevistados subrayaron que la explicabilidad formaba parte del núcleo básico para llevar a cabo el proceso de garantizar la transparencia y la confianza en los sistemas de inteligencia artificial y para evitar errores en el proceso de toma de decisiones en el ámbito judicial.
La deshumanización en el proceso de administración de justicia surgió como una preocupación palpable en las intervenciones de distintos participantes, quienes pusieron de manifiesto los efectos de una automatización excesiva en cuanto a la toma de decisiones judiciales. Desde sus experiencias y su propia percepción, reivindicaron que la falta de interacción humana directa podría limitar la consideración de los aspectos propios de la empatía, la sensibilidad, el juicio contextual, entre otros, de forma especial en los casos que tienen que ver con derechos humanos, protección de la infancia y otros temas, en los que es necesario realizar una valoración global de las circunstancias que son afectivas y subjetivas.
Perspectivas sobre la regulación y normativa
El establecimiento de una legislación o norma resultó ser una de las inquietudes más comunes de las personas que tomaron parte en las entrevistas. En sus intervenciones queda reflejado un amplio consenso en torno a la necesidad de establecer normas que regulen el uso de la inteligencia artificial en el ámbito del derecho, considerándose la responsabilidad de los algoritmos, la protección de los derechos fundamentales, la transparencia en las decisiones que dependen de un tratamiento automatizado y la supervisión o control de estos sistemas.
Los intervinientes indicaron la relevancia de que toda regulación a adoptar en el campo de la inteligencia artificial vinculada a lo jurídico debe estar cimentada en principios fundamentales como la transparencia, la equidad, la justicia y la rendición de cuentas. En sus intervenciones, también se fue expresando la idea de que los marcos normativos existentes siguen siendo insuficientes para atender los retos que la introducción de tales tecnologías en la administración de justicia plantea. En este sentido, también hicieron mención a que la falta de disposiciones claras y delimitadas en muchos contextos provinciales da lugar a incertidumbres a la hora de establecer la imposición de límites, la identificación de responsabilidades y la determinación de instrumentos de control de los sistemas de inteligencia artificial.
Como contrapunto, los descubrimientos indican que, si bien la mayoría de los entrevistados aceptaron que la IA pueda reforzar la productividad en el contexto judicial, también manifestaron preocupaciones importantes en cuanto a su perfil ético y social. El sesgo algorítmico y la falta de claridad son percibidos como los elementos más urgentes que hay que tratar de subsanar antes de utilizar masivamente soluciones tecnológicas en los juzgados. Es especialmente significativo que los participantes enfaticen el estado de urgencia de mantener una estabilidad en el funcionamiento de la automatización adquiriendo aquellos valores personales del derecho como la empatía o la justicia.
En la misma línea, la deshumanización que conlleva la justicia se convierte en una cuestión relevante, pero también en una cuestión de índole práctica, ya que expone a la dificultad de eliminar la intervención humana en la toma de decisiones judiciales, especialmente en aquellos casos que versan sobre derechos fundamentales, aquellos de dificultad en los que la toma de decisiones implica situaciones personales complejas o aquellos que requieren un juicio exhaustivo de las circunstancias del caso. Esta postura reafirma la idea de que los sistemas de inteligencia artificial deben ser considerados como herramientas de soporte de la acción jurisdiccional y no como dispositivos que puedan sustituir el criterio humano.
Por último, los resultados mostraron la presencia de falta de regulación, que podría presentar dificultades para la implementación responsable, ética y segura de la inteligencia artificial en los sistemas de justicia. Como consecuencia, los participantes insistieron en la necesidad de llegar a construir marcos normativos que permitan la adopción de la innovación tecnológica respetando los principios y garantías establecidos por el Estado de derecho.
Discusión
Los descubrimientos indican que la introducción de la inteligencia artificial en el contexto del derecho contiene muchas dificultades que van más allá de lo meramente tecnológico y que se trasladan a principios básicos del Estado de derecho: las inquietudes encontradas parecen referidas a la garantía de la desigualdad, a la motivación de las decisiones judiciales, al debido proceso o a la protección efectiva de derechos fundamentales. Ahora bien, el debate no versaría solo sobre la eficacia en la utilización de estas herramientas, sino sobre las condiciones necesarias para que el uso pueda acabar siendo compatible con las exigencias propias de una administración de justicia válida.
En dicho marco, el sesgo algorítmico presenta particular interés por su potencial repercusión negativa sobre los principios de igualdad e imparcialidad. Tal y como plantean Cabrera Peña y Pérez Arteta (2024) y Bustelo Gracia (2024), la inteligencia artificial puede reproducir patrones discriminatorios si es entrenada con datos históricos que, en sí, conllevan desigualdades estructurales. Esta eventualidad es preocupante en el marco del ámbito judicial, donde una decisión influida por contrapesos automatizados podría afectar la objetividad del juzgamiento y generar consecuencias incompatibles con la protección igualitaria de las personas ante la ley.
Desde una óptica garantista, el riesgo asociable al sesgo algorítmico también tiene que ser analizado bajo la óptica del debido proceso de justicia. La implementación de sistemas capaces de influir en la dirección de las decisiones jurisdiccionales exige que las partes puedan llegar a conocer y contradecir los criterios por los cuales se llega a una determinada conclusión. Cuando el razonamiento automatizado incorpora sesgos ocultos o de difícil identificación, se restringe la posibilidad de ejercer una defensa adecuada, lo cual repercute negativamente en las garantías procesales nucleares y, por ende, la legitimidad de las resoluciones dictadas queda debilitada.
Por otro lado, el tema de las llamadas “cajas negras” tiene una especial relevancia, ya que se enlaza con el principio de motivación de las decisiones jurisdiccionales, puesto que toda decisión jurisdiccional debe exponer acabadamente la justificación fáctica y jurídica que respalda la decisión jurisdiccional, de forma que pueda ser entendida, comprobada e incluso impugnada; pero, cuando lo que se utiliza son algoritmos que discurren a través de procesos no transparentes, resulta complicado reconstruir el razonamiento que llevó a un resultado determinado, lo que hace difícil comprobar la racionalidad y legalidad de la decisión que se ha tomado.
Estas apreciaciones son coincidentes con las que mencionan Álvarez Merelo y Cepeda Morante (2024) en cuanto a que la falta de explicabilidad de los sistemas llevados a cabo por arte de la automatización estatal puede comprometer la confianza en los sistemas automatizados en el ámbito judicial, donde la transparencia no es únicamente un requisito técnico, sino que, por el contrario, resulta una condición esencial para el control y la confianza de los ciudadanos en la administración de justicia, de tal forma que la incapacidad para entender cómo se establecen las recomendaciones o las decisiones evaluadas puede debilitar la impresión de la imparcialidad y comprometer la legitimidad institucional del sistema judicial que se lleva a cabo.
En esta misma línea argumentativa, los planteamientos de Páez Moreno et al. (2023) y Mayol (2024) permiten afirmar que la transparencia y la rendición de cuentas son presupuestos básicos para una utilización correcta de la inteligencia artificial. Su importancia es aún mayor en el ámbito del derecho, en la medida en que las decisiones que se tomen pueden impactar directamente sobre derechos fundamentales. Por fin, la incorporación de estas tecnologías tiene que ir acompañada de mecanismos de control, auditoría y seguimiento que permitan verificar la adecuación a los estándares éticos y jurídicos.
En lo que respecta a la deshumanización de la justicia, los resultados dan cuenta de que la eficiencia tecnológica no puede sustituir completamente la valoración humana propia de la función jurisdiccional. Así lo han indicado Aguilera Durán (2019), Mir Puigpelat (2023) y Susskind (2023), quienes alertan sobre el hecho de que una dependencia excesiva de los sistemas automatizados puede debilitar aspectos tan básicos como la empatía, la prudencia o el juicio moral. Estos aspectos son importantes especialmente en controversias que versan sobre derechos fundamentales o situaciones que requieren una consideración contextual de los hechos.
No obstante, los resultados muestran una postura más equilibrada respecto al papel de la inteligencia artificial dentro del sistema judicial, de forma tal que, si bien se le puede considerar como una alternativa de la actividad laboral jurisdiccional, también es una herramienta auxiliar y se puede utilizar para facilitar ciertos tipos de actividades, manteniendo la preponderancia del juicio humano en la actividad jurisdiccional, tal como enfatizan Aguilar Cabrera (2024) y Estrada Carrera et al. (2022) respecto a que la inteligencia artificial es una forma de sostener el proceso de toma de decisiones y una manera de ayudar a mejorar la gestión institucional, al tiempo que se mantiene la intervención humana en las partes en que necesariamente la interpretación jurídica es esencial.
Desde el plano teórico, la investigación se posiciona como un refuerzo de la necesidad de la configuración de marcos normativos y conceptuales que permitan la integración de la inteligencia artificial dentro del sistema de justicia sin la práctica de las virtudes de la imparcialidad, la motivación, la transparencia y la tutela de derechos fundamentales, una preocupación que también ha sido puesta de relieve por Barroso Camiade y Pérez Castrejón (2025) y González-Arencibia y Martínez-Cardero (2020), quienes aseguran igualmente la importancia de determinar criterios éticos y jurídicos que marquen el desarrollo responsable de estas tecnologías y eviten la posible vulneración de derechos.
Por último, desde la óptica práctica, los hallazgos sugieren que la utilización de sistemas de inteligencia artificial en la gestión de la administración de justicia debe ir acompañada de mecanismos de control, supervisión y rendición de cuentas para que las decisiones automatizadas sean comprensibles. Solamente desde esta perspectiva será posible alcanzar las bondades de la innovación tecnológica sin lesionar el debido proceso, la motivación de las resoluciones judiciales y la efectiva protección de los derechos fundamentales que nutren la legitimidad del sistema de justicia.
Conclusiones
La integración de la inteligencia artificial en el entorno jurídico se erige como una oportunidad para lograr la eficacia de los sistemas de justicia. No obstante, su implementación se enfrenta a retos que tienen una fuerte relación con la protección de principios básicos del Estado de derecho. Los resultados manifiestan que el uso de herramientas automatizadas y sistemas de IA requiere sistemas de medidas preventivas que permitan garantizar la imparcialidad y la transparencia y que preserven el respeto de los derechos fundamentales, evitando que la innovación tecnológica se convierta en un elemento de riesgo para la legitimidad de las decisiones judiciales.
El sesgo algorítmico es uno de los principales retos que se deducen de la aplicación de la inteligencia artificial al derecho, debido a su capacidad de reproducir las desigualdades existentes en los datos utilizados para el entrenamiento de los sistemas, ya que esto podría afectar el servicio de la igualdad ante la ley y la objetividad de las decisiones jurisdiccionales, por lo que es imprescindible poner en marcha medidas de evaluación, auditoría y corrección que prevengan prácticas discriminatorias y consolidar la confianza en estas tecnologías.
La opacidad de los sistemas de inteligencia artificial plantea importantes interrogantes en torno a los principios de la motivación de las resoluciones judiciales y del debido proceso. Conocer y poder controlar los criterios que forman parte de las funciones de los algoritmos implica perder un grado de control, impugnación y supervisión de las decisiones automatizadas, siendo por lo tanto la explicabilidad y la trazabilidad de los sistemas inteligentes los caracteres que hay que tener en cuenta y exigir para considerar la posibilidad de su aplicación responsable en el ámbito de la administración de justicia.
Si bien la automatización puede ser una vía para mejorar la gestión judicial, existen ámbitos de la función jurisdiccional que precisan verificación contextual, ponderación ética y sensibilidad humana. La investigación permite concluir que la inteligencia artificial tiene de ser vista como una herramienta instrumental de ayuda a la laboral judicial y no como un instrumento de sustitución del criterio humano, sobre todo en aquellos casos en los que se trata de la afectación de derechos fundamentales o en aquellos supuestos donde haya que realizar una valoración total de las circunstancias concretas.
La falta de la existencia de determinados marcos regulatorios es un factor limitante significativo para poder llevar a cabo la implementación de la propia inteligencia artificial en el ámbito del derecho de una manera ética y segura. Por lo tanto, resulta necesario impulsar la creación de normas y políticas públicas que regulen las cuestiones relacionadas con la responsabilidad algorítmica, la transparencia, el control sobre los sistemas automatizados y la protección de los derechos fundamentales y que permitan una síntesis entre la evolución tecnológica y las garantías propias de una justicia democrática.
Finalmente, esta investigación contribuye a la discusión académica en torno a la conexión entre la inteligencia artificial y el derecho, ya que pone de manifiesto la necesidad de construir modelos de integración tecnológica a partir de criterios éticos, jurídicos y garantistas. En este sentido, el principal reto no consiste en sustituir la intervención humana por sistemas automatizados, sino en construir mecanismos de complementariedad que permitan aprovechar los beneficios de la IA sin perjudicar los principios en los que se fundamenta la administración de justicia.
Referencias
Agencia de los Derechos Fundamentales de la Unión Europea (2021). La inteligencia artificial y los derechos fundamentales. https://fra.europa.eu/sites/default/files/fra_uploads/fra-2021-artificial-intelligence-summary_es.pdf
Aguilar Cabrera, D. A. (2024). La inteligencia artificial en la justicia: protocolos para la presentación y la valoración de prueba digital obtenida mediante IA. Revista Oficial del Poder Judicial, 16(22), 475-497. https://doi.org/10.35292/ropj.v16i22.1018
Aguilera Durán, J. (2019). Derecho al trabajo, automatización laboral y derechos de afectación por el uso de tecnología. Revista Latinoamericana de Derecho Social, (29), 3-23. https://doi.org/10.22201/iij.24487899e.2019.29.13898
Altamira-Camacho, R., y de la Cruz Alvarado, M. (2022). Trayectoria fenomenológica: una aproximación al camino hermenéutico de la experiencia de salud. Temperamentvm, 18, e13928. https://dx.doi.org/10.58807/tmptvm20224971
Álvarez Merelo, J. y Cepeda Morante, L. (2024). El impacto de la inteligencia artificial en la enseñanza y el aprendizaje. LATAM. Revista Latinoamericana de Ciencias Sociales y Humanidades, 5(3), 599-610. https://dialnet.unirioja.es/servlet/articulo?codigo=9566741
Barroso Camiade, C., y Pérez Castrejón, E. M. (2025). Desafíos éticos y legales en el uso de la inteligencia artificial (IA). Sintaxis, 8(14), 102-118. https://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S2594-16822025000100102
Breceda Pérez, J. A. (2024). La dignidad humana frente a la inteligencia artificial: un análisis ético y normativo en América Latina. TraHs, (18). https://doi.org/10.25965/trahs.6367
Bustelo Gracia, J. L. (2024). Sesgos de género y raciales en la IA.
Implicaciones éticas y legales del reconocimiento facial. Revista Derecho y Economía de la Integración, (13), 11-31. https://doi.org/10.69592/2530-5093-N13-DICIEMBRE-2024-ART-2
Cabrera Peña, K., y Pérez Arteta, L. (2024). El impacto de la inteligencia artificial en los sistemas jurídicos. Revista de Derecho, (62), vii-x. https://doi.org/10.14482/dere.62.980.865
Chamoli Falcón, A. W., y Patiño García, L. V. (2024). Impacto de la inteligencia artificial en la educación jurídica latinoamericana. Aula Virtual, 5(12), e342. https://doi.org/10.5281/zenodo.13286966
Cházaro-Arellano, E. H. (2024). Análisis de datos en las investigaciones cualitativas: el reto frente al investigador. Revista Arbitrada Interdisciplinaria Koinonía, 9(17), 168-171. https://doi.org/10.35381/r.k.v8i17.3163
Crespo-Berti, L. A. (2023). El impacto de la inteligencia artificial en las ciencias jurídicas. Iustitia Socialis. Revista Arbitrada de Ciencias Jurídicas y Criminalísticas, 8(2), 1-3. https://doi.org/10.35381/racji.v8i2.2912
Díaz-Bravo, L., Torruco-García, U., Martínez-Hernández, M., y Varela-Ruiz, M. (2013). La entrevista, recurso flexible y dinámico. Investigación en educación médica, 2(7), 162-167. https://doi.org/10.1016/S2007-5057(13)72706-6
Espinoza Freire, E. E. (2020). La investigación cualitativa, una herramienta ética en el ámbito pedagógico. Revista Conrado, 16(75), 103-110. https://www.researchgate.net/publication/346940616_La_investigacion_cualitativa_una_herramienta_etica_en_el_ambito_pedagogico
Estrada Carrera, F. M., Loor Zambrano, H. Y., y Viteri Rade, L. Y. (2022). Reemplazo de personal humano por inteligencia artificial: ventajas y desventajas. Revista Investigación y Negocios, 15(25), 31-38. http://www.scielo.org.bo/scielo.php?pid=S2521-27372022000100004&script=sci_abstract
González-Arencibia, M., y Martínez-Cardero, D. (2020). Dilemas éticos en el escenario de la inteligencia artificial. Economía y Sociedad, 25(57), 93-109. https://www.scielo.sa.cr/scielo.php?script=sci_arttext&pid=S2215-34032020000100093
Granero, H. R. (Dir). (2020). Inteligencia artificial y derecho, un reto social. Albremática. https://books.google.com.pe/books?hl=es&lr=&id=iowzEAAAQBAJ&oi=fnd&pg=PT8&dq=inteligencia+artificial+Y+derecho&ots=6ULN6dwgdy&sig=XucDJxTtMW86SHBZJRxsmc_a_E&redir_esc=y#v=onepage&q=inteligencia%20artificial%20Y%20derecho&f=false
Hernández Giménez, M. (2019). Inteligencia artificial y derecho penal. Actualidad Jurídica Iberoamericana, (10 bis), 792-843. https://dialnet.unirioja.es/servlet/articulo?codigo=6978830
Jalón Arias, E., Ponce Ruiz, D., Arandia, J. C., y Arrias Añez, J. C. (2021). Las limitaciones de la aplicación de la inteligencia artificial al derecho y el futuro de la educación jurídica. Revista Conrado, 17(83), 439-450. https://www.researchgate.net/publication/366368410_Las_limitaciones_de_la_aplicacion_de_la_inteligencia_artificial_al_derecho_y_el_futuro_de_la_educacion_juridica
Mayol, J. (2024). Impacto de la inteligencia artificial generativa en la publicación científica. Enfermería Nefrológica, 27(3), 187-188. https://scielo.isciii.es/scielo.php?script=sci_arttext&pid=S2254-28842024000300001
Mendieta Izquierdo, G., Joya Ramírez, N. E., Cuevas Silva, J. M., y Ramírez Rodríguez, J. C. (2023). Herramientas, estrategias y enfoque cualitativo para develar emociones en varones desempleados. Ciência & Saúde Coletiva, 28(01), 59-70. https://doi.org/10.1590/1413-81232023281.09482022
Mendoza Enríquez, O. A. (2021). El derecho de protección de datos personales en los sistemas de inteligencia artificial. IUS. Revista del Instituto de Ciencias Jurídicas de Puebla, 15(48), 179-207. https://doi.org/10.35487/rius.v15i48.2021.743
Mir Puigpelat, O. (2023). La automatización y el uso de algoritmos e inteligencia artificial en derecho administrativo comparado. Revista General de Derecho Administrativo, (63), 1-9. http://hdl.handle.net/10230/58055
Moromi Nakata, H., Villavicencio Gastelú, J., Martínez Cadillo, E., Ortiz Fernández, L., Orihuela Gutiérrez, J., Arce Rivera, F., y Rojas Cairampoma, M. (2022). Análisis descriptivo y tendencias de las tesis de pregrado en facultades de odontología peruanas. Revista Digital de Investigación en Docencia Universitaria, 16(2), e1569. https://doi.org/10.19083/ridu.2022.1569
Páez Moreno, Á., Ibarra Sánchez, C., Ríos Incio, F., y Rodríguez Casallas, D. (2023). Evolución de la noción de transparencia y rendición de cuentas en el sector público. Justicia, 28(44), 183-196. https://doi.org/10.17081/just.28.44.6974
Parlamento Europeo y Consejo de la Unión Europea. (2016, 27 de abril). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento General de Protección de Datos). Diario Oficial de la Unión Europea, L 119, 1-88. https://travesia.mcu.es/server/api/core/bitstreams/d5f3ef20-3dcc-4065-961a-f77ea31d6d55/content
Parra Sepúlveda, D., y Concha Machuca, R. (2021). Inteligencia artificial y derecho. Problemas, desafíos y oportunidades. Vniversitas, 70, 1-25. https://doi.org/10.11144/Javeriana.vj70.iadp
Rincón Cárdenas, E., y Martínez Molano, V. (2021). Un estudio sobre la posibilidad de aplicar la inteligencia artificial en las decisiones judiciales. Revista Direito GV, 17(1), e2101. https://doi.org/10.1590/2317-6172202101
Ruiz-Velazco Sandoval, N. G. (2023). La metodología fenomenológica en la investigación del padecimiento. Una experiencia en primera persona. Index de Enfermería, 32(3), e14503. https://dx.doi.org/10.58807/indexenferm20236153
Sánchez Acevedo, M. E. (2022). La inteligencia artificial en el sector público y su límite respecto de los derechos fundamentales. Estudios constitucionales, 20(2), 257-284. https://dx.doi.org/10.4067/S0718-52002022000200257
Santome-Sánchez, A. A. (2024). La inteligencia artificial: ¿nuevo sujeto de derecho? Implicancias y reflexiones biojurídicas sobre el papel de esta herramienta dentro de la formación de relaciones jurídicas. Apuntes de Bioética, 7(2), AdB1158. https://doi.org/10.35383/apuntes.v7i2.1158
Segura, R. (2023). Inteligencia artificial y administración de justicia: desafíos derivados del contexto latinoamericano. Revista de Bioética y Derecho, (58), 45-72. https://dx.doi.org/10.1344/rbd2023.58.40601
Suárez Manrique, W., de León Vargas, G., y Monsalve Pinto, J. (2023). Un análisis sobre la aplicabilidad de la inteligencia artificial en el derecho colombiano. Prolegómenos, 26(52), 11–23. https://doi.org/10.18359/prole.5625
Susskind, D. (2023). Trabajo y sentido en la era de la inteligencia artificial. Nueva Sociedad, (307), 25-51. https://static.nuso.org/media/articles/downloads/1.TC_Susskind_307.pdf
Yaipén-Torres, J. J, y Rojas-Luján, V. W. (2024). Ética jurídica en la interpretación de normas legales con inteligencia artificial. Revista Arbitrada Interdisciplinaria Koinonía, 9(18), 138-155. https://doi.org/10.35381/r.k.v9i18.4195
