Inteligencia artificial, autoridad para juzgar y límites de la revisión humana

Imaginemos una sentencia que contiene una exposición ordenada de los hechos, referencias normativas pertinentes y una conclusión expresada con claridad. El texto fue preparado con inteligencia artificial y un juez lo suscribió. La parte vencida descubre, sin embargo, que uno de los hechos decisivos proviene de un resumen equivocado del expediente. Había presentado prueba en sentido contrario, pero ese argumento desapareció durante la preparación del proyecto.

El ejemplo es hipotético. Su dificultad jurídica es reconocible: una decisión puede resultar convincente mientras deja sin responder aquello que debía resolver. La firma identifica a quien la suscribe, pero no permite reconstruir, por sí sola, qué examinó. Y una explicación sobre el funcionamiento del programa puede ser perfectamente clara sin ofrecer una razón suficiente para rechazar la pretensión de una parte.

La incorporación de inteligencia artificial a la actividad judicial obliga a precisar estas diferencias. La pregunta sobre su rendimiento técnico es necesaria. Junto a ella aparece otra: bajo qué condiciones una contribución automatizada puede incorporarse a una decisión cuyos efectos se imponen a alguien que tiene derecho a discutirla.

Calidad, confianza y legitimidad

La calidad jurídica de una decisión depende de su relación con el caso: los hechos establecidos, la prueba, las fuentes aplicables, la respuesta a las cuestiones conducentes y la justificación de la solución. Una sentencia puede ser clara y estar equivocada. También puede ser jurídicamente defendible y estar redactada de manera innecesariamente oscura. La claridad ayuda a controlar sus fundamentos; no los sustituye.

La percepción de justicia corresponde a otro plano. Describe cómo una persona valora el procedimiento o el trato recibido. Esa percepción puede revelar una deficiencia real: la experiencia de no haber sido escuchada merece atención. Pero también puede variar según la reputación de quien decide, la procedencia atribuida al texto o el carácter favorable del resultado.

La confianza incorpora una expectativa de fiabilidad. Quien confía está dispuesto a apoyarse en una recomendación. Esa disposición puede estar bien fundada o ser excesiva. Un procedimiento que hace visibles sus errores podría generar menos confianza inmediata y ofrecer mejores condiciones de control.

La autoridad concierne a la competencia para decidir y producir consecuencias. La legitimidad del ejercicio de esa autoridad exige considerar, además, las garantías y razones que lo justifican. La aceptación social tiene importancia institucional, pero no confiere jurisdicción ni subsana una lesión del derecho de defensa. La decisión judicial debe poder justificarse también frente a quien no acepta su conclusión.

Dos estudios que plantean dificultades diferentes

Bentsen y Johannesson examinaron las percepciones sobre el uso de IA en la determinación de penas mediante un experimento con 2.222 participantes en Noruega. Compararon un procedimiento exclusivamente humano con configuraciones que variaban la explicabilidad del sistema y su papel como apoyo o decisor. Incluso la combinación de IA explicable y asistencia al juez recibió una valoración de justicia inferior a la del procedimiento humano. Ambas condiciones atenuaban la desventaja, pero no la eliminaban. [1]

La palabra «explicable» requiere precisión. A los participantes se les informaba que podían identificarse los factores a los que el algoritmo asignaba mayor peso. No se les entregaba una sentencia con fundamentos individualizados ni se evaluaba una vía efectiva de impugnación. Los autores reconocen esa diferencia. El estudio mide respuestas a descripciones de procedimientos, no la calidad jurídica de sentencias reales. [2]

Chen y sus coautores ofrecen un contrapunto. En dos experimentos con 7.651 participantes, que incluyen escenarios de penas, libertad bajo fianza y arbitraje, investigaron procedimientos humanos, algorítmicos e híbridos. En el primer experimento, las valoraciones de los procedimientos híbridos resultaron equivalentes a las humanas bajo el margen definido por los investigadores, incluso cuando la revisión era mínima. La mitigación presentó diferencias entre grupos en el segundo experimento. [3]

Los autores advierten el riesgo de human-washing: que la intervención humana mejore la percepción del procedimiento sin aportar suficiente control. Su investigación no demuestra que una firma corrija errores ni que la revisión mínima sea jurídicamente suficiente. [4]

Los trabajos no permiten afirmar que el público siempre rechazará la IA ni que bastará con mantener a una persona al final del proceso. Tampoco explican por sí solos sus resultados diferentes: cambian poblaciones, escenarios y tratamientos. Ofrecen dos advertencias que deben conservarse juntas. Puede persistir la desconfianza pese a ciertas garantías anunciadas; puede surgir confianza sin una distinción adecuada entre controles intensos y superficiales.

Explicar un algoritmo y motivar una sentencia

El artículo 3 del Código Civil y Comercial exige al juez resolver mediante una decisión razonablemente fundada. En el plano convencional, el artículo 8.1 de la Convención Americana reconoce el derecho a ser oído con las debidas garantías por un tribunal competente, independiente e imparcial; su alcance comprende la determinación de derechos y obligaciones civiles, además de la materia penal. [5]

Estas disposiciones no resuelven exhaustivamente qué usos de IA son admisibles en cada jurisdicción. Tampoco establecen una equivalencia entre toda asistencia tecnológica y una delegación de la función judicial. Ofrecen un punto de partida para examinar el procedimiento concreto.

Conocer qué variables influyeron en una recomendación puede ayudar a detectar un sesgo o un error. Para motivar una decisión hace falta justificar el paso desde los hechos y las normas hasta la consecuencia que se dispone. La frecuencia de una solución en casos anteriores, por ejemplo, no responde por sí sola a la objeción de que el caso actual presenta una diferencia jurídicamente decisiva.

La distinción tampoco exige reconstruir cada operación interna del modelo. Una motivación jurídicamente controlable debe permitir examinar las premisas que sostienen el resultado y su relación con el expediente. Según el uso que haya tenido la herramienta, podrá ser necesario discutir también sus datos, limitaciones o criterios. La información relevante depende de aquello que efectivamente influyó en la decisión.

En el ejemplo inicial, saber que el programa asignó mucho peso a un incumplimiento contractual no resuelve el problema. La cuestión es si ese incumplimiento ocurrió, con qué prueba se lo tuvo por acreditado y por qué se descartó la evidencia contraria. Una explicación técnica puede ser un insumo para ese examen. La motivación debe responder a la controversia jurídica.

El derecho a controvertir necesita un objeto reconocible

Para impugnar una decisión, el abogado debe identificar dónde se encuentra el desacuerdo relevante. Puede cuestionar la selección de antecedentes, una premisa fáctica, la vigencia de una norma o la inferencia que vincula esos elementos. Si recibe únicamente una conclusión acompañada de una descripción general del sistema, tendrá dificultades para dirigir su objeción.

No toda opacidad produce automáticamente nulidad. Su relevancia debe analizarse según el régimen aplicable, la función cumplida por la herramienta y la afectación concreta de las garantías. Pero presentar el carácter propietario de un sistema como respuesta suficiente a toda solicitud de explicación dejaría sin resolver el conflicto: la reserva comercial no acredita que la parte haya podido defenderse.

Como propuesta de organización procesal, el uso de IA debería conservar un registro proporcionado de sus aportes materiales: qué información se utilizó, qué resultado ingresó al proyecto y cómo se trataron las objeciones decisivas. Su alcance debe conciliar defensa, confidencialidad y protección de datos. No se trata de publicar indiscriminadamente el expediente ni de conservar toda interacción técnica, sino de evitar que desaparezca aquello que permite controlar el fundamento de la decisión.

Una persona disponible no equivale a una revisión efectiva

La intervención humana tiene valor cuando permite examinar y modificar el resultado. Para ello hacen falta facultades, información y condiciones de trabajo. Si el revisor sólo recibe el resumen que produjo el mismo sistema, su posibilidad de descubrir una omisión puede estar limitada desde el comienzo. Si puede objetar, pero la decisión ya produjo una consecuencia difícil de revertir, el momento del control también importa.

La revisión nominal presenta una dificultad adicional: puede producir una apariencia de responsabilidad sin aclarar su distribución. Que una persona firme no elimina automáticamente los defectos de organización, preparación o suministro de información. Tampoco la asistencia automatizada libera al firmante de los deberes que correspondan a su función. La atribución de responsabilidad exige examinar conductas, obligaciones y causalidad dentro del régimen aplicable.

Conviene, por eso, evitar indicadores demasiado fáciles de satisfacer. Una elevada tasa de aprobaciones puede expresar coincidencia fundada o una práctica rutinaria. El tiempo de lectura tampoco demuestra comprensión por sí solo. Resulta más informativo observar si una objeción pertinente fue advertida, si se consultó la fuente y si el procedimiento permitió corregir el error.

El problema precede a la IA. Proyectos preparados por colaboradores y decisiones estandarizadas también pueden recibir controles insuficientes. La automatización merece un examen específico por la escala y velocidad con las que permite reproducir una misma deficiencia. Esa preocupación no justifica idealizar la práctica humana existente.

Qué debería exigir la profesión jurídica

La primera exigencia es preservar la diferencia entre asistencia y decisión. Buscar jurisprudencia, ordenar prueba o preparar un borrador son intervenciones cuyo alcance debe identificarse. Ninguna obtiene competencia jurisdiccional por ofrecer resultados persuasivos.

La segunda es evaluar calidad y aceptación por separado. Consultar si una herramienta inspira confianza sirve para conocer su recepción. Para saber si mejora el trabajo jurídico hay que examinar, además, errores, fuentes omitidas, objeciones desatendidas y correcciones obtenidas. Un sistema que genera adhesión sin mejorar esos aspectos no ha demostrado el beneficio que interesa.

La tercera es comparar alternativas reales. Una prohibición general puede privar a los operadores de asistencia útil; una adopción basada únicamente en velocidad puede trasladar el costo hacia los litigantes y los recursos posteriores. La comparación debe incluir el procedimiento humano disponible, sus demoras y sus errores, junto con los costos de verificar y corregir la contribución automatizada.

Las exigencias de control deben adecuarse a la función y a las consecuencias. La selección inicial de antecedentes y la valoración de un hecho decisivo no plantean idénticos riesgos. Esa proporcionalidad requiere identificar qué tarea se automatiza y qué garantía protege el control previsto. Agregar formularios no asegura una revisión mejor.

Una línea de investigación útil sería mantener idéntico un razonamiento y variar su atribución humana o artificial para estudiar percepciones. Otra debería introducir errores verificables y observar si distintos procedimientos consiguen detectarlos y corregirlos. La primera mostraría cuánto influye la procedencia atribuida; la segunda permitiría evaluar control efectivo. Ninguna conferiría autoridad al sistema por sus resultados.

La decisión debe responder al desacuerdo

Volvamos a la sentencia del ejemplo. El defecto no se supera explicando que se utilizó una tecnología avanzada ni acreditando que intervino un juez. Corresponde reconstruir el hecho discutido, examinar la prueba y resolver la objeción dentro del procedimiento que resulte aplicable. La herramienta puede contribuir a ese trabajo. La garantía reside en que la controversia encuentre una respuesta jurídicamente controlable.

Los estudios sobre percepción de justicia ayudan a entender por qué las personas aceptan o rechazan una intervención tecnológica. El derecho debe conservar una pregunta que esa aceptación no puede contestar: qué razones y garantías justifican imponer la decisión a quien la cuestiona. Allí se encuentra el desafío profesional de la inteligencia artificial en la justicia.