Graciela Dela Torre llevaba meses convencida de que su abogado la estaba perjudicando. Había llegado a un acuerdo en enero de 2024 en un litigio por su seguro de discapacidad, pero algo no le cerraba y quería reabrir el caso. Cuando su letrado le confirmó que la causa estaba definitivamente cerrada y que no podía reabrirse, ella hizo lo que cada vez más personas hacen en esa situación: le preguntó a la IA si su abogado no le estaba haciendo gaslighting –manipulándola para que no siguiera insistiendo con el caso–.

Con su habitual seguridad, la IA le dijo que sí: que tenía razones para cuestionar el acuerdo y que realmente había argumentos para reabrir el caso.

¿A quién le hizo caso entonces Dela Torre? ¿A su abogado de confianza… o al chatbot? Como cada vez ocurre más seguido, ella prefirió confiar en el bot antes que en el experto. Y así fue que despidió a su abogado y empezó a representarse sola, con el chatbot como único asesor.

Lo que siguió fue lo esperable para cualquier abogado, aunque no para ella: escritos con citas que no existen, jurisprudencia inventada, errores de jurisdicción, normativa inaplicable. Todo redactado con la misma seguridad y prolijidad formal con la que la IA produce cualquier cosa — lo cual, precisamente, es el problema. La forma era impecable. El fondo, un desastre. El juez rechazó el intento de reabrir el caso. Pero los escritos siguieron llegando igual, y por supuesto tuvieron consecuencias: la aseguradora demandada tuvo que pagar 300.000 dólares respondiendo esa papelería, y terminó demandando a OpenAI en Chicago por ofrecer ilegalmente asesoramiento legal sin matrícula, a través de su chatbot más conocido.

Últimamente cuento esta historia seguido en conferencias, cursos y talleres que imparto. La reacción es siempre la misma: los colegas cruzan miradas cómplices y asienten satisfechos: “Claro. Le pasa por creer que los abogados somos reemplazables”. Es una historia que nos gusta, nos da la razón. Que confirma lo que repetimos en cada conversación con un cliente que llegó con un contrato redactado por IA y nos pide “que lo revisemos”: que nuestra disciplina no se reduce a la superficie. Que detrás de lo que parece accesible hay años de formación, de criterio, de errores propios y ajenos sedimentados en un juicio que ningún modelo de lenguaje tiene. Que hay una profundidad que no se improvisa, no se promtea, y no se construye en dos días.

Tienen razón. Por supuesto.

Lo que es más difícil de ver — y lo que me interesa señalar acá — es que así como nuestros clientes (muchos de ellos, como tantas Dela Torres, profesionales expertos de otras disciplinas) minimizan nuestra profesión, nosotros hacemos exactamente lo mismo cuando miramos hacia el otro lado.

El ángulo que nos cuesta ver

Recientemente, un colega publicó en este portal una columna describiendo cómo construyó, en sus palabras, "en dos días y sin saber programar", una extensión de navegador inspirada — según él mismo confiesa — en una herramienta de mi autoría. La disposición a experimentar me parece por supuesto inobjetable.

Pero hay algo en la conclusión que invita a una reflexión más profunda. El colega sostiene que en la era de la IA, la competencia jurídica permite reemplazar por completo a la técnica en la construcción de software. Que identificar un problema, describir el resultado esperado y corregir el rumbo es todo lo que se necesita. Que "el requisito técnico ya no es tal".

Esa tesis comete exactamente el mismo error que cometen nuestros clientes cuando creen que no necesitan abogado porque la IA les ahorra “el requisito técnico” (y los honorarios).

Como toda disciplina, el Derecho tiene una superficie accesible — cualquiera puede leer un artículo del Código Civil — pero tiene también una profundidad que no es obvia para un lego, pero que menos aún se puede improvisar: la jurisprudencia contradictoria y en permanente evolución, los criterios variables de cada tribunal y cada juez, la diferencia entre lo que dice la norma y lo que efectivamente resuelven las salas de cada cámara; los plazos procesales perentorios que no admiten error ni vuelta atrás, las nulidades que se generan o se pierden por una presentación mal encuadrada, la competencia en razón de la materia o del territorio, la legitimación activa y pasiva, la carga de la prueba, lo que se negocia afuera del expediente y nunca queda escrito en ningún lado. ¡Y tanto más!

Cuando un cliente confunde esa superficie con dominio jurídico real, el resultado es Dela Torre.

El desarrollo de software –como tantas otras competencias humanas– tiene exactamente la misma estructura.

Qué hay debajo de la superficie

Una extensión de navegador puede verse impecable en las pruebas de quien la construyó. Pero las preguntas que importan no se ven directamente, porque no son preguntas de funcionalidad — son preguntas de criterio, de seguridad, de privacidad y auditabilidad, y su respuesta es mucho más compleja.

¿Qué acceso tiene esa extensión a lo que ocurre en el navegador? ¿A qué información puede acceder mientras trabajás con el sistema judicial? ¿Dónde va esa información? ¿Quién puede interceptarla? ¿Qué pasa si la extensión incorpora código de un repositorio público que, se sabe, fue comprometido por un atacante y hereda esa vulnerabilidad? ¿Qué pasa si no detecta un movimiento o un plazo, o si tiene un error cuando exporta el listado? ¿Tiene manera de auto-evaluarse? ¿Puede informar al usuario del problema, o pasa de largo en forma invisible, con consecuencias que solo se verán con el tiempo?

Estas no son preguntas hipotéticas. Los casos documentados en 2025 incluyen extensiones y aplicaciones construidas con IA que dejaban expuestas las credenciales de acceso de sus usuarios, que enviaban información sensible a servidores externos sin que el creador lo supiera, o que simplemente abrían la puerta para que una página maliciosa tomara control del navegador. En todos los casos, la aplicación funcionaba. El problema no era visible.

Una extensión con acceso a la sesión activa de un portal judicial tiene acceso potencial a los expedientes en los que trabajás, a los datos de tus clientes, a los movimientos procesales que estás consultando. Que el creador no haya tenido intención de hacer nada con eso no es suficiente garantía. El código generado sin revisión profesional puede introducir vulnerabilidades que el propio creador no puede detectar porque no sabe qué está buscando.

Esto no es un argumento contra usar IA para construir herramientas. Es un argumento contra confundir prototipo con producto terminado.

Lo que hay detrás de la superficie

Comencé mis investigaciones en inteligencia artificial aplicada al Derecho casi 5 años antes de que existiera ChatGPT y enseño regularmente a abogados, jueces, estudiantes y funcionarios públicos a programar en mis cursos y talleres. Llevo años también construyendo herramientas de IA para el ecosistema legal argentino, y sé de primera mano lo que hay detrás de algo que parece simple.

TurboLex es una extensión para Chrome y Edge pensada para simplificar y automatizar la manera en la que los colegas interactúan con los portales judiciales, ahorrándoles decenas de horas de burocracia digital por mes. Tiene, al momento de escribir esta nota, más de 1.200 usuarios activos y un promedio de satisfacción de 5/5 en la Chrome Web Store. Esos números no vienen de haber generado código que funciona en las propias pruebas. Vienen de años de estar al pie del cañón trabajando con un equipo talentosísimo de abogados y desarrolladores de software, expertos, cada uno, en sus respectivas competencias; escuchando los errores que reportan usuarios reales, corrigiendo casos que ningún prototipo anticipa, iterando sobre situaciones que solo aparecen cuando miles de personas usan algo en condiciones reales.

Vienen también de decisiones que no se ven en la superficie. TurboLex tiene una política de privacidad exhaustiva, destacada incluso por colegas que la sometieron a rigurosas evaluaciones independientes (https://x.com/i/status/2039387160881586308) — y eso no porque sea un requisito formal, sino porque las personas que confían sus datos a una herramienta merecen saber exactamente qué se hace con esa información y cómo se la protege.

Eso es lo que hay detrás de la superficie. No es magia ni talento extraordinario. Es el trabajo que no se ve cuando algo, por desconocimiento de su dimensión, parece fácil.

El espejo

El “prompt coding” es una habilidad interesantey valiosa. Permite explorar, prototipar, construir herramientas para uso propio. Lo celebro genuinamente — es exactamente el tipo de apropiación tecnológica que el ecosistema legal argentino necesita.

Pero hay una diferencia entre construir algo con conciencia de sus limitaciones y concluir que la programación como disciplina se volvió prescindible. Entre un prototipo que funciona en las propias pruebas, y una herramienta en la que pueden confiar los expedientes de los clientes de otros colegas.

Esa diferencia es la misma que le explicamos a nuestros clientes todos los días, cuando nos preguntan para qué necesitan un abogado si ChatGPT ya les explicó su situación y les redactó la contestación de la demanda.

Dela Torre creyó que la superficie era suficiente, que “el requisito técnico legal ya no es tal”. Tenía un output producido por la IA que lucía correcto y convincente. Y eso fue suficiente para tomar decisiones irreversibles.

Los abogados deberíamos ser los últimos en caer en esa trampa. Llevamos décadas explicándole al mundo que la superficie accesible de nuestra disciplina no equivale a su dominio

Esa lección aplica simétricamente.