El verdadero riesgo de la IA en los despachos no es que se equivoque
Santiago Calderón Chávez
CEO & Co-Founder de ELÍAS
Cuando se habla de inteligencia artificial en el Derecho, casi siempre aparece la misma advertencia:
“La IA puede equivocarse.”
Puede inventar una jurisprudencia.
Puede citar una norma derogada.
Puede confundir jurisdicciones.
Puede interpretar mal un documento.
Puede llegar a una conclusión incorrecta con una seguridad sorprendente.
Todo eso es cierto.
Y todo eso importa.
Pero creo que existe un riesgo más profundo.
Uno que puede resultar mucho menos visible porque no aparece como un error rojo en la pantalla.
El verdadero riesgo de la inteligencia artificial en los despachos no es únicamente que la máquina se equivoque.
Es que, poco a poco, dejemos de darnos cuenta cuando se equivoca.
Y todavía peor:
que dejemos de tener suficiente comprensión del asunto para poder cuestionarla.
Un error puede corregirse. La dependencia es más difícil de detectar
Si una inteligencia artificial inventa una jurisprudencia inexistente, tenemos un problema relativamente fácil de conceptualizar.
Existe una afirmación.
Podemos buscar la fuente.
Descubrimos que no existe.
Corregimos.
El peligro más interesante aparece cuando la respuesta no contiene un error evidente.
Está bien escrita.
Las fuentes existen.
La conclusión parece razonable.
El documento tiene estructura profesional.
Y precisamente por eso dejamos de hacer la siguiente pregunta:
¿por qué deberíamos creer que ésta es la mejor respuesta?
Ahí cambia la naturaleza del riesgo.
Ya no estamos frente a una falla de la herramienta.
Estamos frente a una modificación de nuestro propio comportamiento.
La IA puede generar confianza antes de generar conocimiento
Los modelos generativos tienen una característica especialmente poderosa:
comunican extraordinariamente bien.
Una respuesta puede ser clara, ordenada y convincente incluso cuando el problema jurídico es incierto.
Ésa es una combinación peligrosa.
Porque los seres humanos tendemos a asociar una buena explicación con una buena conclusión.
Si un pasante llegara a nuestra oficina y dijera:
“No estoy muy seguro, pero creo que encontré esto”,
probablemente revisaríamos cuidadosamente su trabajo.
Si un sistema presenta un análisis perfectamente estructurado, con encabezados, argumentos y lenguaje técnico, podemos sentir que estamos frente a algo mucho más sólido.
Aunque ambos hayan llegado exactamente a la misma conclusión.
La presentación altera nuestra percepción de confiabilidad.
Y por eso el abogado necesita aprender una nueva disciplina:
no confundir fluidez con certeza.
El problema comienza cuando dejamos de formular el problema
Hay una actividad que ocurre antes de cualquier investigación jurídica y que fácilmente puede pasar inadvertida:
definir qué estamos intentando resolver.
Un abogado recibe un asunto.
Decide qué hechos son relevantes.
Qué información falta.
Qué preguntas deben investigarse.
Qué instituciones jurídicas pueden estar relacionadas.
Cómo se estructura el problema.
Sólo entonces comienza a buscar respuestas.
Con inteligencia artificial existe una tentación nueva.
Entregar los documentos y preguntar:
“¿Qué opinas?”
Puede parecer eficiente.
Pero si delegamos demasiado pronto la formulación del problema, estamos cediendo una parte fundamental del razonamiento.
Porque la primera pregunta condiciona todas las respuestas posteriores.
Un sistema puede realizar una investigación excelente sobre el problema equivocado.
Y entonces obtenemos una respuesta técnicamente impresionante que no resuelve aquello que realmente importaba.
Automatizar respuestas es fácil. Automatizar preguntas es mucho más peligroso
Las mejores estrategias jurídicas frecuentemente nacen de una pregunta que no era evidente.
¿Y si este acto nunca fue correctamente notificado?
¿Y si el verdadero problema no es la validez del contrato sino la representación?
¿Y si la autoridad carecía de competencia?
¿Y si la vía procesal que todos están considerando no es la única?
¿Y si el cliente realmente no necesita ganar este litigio sino evitar una consecuencia comercial?
La máquina puede ayudarnos a formular esas preguntas.
Debería hacerlo.
Pero existe una diferencia importante entre utilizar inteligencia artificial para ampliar nuestras preguntas y permitirle definir automáticamente cuáles son las únicas preguntas relevantes.
Porque lo que un sistema no investiga también puede determinar el resultado.
El riesgo del primer resultado razonable
Antes de la inteligencia artificial, investigar un asunto tenía fricción.
Había que buscar.
Leer.
Descartar.
Comparar.
Durante ese proceso aparecían dudas.
Encontrábamos criterios contradictorios.
Descubríamos una excepción.
Leíamos algo que modificaba nuestra hipótesis inicial.
La propia dificultad de investigar obligaba a recorrer distintos caminos.
Ahora podemos preguntar:
“Analiza este asunto y dime cuál es la mejor estrategia.”
Y recibir en treinta segundos una respuesta bastante convincente.
La ganancia de productividad es extraordinaria.
Pero existe un costo potencial:
podemos dejar de explorar demasiado pronto.
La primera respuesta razonable se convierte en la respuesta.
No porque demostremos que es la mejor.
Sino porque llegó primero.
Una generación de abogados podría aprender a revisar sin aprender a construir
Este riesgo es particularmente importante para los abogados jóvenes.
Durante años, la formación jurídica dentro de los despachos ha dependido en buena medida de hacer.
Investigar.
Equivocarse.
Redactar.
Recibir comentarios.
Volver a redactar.
Comparar documentos.
Leer expedientes completos.
Preparar una estrategia que después un abogado senior destruye en cinco minutos.
Puede ser un método imperfecto.
Pero produce algo importante:
estructura mental.
El abogado aprende lentamente a reconocer patrones.
A distinguir hechos relevantes.
A anticipar objeciones.
A formular problemas.
Ahora imaginemos una generación que entra al despacho y desde el primer día recibe:
la investigación,
el resumen,
la estructura,
el borrador,
los argumentos,
y las posibles objeciones.
La productividad inicial será mucho mayor.
Pero aparece una pregunta incómoda:
¿cómo desarrollará el criterio necesario para supervisar aquello que nunca aprendió a construir?
No podemos pedirle a alguien que supervise algo que no comprende
Ésta es quizá una de las contradicciones más importantes del discurso actual sobre inteligencia artificial.
Decimos:
“Usa la IA, pero revisa todo.”
Perfecto.
Pero revisar exige conocimiento.
Para detectar una jurisprudencia mal aplicada tengo que entender suficientemente la materia.
Para identificar que una estrategia omite una defensa tengo que saber que esa defensa existe.
Para notar que un cálculo de término es incorrecto tengo que comprender la regla de cómputo.
Para cuestionar una conclusión necesito tener alguna razón para pensar que existe una alternativa.
La supervisión humana no aparece automáticamente por colocar a una persona al final del proceso.
La capacidad de supervisar también debe formarse.
Y si la inteligencia artificial elimina precisamente los ejercicios mediante los cuales desarrollamos esa capacidad, podemos crear un problema estructural.
El despacho puede volverse más eficiente y menos inteligente al mismo tiempo
Suena paradójico.
Pero imaginemos una organización donde la IA hace cada vez más.
Los documentos se producen más rápido.
Las investigaciones tardan menos.
Los clientes reciben respuestas antes.
Los márgenes mejoran.
Todo parece funcionar.
Pero lentamente ocurre algo.
Cada vez menos personas saben por qué funciona.
Las metodologías dejan de estar en la cabeza de los abogados.
Los argumentos aparecen directamente en el sistema.
Las decisiones anteriores se reutilizan sin volver a ser cuestionadas.
Los abogados jóvenes aprenden qué botón presionar, pero no necesariamente qué proceso intelectual existe detrás.
Entonces el despacho puede aumentar enormemente su capacidad operativa mientras disminuye su capacidad de razonar independientemente de la herramienta.
Eso es un riesgo mucho más difícil de observar que una cita inventada.
La comodidad puede convertirse en automatismo
La inteligencia artificial será adoptada precisamente porque es cómoda.
Y eso no tiene nada de malo.
Una buena herramienta debe reducir fricción.
El problema aparece cuando determinadas decisiones comienzan a ejecutarse casi automáticamente.
El sistema recomienda A.
El abogado acepta.
El siguiente asunto también recomienda A.
Después otro.
Eventualmente la organización deja de preguntarse por qué.
Aparece algo parecido a una jurisprudencia interna invisible:
“así lo hace el sistema.”
Y ésa es una frase que debería preocupar a cualquier organización jurídica.
Porque un método que nadie cuestiona puede continuar ejecutándose durante años incluso después de que sus premisas dejaron de ser correctas.
La inteligencia artificial también puede institucionalizar errores
Un abogado se equivoca en un asunto.
El daño normalmente se limita a ese asunto.
Un sistema mal diseñado puede equivocarse de manera consistente en cientos.
Ésta es una diferencia fundamental entre errores humanos y errores automatizados.
La inteligencia artificial permite escalar buenas prácticas.
Pero también permite escalar malas prácticas.
Un criterio incorrecto.
Una regla de clasificación defectuosa.
Una interpretación desactualizada.
Una política mal configurada.
Una instrucción de sistema equivocada.
Todo puede repetirse de forma extraordinariamente eficiente.
Por eso la pregunta no debería ser únicamente:
“¿qué tan exacto es el sistema?”
También:
“¿qué tan rápido propagamos un error cuando ocurre?”
El riesgo real está en la combinación de confianza y escala
Un sistema mediocre genera desconfianza.
El abogado revisa todo.
Un sistema extraordinario genera confianza.
El abogado revisa menos.
Esto produce una paradoja.
El riesgo de dependencia puede aumentar precisamente conforme mejora la tecnología.
Si una herramienta acierta 60% de las veces, nadie sensato le delegará decisiones importantes.
Si acierta 99% de las veces, empezaremos a hacerlo.
Pero en el Derecho, ese 1% puede ser el asunto donde vence un término.
La cláusula que cambia una operación.
La excepción que vuelve improcedente una demanda.
La circunstancia que nadie detectó porque todos confiaron.
El objetivo entonces no puede ser construir sistemas que nunca fallen.
Debe ser construir sistemas donde el fracaso sea detectable y manejable.
El problema de la confidencialidad también es cultural
En un artículo anterior hablamos del secreto profesional.
Pero existe una dimensión organizacional que merece atención.
Un despacho puede tener una política perfecta sobre qué herramientas están autorizadas.
Y, al mismo tiempo, sus abogados pueden estar utilizando otras herramientas de manera informal porque son más fáciles.
Copiar un contrato.
Subir un expediente.
Pedir un resumen.
Probar una extensión del navegador.
Utilizar una cuenta personal.
No necesariamente por irresponsabilidad.
Muchas veces simplemente porque la tecnología oficial resulta menos práctica.
Esto crea lo que podríamos llamar una IA paralela dentro del despacho.
Una infraestructura invisible.
Sin permisos claros.
Sin gobierno.
Sin trazabilidad.
Sin conocimiento institucional de qué datos están siendo procesados dónde.
La seguridad no depende únicamente de escribir una política.
Depende de hacer que el comportamiento correcto también sea el comportamiento más fácil.
Prohibir tampoco resuelve el problema
Ante todos estos riesgos puede aparecer una conclusión aparentemente prudente:
“Entonces prohibamos la inteligencia artificial.”
Sería un error.
La tecnología es demasiado útil.
Los incentivos para utilizarla son demasiado grandes.
Y buena parte de la profesión ya se está moviendo en esa dirección.
Un despacho que simplemente prohíbe puede terminar con algo peor:
uso clandestino.
Herramientas personales.
Procesos imposibles de supervisar.
Y, además, una pérdida progresiva de competitividad.
El objetivo no es eliminar la IA del despacho.
Es incorporarla de una manera que aumente capacidad sin destruir comprensión.
La solución no es menos IA. Es mejor arquitectura
Aquí la conversación se vuelve particularmente interesante.
Un sistema jurídico responsable debería estar diseñado para evitar que el abogado se convierta en un simple operador.
Por ejemplo:
No debería limitarse a mostrar una conclusión.
Debería mostrar sus fuentes.
No debería presentar incertidumbre como certeza.
Debería señalar qué información falta.
No debería ocultar alternativas.
Debería hacer visibles las posiciones contradictorias.
No debería ejecutar decisiones críticas silenciosamente.
Debería exigir intervención cuando exista suficiente riesgo.
No debería permitir que el conocimiento desaparezca dentro de una caja negra organizacional.
Debería conservar trazabilidad sobre qué ocurrió y por qué.
La arquitectura puede provocar pensamiento o puede desincentivarlo.
Ésa es una decisión de diseño.
Quizá la mejor IA jurídica sea la que sabe cuándo incomodar
Las herramientas tecnológicas normalmente quieren eliminar fricción.
Pero en ciertas decisiones jurídicas la fricción es saludable.
Antes de dejar vencer un término, quizá necesitamos una confirmación explícita.
Antes de presentar una demanda, quizá el sistema debería obligarnos a revisar las principales objeciones.
Antes de aceptar una estrategia, podría mostrar cuál es la mejor alternativa encontrada.
Antes de utilizar información especialmente sensible, podría advertir al usuario.
Antes de cerrar una tarea crítica, podría exigir una razón.
Eso vuelve el sistema ligeramente menos cómodo.
Y quizá precisamente por eso lo vuelve profesionalmente mejor.
No todas las decisiones necesitan un botón de “sí” inmediato.
Algunas necesitan un momento de resistencia.
La IA debería preservar el razonamiento, no sólo el resultado
Ésta es una idea particularmente importante para nosotros en ELÍAS.
Un expediente no debería recordar únicamente qué decisión se tomó.
También debería poder conservar:
qué información existía en ese momento,
qué alternativas se consideraron,
qué argumentos se descartaron,
qué riesgo se identificó,
qué cambió posteriormente,
y por qué se escogió determinada estrategia.
Ese historial tiene un valor enorme.
Permite que otro abogado entienda el asunto.
Permite revisar decisiones anteriores.
Permite detectar cuándo una premisa dejó de ser válida.
Permite aprender de errores.
Y, sobre todo, evita que la inteligencia de la organización se reduzca a una colección de conclusiones sin contexto.
Una organización jurídica no aprende cuando almacena respuestas. Aprende cuando conserva razones.
El gran riesgo es perder la capacidad de disentir
Quizá podamos resumir todo este problema en una sola habilidad.
Disentir de la máquina.
Para disentir necesito:
comprender el problema,
tener suficiente conocimiento,
identificar alternativas,
tolerar la posibilidad de que la respuesta convincente esté equivocada,
y estar dispuesto a invertir tiempo adicional cuando algo no me convence.
Si formamos abogados incapaces de hacer eso, habremos creado una dependencia muy profunda.
No de una marca determinada.
No de ChatGPT.
No de un modelo específico.
Sino de una forma de trabajo en la que la respuesta aparece antes que el pensamiento.
Y ése sería un cambio profesional mucho más importante que cualquier alucinación.
ELÍAS no debería pensar para evitar que el abogado piense
Esta preocupación forma parte de cómo imaginamos ELÍAS.
Queremos automatizar muchísimo.
Sería absurdo no hacerlo.
Queremos que el sistema pueda reconstruir expedientes.
Investigar.
Detectar términos.
Organizar hechos.
Relacionar documentos.
Identificar riesgos.
Proponer estrategias.
Generar borradores.
Construir objeciones.
Recordar decisiones.
Pero cuanto más capaz sea el sistema, más importante será otra función:
saber dónde debe devolver la pregunta al abogado.
No queremos una inteligencia artificial que produzca tanta confianza que vuelva irrelevante la intervención humana.
Queremos una que ayude al abogado a llegar a las decisiones importantes con más información, mejores alternativas y una comprensión más profunda del problema.
Eso exige diseñar conscientemente dónde automatizamos.
Y dónde no.
La inteligencia artificial puede hacernos mejores abogados o solamente abogados más rápidos
Ésa es probablemente la bifurcación más importante.
Podemos utilizar inteligencia artificial para producir más.
Más contratos.
Más escritos.
Más investigaciones.
Más respuestas.
Más asuntos.
O podemos utilizarla para comprender mejor.
Ver patrones que antes no veíamos.
Comparar más alternativas.
Mantener mejor el contexto.
Detectar riesgos antes.
Liberar tiempo para hablar con el cliente.
Contradecir nuestras primeras hipótesis.
Aprender de decisiones anteriores.
Ambos usos aumentan productividad.
Pero sólo uno necesariamente aumenta la calidad profesional.
La diferencia depende menos de la capacidad del modelo y más de cómo decidamos incorporarlo al trabajo.
Entonces, ¿cuál es el verdadero riesgo?
No es que la inteligencia artificial se equivoque.
Se equivocará.
Nosotros también.
El verdadero riesgo es construir una profesión donde:
nadie sabe cómo se llegó a la respuesta,
nadie tiene tiempo para cuestionarla,
los abogados jóvenes nunca desarrollan las habilidades necesarias para supervisarla,
las organizaciones automatizan errores a escala,
y la revisión humana termina siendo una formalidad.
Ese futuro sería extraordinariamente eficiente.
Y profundamente frágil.
Por eso la pregunta que deberían hacerse los despachos no es solamente:
“¿Qué podemos automatizar?”
También:
“¿Qué capacidades humanas necesitamos preservar precisamente porque estamos automatizando?”
La inteligencia artificial puede convertirse en una de las herramientas más poderosas que haya tenido nunca un abogado.
Pero una herramienta poderosa exige una profesión suficientemente fuerte para utilizarla.
El objetivo no puede ser simplemente hacer que la máquina piense cada vez mejor.
Tiene que ser conseguir que, gracias a ella, nosotros también pensemos mejor.
Sobre el autor
Santiago Calderón Chávez es CEO & Co-Founder de ELÍAS, una plataforma de inteligencia artificial jurídica enfocada en transformar la manera en que los abogados trabajan con información, expedientes y procesos jurídicos.