¿Puede un abogado usar ChatGPT? Inteligencia artificial, responsabilidad y secreto profesional
Santiago Calderón Chávez
CEO & Co-Founder de ELÍAS
Sí.
Un abogado puede utilizar ChatGPT.
Pero esa respuesta, por sí sola, dice muy poco.
La pregunta verdaderamente importante es otra:
¿qué información puede entregarle, para qué puede utilizarlo y qué responsabilidad conserva después de hacerlo?
La inteligencia artificial generativa está entrando rápidamente al trabajo jurídico porque resuelve problemas reales. Puede resumir documentos, comparar contratos, organizar hechos, sugerir líneas de investigación, estructurar escritos y ayudarnos a entender expedientes complejos.
Pretender que los abogados simplemente no la utilicen sería poco realista.
Pero existe una diferencia enorme entre utilizar inteligencia artificial como herramienta profesional y copiar información confidencial de un cliente en cualquier plataforma disponible sin entender qué ocurre con esos datos.
Ahí aparece uno de los problemas centrales de la adopción de inteligencia artificial en el Derecho.
No basta con preguntarnos qué puede hacer la tecnología.
También tenemos que preguntarnos qué estamos autorizados a hacer nosotros con la información que nos fue confiada.
El abogado trabaja con información que no le pertenece
Éste es un buen punto de partida.
Un expediente puede estar en nuestra computadora.
Un contrato puede estar guardado en nuestro Drive.
Un cliente puede habernos enviado estados de cuenta por WhatsApp.
Podemos tener acceso a información fiscal, financiera, corporativa, familiar, médica o patrimonial.
Pero tener acceso a esa información no significa que podamos utilizarla de cualquier manera.
El abogado recibe información precisamente porque existe una relación de confianza.
El cliente cuenta hechos que quizá nunca comunicaría públicamente porque necesita que su abogado pueda entender el problema y defender sus intereses.
Por eso el secreto profesional no es únicamente una regla incómoda que limita nuestra capacidad tecnológica.
Es parte de la infraestructura sobre la que funciona la relación abogado-cliente.
Si una persona no puede hablar con franqueza con su abogado, la calidad de la representación jurídica necesariamente disminuye.
Y esa obligación no desaparece porque la herramienta que estamos utilizando sea extraordinariamente útil.
El secreto profesional sigue existiendo cuando aparece una nueva tecnología
La inteligencia artificial no crea desde cero el problema de confidencialidad.
Los abogados llevan décadas utilizando proveedores tecnológicos.
Correo electrónico.
Servicios de almacenamiento.
Software administrativo.
Plataformas de videollamada.
Sistemas de gestión documental.
Servicios de firma electrónica.
Servidores externos.
La pregunta siempre ha sido, de una forma u otra, la misma:
¿estamos protegiendo razonablemente la información que nos fue confiada?
La inteligencia artificial agrega una dificultad particular porque la interacción es extremadamente sencilla.
Copiar.
Pegar.
Preguntar.
Y recibir una respuesta.
Esa facilidad puede hacernos olvidar que, detrás del cuadro de texto, estamos transmitiendo información a un sistema tecnológico externo bajo determinadas condiciones técnicas, contractuales y de privacidad.
En México, además del deber profesional de confidencialidad, el tratamiento de información puede involucrar obligaciones bajo la Ley Federal de Protección de Datos Personales en Posesión de los Particulares, cuyo texto vigente regula el tratamiento legítimo, controlado e informado de datos personales.
El Código Penal Federal también contempla la revelación de secretos y establece una consecuencia agravada cuando la revelación punible proviene de alguien que presta servicios profesionales o técnicos. Esto no significa que cada uso de una herramienta tecnológica constituya una revelación penal; sí demuestra que la confidencialidad profesional tiene una dimensión jurídica que no deberíamos trivializar.
Entonces, ¿subir información a ChatGPT viola el secreto profesional?
No existe una respuesta universal de una sola palabra.
Depende.
Depende de qué información estamos compartiendo.
Depende de qué producto y configuración utilizamos.
Depende de las condiciones bajo las cuales el proveedor procesa y conserva la información.
Depende de si existen datos personales o sensibles.
Depende de las medidas adoptadas por el despacho.
Depende de las obligaciones concretas frente al cliente.
Y depende de para qué estamos realizando ese tratamiento.
Por eso me parece peligroso reducir esta conversación a dos posiciones extremas.
La primera:
“Nunca utilices inteligencia artificial con ningún asunto jurídico.”
La segunda:
“No pasa nada; ChatGPT es sólo otra herramienta.”
Ambas evitan la pregunta verdaderamente profesional.
Lo correcto es entender el riesgo y diseñar una política de uso acorde con él.
No todos los ChatGPT son iguales desde la perspectiva de datos
Incluso hablar simplemente de “ChatGPT” puede resultar impreciso.
Las condiciones de manejo de datos varían según el tipo de producto y la configuración utilizada.
Actualmente, en las cuentas personales de ChatGPT existe un control que permite desactivar el uso de nuevas conversaciones para mejorar los modelos. OpenAI señala que esto puede gestionarse desde Settings → Data Controls → Improve the model for everyone.
En cambio, para productos empresariales como ChatGPT Business y Enterprise, así como para la API de OpenAI, la compañía indica que por defecto no utiliza los datos empresariales de entrada y salida para entrenar sus modelos.
Esa diferencia importa.
Pero tampoco resuelve por sí sola la obligación profesional.
“No se utiliza para entrenamiento” no significa automáticamente “puedo subir cualquier información de cualquier cliente”.
Todavía deben analizarse cuestiones como acceso, retención, seguridad, finalidad, permisos internos, naturaleza de los datos y obligaciones legales o contractuales.
Una política seria de inteligencia artificial no puede reducirse a revisar una sola casilla de configuración.
Anonimizar ayuda, pero no siempre resuelve el problema
Una solución común es eliminar el nombre del cliente.
Eso es útil.
Pero puede ser insuficiente.
Imaginemos que reemplazamos:
“Juan Pérez”
por:
“EL CLIENTE”.
Y después pegamos un documento que contiene su RFC, domicilio, cuenta bancaria, nombre de la empresa, monto de la operación, número de expediente y descripción detallada de los hechos.
Formalmente eliminamos el nombre.
Materialmente seguimos proporcionando suficiente información para identificar a la persona.
La confidencialidad debe analizarse por el contenido completo, no por la presencia o ausencia de un nombre.
En muchos casos podremos trabajar con hechos verdaderamente abstraídos.
Por ejemplo:
“Una sociedad mercantil recibió una resolución administrativa y tiene quince días para impugnarla.”
Eso es muy diferente de cargar la resolución completa con nombres, domicilios, firmas, folios y datos patrimoniales.
Aprender a distinguir ambos escenarios debería formar parte de la nueva alfabetización tecnológica del abogado.
La IA no elimina el deber de competencia
Existe otro error.
Creer que el problema termina cuando protegimos correctamente los datos.
Supongamos que utilizamos una plataforma empresarial.
Tenemos buenas políticas de seguridad.
La información puede procesarse adecuadamente.
Perfecto.
Todavía falta algo:
la respuesta puede estar equivocada.
Una inteligencia artificial puede inventar una fuente.
Confundir jurisdicciones.
Interpretar mal una norma.
Omitir una excepción.
Tomar como cierto un hecho que nunca ocurrió.
Presentar con extraordinaria seguridad una conclusión jurídicamente débil.
Por eso el uso responsable de IA tiene al menos dos dimensiones diferentes:
proteger lo que entra y verificar lo que sale.
El secreto profesional protege al cliente frente al manejo indebido de su información.
La competencia profesional lo protege frente a una mala asesoría.
Una política completa tiene que considerar ambas cosas.
La American Bar Association, por ejemplo, abordó específicamente esta cuestión en su Formal Opinion 512. Aunque sus reglas no son vinculantes para los abogados mexicanos, resulta interesante como referencia comparada: identifica entre las obligaciones relevantes al utilizar IA generativa la competencia, confidencialidad, comunicación con el cliente, supervisión, deberes frente al tribunal y cobro razonable de honorarios.
“Lo hizo ChatGPT” nunca será una buena defensa profesional
Aquí conectamos con algo que discutimos en el artículo anterior.
El abogado conserva la responsabilidad sobre el trabajo que presenta como propio.
Si un escrito contiene una jurisprudencia inexistente, poco importa frente al cliente o al tribunal que la haya inventado una inteligencia artificial.
Si una estrategia fue incorrecta, decir que “la recomendó el sistema” tampoco resuelve el problema.
Si revelamos información que debíamos proteger, explicar que simplemente la copiamos en una plataforma tampoco parece una defensa profesional particularmente sólida.
Utilizar inteligencia artificial no debería permitirnos externalizar nuestra responsabilidad.
Debería exigirnos entender mejor nuestras herramientas.
No hace falta que todos los abogados se conviertan en ingenieros.
Pero sí debemos saber suficiente para entender:
qué información estamos entregando, a quién, bajo qué condiciones y qué hacemos después con la respuesta.
El cliente probablemente también merece participar en esta conversación
Hay asuntos en los que el uso de inteligencia artificial será prácticamente invisible.
Quizá utilizamos un sistema interno para clasificar legislación pública.
O para resumir una sentencia publicada.
O para ordenar documentos que no contienen información confidencial.
En otros casos, sin embargo, la utilización de inteligencia artificial puede involucrar material mucho más sensible.
Ahí es razonable preguntarnos si el cliente debería conocer las políticas tecnológicas mediante las cuales procesamos su información.
No necesariamente necesitamos llamar al cliente cada vez que un abogado utiliza una herramienta.
Pero los despachos sí deberían empezar a definir algo que hasta ahora muchas veces no existe:
una política institucional sobre inteligencia artificial.
Qué herramientas están autorizadas.
Qué información puede introducirse.
Qué información está prohibida.
Qué medidas deben adoptarse para anonimizar.
Qué cuentas deben utilizarse.
Quién puede acceder.
Cómo deben verificarse los resultados.
Y cuándo una decisión requiere necesariamente intervención humana.
La adopción de IA no debería depender de que cada abogado del despacho improvise su propia política de seguridad desde su computadora.
Prohibir ChatGPT tampoco es una estrategia suficiente
La reacción opuesta también tiene problemas.
Ante el riesgo, algunos despachos pueden decidir simplemente prohibir cualquier herramienta de inteligencia artificial.
Eso puede reducir determinadas contingencias a corto plazo.
Pero no necesariamente constituye una estrategia tecnológica sostenible.
Porque los abogados continuarán teniendo incentivos enormes para utilizar herramientas que les permitan trabajar mejor y más rápido.
Y existe incluso el riesgo de generar shadow AI: profesionistas utilizando herramientas por fuera de los sistemas autorizados precisamente porque la organización decidió ignorar una tecnología que ya forma parte de su realidad.
La solución probablemente no será prohibir indiscriminadamente.
Será gobernar.
Escoger herramientas apropiadas.
Configurar entornos seguros.
Definir permisos.
Formar a los abogados.
Establecer procesos de revisión.
Y distinguir claramente entre los distintos niveles de sensibilidad de la información.
Un protocolo sencillo para empezar
Sin pretender que exista una regla idéntica para todos los despachos, antes de introducir información de un cliente en una herramienta de inteligencia artificial yo plantearía al menos estas preguntas:
¿Necesito realmente utilizar información identificable? Si puedo resolver el problema mediante hechos abstraídos o datos públicos, debería preferirlo.
¿Qué herramienta estoy utilizando y bajo qué condiciones? No es lo mismo una cuenta personal sin configuración revisada que un entorno empresarial administrado.
¿Qué tipo de información estoy enviando? Datos personales, secretos comerciales, estrategia procesal, información patrimonial o documentos confidenciales requieren un análisis mayor.
¿Sé cómo se procesa y conserva esa información? Las condiciones del proveedor forman parte del análisis profesional.
¿Quién verificará la respuesta? Ninguna salida jurídicamente relevante debería convertirse automáticamente en consejo profesional.
¿Estaría cómodo explicándole este uso al cliente? No es una prueba jurídica definitiva, pero suele ser una excelente prueba práctica de prudencia.
Éste no es el final del análisis.
Es apenas un buen comienzo.
El problema no es ChatGPT
Creo que dentro de algunos años esta discusión sonará curiosa.
Probablemente dejaremos de hablar específicamente de “usar ChatGPT” porque la inteligencia artificial estará integrada dentro de procesadores de texto, gestores documentales, buscadores jurídicos, correos electrónicos, expedientes y sistemas administrativos.
La IA dejará de sentirse como un sitio al que entramos.
Será una capa presente en prácticamente todas las herramientas profesionales.
Por eso la pregunta de fondo no puede ser:
“¿permitimos ChatGPT?”
Tiene que ser:
“¿cómo gobierna un despacho el uso de sistemas capaces de procesar información jurídica confidencial?”
Ésa es una pregunta mucho más duradera.
En ELÍAS, la confidencialidad no puede ser una función secundaria
Esta discusión también influye directamente en lo que queremos construir en ELÍAS.
Si aspiramos a que una inteligencia artificial pueda comprender expedientes, recordar actuaciones, detectar términos, analizar documentos y acompañar al abogado durante un asunto, inevitablemente estaremos hablando de información altamente sensible.
Por eso la arquitectura de una inteligencia artificial jurídica no puede comenzar únicamente con:
“¿qué tan bien responde?”
También debe preguntarse:
¿quién puede ver cada expediente?
¿Cómo se separa la información entre organizaciones?
¿Qué permisos tiene cada usuario?
¿Qué información necesita realmente cada proceso?
¿Cómo se mantiene trazabilidad?
¿Cómo se protege la información?
¿Qué acciones deben quedar registradas?
¿Qué decisiones nunca deberían ejecutarse automáticamente?
La seguridad y la confidencialidad no son accesorios que puedan agregarse cuando el producto esté terminado.
Son parte del producto jurídico.
Porque para un abogado una inteligencia artificial extraordinariamente inteligente pero incapaz de proteger adecuadamente la información de sus clientes puede ser, sencillamente, inutilizable.
Entonces, ¿puede un abogado usar ChatGPT?
Sí.
Pero la respuesta responsable nunca debería terminar ahí.
Un abogado puede utilizar ChatGPT y otras herramientas de inteligencia artificial para investigar, organizar, comparar, redactar, explorar alternativas y aumentar enormemente su productividad.
Lo que no puede hacer es asumir que la aparición de una nueva tecnología suspendió las obligaciones que ya tenía.
El secreto profesional sigue existiendo.
La protección de datos sigue existiendo.
La diligencia sigue existiendo.
La competencia sigue existiendo.
La responsabilidad sigue existiendo.
Y quizá ésa sea una de las reglas más importantes para entender esta transformación:
La inteligencia artificial puede cambiar nuestras herramientas sin cambiar aquello por lo que seguimos siendo responsables.
El futuro no debería dividirse entre abogados que utilizan inteligencia artificial y abogados que no la utilizan.
La división verdaderamente importante probablemente será otra.
Entre quienes la utilicen sin comprenderla y quienes aprendan a incorporarla sin sacrificar la confianza sobre la que descansa la profesión.
Sobre el autor
Santiago Calderón Chávez es CEO & Co-Founder de ELÍAS, una plataforma de inteligencia artificial jurídica enfocada en transformar la manera en que los abogados trabajan con información, expedientes y procesos jurídicos.