Alucinaciones jurídicas: cuando la inteligencia artificial se inventa el Derecho

Por Osvaldo Hernández Olivera.
Abogado en Derecho Informático | Opinión Legal sobre Tecnología y Futuro.

Imagínese esta escena: un algoritmo de moda cita de golpe seis sentencias judiciales que, en la vida real, jamás existieron. El abogado, confiado, las firma; el juez, haciendo su trabajo, las busca en los archivos, ¿el resultado? Nadie las encontró porque eran pura ficción. La pregunta que hoy nos persigue y sigue extrañamente pendiente es: ¿quién responde por esto?

Corría el mes de mayo de 2023 cuando el abogado neoyorquino Steven Schwartz se la jugó presentando ante un tribunal federal un escrito de demanda que citaba seis sentencias del Segundo Circuito de Apelaciones. Evidentemente, el juez las buscó en las bases de datos oficiales y no apareció absolutamente ninguna: Schwartz había usado ChatGPT para redactar su escrito y el modelo había «alucinado», fabricando jurisprudencia con nombres de jueces reales, números de expediente increíblemente verosímiles y razonamientos coherentes, todo completamente inventado. Al final, el abogado fue sancionado con diez mil dólares. Pero la verdadera pregunta que este sonado caso dejó sobre la mesa de debate —y que de forma preocupante, en México nadie ha respondido aún— no es una cuestión ética: es puramente jurídica.

Hablemos claro. Las famosas alucinaciones de los modelos de lenguaje —esa molesta tendencia estructural a generar información plausible pero rotundamente falsa cuando carecen de certeza— no son un simple error de diseño que se corregirá mágicamente en la próxima actualización. Son el ADN mismo de cómo funcionan: están diseñados para predecir la siguiente palabra más probable, no para verificar la verdad de lo que producen; en el duro contexto jurídico, esta diferencia técnica no es meramente académica.

Así como una alucinación médica puede matar a un paciente, una alucinación jurídica tiene el poder de hundir un proceso legal, privar de derechos fundamentales a una parte y generar una gravísima responsabilidad profesional para el abogado que la firmó sin verificarla.

Aterricemos esto en nuestro país. En México, cualquier abogado que presente un escrito respaldado con jurisprudencia falsa incurre, sin la más mínima duda, en una flagrante omisión de la debida diligencia profesional que le exige tajantemente el artículo 27 de la Ley Federal de Profesiones: verificar la existencia y el contenido exacto de sus fuentes; ningún sistema de IA exonera al profesional de esta obligación.

La herramienta digital no firma el escrito; el abogado, de carne y hueso, sí lo hace. Pero la cadena de responsabilidad no termina ahí: si el proveedor del sistema comercializa su producto específicamente como una herramienta de investigación jurídica —como ya lo hacen varias plataformas en el mercado mexicano— y no advierte con claridad que los resultados deben verificarse de forma independiente, existe una base sólida para examinar su responsabilidad bajo el régimen de protección al consumidor y por eventuales daños a terceros. El gran vacío es que la Ley Federal de Protección al Consumidor no contempla el software de IA como categoría específica, dejando la responsabilidad del desarrollador como una enorme pregunta sin respuesta legislativa en México.

El problema arrastra una segunda dimensión que el caso Schwartz no agotó: la triste realidad del cliente que confía en el abogado que, a su vez, confía ciegamente en la máquina. Si el proceso se pierde o se dilata absurdamente por presentar jurisprudencia inexistente, ¿tiene el cliente acción de daños contra su propio abogado? En el derecho mexicano, la respuesta es un rotundo sí, con base en el contrato de prestación de servicios y el artículo 1910. Pero acreditar el nexo causal entre la alucinación, la negligencia y el daño concreto exige una pericia forense digital que nuestros tribunales aún no tienen protocolo para ordenar ni capacidad para valorar.

La solución perezosa no es prohibir el uso de la IA en la práctica jurídica; sería tan ridículo como haber prohibido los buscadores jurídicos en los noventa. Urge establecer tres pilares fundamentales: un estándar claro de debida diligencia sobre el nivel de verificación que exige el uso de IA; la obligación inquebrantable de revelarle al cliente el uso de estas herramientas; y un régimen de responsabilidad estricto para los proveedores que prometen fiabilidad jurídica. Los colegios de abogados deben emitir lineamientos de inmediato; la SEP tiene que actualizar los planes de ética profesional en las facultades de derecho y el Congreso, por fin, debe legislar. Tristemente, hoy ninguno lo ha hecho.

En resumidas cuentas: la IA no miente, simplemente predice. Pero en el implacable mundo del derecho, una predicción no verificada que se presenta como verdad absoluta tiene un nombre muy claro: negligencia profesional. El algoritmo no va a cambiar cómo funciona. El abogado sí puede —y francamente, debe— cambiar cómo lo utiliza.

Hogwarts llega gratis a Puebla con concierto sinfónico y concurso de cosplay