Perplexity promete no alucinar en el sector legal: ¿marketing o realidad?
La IA llega a los juzgados jurando que no inventa citas. Más de 1.200 casos demuestran que esa promesa merece algo más que fe.
En este artículo
El Cuñado llega a los juzgados
El Cuñado dice: "Perplexity ha resuelto el problema de las alucinaciones. Ya podemos IA en el despacho sin miedo."
La realidad es: desde 2023 se han reportado más de 1.200 situaciones en que alucinaciones de IA llegaron a presentaciones judiciales reales. Y eso incluye herramientas vendidas expresamente para el sector legal por proveedores "de confianza".
Por qué importa saberlo: porque un abogado que cita jurisprudencia inventada no solo pierde el caso. Puede perder la licencia, enfrentarse a sanciones y arrastrar a su cliente a un desastre que se podía haber evitado con diez minutos de verificación.
Qué ha hecho Perplexity exactamente
Perplexity organizó un evento llamado Computer for Counsel para presentar Comet, su agente de IA, al sector jurídico. El mensaje central: su producto mitiga las alucinaciones mejor que otros LLM. Eso es lo que hay sobre la mesa.
Lo que no hay es ningún estudio independiente realizado en bufetes reales que respalde esa afirmación. Ningún benchmark publicado. Ningún peer review. Solo el fabricante diciéndote que su producto es mejor.
En cualquier otro sector, eso se llama publicidad. En el sector legal, donde una cita inventada puede hundir un caso, se llama riesgo sin cuantificar.
Y hay un detalle que añade una capa de ironía considerable: mientras Perplexity se presenta ante abogados prometiendo fiabilidad, Amazon le tiene puesta una demanda por su agente Comet. La acusación es que el agente realizaba compras en nombre de usuarios sin revelar que era IA y transmitía datos sensibles a los servidores de Perplexity, supuestamente violando la Computer Fraud and Abuse Act (CFAA). Perplexity argumenta que la interpretación de Amazon es una expansión alarmante de la ley. El caso llegará a los tribunales. Que una empresa con una demanda activa sobre la transparencia de su agente de IA sea la que llega al sector legal prometiendo fiabilidad tiene su mérito narrativo.
Las alucinaciones no son un bug. Son arquitectura.
Aquí está el problema de fondo que ningún pitch de ventas va a resolver con una diapositiva bonita.
Un LLM (Large Language Model, o modelo de lenguaje grande) no busca información en una base de datos como si fuera Google. No "sabe" cosas en el sentido en que tú sabes dónde dejaste las llaves. Lo que hace es predecir, token a token, qué texto tiene más probabilidad de seguir al anterior, basándose en patrones aprendidos durante el entrenamiento.
Un token es la unidad mínima de texto que procesa el modelo: aproximadamente tres cuartos de una palabra en inglés. No es una unidad de significado; es una unidad estadística.
Cuando le pides a un LLM que cite una sentencia, el modelo no va a buscarla. Genera el texto que estadísticamente se parece a cómo se cita una sentencia. Si esa sentencia existe, bien. Si no existe pero suena plausible, el modelo la escribe igual, con el mismo tono de autoridad, con el mismo formato. Eso es una alucinación: una salida convincente que no corresponde a ninguna realidad verificable.
Las alucinaciones no son un fallo que alguien olvidó corregir. Son una consecuencia directa de cómo funciona la generación de texto probabilística.
Esto no significa que no se pueda reducir su frecuencia. Sí se puede. Pero "reducir" no es "eliminar", y cualquier sistema que prometa lo segundo sin datos que lo demuestren está vendiendo humo con traje de notario.
El historial que el sector legal ya tiene
No hace falta especular. Los datos están ahí.
En 2023 se presentó el primer escrito legal que incluía casos generados por IA. Fue un precedente. Desde entonces, según datos recogidos por Above the Law (10 de abril de 2026), se han reportado más de 1.200 situaciones en que alucinaciones de IA llegaron a presentaciones judiciales.
Uno de los casos más llamativos: Graciela Dela Torre utilizó ChatGPT en 2025 para generar docenas de documentos legales con casos alucinados. El resultado fue una demanda de Nippon Insurance contra OpenAI, alegando práctica no autorizada de la abogacía. El caso se presentó en marzo de 2026.
Pero lo más revelador no es ese caso, que involucra a alguien usando ChatGPT sin formación jurídica específica. Lo más revelador es lo que ocurrió la semana del 10 de abril de 2026, según el mismo artículo de Above the Law: un abogado presentó un escrito ante el Sexto Tribunal de Apelaciones de EE.UU. con citas reales pero con frases que no existían en las fuentes originales. Y lo hizo usando una herramienta de IA de un proveedor jurídico reputado.
No fue un novato usando ChatGPT a escondidas. Fue un profesional usando exactamente el tipo de producto que se vende como "fiable para el sector legal". Y aun así, el texto inventó frases dentro de citas reales. Las citas existían; el contenido que el modelo les atribuyó, no.
Eso es lo que hace que la promesa de "mitigamos las alucinaciones" sea tan difícil de tragar sin datos independientes. Porque el precedente dice que incluso las herramientas diseñadas para este sector fallan, y fallan de formas sutiles que son más peligrosas que los errores obvios.
El 39% que verifica. Y el 61% que no.
Hay otro número que debería preocupar a cualquier socio de un despacho que esté pensando en adoptar IA: según una encuesta intersectorial de 2025 recogida por pharmaphorum (21 de abril de 2026), solo el 39% de los usuarios verifica la información generada por IA con fuentes externas.
El 61% restante confía en el output del modelo. Lo toma, lo incorpora al documento y sigue adelante.
En un contexto de marketing, eso puede significar un titular impreciso. En un contexto legal, puede significar una cita inventada en un escrito ante un tribunal federal.
La misma encuesta reveló que el 44% de las organizaciones reportaron consecuencias negativas derivadas del uso de IA generativa, con pérdidas promedio de 4,4 millones de dólares por incidente. Los datos son de 2025 y la encuesta no detalla su metodología ni tamaño de muestra con precisión, así que hay que tomarlos con cautela. Pero la dirección es clara: los errores de IA en entornos profesionales tienen coste real y medible.
Lo que sí funciona: sistemas anclados en documentos
No todo es catastrofismo. Hay aproximaciones técnicas que reducen genuinamente el riesgo de alucinación, aunque ninguna lo elimine.
La más relevante para el sector legal es lo que se conoce como sistemas document-grounded: arquitecturas en que el modelo no genera respuestas desde su conocimiento general, sino que está forzado a anclarlas en un corpus de documentos verificados, mostrando las citas exactas de donde extrae cada afirmación.
Es el principio detrás de los sistemas RAG (Retrieval-Augmented Generation, o generación aumentada por recuperación). El modelo no "inventa" la respuesta; primero recupera fragmentos de documentos reales y luego genera texto basándose en esos fragmentos, que quedan citados explícitamente.
Eso reduce el espacio en que puede alucinar. Pero no lo elimina: el modelo puede malinterpretar el fragmento recuperado, puede seleccionar el fragmento equivocado, o puede generar una síntesis que distorsione el sentido del original. Lo que vimos en el caso del Sexto Tribunal de Apelaciones (citas reales con frases inventadas dentro) es exactamente ese tipo de fallo residual.
La diferencia entre un sistema RAG bien implementado y uno mal implementado puede ser enorme. Pero esa diferencia solo es visible si alguien la mide, publica los resultados y los somete a revisión independiente. Sin eso, "usamos RAG" es tan verificable como "mitigamos las alucinaciones".
Lo que Ken Crutchfield lleva 40 años viendo
Ken Crutchfield, autor del artículo de Above the Law con más de cuatro décadas de experiencia en el sector legal, propone una analogía que merece atención: tratar la gestión de alucinaciones de IA como la industria financiera trata los errores contables.
La referencia es a estándares como GAAP (Generally Accepted Accounting Principles, los principios contables generalmente aceptados) y Sarbanes-Oxley, la ley federal de EE.UU. de 2002 que impuso reformas estrictas en contabilidad y divulgación financiera de empresas públicas. Sarbanes-Oxley nació después de escándalos como Enron: cuando quedó claro que sin auditoría independiente y responsabilidad explícita, los errores (intencionados o no) se acumulan hasta que el sistema revienta.
La propuesta de Crutchfield: que las firmas legales creen funciones de auditoría interna independientes específicamente para los outputs de IA, con estándares documentados, trazabilidad y responsabilidad explícita.
Es una idea razonable. El problema es que requiere inversión, estructura y voluntad de reconocer que la herramienta falla. Ninguna de esas tres cosas es compatible con el pitch de ventas de "nuestra IA no alucina".
La trampa del proveedor de confianza
Hay una trampa cognitiva que vale la pena nombrar porque es la que más daño hace en la práctica.
Cuando alguien usa ChatGPT sin más y comete un error, la reacción del sector es: "claro, usó una herramienta de consumo para trabajo profesional". La lección aprendida es "usa herramientas diseñadas para el sector".
Pero el caso del Sexto Tribunal de Apelaciones desmonta esa lección. El abogado usó exactamente eso: una herramienta de un proveedor jurídico reputado. Y el error se coló igualmente, de forma más sutil y por tanto más peligrosa.
La trampa es pensar que el sello "diseñado para el sector legal" equivale a "verificado de forma independiente". No equivale. Puede significar simplemente que la interfaz tiene los colores correctos y que el comercial conoce la terminología jurídica.
La verificación real requiere datos: tasas de error medidas en casos reales, metodología publicada, resultados reproducibles. Sin eso, "diseñado para el sector legal" es un argumento de marketing, no una garantía técnica.
Qué debería exigir cualquier despacho antes de firmar
Si un despacho está evaluando adoptar cualquier herramienta de IA para trabajo jurídico (Perplexity, cualquier otra), hay un conjunto mínimo de preguntas que deberían tener respuesta documentada antes de firmar nada:
- ¿Cuál es la tasa de alucinación medida en casos jurídicos reales? No en benchmarks genéricos: en escritos, contratos y análisis de jurisprudencia.
- ¿Quién hizo esa medición? ¿El propio proveedor o un tercero independiente?
- ¿El sistema muestra las fuentes exactas de cada afirmación generada, de forma que el abogado pueda verificarlas en segundos?
- ¿Qué protocolo de verificación exige el proveedor antes de que el output llegue a un documento oficial?
- ¿Qué responsabilidad contractual asume el proveedor si un error de su herramienta causa daño en un procedimiento judicial?
Si alguna de esas preguntas no tiene respuesta concreta, la herramienta no está lista para trabajo jurídico de alto riesgo. O mejor dicho: puede usarse, pero con un protocolo de verificación humana tan robusto que la "eficiencia" que promete la IA queda bastante en entredicho.
El dato que resume todo esto
Volvamos al número que más debería preocupar a cualquiera que gestione riesgo en un despacho: el 61% de usuarios que no verifica los outputs de IA.
Ese 61% no es gente estúpida. Es gente con presión de tiempo, con confianza en la herramienta que le han vendido como fiable, y sin un protocolo claro que les obligue a verificar. Es exactamente el contexto en que los errores se cuelan: no por negligencia flagrante, sino por confianza depositada en un sistema que no la ha ganado con datos.
La pregunta que debería hacerse cualquier firma que esté considerando adoptar IA no es "¿usa este proveedor RAG?" ni "¿tienen un evento para el sector legal?". La pregunta es: ¿qué pasa en tu despacho cuando la IA se inventa algo y nadie lo detecta?
Si no tienes una respuesta concreta para eso, el problema no es la herramienta. El problema es que no tienes el proceso.
Fuentes
- Amazon Case Against Perplexity Tests Reach of Computer Fraud Law
- What The Legal Industry Can Learn About AI Hallucinations From Auditors - Above the Law
- Controlling AI hallucinations: Building evidence-based trust in clinical and scientific workflows
- Meta Paid Wilmer Fees Approaching $64M in 2025, SEC Filing Reveals | Law.com
