Un incidente que marca el inicio de un problema sistémico
El bufete que asesora a OpenAI, víctima de su propia herramienta. Fallos en la revisión humana: la complacencia a dos mil dólares la hora Riesgos para la integridad del sistema judicial. Lecciones impostergables para el uso de IA en profesiones críticas.
Sullivan & Cromwell, uno de los despachos más prestigiosos de Wall Street y asesor legal de OpenAI en materia de despliegue ético de inteligencia artificial, se ha visto obligado a disculparse ante el juez federal Martin Glenn del Tribunal de Quiebras del Distrito Sur de Nueva York. El motivo: un motion de emergencia en el caso Chapter 15 de Prince Global Holdings contenía errores graves generados por IA, entre ellos citas a casos inexistentes, citas textuales fabricadas y disposiciones del Código de Quiebras de Estados Unidos completamente inventadas.
El 18 de abril de 2026, el socio Andrew Dietderich, co-líder del grupo global de reestructuraciones, remitió una carta al juez Glenn reconociendo los “errores de alucinación” de la IA. No se trató de un desliz menor. La firma tuvo que presentar una corrección de tres páginas a espacio sencillo enumerando más de cuarenta inexactitudes. Lo más grave: las revisiones primaria y secundaria del equipo —incluidos socios senior— no detectaron nada. Fue el bufete rival Boies Schiller Flexner quien alertó al tribunal.
Este episodio no es un accidente aislado. Es la confirmación de que la confianza ciega en herramientas de IA sin verificación rigurosa está penetrando los niveles más altos de la práctica legal. Sullivan & Cromwell factura a sus socios a más de dos mil dólares por hora. Los clientes pagan precisamente por la garantía de precisión absoluta en documentos que pueden decidir quiebras multimillonarias, reestructuraciones globales o destinos corporativos. Sin embargo, la firma admitió que su propia política interna —“confiar en nada y verificar todo”— fue violada. La IA generó el contenido; los humanos lo firmaron.
La ironía resulta demoledora. El mismo despacho que asesora a OpenAI sobre el uso “seguro y ético” de la inteligencia artificial acaba de demostrar en un tribunal federal que ni siquiera ellos controlan las limitaciones inherentes de la tecnología que promueven. Las alucinaciones no son fallos anecdóticos; son estructurales. Los modelos de lenguaje actuales inventan citas, distorsionan estatutos y fabrican precedentes cuando no encuentran datos exactos que se ajusten a la consulta. En derecho, donde una cita errónea puede invalidar un argumento entero o exponer al cliente a sanciones, esta conducta es inaceptable.
El caso Prince Global Holdings —vinculado a un conglomerado camboyano con acusaciones de trabajo forzado— no era un asunto menor. Un error en la interpretación del Código de Quiebras podía alterar el curso de la reestructuración internacional. Que el propio bufete que defiende la fiabilidad de la IA en entornos regulados haya tenido que humillarse públicamente ante un juez federal debería servir como llamada de atención definitiva a toda la industria.
No se trata de demonizar la IA. Se trata de confrontar la realidad: la herramienta es poderosa para tareas repetitivas y análisis preliminares, pero no sustituye el juicio profesional ni la responsabilidad ética del abogado que firma el documento. La complacencia —esa creencia de que “la IA lo hizo bien” sin contrastar cada cita— es el verdadero enemigo. Y cuando esa complacencia ocurre en un despacho que cobra tarifas premium, el daño reputacional y la pérdida de confianza son proporcionales al precio que facturan.
Fuentes
- The New York Times (2026) A.I. ‘Hallucinations’ Created Errors in Court Filing, Top Law Firm Says https://www.nytimes.com/2026/04/21/nyregion/sullivan-cromwell-ai-hallucination.html
- Reuters (2026) Sullivan & Cromwell law firm apologizes for AI ‘hallucinations’ in court filing https://www.reuters.com/legal/litigation/sullivan-cromwell-law-firm-apologizes-ai-hallucinations-court-filing-2026-04-21/
- Above the Law (2026) Sullivan & Cromwell Files Emergency ‘Please Don’t Sanction Us For All These AI Hallucinations’ Letter https://abovethelaw.com/2026/04/sullivan-cromwell-files-emergency-please-dont-sanction-us-for-all-these-ai-hallucinations-letter/
- Sullivan & Cromwell (2026) Carta de Andrew Dietderich al Juez Martin Glenn (In re Prince Global Holdings) https://websitedc.s3.amazonaws.com/documents/In_re_Prince_USA_18_April_2026.pdf
- Bloomberg Law (2026) Sullivan & Cromwell Apologizes to Judge for AI Hallucinations https://news.bloomberglaw.com/business-and-practice/sullivan-cromwell-apologizes-to-judge-for-ai-hallucinations
