Abogado castigado por usar ChatGPT: falsas pruebas y testigos inventados

⏱ Tiempo de lectura: 5 min

La Corte Suprema de Nuevo México sancionó al abogado Stephen Aarons por presentar un escrito legal con testimonios falsos de testigos completamente fabricados, incluyendo declaraciones policiales falsas. Aarons, defensor penal con más de 40 años de experiencia, utilizó ChatGPT para resumir documentos de un caso de asesinato y no verificó la precisión del contenido antes de firmarlo y presentarlo ante la corte en agosto de 2025.

La sentencia y las violaciones detectadas

La corte declaró a Aarons en desacato directo y lo remitió a una junta de disciplina profesional. El abogado admitió que no verificó ni los hechos ni la autoridad legal en su escrito generado por IA antes de presentarlo, y tampoco informó a su cliente de esta omisión. El escrito contenía testimonios falsos de cuatro testigos que nunca existieron: los oficiales Michelle Amarillo y Sánchez, Manal Al-Jibury y Teresa Marquez. Además, incluyó declaraciones falsas atribuidas a Danny Stanton, Linda Stanton y Mariah Chavez respecto a amenazas recibidas y la apariencia del presunto tirador.

Cómo sucedió: ChatGPT y el modelo o3

Aarons utilizó Rev.com para obtener una transcripción de la audiencia de asesinato de su cliente, Oscar Renee Sandoval, quien fue condenado a cadena perpetua en febrero de 2025 por matar a Shiereen Al-Jibury. Luego alimentó esa transcripción, registros procesales, declaración de temas en disputa y documentos de descubrimiento a ChatGPT, específicamente a una versión con el modelo o3 de OpenAI. El modelo generó testimonios que nunca ocurrieron en el juicio real. Aarons aseguró que asumió que recibiría un resumen "a prueba de balas" debido a la adopción generalizada de IA en campos legales y médicos.

Reacciones judiciales y sanciones

Durante la audiencia del 21 de agosto de 2026, la justicia C. Shannon Bacon cuestionó duramente que Aarons desconociera que la IA puede alucinar información falsa. Bacon señaló que su sobrino de 13 años y su padrastro de 75 años conocen este problema, y preguntó si Aarons veía noticias o leía sobre lo que sucede en el mundo. Indicó que la cuestión de abogados usando alucinaciones de IA es un titular diario. Aarons fue multado con 5,000 dólares para el Fondo de Protección del Cliente de la Junta de Abogados de Nuevo México, se le prohibió comparecer ante la Corte Suprema estatal hasta que concluya la investigación disciplinaria, y la corte ordenó al defensor público asignar un nuevo abogado al cliente. Todos los escritos anteriores fueron eliminados del expediente.

Lo que falta confirmar

La investigación disciplinaria aún está en curso y podría resultar en sanciones adicionales más severas. El caso de Sandoval reiniciará en el período 2026-27 de la corte. Aunque Aarons reclamó haber enviado el escrito hace más de un año, los problemas de abogados citando casos falsos generados por IA han sido noticia regular durante más de tres años.

En Inteligencia Artificial, este caso evidencia que la responsabilidad profesional no depende de quién o qué genera el contenido: el abogado que firma sigue siendo el responsable. ¿Cómo pueden los profesionales usar herramientas de IA sin comprometer su deber ético fundamental de verificar?

Fuente: arstechnica.com

Dato	Detalle
Abogado	Stephen Aarons, defensor penal con 40+ años de experiencia
Modelo de IA utilizado	ChatGPT con modelo o3 de OpenAI
Testigos falsificados	Oficial Michelle Amarillo, Oficial Sánchez, Manal Al-Jibury, Teresa Marquez, Danny Stanton, Linda Stanton, Mariah Chavez
Fecha de presentación del escrito	Agosto de 2025
Multa impuesta	5,000 dólares para el Fondo de Protección del Cliente
Sanciones adicionales	Prohibición de comparecer ante Corte Suprema; investigación disciplinaria en curso
Caso procesado	Asesinato; cliente Oscar Renee Sandoval condenado a cadena perpetua en febrero de 2025
Jurisdicción	Corte Suprema de Nuevo México, Estados Unidos

Preguntas frecuentes sobre abogados y alucinaciones de IA

¿Por qué la corte castigó tan severamente al abogado?

Aarons violó ocho o nueve disposiciones del código de conducta profesional al no verificar la precisión del contenido antes de firmarlo, no informar a su cliente y presentar falsos testimonios. El abogado que firma un escrito es responsable de su exactitud, independientemente de la herramienta utilizada para generarlo.

¿Es posible usar ChatGPT en casos legales de forma segura?

La corte indicó que los abogados pueden usar IA si verifican completamente toda la información contra documentos originales, registros de audiencia y bases de datos legales confiables antes de presentar cualquier escrito. La falta de verificación es negligencia profesional.

¿Qué sucederá con el caso del cliente de Aarons?

La Corte Suprema ordenó al defensor público asignar un nuevo abogado; todos los escritos anteriores fueron eliminados del expediente, y el caso reiniciará en el período 2026-27 de la corte. La apelación efectivamente fue anulada.

Qué falta por confirmar

La junta disciplinaria aún no ha completado su investigación y podría imponer sanciones adicionales, posiblemente más graves que la multa actual. Tampoco está confirmado si este caso generará nuevas regulaciones estatales sobre el uso de IA en documentos legales, aunque Aarons sugirió que la corte podría emitir una orden de cumplimiento que requiera certificados explícitos sobre el uso de IA.

En Inteligencia Artificial, este fallo subraya un principio crítico: la tecnología no elimina responsabilidad humana. Profesionales en cualquier campo deben entender que usar una herramienta no los exime de verificar su trabajo antes de presentarlo públicamente. ¿Qué otras industrias enfrentarán dilemas similares cuando automaticen procesos críticos?

Fuente: arstechnica.com