Multa sin precedentes para un abogado por citar casos falsos generados por IA

Un tribunal en Oregon ha impuesto una sanción de US$10.000 a un abogado que presentó un escrito con referencias generadas de manera errónea por inteligencia artificial, según un informe reciente del Oregonian. Esta es la multa más elevada registrada hasta el momento por citar casos ficticios en el estado, y pudo haber sido mayor; sin embargo, los jueces optaron por una decisión más indulgente, según el medio.

El abogado implicado es Bill Ghiorso, originario de Salem, quien presentó un documento legal ante el tribunal de apelaciones que contenía 15 referencias erróneas y nueve citas igualmente ficticias. Ghiorso atribuyó las alucinaciones de la IA a un asistente y inicialmente trató de apelar la multa impuesta.

En diciembre de 2025, otro abogado en Oregón ya había sido multado por un caso similar. En esa ocasión, un panel de tres jueces determinó que se cobrarían US$500 por cada caso falso y US$1.000 por cada cita o afirmación de ley que resultara ser falsa. En el caso de Ghiorso, la suma total de la multa hubiese alcanzado los US$16.500, pero los jueces decidieron reducirla a US$10.000.

Ghiorso explicó ante los jueces que su equipo había verificado en Google la existencia de los casos citados y obtuvo respuestas afirmativas: “Si se le pregunta al motor de búsqueda de Google sobre la realidad de varios de los casos ficticios, este utiliza su sistema de inteligencia artificial para afirmar que esos casos son reales”.

No confiar

Es habitual que las personas piensen que pueden validar la veracidad de información generada por IA preguntando a un chatbot si es real, pero las herramientas de inteligencia artificial generativa no son fiables para este propósito. Otros creen que pueden evitar que su chatbot de IA produzca información incorrecta simplemente añadiendo la instrucción «no alucines”. Sin embargo, esto no es efectivo.

Los magistrados señalaron que Ghiorso debería haber sido consciente de que “presentar un escrito con citas no verificadas, que son invenciones, constituye una infracción a los deberes del abogado de actuar de manera profesional, veraz y honesta ante el tribunal”.

Aún no está claro si la oficina de Ghiorso se basó exclusivamente en las respuestas de la IA de Google o si utilizó otros chatbots para generar las alucinaciones. Hasta el momento, Ghiorso no ha respondido a las consultas realizadas por e-mail el jueves pasado.

En los últimos tiempos, han surgido múltiples casos de abogados que presentaron documentos legales con alucinaciones generadas por IA. La mayoría de ellos reciben advertencias y no enfrentan mayores consecuencias, aunque algunos jueces optan por imponer sanciones económicas, como la multa que le fue aplicada a Ghiorso.

Recientemente, también en Oregon, se multó a otro abogado con US$500 por una cita falsa. En Nueva Orleans, un panel de tres jueces sancionó a un abogado con US$2.500 por citar casos ficticios el mes pasado.

Este artículo ha sido traducido de Gizmodo US por Romina Fabbretti. Aquí podrás encontrar la versión original.