El uso de la inteligencia artificial en el ámbito jurídico ha vuelto a dejar una imagen preocupante. El Tribunal Superior de Justicia de Canarias ha impuesto una multa de 450 euros a un abogado que incluyó en un recurso de apelación hasta 48 citas de sentencias y un informe del Consejo General del Poder Judicial que simplemente no existen. El letrado utilizó ChatGPT para redactar el documento, confiando ciegamente en el texto generado sin realizar ninguna comprobación técnica.
El peligro de la falta de verificación en la abogacía
La sanción, descrita como simbólica por el tribunal, busca concienciar sobre la necesidad de contrastar la información con fuentes oficiales como el Cendoj. Este no es un caso aislado; la tendencia a que las IA generen datos falsos, conocidas como alucinaciones, es un fenómeno documentado que afecta tanto a herramientas generalistas como a algunas soluciones jurídicas premium. Estudios de instituciones como la Universidad de Stanford han señalado que incluso modelos avanzados presentan tasas significativas de error al citar jurisprudencia real.
Para los profesionales del derecho y usuarios de tecnología, este incidente subraya el riesgo del sesgo de automatización. La tendencia a priorizar respuestas rápidas sobre la verificación humana ha llevado a situaciones similares en otros tribunales, como el caso del TSXG de Galicia, que recientemente sancionó a otro letrado por una situación análoga. La falta de un control humano consciente y efectivo no solo compromete la integridad de los procedimientos judiciales, sino que expone a los profesionales a consecuencias legales y disciplinarias directas.
La tecnología avanza, pero la responsabilidad recae exclusivamente en el usuario. La precisión sigue siendo el pilar fundamental que ninguna herramienta de IA puede garantizar por sí sola en entornos donde la veracidad de los datos es la base del ejercicio profesional.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme