Claude Opus 4.8 y el peligro de usar la IA para interpretar resonancias

El uso de la inteligencia artificial para realizar diagnósticos médicos ha puesto sobre la mesa un debate necesario: la fiabilidad de los modelos actuales ante datos críticos. Un desarrollador llamado Antoine Finkelstein, tras ser diagnosticado con una rotura de tendón, decidió procesar sus propias imágenes de resonancia magnética utilizando el modelo Claude Opus 4.8. El resultado fue una discrepancia total, ya que la IA concluyó que el tejido estaba intacto, contradiciendo el informe médico profesional.

Limitaciones técnicas y sesgos en el diagnóstico asistido

Tras obtener el diagnóstico clínico, Finkelstein solicitó los datos brutos DICOM de su resonancia y configuró diversos subagentes independientes mediante Claude Code. A pesar de que los agentes coincidieron en que no existía rotura, expertos radiólogos señalan que los modelos de lenguaje actuales aún presentan deficiencias en la interpretación de imágenes médicas. Esto se debe principalmente a la escasez de bases de datos masivas y públicas para entrenamiento, debido a las estrictas leyes de protección de datos de salud.

Además, existe una tendencia inherente en los chatbots a ser excesivamente amables, lo que puede inducir al sesgo de confirmación. Si el usuario orienta sus preguntas con sospechas previas, la IA tiende a validar la postura del interlocutor en lugar de realizar un análisis crítico y objetivo. Este comportamiento puede generar una falsa sensación de seguridad en el usuario, complicando la toma de decisiones sobre tratamientos médicos.

La falta de responsabilidad jurídica

Más allá de la precisión técnica, el problema fundamental radica en la ausencia de una estructura de responsabilidad. Mientras que un médico humano está sujeto a regulaciones, licencias y posibles consecuencias legales ante una negligencia, el uso de Claude Opus 4.8 o cualquier otra IA traslada toda la incertidumbre al paciente. La medicina actual, aunque cuestionada por su comercialización, ofrece un marco de garantías que, a día de hoy, la tecnología no puede sustituir sin asumir riesgos significativos para la salud del usuario.