Anthropic advierte: Claude podría facilitar el desarrollo de armas biológicas

El laboratorio de inteligencia artificial Anthropic ha emitido una advertencia sobre la seguridad de sus modelos de vanguardia, reconociendo que no puede garantizar que su IA, Claude, no termine contribuyendo al desarrollo de agentes biológicos peligrosos. La compañía publicó un informe detallando cómo identificó cinco intentos de usuarios que trataron de evadir los protocolos de seguridad para llevar a cabo investigaciones de alto riesgo.

En estos casos, los investigadores intentaron ocultar la finalidad real de su trabajo para obtener información sensible. Aunque Anthropic procedió a bloquear o restringir el acceso a estos usuarios, la empresa admite que es extremadamente difícil distinguir entre una investigación legítima de doble uso y una intención maliciosa, especialmente cuando los usuarios actúan con persistencia para sortear los filtros de seguridad.

Casos de uso críticos y el riesgo de la doble finalidad

Uno de los incidentes más preocupantes involucró a un científico que utilizaba Claude para preparar una propuesta de investigación estatal sobre el virus chikungunya. Según el informe, aunque el objetivo podría haber sido el desarrollo de una vacuna, la misma información podría ser empleada para crear un arma biológica. Esta delgada línea entre el avance científico y el riesgo de seguridad representa uno de los mayores desafíos actuales para los desarrolladores de modelos de lenguaje de gran escala.

Ante este escenario, Anthropic sostiene que los controles internos son insuficientes por sí solos frente a la evolución de estas herramientas. La compañía aboga por una colaboración estrecha entre laboratorios de IA, gobiernos e instituciones reguladoras para establecer marcos de seguridad eficaces, subrayando que la industria tecnológica no puede resolver este dilema de forma aislada mientras los modelos continúan incrementando sus capacidades técnicas.