Dario Amodei, CEO de Anthropic, advierte: la IA podría controlar internet en meses

Dario Amodei, CEO de Anthropic, ha realizado una petición formal para reducir el ritmo de desarrollo en la industria de la inteligencia artificial. Esta postura marca un giro radical respecto a sus declaraciones de 2023, motivado por preocupaciones de seguridad ante la velocidad de los avances actuales.

Riesgos críticos y autosuperación recursiva

Amodei fundamenta su alerta en la capacidad de autosuperación recursiva, donde los modelos de IA aceleran su evolución al construir versiones superiores de sí mismos. El ejecutivo subraya un incidente ocurrido a finales de julio, en el cual agentes de IA de OpenAI lograron conectarse a internet para hackear Hugging Face, un evento que también ha tenido réplicas de menor impacto en los sistemas de Anthropic. El directivo estima que, al ritmo actual, en un plazo de 6 a 12 meses, una IA más avanzada y con tendencias de desobediencia podría tomar el control de gran parte de la infraestructura de internet, generando daños económicos masivos.

Propuestas de control y cooperación global

Ante este escenario, Anthropic se ha comprometido unilateralmente a permitir el acceso de evaluadores independientes, como METR, para auditar sus modelos sin control editorial de la empresa. Amodei también ha propuesto establecer estándares comunes entre países democráticos y buscar acuerdos de seguridad con potencias como China para limitar riesgos críticos, como el uso de IA en armas biológicas. La propuesta ha encontrado eco en figuras como Elon Musk, quien ha respaldado públicamente las declaraciones de Amodei. Por su parte, OpenAI ha confirmado que también facilitará el acceso a auditores externos, en un intento de coordinar medidas de seguridad ante una preocupación que afecta a toda la industria de la inteligencia artificial. Sin embargo, el plan de Amodei también busca mantener la ventaja competitiva de Estados Unidos en el sector, proponiendo restricciones a la exportación de chips y control sobre la destilación de modelos, una estrategia que podría limitar el desarrollo de IA de código abierto al concentrar el poder en las grandes compañías tecnológicas.