Jacob Coxon, figura clave en el desarrollo de ChatGPT-4o y exmiembro de Anthropic, ha anunciado su salida de ambas organizaciones. Su decisión llega acompañada de una severa advertencia sobre el rumbo actual de la tecnología, señalando que las grandes compañías están avanzando hacia una superinteligencia capaz de auto-mejorarse sin contar con mecanismos de control adecuados.
La carrera descontrolada hacia la superinteligencia
En un comunicado público, Coxon sostiene que tanto
OpenAI como
Anthropic priorizan la velocidad de desarrollo en una carrera competitiva, ignorando los riesgos existenciales asociados a sistemas que pronto podrían superar la capacidad de supervisión humana. Según el investigador, esta prisa por liderar el sector, ante el temor de que otras potencias o empresas se adelanten, está llevando a las corporaciones a apostar por tecnologías con un potencial de impacto global imprevisible.
El impacto de estas declaraciones ha resonado dentro de la industria. Otros investigadores de
Anthropic, como Evan Hubinger y Samuel Marks, han reconocido públicamente que la probabilidad de que la inteligencia artificial provoque una extinción humana es superior al 10%. Estas posturas contrastan con el optimismo comercial de las plataformas de
OpenAI, marcando una brecha creciente entre la visión corporativa y las preocupaciones de quienes diseñan los algoritmos desde el laboratorio.
Un llamado a la responsabilidad en el desarrollo
Coxon ha instado a otros profesionales del sector a reconsiderar su participación en proyectos de vanguardia si no existen condiciones de seguridad rigurosas. El exinvestigador sostiene que el desarrollo de una
IA que pueda hackear sistemas o gestionar recursos de forma autónoma requiere un nivel de comprensión técnica que aún no se ha logrado. Por ello, solicita una pausa estratégica o un cambio en las condiciones de trabajo para asegurar que el futuro de la
inteligencia artificial no avance a ciegas hacia un escenario de riesgo incontrolable.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme