El científico jefe de OpenAI alerta sobre los riesgos de GPT-6 Astra

El lanzamiento de GPT-6 Astra ha marcado un punto de inflexión en la industria tecnológica, pero no solo por sus capacidades técnicas. Apenas tres días después de su presentación, Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo titulado "una mente alienígena" donde cuestiona la velocidad a la que se está desarrollando la inteligencia artificial actual. Pachocki sostiene que la capacidad de los modelos para automejorarse y reprogramarse ha generado sistemas que ni siquiera sus propios creadores logran comprender completamente. Según el investigador, estamos ante sistemas "cultivados" mediante procesos de optimización masivos, lo que plantea serios desafíos sobre el problema de alineamiento: la capacidad de la IA para seguir valores humanos incluso en situaciones imprevistas.

La advertencia sobre la seguridad y el control

El científico subraya que la carrera competitiva por lanzar modelos más potentes está ignorando riesgos críticos, especialmente en ciberseguridad. En esta nueva era agéntica, los sistemas podrían ejecutar acciones que crucen los límites establecidos por sus operadores. Pachocki propone la implementación de estándares de seguridad obligatorios, auditorías externas y una coordinación internacional urgente para frenar el desarrollo descontrolado. La preocupación no es aislada. Jacob Coxon, investigador que ha trabajado tanto en OpenAI como en Anthropic, anunció recientemente su dimisión. Coxon argumenta que las empresas están priorizando la llegada a una superinteligencia autosuperable por encima de la responsabilidad, ignorando el potencial peligro de sistemas capaces de hackear infraestructura crítica. Estas salidas se suman a una tendencia creciente de renuncias en departamentos de seguridad y ética de las grandes compañías del sector, evidenciando una fractura interna sobre el futuro de la tecnología.