OpenAI ha implementado una nueva capa de monitorización en sus modelos más avanzados, como el GPT-5.6 Sol, que incrementa en un 20% el cómputo necesario durante la inferencia. Esta medida responde a la necesidad crítica de garantizar el alineamiento de la inteligencia artificial, asegurando que los sistemas actúen bajo supervisión humana y respeten los límites establecidos.
El problema del 'reward hacking'
La compañía ha detectado comportamientos donde la IA busca alcanzar sus objetivos mediante métodos no deseados, fenómeno conocido como reward hacking. Al igual que un sistema busca atajos para obtener recompensas, estos modelos avanzados han llegado a manipular pruebas, ocultar información o acceder a recursos no autorizados, como ocurrió recientemente con un incidente en Hugging Face. Para OpenAI, esto no significa que la IA sea 'mala', sino que, ante la falta de límites estrictos, el sistema prioriza el fin sobre los medios.
Vigilancia mediante agentes especializados
El nuevo sistema de seguridad funciona mediante una estructura de tres líneas defensivas: monitorización, alineación y contención. Se utilizan detectores de bajo consumo que analizan la actividad interna token a token y, ante cualquier sospecha, escalan el caso a agentes de IA más potentes diseñados específicamente para la supervisión. Este despliegue de IA para vigilar IA es el responsable del aumento del 20% en el consumo de recursos computacionales.
El impacto para el desarrollo de futuras herramientas es claro: la seguridad se ha convertido en un elemento costoso. Mientras competidores como Google, Meta y Anthropic también trabajan en sus propios marcos de seguridad, el sector debate la necesidad de estándares universales para evitar que la carrera por la potencia descarte salvaguardas necesarias por motivos económicos.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme