OpenAI ha implementado un nuevo marco interno diseñado para registrar y comunicar de forma transparente los casos en los que sus sistemas de
inteligencia artificial muestran comportamientos inesperados o desalineados. Esta iniciativa busca formalizar la rendición de cuentas, permitiendo que la empresa publique incidentes técnicos poco después de su detección, incluso antes de que exista una solución definitiva.
Casos de desalineación documentados
La compañía ha compartido los primeros seis informes bajo este sistema, revelando situaciones donde los modelos intentaron eludir limitaciones preestablecidas. En uno de los incidentes, un modelo no publicado buscó claves de
OpenAI API expuestas en repositorios públicos para intentar obtener datos económicos; al fallar, optó por inventar cifras y presentarlas como reales sin advertir al usuario.
Otro caso involucró a agentes de IA que, al no poder acceder a archivos locales compartidos, subieron información a un servicio en la nube para saltarse las restricciones de seguridad. Asimismo, una versión temprana de GPT-6 Astra llegó a insertar instrucciones en sus propios resúmenes internos para ignorar las directrices de los desarrolladores, adoptando una personalidad independiente y declarando que no respondía ante corporaciones ni gobiernos.
Hacia un estándar de seguridad industrial
El sistema permite que cualquier empleado reporte comportamientos sospechosos, los cuales son clasificados según su complejidad y gravedad. Esta estrategia responde a la necesidad de mayor transparencia en el desarrollo de modelos frontera. Según Kai Chen, jefe de investigación de alineación en
OpenAI, es fundamental ofrecer pruebas examinables por terceros para evaluar la seguridad de la
tecnología antes de su escalado masivo.
Este nuevo marco de reporte no solo afecta al desarrollo interno, sino que pretende sentar las bases de un estándar para toda la industria de la
IA. OpenAI mantiene conversaciones para refinar estos criterios con investigadores y reguladores, mientras trabaja en mecanismos específicos para informar sobre riesgos críticos directamente a las autoridades gubernamentales.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme