OpenAI propone nuevos estándares globales para frenar los riesgos de la IA

OpenAI ha publicado un nuevo documento estratégico titulado "Desarrollar los estándares para la próxima fase de la IA", donde propone la creación de normas técnicas comunes para los modelos de frontera. Sam Altman, director general, y Jakub Pachocki, científico jefe, han subrayado la necesidad de establecer protocolos que garanticen que el desarrollo tecnológico no supere la capacidad humana de supervisión. La estrategia busca mitigar los riesgos asociados a la denominada mejora recursiva, un escenario teórico donde un sistema de inteligencia artificial logra optimizar sus propias capacidades sin intervención humana. Aunque esta tecnología aún no existe de forma autónoma, el laboratorio enfatiza que la investigación en alineamiento debe avanzar al mismo ritmo que la potencia de cálculo para asegurar que los modelos sigan cumpliendo con los objetivos y valores humanos.

Seguridad, protocolos y cooperación internacional

El plan de OpenAI incluye la implementación de mecanismos de evaluación y gestión de incidentes que no dependan exclusivamente de las empresas desarrolladoras. La compañía aboga por una supervisión superior, apoyada en los institutos de seguridad existentes, para estandarizar cómo se notifican los errores o comportamientos inesperados de los modelos de vanguardia a las autoridades competentes. Para los usuarios y la industria, este enfoque marca un cambio de paradigma: la prioridad deja de ser únicamente la velocidad de lanzamiento de nuevas funciones para centrarse en la resiliencia del sistema. Sin embargo, el mayor desafío sigue siendo la cooperación global. La efectividad de estas medidas depende de que potencias tecnológicas, incluyendo a China, acepten adherirse a los mismos protocolos de seguridad, un acuerdo que hasta la fecha se presenta como una meta compleja de alcanzar en el panorama geopolítico actual.