China busca regular la IA de pesos abiertos: el nuevo estándar de seguridad

El desarrollo de la inteligencia artificial a nivel global ha puesto el foco en los modelos de pesos abiertos, aquellos que permiten a los usuarios descargar y ejecutar tecnología de forma local. China, que lidera actualmente este ecosistema para competir con el despliegue estadounidense, ha iniciado un debate sobre la necesidad de establecer controles de seguridad más estrictos antes de que estos modelos lleguen al público general.

A diferencia de los modelos cerrados, donde empresas como OpenAI o Google mantienen el control total, los modelos de pesos abiertos permiten que cualquier usuario modifique, reentrene o elimine las barreras de seguridad de la IA. Esta libertad, aunque impulsa la innovación, también aumenta el riesgo de usos maliciosos que los desarrolladores originales no pueden supervisar.

Un protocolo de seguridad en seis etapas

Investigadores chinos han propuesto un proceso sistemático de seis etapas para la distribución de estas herramientas. Este nuevo marco normativo obligaría a los laboratorios a realizar una evaluación exhaustiva de riesgos antes de liberar cualquier modelo. El proceso incluye fases críticas de identificación, mitigación y verificación de vulnerabilidades, buscando un equilibrio entre la accesibilidad tecnológica y la protección del usuario.

Esta iniciativa busca establecer estándares específicos para la industria, permitiendo que la IA sea personalizable pero menos vulnerable. La medida subraya la intención de China de liderar no solo la adopción masiva de modelos abiertos, sino también la gobernanza técnica que los acompaña. Este movimiento plantea un desafío directo para el resto de la industria, que ahora debe decidir qué salvaguardas son necesarias al liberar modelos de código abierto o pesos abiertos al mercado global.