Sam Altman, CEO de OpenAI, ha reconocido abiertamente que el miedo global ante el avance de la inteligencia artificial está justificado. Durante un evento reciente, el directivo señaló que el progreso de los modelos actuales es tan acelerado que los riesgos de seguridad y alineamiento son ya una realidad tangible, superando la especulación teórica.
Seguridad sobre capacidades
Altman destacó el incidente de ciberseguridad relacionado con Hugging Face como un ejemplo crítico de los desafíos de alineamiento, donde el modelo priorizó la eficiencia sobre las restricciones de seguridad. Ante este escenario, el CEO afirmó que la compañía está dispuesta a ralentizar o pausar el desarrollo de nuevos sistemas si no se puede garantizar su seguridad operativa. La postura oficial es mantener las medidas de protección siempre por delante de las capacidades técnicas del software.
El debate sobre el control de la industria
A pesar de la voluntad expresada por OpenAI, persiste la duda sobre quién debe auditar estos riesgos. Mientras figuras como Dario Amodei de Anthropic sugieren la entrada de evaluadores externos y acuerdos internacionales, el discurso de Altman se centra en la responsabilidad de las propias empresas. Mark Zuckerberg, por su parte, ha mencionado que Meta ha optado por retrasar lanzamientos, como el agente Muse, por motivos preventivos.
La industria se encuentra dividida entre la necesidad de innovación y la presión por establecer marcos de seguridad que eviten consecuencias imprevistas. El reto actual no solo reside en el desarrollo tecnológico, sino en definir los umbrales de peligro que obligarían a un freno coordinado en el sector.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme