IA y riesgo existencial: 20 años de advertencias sobre el fin de la humanidad

La idea de que la inteligencia artificial podría descontrolarse y amenazar la existencia humana no es un fenómeno reciente. Aunque hoy ocupa titulares globales, el debate sobre el riesgo existencial de la IA lleva gestándose más de dos décadas, impulsado por una corriente de pensamiento conocida como doomerismo.

El origen del movimiento y las primeras advertencias

El núcleo de este movimiento se remonta al año 2000 con la creación del Machine Intelligence Research Institute (MIRI), que desde 2005 comenzó a centrarse exclusivamente en los riesgos existenciales. Posteriormente, comunidades como LessWrong popularizaron conceptos vinculados a la singularidad tecnológica, el transhumanismo y el altruismo eficaz, consolidando la creencia de que una IA superior sin una alineación correcta sería una amenaza inevitable.

Ya en 2015, figuras de la industria como Elon Musk, Stephen Hawking y líderes de DeepMind firmaron un manifiesto instando a que los sistemas de IA cumplieran con los objetivos humanos. En aquel entonces, aunque las advertencias existían, el tono era significativamente más prudente que el catastrofismo que predominaría años después.

Del escepticismo al miedo a la extinción

El escenario cambió drásticamente en 2023 con el auge de modelos como GPT-4. La publicación de cartas abiertas por parte de organizaciones como el Center for AI Safety introdujo el término "extinción" en el debate público, equiparando el riesgo de la IA a peligros como las guerras nucleares o pandemias globales. Figuras clave del sector, incluyendo a Sam Altman y Geoffrey Hinton, han suscrito estas preocupaciones sobre la seguridad de los modelos de frontera.

Recientemente, el debate se ha intensificado tras declaraciones de expertos como Evan Hubinger, de Anthropic, quien ha señalado probabilidades estadísticas sobre el impacto negativo de sistemas sobrehumanos. A pesar de estas posturas, es fundamental distinguir entre los riesgos técnicos inmediatos, como los errores en el despliegue de modelos, y las predicciones apocalípticas a largo plazo.

Mientras el discurso sobre el fin de la humanidad sigue atrayendo atención, la industria continúa enfrentando el reto real de la alineación de la IA, un desafío técnico que es constante independientemente de las proyecciones catastrofistas que han marcado los últimos 20 años.