El ritmo de desarrollo de la
inteligencia artificial ha superado la capacidad de las sociedades para comprender sus implicaciones a largo plazo. Demis Hassabis, cofundador de Google DeepMind y Premio Nobel de Química, ha lanzado una advertencia sobre la urgencia de establecer mecanismos de seguridad ante el avance imparable de los modelos de frontera.
Un escenario de incertidumbre tecnológica
Hassabis subraya que, aunque la tecnología promete avances extraordinarios en medicina y ciencia, nos encontramos en una carrera comercial y geopolítica donde nadie sabe con certeza qué va a ocurrir. Esta incertidumbre se ve agravada por la posibilidad de alcanzar la
inteligencia artificial general (AGI) en pocos años, sistemas capaces de ejecutar tareas cognitivas complejas con una autonomía creciente.
Propuesta de un marco de control
Para mitigar riesgos relacionados con la ciberseguridad y amenazas biológicas, el directivo propone la creación de un
organismo especializado en Estados Unidos. Este ente se encargaría de:
| Evaluación | Auditoría obligatoria de modelos de IA antes de su lanzamiento. |
| Supervisión | Participación de especialistas independientes y sector público. |
| Mitigación | Detección de engaños y riesgos de seguridad en sistemas avanzados. |
La estrategia busca transitar de una colaboración voluntaria entre laboratorios hacia un modelo de regulación obligatoria. Esta medida permitiría auditar las capacidades de los sistemas antes de que lleguen al mercado, garantizando que el desarrollo tecnológico no sacrifique la seguridad global por intereses competitivos inmediatos. La propuesta se suma a las preocupaciones de figuras como Geoffrey Hinton, quienes cuestionan si la humanidad podrá mantener el control sobre inteligencias superiores.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme