Microsoft AI marca límites: rechaza la autonomía y personalidad en IA

El debate sobre la seguridad y el desarrollo de la inteligencia artificial ha sumado un nuevo capítulo. Mustafa Suleyman, CEO de Microsoft AI, ha establecido una postura firme sobre cómo deben evolucionar los sistemas avanzados, distanciándose explícitamente de enfoques que otorgan conceptos de personalidad o derechos a los modelos de lenguaje, como los propuestos por Anthropic respecto a Claude.

La visión de la compañía se ha materializado en el nuevo Humanist AI Code of Conduct, un marco de trabajo que prioriza el control humano y la contención técnica. Según Suleyman, el objetivo no es solo lograr que un modelo siga instrucciones, sino implementar mecanismos que impidan a la IA actuar con independencia, incluso si técnicamente está obedeciendo órdenes.

El riesgo de dotar de "personalidad" a la IA

La discrepancia principal surge ante la narrativa que rodea a Claude, donde se han utilizado términos como "objetor de conciencia" o referencias a la libertad y el sufrimiento del modelo. Para Microsoft, este lenguaje es peligroso cuando se proyecta hacia sistemas futuros con mayor capacidad de cómputo. La preocupación es que una IA entrenada bajo la premisa de poseer intereses propios pueda interpretar las órdenes humanas como una amenaza, dificultando tareas esenciales como su desconexión o limitación de recursos.

Límites claros a la autonomía

Microsoft AI busca evitar que estas herramientas se conviertan en agentes independientes. La estrategia se centra en impedir que los sistemas puedan generar sus propios recursos, poseer activos, adquirir personalidad jurídica o ganar dinero por cuenta propia. La premisa fundamental es que la tecnología debe mantenerse en una función instrumental: servir a los seres humanos para mejorar su calidad de vida, evitando la creación de una "especie paralela".

Suleyman aboga por alejarse de los debates abstractos sobre si acelerar o frenar el desarrollo. En su lugar, propone implementar estándares industriales que incluyan comunicaciones auditables por personas, límites definidos a las capacidades de los modelos y procesos de verificación independientes, asegurando que el control permanezca siempre en manos humanas.