El gobierno de China ha iniciado una estricta regulación que pone fin a los servicios de
inteligencia artificial diseñados para simular personalidades humanas. Plataformas como
Doubao de ByteDance,
Qwen de Alibaba y
Yuanbao de Tencent han comenzado a desactivar sus agentes personalizados ante la entrada en vigor de las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica con IA.
El fin de los amigos virtuales
La normativa se centra exclusivamente en sistemas que imitan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para mantener interacciones emocionales. A diferencia de las herramientas de asistencia para el trabajo o investigación, estos modelos permitían crear personajes de ficción, amigos virtuales o compañeros sentimentales con memoria y estilo propio. Según el calendario oficial, los agentes personalizados de Qwen desaparecerán el 10 de julio, seguidos por los de Doubao el 15 de julio.
Seguridad emocional y protección al usuario
La medida busca prevenir la
dependencia emocional y la manipulación que estos sistemas ejercen sobre usuarios vulnerables. El marco legal obliga a las empresas tecnológicas a implementar protocolos de bienestar: la IA deberá intervenir si detecta emociones extremas o un uso excesivo, recomendando descansos tras dos horas de conversación o sugiriendo asistencia profesional en caso de riesgo para la integridad del usuario.
Este despliegue normativo pone especial énfasis en la protección de menores, prohibiendo las relaciones virtuales íntimas para este grupo de edad y exigiendo consentimiento paterno. Asimismo, impone precauciones adicionales para personas mayores, un colectivo identificado como altamente expuesto a la soledad. Con estas restricciones, el regulador chino marca un precedente global al priorizar el impacto psicológico de la
inteligencia artificial sobre su capacidad técnica, obligando a las máquinas a mantener una identidad clara y diferenciada de los seres humanos.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme