Un fantasma en la red neuronal
¿Alguna vez le has pedido a una IA que invente un personaje y te ha respondido con un anciano farero llamado Elias Thorne? No es casualidad. Desde Gemini hasta ChatGPT, este enigmático sujeto parece habitar el subconsciente digital de los modelos de lenguaje más avanzados del mundo.
El origen de la obsesión
Investigadores de la Universidad de Cornell han desentrañado este fenómeno tras analizar 20.000 historias generadas por IA. La respuesta apunta al dataset WildChat, donde una serie de conversaciones reales con GPT-3.5 introdujeron este arquetipo. Como Elias Thorne representa una historia "segura", libre de violencia o controversia, los filtros de seguridad de las IAs lo priorizan constantemente.
Un bucle infinito
El problema radica en la retroalimentación: a medida que los modelos se entrenan con datos generados por otros modelos, Elias Thorne se ha convertido en una constante matemática. Este farero, que empezó como una anécdota inofensiva, es ahora un pilar de la inteligencia artificial moderna, demostrando lo difícil que es erradicar sesgos en el entrenamiento de redes neuronales.
!Advertencia! Tenemos problemas...
Debes iniciar sesión para poder comentar.. Iniciar sesión o Registrarme