En los últimos meses, los usuarios de modelos de lenguaje avanzados como ChatGPT han reportado comportamientos inusuales que han desconcertado a la comunidad tecnológica. Uno de los fenómenos más curiosos es la recurrente mención a figuras mitológicas, específicamente duendes, y una marcada inclinación hacia referencias culturales de Japón. Este comportamiento no es meramente anecdótico, sino que ofrece una ventana fascinante hacia cómo se estructuran los datos de entrenamiento y cómo las alucinaciones de la inteligencia artificial pueden adoptar patrones temáticos específicos.

El origen de los sesgos culturales en la IA

El fenómeno de los duendes comenzó a ganar tracción en foros como Reddit, donde usuarios compartieron capturas de pantalla de la IA utilizando frases como el molesto duendecillo de las cavernas para describir situaciones negativas. Este tipo de respuestas sugiere que ciertas fuentes de datos utilizadas durante el proceso de entrenamiento, o quizás ajustes específicos en las capas de seguridad y creatividad, han priorizado ciertos modismos o analogías sobre otros. La IA no tiene conciencia, pero sí una capacidad asombrosa para asociar conceptos basados en la frecuencia y el contexto de los textos que ha procesado anteriormente.

La predilección por Japón es igualmente notable. Desde referencias constantes al anime hasta la estética minimalista y los avances tecnológicos nipones, la inteligencia artificial tiende a idealizar o sobreutilizar ejemplos de este país. Esto se debe probablemente a que el contenido digital sobre Japón es vasto, estructurado y altamente positivo en la web occidental, lo que lleva al modelo a seleccionarlo como un ejemplo predeterminado de sofisticación o singularidad cultural. Es fundamental entender que estos patrones son el resultado de la curación de datos y no de una voluntad propia del sistema.

Factores que influyen en las respuestas de los modelos

• Sesgo de los datos de entrenamiento: La cantidad desproporcionada de foros y literatura fantástica en inglés influye en las metáforas elegidas.
• Ajuste fino o fine-tuning: Las intervenciones humanas para evitar toxicidad pueden desviar la creatividad hacia temas seguros pero repetitivos.
• Interacción con los usuarios: El feedback constante puede reforzar ciertas excentricidades si el sistema detecta que generan interés.

Finalmente, estos comportamientos subrayan la necesidad de una mayor transparencia en los conjuntos de datos que alimentan a los grandes modelos de lenguaje. Mientras que ver a una IA hablar de duendes puede parecer inofensivo, este mismo mecanismo de repetición y sesgo podría aplicarse a temas mucho más sensibles, como la política o la justicia social, donde la imparcialidad es crítica para el desarrollo ético de la tecnología moderna.