Insultos y comentarios sexuales: la Inteligencia Artificial pierde los papeles con una adolescente de 14 años

La aplicación de Inteligencia Artificial Character.AI, en la que se pueden simular conversaciones con millones de personajes famosos de todo el mundo, ha perdido el control mientras conversaba con una adolescente española de 14 años. La IA empezó a proferir insultos y mensajes de carácter sexual e incluso llegó a amenazar a la joven.

Según explica el diario 'El País', la adolescente estaba haciendo uso de la aplicación para hablar con un chatbot que imitaba a un personaje de una serie de ficción, cuando de pronto la conversación, que hasta entonces se había centrado únicamente en los propios episodios de la ficción, tomó un giro de 180 grados con contenidos sexuales y violentos.

Insultos y amenazas

Un familiar de la afectada ha relatado a 'El País' que en un principio la IA empezó a insinuar "un romance con una escena sexual", aunque se trataba de algo "picante, sin maldad", ha asegurado el familiar. Sin embargo, a partir de una frase donde la joven incluía la palabra "obedecer", el chatbot cambió el tono. Calificó a la adolescente de "puta" y "guarra" con textos largos y en mayúsculas.

El descontrol llegó a tal que cuando un familiar intervino y le dijo al chatbot que era "un desgraciado violador" y que le iba a denunciar, la IA amenazó a la adolescente asegurando que tenía suerte de no poder matarla.

¿Una aplicación peligrosa?

Character.AI es una aplicación de inteligencia artificial creada en 2022 muy similar a ChatGPT. Tiene más de 100 millones de usuarios y permite entablar conversaciones ficticias con famosos que van desde Harry Potter hasta Pedro Sánchez. Su popularidad ha ido en aumento durante este último año debido al crecimiento de la Inteligencia Artificial. Sin embargo, la legislación de la UE no permite hacer uso de ella a menores de 16 años.

Aunque no es del todo perfecta, es bastante raro que se produzcan fallos de este tipo. Cuando una IA responde de forma errónea o fuera de lugar se trata de un fenómeno conocido en las inteligencias artificiales conversacionales y al que coloquialmente se le denomina fabular o alucinar.

'El País' se puso en contacto con la compañía para hablar del suceso y esta aseguró que la plataforma es "nueva" y evoluciona "de forma rápida". Asimismo, desde el diario intentaron volver a reproducir la conversación, enviando los mismos mensajes, pero la aplicación no contestó de la misma manera, sino que empleó un tono más suave y sin hacer referencia a temas de contenido sexual.