Aplicación Character.IA
Insultos y comentarios sexuales: la Inteligencia Artificial pierde los papeles con una adolescente de 14 años
Una IA alcanza la capacidad humana para aprender nuevas palabras y relacionarlas con su contexto
Así es LuzIA, la inteligencia artificial de Whatsapp con la que puedes chatear
![Una adolescente con un móvil](https://estaticos-cdn.prensaiberica.es/clip/1a038a63-606f-4f72-b5fa-42ea3e51ec3b_16-9-discover-aspect-ratio_default_0.jpg)
Una adolescente con un móvil / J.M. GARCÍA / EFE
La aplicación de Inteligencia Artificial Character.AI, en la que se pueden simular conversaciones con millones de personajes famosos de todo el mundo, ha perdido el control mientras conversaba con una adolescente española de 14 años. La IA empezó a proferir insultos y mensajes de carácter sexual e incluso llegó a amenazar a la joven.
Según explica el diario 'El País', la adolescente estaba haciendo uso de la aplicación para hablar con un chatbot que imitaba a un personaje de una serie de ficción, cuando de pronto la conversación, que hasta entonces se había centrado únicamente en los propios episodios de la ficción, tomó un giro de 180 grados con contenidos sexuales y violentos.
Insultos y amenazas
Un familiar de la afectada ha relatado a 'El País' que en un principio la IA empezó a insinuar "un romance con una escena sexual", aunque se trataba de algo "picante, sin maldad", ha asegurado el familiar. Sin embargo, a partir de una frase donde la joven incluía la palabra "obedecer", el chatbot cambió el tono. Calificó a la adolescente de "puta" y "guarra" con textos largos y en mayúsculas.
El descontrol llegó a tal que cuando un familiar intervino y le dijo al chatbot que era "un desgraciado violador" y que le iba a denunciar, la IA amenazó a la adolescente asegurando que tenía suerte de no poder matarla.
¿Una aplicación peligrosa?
Character.AI es una aplicación de inteligencia artificial creada en 2022 muy similar a ChatGPT. Tiene más de 100 millones de usuarios y permite entablar conversaciones ficticias con famosos que van desde Harry Potter hasta Pedro Sánchez. Su popularidad ha ido en aumento durante este último año debido al crecimiento de la Inteligencia Artificial. Sin embargo, la legislación de la UE no permite hacer uso de ella a menores de 16 años.
Aunque no es del todo perfecta, es bastante raro que se produzcan fallos de este tipo. Cuando una IA responde de forma errónea o fuera de lugar se trata de un fenómeno conocido en las inteligencias artificiales conversacionales y al que coloquialmente se le denomina fabular o alucinar.
'El País' se puso en contacto con la compañía para hablar del suceso y esta aseguró que la plataforma es "nueva" y evoluciona "de forma rápida". Asimismo, desde el diario intentaron volver a reproducir la conversación, enviando los mismos mensajes, pero la aplicación no contestó de la misma manera, sino que empleó un tono más suave y sin hacer referencia a temas de contenido sexual.
- Cambio de horarios en los colegios de España: malas noticias para los padres
- Aparece una bebé recién nacida abandonada en el baño de un supermercado de Castellón
- La ola de calor dará paso a un cambio brusco del tiempo en Catalunya, con bajada de las temperaturas y chubascos
- Los Mossos creen que los agentes detenidos abusaron de su 'conocimiento' en 'protección de personalidades' para facilitar la fuga de Puigdemont
- Una vaguada de aire frío amenaza con traer fuertes tormentas y una bajada de las temperaturas en las próximas horas
- Alerta alimentaria: piden retirar este pescado de los supermercados
- Incendio en la torre Godó de la Diagonal de Barcelona
- Sindicatos de Mossos instan a no iniciar una 'caza política de brujas' dentro del cuerpo a raíz de la fuga de Puigdemont