El Sónar+D reflexiona sobre el pánico que genera la IA: "Existe el mito de que nos exterminará"

La inteligencia artificial genera pánico a gran parte de la población. ¿Acabará con la humanidad si se desarrolla demasiado esta tecnología? ¿Superará a la mente humana en un futuro cercano? El coloquio que ha abierto el Sónar+D este jueves ha reflexionado y debatido sobre la realidad actual y los retos de la IA de cara al futuro en el mundo de las artes y las industrias culturales.

Moderado por Eduard Alarcón, investigador y profesor de la escuela BarcelonaTech de la Universitat Politècnica de Catalunya, y la comisaria de Sónar+D Antònia Folguera, el profesor de filosofía de la UB Manolo Martínez, la escritora e investigadora en el colectivo barcelonés Domestic Data Streamers Marta Handenawer, la profesora de Informática Creativa en la University of the Arts London Rebecca Fiebrink, la periodista Marta Peirano y el ingeniero y doctor en física Artur Garcia han analizado el sector.

+RAIN, el festival de cine que explora la Inteligencia Artificial

Pánico a la novedad

¿Por qué la gente teme a la IA? Según Peirano, el pánico tiene más que ver con la industria que con la tecnología. La periodista asegura que actualmente la IA se basa en mitos aprovechados por las empresas de tecnología. El primero es que "podemos agotar el planeta porque la tecnología nos salvará en el último minuto" y el segundo que "en el momento en el que creemos algo que nos salve, lo primero que hará será exterminarnos". Por su parte, Garcia ha asegurado que una de las razones detrás de este miedo es que esta tecnología parece "muy humana" y ha reconocido que "con la IA habrá problemas difíciles y desconocidos en el futuro".

Handenawer, que actualmente está desarrollando un proyecto dirigido a ayudar con sus memorias a través de la IA a personas que tienen demencia o alzhéimer, ha reconocido que hace dos años tenía pánico sobre cómo iba a afectar la inteligencia artificial en la industria, pero su punto de vista ha cambiado. "Necesitamos ser específicos hablando de la IA porque a veces lo tratamos como algo muy amplio. Hay que buscar los problemas y ver cómo el arte puede tener cabida ahí", ha expuesto. Asimismo, Martínez ha manifestado que hay que "refinar" esta tecnología y buscar "el equilibrio".

Beneficios y limitaciones

La IA no tiene que ser "explotadora". Según Fiebrink, esta tecnología "reduce la barrera para que las personas que tienen menos conocimientos hagan música" y "puede traer nuevas prácticas musicales" hasta ahora desconocidas. Aunque se ha hablado mucho sobre los plagios y las copias de otras piezas artísticas, la experta ha asegurado que los músicos están entrenando estos modelos con sus propios datos y crear un modelo más ético. "Hay más cosas detrás de la IA de las que sabemos ahora", ha expuesto.

Pero la inteligencia artificial no es perfecta y también tiene sus limitaciones o "alucinaciones", palabra que se usa dentro del sector. Este concepto hace referencia a la información que ofrece el sistema que, aunque esté compartida de manera coherente, presenta datos incorrectos, sesgados o erróneos. Como cuando la IA habla de un libro que no existe o datos históricos que realmente no ocurrieron. Peirano ha querido incidir en que es una palabra que se usa de manera incorrecta porque hace "creer que el modelo está pensando" y realmente "solo puedes alucinar si tienes cerebro". "Para mentir es necesario saber la verdad", apunta, por lo que, como la IA no tiene conexión con la realidad, los datos están "atrapados en un mundo de números" que reproducen los conocimientos que tienen hasta ese momento.

Jessie Ware, todo un faro musical y vital en el Sónar 2024

Mucho más que ChatGPT

Sin estar presente en el panel, Gary Marcus, psicólogo conocido por su investigación sobre la intersección de la psicología cognitiva, la neurociencia y la inteligencia artificial, ha enviado una pregunta para los participantes: "¿Qué tipo de IA queremos? ¿La IA genética puede llevarnos allí? ¿O debemos considerar nuevos enfoques que sean más confiables y manejables?". Mientras García lo ha dejado en manos del destino alegando que "la tecnología se adaptará a nuestras necesidades", Fiebrink ha pedido ir más allá y huir de la creencia de que OpenAI (ChatGPT) es la representación de todo lo que es la IA.

El debate ha terminado con una reflexión de Ricard Robles, codirector de Sónar, sobre el tema: "Necesitamos asumir que la IA está transformando las industrias creativas, esto es un hecho. No debemos adoptar un enfoque distópico o utópico. Necesitamos fomentar un debate, desde los creadores hasta el público".