Javier Ideami: “La IA no trata sobre las máquinas, es una exploración de nosotros mismos, de nuestra capacidad de aprender y razonar”

El próximo 4 de octubre en el ADDA se celebrará el II Forum Europeo de Inteligencia Artificial de Alicante, organizado e impulsado por Encuentros NOW, Ellis Alicante, INFORMACIÓN y Prensa Ibérica. Será en este encuentro donde los asistentes podrán disfrutar de la participación de Javier Ideami, director creativo multidisciplinar, ingeniero, investigador, artista y emprendedor.

EN DIRECTO | II Fórum Europeo de Inteligencia Artificial en Alicante

Con una larga trayectoria que abarca proyectos y charlas en lugares com o Silicon Valley o las selvas de Bali, también cuenta con haber participado en universidades como la de Stanford y UC Berkeley, la sede de las Naciones Unidas de la FAO, el centro financiero de Londres, el Conferencia internacional de diplomacia cultural en Berlín, entre otros proyectos. Ideami centra su trabajo en disciplinas que pueden resultar dispares, y, sin embargo, resultarán imprescindibles de cara al futuro: bellas artes, realidad aumentada, investigación y desarrollo de la Inteligencia Artificial, la música, la publicidad y los medios audiovisuales, así como el emprendimiento y los negocios son parte de la gama de habilidades que aúna en sus estudios y proyectos. El último de los múltiples galardones que ha obtenido en todos los órdenes ha sido el premio a la mejor película experimental del French Rivera Film Festival, en Cannes.

Ariadna Font: "La IA carece de un marco regulatorio y así es fácil violar derechos humanos"

¿Qué impacto tiene la inteligencia artificial en nuestra cultura, nuestra identidad, nuestra comunicación y nuestra forma de pensar y aprender? ¿Nos hace más inteligentes o nos hace más dependientes?

La IA está continuando y acelerando un proceso de desmitificación de la existencia humana que ha estado teniendo lugar a lo largo de los últimos siglos. Pensábamos que eramos el centro del universo y vimos que no era así. Pensábamos que eramos muy diferentes al resto de los animales y hemos ido viendo que no tanto. Y ahora, gracias a la IA, pensábamos que la creatividad era una varita mágica que tocaba a unos más que a otros, pero como dijo Édison, el genio es un 99% perspiración y un 1% inspiración, y estamos viendo que con la IA podemos automatizar ese 99% del proceso creativo que es combinación, recombinación, experimentación, cocción subconsciente, de esta manera desmitificando parte de ese proceso. Y pensábamos que el lenguaje humano tenia una estructura complejísima que la tecnología tardaría mucho tiempo en comprender, y sin embargo en apenas unos años llegamos a los LLMs como el ChatGPT que con computación que combina varios billones de parámetros, es capaz de extraer la esencia latente y abstracta del lenguaje humano hasta hacer indistinguibles los textos que genera de los que haría un humano, superando de esa manera el test de Turing en su versión tradicional. Es por todo ello que sugiero que lo que la IA podría conseguir es hacernos más humildes, ayudarnos a comprender nuestra posición como parte de algo más grande, como parte del engranaje y del proceso de evolución de la inteligencia en el universo. Quizás no somo más que eso, un eslabón más en el proceso de evolución de la inteligencia. Por lo tanto la IA nos hará quizás más realistas sobre nuestras capacidades y nuestra posición en el cosmos.

La IA acelera el proceso de desmitificación de la existencia humana

¿Podemos decir que la actual IA funciona igual que la inteligencia humana?

Para responder hemos de ahondar en cómo funciona nuestra mente. Como nos dice el premio nobel Daniel Kahneman, procesamos la información de dos maneras en nuestro cerebro, la lenta y la rápida. Cuando nos enfrentamos a escenarios nuevos, utilizamos lo que llamamos el Sistema 2, el lento, el procesado sistemático y consciente, con el que usamos nuestros mecanismos de atención y nuestros modelos del mundo (representaciones simplificadas de nuestro entorno) para encontrar el algoritmo, los pasos necesarios para resolver ese nuevo escenario para el que no tenemos un patrón aprendido. Es la parte más relacionada con nuestro pensar ejecutivo, sistemático y lógico, con nuestros mecanismos de razonamiento más analítico. Pero este sistema 2 gasta muchos recursos, es costoso cognitivamente. Así que una que vez que aprendemos un patrón de respuesta, un nuevo algoritmo, lo automatizamos. Lo transferimos del Sistema 2 al Sistema 1, del consciente al subconsciente en el caso de los seres humanos. Y ese Sistema 1 es mucho más barato y rápido. Responde a un patrón sensorial o a una necesidad interna con otro patrón de respuesta y lo hace automáticamente sin activar los costosos mecanismos de aprendizaje secuencial y sistemático. Podemos pensar que ese Sistema 1 equivale a nuestra intuición humana. Es muy rápida y útil, pero ojo, a veces también se equivoca cuando no encuentra el patrón de encaje exacto y nos da la mejor aproximación que encuentra. Pues bien, lo que la IA ha dominado hasta el día de hoy es ese Sistema 1. La IA es como si fuera un subconsciente humano solo que miles de veces más potente y diverso. En cambio, la IA aun no domina bien el Sistema 2. Lo puede aproximar a veces a través de la fuerza bruta. Lo simula o imita muy bien. Y es posible que incluso tenga un incipiente modelo del mundo en los espacios latentes de sus arquitecturas (tratar el tema de los modelos del mundo nos llevaría demasiado espacio y tiempo). Cuando usas ChatGPT, a veces alucina, se confunde, te miente o se contradice. Esto sucede porque es como una intuición humana potentísima a la que le falta la supervisión de un buen Sistema 2, por lo que a veces mete la pata de forma sorprendente. Si tuviera un Sistema 2 potente, tal cosa sucedería muy raramente. 

La IA: una cura de humildad para el ser humano

¿Estaremos dominados algún día por la IA?

Para que la IA nos domine, la IA necesita tener algo equivalente a nuestro Sistema 2, al menos tan potente como el nuestro o superior. Y para llegar ahí, el consenso es que la IA aún necesita evolucionar más en sus arquitecturas y paradigmas. Eso probablemente sucederá en un futuro relativamente cercano. Pero vamos a dar una última vuelta a esta respuesta para decir que también es posible que cuando la IA llegue a tener un Sistema 2 muy potente, la IA y los humanos ya no serán dos entidades separadas. A través del trabajo de empresas como NeuraLink intuimos ya un futuro en el que los humanos y la tecnología se “hibridizarán”. Eventualmente no diremos que la IA está ahí y nosotros aquí. Sino que seremos ambas entidades parte del mismo organismo. La IA estará integrada con nuestra biología y en ese momento la pregunta deja de tener sentido. Volvemos a lo anterior. Es posible que seamos un eslabón más en la evolución de la inteligencia en el universo. En el futuro evolucionaremos integrando a la tecnología con nuestra biología, adquiriendo nuevas capacidades y continuando ese proceso de evolución. 

IA: Objetivo 2030: más tiempo para lo más humano: tenemos la oportunidad y responsabilidad de empujar esta tecnología en la dirección que automatice aquellas tareas repetitivas y farragosas que no nos gustan, para dejarnos más tiempo para lo más humano, para lo que más disfrutamos, para explorar, comunicar, crear, acompañar, etc.

“La IA va a quitarme mi trabajo”. ¿Qué hay de verdad y qué de mentira en esta afirmación?

Mientras la IA solo domine de forma potente el Sistema 1, pero no el 2, seguirá necesitando nuestra supervisión, acompañamiento y guía. Eso quiere decir que sea cual sea tu trabajo, es posible que la IA lo automatice en parte, pero ese proceso de automatización va a seguir necesitando supervisión y guía, y parte de ese proceso es lo que llamamos la “Ingeniería de prompts”. Si no quieres quedarte atrás, has de ponerte las pilas sobre la “Ingeniería de prompts”, la disciplina que consiste en guiar a la IA con prompts, que son elementos que usas para decirle a la IA lo que quieres conseguir (tipicamente el lenguaje humano es el prompt más usado, pero los prompts pueden ser también imágenes y otros tipos de elementos). También has de incorporar esta tecnología en tu proceso de trabajo. Piensa en la IA generativa como si fuera un traje de Iron Man que le pones a tu subconsciente (intuición humana, Sistema 1). De esa manera en vez de tener un subconsciente limitado como el que tenemos en general los humanos, de repente tienes un subconsciente gigantesco gracias a estos trajes de Iron Man, las arquitecturas de IA, que amplifican el potencial de tu subconsciente. Pues acostumbrate a ponerte esos trajes de Iron Man, ejercita la ingeniería de prompts para guiar a esos trajes, y de esa manera no solo no perderas tu trabajo sino que liderarás parte de esta revolución. Es también posible que en algunos trabajos sea necesario pivotar para adaptarse a la llegada de la IA, pero de nuevo estarás en la mejor posición posible para realizar tales cambios si comienzas desde ya a probarte estos trajes de Iron Man y a guiarlos con la ingeniería de Prompts. 

La IA nos sugiere que somos un eslabón más en el proceso de la evolución de la inteligencia en el universo

¿Por qué trabajar en temas relacionados con la IA es una de las profesiones con más futuro? ¿Qué habilidades y competencias se requieren para trabajar con la inteligencia artificial o para convivir con ella en el futuro?

Podemos ver a la inteligencia artificial como un amplificador de las capacidades humanas, un traje de Iron Man que amplia nuestros horizontes. Al ser un expansor de nuestras capacidades cognitivas, esta tecnología encuentra aplicación en todo tipo de sectores, lo cual la hace muy atractiva como ocupación por la versatilidad que tiene. Una de las habilidades clave desde ya es la ingeniería de prompts, la capacidad de guiar a estas arquitecturas de IA con prompts, que son guías, maneras de indicarle a la IA en que dirección debería mover sus procesos. La ingeniería de prompts es tanto arte como ciencia. Un buen ingeniero de prompts conoce las fortalezas y debilidades de diferentes arquitecturas de IA a nivel técnico así como diferentes métodos, procesos y trucos para conseguir los mejores resultados. También es capaz de utilizar su intuición humana para llevar la interacción con estas entidades artificiales por el camino más eficiente y productivo.

Entramos en una era de coexistencia con la IA en la que la ingeniería de prompts, el proceso de guiarla, se convertirá en una disciplina fundamental en todos los sectores

¿Qué beneficios y riesgos tiene la inteligencia artificial para la sociedad, la economía, la ética y el medio ambiente?

Podríamos resumir los beneficios en que la IA nos permite agilizar y automatizar procesos tanto de detección/predicción como de generación, tanto convergentes como divergentes. Los riesgos vienen de esa misma capacidad de automatizar y agilizar, que puede resultar en la generación descontrolada de desinformación, entre otros problemas. También la carencia actual de una capacidad de razonar sistemática y precisa en estos sistemas hace que puedan potencialmente caer en errores y equivocaciones peligrosas.

- En cuanto a la sociedad, la IA puede permitir automatizar las tareas que nos resultan más repetitivas y farragosas para dejarnos más tiempo para lo más humano, para lo que más nos gusta hacer. El reverso de esa automatización es el potencial riesgo de perdida de puestos de trabajo. Aunque estos deberían verse compensados por la aparición de nuevos roles que no existían anteriormente.

- Para la economía, la IA puede permitirnos una comprensión más profunda de los movimientos de los mercados así como de formas de optimizarlos. El reverso es el peligro del uso de esta tecnología para manipular los mercados.

- Para la ética, la IA puede permitir, si se crean datasets libres de sesgos, la creación de sistemas predictivos más justos y objetivos en comparación con los procesos humanos. El reverso es que la creación de sistemas libres de sesgos y alineados con los valores humanos es muy complicado por lo que hay mucha investigación activa sobre ellos. Existe por lo tanto el riesgo de que sistemas de IA con sesgos y valores diferentes de los humanos se utilicen para fines peligrosos y destructivos.

- Para el medio ambiente, la IA tiene el potencial de ayudar en procesos predictivos que permitan optimizar el equilibrio entre los procesos naturales y los humanos. En el reverso, los procesos de la IA pueden consumir gran cantidad de energía pero hay mucho trabajo en hacerlos más eficientes.

¿Qué principios y normas deberían regir el desarrollo y el uso de la inteligencia artificial para garantizar su responsabilidad, transparencia, equidad y respeto a los derechos humanos?

Este es un tema complejo pero algunos de los puntos clave son los siguientes:

- Respeto a la propiedad intelectual de los creadores humanos. Esto conlleva la creación de datasets éticos cuyo contenido se componga de material que ha sido autorizado por sus poseedores o creadores para que se utilice en el entrenamiento de esos sistemas de IA.

- Reducción de sesgos, tanto en la creación de datasets para el entrenamiento de estos sistemas como en su deployment.

- alineamiento: la investigación continúa en como, a medida que estos sistemas se hacen más potentes, alinear los valores y metas de tales sistemas con los de los seres humanos. Es un problema aún no resuelto en el que trabajan actualmente muchas empresas y grupos.

- Transparencia, Content Provenance: La creación de sistemas que permitan o bien marcar el contenido digital para poder detectar qué contenido ha sido creado con IA y cual no, o bien detectar a posteriori si un contenido digital ha sido creado con IA. Ambos escenarios se enfrentan actualmente a desafíos complejos en los que se continúa trabajando a nivel académico y empresarial.

¿Qué desafíos técnicos y científicos tiene la inteligencia artificial para avanzar hacia sistemas más autónomos, adaptables, creativos y conscientes?

El desafío más importante es el expandir sus habilidades de tipo Sistema 1 actuales (equivalentes al procesado rápido, intuitivo y automático del subconsciente humano, un rápido y potente encajador de patrones) con otras de tipo Sistema 2 (que serían equivalentes al procesado lento y sistemático humano que usamos, por ejemplo, cuando queremos aprender el algoritmo necesario para resolver un escenario nuevo). Hoy en día la IA domina el Sistema 1 pero no aún el 2. Mientras la situación siga así, la IA requerirá constante supervisión y guía por parte de los humanos. Y estaremos expuestos a potenciales errores y equivocaciones peligrosas por parte de estos sistemas. El desarrollo de un potente Sistema 2 dentro de la IA requerirá probablemente nuevas evoluciones arquitectónicas y paradigmáticas de los sistemas de IA, lo cual podría producirse en los próximos años. Un ejemplo es la arquitectura propuesta por el científico Yann Le Cun, uno de los padrinos de la inteligencia artificial, y que puede ser consultada aquí.

Es necesaria una regulación global e internacional que no ahogue a startups y movimiento open source, pero que supervise e incentive un uso ético y responsable de la IA

¿Qué papel tiene la inteligencia artificial en la cooperación y la competencia entre países y regiones del mundo? ¿Cómo se puede frenar la fuga de talentos en IA hacia EE UU y Asia?

Para evitar la creación de un mundo de varias velocidades en relación a la IA, y para reducir la fuga de talentos, es fundamental el impulsar la creación de regulación sobre la IA a nivel internacional y global. Hay que encontrar un equilibrio entre la tendencia europea de sobreregular y la de USA a hacer lo contrario. Una excesiva regulación que ahoge al movimiento de código abierto y a las startups podría acelerar la fuga de talentos a EEUU y Asia. Por otro lado, la falta de una regulación suficientemente extensa podría acelerar los peligros de un descontrol del uso de esta tecnología. Es por ello que necesitamos encuentros y acuerdos al más alto nivel y de forma global para sincronizar las regulaciones sobre la IA, de manera que sin frenar la innovación ni ahogar a las startups o al movimiento open source, establezcan aun así mecanismos de supervisión y límites que incentiven el uso ético y responsable de la IA.

¿Hay que formar y educar en IA para evitar casos como el de la difusión de imágenes de personas desnudas tratadas por la IA?

Sin duda, la educación sobre la IA se convierte hoy en día en una urgencia social. Hay grandes ejemplos de iniciativas que están contribuyendo a educar a profesionales y ciudadanos, entre ellos el Máster Ejecutivo de Inteligencia Artificial del iia.es, con base en Alicante, que ha sido pionero en España en este tipo de programas.

¿Por qué hay aún tanta gente a la que todo lo relacionado con la Inteligencia Artificial le causa aún tanta inquietud? ¿Es un efecto parecido a las reacciones negativas que provocaron las anteriores “revoluciones industriales” a las que se compara la llegada de la IA?

En el caso de la IA se combina el temor a lo desconocido, a una nueva tecnología que supone un salto muy grande respecto a lo anterior, junto a la posibilidad muy real de que dicha tecnología produzca una gran disrupción en el mercado de trabajo. Es importante comprender que esto es un fenómeno natural que ya ha sucedido antes pero es cierto que en el caso de la IA la incertidumbre y las consecuencias que esta tecnología puede tener pueden ser aun mayores que en sucesos similares anteriores. Incluso los mismos investigadores y expertos de IA estamos un tanto desarbolados por la velocidad a la que evoluciona esta tecnología. Todos los estamentos involucrados tienen y tenemos la oportunidad y la responsabilidad de empujar a esta tecnología en la dirección que produzca los mayores beneficios y los menores perjuicios, en la dirección que nos deje “más tiempo para lo más humano”, que automatice aquellas tareas que nos resultan farragosas y repetitivas y nos deje más tiempo para lo que más disfrutamos, el crear, el explorar, comunicar, acompañar, etc.

La IA es como un traje de Iron Man que al ponertelo amplifica tu subconsciente. Entramos en la era del Super Subconsciente donde diferentes arquitecturas de IA amplificarán tu potencial de diferentes maneras

¿Llegaremos a establecer relaciones emocionales a través de esta herramienta?

Sin duda, de hecho ya está comenzando a suceder, a un nivel inicial, con aplicaciones como Replika y otras. La emocionalidad humana está muy relacionada con nuestra intuición y cocción subconsciente, parte que precisamente domina cada vez más la IA. Es la otra forma de procesar la información, la del Sistema 2, la más racional y sistemática, la que aun le cuesta a la IA. Y esta es la paradoja. Pensábamos que la IA seria súper precisa y perfecta con los procesos lógicos y racionales, y en cambio a menudo se contradice y se equivoca con ellos (debido a las carencias de las arquitecturas actuales de IA en relación a ese Sistema 2). Por otra parte pensábamos que la IA no sería capaz de tener conversaciones emocionales con nosotros y ha sucedido al revés. La IA es como un subconsciente humano pero a nivel gigantesco, y es capaz de cocinar y encajar patrones emocionales y de otros tipos de forma amplia y profunda. Una vez que la IA adquiera un Sistema 2 más avanzado, estas entidades serán sin duda capaces de establecer relaciones emocionales de muchos tipos con los seres humanos. De nuevo, como comenté anteriormente, es un paso más en el proceso de desmitificación de nuestra existencia. 

¿Crees que eventos como el Fórum de Inteligencia Artificial que se celebrará en Alicante el próximo 4 de octubre ayudan a romper miedos y tópicos sobre lo que la IA es y va a representar en nuestra vida?

Sin duda, eventos como el Fórum de Inteligencia Artificial de Alicante son absolutamente imprescindibles y esenciales para Europa, primeramente para no quedarnos atrás respecto a USA, China, Canada, etc en cuanto a la educación sobre este tema tan trascendental que va a impactar la vida de todos, y seguidamente para ayudar a que la población adquiera una visión más realista y profunda sobre diferentes aspectos de esta revolución.