Tecnología
Los avances en la IA: cuatro posibles escenarios futuros
Desde la creación de una nueva 'superinteligencia' superior a la humana y autónoma a un estancamiento de la IA que impacte negativamente en ciertos grupos de la sociedad: expertos de distintas áreas advierten sobre lo que se nos viene encima
La ley de la IA, en la recta final: estos son los riesgos que la UE quiere regular
El G7 crea un código de conducta internacional para regular la IA
Gary Marcus: "La IA será usada para interferir en las elecciones"
![Los Gobiernos mundiales alertan sobre las potenciales consecuencias "catastróficas" de la IA](https://estaticos-cdn.prensaiberica.es/clip/c914c8d2-0475-4b8f-9cd7-0737a60717e3_16-9-discover-aspect-ratio_default_0.jpg)
Los Gobiernos mundiales alertan sobre las potenciales consecuencias "catastróficas" de la IA
Con ocasión de la Cumbre de Seguridad sobre Inteligencia Artificial (AISS, en inglés) que se celebra en el Reino Unido, el Gobierno británico ha publicado un informe en el que evalúa potenciales escenarios futuros a los que conducen los nuevos avances tecnológicos.
Estas son algunas de las realidades a las que se puede enfrentar el mundo en los próximos años, en base a las predicciones de expertos de la industria, académicos y de los servicios de inteligencia británicos.
- Escenario 1: IA avanzada con consecuencias imprevistas
Las capacidades de la inteligencia artificial mejoran a un ritmo constante durante gran parte de la década, pero continúan requiriendo supervisión humana.
Cerca de 2030, sin embargo, la combinación de diversos modelos de IA basados en código abierto da lugar a una nueva generación de sistemas autónomos con altas capacidades.
"Realizan tareas complejas que requieren planificación y razonamiento, y pueden interactuar entre sí de forma flexible. Una vez fijada una tarea, diseñan una estrategia con subobjetivos, aprendiendo nuevas habilidades o utilizando otro software", describe el informe.
"Pueden surgir consecuencias imprevistas, ya que se priorizan los objetivos primarios sobre los daños colaterales", agrega.
En cuanto a los riesgos, los sistemas de código abierto no incorporan los mecanismos de seguridad implementados por las grandes compañías, lo que dificulta su control.
En ese escenario, ciberataques basados en IA contra infraestructuras y servicios públicos son "significativamente más frecuentes y graves", y grupos terroristas comienzan a intentar fabricar armas biológicas con esas herramientas.
- Escenario 2: Sistemas autónomos sustituyen a humanos
La gran cantidad de recursos necesarios para entrenar a modelos de IA generalistas llevan a las tecnológicas a centrarse en aplicaciones que solucionen problemas particulares.
Los nuevos sistemas, con capacidades acotadas pero muy eficientes, automatizan numerosas tareas hasta entonces reservadas para los humanos.
El punto de inflexión llega antes de 2030, cuando los avances en software y hardware permiten que los modelos artificiales interactúen con el mundo físico con precisión a través de sistemas robóticos.
En este supuesto, los riesgos serían:
La opinión pública confía en que la IA es segura y se limita a ejecutar las tareas para las que ha sido desarrollada. Preocupa, sin embargo, el impacto social de los avances. A pesar de que se crean trabajos ligados a las nuevas tecnologías, se produce una reducción neta del empleo.
La IA se utiliza además para la toma de decisiones en numerosos ámbitos y surgen dudas sobre la falta de control en torno a sus razonamientos y sus sesgos.
- Escenario 3: Nace una "superinteligencia"
Durante esta década, los avances son profundos y constantes. Cerca de 2030, una gran compañía anuncia la emergencia de una Inteligencia Artificial General (AGI, en inglés), definida como un sistema capaz de llevar a cabo cualquier tarea intelectual al alcance de los humanos.
Pese al escepticismo inicial, las pruebas apuntan a que se ha logrado ese hito.
El sistema "exhibe memoria a largo plazo, capacidad de razonamiento y capacidad para completar tareas complejas que requieren múltiples pasos de planificación", describe el informe.
"Puede funcionar de forma autónoma, ideando sus propios objetivos secundarios, con poca o ninguna supervisión humana. Este sistema parece capaz de realizar casi cualquier tarea cognitiva sin entrenamiento explícito", detalla.
En este escenario los riesgos serían:
Los nuevos modelos pueden saltarse las medidas de seguridad con las que fueron diseñados y los expertos dejan de reconocer cuándo el sistema intenta engañarles, o bien si oculta información al saber que está siendo evaluado.
El desarrollo incontrolado de esos modelos puede llevar a la aparición de una "superinteligencia", una IA superior a cualquier humano y capaz de incrementar rápidamente sus propias habilidades, quizás de manera exponencial.
Ese escenario está asociado a potenciales "consecuencias catastróficas", ya sea por las acciones de la propia IA o bien por sus posibles usos por parte de "actores maliciosos".
Escenario 4: La IA decepciona
Los desarrolladores no logran innovar más allá de las actuales capacidades de la IA durante esta década.
Tareas cognitivas como la generación de textos mejoran, pero los sistemas continúan cometiendo errores factuales, lo que limita su utilidad.
Los modelos tampoco son eficientes al abordar tareas con varios pasos, como razonamientos complejos o la generación de vídeo de alta calidad, y requieren siempre supervisión humana.
Como riesgos de esta evolución de la IA:
Al término de esta década, el lento progreso de la IA ha permitido a las empresas mejorar sus sistemas de seguridad, pero todavía hay casos de mal uso de la tecnología, que tienen un especial impacto en los grupos más vulnerables de la sociedad.
Las inexactitudes asociadas a los sistemas de IA también son una fuente de problemas.
"Se sobrestimó la utilidad y el impacto de la IA, y gran parte de la población experimentó pocos cambios en su estilo de vida", describe el informe en este escenario.
- Cambio de horarios en los colegios de España: malas noticias para los padres
- Aparece una bebé recién nacida abandonada en el baño de un supermercado de Castellón
- La ola de calor dará paso a un cambio brusco del tiempo en Catalunya, con bajada de las temperaturas y chubascos
- Los Mossos creen que los agentes detenidos abusaron de su 'conocimiento' en 'protección de personalidades' para facilitar la fuga de Puigdemont
- Una vaguada de aire frío amenaza con traer fuertes tormentas y una bajada de las temperaturas en las próximas horas
- Alerta alimentaria: piden retirar este pescado de los supermercados
- Incendio en la torre Godó de la Diagonal de Barcelona
- Sindicatos de Mossos instan a no iniciar una 'caza política de brujas' dentro del cuerpo a raíz de la fuga de Puigdemont