La cara y la cruz en torno al control de los mensajes difundidos en redes sociales

Las redes sociales son un espacio para compartir imágenes, vídeos e interactuar con el resto de la sociedad. Sin embargo, durante los últimos años, también se han convertido en un lugar en el que la gente difunde -en la mayoría de ocasiones de manera anónima- mensajes de odio. Sólo hay que echar un vistazo a estas plataformas durante los últimos días -y coincidiendo con los últimos sucesos- para ver una prueba de ello.

A raíz de este tipo de mensajes, el fiscal de Sala de la Unidad de delitos de odio de la Fiscalía General del Estado, Miguel Ángel Aguilar, anunció ayer en una entrevista en la Cadena Ser que el departamento está estudiando una reforma del Código Penal para que las personas condenadas por estas publicaciones en redes sociales no puedan volver a acceder a ellas.

¿Se pueden controlar y detectar este tipo de mensajes? La solución no está clara, aunque algunos expertos llevan tiempo debatiendo esta situación. "Con Inteligencia Artificial se podrían controlar y detectar los matices de odio o ironía en determinados mensajes", explica Javier Palanca, profesor del departamento de Sistemas Informáticos y Computación de la UPV e integrante del Instituto Valenciano de Investigación para la Inteligencia Artificial (VRAIN). En este sentido, Palanca reconoce que, a través de la IA, en el departamento se está trabajando mucho en torno a la desinformación y la difusión de bulos. En algunas redes sociales como X (antiguo Twitter) son los propios usuarios los que añaden información cuando se difunde alguna noticia falsa. "Esto se podría hacer con la IA accediendo a medios, fuentes o bases de datos fiables, pero es complicado y se necesita un gran esfuerzo", reconoce el experto, quien añade que "las redes sociales terminarán controlando estos mensajes para ganar fiabilidad".

Privacidad

Algunos expertos llevan tiempo denunciando la necesidad de controlar los perfiles anónimos. "Eliminar el anonimato nos ayudaría a nivel tecnológico porque cuanta más información reciba la IA, los resultados son mejores. Sin embargo, esto implicaría indagar en la privacidad", recalca.

En este sentido, el valenciano Ricard Martínez, uno de los expertos designados por el Gobierno para diseñar la estrategia que promueva un entorno digital seguro, reivindica que cuando una persona se registra en una red social, está estableciendo una relación jurídica en virtud de la cual esa persona debería disponer de una identidad. "Es obligación del proveedor de servicios validar la identidad o disponer de información que permita localizar al sujeto, por lo que nadie en una red social es anónimo, ya que la red debe facilitar los datos técnicos que permitan localizar la IP o cualquier identificador relevante que sea objeto de registro", afirma.

Otra de las dudas que genera entre los expertos este tipo de comentarios que incitan al odio es la manera en que se controla la libertad de expresión. En sus palabras, "la opinión subjetiva permite un mayor grado de flexibilidad, por lo que no se nos obliga a que los hechos sean ciertos". Sin embargo, recuerda que esto no puede conllevar que el usuario denigre, discrimine o maltrate en función de la raza, religión o creencia de la otra persona.

Déficit educativo

Martínez reivindica que la situación podría mejorar con una mayor educación por parte de los centros y las propias redes. "Terminan la enseñanza sin un mínimo de valores constitucionales y democráticos adquiridos. Además, cuando llegas a una red social tampoco tienes que hacer una formación, ya que todo está diseñadopara que le des a aceptar de la manera más rápida posible", lamenta. Aunque se han impulsado acuerdos entre la Unión Europea, la Comisión Europea y los principales proveedores de redes sociales para establecer algún tipo de política y, así, prevenir y garantizar los derechos, todavía queda un largo camino por recorrer.

Por ello, el experto señala que "deberían centrarse exclusivamente en la detección y reacción frente a aquellos contenidos ilícitos o presuntamente ilícitos o que puedan generar algún tipo de daño".

Suscríbete para seguir leyendo