Los algoritmos reproducen los egos sociales de clase, raza y género

Desde la década de los ochenta se ha estudiado el modo en que las culturas digitales han dado forma a las identidades, la sociabilidad y los sentidos que los usuarios le otorgan a las tecnologías digitales, explicó Gabriela Sued, posdoctorante del Instituto de Investigaciones Sociales (IIS) de la Universidad Nacional Autónoma de México.

La tecnología es una construcción social ya que es hecha por humanos. Sin embargo, la sociedad y la tecnología viven un modelado mutuo, los humanos diseñan a la tecnología, pero la tecnología moldea a su vez a la sociedad, comentó la investigadora.

Al trabajar con datos y análisis de datos aplicados, la académica observó que no había una explicación que esclareciera el ensamblaje de la cultura digital actual. Para Sued, existe un entramado entre datos, algoritmos, usuarios y plataformas.

Las plataformas son las encargadas en gestionar, priorizar y visibilizar los datos. Estas son empresas que tienen intereses comerciales, que informan y dan forma a los algoritmos que deciden que se visibiliza de las prácticas de los usuarios, sin embargo, no sabemos que hacen las plataformas con los datos que colectan, declaró la investigadora.

En la actualidad, los algoritmos están siendo socialmente cuestionados, ya que estos reproducen los egos sociales de clase, raza y género. Estos tienden a reproducir y en ocasiones a incrementar estos sesgos, señaló Sued.

El modo de producción capitalista ha cambiado, ahora estamos en un modelo donde el activo más importante son los datos que producen los usuarios, ya que estos generan valor al saber ubicarlos en el mercado de diferentes maneras, afirmó la académica.

Las plataformas se van insertando lentamente en los cambios sociales a partir de tres dimensiones; Son operadores de mercados multifacéticos donde intervienen actores heterogéneos; Extraen los datos de sus usuarios, acumulan valor y con los procesos correctos los transforman en capital; Gobernanza, ya que las plataformas transforman las prácticas de sus usuarios.

En México, existen 84 millones de usuarios conectados, de estos 90% tienen teléfono inteligente, que son el vehículo ideal para las apps que son desarrolladas para teléfonos móviles. Estos datos revelan que nuestro país es un territorio muy favorable para esta plataformización, expresó Sued.

Hasta el momento el Sistema de Administración Tributaria tiene registradas 121 plataformas. Aunque es importante su aporte económico, las plataformas tienen mucha más rentabilidad de la que dejan en el país, añadió la investigadora.

Estos aspectos económicos se ven reflejados en situaciones sociales ya que los datos son activos muy importantes que no están regulados, concluyó Sued.

Esta Conferencia se llevó a cabo el 15 de marzo de 2022, en el marco Seminario de Estudios Interdisciplinarios sobre la Ciencia, la Tecnología y la Innovación, coordinado Rebeca de Gortari y Marcela Amaro, investigadoras del IIS-UNAM, y por Eduardo Robles, investigador del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas de la UNAM.

Video del evento