A pesar de que son complejos e imperceptibles, las personas construyen relaciones particulares y cambiantes con los algoritmos

Existen dos grandes enfoques desde los cuales se analizan los efectos de los algoritmos computacionales en la vida de las personas; el primero, enfocado en su funcionamiento y en la predicción de comportamientos; mientras que el segundo estudia cómo son usados, esta perspectiva pone de relieve la autonomía del ser humano en la llamada sociedad de las plataformas, expresó Ignacio Siles, Investigador del Centro de Investigación en Comunicación de la Universidad de Costa Rica.

¿Qué le hacen los algoritmos a las personas?

Los algoritmos no están exentos de sesgos de género, raza, edad o clase social. Por ejemplo, durante la búsqueda de palabras femeninas o nombres propios de mujer en plataformas digitales, los resultados favorecen la apariencia, lo artístico y lo emocional, mientras que lo masculino se ve asociado con lo profesional o científico, expresó Lucía Benítez, académica de la Universidad de Cádiz.

A pesar de que la mayor parte de los usuarios de redes sociales son mujeres, el contenido suele estar dirigido a un público no femenino, lo cual contribuye a la construcción del llamado techo de cristal algorítmico, que impide que ciertos grupos obtengan la misma experiencia dentro de redes sociales, afirmó la investigadora.

Este fenómeno incluso ha permeado hasta el ámbito laboral, pues los algoritmos que automatizan las tareas de reclutamiento siguen reproduciendo estos sesgos y crean distinciones muy pronunciadas entre candidatos que son igualmente calificados.

¿Qué le hacen las personas a los algoritmos?

Debido a que han aumentado su protagonismo en el mundo digital, se suele hablar de la existencia de un poder algorítmico, cuyas características son; los algoritmos son complicados y complejos; solamente vemos la punta del iceberg en forma de recomendaciones; son invisibles para las personas y las autoridades, por lo tanto, es difícil regularlos; y por último, sus consecuencias no son las mismas para todas las personas ni lugares, explicó Ignacio Siles.

Sin embargo, este tipo de enfoques tienen dos limitaciones: suele dejar fuera el estudio de la cultura y “tiende a asumir una perspectiva que viene de arriba para abajo”, expresó el catedrático.

A pesar de que los algoritmos son invisibles, las personas mantenemos un contacto con ellos e intentamos entenderlos, afirmó Siles, y agregó que, al ser más penetrantes que nunca, deberían ser estudiados como una cultura o desde una teoría popular, en vez de ser abordados de forma aislada.

Sobre este aspecto, el investigador mostró los resultados de un estudio realizado en Costa Rica, en el que encontró que las personas internalizan los algoritmos y construyen relaciones particulares y cambiantes con las plataformas.

Alternativas a la opresión algorítmica

La inclusión de una perspectiva de género dentro de la producción de la información tendría beneficios como la identificación de la brecha de género existente en el acceso y control de recursos, mostraría las desigualdades y haría visible que la situación y posición de los hombres y mujeres está condicionada por los roles de género y las relaciones de poder, explicó Lucía Benítez.

Asimismo, una de las posibles soluciones a este problema, expresó la doctora Benítez, sería plantear el uso de otras herramientas además de la inteligencia artificial e identificar si esta comete abusos hacia sectores vulnerables.

Si bien los algoritmos pueden ser vistos como sistemas de opresión, afirmó Emiliano Teré, académico de la Universidad de Cardiff, también pueden contrarrestar, crear y/o visibilizar narrativas de movimientos sociales de una forma efectiva, como ocurrió en su momento con el movimiento Black Lives Matter dentro de las redes sociales.

“Hay una necesidad de restituir, de incluir, de englobar ese tipo de complejidad cuando estudiamos los algoritmos”, expresó Teré.

Estas reflexiones se llevaron a cabo el 26 de enero de 2021 en el marco del Panel Internacional Culturas algorítmicas: métodos, sesgos y resistencias, coordinado por Raúl Trejo Delarbre, investigador del Instituto de Investigadores Sociales de la UNAM, y por Gabriela Sued, becaria posdoctoral de dicha institución. El video del evento se puede consultar en el siguiente enlace: https://www.youtube.com/watch?v=EWGX2swHq94

Imagen del evento