La investigadora y profesora de la Universidad de California en Los Angeles (UCLA) Safiya Noble aseguró que “la tecnología tiene una influencia profunda en la democracia, en la erosión de los derechos civiles y de la igualdad de género” durante la conferencia internacional «Sesgos en Internet: cómo los algoritmos refuerzan la desigualdad», organizada por la Facultad de Ciencias Sociales de la Universidad Nacional de Lomas de Zamora (UNLZ).
Si bien esta problemática es visible en la actualidad, el trabajo de la especialista en discriminación algorítmica comenzó hace una década con el objetivo de “comprender” la idea de que los tipos de tecnología que se imaginaron en Silicon Valley, sede de compañías emergentes y globales de tecnología, eran “liberadoras”, pero en realidad “se utilizaron a expensas de muchas comunidades de color” dentro y fuera de Estados Unidos.
“Internet tiene un rol muy importante al fomentar el racismo y vemos que hay plataformas como Facebook, Youtube o Twitter que movilizan y generan que las personas actúen de forma violenta en contra de nuestras comunidades”, agregó Noble.
Por otro lado, explicó que la industria al incorporar, por ejemplo, las “tecnologías de procesamiento del lenguaje discriminatorias”, contribuyen a “catástrofes de medio ambiente” por la cantidad de energía que se necesita para hacer los algoritmos. A su vez, esto genera un “daño profundo” en toda la cadena de provisión por cómo se van distribuyendo los “riesgos y peligros” en partes del mundo donde las normas del medio ambiente o protecciones del trabajador “no son muy buenas”.
La investigadora consideró que el hiperconsumo hace que las personas estén “desensibilizadas” ante el efecto que tienen las tecnologías en el ecosistema en todo el mundo en relación a las personas y los recursos.
“Nuestro trabajo en el Centro de UCLA es ver los patrones de explotación y tratar de luchar contra millones de dólares que se usan para publicidad en sitios que ofrecen tecnologías como ejercicio de la libertad. Vemos que finalmente las personas están reconociendo que hay más detrás de las falsas promesas que nos da Silicon Valley”, manifestó.
La hipersexualización de las mujeres de color que aparecían en los motores de búsqueda de Google la llevó a preguntarse “¿qué percepción les da de sí mismas y qué percepción tienen las personas que no son de color sobre ellas?”, por eso la investigación sobre la “falta de representación correcta o muy inadecuada” de las mujeres negras, latinas o asiáticas se transformó en su libro “Algoritmos de opresión”.
La profesora estadounidense subrayó que la identidad de las mujeres de color “está a la venta al mejor postor, a las industrias que tienen más plata y que pueden controlar los resultados” y también afirmó que los que tienen el poder de compra “pueden controlar la narrativa sobre poblaciones minoritarias”.
Uno de los pensamientos principales sobre los “Algoritmos de opresión” es que “hay que cambiar el pensamiento que se va a solucionar el problema de la inequidad social a nivel mundial con un dispositivo, porque así no se va a eliminar la inequidad”. Según Noble, la noción de una “aplicación mejor” que traiga transformaciones sociales es “uno de los errores más grandes” al se enfrentan al enseñar sobre tecnología.
“Desciframos el código: desde hace décadas que estas tecnologías pueden dañar, son discriminatorias y tenemos mucha evidencia ahora, pero lo que necesitamos es empezar a pensar de dónde vendría la restauración de esto”, enfatizó.
Además, hizo hincapié en pensar sobre “cómo crear el cambio de paradigma que se necesita en relación a las grandes empresas de tecnología” porque para ella este es un “momento importante” antes de pasar a “un espacio donde muchas de las decisiones que afectan la vida de las personas estén impulsadas por el análisis predictivo y la inteligencia artificial ilimitada”.
La investigadora resaltó que por cada año que se registra la desigualdad económica global, “cada año es peor” a pesar de que “la promesa era que si hubiese más información y tecnología, se resolverían los problemas y se nivelaría la desigualdad global”.
“Estas conversaciones sobre tecnología son conversaciones sobre los valores del tipo de mundo que podemos imaginar. Las personas que más pierden son los niños, las mujeres, las comunidades de color y tenemos la responsabilidad de dirigir la atención a cómo podemos solucionarlo en lugar de pensar en cómo hacer algoritmos más perfectos”, concluyó Noble.
Safiya Noble es profesora asociada en el Departamento de Estudios de la Información de la UCLA. Trabajó sobre Estudios Afroamericanos y Estudios de Género y es miembro de la junta de Cyber Civil Rights Initiative, que atiende a las personas vulnerables al acoso en línea. Además, es autora del bestseller sobre el sesgo algorítmico racista y sexista en los motores de búsqueda comerciales Algoritmos de opresión: cómo los motores de búsqueda refuerzan el racismo (NYU Press).
AUNO-7-4-21
MS-SAM
