Estrenos online: crítica de «Prejuicio cifrado», de Shalini Kantayya (Netflix)

Son ya varios los documentales estrenados en estos últimos tiempos que se centran en los peligros y problemas que causan –o pueden llegar a causar– los algoritmos. Cada uno toma un ángulo específico del tema y todos se posicionan de una manera razonablemente alerta con una advertencia pública: si no se hace para regularlos o configurarlos de otra manera, estamos en problemas. Ya no es solo un tema a revisar para el futuro sino uno que marca a fuego lo que está sucediendo aquí y ahora.

PREJUICIO CIFRADO es el título de este documental que pasó por el Festival de Sundance a principios de 2020 y que elige un ángulo específico del tema algoritmos, uno que podría definirse como sus prejuicios integrados en el sistema. Dicho de otro modo: no se trata de que los algoritmos en sí sean racistas o sexistas sino que fueron armados, creados, configurados (o como se diga en términos técnicos) en función de prejuicios sistémicos muy asentados en la cultura y que el algoritmo no hace más que replicar y aumentar.

¿En qué o cómo se revela esto en términos específicos? Uno de los principales problemas está en los sistemas de reconocimiento facial. La principal entrevistada en este documental –Joy Buolamwini, fundadora del proyecto de nombre nerd «Algorithmic Justice League«– prueba cómo los rostros de hombres y mujeres de piel más clara son reconocibles y fácilmente identificables por ese tipo de programas mientras que el sistema falla muchísimo más con rostros más «oscuros». Esto, que podría parecer un problema puramente técnico pero que quizás no lo sea, termina incidiendo en muchas detenciones irregulares o incorrectas, en problemas online de todo tipo para las personas «de color» y hasta en dificultades para conseguir trabajo.

El racial es solo uno de los ejes del documental. Los distintos entrevistados van analizando diferentes problemas que surgen de los «prejuicios del código»: las mujeres tienen más dificultades a la hora de conseguir trabajo por cómo funcionan los algoritmos que se dedican a recomendar personas para distintas posiciones (aparentemente todas las grandes empresas utilizan sistemas de este tipo en osl que si aplicás a un trabajo conocen hasta tu última búsqueda online y el color de tu ropa interior), las personas de color suelen ser más despedidas que las blancas de trabajos en función de sistemas de «performance review» (muy usadas con docentes, por ejemplo) y algo similar surge a la hora de conseguir créditos bancarios, por ejemplo.

Esto, que puede sonar bastante fantasioso y hasta bordear la teoría conspirativa, parece bastante bien documentado por los realizadores y las personas que dan sus testimonios, incluyendo congresistas y científicos o analistas que se dedican a estudiar la inteligencia artificial. En el formato convencional de documental informativo que maneja CODED BIAS –acaso una voz que intenta homenajear a la computadora HAL de 2001 sea el toque distintivo y un tanto absurdo de su estructura–, lo que se intenta es transmitir la idea de que los algoritmos no hacen más que aplicar estructuras y formatos de pensamiento existentes y que, al ser así, es imposible que por sí mismos progresen o se adapten a los cambios culturales posteriores a su creación.

El documental se va también por otros lados –mucho más generales y cercanos a lo visto en otros films como EL DILEMA DE LAS REDES SOCIALES o NADA ES PRIVADO, por ejemplo–, pero casi siempre el eje está puesto en cómo los algoritmos de reconocimiento de imágenes funcionan en relación al control social, policial o económico. Se cuenta la complicada experiencia británica en el uso de equipos de reconocimiento facial por parte de la policía y cómo funciona en China el control social mediante ese tipo de sistema, haciendo eje en la complicada situación que tuvo lugar en Hong Kong a partir de las revueltas políticas allí. En Estados Unidos, fundamentalmente, pasa por cómo todo esto queda en manos de empresas que usan estas tecnologías en función de sus propios intereses (o prejuicios) sin ningún tipo de control o regulación por parte del estado.

Curioso, indudablemente, es que este documental se exhiba en Netflix. Si bien PREJUICIO CIFRADO pone el foco en Amazon, Microsoft, Facebook y Google (sobre todo la primera, que tiene el sistema de reconocimiento facial más difundido), las informaciones personales captadas por empresas como Netflix también podrían ser parte de esta suerte de sistema de control socio-económico que la propia película presenta como un severo problema. Aquí, quizás, esta una de las grandes contradicciones de estos documentales, si se quieren, militantes. A la hora de cuidar sus propios intereses, da la impresión que sus problemas con las grandes empresas que manipulan comportamientos mediante algoritmos no importan demasiado. Ellos dirán, seguramente, que entrar en estas plataformas tiene que ver con poder difundir a más gente su hipótesis, pero sin dudas es un terreno éticamente complicado de manejar.