Prejuicio cifrado             5 puntos

Coded Bias; EE.UU./Reino Unido, 2020

Dirección: Shalini Kantayya.

Guion: Shalini Kantayya y Christopher Seward.

Duración: 86 minutos.

Estreno en Netflix.

Ya casi nadie se sorprende al recibir en el teléfono celular una oferta de cierto producto que anduvo dando vueltas en la cabeza del dueño del aparato. Los algoritmos ocultos en las aplicaciones y redes sociales aprenden de nosotros día a día, minuto a minuto; en muchos casos, pueden anticipar nuestros intereses, gustos, preferencias e incluso definiciones ideológicas. Prejuicio cifrado parte de ese dato de la realidad para llevarlo un poco más allá. ¿Qué ocurriría si esos mismo algoritmos están diseñados, consciente o inconscientemente, para replicar prejuicios sociales como la xenofobia, el racismo, el sexismo o la homofobia? Eso es lo que se preguntó la investigadora en tecnología del MIT Joy Buolamwini –una de las voces más relevantes del documental de Shalini Kantayya– a partir de un experimento con técnicas de reconocimiento facial, luego de que una máscara blanca sobre su rostro de tez negra permitiera los resultados buscados, imposibles de lograr sin el adminículo.

La hipótesis es diáfana: las técnicas digitales para reconocer rostros funcionan mucho mejor en hombres y mujeres blancas (sobre todo en los primeros) que en aquellas personas con tonos de piel más oscuros. Prejuicio cifrado en un claro ejemplo de documental tradicional, casi una investigación periodístico-televisiva en formato de largometraje. Kantayya dispone la información a partir de un uso intensivo de cabezas parlantes, reconstrucciones, material de archivo y clips didácticos, alejándose desde el primer minuto de cualquier intención creativa en términos cinematográficos. De esa manera, el espectador es testigo de un repaso sobre el concepto y los usos de la inteligencia artificial (“solemos hablar en términos de pensamiento mágico, pero las AI son pura matemática”, afirma una experta) y los ilustra con generosas dosis de fragmentos de films como La guerra de las galaxias, 2001, Metrópolis, Terminator y Blade Runner, entre otros.

Más tarde se traslada a Londres, donde demuestra sin lugar a duda –con la ayuda de los miembros de una ONG llamada Big Brother Watch– que el uso del reconocimiento facial por parte de la policía local tiene resultados poco menos que escandalosos: las víctimas de los errores del software son, casi siempre, ciudadanos negros o bien de origen extranjero. La comparación del uso de esas armas tecnológicas en países como los Estados Unidos con su existencia ubicua y cotidiana en la República Rigurosamente Vigilada de China –donde los “créditos sociales” delimitan los logros y deméritos de sus habitantes– es más que pertinente, aunque la aparición de una secuencia a todas luces ficcional parece poco adecuada. Amazon, Facebook, IBM: algunas de las empresas contra las cuales Prejuicio cifrado dispara sus dardos.

¿Qué ocurriría si esas detalladas bases de datos, utilizadas hoy en día con fines comerciales, fueran el origen de manipulaciones políticas o sociales? El ejemplo de las elecciones nacionales de 2016 en EE.UU., cuando un experimento de Facebook redundó en una explosión de votantes que pudo haber definido el ajustado margen del ganador, o el fracaso de una tecnología de Amazon, a todas luces sexista, que declinó todos los C.V. de postulantes mujeres, apuntan hacia una dirección de dimensiones escalofriantes. 

No hay demasiado cine en la película de Shalini Kantayya, sí muchos datos de interés. Es posible que el algoritmo de Netflix, donde puede verse exclusivamente, se la recomiende al lector de estas líneas durante los próximos días, dependiendo de sus intereses en materia audiovisual. Pero esa es otra historia.