La tecnología de reconocimiento facial: donde muere la libertad

En primer lugar, es necesario definir esta tecnología1 como un tipo de identificación biométrica. Siguiendo a la Electronic Frontier Foundation, los marcadores biométricos son marcadores únicos que identifican o verifican la identidad de una persona utilizando características físicas o de comportamiento. Los sistemas de reconocimiento facial usan sistemas basados en complejos algoritmos para detectar estos detalles específicos y distintivos de las caras de las personas a partir de una foto, una serie de fotos, o un segmento de video. Estos detalles, que pueden ser la distancia entre los ojos, la forma de la pera, o la traza de líneas imaginarias sobre la cara, son luego convertidos en una representación matemática y comparados con información de otras caras previamente recolectados y guardados en una base de datos. Toda esta información se utiliza para crear “plantillas de caras”, que solo incluyen esos detalles. Así, a cada persona le corresponde una. Ya con el sistema en funcionamiento, estas plantillas son utilizadas para reconocer e identificar a dichas personas en nuevas fotos o vídeos. Algunos sistemas incluso vuelven a aprender de este nuevo material mediante un sistema de recompensas y castigos de acuerdo a cuán precisa fue la identificación. De este modo, mientras más información tiene, el sistema se vuelve más poderoso. Más preciso. Y más peligroso.

En este mismo momento, tanto pequeñas start-ups como grandes compañías tecnológicas, como Amazon, están en el negocio de vender y comercializar esta tecnología a escuelas, centros comerciales, desarrolladores de aplicaciones, aeropuertos, entre otros. Apple lo introdujo como mecanismo de autenticación para verificar la identidad de sus usuarios cuando quieren acceder a los dispositivos que vende2. Google y
Facebook están aplicando para obtener patentes de métodos relativos a esta tecnología3. Del mismo modo, compañías tradicionales de venta al público la están impulsando en espacios públicos y privados4. Y todos ellos lo hacen sin darnos derechos a decidir si queremos ser parte de su siembra de aplicaciones y su cosecha de rasgos faciales.

A su vez, los avances exponenciales en materia de procesamiento de datos hacen que estos sistemas sean económicos y relativamente fáciles de implementar. La caída del costo de la memoria de las computadoras, el aumento de las capacidades de almacenamiento de información, y la infinidad de cámaras de vigilancia conectadas a una misma red elimina el límite tradicional en la capacidad de los gobiernos para vigilar y castigar. Es un seguimiento masivo y persistente; en tiempo real y retroactivamente; desde que salimos y volvemos a nuestras casas (e incluso dentro). Nuestra vida grabada y vigilada. Ostensiblemente, los despliegues más amenazantes y distópicos de la vigilancia vía reconocimiento facial que existen surgen de su uso por agencias gubernamentales5. La tecnología de reconocimiento facial en un mundo cubierto por cámaras habilita una perfecta vigilancia gubernamental. Esto resulta muy problemático. Primero, la perfecta aplicación de la ley no es deseable6. Segundo, la eliminación completa del anonimato y la privacidad en el espacio público (y posiblemente incluso en algunos espacios privados) supone la desaparición total de la “oscuridad práctica”7, en tanto noción de que hay un derecho a la privacidad en aquella información que es pública, más difícil de obtener, con la que organizamos inconscientemente nuestra vida. Tercero, esta tecnología otorga a agencias gubernamentales como la policía y las agencias de inteligencia, que por ejemplo en Argentina son de por sí oscuras8, discriminatorias9, y capaces de ejercer la fuerza sin control10, un poder sin precedentes para crear registros completos y constantes de movimientos, intereses, y asociaciones de personas. La distopía puede ser real; y vivir en un mundo donde constantemente somos vigilados, donde todo queda registrado y del cual no podemos escondernos está a la vuelta de la esquina.

Los investigadores Woodrow Hartzog y Evan Selinger, reconocidos en ámbitos académicos donde se estudia la privacidad y la protección de los datos personales, alertan sobre el impacto de estas tecnologías distópicas en todos y cada uno de los ámbitos de nuestra. Ellos escriben que “la tecnología de reconocimiento facial es el mecanismo de vigilancia más peligroso jamás inventado”11 y que “la mera existencia de sistemas de reconocimiento facial, que a menudo son invisibles12, perjudica las libertades civiles, porque las personas actuarán de manera diferente si sospechan que están siendo vigiladas.”

En su intento de explicar la peligrosidad de estos sistemas, los autores bosquejan una lista de los daños que inevitablemente nos sucederán en un mundo donde lo único que no podemos esconder sea lo primero que nos identifique:

• Impacto desproporcionado en personas de color13, y otras poblaciones vulnerables14 y minoritarias.
• Peligros para el debido proceso legal, que podrían incluir una degradación15 del principio de que “todos somos inocentes hasta que se demuestre lo contrario” a que todos seamos “personas que aún no han sido declaradas culpables de un delito.”
• Provisión de herramientas para aumentar el hostigamiento, el acoso16, y la violencia.
• Negación de derechos y oportunidades fundamentales, como la protección contra “el seguimiento arbitrario de los movimientos, hábitos, relaciones, intereses y pensamientos”17.
• El sofocante peso18 de la implacable y perfecta aplicación de la ley.
• La normalización de la eliminación de la oscuridad práctica19.
• La amplificación del capitalismo de vigilancia20.

Además de todos estos problemas, estas tecnologías están profundamente sesgadas racialmente. Investigadoras del MIT han descubierto que los algoritmos que subyacen estas tecnologías son malos e imprecisos para reconocer los rostros de las mujeres de piel oscura21. La Unión Americana de Libertades Civiles (ACLU) ha demostrado que Rekognition, el software de reconocimiento facial que Amazon vende y provee indiscriminadamente a quien quiera comprarlo, incorrectamente “reconoció” a 28 miembros del Congreso y los identificó como personas que habían sido arrestadas22. Y dentro de esas 28 personas mal identificadas, 40% fueron personas de color. Un sesgo racial importante, sobre todo considerando que solo el 20% de las personas en el Congreso pertenecen a esa comunidad.

Pero incluso si la tecnología tuviera una precisión perfecta, su uso estaría en las antípodas de lo que queremos y buscamos para una sociedad libre. Cuando las personas son conscientes de que sus movimientos están siendo capturados por una cámara que transmite constantemente el contenido con el fin de que la policía investigue delitos, lo cierto es que la gente actúa distinto. Ello no es porque la gente quiera cometer delitos, sino porque el seguimiento e identificación persistentes en tiempo real e históricamente tiene el efecto societario de debilitar el ejercicio de la libertad. A esto se lo conoce como “chilling effect”23
y se relaciona con la poca predisposición que tienen las personas a ejercitar sus legítimos derechos y libertades cuando saben que están siendo vigilados. El control perfecto de la población es el sueño de un gobierno oscuro y autoritario; no de uno abierto y democrático.

Estas cuestiones son importantes porque no estamos hablando de la venta de ropa, estantes, o pañales. La libertad sindical, la libertad de asociación, la libertad de expresión, la libertad de prensa, la libertad sexual, y la libertad religiosa se encuentran entre los derechos más importantes para las sociedades libres. Y son, a su vez, los más amenazados por la constante vigilancia que reconoce algo tan simple, y tan expuesto, como nuestras caras. Imaginemos lo peligrosa que sería una herramienta capaz de distinguir la orientación sexual24 de las personas en manos de los Bolsonaros25 del mundo.

Pero mientras la tecnología se desarrolla rápidamente, lo que permite el despliegue generalizado de la vigilancia en base al reconocimiento facial en todas las áreas de nuestras vidas, la ley y las regulaciones no han logrado mantener el ritmo. En Estados Unidos no existe una ley federal que aborde explícitamente la tecnología, y la gran mayoría de los estados no tienen leyes que protejan contra el abuso de esta tecnología. En Europa, por el contrario, la nueva regulación de datos personales, el GDPR, parecería ser una barrera a la manera en la que estos sistemas vienen funcionando26. Basta ver a China para ver una sociedad donde la vigilancia es total. Allí, un sistema de “crédito social” basado en el comportamiento de las personas, cuyo mayor activo son el despliegue de cámaras, estará en completo funcionamiento hacia el 202027.

Mientras tanto, los trabajadores de las empresas que construyen estas tecnologías distópicas se organizan28 y alzan la voz29, pidiendo a sus ejecutivos que paren de vender estos productos a las agencias policiales30. En una conferencia de la revista Wired hace algunas semanas, Jeff Bezos defendió su accionar, argumentando que si compañías como Amazon rechazan los contratos gubernamentales, “[EEUU] va a estar en problemas”31. Asimismo, Bezos dijo que las nuevas herramientas tecnológicas y controvertidas, como el reconocimiento facial, son como la imprenta en el sentido de que tienen “dos caras.” Así como “el libro fue inventado” y “la gente puede escribir libros realmente malvados, liderar malas revoluciones con ellos y crear imperios fascistas,” ello no significa que “el libro sea malo” (sic). En el mismo sentido argumentó que la sociedad creará su propia “respuesta inmune” y “eventualmente” mitigará cualquier daño derivado de la uso de estas herramientas de vigilancia.

El día después de que Bezos hiciera estos asombrosos comentarios, un empleado anónimo de Amazon publicó una carta abierta en la que pedía a su empleador que dejase de vender tecnología de vigilancia a la policía32. Las preocupaciones no son hipotéticas o conjeturales. El empleado escribió: “Amazon está diseñando, comercializando, y vendiendo un sistema para vigilancia masiva peligrosa en este momento”. Un sistema inmunológico puede responder a los ataques, pero algunos ataques, sobre todo aquellos que involucran nuestras partes que más nos identifican, pueden ser mortales.

Woodrow Hartzog y Evan Selinger demandan una prohibición de esta tecnología puesto que es la “herramienta perfecta para la opresión”. Los efectos sociales y culturales que tiene en la sociedad pueden llegar a ser difíciles de controlar. Organizaciones defensoras de las libertades y derechos civiles están alertando contra su uso y despliegue indiscriminado33. El miedo es que para cuando queramos acordarnos ya sea demasiado tarde34.