“Con mi cara no”: la vigilancia masiva a través del reconocimiento facial en Paraguay

En un mundo cada vez más digitalizado, la tecnología de reconocimiento facial se ha convertido en tema de revisión, observación y debate, tanto a escala internacional como también regional.
Esta tecnología que permite identificar o verificar la identidad de cualquier persona utilizando sus datos biométricos, se ha ido integrando silenciosamente en diversos aspectos de nuestra vida cotidiana.
En Paraguay, desde TEDIC venimos advirtiendo que el Ministerio del Interior y la Policía Nacional, a través de los Fondos de servicios universales (FSU) de la Comisión Nacional de Telecomunicaciones (CONATEL), viene adquiriendo cámaras con estas tecnologías e incorporándolas en la vía pública.

Desde TEDIC creemos que la expansión acelerada del reconocimiento facial trae consigo importantes interrogantes sobre nuestra privacidad, la seguridad de nuestros datos personales y la transparencia en su aplicación. La adopción de esta tecnología en nuestro país comparte una tendencia similar a la de otros países de América Latina, con una implementación rápida sin medición de impacto y, en muchos casos, carente de un debate público suficiente. Una de nuestras preocupaciones principales radica en la opacidad con la que se están llevando a cabo estas iniciativas, lo que plantea riesgos significativos para nuestros derechos humanos.

Frente a este escenario, surgió el proyecto “Transparencia y rendición de cuentas del Estado sobre reconocimiento facial en Paraguay” impulsado por TEDIC, con el apoyo de la Fundación CIRD. El mismo, ejecutado entre noviembre del 2022 a diciembre del 2023, buscó instaurar una conciencia crítica tanto en legisladores como en la ciudadanía, sobre la necesidad de transparencia en la rendición de cuentas en la implementación de sistemas de reconocimiento facial en Paraguay. Este proyecto no solo buscó sensibilizar sobre los riegos en el uso de esta tecnología, sino también fomentar un debate informado y constructivo sobre sus implicancias.

Al abordar estos temas, buscamos asegurar que el uso del reconocimiento facial en Paraguay no sólo cumpla con los estándares éticos y legales, sino que también respete los derechos humanos. Nuestro objetivo es garantizar que cualquier implementación de tecnología de reconocimiento facial en Paraguay sea realizada de manera excepcional, acotada y proporcional, siempre bajo los principios de transparencia y responsabilidad.

A continuación, compartimos una serie de actividades llevadas a cabo en el marco de este proyecto:

Eventos a nivel nacional e internacional

Nuestro proyecto no solo tuvo impacto a nivel nacional, sino que también llegó a distintas comunidades de la región, a través de la participación en eventos y talleres internacionales que promueven la protección de nuestros derechos digitales.

Taller de biometría y datos personales para periodistas

En Asunción, el 30 de marzo del 2023, capacitamos y formamos a periodistas, influencers y comunicadores sobre biometría, datos personales, política, derechos humanos, privacidad y tecnología¹. Compartimos herramientas conceptuales y fomentamos la discusión sobre estos temas a nivel local, regional e internacional, con un enfoque especial en la protección de datos en Paraguay y las recientes acciones estatales en este ámbito.

Además, expusimos las dimensiones vinculadas a las licitaciones para la adquisición de cámaras con tecnología de reconocimiento facial por parte del Estado paraguayo, detallando los alcances de la acción de inconstitucionalidad en curso que venimos impulsando desde el 2018.

Talleres sobre biometría en diversas universidades del país

Con la intención de descentralizar la discusión sobre estos temas llevamos el taller a otras ciudades de Paraguay. La primera parada fue el 8 de junio en Villarica, ciudad en la que realizamos otro taller enmarcado en el proyecto #MásCiudadaníaMenosCorrupción². En este taller expusimos el simulador de cámaras de reconocimiento facial desarrollado voluntariamente en el marco del proyecto, que permitió a participantes entender mejor el funcionamiento de esta tecnología y sus posibles amenazas.
Este evento fue organizado en conjunto con el Rectorado de la Universidad Nacional de Villarrica del Espíritu Santo (UNVES) y contó con una importante repercusión local, llegando incluso a medios de comunicación.

De manera similar, replicamos el taller el 28 de junio en Encarnación, donde juntamos a estudiantes de la Universidad Nacional de Itapúa, integrantes de la Facultad de Ciencia y Tecnología; Facultad de Humanidades, Ciencias Sociales, y Cultura Guaraní; el Centro de Estudiantes de la Facultad de Ciencia y Tecnología y la Dirección de carrera de Trabajo Social, con el apoyo de las organizaciones Presencia Joven, Universitarias Feministas de Itapúa, Kuña Sorora, Diversxs, Cinecable y Kuña Roga3.

Seminario Internacional: Fronteras, tecnología y seguridaden Ciudad del Este

Desde una perspetiva local y regional, el 18 y 19 de julio organizamos el Seminario Internacional “Fronteras, tecnología y seguridad”, desarrollado con el apoyo del Rectorado y la Escuela de Postgrado de la Universidad Nacional del Este (UNE), el INECIP y la Fundación CIRD4.

El espacio estuvo acompañado por representantes de organizaciones del Alto Paraná, entre las que se encuentraban la organización Piensa, MILABHUB, IEEE Rama Estudiantil UCAP y ReAcción. Estas formaron parte del desarrollo del seminario a lo largo de dos días en los que debatimos sobre el contexto y la situación política y social en temas de seguridad, tecnología y vigilancia en territorio de la triple frontera entre Argentina, Paraguay y Brasil.

Además, en estas jornadas de formación y debate, participaron autoridades y expertos en estos temas, enfocando las discusiones en los diversos programas de seguridad implementados en la zona de la Triple Frontera y las implicancias de la tecnología digital en la seguridad y derechos humanos de las personas. También exploramos la intersección entre la soberanía digital de los Estados y el rol del sector privado en estas iniciativas.

Hackcorruption 2023 Colombia

Tras una postulación competitiva nuestro proyecto fue seleccionado para participar de la Hackcorruption 2023, celebrado en su versión para América Latina en la ciudad de Bogotá, Colombia del 18 al 22 de agosto. El objetivo de este evento fue abordar los problemas de corrupción a través de soluciones tecnológicas innovadoras, desde TEDIC, en colaboración con Idec (Instituto Brasileño de Protección al Consumidor) de Brasil, presentamos un prototipo de plataforma denominado «Monitor Vigilante».

El prototipo «Monitor Vigilante» fue concebido como un observatorio de control ciudadano que busca monitorear la adquisición y uso de tecnologías invasivas en Latinoamérica. En su fase inicial, propusimos la utilización de datos abiertos del Estado paraguayo, especificamente de la Dirección Nacional de Contrataciones Públicas (DNCP), con planes de incluir datos de otras entidades como la Dirección del Material Bélico (DIMABEL), la Policía Nacional de Paraguay y el Ministerio del Interior.

Incidencia nacional

Mantuvimos reuniones con autoridades y presentamos litigios para promover la transparencia en el uso de esta tecnología invasiva. Autoridades del Poder Ejecutivo, Legislativo y Judicial fueron alertadas sobre los riesgos existentes y consultadas sobre las labores que los involucra en la materia.

Te Invitamos a explorar a continuación y en detalle nuestras actividades para comprender el impacto completo de nuestro proyecto, realizado con el apoyo de la Fundación CIRD.

Reunión con el Ministerio del Interior

El 2 de mayo se llevó a cabo una reunión con el Viceministro del Interior, la Directora general del Sistema 911 y representantes jurídicos del Ministerio del Interior junto con el equipo de TEDIC. El enfoque principal de la discusión fue nuestra preocupación sobre el uso de cámaras de reconocimiento facial y la falta de respuesta institucional a estas inquietudes, especialmente con relación a nuestro pedido de acceso a la información pública que fue denegado por cuestiones de “seguridad nacional” y está actualmente en proceso de litigio ante la Corte Suprema de Justicia.

Reunión con autoridades del Poder Ejecutivo

El 4 de mayo, desde TEDIC concertamos una reunión con el Ing. Nicolás Evers, gerente de planificación y desarrollo de la Comisión Nacional de Telecomunicaciones (CONATEL) en Paraguay.

Entre los temas que abordamos destacó la aclaración que la institución ampara la compra de cámaras con reconocimiento facial para la Policia Nacional basados en la ley que crea el Sistema 911, considerando por ello al Sistema 911 como “proveedor de telecomunicaciones”. En esa misma línea, se discutió sobre la distribución de los Fondos de Servicios Universales (FSU) y su manejo discrecional por parte del Poder Ejectuvo, con insuficientes mecanismos de control desde la población civil.

En la reunión recordamos el litigio estratégico impulsado por TEDIC desde el 2018 y advertimos de posibles nuevas medidas en caso que se siga obstruyendo el acceso a la información y el cuestionable uso de los recursos, considerados por nuestra organización, ajenos a su finalidad esencial.

Reunión con el Poder Judicial y la Fiscalía

El 25 de abril, realizamos una reunión clave con el Ministro Ramírez Candia y Nury Montiel, Directora de Derechos Humanos de la Corte Suprema de Justicia, donde se discutieron temas como biometría, preocupaciones en procesos judiciales que deben garantizar nuestros derechos digitales y la necesidad de una ley de protección de datos.

En agosto, desde TEDIC mantuvimos audiencias con el Ministro de la CSJ, Dr. Gustavo Santander, y el Fiscal General del Estado, Dr. Emiliano Rolón, para discutir estos asuntos. Las mismas fueron acompañadas por el coordinador del proyecto #MásCiudadaníaMenosCorrupción, Francisco Alcaraz del CIRD.

Las conversaciones se centraron en la transparencia del uso de tecnologías de reconocimiento facial y la seguridad de los datos personales. Desde TEDIC, ofrecimos a las autoridades de ambas instituciones mantener un canal de comunicación abierto para informar sobre las acciones impulsadas en materia de justicia y derechos digitales.

Nuevos urgimientos en litigio sobre reconocimiento facial:

En TEDIC, sostenemos la convicción de la importancia de establecer sólidos precedentes en la protección de los derechos humanos en el contexto del uso de tecnología y vigilancia masiva, especialmente en el Poder Judicial.

Este año presentamos dos nuevos urgimientos que buscan acelerar la resolución de una acción de inconstitucionalidad presentada en el 2019, donde exigimos información sobre la implementación de tecnología biométrica en cámaras de video-vigilancia en Asunción, tras negativas del Ministerio del Interior a las solicitudes de información. La solicitud abarca detalles sobre el sistema biométrico implementado desde julio de 2018, incluyendo protocolos de tratamiento de datos, propósito del sistema, tasas de error del algoritmo y su impacto en los derechos humanos.

El caso está pendiente de resolución por parte de los ministros Gustavo Santander, Victor Rios y Cesar Diesel, siendo este último preopinante. La renuncia del ex-ministro de la CSJ, Antonio Fretes, quien era el preopinante, llevó a que el expediente tenga aún más retrasos procesales.

Para acompañar las presentaciones y sensibilizar sobre la importancia del caso, se realizó una acción comunicacional incluyendo un video explicativo y un blogpost.

Nuevos amparos sobre reconocimiento facial

Siguiendo nuestros principios, la ejecución de litigios estratégicos es una parte integral de nuestra labor. En TEDIC, durante el año 2023, hemos vuelto a presentar nuevas solicitudes de acceso a la información pública sobre cámaras de reconocimiento facial en Paraguay, en consonancia con nuestra acción legal promovida en el 2019.

Basándonos en la investigación que estamos a punto de publicar sobre las recientes adquisiciones estatales de cámaras de reconocimiento facial, hemos identificado una nueva oportunidad para llevar a cabo acciones legales estratégicas en este ámbito.

Estos nuevos amparos presentados por TEDIC contra la Policía Nacional y el Ministerio del Interior de Paraguay, registrados como Expedientes 2320/2023 y 2319/2023, ilustran un esfuerzo significativo en la promoción de la transparencia y el acceso a la información pública. Estos casos, con fecha 5 de diciembre de 2023, enfrentan la negativa de estas instituciones a suministrar datos sobre la implementación y uso de tecnologías de reconocimiento facial.

El primer caso (Exp. 2320/2023) contra la Policía Nacional, tramitado en el Juzgado de Primera Instancia en lo Civil y Comercial del 19º turno (Secretaría 37), se enfoca en obtener estadísticas que ya habían sido publicadas parcialmente, destacando un uso discrecional del argumento de «seguridad nacional» para negar información. La solicitud completa puede consultarse aquí.

El segundo caso (Exp. 2319/2023) contra el Ministerio del Interior, procesado en el Juzgado de Primera Instancia en lo Civil y Comercial del 3º turno (Secretaría 5), busca detalles sobre la implementación de cámaras de videovigilancia, incluyendo cámaras con tecnología de reconocimiento facial. Este caso sigue la línea del anterior y su solicitud detallada está disponible aquí.

Estos amparos, además de buscar información específica, tienen como objetivo más amplio impulsar una discusión sobre la necesidad de transparencia y rendición de cuentas en el uso de tecnologías invasivas de vigilancia por parte del Estado.

Con mi cara no: Arte y innovación para hablar sobre reconocimiento facial

Este proyecto tuvo un impacto significativo a nivel nacional al abordar los riesgos y desafíos del reconocimiento facial uniendo comunicación, justicia, arte y tecnología. Desde una perspectiva transversal, realizamos un graffiti en el centro de Asunción y distribuimos más de 1000 fanzines en eventos llevados a cabo en varias ciudades de Paraguay. Más de 300 personas, incluyendo 30 periodistas, participaron en actividades presenciales, y más de 5000 personas se sensibilizaron a través de nuestra campaña de comunicación a través de redes sociales.

Además, desarrollamos herramientas interactivas que no estaban inicialmente previstas en el proyecto, pero que resultaron esenciales durante el desarrollo de la campaña y los talleres para presentar, de forma accesible, el funcionamiento de las tecnologías de reconocimiento facial a las personas que participaron de nuestros talleres y eventos sobre la temática. A continuación detallamos algunas de las principales actividades y productos de este proyecto:

Sensibilizar desde el arte y la comunicación

Desde TEDIC realizamos un fanzine en formato digital e impreso, a modo de fortalecer la campaña comunicacional del proyecto y exponer el funcionamiento de los sistemas de captación de datos biométricos, incluyendo el reconocimiento facial.

1000 copias de los fanzines fueron distribuídos en eventos presenciales en Asunción, Ciudad del Este, Encarnación y Villarica.

Además, para amplificar su difusión digital desarrollamos un video en formato vertical, adaptado para redes sociales cómo Tik Tok y Reels en Instagram, Facebook, y Youtube. En este video mencionamos algunos de los riesgos devenidos de la datificación a la luz de los abusos a la privacidad y los sesgos existentes en las tecnologías desarrolladas e invitamos a descargar el material para una compresión más detallada.

Además, entre los meses de noviembre y diciembre del 2022 realizamos un graffiti en la vía pública, específicamente sobre las calles 14 de agosto y Palma, del centro de Asunción para instalar la campaña #ConMiCaraNO y #MisDatosMisDerechos.

El diseño estuvo a cargo del reconocido grafitero y activista por los derechos humanos, Oz Montania. Junto al artistica, exploramos desde el arte sobre los riesgos de las cámaras de reconocimiento facial en los espacios públicos y la necesidad de transparentar el uso de los mismos.

Este proceso fue documentado por medio de un video difundido en nuestras redes, sirviendo cómo posicionamiento inicial de sensibilización.

Herramientas Interactivas

Simulador de etiquetado de rostros

De forma complementaria a lo previsto inicialmente en el proyecto, desde TEDIC hemos desarrollado una web con tecnología de reconocimiento facial, open source, que permite detectar rasgos faciales, identificando el género, el tipo de expresión (alegría, tristeza, enojo, neutral) y la edad de la persona que consulta.

El sitio web es consultable facilmente desde cualquier navegador, sea en móviles cómo en computadoras y se encuentra disponible en: https://cara.tedic.org/demo/webcam.html

La herramienta fue presentada en público en los talleres de Villarica, Ciudad del Este cómo también a nivel regional en el evento Hackcorrupción 2023 en la ciudad de Bogotá, Colombia.

Vigilando al vigilante – Herramienta para mapear cámaras en vía pública

En pos de promover una cultura de la transparencia y la integridad, utilizando herramientas informáticas libres y colaborando con la concienciación de los peligros de la vigilancia masiva en vía pública, desde TEDIC y en el marco de las actividades desarrolladas durante el proyecto con el CIRD.

La puesta a punto de la plataforma implicó involucrarse con la comunidad global de MapComplete, software web basado en Open Street Maps (OSM) que permite mapear colaborativamente las cámaras a través de su módulo “Vigilancia bajo vigilancia”5.

La tarea de traducción del sitio, originalmente en inglés, fue desarrollada por parte de nuestro equipo en TEDIC para garantizar su uso en el territorio nacional y otros países de habla hispana.

Esta herramienta fue presentada en los talleres de Villarica y Ciudad del Este.

Documentaciones sobre filtración de la policía Nacional, incluyendo 4 millones de imágenes de rostros

Además, tomamos la iniciativa de elaborar y publicar un artículo el pasado 4 de octubre de 2023, titulado «La filtración de datos policiales en Paraguay y una imperante urgencia de respuestas». El núcleo del artículo aborda la reciente y alarmante filtración de más de 400GB de datos confidenciales pertenecientes a la Policía Nacional de Paraguay. Esta filtración no solo expone detalles personales y registros relacionados con investigaciones policiales, sino que también revela una vulnerabilidad significativa en datos biométricos, incluyendo rostros captados por cámaras de reconocimiento facial y los Identificadores Civiles (IC) de las cédulas de identidad.

Este trabajo resalta las persistentes preocupaciones que desde TEDIC venimos señalado con respecto a las tecnologías de cibervigilancia implementadas, las cadenas de custodia de la información, y la falta de protocolos de transparencia por parte de la Policía Nacional. Creemos que la exposición de esta información crítica pone en riesgo nuestra seguridad y nuestra privacidad, evidenciando la falta de una gestión adecuada y responsable en lo que respecta a la protección de datos personales en nuestro país.

Este artículo se vincula directamente con las preocupaciones que venimos expresando desde 2018 sobre la implementación de cámaras de reconocimiento facial en Paraguay. La filtración confirma nuestras advertencias previas, mostrando que lo que ocurrió podría seguir sucediendo si no se toman las medidas adecuadas.

Desde TEDIC seguiremos luchando en la tarea de incidencia por la aprobación de una Ley integral de protección de Datos Personales en Paraguay, instando a las autoridades a proporcionar información sobre la compra de cámaras con reconocimiento facial y generando espacios de discusión y formación en torno a la necesidad de contar con estudios de impacto y una perspectiva de derechos humanos en el camino hacia la digitalización de un gran número de procesos en Paraguay.

5https://mapcomplete.org/surveillance

4 https://www.tedic.org/seminario-internacional-fonteras-tecnologia-y-seguridad/

3https://www.tedic.org/taller-biometria-y-datos-personales-encarnacion/

2https://www.tedic.org/taller-biometria-y-datos-personales/

1https://www.tedic.org/taller-biometria-y-datos-personales-para-periodistas/