Introdução

As tecnologias de reconhecimento facial, uma das tecnologias de inteligência artificial (IA) mais presentes em diversos setores da sociedade, desde segurança pública, comércio retalhista, tecnologia móvel, banca e finanças, entre outros, têm vindo a suscitar reações variadas, contraditórias e complexas, num continuum entre a sua normalização e aceitação, e crítica e oposição pública. Estas tecnologias funcionam através da análise de características faciais extraídas de imagens ou vídeos, incluindo a distância entre os olhos, a forma do nariz e os contornos do rosto, servindo essencialmente dois propósitos principais: autenticação (esta pessoa é quem diz ser?) e identificação (quem é esta pessoa?). Mais recentemente, estas tecnologias estão também a ser desenvolvidas para aplicações altamente controversas que extravasam as tradicionais funções de autenticação e identificação, desde a avaliação de estados emocionais à inferência de tendências comportamentais e traços de personalidade (^{Hupont et al., 2022}; ^{Kaur et al., 2020}).

Com origem em aplicações militares desenvolvidas nos EUA desde a década de 1960 (^{Gates, 2011}), as tecnologias de reconhecimento facial experimentaram um crescimento significativo no início do século XXI, impulsionado pelas crescentes preocupações com a segurança nacional após o 11 de setembro. Nos últimos anos, o mercado expandiu-se substancialmente devido ao crescente interesse das grandes empresas tecnológicas nessas tecnologias. Analistas do setor preveem que o tamanho do mercado global de reconhecimento facial mais do que quadruplicará entre 2020 e 2032 (^{Allied Market Research, 2023}). Atualmente, os sistemas de videovigilância com capacidades de reconhecimento facial tornaram-se padrão em muitos países do mundo, em locais como aeroportos, postos fronteiriços, estádios e espaços públicos, com o objetivo de controlar fluxos de migrantes e identificar pessoas de interesse, que, por exemplo, constem de listas de foragidos, de terroristas ou de bases de dados criminais nacionais (^{Dauvergne, 2022}a, ²⁰²²b; ^{Ellerbrok, 2011}; ^{Kloppenburg e van der Ploeg, 2018}; ^{Magnet, 2011}; ^{Sánchez-Monedero e Dencik, 2022}).

Os promotores de tecnologias de reconhecimento facial enfatizam diversas vantagens, como a melhoria na eficácia e segurança dos processos de identificação e autenticação de pessoas em contextos como aeroportos, transações financeiras e compras ou o seu uso na localização de pessoas desaparecidas. Além disso, destacam o potencial uso dessas tecnologias em diagnósticos médicos, apoio em saúde mental e personalização de tratamentos. No entanto, a proliferação dessas tecnologias tem gerado preocupações significativas entre académicos, ativistas, especialistas em privacidade e reguladores sobre os possíveis efeitos prejudiciais para a sociedade. Entre os tópicos que suscitam preocupações destacam-se: a ampliação da vigilância massiva por governos e empresas e as ameaças à privacidade, às liberdades civis e aos direitos humanos (^{Bueno, 2020}; ^{Bucher, 2022}); a perpetuação de discriminação contra comunidades e grupos vulneráveis, que são mais suscetíveis a processos de suspeição e vigilância (^{Galligan et al., 2020}; ^{Søraa, 2023}); e as falhas e imprecisões que essas tecnologias apresentam, que tendem a atingir pessoas que saem fora do modelo dominante de treino de dados de sistemas de IA - o padrão de “homem branco” (^{Buolamwini, 2023}; ^{Cabitza, Campagner e Mattioli, 2022}).

No atual contexto de expansão generalizada de tecnologias de reconhecimento facial em diversos setores, acompanhado pela ampliação de vozes críticas em relação aos riscos e danos dos seus usos, várias organizações da sociedade civil, transnacionais, regionais e locais, que incluem uma ampla diversidade de apoiantes de base e de tipo de estrutura, têm desencadeado várias atividades para contestar o uso destas tecnologias, incluindo protestos públicos, campanhas de sensibilização, estudos sobre efeitos negativos e ações judiciais. O objetivo principal dessas ações de contestação é destacar as preocupações públicas, atuais e futuras, em relação à presença de tecnologias de reconhecimento facial em espaços públicos e em diversos setores da sociedade, e pressionar os decisores políticos por mudanças. Os estudos sobre a contestação das tecnologias de reconhecimento facial levada a cabo por organizações da sociedade civil ainda são limitados, destacando-se um estudo que oferece uma visão geral do caso dos EUA (^{Dauvergne, 2022}a) e outro que compara os objetivos e estratégias de contestação da parte de organizações da sociedade civil nos EUA e na Europa (^{Schopmans e Ebetürk, 2023}).

Este artigo pretende ampliar o conhecimento sobre ações de contestação de tecnologias de reconhecimento facial, analisando a oposição às tecnologias de reconhecimento facial na América Latina.¹ [MOU1]Em particular, focar-se-ão as formas pelas quais estas ações de contestação projetam aquilo que Schopmans e Ebetürk, a propósito da comparação entre o caso dos EUA e da Europa, designam como “imaginários tecno-autoritários”:

visões coletivas de um futuro social indesejável em que os atores públicos e privados utilizam sistematicamente tecnologias que, pela sua própria conceção, facilitam práticas não democráticas, para retirar os direitos democráticos de indivíduos ou grupos. (^{Schopmans e Ebetürk, 2023}: 944 [tradução da autora]).

A partir de uma análise de documentação produzida por organizações da sociedade civil atuando na região da América Latina (Associación por los Derechos Civiles, na Argentina; Igarapé e Internet Lab, no Brasil, Derechos Digitales, no Chile; Karisma Foundation, na Colômbia; Fundación Acceso, na Costa Rica; R3D-Rede em Defensa de los Derechos Digitales, no México)² visa-se compreender as dinâmicas de contestação (^{Prasse-Freeman, 2020}) à luz de configurações atuais do ativismo institucionalizado no campo dos direitos digitais. Neste contexto, o presente artigo tem como objetivo principal responder à seguinte questão: Como é que as ações de contestação de organizações da sociedade civil na América Latina, dirigidas a tecnologias de reconhecimento facial, reconfiguram “imaginários tecno-autoritários”, e como é que essas dinâmicas de contestação revelam tensões e conflitos estruturais fortemente marcados pelo contexto político e social?

Esta questão suscita uma análise do modo como as ações de contestação, da parte de organizações da sociedade civil, dirigidas a tecnologias de reconhecimento facial, na América Latina, refletem tensões e conflitos estruturais sob a forma daquilo que Pierre ^{Bourdieu designou “opiniões mobilizadas” (Bourdieu, 1993}) que, por sua vez, traduzem um mundo de relações entre públicos mobilizados e públicos não mobilizados mas potencialmente mobilizáveis. Ou seja, essas ações refletem uma arena de disputa simbólica em que determinados grupos conseguem transformar preocupações éticas e políticas em discursos públicos articulados, direcionando a atenção para os riscos de vigilância e invasão de privacidade associados a essas tecnologias. Na minha perspetiva, existe não só uma diferenciação entre os públicos já mobilizados - aqueles empenhados ativamente na causa, que geralmente pertencem a contextos mais politizados ou são afetados diretamente pelas práticas de vigilância - e públicos ainda não mobilizados mas potencialmente sensíveis a comprometerem-se (^{Machado, Silva e Neiva, 2023}). Em suma, a capacidade de mobilização das organizações da sociedade civil aponta para dinâmicas de poder que influenciam quem tem voz na definição dos rumos dessas tecnologias e quem permanece silenciado. Ao longo deste texto procurar-se-á analisar de que forma as opiniões mobilizadas destas ações de contestação das tecnologias de reconhecimento facial projetam imaginários tecno-autoritários e estão fortemente marcadas pelo contexto político e social, envolvendo inter-relações entre ciência e desenvolvimento tecnológico, governos, empresas, cidadãos, movimentos sociais e ativismo (^{Hess, 2015}).

Numa primeira parte, descrevem-se as principais controvérsias em torno de tecnologias de reconhecimento facial e o tipo de contestação que tem surgido nos EUA e na Europa. Numa segunda parte, analisam-se as controvérsias que têm vindo a emergir em alguns países da América Latina e as ações de contestação das organizações da sociedade civil, comparando-as com as ações de contestação na Europa e nos EUA. Na conclusão, sintetizam-se os principais elementos dos imaginários tecno-autoritários associados à contestação das tecnologias de reconhecimento facial na América Latina.

Contestação das tecnologias de reconhecimento facial

A tendência acentuada para o tecno-solucionismo por parte de governos, tecnocratas e empresas tecnológicas a uma escala global, ou seja, a crença que o desenvolvimento incessante de novas tecnologias é a solução para resolver problemas complexos (^{Morozov, 2013}), faz com que um dos aspetos centrais de legitimação e justificação da expansão de tecnologias de reconhecimento facial se associe a preocupações com segurança pública e controlo da violência e da criminalidade. Em contraponto com discursos laudatórios que sugerem que estas tecnologias permitem uma identificação e autenticação segura de pessoas que poderá, por exemplo, identificar criminosos ou ajudar na busca de pessoas desaparecidas, vozes críticas receiam um controlo social autoritário, ou melhor dizendo: um autoritarismo tecno-digital (^{Schopmans e Ebetürk, 2023}).

A emergência da China como líder em tecnologias de reconhecimento facial aumentou estas preocupações sobre uma vigilância massiva distópica, intensificando os debates nos países ocidentais sobre o equilíbrio entre liberdade e repressão e a interseção entre vigilância e democracia. Estas preocupações são grandemente amplificadas pelas narrativas dos meios de comunicação social, que frequentemente retratam a utilização de reconhecimento facial pela China como um exemplo flagrante de controlo estatal, servindo como um contraste pungente com as aplicações éticas previstas da IA e os ideais democráticos presumivelmente incorporados pelos EUA e pela União Europeia, reproduzindo, deste modo, visões geopolíticas do Norte Global que operam uma divisão simbólica entre o “ocidente” e o “resto do mundo” (^{Aradau e Blanke, 2022}: 139). Neste contexto, escasseia conhecimento sobre os contornos do debate entre liberdade e repressão, vigilância e democracia no contexto particular da América Latina. Clamando como urgente investigar os contornos da utilização de tecnologias de reconhecimento facial, Peter Dauvergne refere que o reconhecimento facial

é especialmente perigoso em locais com um estado de direito desigual, fraca proteção dos direitos humanos, direitos de privacidade limitados e governos repressivos, que, não por coincidência, são os locais onde os líderes políticos na Ásia, África e América Latina estão a avançar particularmente depressa para integrar a tecnologia em ferramentas policiais e sistemas de vigilância. (^{Dauvergne, 2022}b: 2326 [tradução da autora]).

Em vários países, a contestação da expansão da utilização de tecnologias de reconhecimento facial tem aumentado nos últimos anos, com diversas organizações da sociedade civil a ganharem força e coerência nos seus esforços de crítica à expansão das tecnologias de reconhecimento facial, com uma ampla variedade em termos de abrangência das suas ações, tanto a nível local, como nacional e internacional. Esta contestação é tanto de base de ativismo popular como apoiada por organizações estabelecidas da sociedade civil, abrangendo defensores da justiça racial, dos direitos LGBTQ+, da justiça social, dos direitos dos imigrantes e das liberdades democráticas (^{Dauvergne, 2022}a). A presença de organizações da sociedade civil que contestam tecnologias de reconhecimento facial varia significativamente a nível mundial, sendo os EUA e a Europa as regiões do mundo que apresentam ações mais fortes de contestação (^{Dauvergne, 2022}a, ²⁰²²b).

De acordo com um estudo comparativo de movimentos sociais de contestação da expansão e utilização de reconhecimento facial nos EUA e na Europa (^{Schopmans e Ebetürk, 2023}) existem diferenças em termos dos problemas identificados: a atuação de organizações da sociedade civil nos EUA, como a American Civil Liberties Union (ACLU) e a Surveillance Technology Oversight Project (STOP), centra-se em dois tipos de controvérsias: por um lado, a vigilância massiva; por outro lado, os vieses e erros.

Os receios em relação à vigilância massiva dirigem-se sobretudo às alianças entre o aparelho militar do governo, as forças policiais e as parcerias com grandes empresas, tendo surgido várias controvérsias relacionadas com usos de reconhecimento facial dirigidos a comunidades mais vulneráveis e estigmatizadas e junto de participantes em manifestações públicas contra a violência policial e o racismo.

As preocupações relacionadas com viés e erros técnicos das tecnologias de reconhecimento facial focam os modos como estas tecnologias reproduzem e reforçam o racismo sistémico e têm efeitos discriminatórios, sobretudo quando são usadas por forças policiais, podendo levar a prisões injustas de pessoas de cor.³ É frequentemente apontado que as tecnologias de reconhecimento facial perpetuam e agravam a discriminação, por apresentarem mais erros e falhas quando se trata de populações fora do padrão “homem branco” (^{Buolamwini, 2023}). Esses vieses estão relacionados com o chamado “problema de alinhamento” em inteligência artificial (^{Gabriel, 2020}), que se refere à dificuldade em garantir que sistemas automatizados, como a IA e as tecnologias de reconhecimento facial, estejam alinhados com valores, princípios e normas éticas humanas: ao operar com dados que refletem preconceitos históricos e sociais, as tecnologias de reconhecimento facial não só falham em neutralizar esses vieses, como também os reforçam (^{Russell, 2019}).

Em organizações da sociedade civil atuando na Europa, como Euroactive, Statewatch e European Digital Rights (EDRi), o imaginário de uma vigilância massiva indiscriminada e totalitária é o aspeto mais proeminente (^{Schopmans e Ebetürk, 2023}), sendo argumentado que a utilização de reconhecimento facial para vigilância indiscriminada em espaços públicos potencia violações de direitos fundamentais, abusos de poder por parte das autoridades e entidades privadas ou comerciais. A reforçar este argumento principal apontam-se outros aspetos: por um lado, a ausência de responsabilização, na medida em que o uso de reconhecimento facial ocorre num vazio de responsabilidade do estado e num contexto em que grandes empresas privadas têm um poder desproporcionado sobre esta tecnologia, sem prestarem contas pelas suas ações. Por outro lado, a utilização de reconhecimento facial para “reconhecimento de emoções” ou “previsão comportamental”, que está a ser desenvolvida por alguns cientistas e empresas, pode ser explorada para utilizações extremas de controlo social autoritário, como a classificação social,⁴ ou mesmo a pontuação social,⁵ e a manipulação comportamental.

Nos EUA, algumas cidades e estados implementaram proibições de uso de reconhecimento facial, mas também assistimos a tentativas de cooptação do enquadramento da justiça racial por parte das empresas e das forças policiais, que reformularam o debate em torno de soluções técnicas para o viés e discriminação, a fim de evitarem uma regulamentação mais restritiva e mitigarem danos reputacionais (^{Wen e Holweg, 2023}). Na Europa, a ênfase dada pelos ativistas à incompatibilidade do reconhecimento facial com os direitos fundamentais repercutiu-se nos decisores políticos e contribuiu para uma proposta de proibição das tecnologias biométricas à distância. No entanto, a Lei da IA da União Europeia (^{Comissão Europeia, 2024}), recentemente aprovada, ao longo das suas sucessivas redações foi diminuindo as restrições ao uso destas tecnologias, relegando nos estados-membros a opção de adotarem regras mais rigorosas e concretas a nível nacional.

Contestação do reconhecimento facial na América Latina

Comparando com os EUA e Europa, na América Latina são relativamente escassas as organizações da sociedade civil e movimentos sociais de contestação das tecnologias de reconhecimento facial (^{Dauvergne 2022}a, ²⁰²²b), mas em países como o Brasil e a Argentina o ativismo contra o reconhecimento facial está a crescer (^{Caeiro, 2022}; ^{Ramiro e Cruz, 2023}).

Com base nos princípios do método heurístico (^{Heineman-Pieper, Tyson e Pieper, 2002}), que orienta a análise da complexidade dos fenómenos sociais através da descoberta, exploração e flexibilidade, procedeu-se a uma recolha sistemática de documentos disponíveis na internet sobre controvérsias e ações de contestação às tecnologias de reconhecimento facial em países da América Latina. A seleção dos documentos para este estudo foi realizada com base em critérios de relevância e representatividade, considerando a natureza dos casos documentados e a credibilidade das fontes. Focou-se em relatórios, comunicados e artigos de organizações da sociedade civil que abordavam a temática, complementados por artigos da imprensa para contextualizar e validar as situações descritas. Esta abordagem, embora flexível e orientada para a descoberta, implica algumas limitações, como a potencial falta de dados uniformes ou a dependência de fontes públicas, o que pode introduzir vieses. No entanto, esta estratégia permitiu captar uma ampla diversidade de perspetivas e casos, refletindo a complexidade e pluralidade do fenómeno de contestação ao uso do reconhecimento facial na região.

De acordo com o estudo de ^{Caeiro (2022}), Argentina, Bolívia, Brasil, Costa Rica, Colômbia, Equador, México, Paraguai e Peru têm implementações de sistemas de reconhecimento facial em curso; o Chile, El Salvador, a Guatemala e o Uruguai têm planos para a sua implementação, estimando-se, ainda, que os usos de reconhecimento facial já terão começado nas Honduras e na Nicarágua (^{Caeiro, 2022}: 3-4). Com base num estudo realizado pela Comparitech, uma empresa de defesa do consumidor que promove a privacidade digital e a cibersegurança, sobre a prevalência das tecnologias de reconhecimento facial em diversos setores - como serviços públicos, forças policiais, aeroportos, escolas, bancos, locais de trabalho e transportes (^{Bischoff, 2022}) - os países que na América Latina apresentam maior prevalência da utilização de reconhecimento facial são a Argentina, o Brasil e o México. Em resultado da pesquisa documental realizada, sobre situações de controvérsias e de contestação de tecnologias de reconhecimento facial em países da América Latina, foi possível apurar os cenários que constam do quadro 1.

Quadro 1 Controvérsias e contestação de tecnologias de reconhecimento facial 

De acordo com ^{Venturini e Garay (2021}), as controvérsias geradas em torno da utilização de reconhecimento facial nos diferentes países da América Latina permitem identificar algumas preocupações comuns manifestadas por organizações da sociedade civil, certos círculos académicos e alguns meios de comunicação social: a justificação do uso do reconhecimento facial em nome da segurança pública pode conduzir a uma vigilância massiva e sem prestação de contas; processos obscuros de introdução de tecnologias de vigilância nos mercados latino-americanos, cruzando corrupção governamental, fraude e interesses comerciais; a implementação de sistemas de reconhecimento facial em contextos regulatórios e legais débeis; a ausência de mecanismos adequados de transparência e de supervisão da utilização e retenção de dados; receios que o uso desta tecnologia por forças policiais reforce a discriminação racial estrutural e a vigilância sobre manifestantes e dissidentes políticos. Na secção seguinte, procede-se a uma comparação das controvérsias identificadas na América Latina com aquelas que mais se destacaram no estudo realizado por ^{Schopmans e Ebetürk (2023}) para os casos dos EUA e Europa.

Discussão: autoritarismo tecnicamente assistido?

Conclusão

À medida que cresce a contestação da vigilância estatal e corporativa por via de tecnologias digitais como o reconhecimento facial, tanto na América Latina, como nos EUA e Europa, essa mesma vigilância expande-se e incrusta-se nas sociedades, a uma escala global, sob o apanágio da segurança pública, ainda que com reconfigurações de sentido consoante o contexto social e político. Vários autores apontam, para o caso do EUA e da Europa, que, perante a vigilância massiva por meio de tecnologias digitais, os significados de privacidade, direitos humanos e segurança não só estão a mudar, tornando-se mais heterogéneos, fragmentados e difusos, como as relações entre vigilância massiva, governos, empresas, cidadãos, democracia e autoritarismo estão a desestabilizar-se (^{Bauman et al., 2014}). O conhecimento sobre essas transformações e (re)configurações é ainda muito escasso para o contexto da América Latina.

A contestação das organizações da sociedade civil na América Latina contra as tecnologias de reconhecimento facial projeta um imaginário tecno-autoritário que incita a uma resistência necessária contra um “autoritarismo tecnicamente assistido” (^{Venturini e Garay, 2021}: 23) que pode perpetuar desigualdades sociais e históricas, configurando-se como uma discussão política essencial para definir o tipo de sociedade almejada. No cerne do imaginário tecno-autoritário projetado por organizações da sociedade civil atuando na América Latina está a preocupação com a tendência dos governos de ocultar os riscos e abusos associados a essas tecnologias como tentativa de impor um controlo velado, ao qual a sociedade civil deverá responder com exigências de transparência, debate democrático e uma implementação tecnológica que respeite os direitos humanos.

Outro aspeto que se destaca ao nível dos imaginários tecno-autoritários projetados pela contestação das tecnologias de reconhecimento facial é a ênfase colocada no facto de a América Latina ser uma região onde os direitos humanos e liberdades civis são frequentemente ameaçados. Neste sentido, as organizações da sociedade civil na América Latina tendem a destacar a resistência dos cidadãos para assegurar que as tecnologias de reconhecimento facial não sejam usadas como instrumentos de opressão, alertando ainda para a necessidade de reflexão crítica em torno de promessas de modernidade e desenvolvimento frequentemente veiculadas por governos para justificar a introdução de novas tecnologias controversas.

Neste contexto, este estudo sugere implicações relevantes para a política e investigação futura, salientando o papel crucial das organizações da sociedade civil na construção de uma resistência contextualizada e autêntica, adaptando estratégias de contestação a condições de autoritarismo ou de democracia que variam amplamente. A capacidade de articular estas questões em modos que dialoguem com as vivências locais poderá contribuir para envolver cidadãos ainda não mobilizados (^{Machado, Silva e Neiva, 2023}; ^{Machado et al., 2024}), aumentando o impacto das campanhas.

Embora as regulamentações emergentes sobre reconhecimento facial noutras regiões, como a UE, possam servir como referências, é essencial que a América Latina desenvolva abordagens próprias, que se baseiem nas experiências regionais e na defesa de direitos numa perspetiva descolonial (^{Mohamed, Png e Isaac, 2020}). A partir de marcos regulatórios que respeitem as necessidades locais, as organizações não governamentais latino-americanas têm a oportunidade de moldar políticas inovadoras, inclusivas e transparentes, que não se limitem a reproduzir modelos do Norte Global, mas que fortaleçam uma governação tecnológica ancorada nas realidades do Sul Global.

Em suma, a análise das organizações da sociedade civil na América Latina que contestam as tecnologias de reconhecimento facial revela ações geradoras de transformações que aspiram a moldar o presente e o futuro (^{Prasse-Freeman, 2020}). Estas ações reivindicam um repensar fundamental das relações de poder na era da IA, exigindo novos direitos, formas de cidadania e ativismo em resposta ao autoritarismo digital suscitado por tecnologias de reconhecimento facial. Ao expandir esta reflexão, predominantemente focada no Norte Global, para os contextos sociais e políticos latino-americanos, o presente estudo não só tenta ampliar a compreensão dos impactos globais do reconhecimento facial como pretende contribuir para novas abordagens de governação que incorporem as realidades e as necessidades específicas da região.

Agradecimentos

Agradeço aos revisores anónimos pelas suas sugestões e comentários críticos, e, de um modo particular, à colega Susana Silva (UMinho, CRIA/IN2PAST) pelos comentários aprofundados a uma versão preliminar deste artigo. Este estudo teve apoio do Conselho Europeu de Investigação, no âmbito do projeto fAlces (grant agreement n.º 101140664), ref. ERC-2023-AdG.