1. Introdução

Entre 2021 e 2022, perfis públicos de muitas mulheres indianas muçulmanas foram "leiloados" com as suas fotografias e informações pessoais a vários utilizadores numa plataforma de código aberto, o GitHub. Estas aplicações, conhecidas como S*lli Deals e B*lli Bai, distribuíam fotografias de mulheres indianas muçulmanas proeminentes nas redes sociais com mensagens depreciativas como "o seu negócio s*lli do dia é-", que eram partilhadas pelos utilizadores através do Twitter (^{Pandey, 2021}).

O Facebook, o Instagram e o Twitter tornaram-se uma parte intrusiva da nossa vida política e pública (^{Jose, 2021}). Estas plataformas estão repletas de casos de violência de género online (VGO; Figure 1 e Figure 2). A VGO é constituída por casos em plataformas digitais que visam géneros marginalizados na intersecção da religião, casta e sexualidade, que se manifestam sob a forma de falsificação de identidade, doxing, spamming, ciberperseguição, rastreio e vigilância, assédio verbal e disseminação não consensual de mensagens privadas e fotografias com intenções maliciosas. Na Índia, os alvos deste assédio online são as mulheres, a comunidade LGBTQI+, as pessoas não binárias e trans, especialmente aquelas que provêm de castas não hindus e oprimidas, que manifestam os seus pensamentos, vozes e opiniões divergentes contra o atual governo de extrema-direita e as suas ideologias hindus supremacistas.

Retirado de 26.4 thousand tweets, most are abusive, rape and death threats, calling me a terror sympathiser. Most tweets are by the [Tweet], por Rana ^{Ayyub [@RanaAyyub], 2022a}, Twitter. (https://twitter.com/ranaayyub/ status/1485728200890413056)

Figure 1 Captura de ecrã de uma jornalista indiana muçulmana de renome que descreve a sua experiência de violência de género online 

Figure 2 Captura de ecrã de uma jornalista indiana muçulmana de renome que descreve a sua experiência de violência de género online 

O aumento da VGO acompanha o aumento da extrema-direita indiana nestes espaços. Um exemplo disso é a alegada utilização da aplicação Tek Fog para assediar mulheres jornalistas com tweets abusivos, em que há alegações do envolvimento de pessoas influentes ligadas ao partido no poder, na Índia (^{PTI, 2022}). Neste contexto, foi desenvolvido um plugin para o browser, o Uli, para detetar e moderar a VGO no Twitter.

Para além das palavras-chave, hashtags, algoritmos, políticas e infraestruturas digitais (^{Johnston, 2022}; ^{Monea, 2022}; ^{Suzor et al., 2018}), a linguagem visual e o design de identidade das plataformas das redes sociais não assumem a responsabilidade pela reprodução da violência de género e, por isso, continuam a ser cúmplices na propagação da violência online e do discurso de ódio. Neste estudo de caso, os autores do presente ensaio - que estiveram envolvidos como designers visuais na criação do Uli - discutem o processo de cocriação de uma identidade visual e de um design narrativo para o Uli.

O objetivo do processo de cocriação era apoiar a presença do Uli e representar a ideologia e o trabalho coletivo da equipa interdisciplinar que desenvolveu a ferramenta. Este estudo de caso e ensaio visual conclui com os desafios e dilemas enfrentados pelos designers visuais do Uli durante o processo de criação dos elementos visuais.

2. Antecedentes do Uli

O Uli é um plugin para o browser, criado em conjunto para abordar as questões da VGO através de uma perspetiva feminista e visa encontrar formas nas quais a moderação possa capacitar os utilizadores mais afetados pela VGO (^{Budhwar, 2022}). Apoia os utilizadores na moderação de casos de VGO que enfrentam em diferentes línguas indianas, centrando-se especificamente nas pessoas situadas nas margens do género, casta, religião e sexualidade (^{Budhwar, 2022}). Para tornar habitáveis espaços online como o Twitter, o desenvolvimento do Uli foi liderado por tecnólogos e investigadores, com participação ativa de ativistas, influenciadores comunitários, jornalistas e escritores, que estão empenhados na luta contra a violência baseada na casta, religião, género e sexualidade, tanto em espaços online como offline

O plugin censura principalmente insultos e conteúdos abusivos em hindi, tâmil e inglês indiano, permitindo também o arquivo de tweets problemáticos. O Uli utiliza uma lista de insultos em línguas indianas, para a qual os utilizadores podem contribuir, deteta-os nos feeds do Twitter e esconde-os em tempo real. A funcionalidade de aprendizagem automática utiliza o reconhecimento de padrões a partir de publicações previamente marcadas com VGO para detetar e ocultar os insultos problemáticos das publicações no feed de um utilizador. O plugin é um projeto conjunto iniciado em julho de 2021 pelo Centre for Internet and Society (CIS) e pela Tattle Civic Technologies, tendo o seu desenvolvimento sido financiado no primeiro ano pela Omidyar Network India como parte da sua subvenção Digital Society Challenge (para saber mais sobre o projeto e as entidades por detrás do Uli, visite os seguintes sites: Uli [https://uli.tattle.co.in], CIS [https://cis-india.org] e Tattle [https://tattle.co.in]). O CIS é uma organização sem fins lucrativos que realiza investigação interdisciplinar sobre as tecnologias digitais e a internet a partir de perspetivas políticas e académicas. Centra-se na acessibilidade digital, no acesso ao conhecimento, nos direitos de propriedade intelectual, na governação da internet, no melhoramento das telecomunicações, na privacidade digital e na cibersegurança. A Tattle Civic Technologies é uma comunidade de tecnólogos, investigadores e artistas que trabalham para um ecossistema de informação online mais saudável na Índia. O Tattle cria ferramentas e bases de dados para compreender e responder à desinformação no país.

Uli, a ferramenta de aprendizagem automática, utiliza abordagens do campo da machinelearning, que sugerem a construção de ferramentas simples, que integrem simultaneamente o feedback dos utilizadores (^{Vidgen & Derczynski, 2020}; ^{Waseem, 2016}). Entre julho e outubro de 2021, o CIS e a Tattle conduziram diferentes formatos de entrevistas online e realizaram quatro discussões com grupos focais, envolvendo mais de 50 ativistas e investigadores que trabalham em áreas como os direitos sexuais, de género e de minorias. Para captar e compreender os aspetos de dano e de violência para o plugin, a equipa do Uli convidou sete anotadores especializados em inglês, hindi e tâmil, que foram vítimas de VGO, para anotar 7.500 publicações por língua¹.

3. Visuais de Resistência

Na sua essência, o Uli é um ato de resistência, que também se reflete conscientemente nos seus visuais. Os visuais foram concebidos de forma participativa de maneira a representar os objetivos do plugin, explicando visualmente a sua função e o trabalho na criação de tecnologia feminista, tornando-a acessível aos utilizadores da internet na Índia. O objetivo era mostrar o trabalho interdisciplinar da equipa, juntamente com uma infraestrutura que se baseava numa manifestação feminista de aprendizagem automática. Os visuais demonstram a união dos humanos e máquinas para cocriar um resultado de amor, trabalho e resistência, o qual se tornou a base para a sua conceção visual e narrativa.

O objetivo secundário era criar uma estética visual alternativa à linguagem visual dominante e existente, que se tornou sinónimo dos espaços que promovem a VGO, como o Instagram, o Facebook e o Twitter. Os visuais destas plataformas têm desempenhado um papel importante em manter intacto o preconceito heteropatriarcal, racista, casteísta e heteronormativo das plataformas. O design elegante, as cores saturadas (Figure 3) e os estilos de ilustração distintos dominam estas plataformas, representando frequentemente cenas de positividade, mitologizando visualmente a ideia de construir um mundo utópico e feliz (Figure 4). Ajudam a fazer com que as grandes empresas tecnológicas pareçam amigáveis e preocupadas com as comunidades, o que é, em grande parte, o oposto do que são (^{Gabert-Doyon, 2021}).

Retirado de we’re relaunching @TwitterBlue on Monday - subscribe on web for $8/month or on iOS for $11/month to get access to subscriber-only features, including the blue checkmark [Tweet], por ^{Twitter [@Twitter], 2022}, Twitter. (https://twitter.com/Twitter/status/1601692766257709056)

Figure 3 Uma imagem publicada na página do Twitter a 11 de dezembro de 2022 

Retirado de People often ask us how we decide what content is and isn't allowed on Facebook. The answer is our Community Standards [Status update], por ^{Facebook [@facebook], 2019}, Facebook. (https://m.facebook.com/facebookappIndia/posts/people-often-ask-us-how-wedecide-what-content-is-and-isnt-allowed-on-facebook-t/2490127257690847/)

Figure 4 Publicação no Facebook com uma ilustração socialmente consciente, representando uma mulher de cor desenhada num estilo de ilustração proporcionalmente exagerado com cores saturadas. O objetivo é garantir que procura controlar o discurso de ódio contra as comunidades marginalizadas, apesar das provas em contrário 

O nome Uli foi proposto pelo investigador qualitativo e líder da língua tamil na equipa, após uma sessão de brainstorming colaborativa conduzida pelos designers visuais. "Uli" é um termo em tâmil para uma ferramenta simples, mas hábil - um cinzel, que permite esculpir uma sala própria ou pátios onde as pessoas se podem reunir e partilhar histórias de resistência - uma narrativa concebida de acordo com as ideologias e princípios da própria ferramenta.

As inspirações para os visuais do Uli centraram-se em muitos produtos tangíveis, atividades e pessoas por detrás deles. Durante as primeiras fases de desenvolvimento e anotações, a equipa imaginou que a ferramenta seria representada por uma "máquina de costura" para honrar o seu trabalho lento e consciente e para representar a utilização da tecnologia de machinelearning pelo Uli.

Metaforicamente, a ferramenta foi, mais tarde, imaginada, durante conversas entre anotadores, programadores, investigadores e designers, como um processo de confeção de colchas que reflete histórias íntimas e de género sobre sutura, alfaiataria, fabrico, costura, remendo e moldagem do mundo que nos rodeia. As colchas e o fabrico de colchas são formas de narrativa baseadas em tecido, uma arte que faz parte de muitas culturas. Tal como esta ferramenta, as colchas são frequentemente feitas em colaboração e são objetos pessoais e comunitários que dão poder e celebram. Os visuais do Uli tentam representar com exatidão o trabalho emocional que foi necessário para desenvolver a ferramenta, ao mesmo tempo que contam uma história sobre os seus criadores e seus contextos históricos e culturais através do seu design, materiais e pontos.

Enquanto designers visuais, alargámos este conceito a elementos visuais que poderiam ser traduzidos em artes e ofícios como o bordado, a costura, as colchas e espaços seguros como os pátios, enquanto elementos visuais de um espaço onde as comunidades se reúnem. Os bordados e os têxteis têm sido frequentemente resultados de um esforço coletivo, especialmente no mundo das mulheres do nosso subcontinente. A inspiração do Uli foram as pessoas e o seu trabalho - artesanato, trabalho manual árduo, imperfeições e participação coletiva (ver ^{Chandrashekhar, 2015}; ^{Delhi Crafts Council, s.d.}).

Como decisão de design visual colaborativo, co-concebemos esta ferramenta como uma manta de retalhos, para ser cocriada num pátio de mulheres, pessoas LGBTQ+, dançarinos, cantores e todas as comunidades que são marginalizadas na internet. Este pátio seria o local onde se celebraria o trabalho de resistência e resiliência. Na abordagem visual escolhida, imaginámos as pessoas desta comunidade sentadas, juntas, com as suas experiências, as suas ferramentas como "linhas" e "máquinas de costura", sendo que neste caso seria a inteligência artificial e machinelearning, para coserem bonitos retalhos inspirados nas suas histórias como um ato contra a VGO (^Uli, 2022b).

Estas ideias traduziram-se em imagens inspiradas em tecidos, colchas, pontos e no tipo de motivos ou padrões que neles aparecem. A ilustração do website do Uli foi inspirada num certo visual de bordado nakshikantha (Figure 5; ver ^{Morris, 2011}). Um kantha, um tipo de bordado artesanal ou o ofício em que saris velhos são empilhados uns sobre os outros e cosidos à mão, proveniente das regiões orientais da Índia e do Bangladesh, que leva meses ou mesmo anos a ser terminado, sendo passado através de gerações, de avó para mãe, para filha.

Retirado de This post is adapted from the Uli newsletter updates sent in March and April 2022, por ^{Uli, 2022b}. (https://uli.tattle.co.in/blog/making-ofmar-2022/)

Figure 5 Newsletters do Uli concebidos para a comunidade que apoiou e contribuiu para a sua criação, mostrando as várias influências baseadas nos têxteis 

Para dar corpo ao ofício, conceptualizámos frases para descrever todas as ações que o Uli podia realizar enquanto ferramenta. Transformámos o esbatimento de insultos, uma característica fundamental da ferramenta, no termo "remendado", e imaginámos que, de cada vez que "um remendo" é cosido sobre palavras que a nossa comunidade assinalou, representa um símbolo de resistência comunitária (Figure 6 e Figure 7).

Retirado de This post is adapted from the Uli newsletter updates sent in March and April 2022, por ^{Uli, 2022b}. (https://uli.tattle.co.in/blog/making-ofmar-2022/)

Figure 6 Tweet que mostra o conceito de um remendo para editar insultos 

Retirado de This post is adapted from the Uli newsletter updates sent in March and April 2022, por ^{Uli, 2022b}. (https://uli.tattle.co.in/blog/making-ofmar-2022/)

Figure 7 Tweet que mostra o remendo na versão final 

O logo do Uli (Figure 8 and Figure 9) assemelha-se a este pátio de ideias e comunidades em movimento como uma ode aos esforços de diferentes grupos, organizações e movimentos que lutam para dar poder a cada um de nós (^{Uli, 2022b}).

Website do Uli (https://uli.tattle.co.in/)

Figure 8 O logo e o logotipo do Uli 

Website do Uli (https://uli.tattle.co.in/)

Figure 9 Página de destino do website do Uli, que mostra o logotipo e a ilustração do herói 

4. Desafios

Um desafio que enfrentamos na conceção de visuais diferentes dos visuais tecnológicos dominantes é a falta de escalabilidade. O que tornou escaláveis os estilos visuais dominantes das ferramentas e plataformas tecnológicas é o facto de serem fáceis de replicar e não necessitarem de um artista específico para os trabalhar. Por outro lado, o nosso foi concebido para parecer feito à mão, o que pode tornar-se um desafio quando o seu estilo visual precisa de se tornar omnipresente e adaptável a diferentes canais e meios sem exigir recursos e tempo consideráveis. Uma vez que a estética visual dos espaços das redes sociais e as suas extensões são tão homogeneizadas e consistentes em todas as plataformas, criam uma imagem de estabilidade e fiabilidade. Em contraste, um estilo visual alternativo como o do Uli, que tenta, com as suas ilustrações, letras e símbolos simples, representar transparência, acessibilidade e trabalho coletivo, corre o risco de ser visto como não fiável devido à sua imprevisibilidade e irreplicabilidade.

O maior dilema ético que enfrentamos é a criação de visuais para espaços online inspirados em várias artes e ofícios que pertencem a comunidades de mulheres que não têm necessariamente uma presença nesses espaços. Existe o risco de apropriação de uma cultura não partilhada pelas comunidades de designers visuais. Uma das nossas ideias originais era abordar comunidades de tecelãs e artesãs locais cujo estilo inspirou a linguagem visual do projeto e solicitar a sua participação neste projeto. No entanto, devido a restrições relacionadas com os recursos, que muitas vezes condicionam projetos independentes de resistência como o Uli, esta parte do processo não chegou a ser concretizada. Contudo, um processo de design visual verdadeiramente participativo continua a ser a abordagem ideal para partilhar a cultura visual do trabalho de base.

5. Conclusão

Um dos objetivos futuros do plugin é continuar a expandir a lista de insultos, uma vez que os insultos nas redes sociais mudam rapidamente e a lista continuará a evoluir para acompanhar e detetar insultos. Está também prevista a atualização do conjunto de dados para detetar discurso de ódio, que também evolui de forma semelhante. Na próxima fase, a ferramenta irá incluir mais línguas. Uma das próximas funcionalidades do Uli permitirá que os utilizadores envolvam os seus amigos e a comunidade para atuar em tweets problemáticos, combater o discurso de ódio online e para apoio mútuo.

No que diz respeito aos elementos visuais e ao que eles representam, é importante notar que mesmo aqueles concebidos com as melhores intenções mascaram, reproduzem e propagam a VGO. É necessário continuar um discurso que debata e preveja novas culturas visuais, modelos e expressões artísticas para representar a tecnologia que pode servir não só como crítica, mas também como meio de tornar a violência visível. Ao mesmo tempo, quando as artes visuais, o design e os meios de comunicação social trabalham com espaços emancipatórios para atenuar a violência de género, podem apoiar a reimaginação, a reaprendizagem e a reparação com vista a reconstruir a forma como lidamos com a violência.