reviradafeministapor Lívia Gaudencio
Foto : Carlos Sales
Design da foto: Lívia Gaudencio
Pontos sensíveis e novos desafios do feminismo diante das ferramentas tecnológicas.
O advento da Internet está relacionado a um “ciberespaço” ideal, livre de reflexões sobre corporeidade e identidade; um pensamento equívoco sobre a autonomia do virtual como separado do social, evitando responsabilizações acerca das questões de género, raça, classe e outras interseccionalidades. Se o ativismo feminista já enfrenta dificuldades específicas pelo sistema patriarcal e capitalista em que está inserido, a apropriação de novas ferramentas tecnológicas faz com que a experiência se torne ainda mais desafiadora.
O ambiente maioritariamente masculino influencia na raiz do problema da programação dos sistemas de Inteligência Artificial e culmina em impactos discriminatórios reais. De acordo com Karen Hao da MIT Technology Review:
“As mulheres representam apenas 18% dos autores nas principais conferências de IA, 20% dos professores de IA e 15% e 10% da equipe de pesquisa no Facebook e Google, respetivamente.(…) Isso é profundamente preocupante quando a influência da indústria cresceu drasticamente para afetar tudo, desde a contratação e a moradia até a justiça criminal e militar. Ao longo do caminho, a tecnologia automatizou os vieses de seus criadores para um efeito alarmante: desvalorizar os currículos das mulheres, perpetuar a discriminação do emprego e da moradia e consagrar práticas racistas de policiamento e condenações prisionais.” (HAO, 2019 – tradução minha)
Para agravar o problema, nos idiomas que diferenciam género em substantivos e adjetivos, a considerar o masculino como universal, os homens são os únicos mencionados quando há um grupo heterogéneo. Isto faz com que sejam geradas mais associações algorítmicas ao género masculino e, como consequência, as mulheres acabam sofrendo de um reincidente apagamento histórico, sob a modalidade tecnológica.
A preferência ou o preconceito a um género sobre o outro é conhecido como “viés de género” e, na tecnologia, é causado pelos modelos de PNL (Processamento de Linguagem Natural). Como explica a engenheira pesquisadora em IA, Christiane Maroti, para o site Unbabel:
“As palavras são representadas por listas de números chamadas incorporação de palavras que codificam informação sobre o significado, o uso e outras propriedades da palavra. Os computadores “aprendem” esses valores para cada palavra, recebendo dados de treino de muitos milhões de linhas de texto, onde as palavras são usadas nos seus contextos naturais. (…) Uma vez que a Internet e outros conteúdos contêm a linguagem humana real, naturalmente revelam os mesmos vieses que os humanos e muitas vezes não se dá atenção suficiente ao real conteúdo do texto.”
No artigo Mitigating Gender Bias in Natural Language Processing: Literature Review, de Sun (et.al), são citados os exemplos a seguir, que foram traduzidos por mim:
Na tradução automática:
Aqui foi testado do inglês para o húngaro: “Ele é uma enfermeiro. Ela é médica.” Quando feita a tradução de volta do húngaro ao inglês resulta em “Ela é uma enfermeira. Ele é um médico.
Nas legendas automáticas de descrição de imagens:
Um modelo de legendagem de imagem prevê incorretamente que o agente seja do sexo masculino pelo fato de haver um computador por perto.
No reconhecimento de fala:
A detecção automática de fala funciona melhor com vozes masculinas do que com vozes femininas.
Na análise de sentimento:
Os Sistemas de Análise de Sentimento classificam frases como indicativas de raiva com mais frequência quando contém substantivos femininos do que quando são frases contendo substantivos masculinos.
Modelo de linguagem:
“Ele é médico” tem maior probabilidade condicional do que “Ela é médica”.
Incorporação de palavras:
Analogias como o “‘homem’ está para ‘mulher’ assim como ‘programador de computador’ está para ‘dona de casa'” são geradas automaticamente por modelos treinados em incorporações tendenciosas de palavras.
Através de um aplicativo de Análise Semântica Latente, um modelo treinado pelo conjunto de dados do Google Notícias composto por cerca de 100 bilhões de palavras, que simula a relação entre as palavras, pude simular algumas analogias e detectar erros a partir da língua inglesa, que foram traduzidos por mim conforme lista abaixo:
“Ela” está para “dona de casa” como “Ele” para “homem de negócios”
“Ele” está para “roteirista” como “Ela” está para “atriz”
“Ele” está para “médico” como “Ela” está para “enfermeira”
“Ele” está para “inteligente” como “Ela” está para “o que a torna especial”
“Ele” está para “confiante” como “Ela” está para “fraternal”
“Ela” está para “prostituta” como “Ele” está para “hipócrita”
“Ele” está para “prostituto” como “Ela” está para “mulher”
Diante disto, percebe-se o quanto as ferramentas tecnológicas criaram novos oponentes a serem mitigados pelo ativismo feminista. Contudo, torna-se necessário analisar também a aplicação destas ferramentas tecnológicas na prática.
Um aspeto aliado é a possibilidade de aproximar um grande número de pessoas com interesses comuns via comunicação web.
Desta forma, feministas de toda parte podem se comunicar em rede para compartilhar causas virtualmente, bem como articular encontros físicos. Em oposição, o fato destas pessoas, em sua maioria, não se conhecerem pessoalmente, torna os vínculos frágeis e gera falta de comprometimento e engajamento não duradouro.
Ações como “slacktivism” (ativismo preguiçoso) ou “clicktivism” (apenas compartilhar notícias com um clique) configuram-se como um paradigma pois, apesar de resultarem poucos avanços na prática ativista imediata, podem contribuir para o início de processos individuais de politização; tornando possível transformações sociais mais amplas a longo prazo.
De acordo com os dados fornecidos pela Economia Móvel 2019, o número de pessoas a usarem smartphones no planeta é de 67% da população e o número de usuários de internet móvel representa 47%. Com estes dados, já é possível percebermos o potencial da geração de conteúdos autónomos e o visível crescimento de mídias específicas a representar grupos e causas não hegemónicas, antes invisibilizadas. Porém, com a mesma facilidade com que se publicam conteúdos verídicos e relevantes, são geradas fake news que, além de estarem relacionadas com a manipulação de ideias, estão diretamente ligadas ao capital pela monetização dos conteúdos.
“As plataformas de mídia social são projetadas para alocação ineficiente de atenção; a visar o aumento da quantidade de tempo gasto em seu site. (…) Estas plataformas também incentivam a polarização porque as pessoas cujas visões são reforçadas nestas câmaras de eco, em seguida, encontram pessoas do outro lado para discutir online. Tudo isso cria um espetáculo para mais pessoas quererem assistir, e as plataformas corporativas podem usar esta oportunidade para bombardearem os usuários com mais anúncios e reunir mais dados comportamentais, o que ajuda a criar um perfil de usuários em benefício dos anunciantes.” (TUFEKSI, 2017.p.271 – tradução minha)
Conclui-se, portanto, que uma ferramenta tão complexa e inovadora como a Internet exige constante atualização e pesquisa por parte das(os) ativistas. Afinal, trata-se de um processo ainda sem teleologia clara ou resultados pré-estabelecidos, fazendo-se necessária a descoberta de novos caminhos a cada atualização do sistema cibernético a evitar-se também uma análise maniqueísta, mesmo quando identificados elementos aliados e oponentes do ativismo feminista.
REFERÊNCIAS:
HAO, Karen. 2019. AI’s white guy problem isn’t going away. MIT Technology Review.
MAROTI, Christine. 2019. Viés de Género na IA: Construindo algoritmos mais justos. Site Unbabel.
SUN, Tony et al. 2019. Mitigating Gender Bias in Natural Language Processing: Literature Review.
TUFEKSI, Zeynep. 2017. Twitter and Tear Gas: The Power and Fragility of Networked Protest.
Lívia Gaudencio
Atriz e guionista brasileira. Mãe e Oraculista. Feminista, atualmente a cursar o Mestrado em Estudos Sobre as Mulheres na Universidade Nova de Lisboa. Organizadora de O Levante! – Festival Internacional de Mulheres em Cena. Desenvolve seu trabalho artístico e acadêmico acerca das questões do universo feminino.
email: liviagaudencio@gmail.com
web: www.liviagaudencio.com / Instagram: @liviagaudencio