Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais

Abstract

Resumo Reconhecendo a importância das discussões a respeito dos algoritmos em mecanismos de busca e seus vieses possivelmente discriminatórios e racistas, este trabalho analisa três bancos de imagens digitais e seus resultados para as palavras-chave “family”, “black family” e “white family”. Com base no conceito de “hiper-ritualização” de gênero de Erving Goffman (1979), estuda-se aqui se a perspectiva imagética de família (mulher, homem, filho e filha) se aplica para o contexto negro ou, ao contrário, corrobora para a “solidão da mulher negra”. Analisando comparativamente mais de 2.500 imagens, percebeu-se que as mulheres negras são mais representadas sozinhas com seus filhos do que as mulheres brancas; a palavra-chave “family” resulta em maioria expressiva de famílias brancas; e a pesquisa por “white family” apresenta mais resultados “infiltrados” de famílias negras como indício de racialização da pesquisa para o algoritmo de busca, que considera a branquitude como normativa e neutralidade.Abstract Recognizing the importance of the discussions on algorithms in search engines and their possible discriminatory and racist biases, this paper analyzes three digital image databases and their results for the keywords “family”, “black family” and “white family”. Based on Erving Goffman’s (1979) concept of “hyper-ritualization” of gender, this article studies whether the imagetic perspective of family (woman, man, son and daughter) applies to the black family context or, on the contrary, contributes to the “solitude of the black woman”. Analyzing comparatively more than 2500 images, it was noticed that black women are more represented alone with their children than white women; the keyword “family” results in an expressive majority of white families; and the search for “white family” reveals more “infiltrated” results of black families as evidence of racialization of the exploration of the search algorithm, which considers whiteness as normative and neutral.