The Race and gender of aesthetics and affections: algorithmization of racism and sexism in contemporary digital image databases
DOI:
https://doi.org/10.11606/issn.1982-8160.v14i2p217-240Keywords:
Image databases, algorithms, gender, raceAbstract
This article proposes to question the algorithmic processes of image search mechanisms and their insertion in the outlines of contemporary racism and sexism. Fundamental devices for the maintenance of the media and communication mechanics, these databases help to guide and build the social imaginary about what it means to be a woman and to be black by means of subtle modes of erasure or overexposure in certain search results. Here, the keywords aggressiveness, kindness, beauty and ugliness were analyzed in the image databases Getty Images and Shutterstock, seeking to encompass the aesthetic and affective dimensions of the discriminatory biases possibly impregnated in these mechanisms. It is understood that the results presented here are evidence of the technological opacity that permeates the productive field of these apparatuses and of the algorithmization of gender and race inequalities constituted in the social context.
Downloads
References
Adams, G., Dobles, I., Gómez, L. H., Kurtiş, T., & Molina, L. E. (2015). Decolonizing psychological science: Introduction to the special thematic section. Journal of Social and Political Psychology, 3(1), 213-238. https://doi.org/10.5964/jspp.v3i1.564
Adner, R. (2002). When are technologies disruptive? A demand‐based view of the emergence of competition. Strategic Management Journal, 23(8), 667-688.
Aiello, G. (2016, 28 de abril). Taking stock. Ethnography Matters. Recuperado de https://bit.ly/3lo0teb
Araújo, J. Z. (2000). A negação do Brasil: O negro na telenovela brasileira (2ª ed.). Senac.
Atem, G. N. (2012). Por uma ontologia do consumo: Entre a filosofia e a publicidade. Comunicação Mídia e Consumo, 9(24), 209-225. http://dx.doi.org/10.18568/cmc.v9i24.243
Bairros, L. (1995). Nossos feminismos revisitados. Revista Estudos Feministas, 3(2), 458-463. Recuperado de https://bit.ly/32t802C
Baker, C. N. (2005). Images of women’s sexuality in advertisements: A content analysis of Black-and White-oriented women’s and men’s magazines. Sex roles, 52(1-2), 13-27. https://doi.org/10.1007/s11199-005-1190-y
Benjamin, R. (2019). Race after technology: Abolitionist tools for the new Jim Code. Social Forces, 98(4), 1-3. https://doi.org/10.1093/sf/soz162
Birhane, A., & Cummins, F. (2019). Algorithmic injustices: Towards a relational ethics. arXiv. Retrieved from https://bit.ly/3gAxiAV
Buolamwini, J. & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 77-91. https://bit.ly/2ErqQPK
Butler, J. (1988). Performative acts and gender constitution: An essay in phenomenology and feminist theory. Theatre Journal, 40(4), 519-531. https://bit.ly/3jkONr3
Carneiro, S. (2003). Enegrecer o feminismo: A situação da mulher negra na América Latina a partir de uma perspectiva de gênero. In Ashoka Empreendimentos Sociais & Takano Cidadania (Orgs.). Racismos Contemporâneos, 49 (pp. 49-58). Takano Editora.
Carrera, F. (2020). Racismo e sexismo em bancos de imagens digitais: Análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional. In T. Silva (Org.). Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos (pp. 138-155). Literarua
Carrera, F. & Carvalho, D. (2019, 11-14 de junho). Algoritmos racistas: Uma análise da hiperritualização da solidão da mulher negra em bancos de imagens digitais. Artigo apresentado no XXVIII Encontro Anual da Compós, Porto Alegre, RS, Brasil. https://bit.ly/3b0cH8a
Castells, M. (2017). Redes de indignação e esperança: Movimentos sociais na era da internet. Zahar.
Castro, J. C. L. (2015, 4-7 de setembro). Mídia hegemônica, blogs progressistas e disputa de enquadramento. Artigo apresentado no XXXVIII Congresso Brasileiro de Ciências da Comunicação. Rio de Janeiro, RJ, Brasil. https://bit.ly/3hxahQU
Cecchetto, F. R. (2004). Violência e estilos de masculinidade. FGV Editora.
Chagas, V., Modesto, M., & Magalhães, D. (2019). O Brasil vai virar Venezuela: medo, memes e enquadramentos emocionais no WhatsApp pró-Bolsonaro. Esferas, (14), 1-17. http://dx.doi.org/10.31501/esf.v0i14.10374
Citron, D. K. & Pasquale, F. (2014). The scored society: Due process for automated predictions. Washington Law Review, 89, 1-33. https://bit.ly/32prbdZ
Cole, T. (2012, 21 de março). The white-savior industrial complex. The Atlantic. https://bit.ly/3aVWIId
Collins, P. H. (2002). Black feminist thought: Knowledge, consciousness, and the politics of empowerment. Routledge.
Connel, R. (1995). Políticas da masculinidade. Educação e Realidade, 20(2), 185-206. Recuperado de https://bit.ly/34Etv3z
Conrado, M., & Ribeiro, A. A. M. (2017). Homem negro, negro homem: Masculinidades e feminismo negro em debate. Revista Estudos Feministas, 25(1), 73-97. https://doi.org/10.1590/1806-9584.2017v25n1p73
Datta, A., Tschantz, M. C., & Datta, A. (2015). Automated experiments on ad privacy settings: A tale of opacity, choice, and discrimination. Proceedings on privacy enhancing technologies, 2015(1), 92-112. https://doi.org/10.1515/popets-2015-0007
Davis, A. (1983). Women, race & class. Vintage Book.
Dutra, J. L. (2002). “Onde você comprou esta roupa tem para homem?”: A construção de masculinidades nos mercados alternativos de moda. In: M. Goldenberg (Org.). Nu & Vestido: Dez antropólogos revelam a cultura do corpo carioca (pp. 359-411). Record.
Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin’s Press.
Fanon, F. (2008). Pele negra, máscaras brancas. Scielo-Edufba.
Felipe, J. (2000). Infância, gênero e sexualidade. Educação & Realidade, 25(1), 115-131. https://bit.ly/3hxDGKA
Fontes, O. A., Borelli, F. C., & Casotti, L. M. (2012). Como ser homem e ser belo? Um estudo exploratório sobre a relação entre masculinidade e o consumo de beleza. Revista Eletrônica de Administração, 18(2), 400-432. https://doi.org/10.1590/S1413-23112012000200005
Frosh, P. (2003), The image factory: Consumer culture, photography and the visual content industry. Berg.
Frosh, P. (2013). Beyond the Image Bank: Digital commercial photography. In M. Lister (Ed.). The photographic image in digital culture (2a ed.) (pp.131-148). Routledge.
Goffman, E. (1979). Gender advertisements. Macmillan International Higher Education.
Gonzalez, L. (1984). Racismo e sexismo na cultura brasileira. Revista Ciências Sociais Hoje, (2), 223-244.
Grossi, M. P. (2004). Masculinidades: Uma revisão teórica. Antropologia em primeira mão, 75(1), 1-37. https://bit.ly/2YA6BWY
Guimarães, A. S. A. (1999). Raça e os estudos de relações raciais no Brasil. Novos Estudos CEBRAP, 2(54), 147-156. https://bit.ly/3gyZUdP
Hasian Jr., M., Condit, C. M., & Lucaites, J. L. (1996). The rhetorical boundaries of ‘the law’: A consideration of the rhetorical culture of legal practice and the case of the ‘separate but equal’ doctrine. Quarterly Journal of Speech, 82(4), 323-342. https://doi.org/10.1080/00335639609384161
Hobson, J. (2008). Digital whiteness, primitive blackness: Racializing the “digital divide” in film and new media. Feminist Media Studies, 8(2), 111-126. https://doi.org/10.1080/00220380801980467
hooks, b. (2004). We real cool: Black men and masculinity. Psychology Press.
Kahn, J. (2018). Race on the brain: What implicit bias gets wrong about the struggle for racial justice. Columbia University Press.
Larson, J., Mattu, S., Kirchner, L., & Angwin, J. (2016, 23 de maio). How we analyzed the COMPAS recidivism algorithm. ProPublica. https://bit.ly/3aX0AZz
Lindner, K. (2004). Images of women in general interest and fashion magazine advertisements from 1955 to 2002. Sex roles, 51(7-8), 409-421. https://doi.org/10.1023/B:SERS.0000049230.86869.4d
Lippold, W (2014, 11-14 de agosto). Pensadores africanos e da diáspora: Negritude, panafricanismo e pós-colonialismo. Artigo apresentado no XII Encontro Estadual de História, São Leopoldo, RS, Brasil. https://bit.ly/32tGKRS
Macedo, J. R. (2001). Os filhos de Cam: A África e o saber enciclopédico medieval. Signum: Revista da ABREM, 3, 101-132.
Machin, D. (2004). Building the world’s visual language: The increasing global importance of image banks in corporate media. Visual Communication, 3(3): 316-336. https://doi.org/10.1177/1470357204045785
Magrani, E. (2014). Democracia conectada: A internet como ferramenta de engajamento político-democrático. FGV Direito.
Malbon, J. E. (2016). Geo-pricing of digital media: European and Australian policy debates compared. In G. Gounalakis & G. Taylor (Eds.) Media diversity law: Australia and Germany compared (pp. 247-272). Peter Lang Academic Research.
Mclaughlin, T. L. & Goulet, N. (1999). Gender advertisements in magazines aimed at African Americans: A comparison to their occurrence in magazines aimed at Caucasians. Sex Roles, 40(1/2), 61-71. https://doi.org/10.1023/A:1018878317017
Miller, J. A. (1999). Pictures for rent. In E. Lupton & J. Miller. Design writing research: Writing on graphic design (pp. 121-132). Phaidon.
Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. NYU Press.
Osoba, O. A. & Welser IV, W. (2017). An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation.
Peixoto Junior, C. A. & Arán, M. (2011). O lugar da experiência afetiva na gênese dos processos de subjetivação. Psicologia USP, 22(4), 725-746. https://doi.org/10.1590/S0103-65642011005000032
Rabatel, A. (2017). Pour une lecture linguistique des medias: Empathie, étique et point(s) de vue. Editions Lambert-Lucas.
Raji, I. D. & Buolamwini, J. (2019, January). Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial AI products [Conference session]. Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, 429-435. https://doi.org/10.1145/3306618.3314244
Sabino, C. (2000). Musculação: Expansão e manutenção da masculinidade. In M. Goldenberg (Org.). Os novos desejos: Das academias de musculação às agências de encontros (pp. 61-103). Record.
Schucman, L. V. (2010). Racismo e antirracismo: A categoria raça em questão. Revista Psicologia Política, 10(19), 41-55. https://bit.ly/3aV9LJO
Schucman, L. V. (2014). Sim, nós somos racistas: Estudo psicossocial da branquitude paulistana. Psicologia & Sociedade, 26(1), 83-94. https://doi.org/10.1590/S0102-71822014000100010
Silva, I. P. (2004). Para ser um guri: Espaço e representação da masculinidade na escola. Estilos da Clínica, 9(17), 70-83. https://doi.org/10.11606/issn.1981-1624.v9i17p70-83
Silva, T. (2019a, 2-7 de setembro). Teoria racial crítica e comunicação digital: conexões contra a dupla opacidade. Artigo apresentado no 42º Congresso Brasileiro de Ciências da Comunicação. Belém, PA, Brasil. https://bit.ly/3ju6KUb
Silva, T. (2019b, 26-28 de junho). Racismo algorítmico em plataformas digitais: Microagressões e discriminação em código. Artigo apresentado no VI Simpósio Internacional LAVITS – Assimetrias e Invisibilidades: Vigilância, gênero e raça, Salvador, BA, Brasil. https://bit.ly/3gwZWTR
Sovik, L. R (2009). Aqui ninguém é branco. Aeroplano.
Teixeira, A. C. (2002). Internet e democratização do conhecimento: Repensando o processo de exclusão social. UPF Editora.
Vieira, N. V. & Silva, C. R. C. (2019). A questão dos afetos, uma trajetória: do pensamento filosófico à psicologia histórico-cultural de Vigotski por meio da história oral de vida. Mnemosine, 15(1), 204-223. https://bit.ly/3aWusVI
Vigarello, G. (2006). História da beleza. Ediouro.
Vigotski, L. S. (1999). Psicologia da arte (Paulo Bezerra, trad.). Martins Frontes.
Vigotski, L. S. (2004). Teoria de las emociones: Estudio histórico-psicológico. Ediciones Akal.
Wilkinson, H. (1997). “The new heraldry”: Stock photography, visual literacy, and advertising in 1930s Britain. Journal of Design History, 10(1), 23-38. https://doi.org/10.1093/jdh/10.1.23
Downloads
Published
Issue
Section
License
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Authors who publish in this journal agree to the following terms:
- Authors retain the copyright and grant the journal the right to first publication, with the work simultaneously licensed under the Creative Commons Attribution License (CC BY-NC-SA 4.0) which allows sharing of the work with acknowledgment of authorship and initial publication in this journal for non-commercial purposes.
- Authors are authorized to assume additional contracts separately, for non-exclusive distribution of the version of the work published in this journal (eg, publishing in institutional repository or as a book chapter), with acknowledgment of authorship and initial publication in this journal.
