Desvelando a Discriminação Algorítmica: Ativismo Político através do projeto “Desvelar”

Autores

DOI:

https://doi.org/10.11606/issn.2238-2593.organicom.2024.225660

Palavras-chave:

discriminação algorítmica, ativismo político, Sul Global, comunicação estratégica, inteligência artificial

Resumo

A Inteligência Artificial (IA) suscita debates sócio-políticos e éticos relacionados aos direitos humanos. Apesar dos avanços na literatura, poucas organizações  denunciam casos envolvendo racismo algorítmico. Assim, este artigo apresenta mapa de casos compilados por projeto Desvelar - Justiça Racial na Inteligência Artificial e TICs. A metodologia de análise temática foi aplicada a 145 casos no período de 2010 a 2024. O estudo enfatiza a importância de espaços de comunicação, para divulgar e denunciar os avanços pervasivos da IA.

Downloads

Os dados de download ainda não estão disponíveis.

Biografia do Autor

  • Gabriela Rabello de Lima, Université du Québec à Montréal

    PhD student at the Université du Québec à Montreál (UQAM). Member of the Institut de recherches et d’etudes féministes (IREF), Red Latinoamericana de Investigación en Comunicación Organizacional (RedLAco) and the Núcleo de Estudos de Política, Estado e Capitalismo na América Latina (NEPEC/UFRGS).

  • Maurício Silveira Cardoso , Sem Registro de Afiliação

    Specialist in Data Analysis at the University of  São Paulo (USP). Bachelor’s degree in Production Engineering from the Federal University of Rio Grande do Sul (UFRGS).

  • Consuelo Vásquez Donoso, Université du Québec à Montréal

    Professor in the Department of Social and Public Communication at the Université du Québec à Montréal (UQAM). Co-founder of the Groupe de recherche sur la communication organisante (RECOR) and the Red Latinoamericana de Investigación en Comunicación Organizacional (RedLAco).

Referências

ALBU, Oana Brindusa. Dis/Ordering: The Use of Information and Communication Technologies by Human Rights Civil Society Organizations. In: VASQUEZ, Consuelo; KUHN, Timothy (Orgs.). Dis/organization as Communication: Exploring the Disordering, Disruptive and Chaotic Properties of Communication. New York: Taylor & Francis, 2019. p. 15-172

AMNESTY INTERNATIONAL. Inside the NYPD’s Surveillance Machine, 2022. Disponível em: https://banthescan.amnesty.org/decode/. Acesso em: 8 fev. 2024.

BEZERRA, Arthur, Coelho; COSTA, Camila Mattos da. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. LIINC em Revista, Rio de Janeiro, v. 18, n. 2, e6043, 2022. doi: https://doi.org/10.18617/liinc.v18i2.6043.

BUOLAMWINI, Joy. Project Overview Gender Shades. MIT Media Lab, 2018. Disponível em: https://www.media.mit.edu/projects/gender-shades/overview/. Acesso em: 23 fev. 2024.

CRENSHAW, Kimberlé W. Mapping the Margins: Intersectionality, Identity Politics, and Violence against Women of Color. Stanford Law Review, Stanford, v. 43, n. 6, p. 1241‑1299, 1991. doi: https://doi.org/10.2307/1229039.

DESVELAR. Sobre. Brasil, 2024. Disponível em: https://desvelar.org/sobre/. Acesso em: August 3, 2024.

EUROPEAN COMMISSION. Ethics guidelines for trustworthy AI | Shaping Europe’s digital future. 2019. Disponível em:

https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai. Acesso em: 3 dez. 2024.

FOUCAULT, Michel. Il faut défendre la société ; cours au collège de France, 1976. Local de publicação : Seuil, 1997.

HAMMER, Ricarda; PARK, Tina. The ghost in the algorithm: Racial colonial capitalism and the digital age. In: WHITE, Alexandre I. R.; KING, Katrina Quisumbing (Eds.). Global Historical Sociology of Race and Racism. Bingley: Emerald Publishing Limited, 2021. p. 221-249.

ITU – International Telecomunication Union. World Summit on the Information Society: Outcome Documents. Geneva; Tunis: World Summit on the Information Society (WSIS); ITU, 2012. Disponível em: http://handle.itu.int/11.1002/pub/8061d4dd-en. Acesso em: February 13, 2024.

KOSTICK-QUENET; Kristin M.; COHEN, I Glenn GERKE, Sara LO, Bernard, ANTAKI, James MOVAHEDI, Faezah BLUMENTHAL-BARBY, Jenny S. Mitigating Racial Bias in Machine Learning. Journal of Law, Medicine & Ethics, Massachusetts, v. 50, n. 1, p. 92-100, 2022. doi:10.1017/jme.2022.13

MBEMBE, Achille. Necropolitics. Durham: Duke University Press, 2019.

NOBLE, Safiya. Algorithms of oppression: How search engines reinforce racism. New York: NYU Press, 2018.

QUADFLIEG, Sven; NEUBURG, Klaus; NESTLER, Simon. (Dis)obedience in Digital Societies: Perspectives on the Power of Algorithms and Data Bielefeld: Transcript Verlag, 2022.

PAILLÉ, Pierre; MUCCHIELLI, Alex. L’analyse qualitative en sciences humaines et sociales. 4e ed. Paris: Armand Colin, 2016.

SILVA, Tarcízio. Teoria Racial Crítica e Comunicação Digital: conexões contra a dupla opacidade. In: POLIVANOV, Beatriz; ARAÚJO, William; OLIVEIRA, Caio; SILVA, Tarcízio (Orgs.). Fluxos em redes sociotécnicas: das micronarrativas ao big data. São Paulo: Intercom, 2019. p. 127-157.

SILVA, Tarcízio. Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.

SILVA, Mozart Linhares da; ARAÚJO, Willian Fernandes. Biopolítica, racismo estrutural-algorítmico e subjetividade. Educação Unisinos, [s. l.], v. 24, n. 1, p. 1-20, 2020.

SILVEIRA, Sérgio Amadeu; SILVA, Tarcízio. Controvérsias Sobre Danos Algorítmicos: Discursos Corporativos Sobre Discriminação Codificada. Revista Observatório, Palmas, v. 6, n. 4, p. 1-17, 2020.

SOUSA, Francisco C.; LIMA, Gabriela R. Racismo algorítmico em plataformas de Inteligência Artificial Generativa. In: MARANHÃO, Juliano (Org.). Facetas jurídicas da Inteligência Artificial Generativa. São Paulo: Legal Grounds Institute, 2023, v. 1. p. 181-200.

SUE, Derald W.; CAPODILUPO, Christina M.; TORINO, Gina C.; BUCCERI, Jennifer M.; HOLDER, Aisha NADAL, Kevin L.; ESQUILIN, Marta. Racial Microaggressions In Everyday Life: Implications For Clinical Practice. American Psychologist, Washington, DC, v. 62, n. 4, p. 271-286, 2007.

TYNES, Brendesha M.; LOZADA, Fantasy T.; SMITH, Naila A.; STEWART, Ashley M. From Racial Microaggressions To Hate Crimes: A Model Of Online Racism Based On The Lived Experiences Of Adolescents Of Color. Microaggression Theory: Influence And Implications, [s. l.], p. 194-212, 2018.

Downloads

Publicado

2024-12-11

Edição

v. 21 n. 46 (2024): Comunicação Organizacional no Brasil: estado do campo, panorama e perspectivas de estudo

Seção

Dossiê

Licença

Copyright (c) 2024 Gabriela Rabello de Lima, Maurício Silveira Cardoso , Consuelo Vásquez Donoso

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

A submissão implica a cessão de direitos da primeira publicação à revista Organicom, sem pagamento. Os autores podem estabelecer por separado acordos adicionais para a distribuição não exclusiva de versão da obra publicada na revista (como colocar em um repositório institucional ou publicar um livro), com o devido reconhecimento de sua publicação inicial na revista Organicom.

Como Citar

LIMA, Gabriela Rabello de; CARDOSO , Maurício Silveira; DONOSO, Consuelo Vásquez. Desvelando a Discriminação Algorítmica: Ativismo Político através do projeto “Desvelar”. Organicom, São Paulo, Brasil, v. 21, n. 46, p. 127–138, 2024. DOI: 10.11606/issn.2238-2593.organicom.2024.225660. Disponível em: https://revistas.usp.br/organicom/article/view/225660.. Acesso em: 13 maio. 2025.