Prognósticos das deepfakes na política eleitoral

Autores

DOI:

https://doi.org/10.11606/issn.2238-2593.organicom.2024.221294

Palavras-chave:

Algoritmos, Deep fake, Desinformação, Fake news, Percepção

Resumo

A desinformação e as fake news trazem efeitos nefastos para o funcionamento do sistema eleitoral democrático, provocando a amplificação da polarização política já existente. Embora pertençam à mesma família de enganação das fake news, há algo inteiramente novo nas deep fakes. Utilizando um método argumentativo, o objetivo deste artigo é revelar as forças invisíveis que atuam tanto no sistema perceptivo humano quanto nas capturas algorítmicas manipuladoras para avaliar os efeitos que as deep fakes podem provocar em conjunturas políticas eleitorais. Espera-se que as conclusões obtidas possam auxiliar na compreensão dos dilemas que estão em causa.

Downloads

Os dados de download ainda não estão disponíveis.

Biografia do Autor

  • Anderson Röhe Fontão Batista, Pontifícia Universidade Católica de São Paulo

    • Advogado membro da Comissão Especial de Privacidade, Proteção de Dados e Inteligência Artificial da Ordem dos Advogados do Brasil (OAB-SP).

    • Pós-graduado em Direito Digital pela Universidade do Estado do Rio de Janeiro (UERJ).

    • Mestre em Políticas Internacionais pela Pontificia Universidade Católica do Rio de Janeiro (PUC-RJ).

    • Doutorando em Tecnologias da Inteligência e Design Digital da PUC-SP. Fellow do Think Tank da Associação Brasileira de Empresas de Software (ABES) (GT de Inteligência Artificial

  • Lucia Santaella, Pontifícia Universidade Católica de São Paulo

    • Pesquisadora 1A do Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq), graduada em Letras – Português e Inglês.

    • Professora titular no programa de Pós-Graduação em Comunicação e Semiótica, e no programa de Pós-graduação em Tecnologias da Inteligência e Design Digital, ambos da Pontifícia Universidade Católica de São Paulo (PUC-SP).

    • Doutora em Teoria Literária na PUC-SP e Livre-Docência em Ciências da Comunicação na Escola de Comunicação e Artes da Universidade de São Paulo (ECA/USP).

Referências

BUCCI, Eugênio. A superindústria do imaginário: como o capital transforma o olhar em trabalho e se apropria de tudo que é visível. Belo Horizonte: Autêntica, 2021.

CRARY, Jonathan. Terra arrasada: além da era digital, rumo a um mundo pós-capitalista. Tradução de Humberto do Amaral. São Paulo: Ubu, 2023.

DEEPMIND. SynthID: identifying AI-generated content with SynthID. 2023. Disponível em: https://deepmind.google/technologies/synthid/. Acesso em: 28 fev. 2024.

DE WYNCK, Gerrit. AI companies agree to limit election ‘deepfakes’ but fall short of ban. The Washington Post, 13 fev. 2024. Disponível em: https://www.washingtonpost.com/technology/2024/02/13/google-ai-elections-deepfakes-open/? Acesso em: 28 fev. 2024.

DURÃES, Uesley. ‘Novo estágio das fake news’: deepfake vira arma de campanha na Argentina. Uol, 18 nov. 2023. Disponível em: https://noticias.uol.com.br/internacional/ultimas-noticias/2023/11/18/novo-estagio-das-fake-news-deepfake-vira-arma-de-campanha-na-argentina.htm. Acesso em: 22 dez. 2023.

EASTERLY, Jen; SCHWAB, Scott; CONLEY, Cait. Artificial Intelligence’s threat to democracy. Foreign Affairs, 3 jan. 2024. Disponível em: https://www.foreignaffairs.com/united-states/artificial-intelligences-threat-democracy? Acesso em: 6 jan. 2024.

‘FAKE news’ se espalham 70% mais rápido que notícias verdadeiras, diz MIT. Correio Braziliense, 8 mar. 2018. Disponível em: https://www.correiobraziliense.com.br/app/noticia/tecnologia/2018/03/08/interna_tecnologia,664835/fake-news-se-espalham-70-mais-rapido-que-noticias-verdadeiras.shtml. Acesso em: 20 dez. 2023.

FERRARI, Pollyana. Como sair das bolhas. São Paulo: Editora da PUC-SP, 2018.

FIGUEIREDO, Janaína. Campanha presidencial na Argentina usa inteligência artificial em grande escala. O Globo, 14 nov. 2023. Disponível em: https://oglobo.globo.com/mundo/noticia/2023/11/14/campanha-presidencial-na-argentina-usa-ia-em-grande-escala.ghtml. Acesso em: 20 dez. 2023.

HEAVEN, Will Douglas. These six questions will dictate the future of generative AI. MIT Technology Review, 19 dez. 2023. Disponível em: https://www.technologyreview.com/2023/12/19/1084505/generative-ai-artificial-intelligence-bias-jobs-copyright-misinformation/?. Acesso em: 9 jan. 2024.

MCLUHAN, Marshall. Os meios de comunicação com extensões do homem. Tradução de Décio Pignatari. São Paulo: Cultrix, 1964.

MURPHY, Hannah. IA fragiliza a democracia com desinformação. Valor, 11 jan. 2024. Disponível em: https://valor.globo.com/empresas/noticia/2024/01/11/ft-ia-fragiliza-democracia-com-desinformacao.ghtml. Acesso em 12 jan. 2024.

NA ERA do ChatGPT, ‘autêntico’ é a palavra do ano eleita por dicionário americano. G1, 27 nov. 2023. Disponível em: https://g1.globo.com/educacao/noticia/2023/11/27/autentico-e-a-palavra-do-ano-eleita-por-dicionario-americano.ghtml. Acesso em: 27 dez. 2023.

NIKON, Sony e Canon correm para diferenciar fotos de imagens geradas por IA. Folha de S.Paulo, 2 jan. 2024. Disponível em: https://www1.folha.uol.com.br/tec/2024/01/nikon-sony-e-canon-correm-para-diferenciar-fotos-de-imagens-geradas-por-ia.shtml. Acesso em: 9 jan. 2024.

UNESCO – ORGANIZAÇÃO DAS NAÇÕES UNIDAS PARA A EDUCAÇÃO, A CIÊNCIA E A CULTURA. Recomendação sobre a Ética da lnteligência artificial. Paris: Unesco, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137_por. Acesso em: 20 dez. 2023.

RÖHE, Anderson. Metadados e o Dilema de Collingridge: como compatibilizar novas tecnologias e direitos fundamentais na sociedade da informação. Revista Contribuciones a las Ciencias Sociales, [S. l.], v. 16, n. 8, p. 11321-11337, 2023. Disponível em: https://ojs.revistacontribuciones.com/ojs/index.php/clcs/article/view/1598. Acesso em: 20 dez. 2023.

RÖHE, Anderson; SANTAELLA, Lucia. IAs Generativas: a importância dos comandos para texto e imagem. Revista Aurora, São Paulo, v. 16, n. 47, p. 76-94, 2023. Disponível em: https://revistas.pucsp.br/index.php/aurora/article/view/62724. Acesso em: 1 dez. 2023.

SANTAELLA, Lucia. A pós-verdade é verdadeira ou falsa. São Paulo: Estação das Letras e Cores, 2018.

SANTAELLA, Lucia. Humanos hiper-híbridos: linguagens e cultura na segunda era da internet. São Paulo: Paulus, 2021.

SANTAELLA, Lucia. Percepção: fenomenologia, ecologia, semiótica. São Paulo: Cengage Learning, 2012.

SOARES, Matheus; BENZ, Lena. Eleições de 2024 vão envolver “desinformação ultrarrealista”. Desinformante, 3 jan. 2024. Disponível em: https://desinformante.com.br/eleicoes-2024-desinformacao-ultrarrealista/. Acesso em: 6 jan. 2024.

SOUSA, Carlos Affonso de. Nudes falsos de alunas: quem a Justiça pune se deepfake atinge anônimos? Uol, 10 nov. 2023. Disponível em: https://www.uol.com.br/tilt/colunas/carlos-affonso-de-souza/2023/11/10/deepfakes-no-colegio-menores-e-pais-podem-ser-responsabilizados.htm. Acesso em: 22 dez. 2023.

SPADONI, Pedro. IA e desinformação representam riscos globais, diz pesquisa. Olhar Digital, 14 jan. 2024. Disponível em: https://olhardigital.com.br/2024/01/14/internet-e-redes-sociais/ia-e-desinformacao-representam-riscos-globais-diz-pesquisa/ Acesso em: 10 jan. 2024.

VOSOUGHI, Soroush; ROY, Deb; ARAL, Sinan. The spread of true and false news online. Science, [S. l.], v. 359, n. 6380, p. 1146-1151, 2018. Disponível em: https://www.science.org/doi/10.1126/science.aap9559. Acesso em: 22 dez. 2023.

WEF – WORLD ECONOMIC FORUM. Global Risks Report 2024. Geneva: WEF, 2024.

Downloads

Publicado

2024-05-27

Edição

v. 21 n. 44 (2024): Comunicação, Organizações e Inteligência Artificial: impactos, sistemas generativos e uso de dados

Seção

Espaço Aberto

Licença

Copyright (c) 2024 Anderson Röhe Fontão Batista, Lucia Santaella

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

A submissão implica a cessão de direitos da primeira publicação à revista Organicom, sem pagamento. Os autores podem estabelecer por separado acordos adicionais para a distribuição não exclusiva de versão da obra publicada na revista (como colocar em um repositório institucional ou publicar um livro), com o devido reconhecimento de sua publicação inicial na revista Organicom.

Como Citar

BATISTA, Anderson Röhe Fontão; SANTAELLA, Lucia. Prognósticos das deepfakes na política eleitoral. Organicom, São Paulo, Brasil, v. 21, n. 44, p. 187–196, 2024. DOI: 10.11606/issn.2238-2593.organicom.2024.221294. Disponível em: https://revistas.usp.br/organicom/article/view/221294.. Acesso em: 30 jun. 2024.