Erros, falhas e perturbações digitais em alucinações das IA generativas: tipologia, premissas e epistemologia da comunicação
DOI:
https://doi.org/10.11606/issn.1982-8160.v18i1p75-91Parole chiave:
erros digitais, alucinação, ChatGPT, IA, neomaterialismoAbstract
Neste artigo, identifica-se como erros, falhas e perturbações digitais podem ser analisados a partir de três premissas, relacionando-os com o exemplo da atual alucinação em sistema de IAG, como o ChatGPT. Eles revelam uma dimensão escondida dos objetos digitais. Por serem mais concretos, os objetos digitais geram uma maior indefinição das origens e consequências de eventos disruptivos. Nesses momentos, pode-se vislumbrar agenciamentos coletivos em torno da cultura digital. A proposta é que os erros, falhas e perturbações sejam entendidos não como positivos ou negativos, mas como uma forma de apontar direcionamentos para a pesquisa, indicar o locus para uma abordagem qualitativa. Conclui-se que os erros não são apenas disruptivos, ou oportunidade para gerar inovação, mas eventos que permitem entender as formas da comunicação e as ações das mídias digitais.
Downloads
Riferimenti bibliografici
Alexander, N. (2017). Rage Against the Machine: Buffering, Noise, and Perpetual Anxiety in the Age of Connected Viewing. Cinema Journal, 56(2), 1–24. https://doi.org/10.1353/cj.2017.0000
Amoore, L. (2019). Doubt and the Algorithm: On the Partial Accounts of Machine Learning. Theory, Culture & Society, 36(6), 147–169. https://doi.org/10.1177/0263276419851846
Amoore, L. (2020). Cloud ethics: Algorithms and the attributes of ourselves and others. Duke University Press.
Appadurai, A., & Alexander, N. (2020). Failure. Polity.
Arendt, H. (1998). The human condition (2nd ed). University of Chicago Press.
Barker, T., & Korolkova, M. (Orgs.). (2022). Miscommunications: Errors, Mistakes, Media. Bloomsbury Academic.
Bellinger, M. (2016). The Rhetoric of Error in Digital Media Computational Culture. Computational Culture, 5(15 january), 1–26. http://computationalculture.net/the-rhetoric-of-error-in-digital-media-2/.»
Bennett, J. (2005). The Agency of Assemblages and the North American Blackout. Public Culture, 17(3), 445–465.
Callon, M. (2001). Actor Network Theory. Em International Encyclopedia of the Social & Behavioral Sciences (p. 62–66). Elsevier. https://doi.org/10.1016/B0-08-043076-7/03168-5
Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.
Dourish, P. (2017). The stuff of bits: An essay on the materialities of information. The MIT Press.
Eubanks, V. (2017). Automating inequality: How high-tech tools profile, police, and punish the poor (First Edition). St. Martin’s Press.
Fox, N. J., & Alldred, P. (2017). Sociology and the new materialism: Theory, research, action. Sage Publications.
Fox, N. J., & Alldred, P. (in press). New Materialism. Em P. A. Atkinson, S. Delamont, M. A. Hardy, & M. Williams (Orgs.), Research Methods Foundations. Sage.
Giddens, A. (1990). The Consequences of modernity. Polity Press.
Gillespie, T. (2010). The politics of ‘platforms’. New Media & Society, 12(3), 347–364. https://doi.org/10.1177/1461444809342738
Grusin, R. A. (Org.). (2015). The nonhuman turn. University of Minnesota Press.
Harman, G. (2002). Tool-being: Heidegger and the metaphyics of objects. Open Court.
Harman, G. (2007). Heidegger explained: From phenomenon to thing. Open Court.
Harman, G. (2011). The Quadruple Object. Zero Books.
Heidegger, M. (2005). Ser e Tempo (Parte I). Vozes.
Heidegger, M. (2007). A questão da técnica. Scientiae Studia, 5(3), 375–398. https://doi.org/10.1590/S1678-31662007000300006
Ji, Z., Lee, N., & Frieske, R. (2022). Survey of hallucination in natural language generation. ACM Computing Surveys. https://dx.doi.org/10.1145/3571730
Korolkova, M., & Bowes, S. (2020). Mistake as method: Towards an epistemology of errors in creative practice and research. Uropean Journal of Media Studies, 9(2), 139–157. https://necsus-ejms.org/mistake-as-method-towards-an-epis- temology-of-errors-in-creative-practice-and-research/
Latour, B. (1996). On Interobjectivity. Mind, Culture, and Activity, 3(4), 228–245. https://doi.org/10.1207/s15327884mca0304_2
Latour, B. (2002). Aramis, or the love of technology (4. printing). Harvard Univ. Press.
Latour, B. (2005). Reassembling the social: An introduction to actor-network-theory. Oxford University Press.
Latour, B. (2013). An inquiry into modes of existence: An anthropology of the moderns. Harvard University Press.
Lemos, A. (2020a). Comunicação, Mediação e Modo de Existência na Cibercultura. Em G. Alzamora, J. Ziller, & F. Coutinho (Orgs.), Dossiê Bruno Latour. UFMG.
Lemos, A. (2020b). Epistemologia da comunicação, neomaterialismo e cultura digital. Galáxia (São Paulo), 43, 54–66. https://doi.org/10.1590/1982-25532020143970
Lemos, A., & Bitencourt, E. (2021). Sete pontos para compreender o neomaterialismo. Galáxia (São Paulo), 46, e52017. https://doi.org/10.1590/1982-2553202152017
Marx, K., & Engels, F. (2011). The communist manifesto. Penguin Books.
Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism.
Nunes, M. (Org.). (2011). Error: Glitch, noise, and jam in new media cultures. Continuum.
Parikka, J., & Sampson, T. D. (2009). ON ANOMALOUS OBJECTS OF DIGITAL CULTURE An Introduction. Em The Spam book. On Viruses, Porn, and Other Anomalies from the Dark Side of Digital Culture (p. 291). Hampton Press.
Rettberg, J. W. (2022). Algorithmic failure as a humanities methodology: Machine learning’s mispredictions identify rich cases for qualitative analysis. Big Data & Society, 9(2), 205395172211312. https://doi.org/10.1177/20539517221131290
Simondon, G. (1989). Du mode d’existence des objets techniques (Ed. augm). Aubier.
van Dijck, J., Poell, T., & de Waal, M. (2018). The Platform Society. Oxford University Press.
Velkova, J. (2016). Data that warms: Waste heat, infrastructural convergence and the computation traffic commodity. Big Data & Society, 3(2), 205395171668414. https://doi.org/10.1177/2053951716684144
Velkova, J. (2019). Data Centers as Impermanent Infrastructures.
Velkova, J. (2021). Thermopolitics of data: Cloud infrastructures and energy futures. Cultural Studies, 35(4–5), 663–683. https://doi.org/10.1080/09502386.2021.1895243
Weber, M. (2001). The Protestant ethic and the spirit of capitalism. Routledge.
Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power (First edition). PublicAffairs.
Dowloads
Pubblicato
Fascicolo
Sezione
Licenza
Questo volume è pubblicato con la licenza Creative Commons Attribuzione - Non commerciale - Condividi allo stesso modo 4.0 Internazionale.
Gli autori che pubblicano in questa rivista accettano i seguenti termini:
- Gli autori mantengono il copyright e concedono alla rivista il diritto alla prima pubblicazione, con il lavoro simultaneamente concesso in licenza in base alla Licenza di attribuzione Creative Commons (CC BY-NC-SA 4.0) che consente la condivisione dell'opera con riconoscimento di paternità e pubblicazione iniziale in questo giornale per scopi non commerciali.
- Gli autori sono autorizzati ad assumere contratti aggiuntivi separatamente, per la distribuzione non esclusiva della versione dell'opera pubblicata in questa rivista (ad esempio, pubblicazione in un archivio istituzionale o come capitolo di un libro), con riconoscimento di paternità e pubblicazione iniziale in questa rivista.