Derechos Humanos en la era de la hiperautomatización: implicaciones jurídicas y éticas para los migrantes digitales
DOI:
https://doi.org/10.11606/issn.2965-7474.v2i1p3-26Palavras-chave:
Privacidad digital, Sesgo algorítmico, Brecha digital, Inclusión digital, Derecho a la no discriminaciónResumo
Este artículo examina cómo el impacto de la hiperautomatización representa riesgos para los derechos humanos de los "migrantes digitales" como grupo vulnerable. El principal objetivo es analizar de qué modo la integración de tecnologías emergentes amenaza la privacidad, la no discriminación y la inclusión digital. Para lograr este propósito, se emplea un enfoque cualitativo que integra revisión de literatura y estudio de casos emblemáticos. Además, el método comparado permite comprender en profundidad los desafíos que enfrentan los migrantes digitales al adaptarse forzadamente a un contexto tecnológico cambiante. El análisis se realiza desde una perspectiva de derechos humanos que resalta la necesidad urgente de actualizar la normativa e incorporar principios éticos a escala global, acciones esenciales para resguardar los derechos fundamentales de los migrantes digitales considerando los riesgos que presenta la hiperautomatización. En definitiva, este trabajo ofrece reflexiones sobre el equilibrio necesario entre innovación tecnológica y protección de derechos humanos.
Downloads
Referências
ACQUISTI, Alessandro; BRANDIMARTE, Laura; LOEWENSTEIN, George. Privacy and human behavior in the age of information. Science, v. 347, n. 6221, p. 509-514, January, 2015. https://doi.org/10.1126/science.aaa1465.
ADAM, Ibrahim O; ALHASSAN, Muftawu D. Bridging the global digital divide through digital inclusion: the role of ICT access and ICT use. Transforming Government: People, Process and Policy, v. 15, n. 4, p. 580-596, May, 2021. https://doi.org/10.1108/TG-06-2020-0114.
BANCO DE DESARROLLO DE AMÉRICA LATINA Y EL CARIBE (CAF). CAF promueve la transformación digital en la región. 22 de nov. De 2022. Disponible en: https://www.caf.com/es/actualidad/noticias/2022/11/caf-presento-acciones-para-promover-la-transformacion-digital-en-la-region/. Consultado: 30 nov. 2023.
BAROCAS, Solon; SELBST, Andrew D. Big data’s disparate impact. California Law Review, v. 104, p. 671-732, June, 2016. https://doi.org/10.15779/Z38BG31.
BORDA, Marta; GRISHCHENKO, Natalia; KOWALCZYK-RÓLCZYŃSKA, Patrycja. Impact of Digital Inequality on the COVID-19 Pandemic: Evidence from European Union Countries. Sustainability, v. 14, n. 5, March, 2022, https://doi.org/10.3390/su14052850.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research. Conference on fairness, accountability and transparency. V. 81, p. 1–15. PMLR, 2018. Disponible en: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Consultado: 10 de nov. 2023.
CALISKAN, Aylin. Detecting and mitigating bias in natural language processing. Brookings. May 10, 2021. Disponible https://www.brookings.edu/articles/detecting-and-mitigating-bias-in-natural-language-processing/. Consultado: 30 de nov. 2023.
CHENG, Lu; VARSHNEY, Kush R.; LIU, Huan. Socially responsible ai algorithms: Issues, purposes, and challenges. Journal of Artificial Intelligence Research, v. 71, p. 1137-1181, 2021. Disponible en: https://www.jair.org/index.php/jair/article/view/12814/26713. Consultado: 20 oct. 2023.
CONSEJO DE EUROPA. Convenio 108 para la protección de las personas con respecto al tratamiento automatizado de datos de carácter personal, 1981. Disponible en: https://rm.coe.int/1680078b37. Consultado: 5 nov. 2023.
CONSUMER FINANCIAL PROTECTION BUREAU (CFPB). CFPB Finds Credit Report Disputes Far More Common in Majority Black and Hispanic Neighborhoods. Washington, D.C., 2021. Disponible en: https://www.consumerfinance.gov/about-us/newsroom/cfpb-finds-credit-report-disputes-far-more-common-in-majority-black-and-hispanic-neighborhoods. Consultado: 16 nov. 2023.
CZAJA, Sara J. et al. Factors influencing use of an e-health website in a community sample of older adults. Journal of the American Medical Informatics Association, v. 20, n. 2, p. 277-284, July, 2013. https://doi.org/10.1136/amiajnl-2012-000876.
ESTADOS UNIDOS. Algorithmic Accountability Act. H.R. 5628, 118° Congress (2023-2024). Disponible en: https://www.congress.gov/bill/118th-congress/house-bill/5628/text?s=1&r=1&q=%7B%22search%22%3A%22Algorithmic+Accountability+Act%2C%22%7D. Consultado: 10 dic. 2023.
EUROPEAN PARLIAMENT. Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI. 9 de dic de 2023. Disponible en:
https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligenceact-deal-on-comprehensive-rules-for-trustworthy-ai. Consultado: 15 dic. 2023.
CABELLO, Luz M. F. El público adulto mayor y las nuevas tecnologías. Revisión de la cobertura informativa en prensa digital de habla hispana durante el COVID-19. Tendencias Sociales. Revista de Sociología, v. 8, p. 133-143, 2022. https://revistas.uned.es/index.php/Tendencias/article/view/34263.
FOSCH-VILLARONGA, Eduard; POULSEN, Adam. Diversity and inclusion in artificial intelligence. Law and Artificial Intelligence: Regulating AI and Applying AI in Legal Practice, 109-134.
REYES, Carlos E. G. Alfabetización y alfabetización digital. Transdigital, v. 1, n. 1, 2020. https://doi.org/10.56162/transdigital15.
HARGITTAI, Eszter; DOBRANSKY, Kerry. Old Dogs, New Clicks: Digital Inequality in Skills and Uses among Older Adults. Canadian Journal of Communication, v. 42, p. 195-212, May, 2017. https://doi.org/10.22230/cjc.2017v42n2a3176.
HUTCHINSON, Ben; MITCHELL, Margaret. 50 years of test (un)fairness: Lessons for machine learning. En: Proceedings of the Conference on Fairness, Accountability, and Transparency. ACM. January, 2019, págs. 49-58.
INTERNATIONAL TELECOMMUNICATION UNION (ITU). Measuring digital development: Facts and figures 2021. Geneva, Switzerland, 2021. Disponible en: https://www.itu.int/en/ITU-D/Statistics/Documents/facts/FactsFigures2021.pdf. Consultado: 10 oct. 2023.
ISAAK, Jim; HANNA, Mina J. User Data Privacy: Facebook, Cambridge Analytica, and Privacy Protection. Computer, v. 51, n. 8, p. 56-59, August 2018. https://doi.org/10.1109/MC.2018.3191268.
JOBIN, Anna; IENCA, Marcello; VAYENA, Effy. The global landscape of AI ethics guidelines. Nature Machine Intelligence, v. 1, n. 9, p. 389-399, September, 2019. https://doi.org/10.1038/s42256-019-0088-2.
KELLEY, Stephanie et al. Antidiscrimination Laws, Artificial Intelligence, and Gender Bias: A Case Study in Nonmortgage Fintech Lending. Manufacturing & Service Operations Management, v. 24, n. 6, p. 3039-3059, May, 2022. https://doi.org/10.1287/msom.2022.1108.
ARELLANO, Israel T. L; SUÁREZ, Maria E. A. Normatividad y brecha digital durante la Pandemia por Covid-19 en la inclusión educativa para personas con discapacidad. En: ARELLANO, Israel (ed.). Investigación y pandemia. Impactos del COVID 19 en proyectos y programas de educación, inclusión y gestión cultural. Santiago de Chile: Ariadna ediciones, 2021, págs.9-27. Disponible en:
https://ariadnaediciones.cl/images/pdf/InvestigacionyPandemia.pdf#page=10.
LUTZ, Christoph et al. The Role of Privacy Concerns in the Sharing Economy. Information, Communication & Society, v. 24, n. 10, p. 1472-1492, June, 2017. https://doi.org/10.1080/1369118X.2017.1339726.
MICROSOFT (s.f.). Tools and practices. Evaluate, understand, and make informed decisions about your AI systems. Microsoft. https://www.microsoft.com/en-us/ai/responsible-ai-resources.
MONETARY AUTHORITY OF SINGAPORE. Principles to promote fairness, ethics, accountability and transparency (FEAT) in the use of artificial intelligence and data analytics in Singapore’ financial sector. Singapore, 2018. Disponible en: https://www.mas.gov.sg/publications/monographs-or-information-paper/2018/FEAT. Consultado: 23 nov. 2023.
MORA-CHAVARRÍA, Jafet D; GONZÁLEZ-MATAMOROS, Rodolfo A. Inclusión digital de la persona adulta mayor: Una revisión documental. Revista Latinoamericana de Derechos Humanos, v. 33, n. 1, I Semestre, p. 211-234, 2022. DOI: https://dx.doi.org/10.15359/rldh.33-1.11.
NORORI, Natalia et al.. Addressing bias in big data and AI for health care: A call for open science. Patterns. v. 2, n. 10, October 2021. https://doi.org/10.1016/j.patter.2021.100347.
NEW YORK STATE DEPARTMENT OF FINANCIAL SERVICES. Report on Apple Card Investigation. New York, 2021. Disponible en: https://www.dfs.ny.gov/system/files/documents/2021/03/rpt_202103_apple_card_investigation. pdf. Consultado: 30 nov. 2023.
ORGANIZACIÓN PARA LA COOPERACIÓN Y EL DESARROLLO ECONÓMICOS (OCDE). Cuarenta y dos países adoptan los Principios de la OCDE sobre Inteligencia Artificial. París, mayo 22 de 2019. Disponible en: https://www.oecd.org/espanol/noticias/cuarentaydospaisesadoptanlosprincipiosdelaocdesobreinteligenciaartificial.htm. Consultado: 12 nov. 2023.
ORGANIZACIÓN DE ESTADOS AMERICANOS. Convención interamericana sobre la protección de los derechos humanos de las personas mayores, 2015. Disponible en: https://www.oas.org/es/sla/ddi/tratados_multilaterales_interamericanos_A-70_derechos_human
os_personas_mayores_firmas.asp. Consultado: 15 nov. 2015.
ORGANIZACIÓN DE LOS ESTADOS AMERICANOS. Convención interamericana contra el racismo, la discriminación racial y formas conexas de intolerancia, 2013. Disponible en: http://www.oas.org/dil/esp/afrodescendientes_instrumentos_interamericanos_convencion_racis
mo.pdf. Consultado: 10 oct. 2023.
ORGANIZACIÓN DE NACIONES UNIDAS (ONU). Convención internacional sobre la eliminación de todas las formas de discriminación racial, 1969. Disponible en: https://www.ohchr.org/sp/professionalinterest/pages/cerd.aspx. Consultado: 5 oct. 2023.
ORGANIZACIÓN DE NACIONES UNIDAS (ONU). Pacto internacional de derechos civiles y políticos. Asamblea General, resolución 2200 A (XXI), de 16 de diciembre de 1966. Disponible en: https://www.ohchr.org/es/instruments-mechanisms/instruments/international-covenant-civil-and-political-rights. Consultado: 12 oct. 2023.
ORGANIZACIÓN DE NACIONES UNIDAS (ONU). Declaración Universal de Derechos Humanos, 1948. Disponible en: https://www.un.org/es/about-us/universal-declaration-of-human-rights. Consultado: 12 oct. 2023.
PARLAMENTO EUROPEO. La protección de los datos personales. Fichas temáticas sobre la Unión Europea, 2023. Disponible en: https://www.europarl.europa.eu. Consultado: 20 oct. 2023.
PARLAMENTO EUROPEO Y CONSEJO. Reglamento (UE) 2018/1725 del Parlamento Europeo y del Consejo relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales por las instituciones, órganos y organismos de la Unión, y a la libre circulación de esos datos, y por el que se derogan el Reglamento (CE) n.o 45/2001 y la Decisión n.o 1247/2002/CE. Estrasburgo, 23 de octubre de 2018. Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/HTML/?uri=CELEX:32016R0679. Consultado: 16 oct. 2023.
PRENSKY, Marc. Digital Natives, Digital Immigrants. On the Horizon, v. 9, n. 5, 2021, p. 1-6. http://shako720.pbworks.com/f/Digital+Natives-Digital+Immigrans.pdf.
RAGNEDDA, Massimo; MUSCHERT, Glenn. (eds.). Theorizing digital divides. New York: Routledge, 2018.
REISDORF, Bianca; RHINESMITH, Colin. Digital inclusion as a core component of social inclusion. Social Inclusion, v. 8, n. 2, p. 132-137, 2020. https://doi.org/10.17645/si.v8i2.3184.
DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women.
REUTERS, 10 de octubre, 2018. Disponible en: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secretai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G. Consultado: 15 nov. 2023.
ROSA, Fernanda R. Inclusión digital como política pública: disputas en el campo de los derechos humanos. Sur - Revista internacional de derechos humanos, v. 18, p. 33-55, 2013.
TELFORD, Taylor. El algoritmo de Apple Card desata acusaciones de sesgo de género contra Goldman Sachs. Washington Post, 11 nov 2019. Disponible en: http://www.cs.williams.edu/~andrea/cs374/Articles/AppleCardWashingtonPost.pdf. Consultado: 30 oct. 2023.
UNESCO. Recomendación sobre la ética de la inteligencia artificial del 23 de noviembre de 2021. París, Francia, 2022. Disponible en: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa. Consultado: 30 sep. 2023.
UNIÓN EUROPEA. Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión. Lugar, 21de abril 2021. Disponible en: https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A52021PC0206. Consultado: 15 nov. 2023.
UNIVERSITY OF WASHINGTON (s.f.). Responsible AI Systems and Experiences (RAISE). https://www.raise.uw.edu/DIJK, J. The digital divide. John Wiley & Sons, 2020.
VODANOVICH, Shahper; SUNDARAM, David; MYERS, Michael. Research Commentary— Digital Natives and Ubiquitous Information Systems. Information Systems Research, v. 21, n. 4, p. 711-723, December, 2010. https://doi.org/10.1287/isre.1100.0324.
WARSCHAUER, Mark. Technology and Social Inclusion: Rethinking the Digital Divide. Cambridge, Massachusetts-London, England: MIT Press, 2003.
WHITE, David; LE CORNU, Alison. Visitors and Residents: A new typology for online engagement. First Monday, v. 16, n. 9, September, 2011. DOI: https://doi.org/10.5210/fm.v16i9.3171.
XIE, Bo et al. Understanding and changing older adults' perceptions and learning of social media. Educational Gerontology, v. 38, n. 4, p. 282-296, January, 2012. https://doi.org/10.1080/03601277.2010.544580.
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2024 Interfaces da Comunicação
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
