La ética de la Inteligência Artificial en la educación: hacia un uso responsable e inclusivo
DOI:
https://doi.org/10.1590/S1678-4634202551293347esPalavras-chave:
Inteligencia Artificial, Ética, Brecha digital, Transformación educativaResumo
El artículo aborda la relación entre la inteligencia artificial (IA) y la ética en el ámbito educativo, destacando la necesidad de un uso responsable e inclusivo de esta tecnología. Se analiza cómo la IA, tras la irrupción de herramientas como ChatGPT, está transformando los procesos educativos, desde la personalización del aprendizaje hasta la automatización de tareas docentes. No obstante, este avance tecnológico también conlleva desafíos éticos significativos, como la privacidad de los datos, la equidad en el acceso, los sesgos algorítmicos y el impacto ambiental. El texto enfatiza la importancia de formar tanto a estudiantes como a docentes no solo en el uso técnico de la IA, sino también en su comprensión crítica y en la adopción de principios éticos que guíen su utilización. Para ello, se hace una llamada a establecer normativas internacionales que regulen esta tecnología, protejan los derechos humanos y promuevan una distribución justa de sus benefícios. El artículo subraya que el verdadero desafío radica en integrar la IA en la educación de manera que impulse el pensamiento crítico, fomente la equidad y responda a las necesidades sociales actuales y futuras.
Downloads
Referências
ALBARRÁN, Eloy. Hacia una educación personalizada y adaptativa: la disrupción de la inteligência artificial. Caracas: Centro Internacional de Educación Continua: Universidad Pedagógica Experimental Libertador, 2023.
ALONSO-RODRÍGUEZ, Ana María. Hacia un marco ético de la inteligencia artificial en la educación. Teoria de la Educación: Revista Interuniversitaria, v. 36, n. 2, p. 79-98, 2024. https://doi.org/10.14201/teri.31821
» https://doi.org/10.14201/teri.31821
ALTO, Valentina. Inteligencia artificial generativa como modelos de ChatGPT y OpenAI. Madrid: Anaya, 2023.
BAKER, Toby; SMITH, Laurie; ANISSA, Nandra. Educ-AI-tion rebooted? Exploring the future of artificial intelligence in schools and colleges. Nesta, 2019. Disponible en: https://www.nesta.org.uk/report/education-rebooted/ Acesso en: 20 Mayo 2025.
» https://www.nesta.org.uk/report/education-rebooted/
BOND, Melissa; KHOSRAVI, Hassan; DE LAAT, Maarten; BERGDAHL, Nina; NEGREA, Violeta; OXLEY, Emily; PHAM, Phuong; CHONG, Sin Wang; SIEMENS, George. A meta systematic review of artificial intelligence in higher education: a call for increased ethics, collaboration, and rigour. International Journal of Educational Technology in Higher, v. 21, 2024. https://doi.org/10.1186/s41239-023-00436-z
» https://doi.org/10.1186/s41239-023-00436-z
CELIK, Ismail; DINDAR, Muhterem; MUUKKONEN, Hanni; JÄRVELÄ, Sanna The promises and challenges of artificial intelligence for teachers: a systematic review of research. TechTrends, v. 66, p. 616-630, 2022. https://doi.org/10.1007/s11528-022-00715-y
» https://doi.org/10.1007/s11528-022-00715-y
COMISIÓN EUROPEA. Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y formación para los educadores. Luxemburgo: Unión Europea, 2022.
COOPER, Grant. Examining science education in ChatGPT: an exploratory study of generative artificial intelligence. Journal of Science Education and Technology, v. 32, p. 444-452, 2023. https://doi.org/10.1007/s10956-023-10039-y
» https://doi.org/10.1007/s10956-023-10039-y
CORTINA, Adela. ¿Ética o ideología de la inteligencia artificial? Barcelona: Paidós, 2024.
DESMURGET, Michel. La fábrica de cretinos digitales. Barcelona: Paidós, 2020.
FARROKHNIA, Mohammadreza; BANIHASHEM, Seyyed Kazem; NOROOZI, Omid; WALS, Arjen. A SWOT analysis of ChatGPT: implications for educational practice and research. Innovations in Education and Teaching International, v. 61, n. 3, p. 460-474, 2023. https://doi.org/10.1080/14703297.2023.2195846
» https://doi.org/10.1080/14703297.2023.2195846
FERRARELLI, Mariana. Inteligencia artificial y educación: insumos para su abordaje desde Iberoamérica. Buenos Aires: OEI, 2024.
GALLENT, Cinta; ZAPATA, Alfredo; ORTEGO, José Luis. El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica. Relieve: Revista Electrónica De Investigación y Evaluación Educativa, v. 29, n. 2, 2023. https://doi.org/10.30827/relieve.v29i2.29134
» https://doi.org/10.30827/relieve.v29i2.29134
GARCÍA PEÑALVO, Francisco; LLORENS-LARGO, Faraón; VIDAL, Javier. La nueva realidad de la educación ante los avances de la inteligencia artificial generativa. Ried: Revista Iberoamericana de Educación a Distancia, v. 27, n. 1, p. 9-39, 2024. https://doi.Org/10.5944/ried.27.1.37716
» https://doi.org/10.5944/ried.27.1.37716
GONZALEZ, Gregorio. 1 d.C. (Después de ChatGPT): inteligencia artificial en la educación superior. Valencia: PUV Universitat de Valencia, 2024.
GREENHOUSE. US experts warn AI likely to kill off jobs and widen wealth inequality. The Guardian, 2023. Disponible en: https://is.gd/n38xqn Acceso en: 12 ene. 2025.
GRUPO DE TRABAJO DE INTELIGENCIA ARTIFICIAL GENERATIVA DE LA UNAM. Recomendaciones para el uso de inteligencia artificial generativa en la docencia. México, DC: UNAM, 2023.
HARARI, Yuvak. Nexus: una breve historia de las redes de información desde la Edad de Piedra hasta la IA. Barcelona: Debate, 2024.
HATZIUS, Jan; BRIGGS, Joseph; KODNANI, Devest; PIERDOMENICO, Giovanni. The potentially large effects of artificial intelligence on economic growth. Goldman Sachs, 2023. Diponible en: https://www.gspublishing.com/content/research/en/reports/2023/03/27/d64e052b-0f6e-45d7-967b-d7be35fabd16.html Acesso en: 20 Mayo 2025.
IVANOV, Stanislav. The dark side of artificial intelligence in higher education. The Service Industries Journal, v. 43, p. 1055-1082, 2023. https://doi.org/10.1080/02642069.2023.2258799
» https://doi.org/10.1080/02642069.2023.2258799
INTERNATIONAL BUSINESS MACHINES. El sesgo de la IA, a la luz de ejemplos reales. IBM, 2023. Disponible en: https://www.ibm.com/es-es/think/topics/shedding-light-on-ai-bias-with-real-world-examples Acesso em: 19 maio 2025.
» https://www.ibm.com/es-es/think/topics/shedding-light-on-ai-bias-with-real-world-examples
JIMÉNEZ, Luis; LÓPEZ-GÓMEZ, Julio; MARTÍN-BAOS, José Angel; ROMERO, Francisco; SERRANO-GUERRERO, Jesús. ChatGPT: reflexiones sobre la irrupción de la inteligencia artificial generativa en la docencia universitaria. Actas de las Jenui, n. 8, p. 113-120, 2023.
LO, Chung. What is the impact of ChatGPT on education? A rapid review of the literature. Education Sciences, v. 13, n. 4, p. 410, 2023. https://doi.org/10.3390/educsci13040410
» https://doi.org/10.3390/educsci13040410
LOJÁN, María del Cisne.; ROMERO, J. Antonio; SANCHO AGUILERA, David; ROMERO, A. Yajaira. Consecuencias de la dependencia de la inteligencia artificial en habilidades críticas y aprendizaje autónomo en los estudiantes. Ciencia Latina Revista Científica Multidisciplinar, v. 8, n. 2, p. 2368-2382, 2024. https://doi.org/10.37811/cl_rcm.v8i2.10678
» https://doi.org/10.37811/cl_rcm.v8i2.10678
LÓPEZ REGALADO, Oscar; NÚÑEZ-ROJAS, Nemecio; RAFAEL LÓPEZ GIL, Oscar; SÁNCHEZ-RODRÍGUEZ, José. El análisis del uso de la inteligencia artificial en la educación universitaria: una revisión sistemática. Pixel-Bit: Revista de Medios y Educación, n. 70, p. 97-122, 2024. https://doi.org/10.12795/pixelbit.106336
» https://doi.org/10.12795/pixelbit.106336
LURI, Gregori. La escuela no es un parque de atracciones. Barcelona: Paidós, 2020.
MAYOL, Julio. Inteligência artificial generativa y educación médica. Educación Médica, v. 24, n. 4, p. 1-3, 2023. https://doi.org/10.1016/j.edumed.2023.100851
» https://doi.org/10.1016/j.edumed.2023.100851
MENA-GUACAS, Andrés; VÁZQUEZ-CANO, Estevan; FERNÁNDEZ-MÁRQUEZ, Esther; LÓPEZ-MENESES, Eloy. La inteligencia artificial y su producción científica en el campo de la educación. Formación Universitária, v. 17, n. 1, p. 155-164, 2024. http://dx.doi.org/10.4067/s0718-50062024000100155
» https://doi.org/10.4067/s0718-50062024000100155
MIAO, Fengchun; HOLMES, Wayne; HUANG, Ronghuai; HUI, Zhang. Inteligência artificial y educación: promesas e implicancias. París: Unesco, 2021.
MOROZOV, Evgeny. Otra inteligencia artificial es posible. Le Monde Diplomatique en Español, n. 346, p. 25-28, 2024.
O’NEIL, Cathy. Armas de destrucción matemática. Madrid: Capitán Swing, 2017.
ORTIZ DE ZÁRATE, Lucía. Sesgos de género en la inteligencia artificial. Revista de Occidente, n. 502, p. 5-20, 2023.
RAMÍREZ, Gina; LÓPEZ, Alison. Reflexiones éticas sobre la evaluación y la inteligencia. In: MUÑOZ, Juan Miguel; LORENZO, Neus; SUÑÉ, Xavier (org.). Inteligencia artificial en la microeducación: transformando el aula del futuro. [S. l.]: Odite, 2024. p. 123-134.
SABZALIEVA, Emma; VALENTINI, Arianna. ChatGPT e inteligencia artificial en la educación superior. Santiago de Chile: Unesco-Iesalc, 2023.
THOMSON, Travis Jason; THOMAS, Ryan. Ageism, sexism, classism and more: 7 examples of bias in AI-generated images. The Conversation, 2023. Disponible en: https://theconversation.com/ageism-sexism-classism-and-more-7-examples-of-bias-in-ai-generated-images-208748 Acesso em: 19 maio 2025.
TUOMI, Ilkka. The impact of artificial intelligence on learning, teaching, and education. Policies for the future. In: CABRERA, Marcelino.; VUORIKARI, Riina.; PUNIE, Yves. (ed.). EUR 29442 EN. Luxembourg: European Union, 2018. p. 1-48. Disponível em: 10.2760/12297. JRC113226 . Acesso em: 19 maio 2025.
» https://doi.org/10.2760/12297. JRC113226.
UNESCO. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. Beijing consensus on artificial intelligence and education. Beijing: Unesco, 2019. Disponívle em: https://unesdoc.unesco.org/ark:/48223/pf0000368303 Acesso em: 19 maio 2025.
» https://unesdoc.unesco.org/ark:/48223/pf0000368303
UNESCO. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. Guidance for generative AI in education and research. París: Unesco, 2023.
UNESCO. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. Inteligencia artificial y educación: guía para las personas a cargo de formular políticas. Paris: Unesco, 2021a.
UNESCO. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. Recomendación sobre la ética de la inteligencia artificial. París: Unesco, 2021b.
VÉLEZ, Rocio; MUÑOZ ÁLVAREZ, Diana; LEAL ORELLANA, Priscila; RUIZ GARRIDO, Alejandra. Uso de Inteligencia Artificial en educación superior y sus implicancias éticas: mapeo sistemático de literatura. Hachetetepé: Revista científica de Educación y Comunicación, v. 28, p. 1105, 2024. https://doi.org/10.25267/Hachetetepe.2024.i28.1105
» https://doi.org/10.25267/Hachetetepe.2024.i28.1105
YU, Hao; GUO, Yunyun. Generative artificial intelligence empowers educational reform: current status, issues, and prospects. Frontiers in Education, v. 8, 1183162, 2023. https://doi.org/10.3389/feduc.2023.1183162
» https://doi.org/10.3389/feduc.2023.1183162
ZAWACKI-RICHTER, Olaf; MARÍN, Victoria; BOND, Melissa; GOUVERNEUR, Franziska. Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, v. 16, n. 1, p. 1-27, 2019. https://doi.org/10.1186/s41239-019-0171-0
Downloads
Publicado
Edição
Seção
Licença
Copyright (c) 2025 Educação e Pesquisa
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
A publicação do artigo em Educação e Pesquisa implica, automaticamente, por parte do(s) autor(es) a cessão integral e exclusiva dos direitos autorais da primeira edição para a revista, sem quaisquer honorários.
Após a primeira publicação, os autores têm autorização para assumir contratos adicionais, independentes da revista, para a divulgação do trabalho por outros meios (ex.: repositório institucional ou capítulo de livro), desde que citada a fonte completa, com as referências da mesma autoria e dos dados da publicação original.
As ideias e opiniões expressas no artigo são de exclusiva responsabilidade do autor, não refletindo, necessariamente, as opiniões da revista.
