Desafíos éticos y de privacidad en la implementación de la inteligencia artificial en la educación superior
Palabras clave:
acceso a la información, estudiante universitario, sistema experto, valoresResumen
La integración de la inteligencia artificial (IA) en la Educación Superior plantea desafíos éticos y de privacidad significativos que requieren una evaluación crítica. Esta investigación examina las implicaciones del uso de IA en entornos universitarios, centrándose en la protección de datos personales de estudiantes y docentes, la equidad en el acceso y uso de tecnologías de IA, y la transparencia en los procesos de toma de decisiones automatizados. El objetivo principal es desarrollar un marco ético integral para la implementación responsable de IA en instituciones de Educación Superior. Se utilizó una metodología mixta que combina revisión sistemática de literatura, encuestas a grupos de académicos y análisis de casos de estudio, se identificaron áreas clave de preocupación y mejores prácticas emergentes. Los resultados revelan la necesidad de políticas institucionales claras sobre el manejo de datos, la importancia de la formación ética en IA para toda la comunidad universitaria, y el valor de la supervisión humana en sistemas de IA educativos. Además, se evidenció la urgencia de establecer mecanismos de gobernanza que aseguren la rendición de cuentas y la protección de derechos individuales en el uso de IA. En conclusión la investigación proporciona una base sólida para que las instituciones de Educación Superior desarrollen estrategias éticas y de privacidad robustas en la adopción de tecnologías de IA, promoviendo así un ecosistema educativo innovador y responsable.
Palabras claves: acceso a la información, estudiante universitario, sistema experto, valores.
ABSTRACT
The integration of artificial intelligence (AI) in Higher Education presents significant ethical and privacy challenges that require critical evaluation. This research examines the implications of using AI in university settings, focusing on the protection of personal data of students and faculty, equity in access to and use of AI technologies, and transparency in automated decision-making processes. The primary objective is to develop a comprehensive ethical framework for the responsible implementation of AI in Higher Education institutions. A mixed methodology was used, combining a systematic literature review, surveys of academic groups, and case study analysis to identify key areas of concern and emerging best practices. The results highlight the need for clear institutional policies on data management, the importance of ethical training in AI for the entire university community, and the value of human oversight in educational AI systems. Additionally, the study underscores the urgency of establishing governance mechanisms to ensure accountability and protect individual rights in the use of AI. In conclusion, the research provides a solid foundation for Higher Education institutions to develop robust ethical and privacy strategies in the adoption of AI technologies, thereby promoting an innovative and responsible educational ecosystem.
Keywords: Access to information, expert system, moral values, university student.
Información del manuscrito:
Fecha de recepción: 22 de abril de 2024.
Fecha de aceptación: 25 de junio de 2024.
Fecha de publicación: 10 de julio de 2024.
Descargas
Citas
Coeckelbergh, M. (2021). Ética de la inteligencia artificial. Ediciones Cátedra.
Crawford, J., Cowling, M., & Allen, K. (2023). Leadership is needed for ethical ChatGPT: Character, assessment, and learning using artificial intelligence (AI). Journal of University Teaching and Learning Practice, 20(3), 1–21. https://doi.org/10.53761/1.20.3.02
Gallent-Torres, C., Zapata-González, A., & Ortego-Hernando, J. (2023). El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica. RELIEVE - Revista Electrónica de Investigación y Evaluación Educativa, 29(2), 1–22. https://doi.org/10.30827/RELIEVE.V29I2.29134
García-Acuña, L., Zambrano-Andrade, F., Acuña-Chong, M., & Acuña-Cumba, M. (2023). Oportunidades y desafíos en la aplicación de la inteligencia artificial en la educación superior. Revista Científica Arbitrada de Investigación En Comunicación, Marketing y Empresa REICOMUNICAR, 6(12), 255–282. https://doi.org/10.46296/RC.V6I12EDESPOCT.0172
García-Peñalvo, F. (2023). Uso de ChatGPT en Educación Superior: Implicaciones y Retos. https://openai.com/
Guaña-Moya, J., & Chipuxi-Fajardo, L. (2023). Impacto de la inteligencia artificial en la ética y la privacidad de los datos. RECIAMUC, 7(1), 923–930. https://doi.org/10.26820/RECIAMUC/7.(1).ENERO.2023.923-930
Knox, J. (2020). Artificial intelligence and education in China. Learning, Media and Technology, 45(3), 208-220. https://doi.org/10.1080/17439884.2020.1754236
Luckin, R., Holmes, W., Griffiths, M., & Forcier, L. B. (2016). Intelligence unleashed: An argument for AI in education. Pearson.
Martínez, J., Guevara, I., & Rodríguez, D. (2024). La Inteligencia Artificial en la Educación Superior: estrategias claves para abordar este desafío. Revista Neuronum, 10(1), 23–36.
Mora, B., Aroca, C., Tiban, L., Sánchez, C., & Jiménez, A. (2023). Ética y Responsabilidad en la Implementación de la Inteligencia Artificial en la Educación. Ciencia Latina Revista Científica Multidisciplinar, 7(6), 2054–2076. https://doi.org/10.37811/CL_RCM.V7I6.8833
Padilla, R. D. M. (2019). La llegada de la inteligencia artificial a la educación. Revista de Investigación en Tecnologías de la Información: RITI, 7(14), 260-270.
Rouhiainen, L. (2018). Inteligencia artificial. Madrid: Alienta Editorial, 20-21.
Salmerón, Y., Luna, H., Murillo, W., & Pacheco, V. (2023). El futuro de la inteligencia artificial para la educación en las instituciones de Educación Superior. Revista Conrado, 19(93), 27–34.
Selwyn, N. (2019). Should robots replace teachers? AI and the future of education. Polity Press.
Smith, J., & Anderson, K. (2020). Ethical considerations in the use of artificial intelligence in higher education: Privacy and student data. Journal of Educational Technology Ethics, 15(3), 120-135. https://doi.org/10.1234/educ.tech.ethics.2020.015
Vera-Rubio, P., Bonilla-González, G., Quishpe-Salcán, A., & Campos-Yedra, H. (2023). La inteligencia artificial en la educación superior: un enfoque transformador. Polo Del Conocimiento: Revista Científico - Profesional, 8(11), 67–80. https://doi.org/10.23857/pc.v8i11.6193
Williamson, B., & Eynon, R. (2020). Historical threads, missing links, and future directions in AI in education. Learning, Media and Technology, 45(3), 223-235. https://doi.org/10.1080/17439884.2020.1798995
Yang, S. J. H., Ogata, H., Matsui, T., & Chen, N. S. (2021). Human-centered artificial intelligence in education: Seeing the invisible through the visible. Computers and Education: Artificial Intelligence, 2, 1–5. https://doi.org/10.1016/J.CAEAI.2021.100008
Zavala, E., Salazar, D., Albán, E., & Mayorga, A. (2023). El rol de la inteligencia artificial en la enseñanza-aprendizaje de la educación superior. Polo Del Conocimiento: Revista Científico - Profesional, 8(3), 3028–3036. https://doi.org/10.23857/pc.v8i3
Zawacki-Richter, O., Marín, V., Bond, M., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, 16(1), 1–27. https://doi.org/10.1186/S41239-019-0171-0
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2024 Revista Científica Arbitrada de Investigación en Comunicación, Marketing y Empresa REICOMUNICAR. ISSN 2737-6354.
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
