Hacia un marco ético de la inteligencia artificial en la educación
Resumen Este artículo reflexiona sobre el uso de la Inteligencia Artificial en educación desde una perspectiva ética. Lo hace desde un punto de vista externo, considerando su incidencia en los contextos educativos como vivero de los desafíos éticos y políticos que encara la sociedad. Esto permite dimensionar su alcance y profundidad y proponer medidas para afrontarlos. Sus objetivos se enfocan hacia las bases éticas de la Inteligencia Artificial relacionada con la actividad educativa, buscando identificar: las oportunidades, riesgos asociados y su impacto ético en educación; y b) los principios éticos que puedan guiar el desarrollo, despliegue y uso de estos sistemas inteligentes. Para ello se realizó un estudio cualitativo, apoyado en una metodología de revisión bibliográfica de: (i) trabajos académicos sobre sus usos actuales y riesgos potenciales de la Inteligencia Artificial; y (ii) un análisis comparativo de distintos códigos éticos, explorando la convergencia de principios aplicables a Sistemas de Inteligencia Artificial en los contextos educativos. Los resultados obtenidos, en primer lugar, sitúan los problemas identificados en la tradición ética, cuestionando la proliferación de subdominios de la disciplina. Se indaga, después, la posibilidad de un marco ético unificado que evite la superposición de principios para cada dominio específico. Se constata la utilidad de un marco ampliamente reconocido e influyente, cuyos principios se adaptan bien a los desafíos de la educación. Se concluye señalando las líneas en las que se debe avanzar en la investigación: (I) fundamentación ética y regulación normativa para el desarrollo y uso de la Inteligencia Artificial en educación conforme a los principios seleccionados; y (II) definición del nuevo perfil profesional docente y sus implicaciones para la formación inicial del profesorado.
- Referencias
- Cómo citar
- Del mismo autor
- Métricas
Ahmed, N., Wahed, M., & Thompson, N. C. (2023). The growing influence of industry in AI research. Science, 379 (6635), 884-886. https://www.science.org/doi/10.1126/science.ade2420
Aiken, R. M., & Epstein, R. G. (2000). Ethical Guidelines for AI in Education: Starting a Conversation. International Journal of Artificial Intelligence in Education, 11, 163-176.
Alonso, A. M. (2022). Las Ciencias de Diseño como Ciencias Aplicadas y el papel de los valores: Análisis del caso de la Educación. Revista de Investigación Filosófica, 9(1), 3-27. https://doi.org/10.26754/ojs_arif/arif.202216381
Alonso, A. M. (2023). Filosofía de la Ciencia de la Educación: Análisis como Ciencia Aplicada de Diseño. Tirant lo Blanch.
Asamblea General de la ONU. (1948). Declaración Universal de los Derechos Humanos. Paris. http://www.un.org/en/universal-declaration-human-rights/
Bearman, M., Ryan, J., & Ajjawi, R. (2023). Discourses of artificial intelligence in higher education: a critical literature review. Higher Education, 86, 369–385. https://doi.org/10.1007/s10734-022-00937-2
Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics. Oxford University Press.
Boddington, P. (2017). Towards a code of ethics for artificial intelligence. Springer.
Boddington, P. (2023). Introduction, Why AI Ethics? In P. Boddington, AI Ethics. A Textbook (pp. 1-34). Springer.
Chu, J., Xi, L., Zhang, Q., & Lin, R. (2022). Research on Ethical Issues of Artificial Intelligence in Education. In J. Yang, et al. (Eds.), Resilience and Future of Smart Learning (pp. 101-108). Springer. https://doi.org/10.1007/978-981-19-5967-7_12
Coeckelberg, M. (2021). Ética de la Inteligencia Artificial. Cátedra.
Comisión Europea. (2019). Grupo de Expertos de Alto Nivel sobre IA. Directrices Éticas para una IA fiable. https://op.europa.eu/es/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1
Cortina, A. (1997). Ciudadanos del mundo. Hacia una teoría de la ciudadanía. Alianza editorial.
Crawford, K. (2023). Atlas de I. Poder, Política y Costes Planetarios de la Inteligencia Artificial. Ned ediciones.
Declaración de Wingspread sobre el Principio Precautorio (1998). http://www.linea-e.com/cuadernos/pdfs/numero11/elprincipiodeprecaucion.pdf
Executive Office of the President. (2020). Guidance for regulation of Artificial Intelligence applications. https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf
Flores Vivar, J. M. y García-Peñalvo, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de calidad (ODS4). Comunicar, 31(74), 37-47. https://doi.org/10.3916/C74-2023-03
Floridi, L. (2014). The Fourth Revolution - How the Infosphere is Reshaping Human Reality. Oxford University Press.
Floridi, L (2022). Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide. Rafaello Cortina.
Floridi L., & Cowls, J. (2021). A Unified Framework of Five Principles for AI in Society. In L. Floridi (Ed.), Ethics, Governance, and Policies in Artificial Intelligence (5-17). Springer.
Gobierno de España. (2020). Estrategia Nacional de Inteligencia Artificial. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/021220-ENIA.pdf
González, W. J. (2007). Configuración de las Ciencias de Diseño como Ciencias de lo Artificial: Papel de la Inteligencia Artificial y de la racionalidad limitada. En W. J. González (Ed.), Las Ciencias de Diseño: Racionalidad limitada, predicción y prescripción (41-69). Netbiblo.
González, W. J. (2017a). Artificial Intelligence in a New Context: “Internal” and “External” Factors. Minds & Machines, 27(3), 393–396. https://doi.org/10.1007/s11023-017-9444-3
González, W. J. (2017b). From Intelligence to Rationality of Minds and Machines in Contemporary Society: The Sciences of Design and the Role of Information. Minds & Machines, 27(3), 397-424. https://doi.org/10.1007/s11023-017-9439-0
González, W. J. (2020). The Internet at the Service of Society: Business Ethics, Rationality, and Responsibility. Éndoxa, 46, 383-412. https://doi.org/10.5944/endoxa.46.2020.28029
Google LLC. (2022). Artificial Intelligence at Google: Our Principles. https://ai.google/principles/
Holmes, W., & Porayska-Pomsta, K. (2023). The Ethics of Artificial Intelligence in Education. Routledge Taylor.
Holmes, W., Porayska-Pomsta, K., Holstein, K. et al. (2022). Ethics of AI in Education: Towards a Community-Wide Framework. International Journal of Artificial Intelligence in Education, 32, 504–526. https://doi.org/10.1007/s40593-021-00239-1
Humble, N., & Mozellius, P. (2022). The threat, hype, and promise of artificial intelligence in education. Discover Artificial Intelligence, 2(22). https://doi.org/10.1007/s44163-022-00039-z
Jara, I., & Ochoa, J. M. (2020). Usos y efectos de la inteligencia artificial en educación. Banco Interamericano de Desarrollo. http://dx.doi.org/10.18235/0002380
Linares Salgado, J. E. (2022). Principios éticos para el desarrollo de la Inteligencia Artificial y su aplicación en los sistemas de salud. ArtefaCToS. Revista de Estudios de la Ciencia y la Tecnología, 11(2), 137-161.
Meta Platforms. (2021). Facebook five pillars of responsible AI. https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/
Microsoft Corporation (2022). Responsible IA. https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6
Ministerio de Ciencia y Tecnología de la República Popular China. (2017). Principios de Gobernanza para una Nueva Generación de IA: Desarrollo Responsable de la Inteligencia Artificial. https://www.newamerica.org/cybersecurity-initiative/digichina/blog/translation-chinese-expert-group-offers-governance-principles-responsible-ai/
Moreno Padilla, R. (2019). La llegada de la inteligencia artificial a la educación. RITI Journal, 7(14), 260-270. https://doi.org/10.36825/RITI.07.14.022
Nguyen A, Ngo H. N, Hong, Y., Dang, B., & Nguyen, B.T. (2023). Ethical principles for artificial intelligence in education. Educ Inf Technol, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w
Nussbaum, M. (2012). Crear capacidades. Propuesta para el desarrollo humano. Paidós.
Ocaña-Fernandez, Y., Valenzuela-Fernandez, L., & Garro-Aburto, L. (2019). Inteligencia artificial y sus implicaciones en la educación superior. Propósitos y Representaciones, 7(2), 536-552. http://dx.doi.org/10.20511/pyr2019.v7n2.274
OECD (2019). Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
Sætra, H.S., & Danaher, J. (2022). To Each Technology Its Own Ethics: The Problem of Ethical Proliferation. Philosophy & Technology, 35, 93. https://doi.org/10.1007/s13347-022-00591-7
Sánchez Vila, E. M., & Lama Penín, M. (2007). Monografía: Técnicas de la Inteligencia Artificial Aplicadas a la Educación. Inteligencia Artificial. Revista Iberoamericana de Inteligencia Artificial, 11(33), 7-12.
Simon, H. A. (1996). The Sciences of the Artificial. The MIT Press. 3ª ed.
Ulpiano, E. D. (1836). Digesto. En Academicun parisiense, Corpus Iuris civilis. https://gallica.bnf.fr/ark:/12148/bpt6k65768518/f13.item.r=digestum
Unesco. (2019). Beijing consensus on artificial intelligence and education. https://unesdoc.unesco.org/ask:/48223/pf0000368303
Unesco. (2022). Recomendación sobre la ética de la inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000379920_spa.page=15.
Unión Europea. (2022). Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y formación para los educadores. Publications Office of the European Union. https://data.europa.eu/doi/10.2766/898
United Nations. (2019). The Sustainable Development Goals Report 2019. https://bit.ly/34nbq60
Aiken, R. M., & Epstein, R. G. (2000). Ethical Guidelines for AI in Education: Starting a Conversation. International Journal of Artificial Intelligence in Education, 11, 163-176.
Alonso, A. M. (2022). Las Ciencias de Diseño como Ciencias Aplicadas y el papel de los valores: Análisis del caso de la Educación. Revista de Investigación Filosófica, 9(1), 3-27. https://doi.org/10.26754/ojs_arif/arif.202216381
Alonso, A. M. (2023). Filosofía de la Ciencia de la Educación: Análisis como Ciencia Aplicada de Diseño. Tirant lo Blanch.
Asamblea General de la ONU. (1948). Declaración Universal de los Derechos Humanos. Paris. http://www.un.org/en/universal-declaration-human-rights/
Bearman, M., Ryan, J., & Ajjawi, R. (2023). Discourses of artificial intelligence in higher education: a critical literature review. Higher Education, 86, 369–385. https://doi.org/10.1007/s10734-022-00937-2
Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics. Oxford University Press.
Boddington, P. (2017). Towards a code of ethics for artificial intelligence. Springer.
Boddington, P. (2023). Introduction, Why AI Ethics? In P. Boddington, AI Ethics. A Textbook (pp. 1-34). Springer.
Chu, J., Xi, L., Zhang, Q., & Lin, R. (2022). Research on Ethical Issues of Artificial Intelligence in Education. In J. Yang, et al. (Eds.), Resilience and Future of Smart Learning (pp. 101-108). Springer. https://doi.org/10.1007/978-981-19-5967-7_12
Coeckelberg, M. (2021). Ética de la Inteligencia Artificial. Cátedra.
Comisión Europea. (2019). Grupo de Expertos de Alto Nivel sobre IA. Directrices Éticas para una IA fiable. https://op.europa.eu/es/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1
Cortina, A. (1997). Ciudadanos del mundo. Hacia una teoría de la ciudadanía. Alianza editorial.
Crawford, K. (2023). Atlas de I. Poder, Política y Costes Planetarios de la Inteligencia Artificial. Ned ediciones.
Declaración de Wingspread sobre el Principio Precautorio (1998). http://www.linea-e.com/cuadernos/pdfs/numero11/elprincipiodeprecaucion.pdf
Executive Office of the President. (2020). Guidance for regulation of Artificial Intelligence applications. https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf
Flores Vivar, J. M. y García-Peñalvo, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de calidad (ODS4). Comunicar, 31(74), 37-47. https://doi.org/10.3916/C74-2023-03
Floridi, L. (2014). The Fourth Revolution - How the Infosphere is Reshaping Human Reality. Oxford University Press.
Floridi, L (2022). Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide. Rafaello Cortina.
Floridi L., & Cowls, J. (2021). A Unified Framework of Five Principles for AI in Society. In L. Floridi (Ed.), Ethics, Governance, and Policies in Artificial Intelligence (5-17). Springer.
Gobierno de España. (2020). Estrategia Nacional de Inteligencia Artificial. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/021220-ENIA.pdf
González, W. J. (2007). Configuración de las Ciencias de Diseño como Ciencias de lo Artificial: Papel de la Inteligencia Artificial y de la racionalidad limitada. En W. J. González (Ed.), Las Ciencias de Diseño: Racionalidad limitada, predicción y prescripción (41-69). Netbiblo.
González, W. J. (2017a). Artificial Intelligence in a New Context: “Internal” and “External” Factors. Minds & Machines, 27(3), 393–396. https://doi.org/10.1007/s11023-017-9444-3
González, W. J. (2017b). From Intelligence to Rationality of Minds and Machines in Contemporary Society: The Sciences of Design and the Role of Information. Minds & Machines, 27(3), 397-424. https://doi.org/10.1007/s11023-017-9439-0
González, W. J. (2020). The Internet at the Service of Society: Business Ethics, Rationality, and Responsibility. Éndoxa, 46, 383-412. https://doi.org/10.5944/endoxa.46.2020.28029
Google LLC. (2022). Artificial Intelligence at Google: Our Principles. https://ai.google/principles/
Holmes, W., & Porayska-Pomsta, K. (2023). The Ethics of Artificial Intelligence in Education. Routledge Taylor.
Holmes, W., Porayska-Pomsta, K., Holstein, K. et al. (2022). Ethics of AI in Education: Towards a Community-Wide Framework. International Journal of Artificial Intelligence in Education, 32, 504–526. https://doi.org/10.1007/s40593-021-00239-1
Humble, N., & Mozellius, P. (2022). The threat, hype, and promise of artificial intelligence in education. Discover Artificial Intelligence, 2(22). https://doi.org/10.1007/s44163-022-00039-z
Jara, I., & Ochoa, J. M. (2020). Usos y efectos de la inteligencia artificial en educación. Banco Interamericano de Desarrollo. http://dx.doi.org/10.18235/0002380
Linares Salgado, J. E. (2022). Principios éticos para el desarrollo de la Inteligencia Artificial y su aplicación en los sistemas de salud. ArtefaCToS. Revista de Estudios de la Ciencia y la Tecnología, 11(2), 137-161.
Meta Platforms. (2021). Facebook five pillars of responsible AI. https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/
Microsoft Corporation (2022). Responsible IA. https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6
Ministerio de Ciencia y Tecnología de la República Popular China. (2017). Principios de Gobernanza para una Nueva Generación de IA: Desarrollo Responsable de la Inteligencia Artificial. https://www.newamerica.org/cybersecurity-initiative/digichina/blog/translation-chinese-expert-group-offers-governance-principles-responsible-ai/
Moreno Padilla, R. (2019). La llegada de la inteligencia artificial a la educación. RITI Journal, 7(14), 260-270. https://doi.org/10.36825/RITI.07.14.022
Nguyen A, Ngo H. N, Hong, Y., Dang, B., & Nguyen, B.T. (2023). Ethical principles for artificial intelligence in education. Educ Inf Technol, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w
Nussbaum, M. (2012). Crear capacidades. Propuesta para el desarrollo humano. Paidós.
Ocaña-Fernandez, Y., Valenzuela-Fernandez, L., & Garro-Aburto, L. (2019). Inteligencia artificial y sus implicaciones en la educación superior. Propósitos y Representaciones, 7(2), 536-552. http://dx.doi.org/10.20511/pyr2019.v7n2.274
OECD (2019). Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
Sætra, H.S., & Danaher, J. (2022). To Each Technology Its Own Ethics: The Problem of Ethical Proliferation. Philosophy & Technology, 35, 93. https://doi.org/10.1007/s13347-022-00591-7
Sánchez Vila, E. M., & Lama Penín, M. (2007). Monografía: Técnicas de la Inteligencia Artificial Aplicadas a la Educación. Inteligencia Artificial. Revista Iberoamericana de Inteligencia Artificial, 11(33), 7-12.
Simon, H. A. (1996). The Sciences of the Artificial. The MIT Press. 3ª ed.
Ulpiano, E. D. (1836). Digesto. En Academicun parisiense, Corpus Iuris civilis. https://gallica.bnf.fr/ark:/12148/bpt6k65768518/f13.item.r=digestum
Unesco. (2019). Beijing consensus on artificial intelligence and education. https://unesdoc.unesco.org/ask:/48223/pf0000368303
Unesco. (2022). Recomendación sobre la ética de la inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000379920_spa.page=15.
Unión Europea. (2022). Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y formación para los educadores. Publications Office of the European Union. https://data.europa.eu/doi/10.2766/898
United Nations. (2019). The Sustainable Development Goals Report 2019. https://bit.ly/34nbq60
Alonso-Rodríguez, A. M. (2024). Hacia un marco ético de la inteligencia artificial en la educación. Teoría De La Educación. Revista Interuniversitaria, 36(2), 79–98. https://doi.org/10.14201/teri.31821
Descargas
Los datos de descargas todavía no están disponibles.
+
−