Towards an Ethical Framework of Artificial Intelligence in Education
Abstract This article reflects on the use of Artificial Intelligence in education from an ethical perspective. It does so from the external point of view, considering its impact on educational contexts, as a breeding ground for the ethical and political challenges that society faces. This allows us to measure its scope and depth and propose actions to address them. Its objectives focus on the ethical bases of Artificial Intelligence related to educational activity, seeking to identify: a) the opportunities, associated risks and its ethical impact on education; and b) the ethical principles that should guide the development, deployment and use of these intelligent systems. For this purpose, a qualitative study was carried out, supported by a bibliographic review methodology: (i) academic works on current uses and potential risks of Artificial Intelligence and (ii) a comparative analysis of different ethical codes, exploring the convergence of principles applicable to Artificial Intelligence Systems in educational contexts. The results obtained first place the identified problems in the ethical tradition and question the proliferation of subdomains of the discipline. The possibility of a unified ethical framework that avoids the overlap of principles for each specific domain is then investigated. The usefulness of a widely recognized and influential framework is confirmed, whose principles adapt well to the ethical challenges of education. It concludes by indicating the lines in which research should advance (I) ethical foundation and normative regulation for the development and use of Artificial Intelligence in education in accordance with the selected principles; and (II) definition of the new teaching professional profile and its implications for initial teacher training.
- Referencias
- Cómo citar
- Del mismo autor
- Métricas
Ahmed, N., Wahed, M., & Thompson, N. C. (2023). The growing influence of industry in AI research. Science, 379 (6635), 884-886. https://www.science.org/doi/10.1126/science.ade2420
Aiken, R. M., & Epstein, R. G. (2000). Ethical Guidelines for AI in Education: Starting a Conversation. International Journal of Artificial Intelligence in Education, 11, 163-176.
Alonso, A. M. (2022). Las Ciencias de Diseño como Ciencias Aplicadas y el papel de los valores: Análisis del caso de la Educación. Revista de Investigación Filosófica, 9(1), 3-27. https://doi.org/10.26754/ojs_arif/arif.202216381
Alonso, A. M. (2023). Filosofía de la Ciencia de la Educación: Análisis como Ciencia Aplicada de Diseño. Tirant lo Blanch.
Asamblea General de la ONU. (1948). Declaración Universal de los Derechos Humanos. Paris. http://www.un.org/en/universal-declaration-human-rights/
Bearman, M., Ryan, J., & Ajjawi, R. (2023). Discourses of artificial intelligence in higher education: a critical literature review. Higher Education, 86, 369–385. https://doi.org/10.1007/s10734-022-00937-2
Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics. Oxford University Press.
Boddington, P. (2017). Towards a code of ethics for artificial intelligence. Springer.
Boddington, P. (2023). Introduction, Why AI Ethics? In P. Boddington, AI Ethics. A Textbook (pp. 1-34). Springer.
Chu, J., Xi, L., Zhang, Q., & Lin, R. (2022). Research on Ethical Issues of Artificial Intelligence in Education. In J. Yang, et al. (Eds.), Resilience and Future of Smart Learning (pp. 101-108). Springer. https://doi.org/10.1007/978-981-19-5967-7_12
Coeckelberg, M. (2021). Ética de la Inteligencia Artificial. Cátedra.
Comisión Europea. (2019). Grupo de Expertos de Alto Nivel sobre IA. Directrices Éticas para una IA fiable. https://op.europa.eu/es/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1
Cortina, A. (1997). Ciudadanos del mundo. Hacia una teoría de la ciudadanía. Alianza editorial.
Crawford, K. (2023). Atlas de I. Poder, Política y Costes Planetarios de la Inteligencia Artificial. Ned ediciones.
Declaración de Wingspread sobre el Principio Precautorio (1998). http://www.linea-e.com/cuadernos/pdfs/numero11/elprincipiodeprecaucion.pdf
Executive Office of the President. (2020). Guidance for regulation of Artificial Intelligence applications. https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf
Flores Vivar, J. M. y García-Peñalvo, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de calidad (ODS4). Comunicar, 31(74), 37-47. https://doi.org/10.3916/C74-2023-03
Floridi, L. (2014). The Fourth Revolution - How the Infosphere is Reshaping Human Reality. Oxford University Press.
Floridi, L (2022). Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide. Rafaello Cortina.
Floridi L., & Cowls, J. (2021). A Unified Framework of Five Principles for AI in Society. In L. Floridi (Ed.), Ethics, Governance, and Policies in Artificial Intelligence (5-17). Springer.
Gobierno de España. (2020). Estrategia Nacional de Inteligencia Artificial. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/021220-ENIA.pdf
González, W. J. (2007). Configuración de las Ciencias de Diseño como Ciencias de lo Artificial: Papel de la Inteligencia Artificial y de la racionalidad limitada. En W. J. González (Ed.), Las Ciencias de Diseño: Racionalidad limitada, predicción y prescripción (41-69). Netbiblo.
González, W. J. (2017a). Artificial Intelligence in a New Context: “Internal” and “External” Factors. Minds & Machines, 27(3), 393–396. https://doi.org/10.1007/s11023-017-9444-3
González, W. J. (2017b). From Intelligence to Rationality of Minds and Machines in Contemporary Society: The Sciences of Design and the Role of Information. Minds & Machines, 27(3), 397-424. https://doi.org/10.1007/s11023-017-9439-0
González, W. J. (2020). The Internet at the Service of Society: Business Ethics, Rationality, and Responsibility. Éndoxa, 46, 383-412. https://doi.org/10.5944/endoxa.46.2020.28029
Google LLC. (2022). Artificial Intelligence at Google: Our Principles. https://ai.google/principles/
Holmes, W., & Porayska-Pomsta, K. (2023). The Ethics of Artificial Intelligence in Education. Routledge Taylor.
Holmes, W., Porayska-Pomsta, K., Holstein, K. et al. (2022). Ethics of AI in Education: Towards a Community-Wide Framework. International Journal of Artificial Intelligence in Education, 32, 504–526. https://doi.org/10.1007/s40593-021-00239-1
Humble, N., & Mozellius, P. (2022). The threat, hype, and promise of artificial intelligence in education. Discover Artificial Intelligence, 2(22). https://doi.org/10.1007/s44163-022-00039-z
Jara, I., & Ochoa, J. M. (2020). Usos y efectos de la inteligencia artificial en educación. Banco Interamericano de Desarrollo. http://dx.doi.org/10.18235/0002380
Linares Salgado, J. E. (2022). Principios éticos para el desarrollo de la Inteligencia Artificial y su aplicación en los sistemas de salud. ArtefaCToS. Revista de Estudios de la Ciencia y la Tecnología, 11(2), 137-161.
Meta Platforms. (2021). Facebook five pillars of responsible AI. https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/
Microsoft Corporation (2022). Responsible IA. https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6
Ministerio de Ciencia y Tecnología de la República Popular China. (2017). Principios de Gobernanza para una Nueva Generación de IA: Desarrollo Responsable de la Inteligencia Artificial. https://www.newamerica.org/cybersecurity-initiative/digichina/blog/translation-chinese-expert-group-offers-governance-principles-responsible-ai/
Moreno Padilla, R. (2019). La llegada de la inteligencia artificial a la educación. RITI Journal, 7(14), 260-270. https://doi.org/10.36825/RITI.07.14.022
Nguyen A, Ngo H. N, Hong, Y., Dang, B., & Nguyen, B.T. (2023). Ethical principles for artificial intelligence in education. Educ Inf Technol, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w
Nussbaum, M. (2012). Crear capacidades. Propuesta para el desarrollo humano. Paidós.
Ocaña-Fernandez, Y., Valenzuela-Fernandez, L., & Garro-Aburto, L. (2019). Inteligencia artificial y sus implicaciones en la educación superior. Propósitos y Representaciones, 7(2), 536-552. http://dx.doi.org/10.20511/pyr2019.v7n2.274
OECD (2019). Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
Sætra, H.S., & Danaher, J. (2022). To Each Technology Its Own Ethics: The Problem of Ethical Proliferation. Philosophy & Technology, 35, 93. https://doi.org/10.1007/s13347-022-00591-7
Sánchez Vila, E. M., & Lama Penín, M. (2007). Monografía: Técnicas de la Inteligencia Artificial Aplicadas a la Educación. Inteligencia Artificial. Revista Iberoamericana de Inteligencia Artificial, 11(33), 7-12.
Simon, H. A. (1996). The Sciences of the Artificial. The MIT Press. 3ª ed.
Ulpiano, E. D. (1836). Digesto. En Academicun parisiense, Corpus Iuris civilis. https://gallica.bnf.fr/ark:/12148/bpt6k65768518/f13.item.r=digestum
Unesco. (2019). Beijing consensus on artificial intelligence and education. https://unesdoc.unesco.org/ask:/48223/pf0000368303
Unesco. (2022). Recomendación sobre la ética de la inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000379920_spa.page=15.
Unión Europea. (2022). Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y formación para los educadores. Publications Office of the European Union. https://data.europa.eu/doi/10.2766/898
United Nations. (2019). The Sustainable Development Goals Report 2019. https://bit.ly/34nbq60
Aiken, R. M., & Epstein, R. G. (2000). Ethical Guidelines for AI in Education: Starting a Conversation. International Journal of Artificial Intelligence in Education, 11, 163-176.
Alonso, A. M. (2022). Las Ciencias de Diseño como Ciencias Aplicadas y el papel de los valores: Análisis del caso de la Educación. Revista de Investigación Filosófica, 9(1), 3-27. https://doi.org/10.26754/ojs_arif/arif.202216381
Alonso, A. M. (2023). Filosofía de la Ciencia de la Educación: Análisis como Ciencia Aplicada de Diseño. Tirant lo Blanch.
Asamblea General de la ONU. (1948). Declaración Universal de los Derechos Humanos. Paris. http://www.un.org/en/universal-declaration-human-rights/
Bearman, M., Ryan, J., & Ajjawi, R. (2023). Discourses of artificial intelligence in higher education: a critical literature review. Higher Education, 86, 369–385. https://doi.org/10.1007/s10734-022-00937-2
Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics. Oxford University Press.
Boddington, P. (2017). Towards a code of ethics for artificial intelligence. Springer.
Boddington, P. (2023). Introduction, Why AI Ethics? In P. Boddington, AI Ethics. A Textbook (pp. 1-34). Springer.
Chu, J., Xi, L., Zhang, Q., & Lin, R. (2022). Research on Ethical Issues of Artificial Intelligence in Education. In J. Yang, et al. (Eds.), Resilience and Future of Smart Learning (pp. 101-108). Springer. https://doi.org/10.1007/978-981-19-5967-7_12
Coeckelberg, M. (2021). Ética de la Inteligencia Artificial. Cátedra.
Comisión Europea. (2019). Grupo de Expertos de Alto Nivel sobre IA. Directrices Éticas para una IA fiable. https://op.europa.eu/es/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1
Cortina, A. (1997). Ciudadanos del mundo. Hacia una teoría de la ciudadanía. Alianza editorial.
Crawford, K. (2023). Atlas de I. Poder, Política y Costes Planetarios de la Inteligencia Artificial. Ned ediciones.
Declaración de Wingspread sobre el Principio Precautorio (1998). http://www.linea-e.com/cuadernos/pdfs/numero11/elprincipiodeprecaucion.pdf
Executive Office of the President. (2020). Guidance for regulation of Artificial Intelligence applications. https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf
Flores Vivar, J. M. y García-Peñalvo, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de calidad (ODS4). Comunicar, 31(74), 37-47. https://doi.org/10.3916/C74-2023-03
Floridi, L. (2014). The Fourth Revolution - How the Infosphere is Reshaping Human Reality. Oxford University Press.
Floridi, L (2022). Etica dell’intelligenza artificiale. Sviluppi, opportunità, sfide. Rafaello Cortina.
Floridi L., & Cowls, J. (2021). A Unified Framework of Five Principles for AI in Society. In L. Floridi (Ed.), Ethics, Governance, and Policies in Artificial Intelligence (5-17). Springer.
Gobierno de España. (2020). Estrategia Nacional de Inteligencia Artificial. https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/021220-ENIA.pdf
González, W. J. (2007). Configuración de las Ciencias de Diseño como Ciencias de lo Artificial: Papel de la Inteligencia Artificial y de la racionalidad limitada. En W. J. González (Ed.), Las Ciencias de Diseño: Racionalidad limitada, predicción y prescripción (41-69). Netbiblo.
González, W. J. (2017a). Artificial Intelligence in a New Context: “Internal” and “External” Factors. Minds & Machines, 27(3), 393–396. https://doi.org/10.1007/s11023-017-9444-3
González, W. J. (2017b). From Intelligence to Rationality of Minds and Machines in Contemporary Society: The Sciences of Design and the Role of Information. Minds & Machines, 27(3), 397-424. https://doi.org/10.1007/s11023-017-9439-0
González, W. J. (2020). The Internet at the Service of Society: Business Ethics, Rationality, and Responsibility. Éndoxa, 46, 383-412. https://doi.org/10.5944/endoxa.46.2020.28029
Google LLC. (2022). Artificial Intelligence at Google: Our Principles. https://ai.google/principles/
Holmes, W., & Porayska-Pomsta, K. (2023). The Ethics of Artificial Intelligence in Education. Routledge Taylor.
Holmes, W., Porayska-Pomsta, K., Holstein, K. et al. (2022). Ethics of AI in Education: Towards a Community-Wide Framework. International Journal of Artificial Intelligence in Education, 32, 504–526. https://doi.org/10.1007/s40593-021-00239-1
Humble, N., & Mozellius, P. (2022). The threat, hype, and promise of artificial intelligence in education. Discover Artificial Intelligence, 2(22). https://doi.org/10.1007/s44163-022-00039-z
Jara, I., & Ochoa, J. M. (2020). Usos y efectos de la inteligencia artificial en educación. Banco Interamericano de Desarrollo. http://dx.doi.org/10.18235/0002380
Linares Salgado, J. E. (2022). Principios éticos para el desarrollo de la Inteligencia Artificial y su aplicación en los sistemas de salud. ArtefaCToS. Revista de Estudios de la Ciencia y la Tecnología, 11(2), 137-161.
Meta Platforms. (2021). Facebook five pillars of responsible AI. https://ai.facebook.com/blog/facebooks-five-pillars-of-responsible-ai/
Microsoft Corporation (2022). Responsible IA. https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6
Ministerio de Ciencia y Tecnología de la República Popular China. (2017). Principios de Gobernanza para una Nueva Generación de IA: Desarrollo Responsable de la Inteligencia Artificial. https://www.newamerica.org/cybersecurity-initiative/digichina/blog/translation-chinese-expert-group-offers-governance-principles-responsible-ai/
Moreno Padilla, R. (2019). La llegada de la inteligencia artificial a la educación. RITI Journal, 7(14), 260-270. https://doi.org/10.36825/RITI.07.14.022
Nguyen A, Ngo H. N, Hong, Y., Dang, B., & Nguyen, B.T. (2023). Ethical principles for artificial intelligence in education. Educ Inf Technol, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w
Nussbaum, M. (2012). Crear capacidades. Propuesta para el desarrollo humano. Paidós.
Ocaña-Fernandez, Y., Valenzuela-Fernandez, L., & Garro-Aburto, L. (2019). Inteligencia artificial y sus implicaciones en la educación superior. Propósitos y Representaciones, 7(2), 536-552. http://dx.doi.org/10.20511/pyr2019.v7n2.274
OECD (2019). Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
Sætra, H.S., & Danaher, J. (2022). To Each Technology Its Own Ethics: The Problem of Ethical Proliferation. Philosophy & Technology, 35, 93. https://doi.org/10.1007/s13347-022-00591-7
Sánchez Vila, E. M., & Lama Penín, M. (2007). Monografía: Técnicas de la Inteligencia Artificial Aplicadas a la Educación. Inteligencia Artificial. Revista Iberoamericana de Inteligencia Artificial, 11(33), 7-12.
Simon, H. A. (1996). The Sciences of the Artificial. The MIT Press. 3ª ed.
Ulpiano, E. D. (1836). Digesto. En Academicun parisiense, Corpus Iuris civilis. https://gallica.bnf.fr/ark:/12148/bpt6k65768518/f13.item.r=digestum
Unesco. (2019). Beijing consensus on artificial intelligence and education. https://unesdoc.unesco.org/ask:/48223/pf0000368303
Unesco. (2022). Recomendación sobre la ética de la inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000379920_spa.page=15.
Unión Europea. (2022). Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y formación para los educadores. Publications Office of the European Union. https://data.europa.eu/doi/10.2766/898
United Nations. (2019). The Sustainable Development Goals Report 2019. https://bit.ly/34nbq60
Alonso-Rodríguez, A. M. (2024). Towards an Ethical Framework of Artificial Intelligence in Education. Teoría De La Educación. Revista Interuniversitaria, 36(2), 79–98. https://doi.org/10.14201/teri.31821
Downloads
Download data is not yet available.
+
−