Introducción, planteamiento y metodología

La evolución tecnológica de los últimos años impacta, positiva y/o negativamente, en las sociedades del mundo por lo que las personas ven afectados sus modus vivendi en el trabajo, en la salud, en la economía y, obviamente, en la educación y formación (Alonso-de-Castro & García-Peñalvo, 2022). El Objetivo de Desarrollo Sostenible 4 (ODS4) de la Agenda 2030 (United Nations, 2019), promovido por la UNESCO, es también objetivo común de Estados y Gobiernos. El ODS4 busca «garantizar una educación inclusiva, equitativa y de calidad y promover las oportunidades de aprendizaje durante toda la vida para todos» (UNESCO, 2019). Y las tecnologías juegan un papel fundamental en lograr este objetivo. Así, desde hace dos décadas, las tecnologías emergentes han generado una disrupción en los procesos de enseñanza-aprendizaje en los distintos niveles de la educación. En este contexto, la Inteligencia Artificial (IA), como una herramienta potencial (Vitanza et al., 2019) tecnológica, sin ser nueva, se expande en todos los ámbitos profesionales y del conocimiento, afectando, impactando y causando una verdadera revolución en el campo de la educación. Esta rama de las ciencias computacionales se encarga de estudiar y valorar las posibilidades de que una máquina desarrolle tareas propias de las personas (Túñez-López & Tejedor-Calvo, 2019). Según el documento de la UNESCO (2021a) «Recomendación sobre la Inteligencia Artificial», los sistemas de IA son tecnologías de procesamiento de la información que integran modelos y algoritmos que producen una capacidad para aprender y realizar tareas cognitivas, dando lugar a resultados como la predicción y la adopción de decisiones en entornos materiales y virtuales.

Así, el ODS 4 destaca que las tecnologías de IA se utilizan para garantizar un acceso equitativo e inclusivo a la educación (UNESCO, 2019). Esto implica tener que modificar el papel de los docentes en la transmisión de conocimientos que proporcionan a las jóvenes generaciones. Otros autores (Osetskyi et al., 2019) sostienen que el futuro de la educación superior está indisolublemente ligado al desarrollo y correspondiente aumento de la capacidad de nuevas máquinas inteligentes capaces de operar grandes cantidades de información, autoaprendizaje y mejora por lo que la Inteligencia Artificial se ha convertido en un nuevo foco de la competencia internacional de los países en el mercado educativo. Por tanto, asistimos a ver cómo la presencia de la IA, bien a través de la robótica o bien a través de algoritmos, en el ámbito educativo está en constante crecimiento. De hecho, su inmersión en este campo ha ocurrido de forma «silenciosa» de la mano de otras tecnologías ya consolidadas en el ámbito educativo como son los campus virtuales y las redes sociales académicas (Flores-Vivar & Zaharía, 2019). En esta línea, se vienen realizando una serie de investigaciones, estudios y análisis por parte de especialistas, quienes, a través de publicaciones, seminarios y congresos dibujan un panorama prometedor, pero, también, de fuertes implicaciones éticas y deontológicas en el uso de la IA en el ámbito de la educación. Una muestra de ello es la que se dio el pasado diciembre de 2020, con la realización del «International Forum on AI and the Futures of Education Developing Competencies for the AI Era» (UNESCO, 2021b). Sobre la base del Consenso de Beijing, el Foro compartió políticas y prácticas con respecto al papel de la IA en la educación, con un enfoque específico en definir las competencias requeridas en la era de la IA y estrategias para preparar a todas las personas para vivir y trabajar con IA de manera efectiva. También la Comisión Europea (2020) propone un «marco estratégico de la UE basado en los valores de la Unión que ofrecerá a los ciudadanos la confianza necesaria para que acepten las soluciones basadas en la IA». Por su parte, el Parlamento Europeo viene legislando sobre la implantación y la utilización de tecnologías de IA en el sector educativo, advirtiendo que son tecnologías de alto riesgo, por lo que deben estar sujetas a requisitos más estrictos sobre seguridad, transparencia, equidad y responsabilidad. Siendo un área de estudio muy específico de las ingenierías e informática, vemos que la IA se viene aplicando cada vez más en el campo de la educación, sirviendo de apoyo en la gestión, el aprendizaje y la evaluación de los estudiantes.

Un ejemplo de ello son los últimos desarrollos de Google Classroom (Kiecza, 2022) que usa la IA para ayudar a alumnos y profesores. Otros ejemplos incluyen el uso de la IA para automatizar tareas administrativas de rutina, diagnosticar las competencias de los estudiantes y ofrecer contenido de aprendizaje y comentarios adaptados al progreso individual. Pero, la implementación y desarrollo de tecnologías de IA aplicadas a la educación debe ser vista como un asunto complejo y altamente controvertido (Selwyn, 2019), sobre todo, en lo que compete a los valores éticos y deontológicos que deben estar impregnadas desde la fase de su diseño y posterior desarrollo. De ahí que, la importancia de la Inteligencia Artificial en el campo de la enseñanza-aprendizaje crezca cada vez más, esté cada vez más omnipresente y haya trascendido las fronteras nacionales, por lo que «todos los países deben trabajar juntos para garantizar que la IA permanezca bajo el control humano y esté diseñada y aplicada para el bien común» (UNESCO, 2021b: 5). En particular, es esencial que los seres humanos estén protegidos para que no se conviertan en víctimas de las herramientas de IA, por lo que debemos comprender que la IA debe utilizarse para aumentar y amplificar las capacidades humanas, no para reemplazarlas. Y esta comprensión comienza en la educación.

Según el informe «Artificial Intelligence in Education: Challenges and Opportunities for Sustainable Development» (UNESCO, 2019), «La inteligencia artificial puede ser una gran oportunidad para acelerar el logro de los objetivos de desarrollo sostenible. Pero, cualquier revolución tecnológica conduce a nuevos desequilibrios que debemos anticipar». Esos desequilibrios se producen por el impacto generado. De ahí que los rápidos avances tecnológicos en Inteligencia Artificial, así como otras tecnologías avanzadas como la robótica, la computación en la nube e Internet de las cosas, están transformando disciplinas, economías e industrias, y desafiando las ideas sobre lo que significa ser humano.

La IA tiene un enorme potencial para el bien social y para promover el logro de los ODS, si se desarrolla de una manera que beneficie a la humanidad, respete las normas y estándares mundiales y esté anclada en la paz y el desarrollo. En función a ello, este trabajo tiene por objetivo explorar los contextos, los usos y las condiciones que favorecen –o no– la aplicación de la IA junto a las disyuntivas éticas y reguladoras que pueden ser críticas en el ámbito de la educación. El trasfondo es que el dilema ético relacionado con la comprensión y la interpretación del comportamiento de los agentes de IA es uno de los desafíos fundamentales de la próxima década en esta materia (Flogie & Aberšek, 2021).

El planteamiento de este ensayo busca, por un lado, analizar y explicar un problema existente, abordado desde hace algunos años según la literatura científica revisada, sobre el auge de la IA en el ámbito educativo, las incógnitas sobre sus usos y los aspectos éticos en su desarrollo, factores que repercutirán en los usuarios de estas tecnologías (docentes y estudiantes); y, por otro, proponer nuevas conjeturas, retos y paradigmas que al alimón de la implantación y consolidación de la IA en la educación, deberán tenerse en cuenta para las futuras –y también presentes– generaciones de estos colectivos.

Por tanto, la metodología utilizada en este trabajo se basa en una revisión documental de fuentes primarias y secundarias sobre el desarrollo de la Inteligencia Artificial y de su capacidad de acción que se está dando en el ámbito educativo, coherente con los Objetivos de Desarrollo Sostenible 4 para una educación de calidad e inclusiva, anteponiendo que la literatura sobre el tema sigue siendo escasa, «centrándose más en la parte informática y menos en los impactos de la IA en la sociedad» (Canavilhas, 2022). En los criterios para la selección de las fuentes provenientes de instituciones y organismos internacionales, como la UNESCO, Naciones Unidas, OECD, Comisión Europea o Parlamento Europeo, se han tenido en cuenta que son organizaciones que buscan afianzar el desarrollo de la educación de calidad e inclusiva en todo el mundo y que, desde hace años, vienen abordando el uso de la Inteligencia Artificial en este ámbito. En cuanto a los trabajos científicos analizados, los criterios se han basado en la temática específica, en el nivel de las publicaciones y en los cargos de expertos que representan muchos de los autores, considerando que por cuestiones de espacio no se ha podido incluir a todos. A partir de estos análisis se busca extrapolar y abordar las cuestiones éticas y filosóficas que se vienen planteando por parte de expertos y de organizaciones de todo el mundo, buscando la reflexión, el debate y la prospectiva sobre las profundas implicaciones éticas y deontológicas que la Inteligencia Artificial, de modo general, tendrá en el ámbito educativo mundial y, que, según la UNESCO (2021b), es necesario regular. Como resultados y conclusiones, se proponen paradigmas y retos desde distintas perspectivas que los usos y la ética de la IA en la educación deberían contemplar.

Conectando la IA con el ecosistema educativo. ¿Oportunidades, retos o riesgos?

Desde que la UNESCO adoptó la Agenda 2030 para el Desarrollo Sostenible, entre cuyos objetivos fundamentales está el de garantizar el acceso equitativo a una educación de calidad en todo el mundo (ODS4), el desarrollo y evolución tecnológica ha modificado el papel de los docentes en la transmisión de conocimientos. La evolución tecnológica configura un ecosistema tecnológico, «metáfora para expresar una necesaria evolución de los sistemas de información tradicionales, con soluciones basadas en la composición de diferentes componentes de software y servicios que comparten un conjunto de flujos de datos definidos semánticamente» (García-Holgado & García-Peñalvo, 2019). Parte de esta evolución viene dada por el impacto que los algoritmos y la robotización están causando en el campo de la educación por lo que muchos (Spirina, 2018) «temen que los robots impulsados por inteligencia artificial pronto reemplazarán por completo a los profesores humanos». Un riesgo en ciernes, pero, también una oportunidad. De hecho, es más que probable que la industria del e-learning (Crisol-Moya et al., 2020) tenga el foco puesto en «enjambres de robots como una herramienta educativa novedosa para enfocarse exactamente en aquellas habilidades transversales que son difíciles de explicar de otra manera» (Global Market Insights, 2022). Lo que no cabe duda es que el rol del profesor atraviesa una edad de oro con la IA (Craig, 2018; Selwyn, 2019; Benjamins & Salazar, 2020; Oliver, 2020; UNESCO, 2021b; OECD, 2021; Ramírez-Montoya et al., 2022).

En otros campos, esta ha reducido la demanda de trabajadores que realizan tareas mundanas, ha mejorado los estándares de salida y ha permitido a la humanidad resolver complicadas tareas de salud, logística y seguridad que requieren de una toma de decisiones informada. En este sentido, con la IA, la tendencia es que crearán más puestos de trabajo de los que eliminarán (Fundación Telefónica, 2015). No obstante, muchas profesiones, como la enseñanza, formación y educación requieren, indudablemente, de la mente humana, no de la IA. Aunque, esto no quita para que la capacidad cognitiva de los docentes, el flujo continuo en la transmisión de conocimientos entre sus estudiantes y las tareas de gestión y creación de contenidos puedan verse apoyados por unos asistentes algorítmicos y herramientas de inteligencia artificial.

La carga de trabajo que tiene un docente, a menudo, excede lo razonable ya que se espera que un profesor supervise el rendimiento académico de los estudiantes, califique las tareas, prepare las lecciones y una larga lista de actividades académicas, a los que se suma la actividad investigadora que requiere de más tiempo dedicado. Por ello, el avance de las tecnologías emergentes quizás está en camino de transformar la enseñanza y el aprendizaje, lo que conllevará generar una disrupción en la educación tal como la conocemos hoy. Con este horizonte, los expertos coinciden en señalar que la Inteligencia Artificial en la enseñanza tiene la misión de ayudar en la planificación, personalización, visualización y facilitación del proceso de aprendizaje.

En este contexto, recientes investigaciones apuntan que la IA será la gran novedad en la educación y el proceso de enseñanza-aprendizaje, así como el motor de lo que ya se viene a denominar Educación 4.0 (Fidalgo-Blanco et al., 2022; Ramírez-Montoya et al., 2022). Hay quienes sostienen que el papel de la IA se dará desde la educación inicial (infantes) hasta la educación superior incluyendo la formación empresarial. Mejorará la experiencia de los estudiantes al ofrecerles la oportunidad de crear funciones y modelos de aprendizajes adaptativos con herramientas personalizadas (Flogie & Aberšek, 2021). Hay que tener en cuenta que tanto los docentes como los estudiantes están cada vez más inmersos en el uso de tecnologías y plataformas que optimizan, por un lado, la transmisión de conocimientos y, por otro, la adquisición de nuevos aprendizajes. En resumen, la Inteligencia Artificial tendrá distintos roles en el campo de la educación (Affde, 2021; UNESCO, 2021b). En la siguiente Tabla 1, se describen algunas de los roles y retos en que la IA está cambiando el campo de la educación a nivel global.

Aspectos y principios éticos de la IA para el bien común

La digitalización abre nuevas posibilidades para la educación (OECD, 2021). En esta línea, la evolución de la tecnología y el desarrollo de la Inteligencia Artificial (IA) presentan no solo oportunidades, sino, también, riesgos y, sobre todo, muchas incógnitas y preocupaciones (Selwyn et al., 2022). Uno de los riesgos tiene que ver con el acceso a la información la cual está siendo fuertemente manipulada por «los imperios de la modificación de la conducta» (Lanier, 2018: 22) en referencia a empresas como Facebook, Google y Twitter; o cómo un ejército de matemáticos está siendo contratado para procesar información «con datos extraídos de las redes sociales y páginas de comercio electrónico con el fin de analizar la conducta de las personas» (O´Neil, 2017: 10). Y lo que más prolifera en la educación son los datos e información. Con este panorama lleno de incógnitas, los retos sobre la ética de la IA se configuran como el epicentro del debate, por lo que, a un nivel más general, existe la «necesidad de diferenciar entre hacer cosas éticas y hacer cosas éticamente, comprender y tomar decisiones pedagógicas que sean éticas, y tener en cuenta la posibilidad siempre presente de consecuencias no deseadas» (Holmes et al., 2022), matices que son necesario subrayar en la implementación de la IA en el campo educativo. En este contexto, las preguntas que subyacen son ¿cuál es el papel de la IA en la educación?, ¿qué hay de cierto en el hipotético reemplazo de los profesores por IA?, ¿podrá la Inteligencia Artificial cultivar el pensamiento crítico en la mente de los estudiantes?, ¿cómo cambian o pueden cambiar los rápidos avances en inteligencia artificial, análisis de aprendizaje, robótica, etc., la forma en que los docentes enseñan y los estudiantes aprenden? (OECD, 2021). Más aún (Selwyn, 2019), ¿deberíamos poner los juicios de los humanos por encima de los de las maquinas?, ¿deberían los sistemas y aplicaciones que demuestran ser efectivos en términos de aprendizaje –o de ahorro– ser obligatorios?, ¿qué significado tiene para la educación el aumento continuado de la IA?, ¿cuáles pueden ser las consecuencias de la IA en la próxima década?, ¿qué problemas surgen que requieran repensar la IA y cómo implementarla eficazmente en los contextos educativos?, ¿se han abordado las cuestiones éticas que conlleva ceder el terreno de la educación a unos desarrollos algorítmicos?

Los últimos estudios publicados, no solo en medios científicos, sino, también, de difusión general, buscan que las personas comprendan el alcance de la Inteligencia Artificial, sobre todo, porque como afirmara Stephen Hawking: «La IA puede ser lo mejor o lo peor que ha sucedido en la Historia de la Humanidad» (Infobae, 2017). Así pues, el entorno educativo se ve afectado por todos estos cambios que genera la IA que van desde las etapas preescolares hasta los niveles superiores o de posgrado (Moreno & Pedreño, 2020). Esto implica, tal como sostienen los expertos, «que la complejidad y cambio continúo de los nuevos ambientes obliga a replantear la educación desde una visión de aprendizaje a lo largo de la vida» (Latorre et al., 2021: 13). Pero, este replanteamiento con la automatización digital de la enseñanza no consiste simplemente en el aspecto técnico del diseño, programación e implementación de los sistemas con mayor eficacia (Selwyn, 2019).

En este sentido, diversos especialistas, verdaderas autoridades en este campo tecnológico, se preguntan si la Inteligencia Artificial Futura (IAF) ¿tendría inteligencia real, entendimiento real, creatividad real? Así también, ¿tendría identidad, integridad moral, libre albedrío? Para Boden (2022), «estas no son preguntas científicas, sino filosóficas […] hay quien diría que no tiene importancia: lo importante es lo que harán realmente las IAF. No obstante, las respuestas podrían afectar a cómo nos relacionamos con ellas». Por su parte, Gabriela Ramos, subdirectora General de Ciencias Sociales y Humanas de la UNESCO, con la reciente «Recomendación sobre la Ética de la Inteligencia Artificial» (Urbán, 2021) sostiene que: «lo que sucede es que siempre tratamos de perseguir, pero se debe contemplar todo el ciclo de la inteligencia artificial desde la investigación, el desarrollo, la implementación, la evaluación del impacto, la retroalimentación, el desarrollo de los algoritmos, el marco conceptual de los algoritmos… Todos estos pasos requieren la reflexión ética y requieren de establecer controles».

En una línea similar, Benjamins y Salazar (2020) sostienen que, «puesto que no es posible enseñar ética a una máquina, será a las empresas y sus desarrolladores a quienes hay que exigir que el desarrollo y el uso de la IA sean realizados de una manera ética, en concordancia con los derechos humanos internacionales», aplicable a todos los campos del conocimiento, incluido el de la educación. La Comisión Europea (UE), por su parte, propone diversas líneas maestras que se deben tener en cuenta en el desarrollo de una ética fiable y segura en la Unión Europea (Ibídem, 2021).

Estas son cuestiones que afectan y preocupan cada vez más a los colectivos del ámbito académico: los docentes y estudiantes. Pero también a las organizaciones, entidades públicas y privadas, a los gobiernos y, en suma, a la sociedad en general. Aunque, como señala Nuria Oliver (2020) el «primer paso para afrontar nuestros miedos es aprender; aprender en este caso con la tecnología con la que convivimos, con la aspiración de entender mejor el mundo, y, por tanto, poder tomar decisiones informadas al respecto».

En este horizonte de aprendizaje de la tecnología y del potencial, sobretodo, de la Inteligencia Artificial (Craig, 2018; Mondada et al., 2017; Nye, 2015) se deben tener en cuenta otras tecnologías clave que también se aplican al campo de la IA. Por ejemplo, el análisis del aprendizaje que, aunque todavía es un campo joven, es un recurso poderoso para tomar decisiones informadas y obtener mejores resultados de aprendizaje. Uno de los estudios del «Working Papers on Education Policy» (UNESCO, 2019), sostiene que la analítica del aprendizaje aplica diferentes áreas del conocimiento como la sociología, la psicología, la ética, la pedagogía, etc. y ahora puede acceder a la revolución digital para recopilar una gran cantidad de datos que se pueden analizar para extraer conocimientos o incluso desarrollar herramientas inteligentes útiles para tareas educativas o administrativas.

Otro ejemplo es el big data. Para Bonami et al. (2020) «la IA se ha convertido en un desarrollo natural de un sistema inteligente que necesita lidiar con big data, razón por la cual los términos están estructuralmente conectados». Y también la robótica con el diseño y creación de modelos de profesor robot. De hecho, las recientes generaciones de robots en las aulas (Selwyn, 2019) consisten en sistemas informáticos diseñados para aprender por su cuenta, desarrollar procesos lógicos y formular modelos mentales que les permitan tomar decisiones complejas. De ahí que «cada vez es más común que algoritmos y programas realicen nuestras funciones, hasta el punto de que las personas se han vuelto, en cierta forma, prescindibles en algunos trabajos» (Cukier et al., 2021) por lo que el ámbito educativo no escapa a estos impactos. De hecho, Selwyn (2019) sostiene que «el estatus profesional que han tenido durante mucho tiempo los docentes en centros educativos y universidades se ve, sin duda, amenazado».

A esto hay que sumar lo argumentado por Cukier et al. (2021), que afirman que los algoritmos de inteligencia artificial son incapaces de imponer restricciones y limitaciones por sí mismos tal como lo hacen las personas: «La gran capacidad computacional que tenemos hoy en día, las máquinas son capaces de evaluar un mayor espacio de decisión de manera mucho más eficiente y rápida que una persona con el mismo tiempo» (Ibídem, 2021). Por ello, la implementación de tecnologías de IA en la educación debe ser vista como un asunto complejo y altamente controvertido (Selwyn, 2019) en donde la moral y los principios éticos deben estar sólidamente respaldados mediante una regulación con enfoque global.

Si la aplicación de la IA, de modo general, genera interrogantes, varios investigadores (Osetskyi et al., 2019; Holmes et al., 2022; Selwyn et al., 2022) señalan que la IA y sus usos éticos en el ámbito de la educación generan incertidumbre y expectación entre los diversos actores del mundo académico, quizás, de la misma forma como pasa con cualquier tecnología disruptiva aplicada a otro campo de conocimiento. De ahí que las conclusiones del Foro de la UNESCO (2021b) destacan que una vez que se han identificado las competencias clave humanas y técnicas de la IA, los sistemas escolares deben asegurarse de que todos los estudiantes estén lo mejor preparados para un mundo en el que la IA es omnipresente. Los expertos señalan que los múltiples y complejos desafíos asociados con la IA deben considerarse adecuadamente. Por ejemplo, se sabe que la IA a veces está sesgada; sin embargo, la causa no siempre es obvia. Las decisiones de la IA pueden estar sesgadas porque los datos humanos en los que se basa están sesgados y/o porque los algoritmos aplicados y desarrollados por humanos están sesgados. En otras palabras, la IA refleja y ejemplifica la toma de decisiones humana, lo que refuerza la necesidad de que los humanos den un paso al frente y asuman la responsabilidad y el control. En este sentido, cada vez más investigadores (Selwyn, 2019; Cukier et al., 2021) coinciden en señalar la idea de que los sistemas inteligentes tomen decisiones y que luego actúen en base a estas, por lo que, obviamente, tiene implicaciones éticas. Por esto, la pregunta que se desprende es: ¿Qué principios morales y éticos deben gobernar lo que hacemos con la IA en la educación y qué tareas se les ha de programar para que las hagan por «propia iniciativa»? La respuesta, de momento, viene dada por sí sola: el código ético debe ser asumido por el creador/programador del sistema de IA.

Potencialidad y alfabetización de la IA en la educación de calidad

El paso previo para asumir los principios de la ética en la IA requiere no solo de la concienciación de valores, sino de más conocimiento sobre el potencial de esta tecnología. Por ello, en coherencia con el Foro de la UNESCO, realizado en diciembre de 2020, y el ODS4 de la Agenda 2030, el conocimiento de la IA implica diseñar y desarrollar un plan de alfabetización algorítmica, el cual debe incluirse en los planes formativos de cualquier campo del conocimiento. Estos planes de estudios interdisciplinares y específicos de las asignaturas que incluyan el aprendizaje de la IA (desde su explicación tecnológica hasta las cuestiones éticas y filosóficas de su impacto) deberían tener como referencia lo realizado por países pioneros. Y deben ser flexibles, abiertos, inclusivos y en continua evolución. De ahí, múltiples partes interesadas podrían participar en el diseño de los materiales de aprendizaje tales como libros de texto interactivos basados en inteligencia artificial. Según el «International Forum on AI and the Futures of Education Developing Competencies for the AI Era» (UNESCO, 2021b), destaca que las «competencias orientadas a la tecnología, se centran en técnicas, tecnologías y aplicaciones de IA, e incluyen el conocimiento y las habilidades avanzadas de IA necesarias para crear, manipular, implementar e interpretar la IA». En ese sentido, los estudios analizados coinciden en señalar que la alfabetización en IA debe adoptar un enfoque tanto específico como interdisciplinar: «Es necesario establecer currículos y cursos específicos que cubran los aspectos humanos y tecnológicos de la IA, basándose en los currículos y cursos de TIC existentes. Además, el potencial y el impacto de la IA deben tenerse en cuenta en todas las materias escolares, ya sean ciencias, humanidades o artes» (Ibídem, 2021).

Pero, lo más importante radica en formar al formador, es decir, planes de formación del profesorado por lo que los docentes y educadores puedan recibir la capacitación adecuada. En esta línea, tanto investigadores y expertos, así como instituciones y organismos (UNESCO, 2022; IRCAI, 2022) proponen una ética de inteligencia artificial, en la que deben abordarse diversas cuestiones y principios fundamentales, basados en responsabilidad, privacidad, equidad y explicabilidad (Villas & Camacho, 2022) los mismos que deben incluirse en un plan de alfabetización digital (Salazar & Benjamins, 2021). Todos coinciden en que hay que dotar, no solo de capacidades, sino, también, de competencias digitales al profesorado puesto que la sociedad actual y hasta la propia existencia del hombre que en ella se inserta es cada vez más dependiente al acceso a Tecnologías de Comunicación e Información (Aguaded & Romero-Rodríguez, 2015) y el campo de la educación no es ajena a esta dependencia. Las competencias de la IA también podrían desarrollarse en actividades extracurriculares como seminarios, workshops, clubes de debates en codificación o la realización de hackáthones, así como en programas de formación permanente relacionada con el trabajo académico, científico y profesional (Spirina, 2018). Dicha integración equiparía a los estudiantes para comprender cada vez más cómo interactuar con los sistemas de IA, cómo tomar decisiones informadas y cómo prepararse para el impacto social del uso generalizado de la IA en el empleo, en la salud, en la democracia y, en suma, en su vida diaria. En esta línea, se destaca la propuesta de Long y Magerko (UNESCO, 2022) sobre «AI Literacy: Competencies and Design Considerations», quienes proponen una serie de competencias y consideraciones de diseño para la alfabetización en IA basadas en un estudio de alcance de la investigación existente, que buscaba determinar temas emergentes en: 1) lo que los expertos en IA creen que una audiencia no técnica debe saber, y 2) percepciones comunes y conceptos erróneos entre los estudiantes.

En este contexto, las herramientas educativas actuales impulsadas por la IA, aunque eficaces en algunos contextos, siguen siendo limitadas. La mayoría están limitados por la variedad de materias y asignaturas que cubren, generalmente, a matemáticas y algunas ciencias; por el enfoque pedagógico que adoptan, a menudo en desacuerdo con enfoques inspirados en la ortodoxia de las ciencias del aprendizaje; y por su priorización de las interacciones basadas en máquinas («human-computer») sobre las interacciones persona a persona («human-human»). Tanto el potencial como las limitaciones aún no se han identificado o abordado por completo. No obstante, está claro y ampliamente aceptado que la IA no debe (aunque quizás, pueda) reemplazar a las escuelas ni a los docentes (Selwyn, 2019). En cambio, las interacciones sociales, entre estudiantes y profesores, y entre los mismos estudiantes, deben permanecer como epicentro del aprendizaje. A esto se suma que algunas herramientas de Inteligencia Artificial existentes pueden reducir la capacidad de los estudiantes por lo que es importante apoyar a este colectivo para que sean participantes activos en sus procesos de aprendizaje y asuman más responsabilidades a través de su propio aprendizaje.

Resultados y conclusiones

De acuerdo con nuestro planteamiento inicial, de las conclusiones extraídas se deduce que los alcances del Objetivo de Desarrollo Sostenible 4 para una Educación de Calidad e inclusiva de la Agenda 2030, entre otras metas, conlleva el acceso y uso continuo de las tecnologías emergentes que generan una disrupción en el proceso de enseñanza aprendizaje. La Inteligencia Artificial, como parte de esa disrupción, está inmersa cada vez más en el campo de la educación por lo que puede convertirse fácilmente en la mejor aliada de los estudiantes y docentes, proporcionando no solo contenidos pedagógicos personalizados, sino tutorías y asistencia personalizadas en el momento necesario. Por ello, los desarrolladores de IA, además de sus capacidades cognitivas en el diseño algorítmico, deben tener en cuenta los principios éticos en el desarrollo de herramientas que diseñan con objetivos o pretensiones de enseñar mejor que los profesores. En su lugar, las herramientas de IA deben crearse para aumentar la capacidad de los docentes y ayudarles a convertirse en los mejores transmisores de conocimiento que puedan ser. Por tanto, las regulaciones y ética de la IA deben lograrse sin comprometer los valores humanos, sin socavar la diversidad y sin crear nuevas desigualdades. En este camino, el desarrollo e implantación de la Inteligencia Artificial en el mundo laboral implica que los estudiantes de hoy vivirán y trabajarán en el futuro con estas y otras tecnologías y serán parte de su vida diaria. Con esta consideración, es posible que estemos asistiendo a ver cómo el tiempo de manuales en papel y uso de pizarras son cosas del pasado para dar paso a un modelo de educación basada en tecnologías innovadoras y de vanguardia.

No obstante, hay que dejar claro que la IA no puede ser una fuente de inspiración para el aprendizaje, ya que, a diferencia de un profesor humano, esta no juega con la empatía en el proceso de enseñanza-aprendizaje, donde la inspiración es fundamental. Y esta se convierte en la principal desventaja de la educación impulsada por la IA. Al mismo tiempo, es también la principal razón, por lo que no reemplazará por completo a los docentes humanos. Pero, la IA ya se está utilizando para respaldar el aprendizaje remoto en diferentes modos con clases impartidas, guiadas y compartidas de forma remota, cada una de las cuales trae beneficios y desafíos. Por otro lado, los distintos modelos de IA creados por las Big Tech (GAFAM) (Benjamins & Salazar, 2020) son cada vez más sofisticados, aunque las valoraciones de los expertos difieren en cuanto a que la Inteligencia Artificial Fuerte (de momento) tenga inteligencia, entendimiento o creatividad real. Y menos, que tengan identidad, integridad moral o libre albedrío. Sin embargo, los avances en IA y aprendizaje automático unido al desarrollo del lenguaje de procesamiento natural cambian y evolucionan rápidamente por lo que es poco probable que en poco más de un lustro se produzca la «singularidad tecnológica» (Ibídem, 2020) de la IA. Es decir, el momento en que la IA alcanza la inteligencia humana. Todas estas tendencias seguirán in crescendo por lo que es necesario poner el foco de atención en las implicaciones éticas, sobre todo, en un ámbito como la educación.

Por todo ello, sin pretender ser exhaustivos y en base a los diversos informes y referencias citadas, se induce a reflexionar sobre propuestas de algunos paradigmas y retos éticos de la IA en la educación, tanto desde una perspectiva docente e investigadora como desde el punto de vista de los estudiantes e institucional y, cuyo desarrollo y ejecución ayudará a despejar las incógnitas (planteadas en el punto 3) y difuminar el impacto que en la actualidad hacen los sistemas de Inteligencia Artificial, no solo en la educación, sino, también, en toda la sociedad en general.