Introducción

Hablar de inteligencia artificial (IA) es hacerlo de un campo de la informática capaz de realizar operaciones similares a las de la mente humana, como el razonamiento lógico y el aprendizaje, en los últimos años ha permeado todos los ámbitos sociales con gran aceptación. Se trata de: “la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal y como lo haría un ser humano” (^{Rouhiainen, 2018, p. 17}); al respecto agrega ^{Miao (2024)}, que: “es una tecnología… que genera contenidos de forma automática en respuesta a instrucciones escritas en interfaces conversacionales de lenguaje natural (prompts)” (p. 8), destacando que en lugar de limitarse a conservar las páginas Web, produce nuevos contenidos a partir de ellas y en cualquiera de las representaciones simbólicas del pensamiento humano, como textos, imágenes, videos y música.

Sin embargo, en educación el debate sobre el uso de la IA ha sido amplio, sobre todo por la falta de ética en su uso por parte de los estudiantes y la poca o nula capacitación de los docentes para su aprovechamiento. En este sentido advierte ^{Miao (2024)}, que aún y cuando la IA genera regularmente respuestas razonables, no se puede confiar en que sean ciertas, que así lo reconoce el mismo proveedor de ChatGPT, por lo que los errores en las respuestas pasarán desapercibidos cuando el usuario no tiene conocimientos sólidos sobre el tema investigado. Lo anterior representa un gran problema, pues al no ser los alumnos expertos en los temas abordados, toman como verdadera cualquier información obtenida.

Al respecto, estudios de seguimiento muestran que a partir de la pandemia los estudiantes son más dependientes de la tecnología, al realizar un uso indiscriminado de la misma, sin importar que llegue a substituirlos en sus funciones de investigar, comprender y construir aprendizaje significativo, lo que de la mano con la poca o nula capacitación de los profesores para su aprovechamiento y la falta de controles éticos para el respeto a los derechos de autor, compromete de manera significativa el Objetivo de Desarrollo Sostenible 4, denominado Educación de Calidad. Al respecto ^{Tuomi (2018)} afirma que la IA debe tener un impacto tanto en la enseñanza, como en el aprendizaje, con una visión orientada hacia el futuro, por lo que es necesario repensar el papel de la educación; ^{Bergolla & Lavigne (2021)} señalan que el desarrollo de la IA debe ir acompañado de un componente ético en su aplicación, que considere aspectos como los derechos humanos, integración, prosperidad, autonomía, explicabilidad, transparencia, conocimiento y capacitación, responsabilidad, democracia, buena gobernanza y sostenibilidad; y, ^{Marín (2019)} dice que la IA ha demostrado poseer numerosos beneficios, por lo que es de esperar que los avances y desarrollos de los próximos años.

En este orden de ideas, el objetivo de la presente investigación es identificar las realidades y retos en el uso de la IA en los sistemas educativos formales. En atención a lo anterior, la pregunta de investigación planteada es: ¿Cuáles son las realidades/hallazgos y retos/propuestas en el uso de la IA en educación? Consecuentemente las categorías a priori para la búsqueda de información son: Educación, IA, uso, realidades, hallazgos, retos, propuestas.

Metodología

Para dar respuesta al objetivo planteado, se realizó una investigación que se enmarcó en el paradigma hermenéutico que, de acuerdo con ^{Grondin (2014)}, permite la interpretación de los textos revisados; el método interpretativo y enfoque cualitativo que, según ^{Hernández et al. (2010)}, utiliza la recolección de datos sin medición numérica para afinar preguntas en el proceso de interpretación; con un diseño descriptivo de tipo documental bibliográfico y de corte transversal que, bajo las ideas de ^{Toro (2003)}, ofrece a los lectores la posibilidad de reflexionar sobra una realidad descrita, para que obtengan sus propias conclusiones; y, la saturación y análisis de las categorías resultantes, se hizo con el Software MAXQDA, por medio del cual se pueden representar, a través de nubes de palabras y gráficas de tendencias de palabras, las categorías construidas en la interpretación de los textos analizados.

Destaca para la investigación, de acuerdo con ^{Guirao (2015)}, que la revisión de la bibliografía es una forma de aproximarse al conocimiento, ya que permite identificar tanto lo que se sabe, como lo que se desconoce de un objeto de estudio; agrega que debe ser concisa, objetiva y lógica; y, según ^{Cruzado (2021)}, esta revisión ha de ser también selectiva; se debe detectar, consultar y obtener información a partir de criterios definidos.

Para la selección de los trabajos analizados se consideró los siguientes criterios: de inicio se tomó en cuenta todos los trabajos publicados en revistas indexadas en los últimos cinco años, los que fueron obtenidos en una búsqueda a partir de la pregunta de investigación, después se seleccionó, como muestra, los dos que tuvieran en el título el mayor número de coincidencias con las categorías a priori definidas y el número más alto de citas, por considerar que han sido utilizados para sustentar otras investigaciones. Los buscadores utilizados fueron: https://scholar.google.es, https://www.redalyc.org, https://www.refseek.com, https://scielo.org, https://dialnet.unirioja.es, www.academia.edu, https://www.base-search.net, https://www.semanticscholar.org/, https://www.researchgate.net y https://www.scopus.com. En la Figura 1 se muestran los trabajos encontrados por cada sitio.

Nota. En la gráfica se muestran los buscadores utilizados y la cantidad de artículos encontrados, a partir de los cuales se eligieron dos por buscador, bajo los criterios del mayor número de coincidencias con las categorías a priori definidas y citaciones en otros trabajos, elaboración propia (2024).

Figura 1 Inteligencia Artificial y Educación. Artículos Publicados 

Resultados

De la información analizada se desprende, como realidades, que la IA es considerada una tecnología disruptiva en el ámbito educativo, con potencial para innovar el trabajo de los profesores y mejorar el aprendizaje de los estudiantes; y, como retos, que es necesaria la alfabetización digital de docentes y alumnos para garantizar dicho potencial, así como la implementación de normas éticas que garanticen el respeto a los derechos de autor.

En términos generales, se pude afirmar partiendo de la Tabla 1 que no está sujeto a controversia que las innovaciones tecnológicas han impactado todas las áreas del conocimiento y todos los ámbitos sociales, tampoco que en campos como la industria, la medicina y el transporte, por mencionar algunos, se han vuelto indispensables; sin embargo, en el caso de la educación no ha sido la historia de éxito que se esperaba, y si bien es cierto que fueron el pilar que mantuvo en pie a los sistemas educativos durante la pandemia, no menos cierto es que los resultados fueron negativos, así lo demuestran las estadísticas de reprobación y deserción escolar, así como las evaluaciones a los estudiantes que pudieron continuar en las escuelas. Ahora bien, respecto a la reciente incorporación y uso de la IA en la educación, las investigaciones analizadas muestran en conjunto lo siguiente:

Nota. En la figura se representan, de mayor a menor tamaño de fuente, las categorías identificadas en los trabajos seleccionados para la investigación, elaboración propia con el Software ^{MAXQDA (2024)}.

Figura 2 Nube de Palabras. Realidades/Hallazgos 

De la Figura 2 se desprende, en orden de importancia, como realidades, que la IA es considerada disruptiva, al ser una tecnología que alteró significativamente la manera en que los alumnos acceden a la información y construyen conocimiento; sin embargo, si bien se reconoce el potencial que tienen para innovar los procesos de enseñanza-aprendizaje, también es una realidad la ausencia de ética en su uso, el analfabetismo digital sobre todo por parte de los docentes para incorporarlas a su planeación didáctica, la dependencia que están generando en los alumnos para la realización de sus actividades y el sesgo que tiene la información al depender de las generalidades presentes en la internet.

Nota. En la figura se representa, mediante un gráfico, las categorías más recurrentes en los trabajos analizados, elaboración propia con el Software MAXQDA (2024).

Figura 3 Tendencias de Palabras. Realidades/Hallazgos 

De igual forma la Figura 3 destaca como principales hallazgos el potencial que tiene la IA para innovar la educación, el ser una tecnología disruptiva y la falta de ética en su uso por parte de los alumnos, en menor medida que genera dependencia en los usuarios, el sesgo en la información y el analfabetismo digital, sobre todo en los docentes para su aprovechamiento.

Nota. En la figura se representan, de mayor a menor tamaño de fuente, las categorías identificadas en los trabajos seleccionados para la investigación, elaboración propia con el Software MAXQDA (2024).

Figura 4 Nube de Palabras. Retos/Propuestas 

Respecto a los retos identificados por los autores de las investigaciones consultadas (ver Figura 4), destaca en primer lugar la alfabetización digital de docentes y alumnos, al considerar que hacer efectivo el potencial de la IA radica en el conocimiento que tengan éstos de la misma, pero sobre todo de la manera en que la incorporen a las actividades cotidianas; otro aspecto considerado de gran relevancia es el uso ético de la misma, lo que implica el respeto a los derechos de autor, tan olvidados en la actualidad. Con menos menciones se encuentra la importancia de trabajar en políticas públicas que rijan su uso, potenciar el aprendizaje, evitar resistencias por parte de los actores educativos para utilizarlas en las escuelas, minimizar los riesgos, evitar la fisura digital y una mayor transparencia en los algoritmos en que se basa.

Nota. En la figura se representa, mediante un gráfico, las categorías más recurrentes en los trabajos analizados, elaboración propia con el ^{MAXQDA (2024)}.

Figura 5 Tendencias de Palabras. Retos/Propuestas 

En la Figura 5 igual destaca como principales propuestas la alfabetización digital de docentes y alumnos respecto a la IA, el uso ético de la misma y políticas públicas que rijan su incorporación a las escuelas; en menor medida, garantizar su potencial para mejorar el aprendizaje, evitar la resistencia, sobre todo por parte de loss profesores para su incorporación al trabajo cotidiano y minimizar los riesgos que conlleva su uso.

En el mismo sentido y de acuerdo con el documento titulado “Artificial intelligence in education: Challenges and opportunities for sustainable development”, de ^{Pedró et al. (2019)}, autorizado y editado por la Unesco, los retos de la integración de la IA a la educación giran en torno a: Desarrollar una visión integral de las políticas públicas de IA para el desarrollo sostenible, garantizar la inclusión y la equidad de la IA en la educación, preparar a los docentes para una educación impulsada por la IA, desarrollar sistemas de datos inclusivos y de calidad, mejorar la investigación sobre la IA en la educación y abordar la ética y la transparencia en la recopilación, el uso y la difusión de datos. De manera coincidente con los resultados presentados, al indagar en el sitio chatgpt.com, considerado una de las inteligencias artificiales más importantes e influyentes en la actualidad, sobre las realidades/hallazgos y retos/propuestas de esta tecnología, los resultados son los siguiente:

La pregunta expresa sobre lo que es la IA, menciona que se trata de “una rama de la informática que se enfoca en crear sistemas de tecnologías capaces de realizar tareas que normalmente requiere inteligencia humana. Esto incluye habilidades como el aprendizaje, el razonamiento, la resolución de problemas, la percepción, y el procesamiento del lenguaje” (^{ChatGPT, 2024}). Al cuestionar sobre ¿en qué ámbitos ha tenido más éxito la IA?, la respuesta es que los campos donde el impacto ha sido notorio son:

En este sentido y para los intereses de la presente investigación, destaca que en el listado presentado no se encuentra la educación, pese al amplio uso que en la actualidad se hace de la IA, sobre todo por parte de los alumnos; y, al preguntar sobre las realidades y retos de la IA en este ámbito, la respuesta es que, si bien ha tenido un impacto significativo, ha enfrentado problemas y desafíos notables como:

La respuesta concluye mencionando que, a partir de los problemas detectados, se hace necesaria una implementación cuidadosa y reflexiva de la IA en la educación, que tome en cuenta los beneficios potenciales, pero también las limitaciones y desafíos, entre los más importantes y que se han evidenciado desde la pandemia, la desigualdad en el acceso y los problemas éticos y sesgos.

Es por esto, resulta imperante generar conciencia en el ámbito educativo respecto a las limitaciones de la IA, así como de los riesgos que implica su uso y que van en detrimento de la calidad; además de trabajar en el corto plazo en políticas públicas y procesos de alfabetización digital de los docentes y alumnos, que contribuyan a hacer efectivo el potencial de esta tecnología para innovar el trabajo de los primeros y mejorar el aprendizaje de los segundos, sin dejar de lado los aspectos éticos.

Se trata de formar a los profesores y alumnos desde perspectivas como la propuesta dese la psicología de la educación virtual por ^{Coll et al. (2011)}, para que los primeros estén en condiciones de planificar, regular y orientar actividades que permitan a los segundos buscar, acceder, representar, procesar, transmitir y compartir información, pero además adquirir competencias para pensar, sentir y actuar solos y con otros.

Se trata también de que los profesores tengan las competencias necesarias para generar, por medio de las tecnologías de la información y la comunicación, entornos de aprendizaje socialmente ricos, que lejos de permitir a los estudiantes copiar y pegar información de fuentes poco confiables, los lleven a tener interacción con sus pares y, a partir de ello, integrar nuevos conocimientos a sus estructuras mentales (^{Martínez; 2021}), ya que diversos estudios demuestran que el uso de las tecnologías en la educación aumenta la motivación y autoestima de los alumnos, en tanto que les permite el desarrollo de habilidades interpersonales, así como de estrategias para resolver problemas y tomar mejores decisiones y otras competencias transversales como el respeto, tolerancia, flexibilidad y apertura a las ideas de los demás (^{Mota et al., 2020}).

Discusión

De la revisión de la bibliografía consultada y en respuesta a la pregunta de investigación formulada, se puede concluir, en relación al uso de la IA en los sistemas educativos formales, que las principales realidades/hallazgos son que se trata de una tecnología disruptiva, que tiene potencial para innovar el trabajo de los profesores y mejorar el aprendizaje de los estudiantes, pero que es evidente la ausencia de normas éticas en su uso; y, como retos/propuestas, se identifica la urgente necesidad de alfabetización digital de docentes y alumnos para garantizar que se haga efectivo el potencial detectado en la IA para mejorar la educación, la creación y aplicación de normas éticas que garanticen el respeto a los derechos de autor y la formulación de políticas públicas que orienten sobre el uso de esta tecnología en las escuelas.

Así, ante lo falible que puede resultar la IA y su uso indiscriminado, de acuerdo con el autor ^{Miao (2024)}, las principales controversias con su llegada al ámbito educativo son las siguientes: a) Empeoramiento de la pobreza digital. La IA depende de grandes cantidades de datos y potencia computacional que están al alcance sólo de las grandes economías; b) Superar las adaptaciones regulatorias nacionales. Una de las críticas a los proveedores de la IA ha sido por no permitir que sus sistemas sean sometidos a revisiones académicas independientes; c) Uso de contenido sin consentimiento. Muchos de los datos obtenidos por los modelos de IA han sido obtenidos sin permiso de los propietarios, ocasionando demandas internacionales por este motivo; d) Modelos inexplicables utilizados para generar resultados. Las redes neuronales artificiales son cajas negras, por lo que no es posible saber cómo obtienen resultados; e) Contenido generado por IA que contamina internet. Ante la libertad que existe en internet y la ausencia de mecanismos de control, con frecuencia los resultados de la IA incluyen lenguaje discriminatorio o inaceptable; f) Falta de comprensión del mundo real. Aunque la IA produce textos que parecen convincentes, suelen tener errores o afirmaciones dañinas, ya que las respuestas están basadas en patrones lingüísticos; g) Reducir la diversidad de opiniones y marginar aún más a las voces ya marginadas. La IA tiende a producir respuestas estándar con base en sus datos de entrenamiento y de acuerdo con los valores de sus creadores; y, h) Generación de deepfakes más profundos. La IA ha sido utilizada para alterar imágenes y videos, a partir de los cuales han generado otros falsos, en ocasiones comprometedores.

En este orden de ideas, los resultados encontrados son consistentes con los presentados por otros investigadores en trabajos similares, destaca el documento titulado “El futuro de la inteligencia artificial en educación en América Latina”, donde ^{Rivas et al. (2023)} dicen que con la inteligencia artificial la dinámica del cambio educativo y del impacto tecnológico en la educación se acelera, por lo que predecir el futuro es una condición cada vez más decisiva en la mejora de los sistemas educativos, lo que requiere de nuevas conversaciones públicas.

En el mismo sentido, en el artículo “Inteligencia artificial en educación: una revisión de la literatura en revistas científicas internacionales”, ¹¹Flores et al. (2022), señalan que después de la pandemia la inteligencia artificial está destinada a jugar un papel muy importante, para garantizar la calidad educativa en el proceso de enseñanza aprendizaje, pero que se recomienda realizar investigaciones en el área a fin de dar solución a los problemas que este sector presenta.

De igual forma ^{Saz-Pérez & Pizà-Mir (2020)}, en su trabajo “Desafiando el estado del arte en el uso del ChatGPT en educación en el año 2023”, afirma que es innegable que la inteligencia artificial y de manera especial el ChatGPT han transformado la educación al permitir una personalización del aprendizaje, además de mejorar la accesibilidad educativa, pero que a la par de ello, existen preocupaciones éticas sobre la privacidad de los datos y un sesgo algorítmico que deben abordarse de manera responsable, por lo que la investigación en este campo es esencial para comprender cómo esta tecnología seguirá influyendo en la educación.

Por su parte ^{Figueroa et al. (2024)} en la obra “Inteligencia artificial en la educación superior”, sostienen que la integración de la IA en la educación ha tenido un impacto significativo, como personalizar y adaptar los procesos de enseñanza-aprendizaje, pero que es importante que tanto los educadores, como los responsables políticos aprovechen los avances de esta tecnología de manera estratégica y ética, para ofrecer una educación de vanguardia que se adapte a los estudiantes del siglo XXI. Finalmente, como direcciones futuras en esta investigación, es importante tener en cuenta que:

El desarrollo científico y técnico, la rápida mutabilidad del conocimiento, las nuevas actitudes sociales, los nuevos retos profesionales y el uso masivo de las tecnologías de información demandan nuevas formas de gestionar el conocimiento y nuevas estrategias para la enseñanza universitaria. (^{Cutti, 2012, p. 32})

Lo que implica que, ante los rápidos cambios tecnológicos, se hace necesario orientar los trabajos investigativos a dos aspectos importantes, el primero, la imperante necesidad de la formulación de diseños tecnopedagógicos por parte de las instituciones educativas, como propuestas integrales sobre el uso de las tecnologías; y, el segundo, programas de formación docentes que prioricen y atiendan las necesidades de por profesores.

Conclusiones

La importancia del presente estudio radica en que lo presentado constituyen una mirada de conjunto en relación con las realidades/hallazgos y los retos/propuestas del uso de la IA en educación, además de que representa un insumo para otros trabajos que estén orientados a la solución de las problemáticas detectadas. Los resultados muestran, como aspectos positivos, que la IA se ha constituido en una tecnología disruptiva en la educación y, que al igual que otras que se han incorporado en los últimos años a las aulas, tiene un gran potencial para innovar la enseñanza de los profesores y mejorar el aprendizaje de los estudiantes; no obstante, existen aspectos negativos que no se deben soslayar, como la poca o nula alfabetización digital por parte de docentes y alumnos que impide aprovechar de la mejor manera los beneficios de esta tecnología y que propicia un uso que se aleja en buena medida de las incipientes reglas éticas existentes.

En este sentido, el escenario tendencial a los problemas detectados, y que responde a la pregunta ¿qué pasará si todo sigue igual?, es que, como ha pasado con otros avances tecnológicos que se han incorporado a los sistemas educativos, seguirá habiendo un desface entre el potencial que ofrece la IA y la forma en que es utilizada en la realidad, ocasionado por diversos factores, como la falta de recursos económicos de las escuelas para garantizar el acceso de docentes y alumnos a las tecnologías, la obsolescencia programada que hace imposible estar a la vanguardia digital, así como por la falta de políticas instituciones sobre uso de herramientas digitales, la poca o nula capacitación de docentes y alumnos y la ausencia de marcos normativos en materia de ética y respeto a los derechos de autor.

Finalmente, es prioritario que las nuevas investigaciones en materia de IA y educación se enfoquen en dos aspectos, el primero, la elaboración de diseños tecno-pedagógicos, entendidos como propuestas generales respecto al uso de las tecnologías, que garanticen la innovación del trabajo de los profesores y mejoren el aprendizaje de los estudiantes, en el marco de la ética; y, la segunda, la elaboración de programas de formación docente que, siendo colaborativos, permitan identificar, priorizar y atender las necesidades del profesorado (^{Martínez, 2022}).