Espanhol (pdf)
Artigo em XML
Referências do artigo
Tradução automática
Enviar este artigo por email
Citado por SciELO 
Similares em
SciELO 
uBio 
Permalink
1. Introducción
La Inteligencia Artificial (IA) busca dotar a las máquinas de habilidades humanas como el razonamiento y la toma de decisiones. Este desarrollo nos lleva a cuestionar la naturaleza de la inteligencia, entendiendo cómo pensamos y qué hace que nuestra mente sea inteligente. Por lo tanto, la IA es una disciplina tanto técnica como filosófica, ya que replicar funciones inteligentes requiere primero comprenderlas en los humanos (Minsky y Papert, 2017a); (Papert, 1982).
El ser humano tiene una conciencia moral que distingue entre el bien y el mal, evaluando sus acciones con discernimiento ético. Estos juicios forman valores que se traducen en deberes culturales y conductas concretas. Aristóteles (384 a.C. - 322 a.C.): definió la ética como la ciencia que gobierna el comportamiento humano, sugiriendo que las acciones siguen principios específicos. Esta capacidad es exclusivamente humana debido a nuestra autonomía cognitiva. La ética guía grupos particulares y estudia los fundamentos de nuestra conducta, cuestionando e interpretando los valores morales.
La autonomía cognitiva se refiere a la capacidad de tomar decisiones y pensar de forma independiente. Esto es respaldado por Bostrom (2016); y Minsky y Papert (2017b); quienes han tratado temas relacionados con la autonomía cognitiva y la responsabilidad moral de los sistemas de IA. Estas consideraciones permiten analizar las implicaciones éticas de la autonomía cognitiva respecto a la IA en la educación universitaria en Venezuela, donde las nuevas tecnologías han abierto múltiples posibilidades, especialmente en el sector educativo.
La inteligencia Artificial representa la herramienta tecnológica que proyecta mayor impacto en este sector y así como trae consigo nuevos retos y beneficios, también trae preocupaciones, ya que crea nuevas formas de interrelación social, así como la incursión de nuevos actores virtuales en los ambientes de enseñanza-aprendizaje.
La ética debe ser parte de la autonomía cognitiva, entendida como la capacidad de tomar decisiones y pensar de forma independiente. La habilidad de discernir es clave para esta autonomía. Cuando una persona enfrenta elementos que socavan sus valores éticos, su credibilidad se pone en duda.
La era tecnológica de la Inteligencia Artificial, especialmente con ChatGPT, nos lleva a reflexionar sobre su ética y su impacto educativo. ¿Cómo adoptamos la IA en nuestros contextos?; ¿Qué retos y beneficios trae a la educación universitaria?; ¿Puede reemplazar la inteligencia humana?; ¿Crea nuevas formas de interrelación social y actores virtuales en entornos educativos?; ¿Cuáles son las implicaciones éticas de la IA en la educación universitaria venezolana?.
La presente investigación aborda una cuestión central en la intersección de la ética, la tecnología y la educación superior: ¿Cuáles son las aplicaciones éticas de la autonomía cognitiva con respecto a la inteligencia artificial en el contexto de la educación universitaria venezolana y cómo pueden implementarse para preservar el pensamiento crítico de los estudiantes?. Este interrogante surge ante la acelerada adopción de sistemas de IA en entornos educativos, lo que plantea desafíos significativos para la preservación de capacidades humanas fundamentales como el razonamiento independiente y la evaluación crítica de la información, particularmente en un contexto con características socioeconómicas y culturales específicas como el venezolano.
En este artículo se pretende analizar, desde la perspectiva sociocrítica, las implicaciones éticas de la IA en el contexto de la educación universitaria venezolana. Se plantea develar las aplicaciones éticas de autonomía cognitiva con respecto a la inteligencia artificial en la educación universitaria. En resumen, es una reflexión sobre cómo la IA está afectando la educación, el aprendizaje y la adquisición de conocimientos en la sociedad contemporánea. Aunque es un fenómeno que tiene su auge a escala mundial, se hará referencia específicamente al impacto de la IA en la República Bolivariana de Venezuela.
1.1. Algunas Perspectivas sobre la Ética
La ética es una rama de la filosofía que se ocupa de estudiar y reflexionar sobre las normas y principios morales que guían la conducta humana. Existen muchas corrientes filosóficas y enfoques éticos que han contribuido a definir y comprender lo que es la ética a lo largo de la historia. Este sigue siendo un tema fundamental en la reflexión filosófica y en la discusión contemporánea sobre cuestiones morales y sociales. Algunas definiciones de ética dadas por distintos autores incluyen a:
Aristóteles (384 a.C. - 322 a.C.): sostiene que la ética es una disciplina que se enfoca en el estudio de la conducta humana virtuosa y en cómo alcanzar la felicidad a través de la práctica de virtudes morales.
Immanuel Kant (1724-1804): consideraba que la ética consiste en seguir deberes universales y principios racionales, independientemente de las consecuencias, a través de la aplicación del imperativo categórico.
John Stuart Mill (1806- 1873): propuso una ética utilitarista que se basa en maximizar la felicidad o el bienestar general de la sociedad, tomando en cuenta las consecuencias de las acciones.
Emmanuel Lévinas (1906-1995): desarrolló una ética de la responsabilidad hacia el otro, enfatizando la importancia de reconocer la alteridad y la vulnerabilidad del prójimo en la toma de decisiones éticas.
1.2. ¿Qué es la Inteligencia Artificial (IA) y cuándo surge?
Hacia el año 1895, el escritor británico Herbert George Wells (1866- 1946): publicó por primera vez, en Londres la novela de ciencia- ficción, La máquina del Tiempo, donde ya se prefigura la evolución tecnológica del futuro, y se visualiza la preocupación de los hombres por la presencia de la tecnología y su impacto en la vida humana.
De igual manera para el año 1962 aparece en la Televisión el primer episodio de la serie animada Los Supersónicos, en la cual se mostraron prototipos de lo que luego sería la IA, y aquello que en ese momento era pura ciencia-ficción y se creía irrealizable, ahora es posible gracias a la IA. Hoy la IA es una realidad que genera controversias: por un lado, las implicaciones éticas y por el otro los avances tecnológicos que ésta representa.
La Inteligencia artificial se inició en la década de 1950, fue cuando se empezaron a explorar conceptos como el aprendizaje automático y la lógica simbólica aleatoria de la computación.
En 1956, el histórico taller de Dartmouth congregó a destacados investigadores en teoría de autómatas, redes neuronales y estudios sobre inteligencia (Russell y Norvig, 2004a). Si bien se presentaron diversos proyectos relacionados con aplicaciones específicas, juegos y programas de razonamiento que no generaron avances significativos, este evento marcó un hito fundamental en la historia de la computación.
Destaca particularmente la figura de John McCarthy (1927-2011): reconocido actualmente como el padre de la Inteligencia Artificial, pues fue él quien acuñó y propuso formalmente este término como denominación para este emergente campo científico, estableciendo así las bases conceptuales para su posterior desarrollo como disciplina independiente.
La Inteligencia Artificial es una rama de la informática dedicada a desarrollar sistemas que pueden desempeñar tareas que requieren inteligencia humana, como percepción, razonamiento, aprendizaje, resolución de problemas y toma de decisiones. Este campo ha evolucionado gradualmente y se refleja en nuestras interacciones digitales cotidianas. Esto se observa al utilizar servicios bancarios o comerciales en línea, donde al ingresar al sitio web somos recibidos por un asistente virtual que nos pregunta ¿En qué le puedo servir? y solicita datos identificativos, como número de documento o nombre, para iniciar la atención personalizada.
El concepto de Inteligencia Artificial ha sido abordado desde múltiples perspectivas teóricas a lo largo de su desarrollo histórico. Inicialmente, Haugeland (1988): la conceptualiza como el desafío de dotar a las computadoras de capacidades cognitivas, desarrollando sistemas que funcionen como entidades pensantes en el sentido más completo del término. Por su parte, Bellman y Bellman (1957): la consideran la sistematización automatizada de funciones cognitivas humanas fundamentales como el procesamiento decisional, la solución de problemas complejos y la adquisición de conocimientos.
En contraste, Charniak y McDermott (1985): la interpretan como la investigación de los procesos mentales mediante representaciones computacionales. Mientras tanto, Winston (1992): la define como el análisis de los procedimientos algorítmicos que posibilitan los procesos de razonamiento y actuación. Desde otra perspectiva, Kurzweil (1992): la caracteriza como la disciplina que desarrolla sistemas capaces de realizar funciones que, ejecutadas por humanos, evidencian capacidades inteligentes.
A su vez, Rich y Knight (1991): la entienden como el campo que estudia la implementación en computadoras de funciones actualmente mejor ejecutadas por seres humanos. Complementariamente, Schalkoff (1990): la describe como el área científica dedicada a comprender y replicar comportamientos inteligentes mediante modelos computacionales. Finalmente, Luger y Stubblefield (1997): la sitúan como la rama computacional específicamente orientada a reproducir automáticamente conductas que reflejan inteligencia.
Los sistemas conversacionales de IA facilitan la interacción humano-máquina a través de asistentes de voz como Siri o Alexa y tecnologías de reconocimiento facial. En la era de la información, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) y la Unión Europea (UE) reconocen la gestión informativa como competencia esencial del siglo XXI. Lo importante no es solo acceder a los datos masivos disponibles, sino utilizarlos eficazmente mediante búsqueda selectiva, evaluación crítica, organización, análisis y síntesis desde diversas fuentes, estableciendo una relación que requiere procesamiento activo del contenido.
Diversos factores determinan la competencia informacional de una persona. Estas habilidades incluyen transformar datos en conocimiento, evaluar fuentes críticamente y sintetizar información. Este enfoque va más allá de copiar fragmentos útiles. Además, la IA potencia competencias esenciales como la alfabetización digital, facilitando un aprendizaje adaptativo según las demandas actuales.
La IA es una tecnología avanzada y su uso implica habilidades y conocimientos digitales específicos. La alfabetización digital es una competencia clara para su uso efectivo en la educación.
1.3. Breve Referencia a la Inteligencia Humana
La inteligencia humana se localiza en la corteza cerebral, responsable de funciones cognitivas complejas como pensamiento, memoria y lenguaje, siendo también influenciada por factores genéticos, ambientales y experienciales. El aprendizaje humano ocurre mediante la interacción de diversas áreas cerebrales y la formación de nuevas conexiones neuronales, produciendo cambios físicos y químicos que permiten adquirir y almacenar conocimientos, habilidades o comportamientos.
El aprendizaje cerebral humano funciona mediante mecanismos neurobiológicos interconectados. La plasticidad cerebral permite que el encéfalo modifique su estructura y función como respuesta a las experiencias. Al adquirir nuevos conocimientos, el cerebro genera nuevas conexiones sinápticas, fortalece las vías neuronales utilizadas frecuentemente y elimina las inactivas, optimizando así la eficiencia cognitiva.
La neuroquímica cumple un papel crucial mediante neurotransmisores que facilitan la comunicación entre neuronas, esenciales para la consolidación de la memoria y formación de nuevas conexiones. Los mecanismos de reforzamiento positivo, como recompensas o reconocimientos, potencian los circuitos neuronales vinculados a comportamientos o conocimientos específicos, acelerando el proceso de aprendizaje.
La práctica repetida es crucial en este contexto cognitivo. La repetición sistemática fortalece las vías neuronales, facilitando la automatización y mejora de los procesos cognitivos. Este entramado de cambios físicos y químicos sustenta la adquisición, almacenamiento y recuperación de información y habilidades.
El cerebro humano, considerado el sistema de reconocimiento de patrones más sofisticado, maneja simultáneamente múltiples procesos, funciones y tareas. Esta capacidad genera preguntas sobre sus posibles límites frente al acelerado desarrollo tecnológico actual y sobre las estrategias educativas más efectivas en la era digital. Las investigaciones neurocientíficas modernas han revelado la complejidad de las redes neuronales involucradas en el aprendizaje.
Desde la perspectiva de Dehaene (2009a): la intensa actividad cerebral es la base del aprendizaje, un proceso psicológico complejo que guía la interacción entre inteligencia, pensamiento, memoria, lenguaje, atención, motivación, emociones, ambiente, toma de decisiones y abstracción.
1.4. La Relación de La IA y la Inteligencia Humana
La relación de la IA y la inteligencia humana ha sido objeto de estudio por numerosos investigadores y autores en el campo de la neurociencia, la psicología cognitiva y la inteligencia artificial.
Considerado uno de los padres de la inteligencia artificial moderna, Hinton (2007a): expone investigaciones sobre redes neuronales artificiales que se inspiran en el funcionamiento del cerebro humano. También ha abogado por la idea de que el aprendizaje profundo en las redes neuronales artificiales puede reflejar procesos similares a los que ocurren en el cerebro humano.
Otros pioneros en el campo del aprendizaje profundo y las redes neuronales artificiales son LeCun, Bengio y Hinton (2015a); y Hinton (2007b); quienes han comparado el aprendizaje en las máquinas con el aprendizaje en el cerebro humano, destacando similitudes en la forma en que ambos sistemas pueden adquirir y representar información.
Según expone Hassabis, Kumaran, Summerfield y Botvinick (2017): cofundador de Google DeepMind, una empresa líder en inteligencia artificial ha expresado su interés en comprender y replicar los procesos de aprendizaje y toma de decisiones del cerebro humano en sistemas de IA.
Reforzando este concepto, Pinker (2012a): ha analizado las similitudes y diferencias entre el aprendizaje humano y el de las máquinas, estudiando cómo ambos sistemas adquieren conocimiento y mejoran su rendimiento con el tiempo. Estas investigaciones han contribuido a entender cómo el aprendizaje humano puede guiar el desarrollo de algoritmos de IA, y cómo los procesos de aprendizaje automático pueden iluminar los mecanismos que subyacen al aprendizaje humano.
Por su parte, Russell y Norvig (2004b): han destacado la importancia de diseñar inteligencia artificial con un enfoque en la seguridad y los valores humanos. Estas ideas se han discutido en conferencias, publicaciones científicas y debates éticos sobre el impacto de la IA en la sociedad. Aunque no hay una fuente única, la autonomía cognitiva de la IA es un tema recurrente de discusión.
1.5. 2do Foro Mundial sobre la Ética de la Inteligencia Artificial: Cambiando el panorama de la gobernanza de la IA
En febrero de 2024 (días 5 y 6), se celebró en Eslovenia el 2º Foro Mundial sobre la Ética de la Inteligencia Artificial, reuniendo experiencias de países con diversos niveles de desarrollo tecnológico. Su objetivo principal fue promover un intercambio de conocimientos y un diálogo productivo entre sectores gubernamentales, empresariales, académicos y de la sociedad civil para abordar colaborativamente los desafíos éticos de esta tecnología emergente. Este foro se sustentó en los siguientes fundamentos teóricos de la Inteligencia Artificial:
Ética de la IA: Se basa en la reflexión sobre los valores y principios éticos que deben guiar el desarrollo y aplicación de la inteligencia artificial, considerando aspectos como la transparencia, la equidad, la responsabilidad y el respeto a los derechos humanos.
Derechos Humanos: La IA debe respetar y proteger los Derechos Humanos fundamentales, garantizando la dignidad, la privacidad y la no discriminación de las personas.
Justicia Social: La IA debe contribuir a reducir las desigualdades y promover la inclusión social, evitando la exacerbación de las brechas existentes en la sociedad.
Sostenibilidad: La IA debe ser desarrollada de manera sostenible, minimizando su impacto ambiental y promoviendo un uso responsable de los recursos naturales.
Estos fundamentos teóricos sirvieron como base para abordar los desafíos éticos y sociales relacionados con la IA en el Foro Mundial sobre la Ética de la IA 2024.
Las recomendaciones principales sobre ética en IA derivadas del foro enfatizaron la importancia de establecer marcos regulatorios sólidos, proceso que requiere un aprendizaje colaborativo basado en experiencias de diversas jurisdicciones mundiales. Estas propuestas se cimentaron en principios éticos fundamentales que deberían orientar globalmente el desarrollo e implementación de sistemas de inteligencia artificial, se basan en:
Transparencia: los sistemas de IA deben ser transparentes en cuanto a sus procesos y decisiones para que los usuarios puedan entender cómo se llega a determinadas conclusiones.
Responsabilidad: se refieren a que se establezcan mecanismos claros de responsabilidad para las acciones de los sistemas de IA, definiendo quién es responsable en caso de decisiones perjudiciales.
Equidad: la importancia de garantizar que los sistemas de IA no perpetúen sesgos existentes en la sociedad y que sean equitativos en su funcionamiento y resultados.
Privacidad: Se debe proteger la privacidad de los datos utilizados por los sistemas de IA y asegurar que se respeten las normas de protección de datos.
Seguridad: Los sistemas de IA deben ser seguros y protegidos contra posibles ataques o manipulaciones que puedan poner en riesgo la integridad de los datos o la seguridad de las personas.
1.6. La IA en el ámbito de la Educación Universitaria
La IA puede agilizar la globalización de la educación al mejorar el acceso al aprendizaje, optimizar los métodos educativos y automatizar la gestión. Sin embargo, su integración en algunos entornos educativos puede retrasarse debido a procesos administrativos y políticas locales.
En el entorno tecnológico actual, capacidades humanas como la creatividad, la generación espontánea de ideas y la improvisación adaptativa siguen siendo fronteras para la IA, aunque estas limitaciones se reducen progresivamente con avances que superan los límites de la revolución industrial 4.0. Este desarrollo plantea cuestiones cruciales sobre el papel de la IA en la educación: ¿Qué transformaciones puede generar en los procesos de aprendizaje?. Las respuestas se articulan en tres enfoques emergentes con impacto significativo en los contextos formativos actuales:
Los agentes de software conversacionales inteligentes (ChatBot).
La creación de plataformas Online para el autoaprendizaje.
La robótica educativa.
La integración de IA en universidades venezolanas presenta dimensiones éticas con ventajas (optimización administrativa, acceso a recursos, retroalimentación personalizada) y desafíos importantes. Es crucial analizar cómo estas tecnologías transforman el habitus universitario, pues la dependencia en sistemas automatizados podría comprometer la autonomía cognitiva estudiantil. Además, existe el riesgo de que amplíe inequidades educativas por acceso desigual y diferentes habilidades digitales.
Es importante hacer interpelaciones relacionadas con la IA aplicada a la Educación universitaria, entre ellas: ¿cómo pueden los docentes mantener su papel de facilitador de conocimientos en la educación universitaria cuando la Inteligencia artificial puede proporcionar información y asesoramiento más eficiente y efectivo?; ¿Cómo pueden los docentes garantizar que la IA se utiliza de manera ética y justa, y que no desplace la importancia de la relación entre el estudiante y el docente?; ¿ Cómo podemos asegurarnos de que su uso sea beneficioso para todos los actores involucrados?.
2. Metodología
Para lograr el propósito de esta investigación, se realizó el proceso investigativo pertinente que incluye el análisis de las dimensiones: epistemológica, ontológica, axiológica y metodológica de la misma.
En el abordaje de este fenómeno complejo, se implementa una metodología cualitativa, fundamentada en los planteamientos de Denzin y Lincoln (2018): quienes la definen como un enfoque naturalista e interpretativo que estudia los fenómenos en sus contextos naturales, intentando dar sentido a los significados que las personas les otorgan. Esta aproximación resulta idónea dado que el objeto de estudio no es susceptible de cuantificación, requiriendo una inmersión profunda en la realidad de los participantes: estudiantes, docentes y autoridades académicas de la Universidad Latinoamericana y del Caribe (ULAC), sede Caracas, República Bolivariana de Venezuela.
El proceso investigativo se desarrolla mediante la aplicación inicial de técnicas observacionales sistemáticas, complementadas posteriormente con un grupo focal integrado por seis informantes clave estratégicamente seleccionados. La interpretación del fenómeno se realiza mediante triangulación metodológica, permitiendo contrastar perspectivas diversas a fin de obtener una comprensión holística y contextualizada de la realidad estudiada.
Siguiendo a Guba y Lincoln (2005): quienes señalan que la elección de un paradigma de investigación se configura en un proceso con alto grado de complejidad, debido a las diversas diferencias filosóficas y conceptuales que existen para explicarlos, clasificarlos e incluso definirlos, y concluyen que todo investigador debe establecer con absoluta claridad el marco paradigmático que fundamenta y orienta su aproximación metodológica antes de emprender cualquier proceso investigativo.
Esta investigación se basa en el paradigma sociocrítico, como proponen Morin (2000); y Hernández (1998), citados por Contreras (2011). El proceso investigativo es una interacción entre el sujeto y el fenómeno estudiado. El investigador establece una relación dinámica con su objeto de estudio para comprender la realidad de manera crítica y transformadora. El conocimiento se construye mediante la interpretación de percepciones y signos, involucrando capacidades analíticas y creativas para una aproximación integral a la realidad.
La selección de los informantes claves se realizó de manera aleatoria, dos participantes del Doctorado en Ciencias de la Educación, dos Doctores, quienes tienen la función de ser mediadores del aprendizaje y dos especialistas en el área de la informática y la computación
Para conocer la percepción directa de los informantes clave sobre la realidad investigada, se utilizó la triangulación para generar las categorías de análisis. El método aplicado fue el hermenéutico dialéctico propuesto por Martínez (1996a): que busca captar el significado e interpretar rigurosamente las palabras, acciones y gestos de los sujetos, entendiendo su singularidad desde su contexto específico.
3. Resultados
Para la credibilidad y validación de la información, se realizó un grupo focal con seis personas, y se propusieron cuatro preguntas generadoras, desde donde surgen categorías de análisis emergentes y se consolidan las categorías de análisis iniciales, a través del método de la saturación teorética de las categorías.
La Tabla 1 presenta los resultados de un grupo focal realizado con seis participantes sobre las implicaciones éticas de la Inteligencia Artificial en la educación universitaria. Estos hallazgos se agrupan en tres categorías principales de análisis, cada una vinculada a una pregunta generadora específica y las correspondientes reflexiones de los participantes.
Tabla 1 Categorías de análisis y reflexiones del grupo focal sobre las implicaciones éticas de la IA en la educación universitaria.
| Categorías de análisis | Preguntas generadoras | Reflexión del grupo focal |
|---|---|---|
| Aplicaciones Éticas de Autonomía Cognitiva | ¿Cómo pueden los docentes mantener su papel de facilitador de conocimientos en la educación universitaria cuando la IA puede proporcionar información y asesoramiento más eficiente y efectivo? | La inteligencia artificial ha contribuido a la fragmentación y diversidad de perspectivas al facilitar acceso a amplia información y puntos de vista, fomentando autonomía mediante herramientas personalizadas. Sin embargo, genera preocupaciones sobre pérdida de control y la influencia de algoritmos en decisiones, desafiando la idea de verdad universal y creando ambigüedad interpretativa. La IA impacta tanto la modernidad como la posmodernidad, transformando cómo las personas interactúan con el mundo y entre sí. |
| La Inteligencia Artificial en la Educación Universitaria | ¿Cómo pueden los docentes garantizar que la IA se utiliza de manera ética y justa, y que no desplace la importancia de la relación entre el estudiante y el docente? | La IA evoluciona constantemente, ofreciendo posibilidades prácticamente ilimitadas en educación. Se utiliza para mejorar la eficiencia y personalización del aprendizaje mediante tutorías inteligentes, plataformas adaptativas y evaluaciones automatizadas, permitiendo a los estudiantes recibir una educación más ajustada a sus necesidades individuales. |
| Aplicaciones Éticas de Autonomía Cognitiva con Respecto a la Inteligencia Artificial en la Educación Universitaria | ¿Cómo pueden asegurarse las personas de que el uso de la IA sea beneficioso para todos los actores involucrados? | Con el avance tecnológico y la proliferación digital, es crucial desarrollar la capacidad de tomar decisiones informadas y autónomas sobre estas tecnologías. La creciente necesidad de habilidades críticas y reflexivas frente a algoritmos e IA ha llevado al concepto de autonomía cognitiva algorítmica. Esta noción surge como respuesta a la influencia tecnológica en nuestras vidas y a la necesidad de mantener capacidad decisoria autónoma en entornos digitales. |
Fuente: Los Autores (2024).
La categoría “Aplicaciones Éticas de Autonomía Cognitiva” analiza cómo los docentes pueden seguir facilitando el conocimiento con la ayuda de la IA. El grupo focal destacó que la IA diversifica perspectivas y fomenta la autonomía personal con herramientas personalizadas. No obstante, también preocupa la posible pérdida de control y la influencia de los algoritmos en decisiones, lo que podría cuestionar verdades universales y crear ambigüedad.
La segunda categoría, “La Inteligencia Artificial en la Educación Universitaria”, explora el uso ético de la IA sin afectar la relación estudiante-docente. La IA puede mejorar la eficiencia y personalización del aprendizaje mediante tutorías inteligentes, plataformas adaptativas y evaluaciones automatizadas, ajustándose a las necesidades individuales de los estudiantes.
La tercera categoría, “Aplicaciones Éticas de Autonomía Cognitiva con Respecto a la Inteligencia Artificial en la Educación Universitaria”, analiza cómo garantizar que la IA beneficie a todos los actores. El grupo destacó la importancia de tomar decisiones informadas y autónomas en el entorno digital actual. Resaltaron la necesidad de desarrollar habilidades críticas y reflexivas respecto a los algoritmos y la IA, introduciendo el concepto de “autonomía cognitiva algorítmica” como respuesta a la influencia tecnológica creciente.
4. Discusión
De acuerdo con Márquez (2008), la discusión de resultados debe fundamentarse en las dimensiones de los paradigmas de generación de conocimiento. Analizaremos los hallazgos desde cuatro dimensiones esenciales que estructuran nuestra comprensión del fenómeno estudiado.
Los resultados muestran una dualidad: la IA potencia el aprendizaje, pero puede amenazar la autonomía cognitiva. Los participantes reconocen beneficios como acceso a información diversa y personalización, pero también riesgos como la erosión del pensamiento crítico. Esto coincide con las preocupaciones del 2º Foro Mundial sobre Ética de la IA 2024.
Desde la perspectiva epistemológica, las reflexiones sobre cómo “mantener el papel de facilitador de conocimientos” frente a la IA evidencian la necesidad de replanteamiento de roles señalada por Dehaene (2009b); y Pinker (2012b). La emergente “autonomía cognitiva algorítmica” mencionada por los participantes dialoga con los planteamientos de LeCun, Bengio y Hinton (2015b): sobre las similitudes y diferencias entre aprendizaje humano y automático.
En cuanto a la dimensión conceptual, la preocupación por el uso ético de la IA resuena con los principios de transparencia, responsabilidad, equidad y privacidad del Foro Mundial sobre Ética de la IA. Los participantes reconocen las “posibilidades ilimitadas” de la IA para personalizar el aprendizaje, alineándose con los tres enfoques emergentes identificados: agentes conversacionales, plataformas de autoaprendizaje y robótica educativa.
Metodológicamente, el abordaje cualitativo ha permitido captar la complejidad del fenómeno desde la perspectiva de los actores involucrados. Las categorías emergentes revelan una relación dialéctica entre autonomía cognitiva, ética y aplicaciones de IA en educación superior, validando la pertinencia del enfoque hermenéutico-dialéctico de Martínez (1996b).
La implementación ética de la IA en universidades venezolanas necesita marcos normativos específicos, formación crítica para docentes, desarrollo de habilidades metacognitivas en estudiantes y evaluación continua. Esto está alineado con el concepto de phronesis de Aristóteles, que sugiere guiar la implementación de la IA no solo por criterios técnicos, sino también por un juicio ético adaptado al contexto educativo venezolano.
5. Conclusiones
La presente investigación sobre las aplicaciones éticas de autonomía cognitiva con respecto a la IA en la educación universitaria venezolana revela hallazgos significativos que contribuyen a la comprensión de esta emergente intersección tecnológico-educativa. Tras analizar las implicaciones éticas de la IA mediante un enfoque cualitativo y sociocrítico, podemos establecer lo siguiente:
La autonomía cognitiva es un valor clave amenazado y potenciado por la integración de la IA en las universidades. Los resultados muestran que preservar esta autonomía requiere un enfoque ético integral que vaya más allá de la tecnología, equilibrando la innovación pedagógica y el pensamiento crítico. Este hallazgo aporta al debate sobre la ética digital en la educación venezolana.
La relación entre docentes e IA es un desafío importante. En lugar de reemplazar a los docentes, nuestros resultados muestran que su papel como facilitadores y mediadores críticos se vuelve más relevante con la información automatizada. Esto contradice las teorías tecnológicas deterministas y reafirma el valor insustituible de la mediación humana en la educación.
El desarrollo de marcos éticos contextualizados emerge como necesidad urgente en el sistema universitario venezolano. La investigación demuestra que la efectiva integración de la IA requiere normativas específicas que consideren las particularidades socioeconómicas, culturales y de infraestructura tecnológica del país, evitando la importación acrítica de modelos diseñados para contextos distintos.
La formación de competencias metacognitivas en estudiantes universitarios constituye una estrategia fundamental para preservar y fortalecer la autonomía cognitiva. Los participantes del estudio señalaron recurrentemente la necesidad de desarrollar habilidades críticas que permitan evaluar, filtrar y contextualizar la información generada por sistemas de IA, convirtiendo estas tecnologías en potenciadoras del pensamiento autónomo en lugar de sustitutas de este.
Las limitaciones del estudio incluyen su focalización en una única institución universitaria venezolana, lo que restringe la generalización de resultados. Asimismo, el acelerado desarrollo de la IA sugiere la necesidad de estudios longitudinales que evalúen la evolución de las implicaciones éticas identificadas.
Esta investigación abre líneas prometedoras para futuros estudios, entre ellas: ¿Cómo diseñar programas de alfabetización en IA que fortalezcan la autonomía cognitiva en estudiantes universitarios venezolanos?; ¿Qué modelos de gobernanza tecnológica resultarían más efectivos para el contexto universitario nacional?; ¿De qué manera pueden articularse las perspectivas decoloniales con la implementación ética de IA en entornos educativos latinoamericanos?.
En definitiva, la implementación ética de la IA en la educación universitaria venezolana no constituye únicamente un desafío técnico, sino fundamentalmente un reto filosófico, pedagógico y sociocultural que requiere una reflexión continua y contextualizada sobre los valores que deseamos preservar y potenciar en nuestros sistemas educativos.
