¿Puede la inteligencia artificial en la educación reducir realmente las desigualdades sin crear otras nuevas?
La inteligencia artificial despierta un entusiasmo particular en el ámbito de la educación. A menudo se presenta como una solución milagrosa capaz de aliviar la carga de los docentes, personalizar el aprendizaje y hacer la escuela más accesible para todos. Herramientas como los sistemas de tutoría inteligente o los laboratorios virtuales prometen transformar los métodos de enseñanza y ofrecer experiencias adaptadas a las necesidades de cada alumno. Sin embargo, detrás de estas promesas se esconden riesgos importantes que podrían agravar las desigualdades en lugar de reducirlas.
Los algoritmos utilizados en estos sistemas no son neutrales. A menudo reproducen los sesgos presentes en los datos con los que han sido entrenados. Por ejemplo, herramientas de evaluación automática ya han mostrado discriminaciones hacia alumnos de minorías lingüísticas o culturales. Los acentos, los dialectos o las formas de expresar ideas que se alejan de la norma dominante pueden ser mal interpretados, penalizando a ciertos estudiantes sin razón válida. Del mismo modo, las tecnologías de reconocimiento facial o vocal, que pretenden analizar el compromiso o las emociones, funcionan peor para las personas de color o en situación de discapacidad. Estas herramientas corren el riesgo de reforzar los estereotipos y marginar aún más a quienes ya están en desventaja.
Otro problema radica en el acceso desigual a estas tecnologías. Las soluciones más avanzadas suelen ser de pago, reservadas a instituciones o familias que pueden permitírselas. Esto crea una brecha digital en la que solo algunos alumnos se benefician de una enseñanza enriquecida por la inteligencia artificial, mientras que otros quedan al margen. Además, estos sistemas suelen ser diseñados por equipos de entornos privilegiados, reflejando una visión monocultural de la educación. Imponen normas y valores que no siempre corresponden a las realidades locales o a las necesidades de los alumnos de diversos orígenes.
Ante estos desafíos, se impone un enfoque crítico. No se trata de rechazar la inteligencia artificial, sino de utilizarla con prudencia y discernimiento. Los docentes deben ser formados para comprender los límites y los sesgos de estas herramientas, a fin de integrarlas de manera reflexiva en su práctica. Los programas escolares deberían incluir una educación sobre los desafíos éticos y sociales de la inteligencia artificial, permitiendo a los alumnos convertirse en usuarios informados y responsables.
El objetivo no es solo preparar a los jóvenes para un mercado laboral dominado por la tecnología, sino también darles los medios para cuestionar su impacto en la sociedad. Una inteligencia artificial bien diseñada podría, de hecho, apoyar un aprendizaje más inclusivo, siempre que se desarrolle con la participación de todos los actores involucrados y respete la diversidad de los alumnos. Sin esta vigilancia, corre el riesgo de convertirse en una herramienta de estandarización y exclusión, en lugar de ser un medio de emancipación.
Sources et crédits
Étude source
DOI : https://doi.org/10.1007/s11125-026-09760-4
Titre : Demystifying AI: The urgency of a critical stance on the use of AI systems in education
Revue : PROSPECTS
Éditeur : Springer Science and Business Media LLC
Auteurs : Dagmar Mercedes Heeg; Lucy Avraamidou