人工智能在教育中能否真正减少不平等而不制造新的不平等？

人工智能在教育领域引发了特别的热情。它常被视为一种神奇的解决方案，能够减轻教师的负担，个性化学习过程，并使教育更加普及。智能辅导系统和虚拟实验室等工具承诺改变教学方法，并为每个学生提供符合其需求的学习体验。然而，在这些承诺背后，潜藏着重大风险，可能加剧而非减少不平等现象。

这些系统中使用的算法并非中立。它们通常会复制训练数据中存在的偏见。例如，自动评估工具已经显示出对来自语言或文化少数群体的学生的歧视。口音、方言或表达思想的方式若偏离主流规范，可能会被误解，导致某些学生无故受到惩罚。同样，面部或语音识别技术，本应用于分析参与度或情绪，但在有色人种或残障人士身上表现较差。这些工具因此可能强化刻板印象，进一步边缘化已经处于不利地位的群体。

另一个问题在于对这些技术的获取不平等。最先进的解决方案通常是收费的，仅限于能够负担得起的学校或家庭使用。这造成了一种数字鸿沟，只有部分学生能够享受到人工智能增强的教育，而其他学生则被排除在外。此外，这些系统通常由来自特权背景的团队设计，反映出一种单一文化的教育视角。它们强加的规范和价值观并不总是符合当地现实或来自不同背景的学生的需求。

面对这些挑战，必须采取批判性的方法。这并非要拒绝人工智能，而是要谨慎和明智地使用它。教师需要接受培训，以理解这些工具的局限性和偏见，从而在教学实践中有意识地加以整合。学校课程应包括人工智能的伦理和社会影响教育，使学生成为见多识广和负责任的用户。

目标不仅是让年轻人为技术主导的就业市场做好准备，还要让他们有能力质疑技术对社会的影响。设计良好的人工智能确实可以支持更具包容性的学习，前提是它必须在所有相关方的参与下开发，并尊重学生的多样性。如果缺乏这种警惕，它可能会成为标准化和排斥的工具，而非解放的杠杆。

Sources et crédits

Étude source

DOI : https://doi.org/10.1007/s11125-026-09760-4

Titre : Demystifying AI: The urgency of a critical stance on the use of AI systems in education

Revue : PROSPECTS

Éditeur : Springer Science and Business Media LLC

Auteurs : Dagmar Mercedes Heeg; Lucy Avraamidou