A inteligência artificial na educação pode realmente reduzir as desigualdades sem criar novas?

A inteligência artificial desperta um entusiasmo particular no campo da educação. Ela é frequentemente apresentada como uma solução milagrosa capaz de aliviar a carga dos professores, personalizar a aprendizagem e tornar a escola mais acessível a todos. Ferramentas como sistemas de tutoria inteligente ou laboratórios virtuais prometem transformar os métodos de ensino e oferecer experiências adaptadas às necessidades de cada aluno. No entanto, por trás dessas promessas escondem-se riscos significativos que poderiam agravar as desigualdades em vez de reduzi-las.

Os algoritmos utilizados nesses sistemas não são neutros. Eles frequentemente reproduzem os vieses presentes nos dados com os quais são treinados. Por exemplo, ferramentas de avaliação automática já demonstraram discriminação contra alunos de minorias linguísticas ou culturais. Sotaques, dialetos ou maneiras de expressar ideias que se afastam da norma dominante podem ser mal interpretados, penalizando certos estudantes sem razão válida. Da mesma forma, tecnologias de reconhecimento facial ou vocal, que pretendem analisar o engajamento ou as emoções, funcionam pior para pessoas de cor ou com deficiência. Essas ferramentas correm o risco, assim, de reforçar estereótipos e marginalizar ainda mais aqueles que já estão em desvantagem.

Outro problema reside no acesso desigual a essas tecnologias. As soluções mais avançadas são frequentemente pagas, reservadas a instituições ou famílias que podem pagá-las. Isso cria uma fratura digital na qual apenas alguns alunos se beneficiam de um ensino enriquecido pela inteligência artificial, enquanto outros ficam de fora. Além disso, esses sistemas são geralmente desenvolvidos por equipes de meios privilegiados, refletindo uma visão monocultural da educação. Eles impõem normas e valores que nem sempre correspondem às realidades locais ou às necessidades de alunos de diferentes origens.

Diante desses desafios, uma abordagem crítica é necessária. Não se trata de rejeitar a inteligência artificial, mas de usá-la com prudência e discernimento. Os professores devem ser treinados para entender os limites e os vieses dessas ferramentas, a fim de integrá-las de maneira reflexiva em sua prática. Os programas escolares deveriam incluir uma educação sobre os desafios éticos e sociais da inteligência artificial, permitindo que os alunos se tornem usuários informados e responsáveis.

O objetivo não é apenas preparar os jovens para um mercado de trabalho dominado pela tecnologia, mas também dar-lhes os meios de questionar seu impacto na sociedade. Uma inteligência artificial bem projetada poderia, de fato, apoiar uma aprendizagem mais inclusiva, desde que seja desenvolvida com a participação de todos os atores envolvidos e respeite a diversidade dos alunos. Sem essa vigilância, ela corre o risco de se tornar uma ferramenta de padronização e exclusão, em vez de uma alavanca de emancipação.

Sources et crédits

Étude source

DOI : https://doi.org/10.1007/s11125-026-09760-4

Titre : Demystifying AI: The urgency of a critical stance on the use of AI systems in education

Revue : PROSPECTS

Éditeur : Springer Science and Business Media LLC

Auteurs : Dagmar Mercedes Heeg; Lucy Avraamidou