ChatGPT for Good? On Opportunities and Challenges of Large Language Models for Education

Resumo

Large language models represent a significant advancement in the field of AI. The underlying technology is key to further innovations and, despite critical views and even bans within communities and regions, large language models are here to stay. This commentary presents the potential benefits and challenges of educational applications of large language models, from student and teacher perspectives. We briefly discuss the current state of large language models and their applications. We then highlight how these models can be used to create educational content, improve student engagement and interaction, and personalize learning experiences. With regard to challenges, we argue that large language models in education require teachers and learners to develop sets of competencies and literacies necessary to both understand the technology as well as their limitations and unexpected brittleness of such systems. In addition, a clear strategy within educational systems and a clear pedagogical approach with a strong focus on critical thinking and strategies for fact checking are required to integrate and take full advantage of large language models in learning settings and teaching curricula. Other challenges such as the potential bias in the output, the need for continuous human oversight, and the potential for misuse are not unique to the application of AI in education. But we believe that, if handled sensibly, these challenges can offer insights and opportunities in education scenarios to acquaint students early on with potential societal biases, criticalities, and risks of AI applications. We conclude with recommendations for how to address these challenges and ensure that such models are used in a responsible and ethical manner in education.

Bibliografia

KASNECI, Enkelejda et al. ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, v. 103, p. 102274, abr. 2023.

Bibliografia Latex

@article{kasneci2023,
  title = {{{ChatGPT}} for Good? {{On}} Opportunities and Challenges of Large Language Models for Education},
  shorttitle = {{{ChatGPT}} for Good?},
  author = {Kasneci, Enkelejda and Sessler, Kathrin and K{\"u}chemann, Stefan and Bannert, Maria and Dementieva, Daryna and Fischer, Frank and Gasser, Urs and Groh, Georg and G{\"u}nnemann, Stephan and H{\"u}llermeier, Eyke and Krusche, Stephan and Kutyniok, Gitta and Michaeli, Tilman and Nerdel, Claudia and Pfeffer, J{\"u}rgen and Poquet, Oleksandra and Sailer, Michael and Schmidt, Albrecht and Seidel, Tina and Stadler, Matthias and Weller, Jochen and Kuhn, Jochen and Kasneci, Gjergji},
  year = 2023,
  month = apr,
  journal = {Learning and Individual Differences},
  volume = {103},
  pages = {102274},
  issn = {10416080},
  doi = {10.1016/j.lindif.2023.102274},
  urldate = {2025-11-14},
  language = {en}
}

Minhas Notas

Este não é um artigo científico, mas sim um comentário em uma revista científica.

Objetivo

• …

Método

• …

Resultados

• …

Comentários Extras

• Os grandes modelos de linguagem, como o ChatGPT, avançaram o tema de processamento de linguagem natural, especialmente devido a arquitetura transformer e ao mecanismo de atenção. Um exemplo, são os modelos BERT - Bidirectional Encoder Representations from Transformers.
• Uma grande limitação dos grandes modelos de linguagem é a capacidade de interpretar o que é que está acontecendo no modelo.
• Modelos de linguagem podem impactar os diferentes níveis educacionais:
  • No ensino primário: Auxilio nas habilidades de leitura e escrita. Auxílio para gerar questões que indaguem o aluno a ser mais crítico. Auxilia na compreensão de textos através de sumários ou simplificação de textos complexos.
  • No ensino secundário/médio: Gerar exercícios de prática. Providenciar explicações passo a passo para solução de problemas.
  • No ensino superior: Gerar sumários ou destaques de textos para agilizar o entendimento de textos. Auxilio no desenvolvimento de técnicas de pesquisa.
• Para grupos, os modelos para auxiliar a criar melhores estruturas de trabalho, auxiliar na unificação de estilos de escrita, auxiliar a gerar questionamentos claros e também buscar novas questões a serem resolvidas.
• Para o aprendizado, os grandes modelos de linguagem podem auxiliar em:
  • Para aprendizado personalizado: Criar material personalizado para aprendizado. Providenciar feedback contínuo para os alunos.
  • Para o planejamento de aulas: Criar planos inclusivos de aulas e atividades. Geração de questões que gerem engajamento dos alunos. Gerar conteúdo direcionado para verificação do aprendizado.
  • Para aprendizado de línguas: Destacar frases, gerar novas frases, gerar vocabulário, etc.
  • Para pesquisas e escrita: Melhoria sintática de frases, melhoria em erros de orografia e gramática, sugerir melhorias estilísticas, sugerir melhorias no conteúdo, etc.
  • Para desenvolvimento profissional: apoiar no desenvolvimento de novas metodologias, apresentar novas tecnologias, melhorar a clareza de materiais,
  • Para avaliação: semi-automatizar a pontuação de atividades, destacar pontos fortes e fracos de textos e relatórios, etc.
• Os trabalhos mais recentes, até 2021, apresentam um foco maior na geração de avaliações das respostas dos alunos, feedback adaptativo, e a geração de conteúdo de ensino.
• Há uma indicação que grandes modelos de linguagem podem auxiliar na melhoria de ambientes virtuais como de realidade virtual e/ou realidade aumentada. Entretanto, isso me parece um futuro distante ainda.
• Os principais desafios desses modelos na educação são:
  • Questões de direitos autorais, visto que os dados são utilizados tanto no treinamento quanto no refinamento e inferência dos modelos.
  • Questões de vieses, visto que o uso de materiais pode gerar vieses contra grupos e textos que são minoritariamente representados.
  • Estudantes podem se apoiar demais na ferramenta. Isso pode gerar uma certa preguiça e estagnação do pensamento crítico.
  • Educadores podem se apoiar demais na ferramenta. É importante pensar no papel crucial do professor.
  • Falta de conhecimento e expertise. Isso faz com que professores e alunos não compreendam adequadamente a ferramenta e suas possibilidades de uso. Além disso, pode fazer com que mal uso seja apresentado como correto.
  • Custo de treinamento e manutenção. Especialmente importante para modelos que são refinados com dados institucionais.
  • Privacidade e segurança de dados. A definição de políticas de uso de dados e transparência é fundamental.
  • Uso sustentável, especialmente de recursos energéticos.
  • Custo de verificação das informações. Isso pode fazer com que os professores tenham ainda mais trabalho para validação do que está sendo apresentado pelos modelos de IA.

Referências