SciELO - Scientific Electronic Library Online

 
vol.35 número2Expansão da Educação a Distância no ensino superior: trajetórias na Argentina, Brasil, Chile e ColômbiaProcessos de participação de estudantes do ensino técnico integrado: Estudo da realidade de uma instituição de ensino no Estado do Amazonas, Brasil índice de autoresíndice de assuntosPesquisa de artigos
Home Pagelista alfabética de periódicos  

Serviços Personalizados

Journal

Artigo

Indicadores

Links relacionados

  • Não possue artigos similaresSimilares em SciELO

Compartilhar


Revista Portuguesa de Educação

versão impressa ISSN 0871-9187versão On-line ISSN 2183-0452

Rev. Port. de Educação vol.35 no.2 Braga dez. 2022  Epub 01-Nov-2021

https://doi.org/10.21814/rpe.23750 

Artigos Originais

Estratégias para promover a agência do estudante no processo de avaliação e feedback digital

Strategies to promote student agency in the digital assessment and feedback process

Estrategias para promover la agencia de los estudiantes en el proceso de evaluación y retroalimentación digital

Diogo Casanova1  2 

1Universidade Aberta, Portugal.

2Centro de Investigação em Didática e Tecnologia na Formação de Formadores (CIDTFF), Portugal


Resumo

A avaliação e o feedback digital têm vindo a crescer como temas de investigação nos últimos anos, em particular no ensino superior. Dentro destes temas, o papel do estudante como tendo agência no processo de avaliação e feedback é considerado uma área relevante sobretudo tendo em conta o contexto do ensino superior, no qual se pretende que o estudante desenvolva competências de aprendizagem ao longo da vida. Nesta investigação pretende-se investigar a disponibilidade dos docentes para ceder ao estudante algum do poder que detêm no processo de avaliação. Procura-se, também, identificar que estratégias podem ser utilizadas pelos docentes no sentido de promover este novo papel do estudante na avaliação digital. A partir de uma metodologia qualitativa, foram recolhidos dados de 58 docentes que participaram em 10 focus-group criativos, uma abordagem ao focus-group na qual, para além de se envolverem em discussão sobre as suas práticas, os participantes procuraram, em grupo, desenvolver soluções de melhoria pedagógica e tecnológica nas suas práticas de avaliação digital. Como resultado da investigação, identifica-se um conjunto de recomendações para promover maior envolvimento do estudante nas estratégias de avaliação, organizado em três temas: (i) a preparação para a avaliação; (ii) a avaliação formativa; e (iii) o feedback após a submissão.

Palavras-chave Agência do estudante; Avaliação digital; Feedback; Pedagogia

Abstract

Digital assessment and feedback have been seen as growing themes of research in recent years, particularly in higher education. Within these themes, the role of the student agency in assessment and feedback is considered a relevant area, especially bearing in mind the context of higher education, in which it is intended that students develop lifelong learning skills. In this research we intend to investigate whether teachers are available to let go of some of their existing power in the assessment process to the student. Furthermore, we intent to understand which strategies are identified by teachers to promote this new student role in digital assessment. Using a qualitative methodology, 58 teachers participated in creative-led focus-groups in which, in addition to being involved in discussions about their practices, they were asked to find new pedagogical and technical solutions for improving their digital assessment practices. Based on this discussion, we identify a set of recommendations to promote student agency in digital assessment and feedback, organised under three themes: (i) preparation for the assessment; (ii) formative assessment; and (iii) feedback after submission.

Keywords Student agency; Digital assessment; Feedback; Pedagogy

Resumen

La evaluación y la retroalimentación digital han ido creciendo en los últimos años como temas de investigación, particularmente en la educación superior. Dentro de esta temática, el rol del estudiante como agente en el proceso de evaluación y retroalimentación se considera un área en crecimiento, especialmente considerando el contexto de la educación superior, en el que se pretende que el estudiante desarrolle habilidades de aprendizaje a lo largo de la vida. En esta investigación pretendemos indagar en la disponibilidad de los profesores para ceder parte del poder que tienen en el proceso de evaluación al alumno. También se busca identificar qué estrategias son identificadas por los docentes para promover este nuevo rol del estudiante en la evaluación digital. A partir de una metodología cualitativa, se recolectaron datos de 58 profesores que participaron en 10 grupos focales creativos, un acercamiento al focus-group en el que, además de estar involucrados en discusiones sobre sus prácticas, se les pide a los participantes que busquen, en grupo, desarrollar soluciones para mejora pedagógica y tecnológica en sus prácticas de evaluación digital. A partir de esta discusión, se identifica un conjunto de recomendaciones para promover una mayor participación de los estudiantes en las estrategias de evaluación, organizado en tres temas: (i) preparación para la evaluación; (ii) evaluación formativa; y (iii) retroalimentación después de la presentación.

Palabras clave Agencia estudiantil; Evaluación digital; Retroalimentación; Pedagogía

1. Introdução

A avaliação digital e o feedback têm vindo a ser áreas de crescente interesse no setor do ensino superior (ES), em particular num contexto temporal em que existe uma pressão contínua sobre o ensino e aprendizagem digitais motivada pela COVID-19 e pela globalização e massificação do acesso ao ES. O ensino emergencial veio colocar em evidência a necessidade de se repensar a avaliação digital de forma estrutural e sustentável (Moreira et al., 2020). Neste artigo, procurar-se-á aprofundar o tema do papel do estudante no contexto da avaliação digital e a função das plataformas de avaliação digitais (PAD) na promoção deste papel. As PAD têm vindo a ser utilizadas no sentido de melhorar a eficiência e o acesso ao processo de avaliação e feedback, não só como veículo na promoção de redução do erro durante a transição das notas entre diversas plataformas, pois esse processo torna-se mais automatizado, mas também como mecanismo de facilitação do acesso do estudante às notas e ao feedback recebido de forma mais atempada (Bausili, 2018).

A utilização das PAD está, de forma gradual, a ter um impacto significativo no processo de avaliação e, embora este crescimento tenha vindo a ser mais evidente no contexto anglo-saxónico (Bausili, 2018; ElShaer et al., 2020), também em Portugal ele tem vindo a tornar-se mais saliente (Amante & Oliveira, 2019), em particular após o confinamento provocado pela COVID-19. Com as PAD, temos, em teoria, ao nosso dispor a capacidade de desenvolver práticas mais transparentes, acessíveis e eficazes na avaliação e no feedback (Santos, 2018); no entanto, aquilo que se verifica é que as PAD são desenvolvidas para suportar processos mais eficazes e transparentes, não respondendo às necessidades pedagógicas de tornar os elementos de avaliação conducentes à aprendizagem. Como referem Amante e Oliveira (2019): “a simples utilização das tecnologias digitais no processo de avaliação não evidencia necessariamente perspetivas de ensino transformadoras” (p. 3). A consequência natural é que os docentes, quando utilizam as PAD, favorecem metodologias de avaliação suportadas no feedback unidirecional, sem o envolvimento ativo do estudante neste processo (Boud & Falchikov, 2006; Nieminen & Tuohilampi, 2020), ou, simplesmente, sem feedback. Esta lógica unidirecional do processo de avaliação está enraizada num modelo de avaliação em que o feedback existe, não como catalisador da aprendizagem do estudante, mas como plataforma de justificação de uma nota (Amante & Oliveira, 2019). Há, no entanto, um conjunto de novas evidências que suportam a importância do processo de feedback na aprendizagem do estudante; que o feedback dado ao estudante durante o processo de avaliação é um dos mais influentes e eficazes paradigmas de aprendizagem, e, consequentemente, que representações socioconstrutivistas do processo de feedback são as mais apropriadas para uma aprendizagem eficaz. Representações de feedback que envolvam o estudante na autoavaliação e na discussão sobre a avaliação com os seus pares e com os docentes (Fernandes, 2006; Hattie & Timperley, 2007), em contraponto a modelos de feedback suportados no cognitivismo e transmissão de informação. Existe, igualmente, um número cada vez mais significativo de autores que suportam a ideia de que quanto maior for o envolvimento ativo do estudante com a avaliação, maior impacto esta terá ao longo do seu processo de aprendizagem (Boud & Falchikov, 2006; Carless & Boud, 2018; Winstone, 2019). Realça-se, aqui, o trabalho relevante nesta área proposto por Amante e Oliveira (2019) com o seu conceito de “cultura da avaliação” em contraste com a “cultura do teste”.

Um conjunto de autores tem-se debruçado, recentemente, sobre esta relação entre o feedback na avaliação e o papel do estudante sob a lente da agência do estudante no processo de ensino e aprendizagem (Nieminen & Tuohilampi, 2020; Pacheco et al., 2020; Winstone et al., 2017). Este artigo procura compreender a perceção dos docentes sobre o conceito de agência do estudante no processo de avaliação e, refletindo sobre esta temática, de que forma os docentes encontram nas PAD um caminho para implementar melhores práticas de avaliação que estejam ancoradas num papel mais ativo do estudante. Procura-se responder à questão: de que forma podem os docentes melhorar as suas estratégias de avaliação para promover maior agência do estudante nos processos de avaliação e feedback digitais?

O conceito de agência leva a discussões sobre o balanço do poder no ensino e aprendizagem, sobretudo numa área que tem vindo a ser dominada pelo docente – a da avaliação (Nieminen & Hilppö, 2020). Será de todo impossível alcançar uma situação em que o estudante exerce agência na sua avaliação se o docente não ceder algum do controlo que mantém no processo de avaliação. Daí que se tenha procurado compreender se, em contexto educativo, o docente se sentiria capaz de ceder algum do controlo do processo de avaliação e, fazendo-o, de que forma consideraria possível essa cedência ser implementada numa PAD.

O artigo inicia com uma revisão do conceito de agência do estudante em contexto de ensino e aprendizagem. Considerou-se que esta definição do conceito de agência é fundamental, pois permite enquadrar metodologicamente os dados empíricos analisados, bem como situar conceptualmente o leitor no quadro teórico relativamente inovador em que assenta esta investigação. Seguidamente, apresentamos os métodos de investigação utilizados e os resultados. O artigo conclui com recomendações dirigidas a docentes e a instituições de ensino sobre a forma como a agência do estudante pode ser exercida em práticas de avaliação e feedback.

2. Enquadramento Teórico

Não existe uma definição consensual sobre o conceito de agência do estudante na educação, embora a maioria dos autores concordem com a definição de que o estudante desenvolve controlo ou uma sensação de controlo sobre o seu processo de aprendizagem e, consequentemente, a capacidade de ter uma voz ativa neste processo (Casanova et al., 2021; Charteris & Smardon, 2018; Matusov et al., 2016). Este conceito de agência não é um novo conceito. Foi inicialmente introduzido no âmbito de perceções liberais e neoliberais da sociedade nas quais é dada a possibilidade ao indivíduo de poder tomar decisões livremente sobre a sua vida em sociedade (Matusov et al., 2016); este conceito tem sido associado, ao longo dos anos, a teorias e abordagens educacionais como a autodeterminação (Ryan & Deci, 2000), o desenvolvimento do indivíduo (Dweck, 2008) e a autorregulação da aprendizagem (Bandura, 2001). Movimentos humanistas enquadram o conceito de poder como produto de ter agência, estando os indivíduos naturalmente capacitados para o exercer. No entanto, este poder pode, em tese, ser cedido ao indivíduo ou ser-lhe retirado (Charteris & Smardon, 2018).

No caso desta investigação, utiliza-se a definição de agência como ´new material agency´ (Charteris & Smardon, 2018) – um processo dinâmico que é gerado através de um conjunto de elementos existentes no ambiente educacional. A agência é exercida pelo indivíduo quando este se relaciona com objetos e com outros indivíduos, ao contrário da ideia de que o indivíduo possui, por inerência, uma capacidade ontológica de exercer agência de forma intrínseca (Charteris & Smardon, 2018). Ao reforçar a inclusão explícita destes elementos, Charteris e Smardon (2018) sugerem que estamos a fortalecer o posicionamento do estudante em relação ao seu papel na aprendizagem. Por outras palavras, estamos a sinalizar junto do estudante de que forma ele pode exercer agência na sua aprendizagem.

Matusov et al. (2016) sugerem uma abordagem semelhante na qual deve ser introduzido um processo que traga algo de novo, inovador e disruptivo ao processo de aprendizagem; esta abordagem trará ao estudante novas formas de pensar e, em consequência destas novas formas de pensar, o estudante desenvolverá novas competências de aprendizagem. Assim, ao tornar explícito onde o estudante pode exercer a sua agência, estaremos a fortalecer o posicionamento do estudante em relação à sua responsabilidade no processo de aprendizagem (Charteris & Smardon, 2018). Em termos práticos, esta sinalização no processo de aprendizagem resulta de um redesenho do contexto educativo – por exemplo, quando se desenham salas de aula que suscitem o trabalho ativo ou colaborativo (Casanova et al., 2020; Pedro, 2017), ou quando se implementam decisões pedagógicas que incutam no estudante um papel atuante, como a avaliação por pares ou a autoavaliação (Amante & Oliveira, 2019).

Embora possa não ser a visão mais pura e humanista do conceito de agência, ao disponibilizarmos uma variedade de sinais no ambiente de aprendizagem estamos a disponibilizar ao estudante um conjunto de possibilidades para que ele possa demonstrar uma aprendizagem com maior agência. Esta visão vem em contraciclo com o desenho dos espaços de aprendizagem ou com a própria visão ultramodernista e massificada do ensino superior (Casanova, 2021). Na avaliação, esta é uma alteração significativa, em particular porque o setor da educação tem, historicamente, favorecido um modelo de avaliação e de feedback sustentado na transmissão unidirecional da informação que enquadra o estudante como recetor de informação e não como parte ativa no diálogo sobre a informação (Boud & Falchikov, 2006; Nieminen & Tuohilampi, 2020). O papel do docente é dominante, liderando o processo desde o início, quando desenha os elementos de avaliação e identifica os critérios de avaliação, até ao final, ou quando avalia, dando uma nota e feedback. Esta investigação sustenta-se nesta noção de balanço de poder entre docente e estudante.

3. Métodos

O conceito de agência no fenómeno da avaliação das aprendizagens tem sido pouco conceptualizado e investigado (Nieminen & Hilppö, 2020). Esta foi uma das razões pela qual se sentiu a necessidade de se criar um quadro conceptual que abordasse estas questões relativamente à avaliação digital e que permitisse aos participantes refletirem com base no mesmo ponto de partida. Tendo em conta que os participantes neste estudo eram originários de diversas áreas disciplinares, procurou-se desenvolver um cenário que fosse comum. Fomos informados por técnicas de desenho participado (Casanova et al., 2020; Penuel et al., 2007), nomeadamente na utilização de uma experiência de redesenho de um protótipo de uma PAD com o objetivo de promover a discussão de ideias e a reflexão sobre o cenário. Este tipo de abordagem foge ao tradicional processo de recolha de dados, pois injeta nos participantes um entusiasmo e um sentimento de colaboração com um objetivo final (Casanova et al., 2018). Através deste tipo de abordagem, os investigadores conseguem recolher um conhecimento profundo sobre a relação simbiótica entre os utilizadores e um produto ou um processo, algo difícil de atingir num formato tradicional de entrevista ou de focus-group (Frohlich et al., 2014).

3.1. Contexto Do Estudo

Esta investigação decorreu em duas universidades inglesas que têm estado envolvidas, há mais de uma década, em processos de avaliação digital. Em ambas as instituições foram sendo desenvolvidos regulamentos e práticas para dar apoio ao processo, tendo os docentes tido formação e apoio institucional para criarem os seus processos de avaliação digital. Há a expetativa, em ambas as instituições, de que pelo menos uma componte do regime de avaliação de cada unidade curricular seja feita de forma digital, algo que faz parte da prática no setor do ensino superior no Reino Unido (Bausili, 2018). A avaliação digital pode ser realizada em vários formatos. No âmbito deste projeto, e porque se procurava discutir a agência do estudante, procurou-se, através do cenário proposto, retratar todos os elementos de avaliação que estejam sustentados em submissão de documentos escritos, como ensaios, relatórios, reflexões ou dissertações. Esta é, também, a área da avaliação digital mais utilizada em Portugal (Amante et al., 2019). Por forma a não limitar o ciclo de estudos ou as disciplinas, no âmbito do cenário proposto, não foram feitas mais referências ao elemento de avaliação para além de uma referência à submissão de documentos escritos. A descrição do elemento de avaliação poderia excluir a discussão de práticas em algumas disciplinas. Em cada uma das instituições, há a expetativa de que, no âmbito da submissão de um elemento de avaliação, exista uma nota, que, geralmente, é suportada por feedback, dado para justificar a nota ou para recomendar melhorias ao estudante. A recomendação, em ambas as instituições, é de que a gestão deste processo seja feita online, através de uma PAD.

3.2. Recolha De Dados

Os dados foram recolhidos através da realização de focus-group criativos, também referidos, por Frohlich et al. (2014), como ‘sandpits’ ou ‘caixas de areia’, influenciados por abordagens criativas e de desenho. Este tipo de abordagem incluiu técnicas de storytelling que ajudaram a contextualizar o cenário da utilização do protótipo da PAD. Cada focus-group estava organizado em três fases:

  1. Enquadramento – O cenário era apresentado aos participantes através da leitura de um guião, desenvolvido para o efeito, que caracterizava o papel do docente e do estudante numa PAD proposta a partir de um protótipo;

    Crítica – Foi solicitado aos participantes que sinalizassem, utilizando notas em post-its de cor, aquilo que pretendiam: (i) manter no cenário (verde); (ii) manter no cenário com alterações (amarelo); e (iii) retirar (vermelho). Esta metodologia permitia aos participantes posicionarem-se e discutir, quer o conteúdo do guião sobre a avaliação digital, quer as próprias funcionalidades da PAD;

    Consolidação – Era dada aos participantes a oportunidade de consolidar a discussão através da sugestão de alterações no processo ou na PAD.

Cada focus-group teve a duração de uma hora. Foram realizados 10 focus-group envolvendo 58 docentes provenientes de duas instituições de ensino superior (Tabela 1).

Tabela 1: Distribuição dos Focus-Group. 

Procurou-se selecionar docentes de diferentes áreas científicas e com experiências distintas, pois tentou-se capturar perspetivas diversas sobre a avaliação e promover a discussão acerca das facetas multidisciplinares do feedback e da avaliação (Twining et al., 2017). Embora investigação recente tenha sugerido que as especificidades das disciplinas influenciam as práticas de avaliação e feedback (ElShaer et al., 2020), sustentou-se que a triangulação de experiências de docentes de várias áreas científicas propiciaria uma discussão mais rica e mais diversa.

Os investigadores participaram ativamente durante o focus-group, pois foram eles os responsáveis por ler a narrativa de enquadramento, apresentar o cenário e moderar e estabelecer ligações entre o protótipo e as práticas pedagógicas e digitais dos participantes. Este duplo papel de facilitador e investigador foi explicado aos participantes no início de cada focus-group de forma a clarificar possíveis conflitos éticos (Kemmis et al., 2014).

As discussões e interações durante os focus-group foram gravadas e transcritas. As fotografias dos post-its foram utilizadas como dados secundários que poderiam ser usados para ilustrar ou ajudar a contextualizar as discussões de cada grupo (Figura 1).

Figura 1: Demonstração de Algum do Trabalho de Anotação Durante a Fase 2 – Crítica. 

3.3. O PROTÓTIPO DA PAD

O protótipo da PAD foi ilustrado utilizando a plataforma Balsamic Mockups 3. Este tipo de abordagem permitiu replicar uma sessão de desenho participado, que é utilizado frequentemente no desenho de software, pois permite combinar a experiência dos utilizadores na utilização da plataforma com a sua criatividade, procurando encontrar novas soluções de desenho e novas funcionalidades. O protótipo da PAD foi desenhado com o objetivo de replicar o típico processo de avaliação e feedback em contexto de submissão de trabalho escrito. Foram, no entanto, introduzidas novas funcionalidades, focando, em particular, soluções para encorajar maior agência do estudante neste processo. Esta foi a solução encontrada pelos autores para desenvolver novas possibilidades de discussão entre os participantes, pois verificou-se que a maioria das PAD analisadas não apresentavam oportunidades ao estudante para exercer agência no seu processo de avaliação (Casanova et al., 2021).

O tópico da narrativa assentava na submissão de um documento escrito, na plataforma digital, como elemento de avaliação. Utilizou-se o conceito de personas ou personagens (Earnshaw et al., 2017) como método de caracterização do docente e do estudante. Esta abordagem permitiu oferecer ao participante uma descrição ficcional sobre o papel do docente (com o nome de Ayesha) e do estudante (com o nome de John Chu) no processo de avaliação digital.

Figura 2: Representação da Fase em que John Chu faz a Primeira Tentativa de Submissão do seu Trabalho 

Figura 3: Representação da Fase em que John Chu Ressubmete o seu Trabalho com Base na Avaliação do Feedback Recebido do Docente. 

Nas Figuras 2 e 3, é possível visionar algumas das funcionalidades exploradas no protótipo do PAD: na Figura 2 está representada uma área em que o estudante pode fazer perguntas sobre a avaliação ao docente, antes de submeter o trabalho, enquanto na Figura 3 está ilustrada uma funcionalidade que permite ao estudante rever o feedback recebido e ressubmeter o seu trabalho melhorado. Procurámos utilizar o método de ‘storytelling’ para descrever este processo, pois, para além de permitir caracterizar cada uma das funcionalidades, permitiu também ajudar à reflexão sobre o processo de avaliação e feedback apresentado para discussão. Tendo em conta a diversidade dos participantes, a metodologia de ‘storytelling’ foi importante para que iniciassem o processo de crítica com o mesmo quadro concetual e com uma perspetiva mais assertiva sobre o exercício em discussão.

3.4. Análise De Dados

Fomos informados pelo trabalho de Braun e Clarke (2021) e as suas perspetivas sobre a análise temática reflexiva (AT) para a investigação qualitativa. Concordamos acerca da relevância da subjetividade do investigador como recurso na análise dos dados, como parte das suas próprias conceções das teorias e de como essas teorias informam a interpretação dos dados (Braun & Clarke, 2021). A AT reflexiva incentiva os investigadores a não se envolverem no processo analítico como um processo exclusivamente indutivo ou dedutivo, mas a reconhecerem que ambos podem trabalhar em conjunto no “contínuo”, e não numa “dicotomia” (Clarke & Braun, 2013).

Os dados foram recolhidos e analisados respeitando todos os requisitos éticos, incluindo o anonimato e a confidencialidade dos dados e dos participantes. Os dados foram transcritos para o software NVivo12. Os investigadores geraram os códigos iniciais baseados na indução e na sua própria reflexão acerca dos dados recolhidos para cada instância individual. Aqui os códigos foram considerados como entidades que captam, pelo menos, uma observação dos dados (Charmaz, 2006).

O processo de análise de dados seguiu a abordagem sugerida por Braun e Clarke (2021): iniciou-se com a familiarização dos dados, fazendo uma codificação sistemática dos mesmos; em segundo lugar, geraram-se os temas iniciais a partir de dados codificados e coligidos (abordagem indutiva) e passou-se ao desenvolvimento e revisão do conjunto principal de temas com base numa abordagem dedutiva suportada pela literatura relacionada com o conceito de agência. O processo terminou com a afinação, definição e nomeação desses temas: (i) preparação para a avaliação; (ii) avaliação formativa; e (iii) feedback pós-submissão.

4. Resultados E Discussões

Um dos resultados mais relevantes para esta investigação foi a confirmação de que todos os grupos concordaram com a necessidade de um papel do estudante mais ativo no processo de avaliação.

There is a balance of power. The assessment process seems to be loaded quite often on the part of the lecturer… we should be looking at a scenario where you give me some feedback and I challenge you and you challenge me back. (Participante no Grupo 6)

Sem o docente manifestar disponibilidade para ceder algum do seu papel dominante no processo de avaliação, pouco sentido faria discutirem-se estratégias para promover oportunidades para o estudante exercer agência neste processo (Nieminen & Hilppö, 2020).

Enquanto explorava o protótipo apresentado, a maioria dos docentes participantes revelou concordância sobre o valor da tecnologia no suporte à promoção de maior agência do estudante. A exceção foi partilhada por um docente da área da saúde, que referiu preferir a avaliação em contexto presencial afirmando que reuniões presenciais demorariam menos tempo a ser realizadas quando comparado com o do feedback escrito. Estes resultados podem ter emergido como consequência dos processos existentes nas duas universidades dos docentes participantes no estudo, nas quais a avaliação digital é já uma prática consagrada e suportada pelas instituições. Esta perceção pode ter influenciado os participantes a darem a resposta ‘certa’ ou ‘esperada’. Pode-se questionar se o resultado seria diferente se outro método de recolha de dados fosse utilizado, por exemplo se fossem realizadas entrevistas individuais.

Conforme referido anteriormente, os dados foram estruturados em três temas, que são apresentados e discutidos na secção seguinte.

4.1. Preparação para A Avaliação

O protótipo apresentado sugeria alguns elementos que procuravam instigar a reflexão sobre o papel do estudante na avaliação e no enunciado do elemento de avaliação (Figura 1). Por exemplo, a utilização de uma rubrica de avaliação para permitir refletir sobre os critérios de avaliação, ou uma caixa de mensagens para ajudar os estudantes a dirigir questões ao docente ou a entrar em diálogo com os seus colegas acerca da avaliação. O envolvimento do estudante antes do processo de submissão dos trabalhos foi considerado, durante as discussões, um aspeto fundamental no processo de avaliação. Os docentes relataram que os erros tipicamente cometidos pelos estudantes nos elementos de avaliação eram consequência do mau entendimento sobre os objetivos do elemento da avaliação ou sobre os critérios de avaliação.

What might be nice is to… include a checklist that could be personalised by the lecturer... So, for example, you know… make sure you make all your references in this format, make sure that you have included the ethics form, whatever might be additionally needed… just to provide a little bit of scaffolding. (Participante no Grupo 7)

A utilização de uma ‘checklist’ com questões específicas para orientar os estudantes em relação à formatação das referências bibliográficas, extensão do documento, critérios de avaliação, correção ortográfica ou reflexões sobre feedback anteriormente referido foi recomendada para ser incluída neste sistema.

Outras sugestões apresentadas durante os focus group, em relação à preparação do estudante, não referidas no protótipo foram: (i) a utilização de exemplos no sentido de ajudar o estudante a compreender o que se pretende com o elemento de avaliação; (ii) a autoavaliação utilizando os critérios de avaliação; e (iii) a utilização de tarefas de avaliação por pares. Estas atividades foram consideradas importantes para desenvolver a literacia da avaliação:

what I have done in class with my learners is: I've taken a sample paper from a previous group and then anonymised it, and then having them mark it, using the rubric and the assessment brief. Some of them did it okay. Others struggled. But it was starting to make more sense when they could actually have a go at doing it themselves. (Participante no Grupo 2)

A utilização de exemplos no sentido de promover melhor compreensão sobre o que se pretende na avaliação e de ajudar o estudante a avaliar usando os critérios de avaliação, é uma estratégia muito discutida na literatura (Carless & Chan, 2017; Dixon et al., 2020).

A aplicação de rubricas de avaliação para apoiar estas estratégias de autoavaliação e de avaliação por pares, foi apoiada em cinco focus-group. Investigação recente aponta para a importância de serem utilizadas estratégias de autoavaliação do estudante, sobretudo em contextos de avaliação sumativa, visto que apenas nestes momentos o estudante sente motivação para se envolver de forma mais ativa nas atividades de autoavaliação (Nieminen & Tuohilampi, 2020). Neste âmbito, sugere-se que a avaliação digital fomente oportunidades ao estudante para se autoavaliar utilizando os critérios de avaliação. Para se concretize esta recomendação, é necessário que os docentes comuniquem os critérios de avaliação atempadamente e que promovam a discussão sobre os mesmos. As PAD podem auxiliar no sentido em que podem ser desenvolvidas para incluir uma checklist antes da submissão que faça com que o estudante se prepare para a avaliação através de questões orientadoras.

4.2. Avaliação Formativa

Uma área bastante discutida na literatura tem a ver com a oportunidade de o feedback promover o diálogo entre o estudante e o docente. Este diálogo é fundamental para promover a aquisição, por parte do estudante, de literacia da avaliação: “learners’ ability to understand, utilise and benefit from feedback processes” (Molloy et al., 2020, p. 2). Alguns autores referem a necessidade de se utilizarem quadros conceptuais para a literacia da avaliação com os quais o estudante possa desenvolver gradualmente esta competência no seu processo de aprendizagem enquanto recebe feedback do docente e desenvolve as suas próprias estratégias para melhor a qualidade dos seus trabalhos (Carless & Boud, 2018; Molloy et al., 2020; Winstone et al., 2017). É de notar que, para ter efeito, o feedback disponibilizado pelo docente não pode ser entregue ao estudante na sequência final da aprendizagem, sem dar a possibilidade ao estudante de melhorar o seu desempenho numa avaliação futura (Gomes, 2009; Molloy et al., 2020). Quando se desenvolveu o protótipo procurou-se incluir um conjunto de funcionalidades que permitissem a promoção do diálogo entre o docente e o estudante. Deu-se, por exemplo, a possibilidade ao estudante de comentar cada iteração de feedback e colocar questões. Foram também incluídas, no guião, referências à possibilidade de múltiplas submissões do trabalho para permitir a melhoria da qualidade do mesmo.

As funcionalidades de diálogo foram identificadas como estratégias pedagógicas relevantes pelos diversos grupos. No entanto, a disposição destas funcionalidades na plataforma foi muito discutida, pois foi identificado um conjunto de problemas na abordagem sugerida de existirem diversas iterações entre docente e estudante relativamente ao trabalho submetido. Alguns grupos, por exemplo, sugeriram a submissão de uma versão mais curta, em formato draft, na qual o feedback pudesse refletir os critérios de avaliação e que evitasse a submissão de uma versão extensa do trabalho. Disponibilizar o feedback a uma versão completa do trabalho foi identificado como uma estratégia incorreta pela maioria dos participantes, pois poderia levar a uma abordagem inconsistente entre o feedback da versão preliminar e a avaliação final, o que poderia conduzir a reclamações dos estudantes.

When they show us a draft, again, the university current guidelines are that you just see, like a plan and maybe a sample with a couple of paragraphs; you're not supposed to see the whole assignment, because that's seen as giving them unfair advantage, because you are, in effect, marking it but not marking it. And then, if they have problems, then it comes back to bite you because they say: “but you looked at it, and you didn't flag anything up”. (Participante no Grupo 2)

Para além disso, foi também levantado um conjunto de preocupações sobre o número de iterações do processo, uma vez que o docente poderia ajudar significativamente na qualidade da avaliação, mesmo que não fosse a sua intenção, tornando-se, ele próprio, coautor do documento.

When you say that this could be running four or five times? I guess there is a question about at the end of the day: how much of that work is the learner’s work? And how much of it is my work? You know… Yes, if you’re doing it as part of the formative process, you are writing it for them. (Participante no Grupo 2)

É interessante refletir, neste contexto, a aparente insegurança dos participantes no processo de avaliação e feedback, pois demonstraram receio na inconsistência da sua prática de avaliação. Esta conclusão pode ser discutida numa dimensão da falta de literacia de feedback existente também da parte dos docentes. De forma a evitar esta situação, foi sugerida, por um grupo de docentes, a possibilidade de o feedback formativo ser disponibilizado como parte integrante ao nível do curso, ou seja, procurando fazer ligações com elementos de avaliação de outras unidades curriculares. Esta é uma sugestão interessante, pois não é, de momento, explorada nas PAD mais utilizadas, que tendem a ser desenhadas a nível de módulo ou unidade curricular e não ao nível do curso.

Esta inovação teria, no entanto, de ser desenvolvida para além da própria plataforma, pois exigiria uma abordagem ao feedback abrangente na qual a equipa docente tivesse uma noção sobre os elementos de avaliação do curso e sobre os critérios da avaliação. Winstone et al. (2016) referem que a modularização das PAD leva a uma fragmentação da experiência de aprendizagem, tornando as unidades curriculares e os elementos de avaliação ilhas isoladas, sem interligações entre si, e, consequentemente, com pouco impacto no processo de aprendizagem do estudante e no desenvolvimento de competências transversais. Do ponto de vista da melhoria futura das PAD, a inovação pode passar pelo desenvolvimento de um arquivo de feedback recebido pelo estudante que possa ser reutilizado sempre que ele estiver a preparar-se para a submissão de um elemento de avaliação. Durante os focus-group, os grupos refletiram sobre o valor real do feedback disponibilizado, pois esse raramente era lido pelo estudante. A sugestão proposta passava por etiquetar o feedback escrito pelo docente, que seria depois arquivado numa pasta na PAD. Este processo de arquivo permitiria ao estudante pesquisar e navegar pelo feedback recebido antes de submeter os trabalhos de avaliação para confirmar aspetos que pudessem ser melhorados que já tivessem sido explorados noutros trabalhos. Exemplos de etiquetas podiam ser, por exemplo, “referências bibliográficas”, “problemas gramaticais” ou “estrutura frásica”.

Regarding the possibility of learners being able to extract the feedback received for future assignments, or potentially feedback appears on the checklist before learners submit (almost like a nudge). (Participante no Grupo 7)

No grupo 7 foi dada a sugestão de que o docente da unidade curricular tivesse acesso ao arquivo de feedback do estudante em trabalhos anteriores para que este pudesse informar o processo de avaliação. Outro aspeto sugerido para melhoria do protótipo era a possibilidade de o arquivo de feedback estar disponível ao docente durante o processo de avaliação para que ele pudesse reutilizar alguns dos comentários produzidos em trabalhos anteriores do estudante, com as opções de feedback existentes a aparecerem ao mesmo tempo que o docente escrevia na PAD. Esta funcionalidade permitiria maior consistência na avaliação e maior compreensão do estudante sobre o que era escrito no feedback.

No âmbito deste tema, recomenda-se aos avaliadores uma visão holística do processo de avaliação que partilhe bancos/arquivos de feedback que possam ser reutilizados pelos docentes que avaliam ou mesmo pelos estudantes. Recomenda-se, também, que as PAD sejam mais utilizadas a nível de curso, em particular quando se enquadra a avaliação e a possibilidade de o estudante refletir acerca do feedback recebido como parte integrante de toda a sua experiência de aprendizagem.

4.3. Feedback após A Submissão

Um dos aspetos mais discutidos na investigação sobre feedback na literatura é o papel passivo do estudante quando recebe este feedback e, mais recentemente, a constatação de que muitos estudantes não leem o feedback que recebem nas PAD, concentrando-se unicamente na nota (Winstone et al., 2021). Este aspeto foi discutido em todos os grupos, pois, embora existisse a perceção de que os docentes eram pressionados a escrever bom feedback, os estudantes nem sempre refletiam ou promoviam uma ação de melhoria após a receção desse feedback. No protótipo explorado, foi incluída uma funcionalidade que permitia ao estudante “concordar com o feedback” de forma a confirmar a nota. Esta funcionalidade foi particularmente discutida, pois os docentes sentiram que a plataforma estava a dar demasiado poder ao estudante.

And also, we felt, where it says ‘agree with feedback’, that was a bit controversial… So, could it have something that would require somebody to accept the feedback after they've read it, because this indicates, when you go in straight away, the learner gets their mark, that, as we know, learners aren't reading feedback. So, to encourage that, could we have something where they have to see their feedback first, go through it, tick a box to say they've actually read it, and then they get access to their mark following that? (Participante no Grupo 3)

So, coming back to the mark agreed or not agreed, if the mark wasn't valid until the learners have read the feedback, that would be a very powerful way to ensure that learners do read the feedback. (Participante no Grupo 4)

Os docentes concordaram com a necessidade de promover maior envolvimento do estudante com o processo de feedback, mas não concordaram com a funcionalidade de aceitar o feedback, pois esta criaria tensões entre o estudante e o docente. Segundo alguns docentes, os estudantes confundiam frequentemente o feedback recebido com a nota e, consequentemente, enquanto refletiam sobre o feedback recebido, estavam, de facto, a refletir sobre a justiça da nota recebida e não sobre o valor do feedback. Este argumento está fortemente enraizado num conceito de marketização do ensino superior no Reino Unido, no qual o estudante, por pagar propinas, sente que tem o poder de consumidor de um serviço (Woodall et al., 2014). Contudo, os docentes foram unânimes em considerar o valor pedagógico de encorajar os estudantes a envolver-se com o feedback, sobretudo quando têm de desenvolver uma ação em resposta ao feedback recebido antes de a nota ser disponibilizada – por exemplo, refletindo sobre mudanças que farão em futuros trabalhos ou apresentando os motivos para não concordarem com o feedback recebido.

Embora esta seja uma prática apreciada pelos docentes, ela não é fácil de replicar nas PAD. As PAD têm sido desenvolvidas num modelo em que a nota e o feedback são cupulados e disponibilizados no mesmo momento. A consequência imediata é que o estudante procure a nota, muitas das vezes ignorando o feedback que recebe. Aqui, a tecnologia influencia o comportamento do estudante pela negativa.

Assim sendo, uma recomendação que se faz é a de avaliar em dois ciclos. Primeiro avalia-se o trabalho, dando feedback ao estudante e guardando a nota num ficheiro externo. Solicita-se ao estudante que, como parte da avaliação, tenha de submeter uma reflexão sobre o feedback recebido. Num segundo momento, e após confirmar que essa reflexão foi submetida, o docente disponibiliza/importa a nota. Assim, forçará uma ação ativa do estudante em relação ao feedback. Tendo em conta o aumento potencial de carga de trabalho do docente neste processo, sugere-se que estas atividades sejam consideradas como dois elementos de avaliação e parte integrante da aprendizagem do estudante na unidade curricular. Em alternativa, esta estratégia poderia ser automatizada através da própria funcionalidade da PAD, o que levaria a que o processo fosse separado e desenvolvido através de etapas.

5. Conclusões

Neste estudo procurou-se responder à questão: de que forma podem os docentes melhorar as suas estratégias de avaliação para promover maior agência do estudante nos processos de avaliação e feedback? Procurou-se introduzir um protótipo de uma PAD para ajudar a reflexão sobre as práticas pedagógicas e de avaliação dos docentes envolvidos. Aumentar a agência do estudante nos processos de avaliação é de importância fundamental no sentido de garantir uma avaliação mais sustentável e o aumento de literacia da avaliação do estudante. Conforme foi verificado nos grupos de docentes participantes, existe disponibilidade para utilizar as PAD para promover alterações pedagógicas e oportunidades para maior agência do estudante no processo de avaliação. Tal como foi discutido, enquadrou-se esta investigação no entendimento de que, para se manifestar agência no ensino superior, esta pode ser incitada através da inclusão de funcionalidades e ações explícitas. Esta investigação foi informada pelo trabalho de Charteris e Smardon (2018) e pelo conceito, proposto pelos autores, de ‘new material agency’, no qual uma mudança disruptiva na prática pode colocar um conjunto de novos desafios ao estudante, que, consequentemente, poderão levar à aquisição de novas competências. Apresentou-se um conjunto de alterações nas PAD e/ou nas estratégias pedagógicas que podem favorecer a disrupção na prática do processo de avaliação e promover a agência do estudante. Estas alterações foram propostas tematicamente, de acordo com as fases do processo de avaliação. Propoêm-se estas recomendações numa dimensão pedagógica; no entanto, discute-se a possibilidade de algumas alterações serem desenvolvidas ao nível das PAD. É sabido o papel que as plataformas digitais têm no constrangimento ou na promoção de práticas pedagógicas dos docentes e dos estudantes (Henderson et al., 2017). Assim, sugere-se que esta discussão seja feita a nível pedagógico, institucional e no âmbito das interações com as PAD, no sentido de melhorar as ferramentas existentes.

Os dados desta investigação foram recolhidos no Reino Unido. Uma limitação deste estudo é a possibilidade de generalização dos dados, quando estes estão sustentados num contexto de ensino superior muito específico no qual a avaliação digital é considerada um aspeto indissociável das práticas de ensino e aprendizagem. Aqui, compara-se esta adoção da avaliação digital com o setor de ensino superior português, no qual existe, ainda, uma desconfiança sobre a fiabilidade, robustez e transparência da avaliação digital. Salienta-se a falta de envolvimento do estudante nos processos de avaliação e de feedback no contexto português, conforme é evidenciado por Amante et al. (2019).

Por outro lado, o entendimento da avaliação como processo formativo e alinhado com a aprendizagem está fortemente associado à ideia de que avaliamos competências e não apenas conhecimentos. No Reino Unido, é comum existirem unidades curriculares que não são avaliadas através de exames, mas através de trabalhos de grupo, projetos, ensaios ou relatórios. Desta forma, a dependência e utilização das PAD, no Reino Unido, é significativamente superior à da realidade do contexto português, com a exceção da Universidade Aberta, que assenta a sua avaliação em plataformas digitais (Amante & Oliveira, 2019). Concordamos com Twining et al. (2017) quando referem que a representação dos dados, mesmo em estudos qualitativos, deve capturar as diversas facetas do fenómeno em investigação. Consequentemente, temos no futuro o objetivo de recolher dados de estudantes e docentes de outros países e culturas académicas confrontando-os com o mesmo protótipo e metodologia de recolha de dados. Estamos, também, particularmente interessados em avaliar se os estudantes se sentem motivados a ter um comportamento mais ativo no processo de avaliação quando lhes são dadas essas possibilidades, e em contrastar com as limitações e constrangimentos sentidos pelos docentes no âmbito deste processo.

Referências

Amante, L., & Oliveira, I. (2019). Avaliação e feedback: Desafios atuais. Universidade Aberta. [ Links ]

Amante, L., Oliveira, I. R., & Gomes, M. J. (2019). E-assessment in Portuguese higher education: Framework and perceptions of teachers and students. In A. Azevedo & J. Azevedo (Eds.), Handbook of research on e-assessment in higher education (pp. 312-333). IGI Global. https://doi.org/10.4018/978-1-5225-5936-8.ch013Links ]

Bandura, A. (2001). Social cognitive theory: An agentic perspective. Annual Review of Psychology, 52, 1-26. https://doi.org/10.1146/annurev.psych.52.1.1Links ]

Bausili, A. V. (2018). From piloting e-submission to electronic management of assessment (EMA): Mapping grading journeys. British Journal of Educational Technology, 49(3), 463-478. https://doi.org/10.1111/bjet.12547Links ]

Boud, D., & Falchikov, N. (2006). Aligning assessment with long-term learning. Assessment & Evaluation in Higher Education, 31(4), 399-413. https://doi.org/10.1080/02602930600679050Links ]

Braun, V., & Clarke, V. (2021). One size fits all? What counts as quality practice in (reflexive) thematic analysis? Qualitative Research in Psychology, 18(3), 328-352­. https://doi.org/10.1080/14780887.2020.1769238Links ]

Carless, D., & Boud, D. (2018). The development of student feedback literacy: Enabling uptake of feedback. Assessment & Evaluation in Higher Education, 43(8), 1315-1325. https://doi.org/10.1080/02602938.2018.1463354Links ]

Carless, D., & Chan, K. K. H. (2017). Managing dialogic use of exemplars. Assessment & Evaluation in Higher Education, 42(6), 930-941. https://doi.org/10.1080/02602938.2016.1211246Links ]

Casanova, D. (2021). From Humboldt to Netflix: Examples of how to promote student agency in higher education. In I. Huet, T. Pessoa, & F. Sol (Eds.), Excellence in teaching and learning in higher education: Institutional policies, research and practices in Europe (pp. 245-266). Imprensa da Universidade de Coimbra. [ Links ]

Casanova, D., Alsop, G., & Huet, I. (2021). Giving away some of their powers! Towards learner agency in digital assessment and feedback. Research and Practice in Technology Enhanced Learning, 16, 20. https://doi.org/https://doi.org/10.1186/s41039-021-00168-6Links ]

Casanova, D., Di Napoli, R., & Leijon, M. (2018). Which space? Whose space? An experience in involving students and teachers in space design. Teaching in Higher Education, 23(4), 488-503. https://doi.org/10.1080/13562517.2017.1414785Links ]

Casanova, D., Huet, I., Garcia, F., & Pessoa, T. (2020). Role of technology in the design of learning environments. Learning Environments Research, 23, 413-427. https://doi.org/10.1007/s10984-020-09314-1Links ]

Charmaz, K. (2006). Constructing grounded theory: A practical guide through qualitative analysis. Sage Publications. [ Links ]

Charteris, J., & Smardon, D. (2018). A typology of agency in new generation learning environments: Emerging relational, ecological and new material considerations. Pedagogy, Culture & Society, 26(1), 51-68. https://doi.org/10.1080/14681366.2017.1345975Links ]

Clarke, V., & Braun, V. (2013). Teaching thematic analysis: Overcoming challenges and developing strategies for effective learning. The Psychologist, 26(2), 120-123. https://www.researchgate.net/publication/269928387Links ]

Dixon, H., Hawe, E., & Hamilton, R. (2020). The case for using exemplars to develop academic self-efficacy. Assessment & Evaluation in Higher Education, 45(3), 460-471. https://doi.org/10.1080/02602938.2019.1666084Links ]

Dweck, C. S. (2008). Mindset: The new psychology of success. Random House Digital, Inc. [ Links ]

Earnshaw, Y., Tawfik, A. A., & Schmidt, M. (2017). User experience design. In R. E. West (Ed.), Foundations of learning and instructional design technology (pp.1-23). Press Books. [ Links ]

ElShaer, A., Casanova, D., Freestone, N. S., & Calabrese, G. (2020). Students’ perceptions of the value of electronic feedback. Does disciplinary background really matter? British Journal of Educational Technology, 51(2), 590-606. https://doi.org/10.1111/bjet.12881Links ]

Fernandes, D. (2006). Para uma teoria da avaliação formativa. Revista Portuguesa de Educação, 19(2), 21-50. https://revistas.rcaap.pt/rpe/issue/view/1421Links ]

Frohlich, D. M., Lim, C. S. C., & Ahmed, A. (2014). Keep, lose, change: Prompts for the re-design of product concepts in a focus group setting. CoDesign, 10(2), 80-95. https://doi.org/10.1080/15710882.2013.862280Links ]

Gomes, M. J. (2009). Problemáticas da avaliação em educação online. In P. Dias & A. Osório (Eds.), Actas da Conferência Internacional de TIC na Educação: Challenges 2009 (pp. 1675-1693). Universidade do Minho, Centro de Competência TIC. https://hdl.handle.net/1822/9420Links ]

Hattie, J., & Timperley, H. (2007). The power of feedback. Review of Educational Research, 77(1), 81-112. https://doi.org/10.3102%2F003465430298487Links ]

Henderson, M., Selwyn, N., & Aston, R. (2017). What works and why? Student perceptions of ‘useful’ digital technology in university teaching and learning. Studies in Higher Education, 42(8), 1567-1579. https://doi.org/10.1080/03075079.2015.1007946Links ]

Kemmis, S., McTaggart, R., & Nixon, R. (2014). Critical participatory action research. Springer. [ Links ]

Matusov, E., von Duyke, K., & Kayumova, S. (2016). Mapping concepts of agency in educational contexts. Integrative Psychological and Behavioral Science, 50, 420-446. https://doi.org/10.1007/s12124-015-9336-0Links ]

Molloy, E., Boud, D., & Henderson, M. (2020). Developing a learning-centred framework for feedback literacy. Assessment & Evaluation in Higher Education, 45(4), 527-540. https://doi.org/10.1080/02602938.2019.1667955Links ]

Moreira, J. A. M., Henriques, S., & Barros, D. (2020). Transitando de um ensino remoto emergencial para uma educação digital em rede, em tempos de pandemia. Dialogia, 34, 351-364. https://doi.org/10.5585/dialogia.n34.17123Links ]

Nieminen, J. H., & Hilppö, J. A. (2020). Methodological and conceptual suggestions for researching the interplay of assessment and student agency. In P. J. White, R. Tytler, J. Ferguson, & J. C. Clark (Eds.), Methodological approaches to STEM education research (v. 1, pp. 87-107). Cambridge Scholars Publishing. [ Links ]

Nieminen, J. H., & Tuohilampi, L. (2020). “Finally studying for myself”–Examining student agency in summative and formative self-assessment models. Assessment & Evaluation in Higher Education, 45(7), 1031–1045. https://doi.org/10.1080/02602938.2020.1720595Links ]

Pacheco, J. A., Sousa, J., & Maia, I. B. (2020). Conhecimento e aprendizagem na educação superior: Desafios curriculares e pedagógicos no século XXI. Revista Diálogo Educacional, 20(65), 528-557. http://dx.doi.org/10.7213/1981-416X.20.065.DS02Links ]

Pedro, N. (2017). Ambientes educativos inovadores: O estudo do fator espaço nas ‘salas de aula do futuro’ portuguesas. Revista Tempos e Espaços em Educação, 10(23), 99-108. https://doi.org/10.20952/revtee.v10i23.7448Links ]

Penuel, W. R., Roschelle, J., & Shechtman, N. (2007). Designing formative assessment software with teachers: An analysis of the co-design process. Research and Practice in Technology Enhanced Learning, 2(1), 51-74. https://doi.org/10.1142/S1793206807000300Links ]

Ryan, R. M., & Deci, E. L. (2000). Self-determination theory and the facilitation of intrinsic motivation, social development, and well-being. American Psychologist, 55(1), 68-78. https://doi.org/10.1037/0003-066X.55.1.68Links ]

Santos, J. R. (2018). O contributo das tecnologias digitais na transparência da avaliação digital no contexto de educação superior a distância. Universidade Aberta. [ Links ]

Twining, P., Heller, R. S., Nussbaum, M., & Tsai, C.-C. (2017). Some guidance on conducting and reporting qualitative studies. Computers & Education, 106, A1–A9. https://doi.org/10.1016/j.compedu.2016.12.002Links ]

Winstone, N. (2019). Facilitating students’ use of feedback: Capturing and tracking impact using digital tools. In M. Henderson, R. Ajjawi, D. Boud, & E. Molloy (Eds.), The impact of feedback in higher education (pp. 225-242). Palgrave Macmillan, Cham. https://doi.org/10.1007/978-3-030-25112-3_13Links ]

Winstone, N., Bourne, J., Medland, E., Niculescu, I., & Rees, R. (2021). “Check the grade, log out”: Students’ engagement with feedback in learning management systems. Assessment & Evaluation in Higher Education, 46(4), 631-643. https://doi.org/10.1080/02602938.2020.1787331Links ]

Winstone, N., Nash, R. A., Parker, M., & Rowntree, J. (2017). Supporting learners’ agentic engagement with feedback: A systematic review and a taxonomy of recipience processes. Educational Psychologist, 52(1), 17-37. https://doi.org/10.1080/00461520.2016.1207538Links ]

Winstone, N., Nash, R. A., Rowntree, J., & Menezes, R. (2016). What do students want most from written feedback information? Distinguishing necessities from luxuries using a budgeting methodology. Assessment & Evaluation in Higher Education, 41(8), 1237-1253. https://doi.org/10.1080/02602938.2015.1075956Links ]

Woodall, T., Hiller, A., & Resnick, S. (2014). Making sense of higher education: Students as consumers and the value of the university experience. Studies in Higher Education, 39(1), 48-67. https://doi.org/10.1080/03075079.2011.6483Links ]

Recebido: 22 de Fevereiro de 2021; Aceito: 01 de Novembro de 2021

Creative Commons License This work is licensed under Creative Commons Attribution-ShareAlike 4.0 International.