Script concordance test in medical schools in Brazil: possibilities and limitations

Abstract

CONTEXT AND OBJECTIVE: Routine use of the script concordance test (SCT) is not common in Brazilian universities. This study aimed to analyze application of the SCT in the medical school of a Brazilian university. DESIGN AND SETTING: Quantitative, analytical and descriptive study in the medical school of a Brazilian university. METHODS: A total of 159/550 students participated. The test comprised ten clinical cases within internal medicine, with five items per case, rated on a five-point Likert scale. The test was scored in accordance with a marking key that had been validated by a reference panel. RESULTS: In the pre-clinical and clinical phases, the mean scores were 51.6% and 63.4% of the maximum possible scores, respectively. Comparison of the means of the responses among all the years showed that there were significant differences in 40% of the items. The panel marked all the possible answers in five items, while in one item, all the panelists marked a single answer. Cronbach's alpha was 0.64. The results indicated that the more senior students performed better. Construction of an SCT with discriminative questions was not easy. The low reliability index may have occurred due to: a) problems with the construction of the questions; b) limitations of the reference panel; and/or c) the scoring key. CONCLUSION: This instrument is very difficult to construct, apply and correct. These difficulties may make application of an SCT as an assessment method unfeasible in units with limited resources.RESUMO CONTEXTO E OBJETIVO: O uso rotineiro do teste de concordância de script (SCT) não é comum nas universidades brasileiras. Este estudo objetiva analisar a aplicação do SCT na graduação em medicina de uma universidade brasileira. TIPO DE ESTUDO E LOCAL: Estudo quantitativo, analítico e descritivo na faculdade de medicina de uma universidade brasileira. MÉTODOS: Participaram 159/550 acadêmicos. O teste possuía dez casos clínicos em Medicina Interna, cada caso com cinco itens, classificados em uma escala de Likert de cinco pontos. O teste foi corrigido conforme gabarito validado por um painel de referência. RESULTADOS: Na fase pré-clínica, a média foi 51,6% e, na fase clínica, 63,4% da nota máxima. Comparando a média das respostas entre todos os anos, obteve-se diferença significante em 40% dos itens. O painel demarcou todas as possiblidades em cinco itens e em um item todos marcaram uma resposta. O índice alfa de Cronbach foi de 0,64. Demonstramos que os mais graduados obtiveram desempenho melhor. A construção de um SCT com questões discriminativas não foi fácil. O índice de confiabilidade baixo pode ter acontecido por: a) problemas na construção das questões; b) limitações do painel de referência; c) sistema de pontuação. CONCLUSÕES: O instrumento é de grande dificuldade de construção, aplicação e correção. Essas dificuldades podem inviabilizar a sua aplicação como método de avaliação em unidades com recursos limitados.