Escolar Documentos
Profissional Documentos
Cultura Documentos
Belo Horizonte
11 de julho de 2003
i
AGRADECIMENTOS
A todos os meus colegas do DCC, entre eles Adriano César, Benício Gontijo,
Bruno Diniz, Diego Nogueira, Guilherme Rocha, Luciana Avelar, Marcelo Werneck,
Rainer Couto e Rodrigo Vieira, pelas conversas e pelo apoio e, em especial, para
ii
minhas amigas Renata Carvalho, por toda a cumplicidade, pela força e pelo carinho,
e Mirian Rubinstein, que, mesmo de longe, esteve presente.
Aos novos amigos Flávia, Xú (Cíntia), Hérica, Alê, Paula Amorim e Léo
Viegas.
Aos meus familiares, em especial à minha prima Ana Elisa Ribeiro, pela
revisão de minha dissertação;
Aos meus queridos pais José João Atayde e Maria Alice Ribeiro, pelo apoio e
pela ajuda, pelo carinho, pela tolerância, pelos exemplos e ensinamentos, mas,
principalmente, pelo amor incondicional. Amo vocês!
A Deus, que iluminou meu caminho e que colocou todas essas pessoas
especiais em minha vida.
iii
RESUMO
iv
ABSTRACT
v
LISTA DE FIGURAS
vi
SUMÁRIO
1. INTRODUÇÃO ...............................................................................................................1
vii
4.2.2.3. PREPARAÇÃO DE FORMULÁRIO DE CONSENTIMENTO............................................................................83
4.2.2.4. PREPARAÇÃO DE SCRIPT DE ORIENTAÇÃO .............................................................................................85
4.2.2.5. PREPARAÇÃO DE ENTREVISTA COM CRIANÇAS (PRÉ-TESTE) ..............................................................86
4.2.2.6. PREPARAÇÃO DE PRÉ E PÓS-TESTES ......................................................................................................89
4.2.2.7. PREPARAÇÃO DE FORMULÁRIO DE OBSERVAÇÃO ..................................................................................91
4.2.2.7.1. FORMATO SUGERIDO PARA FORMULÁRIO DE OBSERVAÇÃO ............................................................92
4.2.2.8. PREPARAÇÃO DO QUESTIONÁRIO COM CRIANÇAS .................................................................................94
4.2.2.8.1. FORMATO SUGERIDO PARA QUESTIONÁRIO COM CRIANÇAS ...........................................................94
4.2.2.9. PREPARAÇÃO DE LISTA DE VERIFICAÇÃO.................................................................................................97
4.2.2.10. SELEÇÃO DE CRIANÇAS ...........................................................................................................................97
4.2.2.11. PREPARAÇÃO DO AMBIENTE, EQUIPAMENTOS E MATERIAIS.............................................................99
4.2.2.11.1. AMBIENTE E EQUIPAMENTOS ..................................................................................................................99
4.2.2.11.2. MATERIAIS ............................................................................................................................................... 102
4.2.2.12. REALIZAÇÃO DE TESTES DE TODOS OS ITENS.................................................................................. 102
4.2.3. FASE DE R EALIZAÇÃO DOS TESTES ............................................................................................................ 103
4.2.3.1. PREPARAÇÃO DO AMBIENTE E DOS OBSERVADORES.......................................................................... 104
4.2.3.2. CUMPRIMENTOS E APRESENTAÇÃO ........................................................................................................ 104
4.2.3.3. RECOLHIMENTO DOS FORMULÁRIOS DE CONSENTIMENTO................................................................ 105
4.2.3.4. TRANSMISSÃO DAS INFORMAÇÕES CONTIDAS NO SCRIPT DE ORIENTAÇÃO .................................. 105
4.2.3.5. CONDUÇÃO DAS PERGUNTAS DA ENTREVISTA COM CRIANÇAS........................................................ 105
4.2.3.6. APLICAÇÃO DO PRÉ-TESTE...................................................................................................................... 105
4.2.3.7. CONDUÇÃO DO TESTE............................................................................................................................... 106
4.2.3.8. REALIZAÇÃO DO PÓS-TESTE.................................................................................................................... 106
4.2.3.9. CONDUÇÃO DAS PERGUNTAS DO QUESTIONÁRIO COM CRIANÇAS................................................... 107
4.2.3.10. AGRADECIMENTO E GRATIFICAÇÃO .................................................................................................... 107
4.2.3.11. ORGANIZAÇÃO DE PAPÉIS COLETADOS............................................................................................. 107
4.2.3.12. REALIZAÇÃO DE ACERTOS NO TESTE................................................................................................. 107
4.2.4. FASE DE A NÁLISE DOS DADOS E P RODUÇÃO DO R ELATÓRIO FINAL DE AVALIAÇÃO......................... 108
4.2.4.1. OBSERVAÇÃO E ANÁLISE DAS FILMAGENS............................................................................................. 108
4.2.4.2. TRANSCREVER E RESUMIR OS DADOS................................................................................................... 108
4.2.4.2.1. FORMATO SUGERIDO PARA DOCUMENTO DE RESUMO DOS DADOS............................................ 109
4.2.4.3. PRODUÇÃO DO RELATÓRIO FINAL DE AVALIAÇÃO ................................................................................ 114
4.2.4.3.1. FORMATO SUGERIDO PARA RELATÓRIO FINAL DE AVALIAÇÃO...................................................... 115
4.3. CUSTO DA AVALIAÇÃO........................................................................................................................................ 123
4.4. CONCLUSÃO DO CAPÍTULO ................................................................................................................................ 126
5. HEURÍSTICAS ..........................................................................................................128
viii
5.2.8. GESTÃO DE ERROS ......................................................................................................................................... 138
5.2.8.1. PREVENÇÃO DE ERROS............................................................................................................................. 138
5.2.8.2. AUXÍLIO NO RECONHECIMENTO, NO DIAGNÓSTICO E NA RECUPERAÇÃO DE ERROS .................... 139
5.2.9. CARGA DE TRABALHO .................................................................................................................................... 139
5.2.9.1. CARGA INFORMACIONAL ........................................................................................................................... 140
5.2.9.2. BREVIDADE .................................................................................................................................................. 140
5.2.10. CONTEÚDO .................................................................................................................................................. 140
5.2.11. SIGNIFICADO DE CÓDIGOS E DENOMINAÇÕES ...................................................................................... 142
5.2.12. CONSISTÊNCIA E PADRÕES ...................................................................................................................... 142
5.2.13. CORRESPONDÊNCIA ENTRE O SOFTWARE E O MUNDO REAL............................................................. 143
5.2.13.1. CORRESPONDÊNCIA COM OUTROS PROGRAMAS SIMILARES ........................................................ 143
5.2.14. DOCUMENTAÇÃO........................................................................................................................................ 144
5.2.14.1. DOCUMENTAÇÃO DE DESCRIÇÃO DO PRODUTO (PARA DOCENTES/PAIS)................................... 145
5.2.14.2. DOCUMENTAÇÃO DE USO DO SOFTWARE.......................................................................................... 145
5.2.14.3. DOCUMENTAÇÃO DE USO DO SOFTWARE DIRECIONADA A DOCENTES/PAIS (INSTALAÇÃO,
REGRAS E ASPECTOS PEDAGÓGICOS).......................................................................................................................... 146
5.2.14.4. DOCUMENTAÇÃO DE USO DO SOFTWARE DIRECIONADA A CRIANÇAS (REGRAS)...................... 146
5.3. CONCL USÃO DO CAPÍTULO ................................................................................................................................ 147
ix
ANEXOS ..............................................................................................................203
ANEXO X: FASES..............................................................................................................234
x
1. INTRODUÇÃO
1.2. Justificativa
1
cooperação. Lentamente, os computadores passam a ser vistos como ferramentas
educacionais e tornam-se parte do material de muitas escolas, demandando novos,
criativos e excitantes ambientes informatizados para crianças.
2
Em relação a essas perguntas, a área de estudo de Engenharia de
Usabilidade, quando aplicada a software educacional infantil, fornece respostas
quanto às questões de interação com o usuário proporcionada pela interface do
software, buscando-se a eficácia e a eficiência dessa interação. Mas para a
completa elucidação das questões mencionadas, necessita-se agregar os aspectos
pedagógicos à Usabilidade. Ao avaliar ou desenvolver um software educacional
infantil, deve-se conhecer tanto as situações e especificidades do processo de
ensino/aprendizagem, como os requisitos da Engenharia de Usabilidade aplicada ao
desenvolvimento de programas para usuários mirins.
3
Inicialmente, a MAQSEI foi aplicada e validada em programas educacionais
infantis prontos (avaliações somativas), utilizados por instituições de ensino. Os
testes para avaliação dos programas foram realizados, em sua maioria, nos próprios
laboratórios de informática das instituições, mas alguns foram realizados em um
laboratório de Usabilidade.
4
ser aplicada também em protótipos de programas em desenvolvimento, contribuindo
principalmente para o levantamento dos seus problemas técnicos e pedagógicos.
5
1.4. Capítulos
6
2. REVISÃO DA LITERATURA
7
2.2. Informática na Educação
8
§ O computador proporciona interação multicultural;
9
pedagógico1 o uso da informática inteiramente comprometida com seus objetivos
pedagógicos. Todos (docentes, pessoal administrativo e comunidade) devem pensar
como a prática pode ser transformada com o auxílio das inovações tecnológicas.
Não se trata somente de informati zar a parte administrativa da escola, de criar um
laboratório com computadores e ensinar informática às crianças. Trata-se de formar
indivíduos capazes de procura, crítica e seleção das informações facilmente
acessadas com o uso de computadores nas escolas. É preciso incentivar a
pesquisa, o raciocínio sobre os temas, o desenvolvimento de conceitos. Deseja-se
estimular o uso dessas máquinas para a descoberta de novas informações,
aprendendo a aprender de forma autônoma e crítica.
§ Sentimento de inferioridade por parte dos docentes, pois muitas vezes possuem
menos conhecimento em relação à tecnologia que as crianças;
1
“Projeto político-pedagógico é o conjunto de diretrizes educacionais mais abrangente de uma
instituição de ensino. Seu escopo deve responder às questões da metodologia de planejamento da
instituição: o quê, por quê, para quê, quem, quando e como - dos processos de ensino e
aprendizagem que serão desenvolvidos” (Sant´Anna, 1999).
10
experiências com a inclusão de computadores em ambientes escolares evidenciam
os possíveis ganhos e as modificações positivas advindas dessas inovações.
11
2. Poça d’água: os homens sempre precisaram buscar água em alguma fonte, e
durante a viagem ou na fonte de água, sempre compartilharam suas experiências
com as pessoas que encontravam nesses locais. A poça d’água se tornou um
local onde se aprende com os amigos, com os companheiros, de forma menos
formal. Todos são, ao mesmo tempo, sábios e aprendizes.
O autor ressalta que os três ambientes vêm sendo experimentados por alunos
ao longo da história de forma balanceada. Um ambiente não invalida o outro: a
fogueira proporciona o contato com conhecedores, a poça d’água, a troca de
experiências e conhecimentos com colegas, e a caverna, o contato consigo mesmo.
Cada cenário tem sua importância e deve -se fornecer ao aluno a oportunidade de
experimentar os três. Assim, descartar qualquer um deles limita as possibilidades de
ensino.
2
Os termos Fogueira, Poça d’água e Caverna foram traduzido do inglês.
12
necessitam de um ambiente apoiador na escola onde possam (SANDHOLTZ et. al.,
1997):
Esse último tópico aparece como o mais importante, pois envolve suporte
emocional, técnico e instrucional. A troca de experiência entre docentes colabora e
estimula o uso das novas estratégias de ensino.
13
Segundo os mesmos autores, o estágio da inovação só é atingido após longo
e penoso processo, o que confirma o caráter gradual da transformação ocasionada
pela inserção das máquinas no ambiente escolar. Isso ocorre porque não são
apenas mudanças técnicas, mas mudanças de concepções sobre o quê, por quê e
como ensinar (GODOI e TEIXEIRA, 2001).
14
Para PRETTO (1997), a questão da educação e a inovação tecnológica no
Brasil estão muito além da inclusão do computador nas escolas. O autor afirma que
as transformações ocorrem sobre uma realidade complexa, e não em espaços
neutros. A compreensão e a implementação dessas transformações pressupõem a
existência de valores e culturas locais com alto nível de visibilidade e flexibilidade.
As transformações só serão alcançadas se, além da parte física estrutural, tivermos
os elementos culturais produzidos e difundidos em nosso país, uma sociedade
preparada. Cabe ainda lembrar que a inserção da tecnologia na educação no Brasil
foi produzida como forma de adequação político-econômica a um modelo global de
desenvolvimento (GONÇALVES, 1999), e não como projeto prioritário para a
melhoria da educação. Assim, os elementos necessários para a sua implantação
não foram construídos. PRETTO (1997:84) ainda afirma, sobre a construção da
educação brasileira, que:
“Uma construção não apenas nas palavras e para os números, mas que atue, na
prática, no país como um todo, que vem clamando por transformações estruturais em
diversas áreas. Este é, sem dúvida, o nosso grande desafio, e estas novas
tecnologias de comunicação e informação podem vir a se constituir em um importante
elemento destas transformações se pudermos vê-las em outra perspectiva que não a
de simples instrumentos metodológicos mais modernos que podem ser implantados
de forma isolada e desarticulada, mantendo crianças, jovens, adolescentes e
professores como meros consumidores de um conhecimento pronto que passa agora
a circular e ser entregue via das ditas novas tecnologias. Em oposição a isso, sem
pensamos nas tecnologias a serviço da produção de conhecimento e cultura,
podemos pensar na inserção do país no mercado dito globalizado, numa outra
perspectiva. Uma perspectiva de efetiva cidadania.”
Para atingir tal objetivo, o mesmo autor acredita que o governo brasileiro
deveria unir e articular universidades, empresas, pesquisadores e outros para um
esforço, de forma a corrigir a rota dos projetos existentes em cada um desses
setores e melhorar a educação brasileira.
“O software educacional é todo aquele que pode ser usado para algum objetivo
educacional, por docentes ou alunos, qualquer que seja a natureza ou finalidade para a qual
tenha sido criado” (GARCIA, 2001:18).
15
educação repetiu o normalmente ocorrido com a mudança para uma nova
tecnologia, ou seja, a produção de versões computadorizadas do anteriormente
existente (VALENTE, 1993). Inicialmente se reproduz a prática vigente para, depois,
alcançar desenvolvimento e evolução.
A idéia transmitida pelos CAI foi somente o início da produção dos programas
educacionais, permitindo o desenvolvimento de novas abordagens desses
programas, como ferramentas de solução de problemas ou editores de textos.
Atualmente, dificilmente conseguiríamos dimensionar a variedade e a quantidade de
programas educacionais existentes.
3
No Brasil, foram conhecidos como programas educacionais por computador – PEC.
16
aprendizagem, trabalhando os planos concreto e abstrato, testando suas idéias.
Nesses programas, o aluno detém o controle sobre o funcionamento.
“(...) a análise de um sistema computacional com finalidades educacionais não pode ser
feita sem considerar o seu contexto pedagógico de uso. Um software só pode ter tido
com bom ou ruim dependendo do contexto e do modo como ele será utilizado. Portanto,
17
para ser capaz de qualificar um software é necessária ter muito clara a abordagem
educacional a partir da qual ele será utilizado e qual o papel do computador nesse
contexto”.
§ “A qualidade não é absoluta. Ela pode ter significados diferentes, em situações diferentes. Ela
não pode ser medida de maneira única, em uma escala quantificável, como propriedades físicas
tais como temperatura e tamanho”;
§ “A qualidade pode ser limitada por alguns fatores. O custo é um dos grandes
limitadores do desenvolvimento de produtos com qualidade plena. Por exemplo, na
compra de carros, apesar de preferirem carros mais caros, as pessoas limitam-se a
comprar um carro que seja adequado à sua renda. Neste caso, não é uma questão de
escolha, e sim de disponibilidade de recursos”;
4
GILLES, A. Software Quality – Theory and Management. [s.l.]: Chapman & Hall, 1992.
18
interesses de produtor e consumidor. No exemplo dos carros, conforto pode ser
sacrificado em detrimento de confiabilidade”;
5
De acordo com PAULA (2001), “os requisitos são as características que definem os critérios de
aceitação de um produto” (grifo do autor).
19
características necessárias, podendo ser deficiente em relação ao seu desempenho,
à corretude de suas funções, à facilidade de seu uso, entre outros aspectos.
6
“Um processo é um conjunto de passos parcialmente ordenados, constituídos por atividades,
métodos, práticas e transformações, usado para atingir uma meta” (PAULA FILHO, 2001).
20
seguintes atributos (NIELSEN, 1993):
§ Retenção no tempo: se o usuário ficar sem usar o software por um tempo, deve
ser capaz de reutilizá -lo sem maiores dificuldades;
§ Minimização de erros: as tarefas realizadas pelo usuário devem ter baixa taxa de
erros e possibilitar a correção dos erros que possam acontecer;
21
estruturada, gerando dados sem conexão, necessita-se de metodologia
sistemática e estruturada para a coleta de informações dos usuários;
Ao lado de cada tarefa do editor de textos abaixo, escreva o nome da opção do menu pull-
down que você espera achar a tarefa:
22
§ Avaliações por profissionais de Usabilidade (avaliações heurísticas): são uma
revisão do produto por especialista(s) em Usabilidade, que verificam o produto de
acordo com os princípios e regras de Usabilidade contidos na literatura
(heurísticas). Pode-se também ter a revisão por especialistas em duas áreas: de
Usabilidade e da tecnologia usada no produto em especial;
23
desenvolvimento de interface por meio de revisões de protótipos ou do produto final,
buscando avaliar a qualidade da interação proporcionada pela interface (avaliações
heurísticas, inspeções por meio de listas de conferência e comparações do produto).
As técnicas de pesquisa de opinião buscam avaliar a satisfação do usuário por meio
de técnicas de questionários e/ou entrevistas, com o objetivo de se antecipar a
reação do usuário com relação do produto (pesquisas de opinião, desenvolvimento
participativo e avaliações em papel). As técnicas empíricas ou experimentais,
objetivam detectar problemas de Usabilidade por meio da observação do usuário
interagindo com os protótipos ou a interface finalizada, por meio de experimentos
controlados (testes de Usabilidade, estudos de campo e posteriores).
Regras de Usabilidade:
§ Acesso: o usuário deve conseguir usar o sistema sem necessitar de nenhum tipo
de ajuda;
§ Suporte: o sistema deve dar suporte a atividade que o usuário esteja realizando,
tornando-a mais simples e fácil;
§ Contexto: o sistema deve ser adequado ao seu ambiente real, ao seu local de
utilização.
24
Princípios de desenho centrados no usuário:
7
As dez heurísticas descritas foram traduzidas do inglês.
25
Funções undo e redo devem estar disponíveis.
26
2.7.2. A Engenharia de Usabilidade aplicada a software educacional
infantil
27
GARCIA (2001) propõe adaptações na metodologia de Engenharia de
Usabilidade para se adequar à participação de crianças no processo de
desenvolvimento de um software infantil. Resumidamente, a autora propõe:
28
perca no processo de utilização do software e, conseqüentemente, sinta-se
desestimulada.
29
indicar erro para uma criança, de forma que ela possa, a partir da mensagem de
erro, evoluir para a solução do problema.
30
ressalva de que, na fase somativa, uma maior participação dos docentes é
necessária. A Tabela 1 detalha a relação entre objetivos dos estudos avaliativos e os
métodos de coleta de dados de que necessitarão.
31
TABELA 1 – Objetivos da avaliação X Métodos de coleta de dados
32
Os métodos de coleta de dados para a avaliação de software educacional
infantil listados na Tabela 1 estão detalhados a seguir.
33
§ Relato de docentes: questionários ou entrevistas que objetivam retorno dos(as)
docentes sobre o projeto. É uma forma de testar a validade do programa,
especialmente se permitir que seja comparado o programa com outros métodos
de aprendizagem. Os relatos são particularmente importantes nas avaliações
somativas. Também podem ser usados para determinar o contexto de uso do
software: a forma como as crianças são apresentadas ao programa, a
preparação que recebem, o suporte que têm disponível durante seu uso, se
substitui outras formas de ensino, entre outros. Tudo isso contribui para a
descoberta do valor percebido e comparativo do software.
34
pode contribuir para indicar se o software é adequado para a proposta pedagógica
desejada.
35
Objetivos Fatores Subfatores
Clareza
Concisão
Legibilidade
Estilo
Confiabilidade da
Representação
Modularidade
Q
U Disponibilidade
A Manipulabilidade
L Estrutura
I
D Rastreabilidade
A Manutenibilidade
D
E Oportunidade
Oparacionalidade
D Amenidade ao uso
E Portabilidade
P Utilizabilidade Reutilizabilidade
R
O Eficiência
G
R Rent abilidade
A
M
Avaliabilidade
A Precisão
S
Fidedignidade Completeza
Confiabilidade
conceitual Necessidade
Robustez
Integridade
Segurança
36
Já o modelo de GAMEZ (1998) é formado por três etapas consecutivas:
classificação, avaliação e contextualização. A etapa de classificação tem como
objetivo determinar a modalidade do software educacional (tutorial, exercício e
prática, simulador, hipertexto) e a identificação de sua abordagem pedagógica. Na
etapa seguinte, avalia-se a conformidade do software educacional em relação aos
critérios e subcritérios definidos por meio de um processo de avaliação de software
educacional. A Figura 3 sintetiza essa etapa. A etapa de contextualização visa a
auxiliar no processo de tomada de decisão sobre uma provável aquisição, mediante
a adequabilidade do produto ao contexto específico da instituição.
37
MÓDULO DE AVALIAÇÃO Presteza
Legibilidade
Dados de identificação Presteza
Condução
Feedback imediato
Qualidade da Legibilidade Agrupamento e distinção
informação impressa por localização
Agrupamento e distinção
Densidade Informacional de itens
Agrupamento e distinção
Consistência por formato
Flexibilidade
Adaptabilidade
Significado de códigos e Consideração da
denominações experiência do utilizador
Ações explícitas do
utilizador
Controle explícito
Controle do utilizador
Recursos de apoio à
compreensão dos Correção de erros
conteúdos
Qualidade das
Gestão de erros mensagens de erro
Homogeneidade
Compatibilidade
8
BEGOÑA, G., SPECTOR, J. M. Evaluating automated instructional design systems: A complex
problem. Educational Technology, New Jersey, v.34, n.5, p.37-46, 1994.
processo de avaliação mais complexo, porém apresenta probabilidade maior de
fornecer resultados mais significativos e, portanto, auxiliar no melhor uso da
tecnologia.
40
3. DEFINIÇÃO DA METODOLOGIA
3.1. Introdução
diagrama da Figura 4. Cada um dos passos será explicado nas próximas seções.
9
Um processo é um conjunto de passos parcialmente ordenados, constituídos por atividades,
métodos, práticas e transformações, usado para atingir uma meta. Esta meta geralmente está
associada a um ou mais resultados concretos finais, que são os produtos da execução do processo
(PAULA FILHO, 2001).
41
1 - Determinação dos atributos 2 - Determinação dos atributos
do produto do processo
5 - Caracterização do
processo
6 - Estruturação do
processo
8 – Produção de
artefatos
9 – Validação do
processo
42
3.2.1. Determinação dos atributos do produto
43
suas prioridades. Os pesos10 10, 7, 4 e 1 foram arbitrariamente selecionados para os
atributos de Alta prioridade (AP), Média Prioridade (MP), Necessários (N) e
Desejáveis (D). A primeira coluna lista as tarefas ou técnicas do processo
necessárias para a produção dos atributos do produto. Em cada cruzamento entre
atributo e tarefa/técnica, foi listada a correlação entre eles. Os pesos 10, 7 e 4 foram
novamente arbitrariamente selecionados para as correlações Forte (F), Média (M) e
Baixa (B), respectivamente. Ainda nos cruzamentos foram listados os valores
obtidos pela multiplicação do valor da prioridade do atributo pelo valor da correlação
entre atributo e tarefa/técnica. Essas multiplicações são somadas linha a linha, o
valor da soma é armazenado na penúltima coluna e o valor percentual, na última
coluna. A partir desses percentuais obteve-se a ordem de importância de cada tarefa
ou técnica do processo necessária para a produção dos objetivos do produto, no
caso, a avaliação de software educacional infantil.
10
Todos os pesos selecionados neste estudo são somente uma sugestão de uso, podendo ser
personalizados para contemplar situações e objetivos específicos.
44
TABELA 2 − Atributos do produto X Tarefas e técnicas do processo
Levantar o
Verificar Verificar
Atributos do Verificar Verificar Produzir Levantar Verificar tempo, a
Verificar heurísticas Levantar valor
produto contexto valor recomenda- necessidade recursos infra-
efetividade técnicas e defeitos compa-
X pedagógico percebido ções das crianças usados estrutura e Total %
(AP) pedagógicas (AP) rativo
Tarefas e técnicas (AP) (AP) (AP) (AP) (MP) custo
Peso 10 (AP) Peso 10 (D)
do processo Peso 10 Peso 10 Peso 10 Peso 10 Peso 7 (N)
Peso 10 Peso 1
Peso 4
Reconhecimento
F/100 B/40 M/70 F/100 B/40 M/70 F/70 M/28 518 8,19%
do software
Entrevistas com
F/100 M/70 B/40 F/100 B/40 B/40 M/70 B/28 B/16 F/10 514 8,13%
docentes
Plano de testes M/70 F/100 B/40 B/40 F/100 B/28 F/40 418 6,61%
Filmagem M/70 F/100 F/100 F/100 F/100 F/100 F/100 F/70 F/40 B/4 784 12,40%
Análise dos
M/70 F/100 F/100 M/70 F/100 F/100 M/70 M/49 F/40 M/7 706 11,17%
dados
Assessoria de
profissionais das
F/100 F/100 F/100 F/100 F/100 F/100 F/100 M/49 M/28 F/10 787 12,45%
áreas técnica e
pedagógica
Participação de
crianças nos B/40 F/100 F/100 F/100 M/70 M/70 F/100 B/28 M/28 F/10 646 10,22%
testes
Realização dos
testes em
F/100 F/100 F/100 B/40 B/40 F/100 F/70 F/40 M/7 597 9,44%
ambiente familiar
às crianças
45
45
3.2.2. Definição dos atributos do processo
§ Os atributos do processo;
§ As prioridades desses atributos, que podem ser classificadas em: Alta Prioridade
(AP), Média Prioridade (MP), Necessários (N) e Desejáveis (D);
46
TABELA 3 − Atributos do processo X Tarefas e técnicas do processo
Possibilidade de
Possibilidade de Apoiar a Apoio à
acompanhamento
planejamento da avaliação melhoria da melhoria do Redução
Atributos do processo (tempo já gasto,
(estimar custos, prazos, qualidade do próprio de custos
X comparação do Total %
definir número de processo processo (D)
Tarefas e técnicas do processo planejado com o
crianças, entre outros) (AP) (MP) Peso 1
realizado)
(AP) Peso 10 Peso 10 Peso7
(AP) Peso 10
Reconhecimento e Proposta de
F/100 F/100 B/40 B/40 280 9,15%
avaliação do Software
Entrevistas com docentes M/70 F/100 170 5,56%
47
3.2.3. Determinação das tarefas e técnicas do processo
11
Neste estudo, os atributos do produto foram considerados tão importantes quanto os atributos do
processo, por isso foram somente somados e divididos por 2. Entretanto, dependendo do caso, pode-
se atribuir pesos ao combiná-los.
48
3.2.4. Definição das metas e dos critérios de qualidade do processo
Nº Meta Critério
Desenvolver uma
Pelo menos um(a) docente de cada escola
metodologia
2 Entrevistar docentes deve ser entrevistado sobre opiniões e
compreensível e de
necessidades.
qualidade
49
Todos os testes devem verificar as
heurísticas pedagógicas e de Usabilidade
de forma qualitativa e analisar cada uma de
Produzir resultados
forma quantitativa, respondendo e
quantitativos e qualitativos
pontuando as questões relacionadas para a
produção de gráfico de conformidade do
software com as heurísticas.
Todos os testes devem utilizar e validar
tanto as heurísticas de Usabilidade quanto
Produzir resultados com
as pedagógicas do software, produzindo
base pedagógica e
resultados baseados nos dois aspectos.
tecnológica
A validação deve comparar os resultados
experimentados com os esperados.
Calcular média de tempo
Em todos os testes, deve-se registrar os
gasto na realização de
tempos gastos em cada tarefa de cada fase.
Custo da tarefas
3 metodologia ser
definido e adequado Propiciar estimativa
O custo deve sempre ser baseado em
adequada de custo de
dados previamente obtidos de tempo gasto.
cada fase da metodologia
50
§ As avaliações de Usabilidade de software (HIX, 1993), normalmente realizadas
sem considerações para os aspectos pedagógicos e sem adaptações para o
público infantil.
§ Entrevistar docentes;
§ Personalizar a metodologia;
- Formulário de consentimento;
- Script de orientação;
- Formulário de observação;
51
- Pré e Pós-testes;
- Lista de verificação;
§ Selecionar crianças;
3 – Realizar os testes
§ Cumprimentar e apresentar;
§ Assistir às filmagens;
52
A partir de então, essas tarefas e subtarefas foram transformadas nas fases
do processo, conforme descrito no próximo passo.
53
Fase de Reconhecimento e Proposta de avaliação do software
Propósito: Familiarização com software a ser testado e Produção de Proposta de avaliação
Entrada
Condição Responsabilidade
Conseguir autorização para entrar na escola Avaliador
Ter acesso ao software usado na escola Avaliador
Ter padrão de documento de Reconhecimento do software Avaliador
Ter padrão de Proposta de avaliação do software Avaliador
Tarefas
Nome Referências
Entrevistar docentes da escola -
Familiarizar com o software -
Registrar anotações sobre o software Documento de Reconhecimento do software
Estimar prazos e custos Proposta de avaliação do software
Saída
Condição
Término do documento de Reconhecimento do software
Término da Proposta de avaliação do software
Revisão de todos os documentos
Próximo
Nome Condição
Fase do Planejamento do teste Todas as condições de saída
54
Fase de Planejamento de testes
Propósito: Preparar ambiente, equipamentos e materiais para os testes com o software
Entrada
Condição Responsabilidade
Ter concluído a fase anterior Avaliador
Ter padrões de documentos necessários Avaliador
Conhecer bem a MAQSEI Avaliador
Itens de entrada Fontes
Reconhecimento do software Fase anterior
Proposta de avaliação do software Fase anterior
Padrão de Plano de testes MAQSEI
Padrão de Formulário de consentimento MAQSEI
Padrão de Script de orientação MAQSEI
Padrão de Entrevista com crianças MAQSEI
Padrão de Formulário de observação MAQSEI
Padrões de Pré e Pós-testes MAQSEI
Padrão de Questionário com crianças MAQSEI
Padrão de Lista de verificação MAQSEI
Tarefas
Nome Referências
Personalizar a metodologia Reconhecimento do software
Preparar o Plano de testes Padrão de Plano de testes
Preparar todos os documentos necessários Padrões de Formulário de consentimento,
Script de orientação, Pré-teste, Pós-teste,
Formulário de observação, Entrevista e
Questionário com crianças
Preparar Lista de verificação -
Selecionar crianças -
Preparar ambiente, equipamentos e materiais -
Testar o teste -
Saída
Condição
Plano de testes concluídos
Todos os documentos preparados
Todos os itens conferidos
Teste testado
Nomes do produto Destinação
Plano de testes Próximas duas fases
Formulário de consentimento Próxima fase
Script de orientação Próxima fase
Entrevista com crianças Próximas duas fases
Formulário de observação Próximas duas fases
Pré/Pós-testes Próximas duas fases
Questionário com crianças Próximas duas fases
Lista de verificação Próxima fase
Próximo
Nome Condição
Fase de Realização dos testes Todas as condições de saída
FIGURA 6 − Definição da fase de Planejamento dos testes
55
Fase de Realização dos testes
Propósito: Realizar testes com o software usando a metodologia
56
Fase de Análise de dados e Produção do Relatório final de avaliação
Propósito: Analisar os dados coletados para produção do Relatório final de avaliação do software
Entrada
Condição Responsabilidade
Ter concluído os testes Avaliador
Ter dados organizados em papéis e fitas Avaliador
Tarefas
Nome Referências
Assistir a filmagens Fitas e Formulário de observação
Transcrever e resumir dados Padrão de documento de Resumo de dados
Verificar heurísticas qualitativamente Padrão de Relatório final de avaliação e Heurísticas
Verificar heurísticas quantitativamente Padrão de Relatório final de avaliação e Heurísticas
Produzir recomendações e resultados Padrão de Relatório final de avaliação
Saída
Condição
Ter analisado todos os papéis, documentos e fitas referentes ao teste
Ter concluído e revisado o Relatório final de avaliação
Nomes do produto Destinação
Resumo de dados -
Relatório final de avaliação Apresentação a interessados
Próximo
Nome Condição
- -
57
3.2.8. Produção dos artefatos
Definidas as fases, foram produzidos os artefatos para cada uma. Eles foram
elaborados a partir da análise de vários modelos existentes: RUBIN (1994), PLUM e
TELL (2000), GAMEZ (1998), PAULA FILHO (2001) e da adaptação desses à
necessidade do trabalho. Eles podem ser vistos nos Anexos I a VIII. O diagrama da
Figura 9, por meio da notação UML 12, ilustra as fases da MAQSEI e seus artefatos
produzidos ou consumidos. A Tabela 6 explica os símbolos usados no diagrama.
12
UML – Unified Modeling Language (RUMBAUGH, et al., 1999)
58
Reconhecimento do software;
Reconhecimento e Proposta de avaliação do software.
Proposta de avaliação
Reconhecimento do software;
Proposta de avaliação do software;
Formulário de consentimento;
Lista de verificação;
Script de orientação;
Planejamento Plano de testes;
dos testes Entrevista com crianças;
Pré e Pós-testes;
Formulário de observação;
Questionário com crianças.
Formulário de consentimento;
Realização Lista de verificação;
dos testes Script de orientação;
Plano de testes;
Entrevista com crianças;
Pré e Pós-testes;
Formulário de observação;
Questionário com crianças.
59
A MAQSEI foi pela primeira vez utilizada neste estudo em teste piloto com um
programa educacional infantil simples 13, sem a participação de crianças. Todas as
fases, tarefas e artefatos da metodologia foram revisados, verificando perguntas
mal-entendidas e possíveis defeitos.
Foi realizada então uma visita a duas escolas públicas da prefeitura, escolas
Arthur Versiane e Caio Líbano, para apresentação do trabalho e possível acordo de
realização de testes. Entretanto, a atual situação dessas escolas públicas mostrou-
se ainda um pouco distante do esperado. Nelas, a implantação dos laboratórios de
informática era recente 14 e seus computadores estavam sendo usados somente
como fonte de acesso a Internet, a serviço de mensagens e uso de aplicativos
comerciais. A utilização de software educacional infantil ainda era uma meta a ser
implementada. Tal fato impossibilitou que o trabalho fosse desenvolvido com a
13
Programa Pintando e Descobrindo − Coleção Educacional Tia Tania − Megafile ltda.
www.megafile.com.br
14
Os laboratórios haviam sido montados por meio do Programa Nacional de Informática na
Educação, PROINFO.
60
parceria dessas escolas. Somente uma pesquisa de perfil e opinião com docentes15
foi realizada nessas instituições.
Laboratório de
Software que trabalha a grafia de
Usabilidade do Casa Mal
SENAC grupos de palavras da língua
Gestus/DCC/ICEx/ Assombrada
portuguesa
16
UFMG
15
O questionário usado na pesquisa encontra-se no Anexo IX.
16
Grupo de estudo de Usabilidade, Departamento de Ciência da Computação, Instituto de Ciências
Exatas, Universidade Federal de Minas Gerais
61
Ainda, após a realização dos testes nessas escolas, foi visitada outra escola
pública, escola Hilda Rabello Matta, que possuía um laboratório de informática onde
programas educacionais eram utilizados como apoio ao ensino, mas infelizmente
não puderam ser realizadas avaliações na instituição devido a imprevistos ocorridos
(vide seção 7.2.3). A pesquisa de perfil e opinião com docentes também foi realizada
nessa escola.
A MAQSEI pode ter relação próxima com o ciclo de vida de um software e ser
utilizada em diferentes estágios de seu desenvolvimento. AEDO et al., citados por
SILVA (2002), acreditam que a avaliação de software tem dois objetivos principais:
determinar a eficácia de uma aplicação em uso (avaliações somativas do software) e
fornecer meios para sugerir melhorias em programas em desenvolvimento (a
avaliação formativa é considerada atividade central em processos de
desenvolvimento que visam à Usabilidade). Portanto, a MAQSEI pode ser aplicada
em diversos momentos da produção de um software, inclusive em protótipos nos
estágios iniciais, objetivando desenvolvimento iterativo. A partir dos seus resultados,
o desenvolvedor tem retorno sobre defeitos e modificações necessárias ainda
durante a produção do software, quando o custo de realização das alterações é
muito menor, ajudando também na qualidade pedagógica e técnica do produto
desenvolvido.
17
O software desenvolvido denomina-se OdontoMania e está descrito no Capítulo 7, item 7.3.
62
adequou muito bem ao processo de desenvolvimento de um produto,
demonstrando poder ser aplicada em avaliações formativas, realizadas em
produtos ainda em implementação…. Ela propicia a coleta de dados mais
precisos e detalhados, além de permitir a avaliação tanto técnica quanto
pedagógica do produto”.
A construção da MAQSEI seguiu o processo evo lutivo descrito, haja vista que
a avaliação de um software é uma habilidade que é aprendida e praticada. À medida
que a experiência na preparação e na condução dos testes de avaliação ia sendo
adquirida, métodos e ferramentas que funcionam melhor iam sendo descobertos. A
cada teste realizado com a utilização da MAQSEI, novas propostas de melhoria no
processo iam surgindo e sendo registradas para que servissem de guia para a
próxima atualização do processo. No Capítulo 7, podem-se ver as modificações
registradas durante os testes realizados com a MAQSEI. Esses registros de
propostas de melhora no processo (PMP) mostram os problemas e sugestões de
mudanças. Muitos problemas podem ser detalhes, mas que, no entanto, fazem a
diferença entre um processo inadequado e um processo eficiente.
63
A Figura 10 descreve o processo evolutivo do desenvolvimento da MAQSEI,
seguindo os passos já descritos para o desenvolvimento de um processo. A cada
teste realizado com a MAQSEI, verificam-se se novos problemas ou sugestões de
melhoria (PMP) foram registrados. Se for o caso, essas PMP são revistas, visando à
alteração da metodologia. Esse ciclo continua até quando não houverem mais PMP.
Requisitos e
Planejamento
Submissão das
propostas de Revisão das
melhoras no PMP
Processo (PMP)
Definição das
fases e tarefas Padrões
Sim
Teste Registro das propostas de
melhoras no processo
(PMP)
Refinamentos
necessários?
Não
Metodologia Final
64
3.3.2. Percepções possíveis do processo
§ Processo oficial: é aquele que deveria ser feito, registrado em algum relatório ou
livro.
65
Processo percebido
o que acredita-se fazer
Processo-alvo
o que se quer fazer
Processo inicial
Processo oficial
Processo real o que deveria ser feito
o que é realmente feito
66
4. DESCRIÇÃO DA MAQSEI
4.1. Introdução
67
funcionalidade ou característica do programa, terá uma referência. Isso facilitará
o desenvolvimento das fases posteriores, principalmente durante o
planejamentos dos testes;
§ Objetivo do documento;
68
§ Nome(s) do(s) avaliador(es) do software;
§ Nome do software;
§ Público-alvo do software;
§ Disciplina(s) envolvida(s);
§ Idioma do software;
§ Preço do software;
§ Forma de armazenagem;
69
TABELA 9 − Exemplo de Identificação do software
§ Nome da interface;
§ Imagem da interface;
70
§ Listagem dos ícones (imagens que não estão relacionadas a alguma ação, só
representam alguma informação) da interface e suas características, como tipo,
descrição/imagem e representação (o que eles representam);
71
Interface Bingo
Imagem da interface
Descrição
Interface contendo o jogo de bingo, onde a criança deve digitar na cartela o nome da figura
mostrada pela caveira.
O jogo possui duas cartelas, que devem ser preenchidas com as palavras:
Bingo 1 – Óculos, Caminhão, Peixe, Serrote, Balança, Sino, Queijo, Xícara, Relógio, Maçã,
Bandeira, Ambulância, Lâmpada, Morcego, Bicicleta, Chapéu, Bússola, tesoura
Bingo 2 – Helicóptero, Compasso, Berinjela, Extintor, Cenoura, Girafa, Capacete, Parafuso,
Salsicha, Abacaxi, Panda, Machado, Seta, Pincel, Âncora, Melancia, Coruja, Hélice
Campos
Nº Nome Valores válidos Tipo Restrição
1 Cartela Caracteres alfanuméricos Texto Alterável
Comandos
Nº Nome Estilo Ação Estado
1 Outro? Botão Abre a interface Tela Principal Sempre habilitado
Botão Abre a interface Confirmação de Sempre habilitado
2 Chega!
Saída
- Verificação da grafia correta da
palavra
Em caso de acerto: Esqueleto
reluz olhos e passa para a próxima
3 <enter> palavra.
Em caso de erro: Digitação é
apagada. Após terceira tentativa,
aparece a resposta.
72
Mensagens
Nº Tipo Imagem Texto Relacionamento
1 Instrução - “Digite, na cartela, o nome que Mensagem escrita na
aparece no balão e tecle interface
<enter>”
Ícones
Nº Tipo Descrição/Imagem Representação
1 Figura Figuras de caveiras Representam o número de telas do jogo.
Pontos Positivos
Jogo disponibiliza as respostas à criança após três tentativas, minimizando abandonos.
Pontos negativos
Botões não estão posicionados em mesmo local que em outras interfaces.
Outras Observações
-
73
4 - Observações e comentários gerais: caso haja alguma informação relevante não-
listada, como pontos positivos e negativos referentes ao software, essas deverão ser
descritas neste campo.
§ Objetivo do documento;
§ Data do documento;
74
TABELA 13 − Exemplo de Responsabilidades da escola
75
§ Preparação de Entrevista com crianças;
§ Seleção de crianças;
76
§ O Plano de testes descreve as fontes necessárias, internas e externas, para se
realizar testes com sucesso;
O Plano de testes pode ser alterado à medida que informações vão sendo
adquiridas durante a fase de planejamento dos testes, mas deve estar pronto antes
da condução deles.
Este documento descreve o Plano de testes para a avaliação do software Casa Mal
Assombrada, que trabalha com a grafia de grupos de palavras da língua portuguesa.
Avaliar se o software está conseguindo obter os resultados esperados, se está atingindo suas
metas, e levantar seus pontos positivos e negativos por meio da observação das crianças usando o
software e exercendo as tarefas solicitadas.
77
4 – Aspectos a serem avaliados (objetivos específicos dos testes): listagem das
questões que precisam ser analisadas durantes os testes, separadas por tipo (geral,
específica, sobre hardware, sobre documentação, pedagógicas). Deve ser uma
seção precisa, clara e mensurável/observável. Perguntas vagas, do tipo: “o software
é efetivo?” não identificam o problema e dificilmente poderão ser respondidas. As
questões devem ser diretas, identificando a possível causa do problema, como em
“A mudança na posição do botão causa frustrações nas crianças?”.
5 - Perfil da criança: descrição das características das crianças que participarão dos
testes.
Característica Necessidade
Quantidade de crianças 8
Idade 6 a 10 anos
Nível da criança na matéria do software 50% crianças inexperientes e 50% crianças experientes
78
6 – Metodologia: descrição de como o teste deverá ser conduzido com as crianças.
Deve-se fazer uma sinopse do teste, formulando uma visão geral desde a chegada
das crianças até a hora em que vão embora. Assim, quem tiver lido o Plano de teste
e estiver assistindo ao teste, saberá exatamente o que esperar em cada momento.
Essa descrição também é útil caso a avaliação do software seja feita por mais de um
condutor 18, garantindo que todos ajam similarmente.
O teste aqui descrito foi projetado para a coleta de dados pedagógicos e técnicos. Esses serão
obtidos via observação direta e via questionários e testes em papel para a coleta de dados de
preferência e aprendizado. Todas as etapas do teste estão descritas a seguir.
2 – Orientações e pré-teste
Será falado às crianças um script de orientação, que é uma explicação dada sobre o que vai
ocorrer durante o teste. O script contém apresentações de todos os participantes do teste, as
explicações do porquê do teste, descrição do que é esperado da criança e a descrição do
equipamento usado no teste. Será ressaltado que o centro do teste é o software e não as crianças,
e que eles devem agir da forma mais confortável possível.
Se for o caso, será aplicado um pré-teste, para coleta dos conhecimentos da criança referentes
ao conteúdo do software.
3 – Aplicação do teste
A aplicação do teste consiste em uma lista de tarefas solicitadas pelo condutor que as crianças
deverão realizar enquanto estão sendo observadas.
Durante o teste, erros, acertos e comentários serão registrados para cada tarefa da lista. O
condutor do teste também tomará notas a respeito do comportamento, opiniões e qualquer
circunstância não-usual que ocorrer no teste que tenha importância. Os participantes estarão sendo
gravados para registro permanente e posterior verificação.
18
As palavras condutor e avaliador são usadas no mesmo sentido neste trabalho.
79
7 – Tarefas: listagem das tarefas que serão solicitadas às crianças durante o teste,
incluindo pequena descrição, os requisitos necessários para a sua realização (Req)
e a descrição de uma medida de sucesso da tarefa (CS). As tarefas devem explorar
as possibilidades de defeito e problemas no software, refletindo o que se deseja
descobrir sobre o programa. Só assim conseguirão obter resultados significativos.
80
TABELA 23 − Exemplo de papel de condutor
O condutor de testes, também chamado de avaliador, é a pessoa que estará com as crianças
durante todo o teste.
Ele sentará com as crianças, iniciará o teste, simulará cenários necessários e solicitará tarefas.
Durante este processo ele também registrará expressões, erros, observações e comentários.
Quando uma criança apresentar dificuldades em alguma tarefa, o condutor evitará fornecer
respostas. Ele procurará incentivar a descoberta, estimulando o aprendizado.
Além do condutor dos testes, poderão existir observadores presentes no teste, não mais que três
pessoas, que poderão fazer anotações sobre o teste também.
81
TABELA 24 − Exemplo de medidas de avaliação
As seguintes medidas de avaliação serão coletadas e analisadas:
Medidas de preferência:
• Qual jogo gostou mais ou menos
• Facilidade de entendimento do software
• Se gostaram das animações e textos do software
Medidas de interação:
• Nível de motivação
• Contagem de comportamentos semelhantes
Medidas de efetividade:
• Número de tarefas completadas com sucesso com ou sem ajuda
• Número de tarefas completadas erradamente
• Contagem de seleções incorretas
• Contagem de erros
82
4.2.2.3. Preparação de Formulário de consentimento
Para os pais das crianças que participaram dos testes envolvidos neste
trabalho foi apresentado um formulário contendo breve explicação dos objetivos e
procedimentos do teste e solicitando a autorização para a participação de seus filhos
nos testes. Um exemplo de Formulário de consentimento usado nos testes pode ser
visto a seguir.
83
Formulário de consentimento
Caros Pais,
Eu, Ana Paula Ribeiro Atayde, mestranda em Ciência da Computação pela Universidade
Federal de Minas Gerais, estou trabalhando em uma dissertação para avaliar a qualidade de
software (programa de computador) educativo, buscando contribuir para a criação de critérios de
avaliação de software, assim como na construção de software educativo e orientação do uso pelos
docentes.
Para que meu trabalho seja completo, necessito da participação de crianças em avaliações
de software infantil. Essa participação consiste em levar as crianças até um laboratório com um
computador e pedir para que elas utilizem alguns programas em questão. Nesta utilização elas
estarão avaliando e dando sua opinião sobre interface e funcionamento dos mesmos. A sessão dura
em média uma hora e meia.
O laboratório possui, além do computador, uma filmadora que registrará toda a avaliação.
Esta filmagem é necessária para que possamos fazer uma análise posterior e coletar melhor as
opiniões dadas pelas crianças durante a avaliação dos programas, uma vez que não é possível
documentá-las somente durante a avaliação, devido ao curto espaço de tempo e à rapidez com que
as crianças se expressam.
Obs.: As fitas com a gravação dos testes feitos pelas crianças estarão disponíveis para os pais das
crianças que participarem das avaliações. Estou à disposição para qualquer esclarecimento.
Orientadores:
Adla Betsaida Martins Teixeira Clarindo Isaías Pereira da Silva e Pádua
Faculdade de Educação – UFMG Depto. de Ciência da Computação – UFMG
____________________________________________
Nome do pai ou responsável (legível)
____________________________________________
Assinatura do pai ou responsável
FIGURA 13 − Exemplo de Formulário de consentimento
84
4.2.2.4. Preparação de Script de Orientação
- Que podem perguntar o que quiserem durante o teste (mas avisando que
nem sempre o condutor dará a resposta);
§ Avisos de que eles não estão sendo testados e, sim, o software (deve-se
ressaltar que o comportamento do condutor durante o teste conta muito também
para que a criança não se sinta testada);
85
Cabe aqui o comentário de que no Script de orientação (ou em qualquer outro
momento do teste), deve-se evitar dizer que o jogo é fácil de usar ou que é simples,
pois caso ocorra alguma dificuldade durante o teste, as crianças podem então
concluir que o problema está relacionado a elas.
“Olá, meu nome é Ana Paula e vou ficar com vocês durante todo o teste. Este é o Bernardo que
vai acompanhar o teste, filmando-o.”
“Bem, vocês estão aqui hoje para nos ajudar a testar alguns programas e joguinhos. Eu chamo
isto de um teste, mas não estou testando vocês de forma alguma. Precisamos da ajuda de
vocês para descobrir se os programas estão realmente ajudando vocês a aprenderem as
matérias e também para descobrir o que crianças na sua idade tem facilidade em fazer e o que
acham difícil de fazer nestes programas.”
“Vou pedir para que vocês façam algumas tarefas nos programas e estarei aqui o tempo todo
que vocês precisarem. Vocês podem falar o que quiserem, perguntar o que quiserem, como se
vocês estivessem em sua casa ou na sua aula de informática na escola. Vocês podem
interromper ou parar o teste a qualquer momento que quiserem.”
“Durante o teste, estaremos observando e fazendo anotações. Todo o teste será filmado por
meio de câmeras para que possamos ver depois. Vocês estarão com microfones para que suas
vozes sejam gravadas. Vocês trouxeram a autorização dos seus pais?”
“Está bem assim? Você(s) têm alguma dúvida?”
86
§ Deve-se levantar toda a informação histórica da criança que poderia influenciar
no seu comportamento durante o teste (idade, formação, sexo, experiência com
computadores, preferências);
§ Deve-se testar a entrevista com alguma criança antes da situação de teste para
que alguns defeitos sejam identificados e corrigidos.
87
Entrevista com crianças
Criança1: Criança2:
Escola: Série: Teste nº: Software (s):
88
4.2.2.6. Preparação de Pré e Pós-testes
89
Pré-teste e Pós-teste de software
1- Escopo
Teste nº 1
Software Casa Mal Assombrada
Data
Crianças
Escola Magnum Agostiniano
Condutor Ana Paula Ribeiro Atayde
2- Descrição
Ditado:
- Entregar uma folha para cada criança e pedir que escrevam as seguintes palavras:
- Marcar as palavras que cada criança errou.
- Acrescentar palavras que erraram durante o teste para perguntar no pós-teste
90
4.2.2.7. Preparação de Formulário de observação
91
4.2.2.7.1. Formato sugerido para Formulário de observação
92
Formulário de observação
1 – Escopo
Teste nº
Software
Data
Crianças
Série
Escola
Condutor
2 –Tarefas
Nº Descrição Observar
Parecem entender? S N
Terminaram o jogo? S N
93
4.2.2.8. Preparação do Questionário com crianças
2 – Perguntas gerais: perguntas de alto nível sobre o software, como “o que você
achou?”, formuladas antes do teste. Com crianças, pode-se usar o desenho de uma
escala (HANNA et. al., 1997) para que elas marquem o quanto gostaram do
software, como a usada no exemplo da Figura 18. Iniciando o questionário com esse
tipo de pergunta, o avaliador possibilita à criança dizer o que tem em mente, que é
geralmente sua impressão ou fato ocorrido mais proeminente, provavelmente uma
informação muito importante.
94
3 – Perguntas específicas: perguntas relativas a alguma parte do software. Elas
podem ser formuladas antes do teste, mas a maioria é levantada no decorrer dele,
dependendo de ações e comentários das crianças.
95
Formulário de Questionário com crianças
1 − Escopo
Data
Crianças
Escola
Software
Teste nº
Condutor
2 − Perguntas gerais
3 − Perguntas específicas
Criança 1 Criança 2 Comentários
ITEM NÃO SIM NÃO NÃO SIM NÃO
SEI SEI
1
2
96
4.2.2.9. Preparação de Lista de verificação
√ Cumprimentar as crianças;
√ Realizar o Pré-teste;
√ Realizar o Pós-teste;
97
inadequado. Com isso, os testes da avaliação foram invalidados, perdendo-se todo o
tempo despendido na sua preparação.
§ Deve-se ter cuidado com informações retiradas do software, pois elas podem não
corresponder à realidade − ao definir a faixa etária desejada das crianças, em
vez de procurar na documentação do software, o ideal é verificar com docentes
qual é a mais adequada;
98
mas o mesmo autor recomenda a seleção de oito participantes para que nenhum
detalhe passe despercebido. Nas avaliações deste trabalho, foram selecionadas de
seis a 14 crianças para cada software, dependendo da complexidade do programa.
Os mais simples, com menos funções, necessitaram de seis crianças, enquanto nos
mais complexos participaram de dez a 14 participantes.
Definido o perfil das crianças com que se deseja trabalhar, deve-se passar
para a sua seleção. Se o teste for realizado em escola, essa seleção pode ser feita
com a colaboração de docentes que melhor conhecem o perfil de cada criança. Em
caso de testes realizados fora do ambiente escolar, deve-se checar com os pais ou
responsáveis se as crianças possuem as características desejadas.
99
que seriam mais difíceis de serem detectados em ambiente não-familiar à criança.
As Figuras 19 e 20 ilustram como alguns ambientes usados nos testes deste
trabalho foram preparados. Eles representam os equipamentos e espaços mínimos
necessários para a condução de um teste em escola ou casa. Na sala onde o teste
será conduzido, as crianças ficam em frente a um computador, juntamente com o
condutor do teste, localizado um pouco atrás. O computador deve ser preparado
com a instalação do software a ser usado (caso ele já não esteja) e conferido antes
do teste. A filmagem é feita por uma câmera, de forma a captar o som e a imagem
das crianças e da tela do computador. Se existirem observadores, eles devem ficar
localizados lateralmente às crianças, evitando interferências. Sugere-se que não
sejam usados muitos observadores para não intimidar os participantes. Os seguintes
equipamentos são, portanto, necessários:
Vale ressaltar que o ideal seria que a câmera, o tripé e o microfone fossem
levados para o local antes do dia do teste para que, caso algum imprevisto ocorra,
ainda seja possível contorná-lo. Se não for possível, deve-se pelo menos levar os
equipamentos para o local com certa antecedência.
Computador
Participante
Participante
Observadores Condutor
100
FIGURA 20 − Foto de ambiente de teste realizado em escola
101
Observadores
Responsável pela filmagem
Espelho falso
Filmadora 2 Participante
Computador
Condutor
Participante
Microfone
Filmadora 1
4.2.2.11.2. Materiais
102
§ Realização do teste por um avaliador: o avaliador que planejou o teste deve usar
o próprio teste, colocando-se no lugar de uma criança. Durante o teste, o
avaliador deve procurar por falhas e verificar o tempo gasto, para garantir que ele
poderá ser realizado no tempo previsto. A leitura das perguntas do teste em voz
alta facilita a detecção de erros. Todos os problemas encontrados devem ser
então corrigidos.
103
4.2.3.1. Preparação do ambiente e dos observadores
§ Instruir eve ntuais observadores sobre sua conduta. Observadores são pessoas
da equipe de avaliação, docentes, pais ou qualquer um que se relacione com a
avaliação e que deseje assistir aos testes. Os observadores devem ficar
afastados das crianças, ser discretos e não devem interferir durante o teste.
Caso queiram fazer alguma pergunta aos participantes, devem fazê-la ao final do
teste;
104
4.2.3.3. Recolhimento dos Formulários de consentimento
105
borracha 19 ), pedindo as tarefas relacionadas e registrando as anotações que forem
importantes.
Novamente, se o teste estiver sendo feito com duas crianças, deve-se aplicar
o Pós-teste simultaneamente, entregando para elas os materiais necessários,
solicitando as tarefas e realizando anotações. Após o término do Pós-teste, o
avaliador deve identificar os formulários com o nome de cada criança.
19
O condutor deve ter disponíveis caneta e lápis, deixando que a criança selecione qual deseja usar.
Algumas crianças estão acostumadas a usar somente lápis na escola e vão preferi-lo.
20
O termo “memorização compreensiva” foi utilizado para esclarecer que não se trata de uma
memorização sem significado. A criança entendeu o significado do conteúdo e depois memorizou-o.
106
4.2.3.9. Condução das perguntas do Questionário com crianças
O condutor deve tentar fazer o questionário parecer mais uma conversa entre
amigos, deixando as crianças livres para falarem o que desejarem. O condutor não
deve, em nenhum momento, tomar parte do programa, pois pode interferir nas
respostas das crianças. Perguntas do tipo: “O jogo foi fácil de entender, não foi?”
não devem ser feitas, pois mesmo que a criança tenha achado o jogo difícil, poderá
concordar com o condutor, temendo ser ava liada negativamente.
21
Deve-se checar com docentes, pais ou responsáveis se a criança pode receber gratificações como
balas ou doces. Pode haver, por exemplo, crianças diabéticas.
107
iniciar a próxima, o avaliador deve fazer as alterações necessárias. Normalmente,
nos dois primeiros testes ocorrem mais alterações. A partir daí, um teste mais
estável é obtido.
108
avaliador. Mesmo com anotações detalhadas e filmagens, alguns eventos só são
registrados na memória do avaliador, e esses podem ser esquecidos facilmente.
109
TABELA 27 – Exemplo de resumo de tarefas do Plano de testes
110
TABELA 28 – Exemplo de respostas das perguntas listadas no Plano de testes
Sim Não
Perguntas sobre o software em geral
E I E I
- Crianças confundem os botões “chega” e ”outro”? 3 2 2
- Crianças gostam das figuras, personagens, animações? 4 2 1
- Crianças entendem a linguagem usada no software? 4 2 2
- Crianças entendem o número de tarefas do jogo? 5 2
- Crianças gostam das telas de resultado? 2 2
- Crianças gostariam que o jogo tivesse recursos sonoros? 5
- Crianças quiseram aumentar a tela? 4
- Melhoraram no pós-teste 3 2 2
Perguntas sobre os jogos
- Crianças lêem telas de entrada dos jogos? 9 5 27 12
- Crianças lêem regras? 9 11 14 3
- Crianças entendem o que fazer nos jogos? 22 14 8 1
- Crianças entendem que erraram? 16 6 2 3
- Criança(a) pensa? (não corresponde a tentativa e erro) 27 8 3 2
- Mudança na posição dos botões “outro” e ”chega” influi? 1 14 8
- No exercício ”c ç s ss xc sc”, crianças clicam somente uma vez? 5 1
- No exercício “s x z”, crianças tentam usar mouse? 3 2 1 1
- No exercício “homônimos e parônimos”, lêem explicação ao errar? 1 1 4 1
Legenda: E – Experientes I – Iniciantes
111
TABELA 29 − Ranking de gravidade dos erros e dificuldades
Descrição da
Ranking Definição
gravidade
112
Em seguida, classifica-se o erro pela sua freqüência de ocorrência: somam-se
as ocorrências do erro nos testes e classifica-se como sugerido na Tabela 30.
113
gastando o tempo que for necessário. Talvez precise rever as fitas, o software, os
princípios de Usabilidade, as heurísticas relacionadas e os documentos dos testes.
Resumo
O objetivo do jogo foi atingido, pois muitas crianças acertaram palavras que haviam errado no
pré-teste após jogarem os jogos.
Alguns problemas superáveis foram detectados, como:
- uso do teclado ou mouse deveria ser sempre possível;
- a diferenciação de erro/acerto nos jogos deveria ser mais clara;
- tela com frases introdutórias dos jogos não são lidas, pois o tempo para a leitura é curto;
- identificação do número de telas em alguns jogos não é compreensível para as crianças;
- entre outros (vide erros).
O problema mais sério foi encontrado no jogo JG, em que deve-se arrastar a letra J ou G para
completar as palavras. Mas ao chegar com a letra na palavra, se esta estiver errada, o jogo muda a
forma do mouse para uma bola vermelha cortada, indicando erro. Então, algumas crianças
interpretaram como se o jogo desse a resposta, pois não possibilita que eles coloquem a letra. Ou
seja, o feedback de erro é dado antes que a tarefa seja completada pela criança.
Crianças gostaram dos jogos, principalmente do jogo X CH, devido à animação usada no jogo (uma
flecha acerta a bruxa, saindo sangue).
114
O Relatório final de avaliação deve ter uma seqüência lógica, com início, meio
e fim. O início deve conter o dados explicativos sobre a avaliação e sobre o
software; o meio descreve os problemas detectados e as análises qualitativas e
quantitativas realizadas; e o fim apresenta as conclusões e recomendações. O
Relatório final de avaliação não deve ser muito técnico ou cansativo, pois os
interessados devem conseguir lê-lo com facilidade.
22
O tempo é coletado para cálculo posterior do curso da avaliação.
115
TABELA 33 − Exemplo de escopo
116
TABELA 35 − Exemplo de documentação relacionada
117
TABELA 37 − Exemplo de problemas encontrados no software
Classificação Heurística(s)
Nº Problemas Solução
(8-0) violada(s)
Como a figura utilizada como
Pouco mais de um terço ícone não tem nenhuma relação
dos participantes tive Significado com a odontologia, sugere-se sua
1 dificuldade na localização 3 de código e substituição por uma que
do ícone de atalho para o denominação identifique a odontologia, como
software. uma escova de dente ou mesmo
somente um dente.
118
Pertinência em relação à proposta pedagógica
O software trabalha com a disciplina Língua Portuguesa, mais especificamente com a grafia de
vários grupos de palavras.
O ambiente do software não é aberto, não dá à criança nenhuma outra possibilidade de criar
outros cenários e outras atitudes frente aos objetos. O processo se desenrola em torno do erro e do
acerto. Não apresenta múltiplos caminhos para solução de problemas, só aceita as respostas
prédeterminadas.
Mas o software é uma ferramenta de auxílio ao docente no ensino de palavras que, normalmente,
causam dúvidas na sua grafia.
Utilização de recursos computacionais
O maior diferencial do software em relação a outros meios de ensino é o uso de animações nos
jogos. O ambiente proporciona interesse das crianças, por se tratar de uma casa “mal assombrada”,
com bruxas, fantasmas, caveiras.
Avaliação da aprendizagem
O único tipo de avaliação da aprendizagem apresentada foram telas com resultados gerais após
término de determinados jogos, mostrando número de acertos e número de erros das crianças.
O software não possibilita nenhum tipo de armazenamento de respostas e/ou ações das crianças.
Interação
O software disponibiliza meios para informar e conduzir a criança na interação (mensagens,
botões, figuras).
O software permite que se saiba, em qualquer momento, o ponto em que se encontra numa
seqüência de interações ou na execução de uma tarefa, mas a identificação dessas em alguns
jogos é falha, devido à correspondência que crianças fizeram com a forma de representação de
número de erros em jogos similares (vide lista dos problemas, item 3).
Reconhecimento no lugar de memorização
O software permite que a criança saiba em que ponto se encontra no software e o que fez para se
encontrar nessa situação.
O software não exige da criança esforços extras para memorizar como utilizá-lo.
Alguns problemas de interface foram encontrados:
- A identificação da palavra inicial do jogo “c ç s ss xc sc” não está clara, confundindo as crianças;
(vide problemas, item 6)
- No jogo “s x z”, como essas letras estão na interface, crianças entendem que são para serem
clicadas, mas na verdade o jogo solicita que essas sejam digitadas.
Qualidade das opções de ajuda
O software não disponibiliza recursos por meio de explicações fornecidas em sistemas de ajuda.
Legibilidade
Os textos do software são claros e bem-redigidos. A linguagem usada é familiar às crianças.
Feedback
O feedback está presente em todos os jogos do software, mas ocorrem vários problemas,
principalmente ligados à diferenciação de feedback de erro ou acerto, falta de sonorização dos
mesmos e feedback transmitidos em momentos inadequados.
Vide problemas, itens 2, 7, 8 e 9.
Agrupamento e distinção de itens
Não foi detectado nenhum problema relacionado ao item, o que indica que os textos, figuras e
botões do software estão bem-organizados.
.....
119
6 − Análise quantitativa dos atributos técnicos e pedagógicos: verificação quantitativa
da conformidade do software com as heurísticas técnicas e pedagógicas. Com base
nas heurísticas listadas no Capítulo 6 e trabalhos relacionados (CRONJE, 2001;
CAMPOS, 1994; GAMEZ, 1998), foi elaborada uma lista de verificação para ajudar
na avaliação quantitativa dos aspectos técnicos e pedagógicos de um software
educacional infantil. A lista é composta por um conjunto de questões a serem
respondidas sobre o programa, listadas por critério (he urística). Esse passo foi
elaborado de forma a proporcionar ao avaliador um instrumento no auxílio à
inspeção de conformidade do software em relação às heurísticas. Em concordância
com GAMEZ (1998), sugere-se, portanto, que o avaliador :
Importância Peso
Não se aplica 0.00
É pouco importante 0.33
É Importante 0.66
É muito Importante 1.00
120
n º questões
121
avaliador identificar os pontos críticos no software e ainda comparar
resultados entre diferentes programas.
Documentação 22,6
Consistência e Padrões 50
Conteúdo 50
Adaptabilidade 15,3
Interação 41
0 10 20 30 40 50 60 70 80 90
122
TABELA 41 − Exemplo de conclusões e recomendações
Conclusões e recomendações
O software, apesar de ser ter sido considerado como fechado, não possibilitando flexibilidade de
uso para crianças ou docentes, pode ser usado quando o(a) docente está trabalhando a grafia de
grupos de palavras da língua portuguesa.
Foram encontradas algumas falhas (vide problemas), que podem ser corrigidas com o auxílio
do(a) docente, o que é indispensável para que a criança não limite sua capacidade de curiosidade e
busque sempre o conhecimento baseado em discussões sobre determinada dúvida. A maior falha
encontra-se no jogo “j g”: as crianças interpretam o jogo como se ele fornecesse as respostas, ou
seja, elas não precisam raciocinar durante as tarefas, simplesmente completam as palavras por
tentativa e erro. Isso ocorre devido ao feedback antecipado que o jogo fornece sobre a resposta
certa/errada. Em vez de esperar que a criança coloque a resposta para conferi-la posteriormente, o
jogo não possibilita que respostas erradas sejam colocadas. Portanto, recomenda-se que o jogo
somente seja usado se o(a) docente/pai puder acompanhar de perto o processo, verificando se as
crianças estão realmente raciocinando.
Um dos fatores positivos do software foi a simulação de um ambiente com personagens de uma
casa mal assombrada. O uso desses personagens, animações e coloridos despertou a atenção das
crianças, motivando-as.
123
do tempo despendido na avaliação de software educacional infantil de
complexidade23 e experiência24 médias por um avaliador.
23
Neste estudo, adotou-se como medida de complexidade do software o número de tarefas/jogos
existentes no programa. Programas com até duas tarefas foram considerados de complexidade
baixa, de três a cinco tarefas de complexidade média, e a partir de seis tarefas, de complexidade alta.
Como foram avaliados programas de baixa, média e alta complexidade, considerou-se a estimativa
encontrada como referente a software de conformidade média.
24
Como a experiência do avaliador foi evoluindo de baixa para alta no decorrer das avaliações
realizadas, ela foi considerada como média para a estimativa realizada.
124
TABELA 42 − Tempos despendidos nas fases da metodologia
Fase Tarefa Tempo Total
Reconhecimento e Entrevistar docentes (2 ou 3) da escola; 3 horas
proposta de
8h
avaliação do Familiarizar com o software e registrar anotações; 4 horas
software
Preparação do Plano de testes; 8 horas
Preparação de Formulário de consentimento; 30 minutos
Preparação de Script de orientação; 25 minutos
Preparação de Entrevista com crianças; 30 minutos
Preparação de Pré e Pós-testes; 40 minutos
Planejamento dos Preparação de Formulário de observação; 3 horas 18 h e
testes Preparação de Questionário com crianças; 1 hora 50 min
Preparação de Lista de verificação; 15 minutos
Preparação do ambiente, dos equipamentos e dos
3 horas
materiais;
Realização de testes de todos os itens do teste pelo
1 ½ hora
avaliador;
Preparação do ambiente e dos observadores; 45 minutos
Teste 1:
- Cumprimentos e apresentação;
- Recolhimento dos Formulários de consentimento;
- Transmissão das informações contidas no Script de
orientação;
- Condução das perguntas da Entrevista com crianças; 2 horas
- Aplicação do Pré-teste;
- Condução do teste;
- Realização do Pós-teste;
- Condução das perguntas do Questionário com crianças;
- Agradecimento e gratificação;
Organização de papéis coletados; 15 minutos 10 h e
Realização de acertos no teste; 1 hora 10 min
Realização dos Teste 2:
testes - Cumprimentos e apresentação;
- Recolhimento dos Formulários de consentimento
- Transmissão das informações contidas no Script de
orientação;
- Condução das perguntas da Entrevista com crianças; 1 hora e
- Aplicação do Pré-teste; 40 minutos
- Condução do teste;
- Realização do Pós-teste
- Condução das perguntas do Questionário com
crianças;
- Agradecimento e gratificação;
Organização de papéis coletados; 15 minutos
Realização de acertos no teste; 30 minutos
4 horas e
Testes 3 a 5;
30 minutos
Observação e análise das filmagens; 16 horas
Transcrição dos dados; 8 horas
Análise de dados e Resumir dos dados; 6 horas
Produção do 42
Relatório final de Produção do relatório final: horas
avaliação - Verificar heurísticas qualitativamente;
12 horas
- Verificar heurísticas quantitativamente;
- Produzir recomendações e resultados;
Total 79 horas
125
Pode-se concluir então que, para a avaliação de um software educacional
infantil de complexidade e experiência médias por um avaliador, são necessários de
13 a 15 dias (seis a cinco horas de trabalho por dia).
126
programa em uso pelo seu público-alvo é que realmente podemos verificar suas
aplicações, falhas e pontos fortes, além de ajudar na descoberta das
necessidades e preferências das crianças.
127
5. HEURÍSTICAS
5.1. Introdução
128
GAMEZ (1998) e CRONJE (2001) apresentam diretrizes para programas
educacionais e GARCIA (2001) propõe adaptações de diretrizes para se adequarem
ao público infantil.
129
da tecnologia para desenvolver ambientes em que novas estratégias de ensino
possam ser usadas. Alguns recursos permitidos pela tecnologia que podem ser
explorados em um software educacional infantil estão listados a seguir:
5.2.4. Interação
130
§ A criança deve poder obter informações suplementares (eventualmente a seu
pedido).
a) Objetos, ações e opções devem estar visíveis. A criança não deve ter que se
lembrar de informações de uma parte anterior do diálogo para seguir adiante nas
tarefas.
131
5.2.4.3. Legibilidade
5.2.4.4. Feedback
c) Feedback sonoro pode ser usado, mas sempre com cautela e com a opção de
ser omitido, pois pode provocar irritação nas crianças. Por exemplo, se cada vez
que a criança erra um exercício o software emitir o som de buzina, esse som
poderá provocar nela carga emocional negativa e dificultar a situação de
ensino/aprendizagem. Som ou voz constituem uma forma promissora de
132
interação já que são mecanismos naturais de comunicação para o ser humano.
No caso do usuário infantil, inclusive, pode ser bom recurso motivacional. No
entanto, em interface de computador, esse tipo de solução precisa ser muito
bem-projetada e implementada, justamente pelo risco de não se conseguir
solução que soe natural para o usuário humano.
5.2.5. Adaptabilidade
5.2.5.1. Flexibilidade
133
possam, por várias maneiras, alcançar um mesmo objetivo. Por exemplo, um
software que permita o uso tanto do mouse quanto do teclado, oferece à criança
a escolha de sua preferência. É preciso cautela, no entanto, para garantir que a
criança não se confunda e consiga, se necessário, identificar que as várias
alternativas são apenas maneiras diferentes de se realizar uma mesma tarefa, do
modo que lhe for mais confortável.
c) O software educacional infantil deve possibilitar que o(a) docente possa expandir
o conteúdo do programa em seu trabalho;
134
5.2.6. Controle e autonomia do usuário
5.2.6.1. Acesso
5.2.6.2. Saída
135
FIGURA 24 − Botão para a saída não aparece durante o jogo.
5.2.6.3. Pausa
136
visto que fazem com que as crianças se envolvam mais durante a utilização do
programa. As seguintes diretrizes são pertinentes:
d) Recursos sonoros podem ser usados, mas sempre com cautela. O gosto de
crianças em relação a sons varia muito e pode depender do nível de experiência
da criança com o software (o uso repetitivo de sons pode irritar crianças
experientes). Portanto, a sonorização de um software educacional infantil sempre
deve ser opcional, como observa a heurística 5.2.5.1 (Feedback), item c.
137
perca o objetivo do software, que é o aprendizado, se entretendo muito com o
programa.
138
a) Campos formatados para determinadas entradas de dados;
139
informação contida nas interfaces do software educacional infantil que pode ser
utilizada para a realização de tarefas. As heurísticas Carga informacional e
Brevidade relacionam-se à carga de trabalho.
5.2.9.2. Brevidade
5.2.10. Conteúdo
140
objetiva e adequada a uma proposta pedagógica (heurística 5.2.1: Pertinência em
relação a uma proposta pedagógica).
141
5.2.11. Significado de códigos e denominações
b) Abreviações e siglas devem ser evitadas. Mas caso sejam utilizadas, devem ser
explicadas e identificadas por meio de um glossário de siglas e abreviações.
142
b) A existência de padrões envolvendo diferentes produtos de software educacional
infantil de uma mesma família de produtos relacionados também é importante e
deve ser utilizada.
143
FIGURA 25 − As figuras de morcegos que aparecem em cima da tela do
jogo representam o número de textos do jogo. Mas em todos os testes
realizados, crianças disseram ser “vidas” do jogo, ou seja, número de vezes
em que se poderia errar. Isso devido à associação com outros programas
existentes, em que “vidas” são representadas da mesma forma.
5.2.14. Documentação
144
5.2.14.1. Documentação de descrição do produto (para
docentes/pais)
145
c) Deve-se ter cuidado com a densidade de informação na documentação, pois,
caso ela seja muito alta, poderá dificultar o entendimento e induzir a erros por
parte do usuário na interação com o sistema.
146
e na exploração do programa. A documentação de uso para crianças pode não
abranger todas as funções do software, visto que algumas podem ser restritas a pais
ou docentes.
a) Documentação de uso direcionada às crianças não deve ser longa (pois crianças
se dispersam), deve ter linguagem adequada ao aprendiz (para que a
compreensão seja garantida) e deve ser opcional, pois só são interessantes para
iniciantes.
c) Regras escritas podem ser usadas, desde que sejam de fácil localização, legíveis
e compreensíveis.
147
(por exemplo, as heurísticas 5.2.2, 5.2.7), pois nenhuma referência sobre o assunto
havia sido encontrada.
148
6. REALIZANDO A AVALIAÇÃO DE SOFTWARE EDUCACIONA INFANTIL – O
papel do avaliador
6.1. Introdução
§ Observador(es): na verdade, não representa nenhum papel, pois não tem tarefas
definidas durante o teste. São somente pessoas da equipe de avaliação,
docentes, pais ou qualquer um que se relacione com a avaliação e que deseje
assistir aos testes.
6.2. O avaliador
149
avaliação, envolvendo tarefas que devem ser realizadas com cautela. A boa
condução de uma avaliação terá influência direta na obtenção de bons resultados.
§ Prestar muita atenção aos sinais que as crianças dão, como risadas, expressões
faciais e olhares. Esses comportamentos são mais confiáveis do que respostas a
perguntas sobre o software. Crianças, principalmente as mais novas, querem
agradar adultos e podem então dizer ao avaliador que gostaram do programa
somente para satisfazê-lo.
150
§ Ser neutro e imparcial. Não deve transmitir suas opiniões ou fazer comentários
sobre o software. Não deve fazer gestos ou palavras que influenciem as
crianças. Não deve fazer expressões de insatisfação quando algo de errado
ocorrer, pois a última impressão normalmente é a mais marcante. Mesmo que o
condutor esteja o tempo todo com feição agradável, se em algum momento
mudá-la, essa impressão ficará registrada para as crianças.
§ Usar roupas informais para parecer amigo das crianças, e não uma autoridade.
§ Ter cuidado com o tom de voz e a linguagem corporal. O condutor não pode
parecer uma autoridade, deve parecer uma pessoa familiar à criança.
§ Reagir aos erros cometidos pelas crianças com naturalidade e da mesma forma
que nos acertos.
§ Estimular as crianças quando algum erro ocorrer, dizendo, por exemplo: “Vamos
tentar novamente?”, e nunca dizendo: “Está errado!”, pois esse comentário gera
insegurança.
151
§ Estimular perguntas e não inibi-las. Se a criança pergunta muito é porque confia
no condutor.
§ Conduzir em vez de “salvar”. Não deve “salvar” dando a resposta para a criança
quando ela fizer uma pergunta, mas também não deve deixá-la sem nenhum
retorno. O condutor deve tentar conduzi-la para a descoberta da resposta, como
no exemplo a seguir:
§ Ter cuidado com palavras e símbolos usados, pois as crianças podem não
conhecer. Em um Pré-teste realizado durante este trabalho, o símbolo “/” foi
usado para representar divisão, mas algumas crianças não o conheciam,
perguntando ao condutor o significado do símbolo.
152
§ Não se envolver muito com a coleta de dados. O condutor pode perder ações
das crianças se gastar muito tempo com suas anotações. Para isso são feitas as
filmagens. O condutor deve fazer registros pequenos e simples, usando de
abreviações sempre que possível.
§ Não ser muito rígido em relação ao Plano de testes. O condutor deve saber
perceber quando o teste não está atingindo seus objetivos e então modificá-lo
para não desperdiçar o tempo com as crianças.
§ Tratar cada nova criança como se fosse o primeiro teste. Não deve deixar que o
comportamento de outros participantes interfira ou influencie na sua conduta.
§ Dar uma pausa entre os testes para breve descanso. Como cada teste não pode
ser desperdiçado, deve-se primar pela qualidade.
153
§ Conhecer e usar alguma metodologia de avaliação de software educacional
infantil, pois o uso dela facilita o planejamento e o traçado do trabalho, guia as
tarefas a serem realizadas e ajuda a melhorar a forma de sua realização.
§ Saber lidar com cada tipo de criança e deixá-la à vontade no teste. O condutor
deve ser simpático e tornar-se um amigo da criança para que, durante um teste,
ela aja naturalmente e responda corretamente às atividades solicitadas. Não se
pode “perder” a criança, o que significa a criança realizando o teste sem vontade
e fornecendo pouca informação sobre o software. Numa avaliação com seis
crianças, a perda de uma implica a perda de quase 20% dos dados.
§ Possuir boa memória. O condutor pode precisar lembrar dos eventos ocorridos
durante um teste com crianças para perguntá-las posteriormente, durante um
Pós-teste ou questionário. A memória é importante também para a comparação
de desempenho das crianças nos testes de uma avaliação. Outra razão seria a
ocorrência de algum problema na filmagem − o condutor terá, então, somente os
seus registros do formulário e sua memória como base para a análise dos dados.
154
§ Possuir habilidade de ficar sempre atento. Durante os testes, podem ocorrer
períodos sem que nenhum evento significativo ocorra e o condutor então deve se
monitorar para que não se disperse.
§ Saber lidar com frustrações. O condutor, ao ver que a criança está frustrada e
não consegue realizar uma tarefa, pode pedir que ela passe para a próxima
tarefa ou então pode ajudá-la a responder. O que não pode ocorrer é a criança
perder sua motivação. O condutor deve encorajá-la a continuar, te ntando mostrar
que o problema encontra-se no programa. É nesses momentos, quando ocorrem
dúvidas ou falhas, que melhor percebem-se os defeitos do software educacional
infantil.
155
§ Se possível, aprimorar sua formação nas áreas de educação (informática na
educação, classificação de software educacional, teorias da aprendizagem, entre
outras) e de Usabilidade (desenho, regras, princípios, entre outros);
156
7. A EXPERIÊNCIA DE AVALIAÇÃO
7.1. Introdução
25
Veja Capítulo 3, item 3.2.9.
26
http://www.coleguium.com.br
27
http://informareducacional.com.br
28
Aulas assistidas em abril de 2002, com alunos de 1ª e 2ª séries do ensino fundamental.
157
este trabalho, o que contribuiu para a familiarização com o ambiente e com o
contexto pedagógico, para o entendimento do comportamento das crianças e
docentes durante uma aula desenvolvida no laboratório de informática e até mesmo
para já elencar alguns pontos a serem analisados nos programas adotados na
escola.
158
FIGURA 27 − Software Figuras Geométricas II
159
FIGURA 29 − Segundo jogo do software Dominó dos Números
160
proposta pedagógica. Ainda foi possível identificar aspectos positivos e negativos
dos programas pela observação das crianças exercendo as tarefas solicitadas.
Software Perguntas
As regras são acessadas pelas crianças? Se são, as crianças as lêem?
Entendem?
Crianças clicam no botão “A”? Entendem o que ocorre?
29
Testes realizados em 10/7/2002.
161
familiaridade no uso de computadores, participaram dos testes. As crianças foram
trazidas pela professora em pares. A maioria dos testes foi filmada30.
30
Alguns testes não foram filmados por falta de fita para filmagem. Como eram os primeiros testes
realizados, calculou-se mal o número de fitas necessárias para a gravação de todos os testes.
31
Essas listas de tarefas foram preparadas no Plano de testes de cada software.
162
TABELA 44 − Lista de tarefas software Dominó
32
Como esta foi a primeira avaliação realizada, durante seu planejamento medidas de tempo ainda
pretendiam ser usadas. Após esta avaliação, tomou-se então conhecimento da inadequação deste
tipo de medida em testes com crianças e elas não foram mais usadas.
163
TABELA 46 − Lista de tarefas software Dominó dos Números
164
TABELA 47 − Problemas e conclusões sobre o software Dominó
Software Dominó
O botão para saída só aparece quando o jogo dominó é completado, Controle e autonomia do
impossibilitando a saída do jogo em qualquer outro momento. usuário (saída)
Controle e autonomia do
Impossibilidade de reverter ação de saída usuário (Desfazer uma
ação)
Conclusões
O software não possibilita que a criança avance no aprendizado, por isso foi considerado como
limitado: a criança não tem interesse em reutilizar o software por muitas vezes.
Entretanto, o software pode ser usado quando o(a) docente está trabalhando com identificação
de figuras geométricas, cores e números. Pela observação, o(a) docente pode ver se a criança
tomou consciência do que fez, daí a necessidade de o(a) docente acompanhá-lo(a) e discutir
conceitos paralelamente. O auxílio do(a) docente é, portanto, indispensável para que a criança não
limite sua capacidade de curiosidade e busque sempre o conhecimento acerca de discussões sobre
determinada dúvida.
165
TABELA 48 − Problemas e conclusões do software Figuras Geométricas II
As regras do software muitas vezes não são lidas ou compreendidas, Documentação de uso
necessitando de explicações do(a) docente sobre o jogo. direcionada a crianças
O software possui somente uma figura (interface) para ser colorida. A Adaptabilidade
criança normalmente se cansa por não ter outra opção. (Flexibilidade)
Gestão de erros
Controle e autonomia do
Software não possui botão de saída.
usuário (saída)
Conclusões
O software pode ser usado quando o(a) docente está trabalhando com identificação de figuras
geométricas e cores. Foram encontradas algumas falhas (vide problemas) que fazem com que o
uso do software seja vinculado ao auxílio do(a) docente durante as tarefas. Ele deve ajudar
principalmente no entendimento do jogo e com o entendimento de erros. O software não
disponibiliza outras interfaces para serem coloridas, limitando seu uso.
Apesar dos problemas listados, o software proporciona relação agradável com a criança, o que
pode ser confirmado pela satisfação delas em jogar o jogo.
166
TABELA 49 − Problemas e conclusões sobre o software Dominó dos Números
Controle e autonomia do
Irreversibilidade de ações no primeiro jogo (não possibilita
usuário (Desfazer uma
modificar/voltar/apagar)
ação)
Documentação de uso
Jogos não possuem instruções
direcionada a crianças
Software usa padrão diferente de saída de tela (para continuar o jogo),
dificultando a interação da criança. O software, em vez de utilizar
Correspondência com
recursos semelhantes aos de jogos populares para a continuação de uma
outros programas
tarefa (como clicar em <enter> ou na mensagem), solicita que a criança
similares
clique fora da interface. Como as crianças muitas vezes não lêem as
mensagens das telas, a tarefa se torna problemática.
Conclusões
O software foi visto como inapropriado para o uso em ambientes educacionais, visto que, em
muitos casos (jogos dois e três), seus objetivos são dificilmente atingidos. Somente no primeiro jogo
do software, de tabuada, as crianças puderam desenvolver raciocínio. No segundo jogo, devido à
falha da disposição das figuras na tela, as crianças se confundem e não entendem o que fazer,
desistindo do jogo. Para se garantir que o jogo fosse bem-explorado, necessitaríamos de que o(a)
docente estivesse ao lado da criança durante todas as tarefas, explicando cada uma das telas do
jogo. Como isso não é possível num ambiente de sala de aula, onde o(a) docente deve ajudar
várias crianças ao mesmo tempo, não se pode garantir a eficácia do jogo. No terceiro jogo, o
problema ocorre porque as crianças, em vez de contar as figuras do jogo, entendem a priori que os
números das colunas estão em ordem crescente e os colocam sem contagem. Talvez se os
números estivessem em ordem aleatória, se forçasse a contagem pelas crianças.
167
7.2.1.3. Propostas de melhorias na MAQSEI
33
A condução das entrevistas e questionários, simultaneamente, com duas crianças pode fazer com
que uma criança influencie nas respostas da outra. Entretanto, tal comportamento não foi notado nos
testes realizados neste trabalho.
168
7.2.2. Colégio Magnum Agostiniano
34
http://www.magnum.com.br
169
que pode jogar com um colega ou com o computador, que, provavelmente,
colocarão suas fichas em posições que a atrapalharão. O processo de colocação de
fichas é semelhante ao “jogo da velha”, só que em um quadrado com 25 posições e
três figuras.
170
FIGURA 32 − Jogo Quebra-Cuca
171
responder às operações que aparecem. Ao terminar, ganha algumas fichas que
contêm números. Cada ficha então deve ser colocada no quadrado mágico, na
posição correta. O quadrado mágico é um quadro onde a soma de qualquer linha ou
coluna é igual ao número escrito em cima do quadrado.
FÌGURA 35 − Jogo X CH
172
No jogo Bingo, a criança deve digitar na cartela o nome da figura que a
caveira mostra. O jogo possui três cartelas de Bingo representadas pelas pequenas
caveiras que aparecem no canto superior esquerdo da tela. A Figura 36 ilustra a
interface da segunda cartela do jogo.
FIGURA 37 − Jogo JG
173
diferentes. A criança deve selecionar a palavra cujo significado corresponde ao
esperado na frase. São 22 frases. Se a criança acerta, a caveira faz sinal de acerto,
se erra, mostra o significado das palavras, como na Figura 38.
FIGURA 39 − Jogo c ç ss
174
No jogo c ç s ss xc sc, a criança deve clicar na abóbora que contém as letras
que completam corretamente a palavra selecionada na fórmula. São três fórmulas
possíveis. A Figura 40 mostra uma delas.
FIGURA 40 − Jogo c ç s ss sc xc
FIGURA 41 − Jogo s x z
175
7.2.2.2. Avaliação dos programas do colégio Magnum Agostiniano
176
TABELA 50 – Lista das perguntas a serem respondidas sobre os programas avaliados
Software Perguntas
Crianças ficam tensas com tempo para fazer no jogo do número secreto?
35
Testes realizados em 19/9 e 29/9/2003.
36
Testes realizados em 17 e 18/12/2003.
37
Departamento de Ciência da Computação, Instituto de Ciências Exatas, Universidade Federal de
Minas Gerais.
177
Quatro crianças entre seis e dez anos, trabalhando em duplas, participaram
desses testes.
38
Essas listas de tarefas foram preparadas no Plano de testes de cada software.
178
TABELA 51 − Lista de Tarefas software Tabuada no Tabuleiro
Tarefa nº Descrição Detalhes
1 Entrem no primeiro jogo (Tabuada) e Req: Software em tela inicial
vejam as regras CS: Acessar as regras e ouvir
2 Vão para o jogo, digitem os nomes, Req: Software em tela inicial do primeiro
iniciem jogo
CS: Digitar nomes e entrar no jogo
3 Joguem com as tabuadas 4, 5 e 6 da Req: Tela do primeiro jogo
multiplicação CS: Conseguir configurar o jogo como
pedido e jogar até terminar
4 Saiam do jogo Req: Tela do primeiro jogo
CS: Sair pelo botão “saída”
5 Entrem no segundo jogo (Quebra-Cuca) Req: Software em tela inicial
e vejam as regras CS: Acessar as regras e ouvir
6 Vão para o jogo Req: Software em tela inicial do segundo
jogo
CS: Entrar no jogo
7 Joguem com as tabuadas 2, 3 e 4 da Req: Tela do segundo jogo
multiplicação CS: Conseguir configurar o jogo como
pedido e jogar até terminar o jogo
8 Saiam do jogo Req: Tela do segundo jogo
CS: Sair pelo botão “saída”
9 Entrem no terceiro jogo (Número Req: Software em tela inicial
secreto) e vejam as regras CS: Acessar as regras e ouvir
10 Vão para o jogo Req: Software em tela inicial do terceiro
jogo
CS: Entrar no jogo
11 Joguem com as tabuadas 4, 5 e 6 da Req: Tela do terceiro jogo
divisão em 180 segundos CS: Conseguir configurar o jogo como
pedido e jogar até terminar o jogo
12 Saiam do jogo Req: Tela do terceiro jogo
CS: Sair pelo botão “saída”
13 Entrem no quarto jogo (Quadrado Req: Software em tela inicial
Mágico) e vejam as regras CS: Acessar as regras e ouvir
14 Vão para o jogo Req: Software em tela inicial do quarto jogo
CS: Entrar no jogo
15 Joguem com as tabuadas 4, 5 e 6 Req: Tela do quarto jogo
CS: Conseguir configurar o jogo como
pedido e jogar até terminar o jogo
16 Saiam do jogo todo Req: Tela do quarto jogo
CS: Sair pelo botão “saída” das duas telas.
Legenda: Req = Requisito CS = Critério de Sucesso TMC = Tempo Máximo para Completar
179
TABELA 52 − Lista de Tarefas software Casa Mal Assombrada
180
cada software. Os problemas e conclusões descritos nas Tabelas 53 e 54 foram
relatados sobre cada software.
Agrupamento e distinção de
itens
Desenho do jogo Tabuada dos números é confuso (muita
informação)
Carga de trabalho (carga
informacional)
Reconhecimento de erros no jogo Tabuada dos números não é Gestão de erros (Auxílio no
facilmente detectável, pois é realizado somente por meio de reconhecimento)
sonorização
181
Conclusões
Os jogos do software Tabuada podem ser usados com crianças que estejam aprendendo a
tabuada de divisão e multiplicação para exercitação dos conceitos. Apesar de serem jogos em
que a criança não tem liberdade de ações, restringindo-se a dar respostas às tarefas, podem ser
utilizados como ferramenta de auxílio no processo de ensino/aprendizagem do conteúdo que
privilegiam.
Pontos negativos:
Foram encontradas algumas falhas (vide problemas) que podem ser corrigidas com o auxílio
do(a) docente ou dos pais. A maior falha apresentada refere-se às regras dos jogos, que
necessitam ser explicadas às crianças, na maioria das vezes. A presença do(a) docente ou dos
pais também será importante para que a criança busque sempre o conhecimento em cima de
discussões sobre determinada dúvida, uma vez que o programa não oferece nenhum feedback e
não permite o registro dos dados.
Pontos positivos:
Em cada jogo, a criança pode escolher três números da tabuada para jogar (de 1 a 9), o que
possibilita que exercitem diferentes níveis de conhecimento. O(a) docente pode solicitar que a
criança utilize determinados números, variando o trabalho com as crianças.
Regras do jogo “c ç ss” não deixam claro onde a criança deve clicar
para jogar. Criança tem o intuito de clicar onde as letras estão Documentação de uso
escritas, não compreendendo que deve clicar nos quadrados direcionada a crianças
brancos.(Os quadrados em branco deveriam ter letras, ser mais (regras)
significativos).
182
Interação (Feedback)
O feedback que o jogo “x ch” transmite à criança no caso de
erro/acerto é similar, podendo ser confundido. Gestão de erros (Auxílio no
reconhecimento, no
O feedback no caso de erro/acerto não é sonorizado. diagnóstico e na recuperação
de erros)
Interação (Feedback)
O feedback que os jogos “c ç ss” transmite à criança no caso de
acerto, é o aparecimento de um morcego no quadrado marcado Gestão de erros (Auxílio no
pela criança, o que não corresponde a uma identificação positiva reconhecimento, no
para ela. diagnóstico e na recuperação
de erros)
O feedback no caso de erro/acerto não é sonorizado. Significado de códigos e
denominações
Interação (Feedback)
O feedback que o jogo “x ch” transmite à criança no caso de
erro/acerto é similar, pode confundir. Gestão de erros (Auxílio no
reconhecimento, no
O feedback no caso de erro/acerto não é sonorizado. diagnóstico e na recuperação
de erros)
O significado dos botões de saída e troca de jogo não é claro, Significado de códigos e
causando confusão. denominações
Algumas figuras do jogo “Bingo” podem parecer representar outras Significado de códigos e
palavras. denominações
Controle e autonomia do
O jogo “c ç ss” determina ordem a ser seguida pela criança, não dá usuário
liberdade de escolha. Controle e autonomia do
usuário (Acesso)
Condução
Legibilidade
A localização da instrução do jogo “s x z” não é clara.
Documentação de uso
direcionada a crianças
Conclusões
Apesar de o software ser formado por jogos em que a criança se restringe a dar respostas às
tarefas, pode ser utilizado quando o(a) docente está trabalhando com a grafia de grupos de
palavras da língua portuguesa.
Foram encontradas algumas falhas (vide problemas) que podem ser corrigidas com o auxílio
do(a) docente, o que é indispensável para que a criança não limite a sua capacidade de
curiosidade. A maior falha encontra-se no jogo “j g”. As crianças interpretam como se o jogo
fornecesse as respostas, ou seja, elas não precisam raciocinar durante o jogo, simplesmente
completam as palavras por tentativa e erro. Isso ocorre devido ao feedback antecipado que o jogo
fornece sobre as respostas certas/erradas. Em vez de esperar que a criança coloque a resposta
para conferi-la, o jogo não possibilita que respostas erradas sejam colocadas. Portanto,
recomenda-se que o jogo somente seja usado se o(a)docente/pais puder acompanhar de perto o
processo, checando se as crianças estão realmente pensando durante o mesmo.
Um dos fatores positivos do software foi a simulação de ambiente com personagens de uma
casa mal assombrada. O uso desses personagens, animações e coloridos despertaram a atenção
das crianças, motivando-as.
183
7.2.2.3. Propostas de melhorIas na MAQSEI
§ Nos Pré e Pós-testes realizados com duas crianças juntas, em vez de o condutor
perguntar individualmente as questões do teste e anotar suas respostas, ele
deve trazer os testes preparados em uma folha para que as crianças possam
preenchê-la ou escrever os resultados ao mesmo tempo. Assim, diminui-se o
tempo de realização e possibilita-se que os mesmos testes sejam aplicados para
as duas crianças;
§ Durante a condução do teste com crianças, o condutor não deve ler o Script de
orientação. A leitura pode tornar o ambiente mais formal. Sugere-se que o
condutor transmita o Script de orientação como se fosse uma conversa com as
crianças.
§ O condutor deve verificar, antes do teste, o perfil da criança na escola, se ela tem
dificuldade no conteúdo do software. Assim poderá comparar o comportamento
de diferentes perfis de crianças diante do programa;
A escola municipal Hilda Rabello Matta 39, situada em Belo Horizonte, possui
quatro ciclos de formação, além da educação de jovens e adultos (suplência). Essa
estrutura foi implantada a partir da Escola Plural na Rede Municipal. Por meio do
39
http://www.hirama.cjb.net
184
programa PROINFO40 do governo federal, a escola foi equipada com um laboratório
de informática, onde desenvolve vários projetos pedagógicos, envolvendo as
crianças no ambiente computacional.
40
Veja Capítulo 2, item 2.3.
41
Os testes de avaliação haviam sendo programados para dezembro de 2002.
185
haviam sido selecionadas pela escola não era adequado aos testes. Umas não
estavam na faixa etária esperada e outras não tinham conhecimento do uso do
computador. Tal fato invalidou a realização das avaliações preparadas. Para que as
crianças selecionadas a participar dos testes não ficassem frustradas, permitiu-se
que elas usassem o computador livremente (pois estavam esperando participar de
uma atividade especial na escola). Como a escola entraria em período de férias na
semana seguinte, os testes não puderam ser realizados em outra data.
186
Tela 1: Sala de espera
187
7.3.1. Avaliações do software OdontoMania
188
§ As recomendações para o comportamento e a postura do condutor durante a
realização dos testes facilitou o relacionamento com as crianças;
189
8. CONCLUSÕES
42
Veja a definição dessas técnicas no item 2.7.
190
visto que os avaliadores são conduzidos no exame da interface por meio de uma
lista de questões a responder sobre o produto. No entanto, é importante
considerar que a qualidade da lista influencia a qualidade do resultado final
(PÁDUA, 2003).
191
desfavorável, a aprendizagem das crianças. Para amenizar tal fato defendeu-se a
realização de avaliações do software, tornando-as prática comum nas instituições de
ensino. Enfatizou-se também que o fato de um software ser considerado de boa
qualidade na opinião do desenvolvedor (avaliação orientada para o produto) apenas
indica uma possível utilidade no espaço escolar. Este estudo indica que também é
preciso avaliar os efeitos da utilização do software nas crianças (avaliações
orientadas para o usuário) e em ambientes reais de aprendizagem (avaliações
orientadas para o contexto).
192
A MAQSEI sugere o uso de padrões para os documentos utilizados em uma
avaliação de software educacional infantil. A avaliação de qualidade de um software
tem caráter subjetivo e local porque pode ser influenciada pelas expectativas e
percepções dos envolvidos, assim como das peculiaridades das situações
envolvidas. A adoção dos padrões nas avaliações de software diminui esse caráter,
tornando as avaliações comuns e melhorando sua qualidade e sua confiabilidade.
193
§ As recomendações de perfil e conduta para o avaliador de software educacional
infantil;
Por fim, deseja-se que a MAQSEI seja usada como ferramenta de apoio a
escolas, pais ou interessados na escolha do software educacional infantil a ser
utilizados pelas crianças ou por desenvolvedores de software infantil que primem
pela qualidade técnica e pedagógica dos programas.
194
9. REFERÊNCIAS BIBLIOGRÁFICAS
195
COELHO, Maria de Lourdes. A formação continuada de professores
universitários em ambientes virtuais de aprendizagem; evasão e
permanência. Belo Horizonte, 2001. Dissertação (Mestrado em Educação) –
Faculdade de Educação, UFMG.
CRONJE, Joannes. The process of Evaluating Software and its Effect on Learning.
University of Pretoria. Department of Didactics. 2001. Disponível em:
<http://hagar.up.ac.za/catts/learner/eel/Conc/conceot.htm>
196
DRUIN, Allison. Children as design partners; an introduction. Human-computer
interaction lab. Capturado em 4/1/2001. Disponível em: <http://www.
cs.umd.edu/hcil/kiddesign/>
197
de ensino. Belo Horizonte: Centro Federal de Educação Tecnológica de
Minas Gerais, 1999. (Dissertação, Mestrado em Tecnologia).
ISO 9241 Part 11. Ergonomic requirements for office work with visual display
terminals, Part 11: guidance on usability. 1998.
198
ISO/IEC 14598-4:1999, Software engineering – Product evaluation – Part 4:
Process for acquirers.
199
NORMAN, D. A. The Psychology of Everyday Things. New York: Basic Books,
1988.
RUBIN, Jeffrey. Handbook of usability testing; how to plan, design, and conduct
effective test. New York : Wiley, 1994.
200
SANDHOLTZ, Judith Haymore, RINGSTAFF, Cathy, DWYER, David C.
Ensinando com tecnologia; criando salas de aula centrada nos alunos. Porto
Alegre: Artes Médicas, 1997.
201
VALENTE, José Armando. Computadores e conhecimento: repensando a
educação. Campinas: Universidade Estadual de Campinas — UNICAMP,
1993. Disponível em: <http://www.nied.unicamp.br/publicacoes/pub.php?
classe=separata>
202
ANEXOS
1. Escopo
Descrição
Avaliador
Documentos relacionados
Data
Tempo para produção
2. Identificação do software
Nome
Empresa
Objetivo
Público-alvo
Disciplina(s)
Idioma
Preço
Armazenagem
Requisitos
hardware/software
Resumo
Escola
3. Interfaces
3.1. Interface < nome ou número da interface >
3.1.1. Imagem
3.1.2. Descrição
3.1.3. Relacionamentos
203
3.1.4. Campos
Nº Nome Valores válidos Tipo Observação
1
2
3
3.1.5. Comandos
Nº Nome Estilo Ação Estado
1
2
3
3.1.6. Mensagens
Nº Tipo Imagem Texto Relacionamento
1
2
3
3.1.7. Pontos Positivos
204
ANEXO II: Padrão para documento de Proposta de avaliação de Software
Atenciosamente,
<nome do responsável>
205
Proposta de avaliação do Software <nome do software>
1. Escopo
Descrição
Avaliador
Data
2. Requisitos da avaliação
3. Responsabilidades da escola
4. Cronograma
206
ANEXO III: Padrão para documento de Plano de testes
Plano de teste
207
PLANO DE TESTES
(INSERIR SUMÁRIO)
1. Introdução
2. Propósito
3. Documentação relacionada
5. Perfil da criança
Característica Necessidade
6. Metodologia
208
7. Tarefas
Legenda:
Req = Requisito CS = Critério de Sucesso TMC = Tempo Máximo para Completar
Tarefa nº Descrição Detalhes
Req:
1 CS:
TMC:
Req:
2 CS:
TMC:
209
ANEXO IV: Padrão para documento de Pré-teste e Pós-teste
1. Escopo
Teste nº
Software
Data
Crianças
Escola
Condutor
2. Descrição
210
ANEXO V: Padrão para Formulário de observação
3. Escopo
Teste nº
Software
Data
Crianças
Escola
Condutor
4. Tarefas
Nº Descrição Observar
1
Outras ações e observações:
3
Outras ações e observações:
211
ANEXO VI: Padrão para Questionário com crianças
6. Escopo
Data
Crianças
Escola
Teste nº
Condutor
7. Perguntas gerais
Criança 1 Criança 2 Comentários
ITEM NÃO NÃO
NÃO SIM NÃO SIM
SEI SEI
1 Você gostou do
jogo/exercício?
2 Gostaria de ter um igual
em casa?
3 Gostaria de ter aulas
usando o jogo?
4 Do que você mais gostou?
Por quê?
5 Do que você menos
gostou? Por quê?
6
7
8. Perguntas específicas
Criança 1 Criança 2 Comentários
ITEM NÃO NÃO
NÃO SIM NÃO SIM
SEI SEI
1
2
3
4
5
6
212
Você gostou do jogo/exercício? Quanto? Marque na escala abaixo:
Criança 1: Criança 2:
213
ANEXO VII: Padrão para documento de Resumo de dados
1. Identificação
Software avaliado
Data(s) do teste(s)
Número de crianças
Local
Avaliador
Descrição do contexto
instrucional
5. Resumo do teste
214
ANEXO VIII: Padrão para documento de Relatório final de avaliação de
software educacional infantil
Relatório de avaliação
215
RELATÓRIO DE AVALIAÇÃO
(INSERIR SUMÁRIO)
1. Escopo
Descrição
Público-alvo
Data do(s) teste(s)
Número de crianças envolvidas
Local
Contexto instrucional
Tempo para produção do relatório
2. Identificação do software
Nome
Empresa
Objetivo
Disciplina(s)
Idioma
Preço
Armazenagem
Requisitos hardware/software
Resumo
3. Documentação Relacionada
4. Problemas do software
Heurística(s)
Nº Problemas Classificação (8-0)
violada(s)
216
5.2. Utilização de recursos computacionais
5.4. Interação
5.4.3. Legibilidade
5.4.4. Feedback
5.5. Adaptabilidade
5.5.1. Flexibilidade
217
5.5.2. Nível de experiência com o software ou com computadores
5.6.1. Acesso
5.6.2. Saída
5.6.3. Pausa
218
5.8.2. Auxílio no reconhecimento, no diagnóstico e na recuperação de erros
5.9.2. Brevidade
5.10. Conteúdo
219
5.14. Documentação
Conformidade
220
1. O mesmo conteúdo do software seria
dificilmente ensinado sem o uso do recurso
tecnológico do computador?
2. Apresenta informação de forma interativa?
Utilização de
3. Age com diversos níveis de inteligência
recursos
adquirida?
computacionais
4. Viabiliza diferentes níveis de interação?
5. Utiliza recursos motivacionais?
6. Faz conexão com outros meios de
aprendizagem?
Conformidade
221
9. O software disponibiliza comandos de ajuda?
10. Os dispositivos de ajuda abrangem a totalidade
do sistema?
Interação –
Qualidade das 11. O acionamento da opção de ajuda está
opções de ajuda estruturado no contexto da tarefa e da
transação corrente?
12. O software apresenta diferentes formas de
acesso aos conteúdos de ajuda?
13. Os conteúdos apresentados estão livres de
equívocos conceituais ?
14. A redação das informações textual está correta,
livre de erros gramaticais e de erros de
pontuação?
15. Os textos literários favorecem a compreensão
de conteúdos?
Interação – 16. O vocabulário usado propõe uma interpretação
Legibilidade única no seu significado?
17. Os diálogos/textos são de fácil legibilidade?
18. Os diálogos/textos são pequenos?
19. Os ícones são representativos das suas
funções?
20. É usada a linguagem da criança, com palavras,
expressões e conceitos familiares a ela, no
lugar de termos orientados para o software?
21. O software fornece feedback imediato de todas
as entradas de dados das crianças?
22. O software emite feedback encorajador,
variado e isento de carga negativa mediante
respostas inadequadas?
23. O tempo de resposta do software é adequado?
24. O usuário tem sempre a possibilidade de obter
Interação – um feedback informando sobre o sucesso ou o
Feedback fracasso da operação?
25. O software fornece feedback sobre as
mudanças de atributos dos objetos de
interação, ou seja, ao selecionar um botão, ele
muda de estado?
26. O software emite algum feedback sonoro
opcional mediante respostas inadequadas da
criança?
27. O software apresenta distinção visual clara de
áreas que possuem diferentes funções?
28. Os dados que requerem atenção imediata são
Interação – diferenciados de alguma forma?
Agrupamento e 29. Nos agrupamentos de dados e informações, os
distinção de itens itens estão organizados segundo critério lógico
e facilitador?
30. A informação é apresentada numa organização
direcionada para a criança?
Conformidade
222
1. O software abrange crianças em vários níveis
de conhecimento?
2. O software permite que o acesso a qualquer
nível seja feito diretamente, sem ter que passar
pelos anteriores?
3. O software permite diferentes formas para a
realização de tarefas?
4. O software permite a flexibilidade de ações
Adaptabilidade –
(para software construtivista)?
Flexibilidade
5. O software propõe formas variadas de
apresentação das mesmas informações a
diferentes crianças?
6. O docente/pai pode alterar algumas
configurações do software, adequando-o ao
seu interesse?
7. As crianças têm a possibilidade de modificar ou
eliminar itens?
8. A seqüência de apresentação dos conceitos
evolui em grau de complexidade?
9. O software abrange crianças que não têm
Adaptabilidade – familiaridade com computadores?
Nível de
10. O software possui atalhos?
experiência
11. O software possibilita efetuar alterações em
suas estruturas de modo a contemplar a
experiência da criança?
12. O software suporta o trabalho cooperativo entre
criança e/ou entre crianças e docentes?
Adaptabilidade – 13. O software pede em vez de ordenar, sugere em
Ambiente vez de exigir ou persuade em vez de controlar?
cooperativo 14. O software possibilita que o(a) docente possa
expandir o conteúdo do programa em seu
trabalho?
Conformidade
223
Controle e
autonomia do 8. Software permite que a criança anule a última
usuário – ação realizada?
Desfazer uma
ação
Conformidade
224
5. A correção de erros durante a execução de
tarefas é otimizada, ou seja, permite que a
criança faça a correção sem ter que refazer
vários passos anteriores?
6. Na ocorrência de erros na resolução dos
exercícios propostos, o software orienta e
oferece à criança a possibilidade de tentar
refazê-los?
7. Persistindo o erro durante uma tarefa, o
software conduz a criança, fornecendo-lhe
explicações para a correção?
8. O software fornece a solução após longa
persistência do erro?
9. O software permite a mudança automática de
exercício se a criança persiste no erro,
conduzindo-a a outro tipo de exercício, com
Gestão de erros menor grau de dificuldade?
– Auxílio no 10. As mensagens de erro são assinaladas
reconhecimento, imediatamente ou o mais rápido possível?
no diagnóstico e 11. As mensagens de erro são expressas em
na recuperação linguagem simples (sem códigos), de uso
de erros comum e são curtas?
12. As mensagens de erro adotam vocabulário
neutro, não-repreensivo e evitam o humor?
13. As mensagens de erro são positivas?
14. As mensagens de erro indicam precisamente o
problema?
15. As mensagens de erro sugerem
construtivamente uma solução?
16. Perante uma dificuldade na resolução dos
exercícios, o software evita a monotonia,
oferecendo mensagens de erro variadas?
17. O software permite que a criança modifique o
erro, corrigindo-o parcialmente ou totalmente?
Conformidade
225
1. O software possui bom grau de coerência no
conteúdo das questões apresentadas em
função da proposta pedagógica a que se
propôs?
2. O conteúdo do software é significativo para a
criança?
3. O conteúdo do software educacional infantil é
rico em dimensões exploratórias?
4. O conteúdo do software possibilita que o(a)
Conteúdo docente possa explorá-los durante a interação
das crianças com o programa?
5. O conteúdo do software se relaciona com as
vivências das crianças, especialmente com a
realidade brasileira?
6. O conteúdo do software permite que a criança
possa avançar no conhecimento, possibilitando
diferentes níveis de aprendizado?
7. As explicações sobre um tema são opcionais?
8. Novas palavras são explicadas?
Conformidade
226
Correspondência
com o mundo
real – 4. O software segue convenções oriundas de
Correspondência outros programas infantis populares, como
com outros jogos infantis existentes no mercado?
programas
similares
Conformidade
227
22. Existe documentação (regras) direcionada para
a criança?
Documentação – 23. Usa linguagem familiar à criança?
Documentação 24. Estão visíveis ou facilmente recuperáveis?
de uso do
25. Focaliza a tarefa da criança?
software –
26. São curtas?
Documentação
de uso do 27. São compreensíveis?
software 28. São transmitidas por animações?
direcionada a 29. Se forem escritas, são legíveis e sem erros?
crianças (regras) 30. Se forem escritas, são bem-organizadas e
distribuídas?
31. Mantêm a consistência e a homogeneidade em
todas as suas ocorrências?
Conformidade
(GRÁFICO)
8. Conclusões e recomendações
228
Anexo IX: Entrevista com docentes
Prezado(a),
Meu nome é Ana Paula Ribeiro Atayde. Sou mestranda em Ciência da Computação
pela Universidade Federal de Minas Gerais. Minha dissertação de mestrado propõe avaliar a
qualidade de software educativo, buscando contribuir para a criação de critérios de
avaliação de software, assim como para a construção de software educativo e orientação de
uso pelos docentes.
Gostaria de contar com a colaboração do(a) senhor(a) no preenchimento deste
questionário. Fico à disposição para quaisquer outros esclarecimentos.
_____ Diariamente
_____ 3 vezes por semana
_____ 1 vez por semana
_____ Raramente
229
_____ Não utilizo
_____ Outras. Quais? _____________________________________________________
7 – Qual das opções abaixo mais se aproxima de seu atual status profissional?
_____ Estagiário
_____ Recém-formado
_____ Profissional
_____ Coordenador
_____ Matemática
_____ Português
_____ Inglês
_____ Ciências
_____ História
_____ Geografia
_____ Outra. Qual?_____________
_____ Sim
_____ Não
14 - A instituição em que você trabalha ofereceu algum curso preparatório para que os
docentes adotassem recursos de informática no trabalho de sala de aula?
_____ Não
_____ Sim. Como? ______________________________________________________
230
15 – Como você enxerga o uso do computador na escola?
_____ Sim
_____ Não
Por quê?
__________________________________________________________________________
________________________________________________________________
_____ Sim
_____ Não
231
21 – Em que situações o laboratório é utilizado?
_____ Não
_____ Sim. Quais? ____________________________________
____________________________________
232
26 – Qual(s) característica(s) técnica(s) você considera de importância num software
educacional?
_____ Sim
_____ Não
Orientadores:
Adla Betsaida Martins Teixeira Clarindo Isaías Pereira da Silva e Pádua
Faculdade de Educação – UFMG Depto. de Ciência da Computação – UFMG
233
Anexo X: Fases
Fase Descrição
Fase na qual o software a ser avaliado é analisado,
Reconhecimento e Proposta de o suficiente para o avaliador conhecer todas as
avaliação do Software funções e características do programa e estimar
prazos e custos.
Fase na qual são preparados todos os materiais
(formulários, questionários, scripts ), equipamentos
Planejamento dos testes e ambientes que serão envolvidos nos testes, além
da seleção dos participantes, resultando num
documento de Plano de testes.
Fase na qual são aplicados os testes preparados
Realização dos testes
com várias crianças.
Fase na qual todos os dados coletados nos testes
Análise de dados e Produção do são transformados em resultados e recomendações
Relatório final de avaliação sobre o software, resultando em um relatório de
avaliação do software sobre suas questões
pedagógicas e de Usabilidade.
234
Anexo XI : Tarefas
Fase Tarefas
Entrevistar docentes da escola
Reconhecimento e Proposta de Familiarizar com o software
avaliação do software Registrar anotações sobre o software
Estimar prazos e custos
Personalizar a metodologia
Preparar o Plano de testes
Preparar todos os documentos necessários
Planejamento dos testes Preparar Lista de verificação
Selecionar crianças
Preparar ambiente, equipamentos e materiais
Testar o teste
Realizar os testes. Para cada teste:
§ Preparar o ambiente e os observadores
§ Cumprimentar e apresentar
§ Falar Script de orientação
§ Aplicar Entrevista com crianças
§ Aplicar Pré-teste com crianças
§ Conduzir o teste (ler tarefas, observar e coletar
Realização dos testes dados)
§ Aplicar Pós-testes com crianças
§ Aplicar Questionário com crianças
§ Agradecer e gratificar as crianças
§ Organizar dados e papéis
§ Fazer acertos no teste
Modificar documentos
Assistir às filmagens
Transcrever e resumir dados
Análise de dados e Produção do
Relatório final de avaliação Verificar heurísticas qualitativamente
Verificar heurísticas quantitativamente
Produzir recomendações e resultados
235
Anexo XII: Artefatos
Nome Descrição
Reconhecimento do Documento que descreve as funções e características
do software, servindo como referência para a produção
software
de outros documentos.
Proposta de Documento que estima prazos e custos para a
avaliação do realização da avaliação do software por meio de um
software cronograma.
Documento que descreve e serve como base para os
Plano de testes testes que serão realizados na avaliação, podendo ser
apresentado a todos os interessados.
236
236
Anexo XIII: Relação entre fases, tarefas e artefatos utilizados ou produzidos
237
Anexo XIV: Heurísticas
Pertinência em relação a uma proposta pedagógica
Avaliação da aprendizagem
Feedback
Flexibilidade
Ambiente cooperativo
H Acesso
E
Saída
U Controle e autonomia do usuário
R
Pausa
Í
S Desfazer uma ação
T Recursos motivacionais
I
C Prevenção de erros
Gestão de erros
A
S Auxílio no reconhecimento, no diagnóstico e na recuperação de erros
Carga informacional
Carga de trabalho
Brevidade
Conteúdo
Consistência e padrões
Correspondência entre o software e o mundo real Correspondência com outros programas similares
238