Projeto de Revisão Abnt NBR 14597

ABNT/CEE-83
PROJETO DE REVISO ABNT NBR 14597

FEV 2012

NO TEM VALOR NORMATIVO 1/57

Programa intralaboratorial de mtodos analticos - Determinao da
repetitividade e preciso intermediria

APRESENTAO
1) Este 1 Projeto de Reviso foi elaborado pela CEE-83 Aplicaes de Mtodos Estatsticos -
do ABNT/ONS-34 - Organismo de Normalizao Setorial de Petrleo, nas reunies de:
15/05/2009 18/06/2009 10/07/2009
14/08/2009 11/09/2009 13/11/2009
11/12/2009 05/02/2010 12/03/2010
14/05/2010 11/11/2011
2) Este Projeto previsto para cancelar e substituir a ABNT NBR 14597:2000, quando
aprovado, sendo que nesse nterim a referida norma continua em vigor;
3) No tem valor normativo;
4) Aqueles que tiverem conhecimento de qualquer direito de patente devem apresentar esta
informao em seus comentrios, com documentao comprobatria;
5) Este Projeto de Norma ser diagramado conforme as regras de editorao da ABNT quando
de sua publicao como Norma Brasileira.
6) Tomaram parte na elaborao deste Projeto:
Participante Representante
ANP/SQP Raquel Wayand Soares
ANP/CPT Helena S.P. Carneiro
CETEM/RJ Maria Alice Goes
COLABORADOR Paulo Afonso Lopes
COLABORADORA Ilse M.G. Lemos
COLABORADORA Maria de Ftima dos Santos
INMETRO Ruth Epsztejn
TRANSPETRO lcio Cruz de Oliveira
PETROBRAS Soraia Cristina A. dos Santos
PETROBRAS Patrcia Ritter Martins
PETROBRAS Rosana Almeida
PUC-RJ Ana Cristina Oliveira

ABNT/CEE-83
FEV 2012


Programa intralaboratorial de mtodos analticos - Determinao da
repetitividade e preciso intermediria
Analytical methods intralaboratorial program - Determination of repeatability and intermediate
precision
Prefcio
A Associao Brasileira de Normas Tcnicas (ABNT) o Foro Nacional de Normalizao. As Normas
Brasileiras, cujo contedo de responsabilidade dos Comits Brasileiros (ABNT/CB), dos Organismos
de Normalizao Setorial (ABNT/ONS) e das Comisses de Estudo Especiais (ABNT/CEE), so
elaboradas por Comisses de Estudo (CE), formadas por representantes dos setores envolvidos, delas
fazendo parte: produtores, consumidores e neutros (universidades, laboratrios e outros).
Os documentos Tcnicos ABNT so elaborados conforme as regras da Diretiva ABNT, Parte 2.
O Escopo desta Norma Brasileira em ingls o seguinte:
Scope
This Standard describes the tools for planning, acquisition, analysis and evaluation of data to determine
the repeatability and intermediate precision for analytical methods by means of an within-laboratory
study.
This Standard applies only to methods of quantitative analysis and the results are valid only for the
laboratory in which the data were obtained.
NOTE 1 This Standard does not apply to test methods in which the results of measurements are categorized, for
example, pass/no pass (two categories) or other schemes based on two or more categories.
NOTE 2 The results of precision are valid while the measurement system has not significantly changed. This
evaluation could be carried out using, e.g., control charts analysis (see bibliographic reference 12 in Annex F).
Note 3 The methods for planning, conducting, analyzing and evaluation of the results of a interlaboratorial study of
a test method are not addressed in this standard. The references 2, 3, 5, 6 and 7 of Annex F should be used for
this purpose.

ABNT/CEE-83
FEV 2012


1 Escopo
1.1 Esta Norma descreve as ferramentas para planejamento, obteno, anlise e tratamento dos
dados para determinar a repetitividade e preciso intermediria para mtodos analticos por meio de um
estudo intralaboratorial.
1.2 Esta Norma aplicvel exclusivamente a mtodos analticos quantitativos e os resultados so
vlidos apenas para o laboratrio no qual os dados foram obtidos.
NOTA 1 Esta Norma no se aplica a mtodos de ensaio nos quais os resultados das medidas estejam
categorizados, como, por exemplo, passa/no-passa (duas categorias) ou outros esquemas baseados em duas ou
mais categorias.
NOTA 2 Os resultados de preciso so vlidos enquanto no houver mudanas significativas no sistema de
medio. Esta avaliao pode ser feita, por exemplo, por meio da anlise de grficos de controle (ver referncia
bibliogrfica 12 do Anexo F).
NOTA 3 Os mtodos para planejar, conduzir, analisar e tratar os resultados de um estudo interlaboratorial de um
mtodo de ensaio no so abordados nesta Norma. Podero ser utilizadas as referncias bibliogrficas 2, 3, 5, 6 e
7 do Anexo F.
2 Referncias normativas
Os documentos relacionados a seguir so indispensveis aplicao deste documento. Para
referncias datadas, aplicam-se somente as edies citadas. Para referncias no datadas, aplicam-se
as edies mais recentes do referido documento (incluindo emendas).
ABNT ISO Guia 30, Termos e definies relacionados com materiais de referncia
ISO 5725-3, Accuracy (trueness and precision) of measurement methods and results - Part 3:
Intermediate measures of the precision of a standard measurement method
3 Termos e definies
Para os efeitos deste documento, aplicam-se os seguintes termos e definies.
3.1
preciso de medio
grau de concordncia entre indicaes ou valores medidos, obtidos por medies repetidas, no mesmo
objeto ou em objetos similares, sob condies especificadas
NOTA 1 A preciso de medio geralmente expressa numericamente por indicadores de incerteza tais como:
disperso, desvio padro, varincia ou coeficiente de variao, sob condies de medio especificadas.
NOTA 2 As condies especificadas podem ser, por exemplo, condies de repetitividade, condies de
preciso intermediria ou condies de reprodutibilidade (ver ISO 5725-3)
NOTA 3 A preciso de medio utilizada para definir a repetitividade de medio, a preciso intermediria de
medio e a reprodutibilidade de medio.
NOTA 4 O termo preciso de medio algumas vezes utilizado, erroneamente, para designar a exatido de
medio.

ABNT/CEE-83
FEV 2012


3.2
repetio
valor obtido executando-se o procedimento completo de um mtodo de ensaio, onde cada repetio
um resultado de ensaio independente
3.3
mdia aritmtica
medida da tendncia central de uma srie de resultados, dada por:
=
=
n
1 i
i
y y
n
1
(1)
onde
y a mdia aritmtica de todos os resultados;
n o nmero de resultados;
i
y so os resultados individuais.
3.4
varincia
medida da disperso de uma srie de resultados em torno de sua mdia, dada por:
( )
1 n
n
1 i
2
y
i
y
=

=

2
S (2)
onde
2
S a varincia de uma srie de medidas;
i
3.5
desvio padro
medida da disperso de uma srie de resultados em torno de sua mdia, dado por:
( )
1 n
n
1 i
2
y
i
y
2
S
=

= = S

(3)
onde
S o desvio-padro de uma srie de medidas;
2
S a varincia de uma srie de medidas;
i

ABNT/CEE-83
FEV 2012


3.6
condies de repetitividade e preciso intermediria
NOTA As medidas quantitativas de preciso dependem das condies estipuladas. Condies de repetitividade e
preciso intermediria so casos particulares de condies extremas.
condio de repetitividade: condio de medio num conjunto de condies, as quais compreendem
o mesmo procedimento de medio, os mesmos operadores, o mesmo sistema de medio, as
mesmas condies de operao e o mesmo local, assim como medies repetidas no mesmo objeto ou
em objetos similares durante um curto perodo de tempo
NOTA 1 Uma condio de medio uma condio de repetitividade apenas com respeito a um conjunto
especificado de condies de repetitividade
NOTA 2 Em qumica, o termo condio de preciso intra-serial algumas vezes utilizado para designar este
conceito.
condio de preciso intermediria: condio de medio num conjunto de condies, as quais
compreendem o mesmo procedimento de medio, o mesmo local e medies repetidas no mesmo
objeto ou em objetos similares ao longo de um perodo extenso de tempo, mas pode incluir outras
condies que envolvam mudanas.
NOTA 1 As condies que podem variar compreendem novas calibraes, padres, operadores e sistema de
medio.
NOTA 2 conveniente que uma especificao referente s condies contenha, na medida do possvel, as
condies que mudaram e aquelas que no.
NOTA 3 Em qumica, o termo condio de preciso inter-serial algumas vezes utilizado para designar este
conceito.
Muitos fatores diferentes (alm das variaes entre amostras supostamente idnticas) podem contribuir
para a variabilidade dos resultados de um mtodo de ensaio.
Os quatro principais fatores que influenciam a preciso de um mtodo de medio, dentro de um
mesmo laboratrio, so os indicados na Tabela 1, bem como as combinaes destes fatores que
determinam as distintas medidas de preciso.
Segue descrio dos principais fatores de variao, de acordo com suas contribuies:
a) Tempo - O intervalo de tempo entre medidas sucessivas pode ser curto ou longo.
Medidas realizadas ao mesmo tempo so aquelas efetuadas no perodo mais curto possvel
de modo a minimizar mudanas nas condies (por exemplo ambientais) que no podem ser
mantidas constantes.
Medidas realizadas em tempos diferentes so aquelas efetuadas em longos perodos de
tempo, podem incluir efeitos resultantes de mudanas nas condies ambientais.
b) Ajuste - O mesmo equipamento ou no reajustado entre sucessivos grupos de medies.
NOTA O termo calibrao substitui o termo anteriormente usado por aferio, ou seja, verificar os
desvios. O termo ajuste substitui o termo anteriormente conhecido por calibrao, ou seja, corrigir os
desvios.

ABNT/CEE-83
FEV 2012


c) Tcnico - Um mesmo ou diferentes tcnicos executam medies sucessivas.
Em algumas operaes, o tcnico ou analista pode ser uma equipe de tcnicos ou
analistas, cada um dos quais executa uma parte especfica do procedimento. Nestes casos a
equipe deve ser considerada como tcnico, e qualquer mudana de algum membro ou
distribuio das tarefas deve ser considerada como um tcnico diferente.
d) Equipamento - Um mesmo ou diferentes equipamentos (ou o mesmo ou diferentes lotes de
reagentes) so usados nas medies.
Equipamento frequentemente um conjunto de equipamentos e qualquer mudana em um
componente significativo deve ser considerada como mudana de equipamento. Em relao
ao que constitui um equipamento diferente, o consenso deve prevalecer. Uma troca de
termmetro seria considerada como um componente significativo, enquanto que uma cuba
para banho de gua ligeiramente diferente seria considerada trivial. A troca de um lote de
reagentes poderia ser considerada um componente significativo. Isto pode ser considerado um
equipamento diferente ou ajuste.
Tabela 1 Principais fatores de variabilidade dentro de um mesmo laboratrio e seus estados
Principais
fatores
Principais
fatores
Condies de medida de um laboratrio
Tempo
Medidas realizadas ao mesmo
tempo
Medidas realizadas em tempos
diferentes
Ajuste
Nenhum ajuste de
equipamentos entre medidas
Ajuste do equipamento
executado entre as medies
Tcnico Mesmo tcnico Tcnicos diferentes
Equipamento Mesmo equipamento Equipamentos diferentes
Denominao da preciso Repetitividade Preciso intermediria
NOTA Considera-se preciso intermediria quando um ou mais fatores das condies de medida
foram variados em um mesmo laboratrio, e neste caso devem ser indicados na expresso dos
resultados (ver Seo 6).
3.7
repetitividade
preciso de medio sob um conjunto de condies de repetitividade (ver Tabela 1)
NOTA As medidas de repetitividade definidas nesta Norma so o desvio padro de repetitividade e o limite de
repetitividade.
3.8
desvio padro de repetitividade (S
r
)
desvio padro de resultados de ensaio obtidos sob condies de repetitividade
NOTA O desvio padro de repetitividade, geralmente considerado uma propriedade do mtodo de ensaio,
menor ou igual ao desvio padro de preciso intermediria.

ABNT/CEE-83
FEV 2012


3.9
limite de repetitividade (r)
medida abaixo da qual espera-se encontrar a diferena absoluta de dois resultados individuais de
ensaio obtidos sob condies de repetitividade com probabilidade de aproximadamente 0,95 (95 %),
dada por:
limite de repetitividade = 2,77 S
r
(4)
Onde:
2 96 1 77 2 , , = (independente do tamanho do estudo).
3.10
preciso intermediria (I)
exprime a preciso de resultados de ensaio obtidos sob condies de preciso intermediria (ver
Tabela 1).
3.11
desvio padro de preciso intermediria (S
I
)
desvio padro de resultados de ensaio obtidos sob condies de preciso intermediria
NOTA O desvio padro de preciso intermediria inclui o desvio-padro de repetitividade e a contribuio dos
fatores modificados, isto , diferenas entre tcnicos, equipamentos e/ou ambientes.
3.12
limite de preciso intermediria (I)
medida abaixo da qual espera-se encontrar a diferena absoluta de dois resultados individuais de
ensaio obtidos sob condies de preciso intermediria com probabilidade de aproximadamente 0,95
(95 %), dada por:

limite de preciso intermediria = 2,77 S
I
(5)
onde
2 96 1 77 2 , , = (independente do tamanho do estudo)
4 Consideraes preliminares
necessrio que o laboratrio disponha de procedimentos escritos, tcnicos qualificados nos mtodos
de ensaio, amostras homogneas e processos de medio sob controle.
4.1 Mtodo de ensaio
O mtodo de ensaio deve estar definido e claramente descrito, de tal modo que no esteja sujeito a
erros de interpretao.
4.2 Processo de medio sob controle
Os equipamentos devem ter um plano de manuteno preventiva e estar sob controle metrolgico, isto
, calibrados, ajustados e os resultados obtidos, sob controle estatstico. Deve ser considerado que os
limites de preciso sero vlidos enquanto no houver mudanas significativas no sistema de medio.

ABNT/CEE-83
FEV 2012


4.3 Homogeneidade das amostras
As amostras a serem utilizadas nos ensaios independentes devem ser originrias de uma amostra
homognea, estvel e adequadamente acondicionada. Eventuais cuidados especiais devem estar
descritos no mtodo de ensaio.
aconselhvel que a variabilidade do material seja desprezvel quando comparada variabilidade
prpria do mtodo de ensaio. No caso em que as medies no possam ser realizadas em um material
homogneo, os resultados de repetitividade e preciso intermediria so afetados significativamente.
4.4 Faixa de aplicao do mtodo de ensaio
Deve ser considerado se os limites de preciso sero determinados em diferentes nveis, ou seja,
ordem de grandeza, concentrao ou quaisquer outras faixas de valores.
4.5 Tcnico qualificado no mtodo de ensaio
O tcnico deve ser treinado e habilitado para utilizao do mtodo e/ou tcnica analtica.
4.6 Nmero de casas decimais
Deve-se usar o maior nmero possvel de casas decimais indicadas pelo mtodo, arredondando
somente o resultado obtido aps todos os clculos.
4.7 Normalidade da distribuio
Para os clculos de limites de preciso e testes de valores extremos (ver Seo 5), deve-se verificar se
os dados apresentam distribuio normal.
4.7.1 Teste de normalidade Shapiro-wilk
O teste Shapiro-wilk s deve ser utilizado para um conjunto com no mximo 50 dados. A seguir
encontra-se o procedimento para realizao do teste:
e) arrumar os dados em ordem crescente.
f) identificar a variao dos ndices i conforme n seja par ou mpar:
i varia de 1 a
2
n
, se n for par.
i varia de 1 a |
.
|
\
| +
2
1 n
, se n for mpar.
g) calcular as subtraes: ( )
i 1 i
X X
+
.
h) calculam-se os produtos:
( )
( )
i i 1 n i
X X a
+
. Os coeficientes
i
a variam em funo do n e dos ndices i.
Os valores de
i
a esto na Tabela E.1 do anexo E
i) calcula-se
( )
( )
i i 1 n i
X X a SW =
+

ABNT/CEE-83
FEV 2012


j) calcula-se ( )
2
i
X X SQT

= ou ( )
2
S 1 n
k) determina-se
( )
SQT
SW
W
2
calculado
=
l) compara-se o valor de
calculado
W com o
tabelado
W (Tabela E.2 do anexo E). Se
tabelado calculado
W W > no
se rejeita a hiptese de normalidade, ou seja, se aceita que os valores esto distribudos de acordo
com certa funo de distribuio de probabilidade normal.
Pode-se considerar nveis de confiana de 99 % e de 95 %

Onde:
n quantidade de dados;
i ndice em funo da quantidade de dados;
i
X - Valor do dado ordenado na posio i;
i
a - valor tabelado em funo do n e dos ndices i;
X - mdia aritmtica dos dados;
2
S - varincia dos dados.
EXEMPLO:
Deseja-se saber se os dados abaixo seguem uma distribuio normal com nvel de confiana de 95 %:
Tabela 2 Dados do experimento
Nmero
da
medida
Valor
da
medida
Nmero
da
medida
Valor
da
medida
Nmero
da
medida
Valor
da
medida
Nmero
da
medida
Valor
da
medida
1 20 12 452 23 362 34 245
2 556 13 135 24 213 35 235
3 426 14 422 25 373 36 326
4 169 15 186 26 214 37 321
5 56 16 400 27 286 38 244
6 574 17 351 28 277 39 322
7 61 18 207 29 219 40 240
8 463 19 379 30 334 41 276
9 404 20 389 31 227 42 286
10 192 21 204 32 337 43 250
11 116 22 211 33 294 44 291

ABNT/CEE-83
FEV 2012


Tabela 3 Dados em ordem crescente
Nmero
da
medida
Valor
da
medida
Nmero
da
medida
Valor
da
medida
Nmero
da
medida
Valor
da
medida
Nmero
da
medida
Valor
da
medida
1 20 24 213 27 286 25 373
5 56 26 214 42 286 19 379
7 61 29 219 44 291 20 389
11 116 31 227 33 294 16 400
13 135 35 235 37 321 9 404
4 169 40 240 39 322 14 422
15 186 38 244 36 326 3 426
10 192 34 245 30 334 12 452
21 204 43 250 32 337 8 463
18 207 41 276 17 351 2 556
22 211 28 277 23 362 6 574
Para este exemplo tem-se 44 = n e

22
2
44
= = i

Abaixo o clculo segundo o nmero 4 de 4.7.1.
1 , 285
n
X
X
n
1
i
= =

( )
2 , 14665
1
2
=
n
X X
S
i

( ) | | 3 , 783 a X X SW
i i i 1 44
~ =
+

( )( ) 0 , 630604 2 , 14665 1 44 = = SQT
( )
983 , 0
630872
3 , 787
SQT
SW
W
2 2
calculado
= =
|
|
.
|
\
|
=

Na Tabela E.2 obtemos o valor de 0,944 para
tabelado
W , para 05 , 0 = o . Como W
calculado
> W
tabelado
, no
rejeitamos a hiptese de normalidade.

ABNT/CEE-83
FEV 2012


Tabela 4 Clculo da estatstica Shapiro-wilk
i
i
X
( ) i
X
+1 44

( ) i i
X X
+1 44

( )
( )
i i i
a X X
+1 44

1 20 574 554 214,5088
2 56 556 500 133,3500
3 61 463 402 93,3846
4 116 452 336 69,6192
5 135 426 291 54,2588
6 169 422 253 42,8835
7 186 404 218 33,6156
8 192 400 208 29,2240
9 204 389 185 23,6430
10 207 379 172 19,9520
11 211 373 162 16,9938
12 213 362 149 14,0507
13 214 351 137 11,5354
14 219 337 118 8,7910
15 227 334 107 6,9657
16 235 326 91 5,0960
17 240 322 82 3,8622
18 244 321 77 2,9491
19 245 294 49 1,4504
20 250 291 41 0,8651
21 276 286 10 0,1260
22 277 286 9 0,0378
5 Testes de valores extremos
Deve-se verificar se os valores extremos so representativos do sistema de medio, isto :
a) se as medies so representativas com relao variabilidade inerente ao sistema, no devem
ser descartadas;
b) se na obteno de algum resultado foi identificado algum erro grosseiro, tais como: falha na
execuo do procedimento analtico, erro nos clculos necessrios para a obteno do resultado
final, erro de digitao, etc., nestes casos o resultado deve ser descartado;

ABNT/CEE-83
FEV 2012


necessrio avaliar:
a) a presena de valores aberrantes ou discrepantes ou extremos (outliers), pois a varincia e a
mdia so muito afetadas pela presena destes valores;
b) a homogeneidade das varincias dos diferentes subgrupos, uma vez que esta um dos requisitos
para o clculo da repetitividade, somente desta forma pode-se combinar as varincias para o
clculo de uma medida que represente a variabilidade comum prpria do sistema (ver exemplo 3,
de 7.3).
Antes de iniciar a anlise dos resultados para calcular uma medida de preciso importante realizar uma
avaliao grfica dos resultados, destacando os fatores de variao includos no estudo.
Para a avaliao dos itens anteriores, prope-se nesta Norma a aplicao dos testes de Cochran
(homogeneidade das varincias) e Grubbs (valores extremos).
A aplicao dos testes de Cochran e Grubbs pode ser resumida no esquema da Tabela 5.
Tabela 5 Aplicao dos testes de Cochran e Grubbs
Mtodo estatstico Avaliao de valores extremos
Grfico de controle
Atravs de critrios para estudos de causas especiais (ver
referncia bibliogrfica 1 do Anexo F)
Mtodo simples Grubbs
Mtodo alternativo Grubbs e Cochran
Plano hierrquico Grubbs e Cochran
NOTA Verificar condio preliminar em 4.7
difcil estabelecer uma regra quanto ao nmero permitido de valores que podem ser rejeitados, j que
cada situao estudada tem caractersticas particulares. Dvidas sobre o efeito na eliminao de
determinado valor, ou conjunto deles, podem ser esclarecidas atravs da comparao da magnitude do
desvio padro com e sem a eliminao.
Trabalhar com eliminao de valores extremos pode levar a duas situaes extremas e opostas:
Uma nica aplicao dos testes, sem considerar que alguns dos valores restantes ainda podem ser
extremos, tende a aumentar o desvio padro, distanciando-o do valor verdadeiro.
Vrias aplicaes sucessivas dos testes de rejeio (com eliminao intermediria dos valores
extremos) podem levar a um resultado falso da preciso. Ao realizar os testes vrias vezes, pode
ocorrer diminuio do desvio padro calculado, distanciando-o do valor verdadeiro.
5.1 Teste de Grubbs
Este teste detecta valores extremos em dados univariados que possuem distribuio normal. Portanto
necessrio que primeiramente se avalie a possibilidade destes serem aproximados razoavelmente por
uma distribuio normal para, s ento, utilizar o teste de Grubbs. Se amostra possuir alguma outra
distribuio, especialmente as assimtricas (por exemplo lognormal) o teste fornecer resultados falsos.

ABNT/CEE-83
FEV 2012


O teste detecta um valor extremo por vez. Este retirado do conjunto de dados e o teste novamente
executado, at que nenhum dado seja detectado como valor extremo.
O teste de Grubbs realiza o seguinte teste de hiptese:
a) H
0
: No existem outliers no conjunto de dados.
b) H
1
: Existe pelo menos um outlier no conjunto de dados.
A estatstica do teste :
s
y y max
G
i N .. 1 i

=
=
(6)
Onde:
i
y o dado que se quer testar;
y a mdia do conjunto de dados;
S o desvio padro do conjunto de dados;
N tamanho da amostra.
Esta a verso bilateral do teste, mas ele pode ser aplicado como unilateral, neste caso para testar se
um valor mnimo valor extremo usar:
s
y y
G
min
= (7)
Para testar se um valor mximo valor extremo usar:
s
y y
G

=
max
(8)
Para o teste bilateral, a hiptese H
0
rejeitada, a um nvel de significnciao , se
2
2 ), 2 (
2
2 ), 2 (
2
1
>
N N
N N
t N
t
N
N
G
o
o
(9)
Onde
2
2 N ), N 2 (
t
o
denota o valor crtico superior da distribuio t com 2 N graus de liberdade e um nvel
de significncia de ) N 2 ( o . Para os testes unilaterais trocar ) N 2 ( o por N o .
Este teste tambm pode ser aplicado quando h uma observao suspeita dentro de um subgrupo para
o qual o teste de Cochran foi significante.

ABNT/CEE-83
FEV 2012


5.2 Teste de Cochran
As tcnicas empregadas nesta Norma assumem que entre subgrupos de resultados, existe somente
uma pequena diferena na varincia interna. Contudo, a experincia diz que isto nem sempre
verdade. Muitos testes poderiam ser utilizados para este propsito, porm o teste de Cochran foi
sugerido para verificar a validade desta suposio.
O teste de Cochran usado para comparar a maior varincia com as outras varincias de um grupo.
Pode ser usado para comparar a preciso de vrios tcnicos ou vrios mtodos de anlises ou vrios
laboratrios. As amostras devem ter o mesmo tamanho, ou seja n iguais e em condies de
repetitividade. Quando houver pequenas diferenas no nmero de observaes para os diferentes
grupos, ainda pode-se usar o teste, utilizando neste caso o n mais freqente e limitado pelo valor
tabelado (ver Anexo B).
O critrio de Cochran testa apenas o valor mais elevado num conjunto de desvios padres ou faixas e
, portanto um teste unilateral de valor aberrante. claro que a heterogeneidade da varincia se
manifestar tambm em alguns valores comparativamente baixos de desvio padro se isto ocorrer,
deve ser reportado equipe envolvida no estudo, a qual pode decidir se o ponto merecedor de uma
investigao mais profunda.
A estatstica calculada comparada com os valores crticos da Tabela 6 obedecendo ao seguinte
procedimento:
a) calcular a varincia dos resultados de cada subgrupo utilizando a equao 2.
b) calcular a estatstica C (C
c
), conforme a seguir:
=
=
p
1 i
2
i
2
max
c
S
S
C (10)
2
i
S a varincia de cada subgrupo, calculadas conforme equao 2;
2
max
S a varincia mxima entre os subgrupos;
p o nmero de grupos avaliados.
c) obter o valor de C
t
na Tabela B.1, a partir do nvel de confiana estabelecido, o nmero de medidas
(ou o grau de liberdade) e o nmero de grupos;
d) comparar o valor obtido no item 3 (
t
C ) com o valor de
c
C calculado no item 2. Se
t c
C C > , conclui-
se que h evidncia suficiente para considerar a varincia mxima,
2
max
S , como extrema;
e) eliminar o subgrupo cuja varincia foi considerada extrema. Se for necessrio aplicar o teste
novamente, repetir o teste com a prxima maior varincia.
EXEMPLO:
Considere cinco resultados hipotticos obtidos a partir de uma mesma amostra, analisada em quatro
equipamentos diferentes, mostrados na Tabela 6, para um nvel de 95 % de confiana.

ABNT/CEE-83
FEV 2012


Tabela 6 Resultados hipotticos
Equipamento I Equipamento II Equipamento III Equipamento IV
99,03 99,45 99,17 99,04
99,16 99,34 99,55 99,36
99,27 99,06 99,42 98,58
99,41 99,35 99,55 99,20
99,12 98,15 99,32 99,20

a) Calculando a varincia dos resultados de cada subgrupo:
Equipamentos Resultados
2
i
S
I 99,03 99,16 99,27 99,41 99,12 0,02147
II 99,45 99,34 99,06 99,35 98,15 0,28555
III 99,17 99,55 99,42 99,55 99,32 0,02617
IV 99,04 99,36 98,58 99,20 99,20 0,08968
4
1
2
i
S 0,42287

b) Calculando a estatstica C
c.

675 , 0
42287 , 0
28555 , 0
S
S
C
4
1
2
i
2
(max)
c
= = =

O valor tabelado de Crochran para p=4 (nmero de equipamentos) e n=5 (nmero de ensaios) a 95 %
629 , 0 =
t
C , ver Tabela B.1.
Como C
c
> C
t
logo, os resultados fornecidos pelo equipamento II devem ser eliminados.
Aplicando o teste de Grubbs para os dados obtidos no equipamento II. Identifica-se o valor 98,15
como extremo. Elimina-se este dado e repete-se o teste de Crochran para p=4 (nmero de
equipamentos) e n=4 (nmero de ensaios) a 95 %.

Equipamentos Resultados
2
i
S
I 99,03 99,16 99,27 99,41 99,12 0,02147
II 99,45 99,34 99,06 99,35 - 0,02806
III 99,17 99,55 99,42 99,55 99,32 0,02617
IV 99,04 99,36 98,58 99,20 99,20 0,08968

4
1
2
i
S
0,16538

ABNT/CEE-83
FEV 2012


08968 , 0
2
(max)
= S

542 , 0
16538 , 0
08968 , 0
4
1
2
2
(max)
= = =
i
c
S
S
C
O valor tabelado de Crochran para p=4 (nmero de equipamentos) e n=5 (nmero de ensaios) a 95 %
629 , 0 =
t
C . Como C
c
< C
t
os resultados fornecidos pelo equipamento II (com exceo do eliminado pelo
teste de Grubbs) no devem ser eliminados.
6 Planejamento do estudo intralaboratorial
Para estimar a preciso de um mtodo analtico, podem-se realizar ensaios com diferentes nveis de
complexidade. A Tabela 7 ilustra estes mtodos, desde o mais simples at os mais complexos. Para
cada mtodo mostrado como se devem calcular as medidas de preciso.
NOTA Se for desejvel avaliar a preciso para diferentes materiais, a estimativa da preciso deve ser efetuada
para cada um deles separadamente.
Tabela 7 Mtodos utilizados para clculo dos valores de preciso
Mtodo Objetivo Aplicao Vantagens Desvantagens
Grfico de controle

Estimar a
preciso
intermediria.
Amostra nica,
com vrias
determinaes
ao longo do
tempo (exemplo:
padro ou uma
amostra com
estabilidade e
homogeneidade
garantidas
segundo ISO
GUIDE Srie
30)
Usado em
controle
estatstico de
processos onde
medidas de uma
amostra so
dispostas em
um grfico em
relao ao
tempo,
acumulando
informao
suficiente para
estimar a
variabilidade do
sistema
Conhecimento
do controle do
processo
(inclusive
analtico)
No necessita
de novo
planejamento
para obteno
de resultados
para estimativa
da preciso,
quando j
implantado
No mede a
contribuio
individual dos
fatores de
variao
Mtodo simples

Estimar a
preciso
intermediria
incluindo fatores
de variao de
forma no
balanceada.
Amostra nica,
com vrias
repeties
Situao em
que as
medies so
obtidas
variando-se
diversos fatores
que podem
afetar a preciso
Mtodo rpido e
econmico
Vrios fatores
podem ser
includos no
mesmo estudo
No mede a
contribuio
individual dos
fatores de
variao
Data
y
Observaes
Variao dos fatores
y

ABNT/CEE-83
FEV 2012


Tabela 7 (continuao
Mtodo alternativo

Estimar a
preciso
intermediria
variando-se as
amostras, sendo
que em cada
uma delas so
efetuadas vrias
medies
Vrias
amostras, com
poucas
determinaes
Situao em
que as
medies so
obtidas por
diviso em
subgrupos
segundo algum
fator de variao

Pode ser
utilizado em
situaes em
que no possam
ser realizadas
muitas anlises
na mesma
amostra por
problemas de
instabilidade,
heterogeneidade,
etc.
Podem ser
usadas
amostras de
processos
produtivos

No mede a
contribuio
individual dos
fatores de
variao
Plano hierrquico

Estimar a
repetitividade e
preciso
intermediria,
medindo-se a
contribuio
individual dos
fatores para a
variao total
Amostra nica
Situao em
que se planeja a
influncia de
cada fator de
interesse para o
estudo da
preciso

Isola e mede as
contribuies de
cada fator para
a estimativa da
preciso
Dificuldade para
administrar o
plano
As seguintes questes devem ser consideradas ao se planejar o estudo:
a) quais fatores de variao devem ser considerados para realizao do estudo?
b) qual nmero de repeties deve ser especificado? (ver discusso detalhada no Anexo D)
c) quantos algarismos significativos devem ser utilizados para expresso do resultado do ensaio,
clculos intermedirios e expresso da preciso? (ver 7.1)
d) qual intervalo de tempo deve ser especificado para a concluso de todas as medies?
e) que plano estatstico o mais apropriado para conduo do estudo?
Aps a escolha do mtodo e obteno dos dados deve-se iniciar a anlise dos resultados com o objetivo
de identificar e tratar valores extremos. A anlise inclui uma aplicao de testes estatsticos para
identificao destes valores. Uma grande variedade destes testes est disponvel na literatura e podem
Observaes
y
Materiais
y
Observaes

ABNT/CEE-83
FEV 2012


ser utilizados no mbito desta Norma. Por razes prticas, somente dois destes testes foram
incorporados, conforme apresentado na Seo 5.
A Figura 1 mostra um fluxograma de orientao para a escolha do mtodo a ser utilizado.

Sim
No
Sim
Grfico de controle
Sim
No
No
Existe interesse em conhecer
os diversos fatores que contribuem
para variao?
Dispe-se de grfico
de controle?
Deseja-se analisar
diferentes amostras?
Fim
Incio
Planos hierrquicos
Mtodo alternativo
Fim
Fim
Fim
Mtodo simples

Figura 1 Fluxograma para orientao da escolha do mtodo
6.1 Grfico de controle
No caso de laboratrios que mantm como rotina o uso de grfico de controle para o mtodo em
estudo, pode-se utilizar os dados deste grfico para calcular a preciso intermediria. A Figura 2 ilustra
o perfil geral de um grfico de controle.

ABNT/CEE-83
FEV 2012


Figura 2 Perfil geral de um grfico de controle
Adota-se o termo preciso intermediria pois os dados obtidos a partir de um grfico de controle esto
sujeitos a uma ou mais fontes de variabilidade, por exemplo tempo, tcnico, ajuste, equipamento, etc.
6.1.1 Grficos de observaes individuais
Para este tipo de grfico de controle o limite de preciso intermediria calculado do seguinte modo:
= 2,8
,,,
= 2,8
2

com
=2
1
=
1
+
3
2
++
1

Onde:
I o limite de preciso intermediria;
A
m
a amplitude mvel mdia;
d
2
o coeficiente utilizado para estimar o desvio padro;
y
i
representa os resultados colocados no grfico;
n o nmero de resultados.
Neste caso as amplitudes so calculadas a partir de dois valores e portanto
2
= 1,128.
Para maiores detalhes sobre anlise de grficos de controle, consultar as referncias 1 e 12 do
Anexo F.
NOTA A preciso intermediria obtida por este mtodo refere-se exclusivamente a uma nica matriz com o
mesmo nvel de concentrao.
6.2 Mtodo simples
Nos processos que no so monitorados atravs de grfico de controle, a preciso do mtodo de
ensaio pode ser estimada atravs da execuo de uma srie de n medies em uma amostra (ou, para
ensaios destrutivos, um grupo de amostras presumivelmente idnticas), podendo-se alterar um ou mais
fatores entre cada medio. Recomenda-se que n seja pelo menos 15. Isto pode no ser satisfatrio, e
este mtodo de estimativa da preciso de um laboratrio no deve ser considerado to eficiente quando
comparado a outros procedimentos descritos nesta Norma. Esta anlise pode ser til para estudar

ABNT/CEE-83
FEV 2012


preciso com variao de tempo, executando-se sucessivas medies na mesma amostra em dias
sucessivos, ou para estudar efeitos de ajustes entre medies.
A Figura 3 ilustra a disposio das repeties obtidas por dois tcnicos. Neste caso conveniente
organizar no grfico todos os dados, mostrando (se possvel) todos os fatores envolvidos no perodo em
que foram realizadas as medies. No exemplo esto representadas as medidas realizadas num certo
perodo por dois tcnicos (crculo cheio tcnico A e crculo vazio tcnico B).
15
17
19
21
23
25
Observaes
y
Variao dos fatores
Operador A
Operador B

Figura 3 Disposio dos resultados do mtodo simples para diferentes operadores

O limite de preciso intermediria calculado como:
) z ,... b , a ( I
S 77 , 2 I =
Onde:
) z ,... b , a ( I
S - desvio padro calculado atravs da equao 3;
(a,b,...z)

Componentes que representam os fatores que variaram em condies de preciso
intermediria;

EXEMPLO: Uma medio executada por um tcnico e repetida em vrios dias subseqentes por este
mesmo tcnico, possibilitando que uma estimativa de
I
S seja calculada. Se os tcnicos forem alterados
neste perodo poder ser calculada uma nova estimativa de
I
S . Em ambos os casos devem ser
mencionados os fatores que foram variados durante a expresso dos resultados (ver Seo 7).

NOTA A preciso intermediria obtida por este mtodo refere-se exclusivamente a uma nica matriz com o
mesmo nvel de concentrao.
6.3 Mtodo alternativo
Este mtodo pode ser aplicado para avaliao da preciso quando utilizada uma amostra de rotina
(processo produtivo).
A diferena deste mtodo em relao ao simples que este utiliza vrias amostras, que podem ter
mdias diferentes (caso de um processo produtivo), diminuindo-se assim o nmero de anlises por

ABNT/CEE-83
FEV 2012


amostra. Os resultados da preciso obtidos devem ser aplicados somente s faixas de trabalho das
amostras que foram utilizadas neste clculo.
O mtodo alternativo considera t grupos de medies, cada um compreendendo n repeties.
Recomenda-se que o valor de ( ) seja pelo menos 15 (ver referncia bibliogrfica 7 do Anexo F).
A Figura 4 ilustra a disposio das repeties frente variao de amostras diferentes. Nesta situao
pode ser conveniente adicionar para cada amostra uma linha horizontal para representar a mdia da
amostra.

Figura 4 Disposio dos resultados do mtodo alternativo para diferentes amostras
A estimativa do desvio padro da preciso intermediria,
) ,... , ( z b a I
S , dada por
t
S S S t
i
n
j
i ij
y
t(n
t
2 2
2
2
1
1 1
2
) (
1)
1 + + +
=
=

=

=

y
) z ,... b , a ( I
S
onde
S
1
, S
2
, ..., S
t
- correspondem aos desvios padro calculados nos grupos 1, 2, ..., t atravs da
equao 3.
O limite de preciso intermediria, I(a,b...z), calculado como:
,,,
= 2,77
,,,

Exemplo - Um determinado laboratrio analisa duas repeties em cada uma de t amostras (no
necessariamente pelo mesmo tcnico, na seqncia de sua chegada). Neste caso, a equao do desvio
padro da preciso intermediria simplificada para:
( , )
=
1
2t
=1

NOTA A preciso intermediria obtida por este mtodo refere-se a uma nica matriz com diferentes nveis de
concentrao. Nos casos em que uma mesma amostra for analisada, variando-se um nico fator e, desejar-se
conhecer a varincia de cada nvel deste fator, este mtodo tambm pode ser utilizado.
14
16
18
20
22
24
26
28
Observaes
y
Amostras

ABNT/CEE-83
FEV 2012


6.4 Planejamento hierrquico (balanceado)
Uma outra maneira de estimar medidas de preciso realizar experimentos mais sofisticados, como o
caso dos planejamentos hierrquicos. A vantagem que vrios fatores de variao dentro de um
laboratrio so analisados em conjunto, com o objetivo de quantificar separadamente suas contribuies
na variabilidade total. Ao final da anlise dos dados pode-se obter tanto a repetitividade quanto a
preciso intermediria.
Um exemplo de planejamento hierrquico apresentado na Figura 5 para o caso particular de dois
fatores, alguns dos quais foram mencionados na Tabela 1 (ver 3.6).

Figura 5 Ilustrao de um planejamento hierrquico com dois fatores
A disposio de fatores em um planejamento hierrquico feita de modo que fatores que englobem
outros fiquem em uma posio superior. Alm dos fatores de variabilidade controlados, existe tambm
um fator residual que tem origem na variabilidade do prprio mtodo, devido a fatores desconhecidos e
no controlados. Esta variao residual permite avaliar a preciso sob condies de repetitividade.
As distintas categorias reconhecidas para cada fator so denominadas nveis. Por exemplo, a Figura 5
mostra a representao do fator 0 - equipamento e do fator 1 tcnico ambos com trs nveis. Outro
exemplo mostrado na Figura 6 onde o fator 0 tem dois nveis e o fator 1 trs nveis.
NOTA O conceito de nvel do fator (equipamentos, tcnicos, etc.) no deve ser confundido com o nvel de
concentrao indicado em 4.4.
Para visualizar a magnitude dos efeitos mdios dos fatores, estes podem ser representados no mesmo
grfico, atravs de linhas horizontais. Este tipo de representao permite a visualizao da contribuio
de cada fator sobre a variabilidade do resultado, assim como auxilia na identificao de valores
extremos (ver Seo 5).

ABNT/CEE-83
FEV 2012


Figura 6 Disposio dos resultados do planejamento hierrquico para dois fatores de variao
Esta Norma apresenta planos hierrquicos para no mximo dois fatores, com suas respectivas anlises
estatsticas. A Tabela 8 ilustra a estrutura destes planos. A anlise dos resultados obtidos nestes
experimentos realizada por uma anlise de varincia (ANOVA).
Tabela 8 Esquemas de planejamentos hierrquicos
utilizados na avaliao da preciso de mtodos de ensaio
Plano
Nmero de
fatores de
variabilidade
Estrutura
1 1 fator

2 2 fatores

Fator 1
Fator 0 Nvel 1 Nvel 2
1 2 3 1 2 3
R
e
s
u
l
t
a
d
o
s
Residual
Fator 0 Ocasio 1 Ocasio 2 Ocasio 3
Residual
Analista 1 Analista 2 Analista 3
Residual
Ocasio 1 Ocasio 2 Fator 1
Fator 0
Ocasio 1 Ocasio 2 Ocasio 1 Ocasio 2

ABNT/CEE-83
FEV 2012


6.4.1 Anlise de varincia com um fator de variabilidade
No caso em que se deseja estudar um fator de variabilidade com p nveis com n resultados em cada
nvel, a estrutura do planejamento hierrquico tem a forma apresentada na Figura 7.
1 2 3 p
1 2 3 n 1 2 3 n 1 2 3 n 1 2 3 n
Total Fator 0
Total geral
Resultados
Fator 0

Figura 7 Estrutura de planejamento hierrquico com um fator de variabilidade
Para construir a tabela de anlise de varincia necessrio realizar os seguintes clculos
intermedirios:
np
gera Total
A
2
l) (
=
n
0 fator Total
B

=
2
) (

= s) (Resultado
2
C

onde
Total geral a soma de todos os resultados;
Total fator 0 a soma dos n resultados de cada um dos p nveis;
Resultados o valor de cada medida.

Estes clculos so usados para construir as somas dos quadrados da Tabela 9 (coluna 2) de anlise
de varincia. Em seguida, proceder os clculos das colunas 3, 4 e 6.
Tabela 9 Tabela ANOVA para um fator de variabilidade
1 2 3 4 5 6
Fator
Soma dos
quadrados
Graus de
liberdade
Mdia da soma
dos quadrados
Componente
de varincia
Estimadores
das varincias
0 SQ
0
= B - A v
0
= p - 1
0
v
=
0
0
SQ
QM
2
0
n
2
r
o + o
n
QM QM
r 0

=
2
0
S
Residual SQ
r
= C - B v
r
= p(n - 1)
r
SQ
QM
v
=
r
r

2
r
o
r
QM S =
2
r

Total SQ
T
= C - A v
T
= (np) - 1

ABNT/CEE-83
FEV 2012


Na Tabela 9
2
0
S e
2
r
S so estimadores de
2
0
o e
2
r
o . A partir das varincias
2
0
S e
2
r
S calcular:
Desvio padro da preciso intermediria incluindo o fator 0:

0
=
0
2
2

Desvio padro da repetitividade -
r
S
Os limites de preciso intermediria e repetitividade so obtidos a partir de
) 0 fator ( I
S e S
r
como:
( ) ( ) 0 fator I 0 fator
S 8 , 2 I =
r
S r 8 , 2 =

No clculo da preciso intermediria podem ocorrer as seguintes situaes:
Se
r
QM QM s
0
, considerar 0
2
0
= S . Em consequncia
( ) r a I
S S = (I
(a)
= r). Neste caso, a variabilidade
devida aos nveis do fator 0 pode ser desconsiderada;
Se
r
QM QM >
0
,
determinar a significncia do fator 0 atravs do teste F, como se segue.
Calcular
r
QM
0
QM
calculado
F = e comparar com o valor de F
tabelado
(Tabela A.1 para nvel de significncia de
5 % ou Tabela A.2 para 1 %) com graus de liberdade v
0
e

v
r
(coluna 3 da Tabela 9).
Se
tabelado calculado
F F > conclui-se que a contribuio do fator 0 significativa indicando que as
diferenas entre as mdias no so atribudas apenas a erros aleatrios, sugere-se a investigao
das causas destas diferenas.

Exemplo - O fator 0 tem trs tcnicos (p = 3) e cada tcnico realiza quatro medidas (n = 4). Nvel de
confiana 95 %. A tabela de resultados ficaria como apresentado na Tabela 10.

Tabela 10 Descrio dos clculos com trs tcnicos
Fator
Resultados
Total
Nvel 1 (tcnico 1)
74,0 73,0 73,5 73,0
(74,0 + 73,0

+ 73,5

+ 73,0) =
T
1
= 293,5
Nvel 2 (tcnico2) 73,0 73,0 72,0 72,5
(73,0

+ 73,0

+ 72,0

+ 72,5) =
T
2
=290,5
Nvel 3 (tcnico 3) 71,5 73,0 72,5 73,0
(71,5

+ 73,0

+ 72,5+ 73,0) =
T
3
=290,0
TOTAL
T
1
+ T
2
+ T
3
= T=874,0

ABNT/CEE-83
FEV 2012


Antes do clculo da ANOVA para um fator de variabilidade deve ser verificado se existe valores
extremos (outliers) e se os dados seguem uma distribuio normal.

Teste outliers Teste de Grubbs para um valor discrepante observado:

a) Os dados foram arrumados em ordem crescente:
71,5 72,0 72,5 72,5 73,0 73,0 73,0 73,0 73,0 73,0 73,5 74,0
b) Identificar o valor discrepante ( )
i
y
= 71,5
c) Calcular Gc:
0 , 2
65 , 0
8 , 72 5 , 71
S
y yi
G
C
=
=
=
t
G 2,412 (95 %)
Concluso: Como
t C
G G < , o valor 71,5 no considerado aberrante, com 95 % de confiana.
Teste de normalidade Shapiro-wilk.

X 72,8333

SW 2,0642
SQT 4,6667
n 12 W
calculado
0,913
i 6 W
tabelado
0,859
Concluso: Os dados seguem o modelo de uma distribuio normal.
Clculo da ANOVA 1 fator de variabilidade
i
i
X
( ) i
X
+1 12

( ) i i
X X
+1 12

( )
( )
i i i
a X X
+1 12

1 71,5 74,0 2,5
1,3687500
2 72,0 73,5 1,5
0,4987500
3 72,5 73,0 0,5
0,1173500
4 72,5 73,0 0,5
0,0793000
5 73,0 73,0 0
0,0000000
6 73,0 73,0 0
0,0000000
( ) | | 0642 , 2
1 12
~ =
+ i i i
a X X SW

ABNT/CEE-83
FEV 2012


Para construir uma tabela conforme a Tabela 9 calcular A, B e C como segue:
( )
3 , 63656
12
2
0 , 874
= = =
4) x (3
2
T
A
( ) ( ) ( )
1 , 63658
4
2
0 , 290
2
5 , 290
2
5 , 293
=
+ +
=
+ +
=
4
2
3
T
2
2
T
2
1
T
B

0 , 63661
2
0 , 73
2
5 , 71
2
5 , 72
2
0 , 73 ....
2
5 , 73
2
0 , 73
2
0 , 74 = + + + + + + + + + = ... ... C

1 2 3 4 5
Fator SQ gl QM Componente da
varincia
0 SQ
0
= B A = 1,79
( ) 2 1 3
0
= = v
90 , 0
2
79 , 1
= =
0
QM
14 , 0
32 , 0 9 , 0
2
0
S =
=
4

Residual SQ
r
= C B = 2,88
( ) 9 1 4 3 = =
r
v
32 , 0
9
88 , 2
= =
r
QM 32 , 0 =
2
r
S
Total SQ
T
= C A = 4,67
( ) 11 1 4 3 = =
T
v
Aps a realizao dos clculos da coluna cinco conforme a Tabela 9, calcular os limites de
repetitividade e preciso intermediria, como segue:
Limite de preciso intermediria incluindo o tcnico:
( ) ( )
88 , 1 68 , 0 77 , 2 S 77 , 2 I
. tc I . tc
= = =

onde
68 , 0 32 , 0 14 , 0 S S S
2
r
2
0 .) tc ( I
= + = + =

Limite de repetitividade:
57 , 1 32 , 0 77 , 2 S 77 , 2 r
r
= = =

Para verificar a significncia do fator tcnico, calcular 8 , 2
32 , 0
9 , 0
= = =
r
0
calculado
QM
QM
F e comparar com
26 , 4 F
9 ; 2 ; 05 , 0
= tabelado (Anexo A) que neste exemplo possui dois e nove graus de liberdade.
Como
tabelado calculado
F F < conclui-se que a contribuio do fator tcnico no significativa indicando que
as diferenas entre as mdias so atribudas apenas a erros aleatrios.
6.4.2 Anlise de varincia com dois fatores de variabilidade
No caso em que se deseja estudar dois fatores de variao com p e q nveis e n resultados em cada
nvel, a estrutura do planejamento hierrquico tem a forma apresentada na Figura 8.

ABNT/CEE-83
FEV 2012


Fator 0 1 2 3 p
Resultados 1 2 ... n 1 2 ... n 1 2 ... n 1 2 ... n 1 2 ... n 1 2 ... n 1 2 ... n 1 2 ... n
Total Fator 0
Total geral
Fator 1 1 2 ... q 1 2 ... q 1 2 ... q 1 2 ... q
Total Fator 1

Figura 8 Estrutura de planejamento hierrquico com dois fatores
Os resultados obtido para um experimento onde o fator 0 tem dois nveis e o fator 1 tem cinco nveis
mostrado na Tabela 11.
Tabela 11 Experimento com dois nveis
Fator 0 Fator 1 Resultados
Total fator 0 Total fator 1
Total
Nvel 1
Nvel 1
Nvel 2
Nvel 3
Nvel 4
Nvel 5
y111
y121
y131
y141
y151
y112
y122
y132
y142
y152
y113
y123
y133
y143
y153
t01 = y111 + y112 + y113
+...+ y153
t11 = y111 + y112 + y113
+ y211 + y212 + y213
T = t11 + t12 + t13
+ t14+ t15
t12 = y121 + y122 + y123
+ y221 + y222 + y223
t13 = y131 + y132 + y133
+ y231 + y232 + y233
Nvel 2
Nvel 1
Nvel 2
Nvel 3
Nvel 4
Nvel 5
y211
y221
y231
y241
y251
y212
y222
y232
y242
y252
y213
y223
y233
y243
y253
t02 = y211 + y212 + y213
+...+ y253
t14 = y141 + y142 + y143
+ y241 + y242 + y243
t15 = y151 + y152 + y153
+ y251 + y252 +y253
Para construir a tabela de anlise de varincia necessrio realizar os seguintes clculos
intermedirios:
npq
2
geral) (Total
= A
nq
=
2
0) f ator (Total
B
np
=
2
1) f ator (Total
C
2
) s (Resultado D =
Estes resultados so usados para construir as somas dos quadrados da Tabela 12 (coluna 2) de anlise
de varincia. Em seguida calcular os valores pedidos nas colunas 3, 4 e 6.

ABNT/CEE-83
FEV 2012


Tabela 12 Tabela ANOVA para dois fatores de variabilidade
1 2 3 4 5 6
Fator
Soma dos
quadrados
Graus de
liberdade
Mdia da
soma dos
quadrados
Componente
de varincia
Estimadores das
varincias
0 SQ
0
= B - A v
0
= p - 1
0
0
SQ
0
QM =
2
0
2
1
2
o o o nq n + +
r

nq
QM QM
2
0
S
1 0

=

1 SQ
1
= C - B v
1
= p(q - 1)
1
1
SQ
1
QM
v
=
2
1
2
o o n +
r

n
r
QM
1
QM
2
1
S
=
Residual SQ
R
= D -
C
v
r
= pq(n - 1)
r
SQr
r
QM
v
=

2
r
o
r
QM
2
r
S =
Total SQ
T
= D - A v
T
= (npq) - 1

Na Tabela 12,
2
0
S ,
2
1
S e
2
r
S so estimadores de
2
0
o ,
2
1
o e
2
r
o e a partir deles calcular:
a) desvio padro da preciso intermediria incluindo o fator 0 -
2
r
S
2
0
S
0) I(fator
S + = ;
b) desvio padro da preciso intermediria incluindo o fator 1 -
2
r
S
2
1
S
1) I(fator
S + = ;
c) desvio padro da preciso intermediria (global) -
2
r
S
2
1
S
2
0
S
I(global)
S + + = ;
d) desvio padro da repetitividade -
2
r
S
r
S = .

Os limites da preciso intermediria e repetitividade so obtidos a partir de
0) I(fator
S ,
1) I(fator
S ,
I(global)
S e
S
r
como:
I
(fator 0)
= 2,8 x
0) I(fator
S
I
(fator 1)
= 2,8 x
1) I(fator
S
I
(global)
= 2,8
I(global)
S
r = 2,8 S
r

No clculo da preciso intermediria podem ocorrer as seguintes situaes:
1. Se QM
0
s QM
1
, considerar
2
0
S = 0. Em consequncia
2
) 0 ( fator I
s =
2
) 1 ( fator I
s . Neste caso a variabilidade
2. Se QM
0
> QM
1
,

determinar a significncia do fator 0 atravs do teste F abaixo;
3. Se QM
1
s QM
r
, considerar
2
R
2
r
2
R
S 1) (fator S = . Neste caso a variabilidade

ABNT/CEE-83
FEV 2012


4. Se QM
1
> QM
r
,

determinar a significncia do fator 1 atravs do teste F abaixo.
Calcular
calculado
F e comparar com a Tabela F de Snedecor (Anexo A) com graus de liberdade da coluna
3 da Tabela 12:
Efeito fator 0
1
QM
0
QM
calculado
F = comparando com
tabelado
F para v
0
e v
1
graus de liberdade
Efeito fator 1
r
QM
1
QM
F
calculado
= comparando com
tabelado
F para v
1
e v
r
graus de liberdade
Se
tabelado calculado
F F > conclui-se que a contribuio do fator correspondente significativa indicando que
as diferenas entre as mdias no so atribudas apenas a erros aleatrios, sendo interessante a
investigao das causas destas diferenas.

Exemplo - Considerando-se um plano com um fator 0 com dois nveis (p = 2), um fator 1 com cinco
nveis (q = 5) e no qual em cada combinao dos nveis dos fatores se realizam trs medidas (n = 3), a
tabela de resultados ficaria conforme representado na Tabela 13.
Tabela 13 Descrio dos clculos para o exemplo de dois fatores
Fator 0 Fator 1 Resultados
Total fator 0 Total fator 1
Total
Nvel 1
Nvel 1
Nvel 2
Nvel 3
Nvel 4
Nvel 5
44
38
47
36
43
46
40
40
43
38
44
36
44
38
38
t01 = 44 + 46 + 44 +...+
38= 615
t11 = 44 + 46 + 44
+ 46 + 33 + 42= 255
T = 255 + 244 + 262 +
241+ 243 = 1245
t12 = 38 + 40 + 36
+ 49 + 42 + 39=244
t13 = 47+ 40 + 44
+ 44 + 40 + 47= 262
Nvel 2
Nvel 1
Nvel 2
Nvel 3
Nvel 4
Nvel 5
46
49
44
39
38
33
42
40
45
42
42
39
47
40
44
t02 = 46+ 33 + 42 +...+ 44
= 630
t14 = 36 + 43 + 38
+ 39 + 45 + 40= 241
t15 = 43 + 38 + 38
+ 38 + 42 +44 = 243
Os testes de Grubbs e de Shapiro-wilk foram aplicados aos resultados e conclui-se que no existem
valores aberrantes e os dados seguem um comportamento de uma distribuio normal.

5 , 51667
2 5 3
2
1245
=

= =
npq
2
T
A
0 , 51675
5 3
2
630
2
615
=
+
=
+
=
nq
t t
B
2
02
2
01

5 , 51722
6
310335
2 3
2
243
2
241
2
262
2
244
2
255
= =
+ + + +
=
+ + + +
=
np
t t t t t
C
2
15
2
14
2
13
2
12
2
11

ABNT/CEE-83
FEV 2012


0 , 52089
2
4
2
2
2
8
3
4
2
6
2
4 = + + + + + + = 4 4 3 ... 4 4 4 D

Tabela 14 Clculo dos valores para tabela ANOVA
1 2 3 4 5
Fator Soma dos quadrados Graus de
liberdade
Quadrado
mdio
Componente da
varincia
0 SQ
0
= B A=7,5 v
0
= 2-1=1
5 , 7 = =
0
0
SQ
0
QM 10 , 0 =
=
nq
QM QM
2
0
S
1 0

1 SQ
1
= C B = 47,5 v
1
= 2(5 1)= 8
94 , 5 =
v
=
1
1
SQ
1
QM
*
0 =
=
n
r
QM
1
QM
2
1
S
Residual SQ
R
= D C = 366,5 v
r
= 2q(n 1) = 20
33 , 18 = =
r
SQr
r
QM

33 , 18 = =
r
QM
2
r
S
Total SQ
T
= D A = 421,5 v
T
= (npq) 1 = 29
* O valor calculado menor do que zero, logo considera-se que a contribuio deste fator
na varincia total zero.
Aps a realizao dos clculos da coluna 5 conforme a Tabela 14, calcular S
r
, S
I(fator0)
, S
I(fator1)
e S
I(global),
usando-os nos clculos dos limites de preciso intermediria e repetitividade:
limite de preciso intermediria incluindo o fator 0 = 89 , 11 = + = 18,33 0,10 x 2,77
I(fator0)
S 2,77
limite de preciso intermediria incluindo o fator 1 = 86 , 11 = + = 18,33 0 2,77
I(fator1)
S 2,77
limite de preciso intermediria global = 89 , 11 33 , 18 0 10 , 0 77 , 2 = + + =
I(global)
2,77S (global);
limite de repetitividade = 86 , 11 3 , 18 77 , 2 = =
r
2,77S
Para verificar a significncia dos fatores, calcula-se F
calculado
conforme j discutido no planejamento para
dois fatores, comparando-os com F
tabelado
(Anexo A) com os respectivos graus de liberdade.
Efeito fator 0 26 , 1
94 , 5
5 , 7
= = =
1
QM
0
QM
calculado
F comparando com 32 , 5 f F
8 ; 1 ; 05 , 0 tabelado
= = conclui-se que este
fator no significativo.
Efeito fator 1
32 , 0
33 , 18
94 , 5
= = =
r
QM
1
QM
F
calculado
comparando com 45 , 2
20 ; 8 ; 05 , 0
= = f F
tabelado
conclui-se que
este fator no significativo.

ABNT/CEE-83
FEV 2012


7 Expresso, apresentao, aplicao e interpretao dos resultados
7.1 Expresso dos resultados
A expresso dos resultados deve seguir s indicaes do mtodo de ensaio quanto a utilizao do
nmero de algarismos significativos. Alm disso, importante seguir as seguintes instrues:
a) registrar os resultados de ensaio, se possvel, com um algarismo significativo a mais do que
indicado no mtodo;
b) para clculos realizados em vrias etapas (como no caso dos utilizados no plano hierrquico),
necessrio reter dgitos significativos extras para assegurar que informaes importantes no sejam
perdidas em virtude do arredondamento. Como regra geral, retenha pelo menos dois algarismos
significativos a mais nas mdias e pelo menos trs algarismos significativos a mais no desvio
padro;
c) expressar os limites de repetitividade e limites de preciso intermediria com o mesmo nmero de
algarismos que os indicados no mtodo de ensaio.
7.2 Apresentao dos resultados
A Tabela 15 apresenta um resumo das informaes consideradas relevantes para cada mtodo
utilizado no estudo da preciso.
7.3 Exemplos de aplicao e Interpretao dos resultados
EXEMPLO 1 Anlise de ferro em sal nilon
Na Tabela 10 encontram-se os resultados de um ensaio realizado para avaliar a preciso da
determinao de ferro em sal nilon utilizando a tcnica de EEA-ICP. Como neste caso o mtodo no
era monitorado atravs de grficos de controle e no existia interesse em avaliar a influncia dos
analistas na variabilidade da anlise, seguiu-se a estratgia proposta pelo mtodo simples: oito
analistas participaram para realizar 24 determinaes da mesma amostra. Os resultados encontram-se
na Tabela 16 cujo grfico est na Figura 9.

ABNT/CEE-83
FEV 2012


Tabela 15 Informao essencial de um estudo intralaboratorial
Mtodo Informaes relevantes a serem apresentadas
Grfico de controle
- Perodo considerado
- Fatores que foram variados
- Nmero de resultados (n)
- Mdia ( y )
- Desvio-padro de preciso intermediria (S
I
)
- Limite de preciso intermediria (I)
Mtodo simples
- Mdia ( y )
- Desvio-padro da preciso intermediria (S
I
)
- Limite de preciso intermediria (I)
Mtodo alternativo
- Mdia ( y )
- Desvio-padro da preciso intermediria (S
I
)
- Limite de preciso intermediria (I )
Plano hierrquico
- Fatores que foram variados, nveis e nmero de resultados
- Mdia geral ( y )
- Desvio-padro da repetitividade (S
I
) e desvios da preciso
intermediria (I)
- Limite de repetitividade (r) e limite de preciso intermediria (I)

ABNT/CEE-83
FEV 2012


Tabela 16 Determinaes de ferro em sal nilon - (mtodo simples)
Anlise Data/hora Analista
Resultado
mg/kg
1 3/3/98 23:00 F 0,059
2 4/3/98 01:00 F 0,060
3 4/3/98 03:00 B 0,044
4 4/3/98 17:00 D 0,043
5 4/3/98 19:00 L 0,051
6 4/3/98 21:00 L 0,034
7 4/3/98 17:00 G 0,043
8 4/3/98 19:00 B 0,051
9 4/3/98 21:00 M 0,049
10 5/3/98 10:00 LO 0,043
11 5/3/98 12:00 LO 0,048
12 5/3/98 14:00 M 0,049
13 5/3/98 08:00 E 0,031
14 5/3/98 10:00 F 0,044
15 5/3/98 12:00 D 0,049
16 5/3/98 15:00 E 0,037
17 5/3/98 17:00 B 0,022
18 5/3/98 19:00 L 0,042
19 5/3/98 23:00 G 0,039
20 5/3/98 01:00 G 0,049
21 5/3/98 03:00 G 0,062
22 6/3/98 10:00 LO 0,044
23 6/3/98 12:00 E 0,059
24 6/3/98 14:00 F 0,054
A partir dos dados calcula-se a mdia e o desvio padro dos dados obtendo-se:

61 04 , 0 y = mg/kg

095 0 , 0 S = mg/kg

ABNT/CEE-83
FEV 2012


Figura 9 Determinaes de ferro em sal nilon
Para avaliar se o dcimo stimo valor pode ser considerado um extremo inferior foi utilizado o teste de
Grubbs (ver 4.1). Os clculos realizados esto na Tabela 17.
Tabela 17 Teste de Grubbs (mnimo) para o vigsimo quarto valor da Tabela 15
Valor extremo inferior Clculo
Calcular S ) y y ( G
) 1 ( 1
=
G
1
= (0,046 - 0,022)/0,0095 = 2,536
Se G
1
> valor do anexo C, a
observao considerada extrema
Como G
1
< 2,644 (o = 5 %, n = 24) conclui-
se que no h evidncias para considerar o
vigsimo quarto valor como extremo.
Neste caso, o limite de preciso intermediria foi calculado como: I = 2,77 S
I(t)
= 2,77 x 0,0095 = 0,0263
Onde:
0,0095 representa o desvio padro calculado atravs da equao 3.
Expresso e apresentao do resultado:
a) perodo considerado: quatro dias;
b) fatores que foram variados: tcnico;
c) nmero de resultados = 24 (23 graus de liberdade);
d) mdia = 0,0461 mg/kg;
e) desvio-padro da preciso intermediria = S
I
= 0,0095 mg/kg;
f) limite de preciso intermediria = I = 0,026 mg/kg.
0,000
0,010
0,020
0,030
0,040
0,050
0,060
0,070
1 6 11 16 21
R
e
s
u
l
t
a
o
d

(
m
g
/
K
g
)

ABNT/CEE-83
FEV 2012


Interpretao do resultado: Nos casos em que a diferena entre dois resultados, de uma mesma
amostra for maior que o limite de preciso intermediria (0,026 mg/kg) tem-se a indicao de um desvio
no processo de medio, para este nvel de concentrao estudado.
EXEMPLO 2 Anlise de viscosidade intrnseca de um polmero
Neste exemplo, o laboratrio utiliza um grfico de controle para monitorar a estabilidade do mtodo.
Este grfico foi construdo a partir dos dados da Tabela 18 e encontra-se na Figura 10.
Tabela 18 Resultados de viscosidade intrnseca de um polmero
Tempo

Resultado
dL/g
Tempo
Resultado
dL/g
Tempo
Resultado
dL/g
Tempo
Resultado
dL/g
1 0,618 31 0,619 61 0,618 91 0,618
2 0,619 32 0,618 62 0,618 92 0,616
3 0,622 33 0,618 63 0,619 93 0,623
4 0,619 34 0,616 64 0,622 94 0,619
5 0,623 35 0,615 65 0,620 95 0,616
6 0,626 36 0,619 66 0,622 96 0,612
7 0,622 37 0,618 67 0,623 97 0,611
8 0,622 38 0,614 68 0,618 98 0,622
9 0,620 39 0,616 69 0,619 99 0,619
10 0,618 40 0,608 70 0,623 100 0,620
11 0,622 41 0,614 71 0,622 101 0,619
12 0,622 42 0,614 72 0,622 102 0,619
13 0,624 43 0,615 73 0,618 103 0,615
14 0,620 44 0,618 74 0,618 104 0,618
15 0,618 45 0,622 75 0,612 105 0,622
16 0,619 46 0,618 76 0,616 106 0,616
17 0,624 47 0,618 77 0,616 107 0,618
18 0,618 48 0,623 78 0,615 108 0,619
19 0,624 49 0,619 79 0,620 109 0,618
20 0,620 50 0,618 80 0,620 110 0,618
21 0,618 51 0,619 81 0,620 111 0,623
22 0,623 52 0,619 82 0,622 112 0,626
23 0,615 53 0,619 83 0,619 113 0,614
24 0,618 54 0,619 84 0,618 114 0,616
25 0,619 55 0,615 85 0,618 115 0,619
26 0,623 56 0,615 86 0,628 116 0,615
27 0,616 57 0,622 87 0,623 117 0,623
28 0,622 58 0,619 88 0,620 118 0,623
29 0,622 59 0,615 89 0,619 119 0,618
30 0,619 60 0,623 90 0,619 120 0,616
Como o processo apresenta sinais de causa especial entre as observaes 30 e 44 (15 resultados
abaixo da mdia), deve-se estimar o desvio padro da preciso intermediria atravs da amplitude

ABNT/CEE-83
FEV 2012


mvel (ver 5.1). Uma outra alternativa para calcular S
I
seria eliminar os pontos que evidenciam causas
especiais e calcular o desvio padro S
I
atravs da equao do desvio padro (equao 3).
Calculando tem-se
=2
1
= 0,00291
,
=
2
=
0,00291
1,128
= 0,00258
O limite de preciso intermediria calculado como segue:
I = 2,77 x 0,00258 = 0,00714
Expresso do resultado:
a) perodo considerado: aproximadamente dez meses;
b) fatores que foram variados: tempo e tcnico;
c) nmero de resultados = 120.
d) mdia = 0,619 dL/g;
e) desvio padro da preciso intermediria = S
I =
0,00258 dL/g;
f) limite de preciso intermediria = 0,007 dL/g.
Ou efetua-se o clculo retirando-se os pontos que esto fora dos limites de controle, isto pontos 40,
86 e 97 tem-se:

=

=2
1
= 0,00278

,
=
2
=
0,002 78
1,128
= 0,00246
O limite de preciso intermediria calculado como segue:
I = 2,77 x 0,00246 = 0,00682
Expresso do resultado:
a) perodo considerado: aproximadamente dez meses;
b) fatores que foram variados: tempo e tcnico;
c) nmero de resultados = 117.
d) mdia = 0,619 dL/g;
e) desvio padro da preciso intermediria = S
I =
0,00246 dL/g;

ABNT/CEE-83
FEV 2012


f) limite de preciso intermediria = 0,006 82 dL/g.
-
Figura 10 Grfico de controle com os resultados de viscosidade intrnseca
Exemplo 3 - Anlise de alcalinidade total em soda custica
Uma amostra de soda custica foi analisada por quatro analistas (a, b, c e d) em cinco dias
diferentes. O resultado analtico obtido conforme o mtodo (mdia de duas repeties), rotineiramente
reportado com apenas um algarismo aps a vrgula, porm neste estudo, os resultados so apresentados
com um nmero maior de algarismos depois da vrgula para evitar uma maior propagao de erros nos
clculos intermedirios (ver Tabela 19).
Na Figura 11 encontram-se as mdias das anlises realizadas por todos os analistas nos cinco dias.
Nesta figura, o analista d apresenta resultados com variabilidade sistematicamente menor que a dos
outros analistas, o que deveria ser investigado. Notar que o teste de Cochran adequado para a
verificao da varincia mxima, sendo que neste caso a variabilidade do analista d, que parece ser
diferente das demais, mnima.
Tabela 19 Resultados individuais de anlise de alcalinidade em soda custica.
Anlises

Analista Data Resultado
(mdia - % NaOH)
1 a 02/02/98 50,246
2 a 03/02/98 50,362
3 a 04/02/98 50,303
4 a 05/02/98 50,204
5 a 06/02/98 50,215
6 b 02/02/98 50,306
7 b 03/02/98 50,316
8 b 04/02/98 50,198
9 b 06/02/98 50,173
10 b 09/02/98 50,193
11 c 02/02/98 50,337
0,605
0,610
0,615
0,620
0,625
0,630
0,635
0 20 40 60 80 100 120
Tempo
R
e
s
u
l
t
a
d
o

(
d
L
/
g
)

ABNT/CEE-83
FEV 2012


12 c 03/02/98 50,115

Tabela 19 (continuao)
Anlises

Analista Data Resultado
(mdia - % NaOH)
13 c 04/02/98 50,288
14 c 05/02/98 50,348
15 c 06/02/98 50,197
16 d 02/02/98 50,256
17 d 03/02/98 50,274
18 d 04/02/98 50,267
19 d 05/02/98 50,265
20 d 06/02/98 50,261

Figura 11 Resultados (mdias de duas determinaes) de % NaOH em funo do analista
Estes resultados podem ser analisados atravs do mtodo hierrquico (caso exista interesse na
decomposio da variabilidade da anlise) ou atravs do mtodo alternativo.
7.3.1 Mtodo de planejamento hierrquico
A anlise atravs do mtodo hierrquico exige que os nveis de um mesmo fator apresentem varincias
homogneas (iguais). Neste caso, a varincia do analista d no deveria ser includa na anlise (no
representa o sistema).
Na Tabela 20 encontram-se os clculos realizados para a obteno do desvio padro da repetitividade e
preciso intermediria (anlise de varincia de um fator).

ABNT/CEE-83
FEV 2012


Tabela 20 Clculos da anlise de varincia para um ensaio de um fator
(excluindo analista D)
Analista

Resultados,
% NaOH
Total
A 50,246 50,362 50,303 50,204 50,215 251,330
B 50,306 50,316 50,198 50,173 50,193 251,186
C 50,337 50,115 50,288 50,348 50,197 251,285
Total geral 753,801
A = 753,801
2
/(5 x 3) = 37 881,063 17
B = (251,330
2
+ 251,186
2
+ 251,285
2
)/5 = 37 881,065 34
C = (50,246
2
+ 50,362
2
+ .+ 50,348
2
+ 50,197
2
) = 37 881,140 74

Fator
Soma
quadrados
Graus
liberdade
Quadrado
mdio
Valor
estimado
Componente
varincia
Analista 0,0021708 2 0,0010854 2
0
2
o o n +
r

0,0000000*
Residual 0,0753908 12 0,0062826
2
r
o
0,0062826
Total 0,0775616 14
NOTA Neste caso o componente de varincia apresentou valor negativo e foi
convertido em zero.
Desvio padro preciso intermediria incluindo o fator analista = S
I
= 0,006286 0 + = 0,079
Desvio padro repetitividade = S
r
= 0,006286 = S
I
= 0,079
Como QM
0
< QM
r
, considera-se
2
0
2
r
S S =
2
R
(I = r). Neste caso, a variabilidade
devida aos analistas (fator 0) pode ser desconsiderada.
Os limites de preciso intermediria e repetitividade:
I = r = 2,77 x 0,079 = 0,22
Concluses e expresso de resultados:
a) perodo considerado: cinco dias;
b) fatores que foram variados: Analista (quatro analistas, sendo que um foi excludo do clculo);
c) mdia geral = 50,25 % NaOH;
d) desvio padro de preciso intermediria = S
R
= S
r
= 0,079 % NaOH;
e) limite de preciso intermediria = R = r = 0,22 % NaOH.

ABNT/CEE-83
FEV 2012


7.3.2 Mtodo alternativo
Se no fosse desejvel estimar a contribuio dos analistas no erro da anlise, poder-se-ia utilizar um
mtodo mais fcil para o clculo do limite de preciso intermediria: o mtodo alternativo. Como neste
caso existe um analista que apresenta variabilidade menor que a dos outros analistas, os clculos
poderiam ser feitos incluindo e excluindo o analista d. Os clculos realizados atravs deste mtodo
esto na Tabela 21.
Tabela 21 Clculo do limite de preciso intermediria atravs do mtodo alternativo
Analista
Mdia
(% NaOH)
Varincia
x
analista
Varincia incluindo ...
analistas a,
b, c, d
analistas a,
b, c
a 50,266 0,004357

b 50,237 0,004639
c 50,257 0,009851
d 50,265 0,000045
2
I
S 0,0041 0,0055
S
I
0,064 0,074
I 0,18 0,21
Concluses e expresso de resultados:
- perodo considerado: cinco dias;
- fatores que foram variados: Analista (quatro analistas);
- mdia geral 50,26 % NaOH;
- desvio padro da preciso intermediria S
R
= 0,074 % NaOH (excluindo analista d, com menor
variabilidade);
- limite de preciso intermediria I = 0,21 % NaOH (excluindo analista d, com menor
variabilidade).
Os resultados obtidos pelo mtodo alternativo so semelhantes aos observados no mtodo hierrquico:
o limite de preciso intermediria calculado excluindo o analista d foi 0,21.

De modo geral o limite de preciso intermediria foi considerado baixo. Se fosse admitido um limite de
preciso intermediria de 0,20 % NaOH, a variao relativa do mtodo (considerando uma mdia de
50 % NaOH) seria de (0,20/50) x 100 = 0,4 %.

ABNT/CEE-83
FEV 2012


Anexo A
(normativo)
Tabelas
Tabela A.1 - Tabela com valores crticos da distribuio F para
05 , 0 = o

ABNT/CEE-83
FEV 2012


V
a
l
o
r
e
s

c
r
t
i
c
o
s

d
a

d
i
s
t
r
i
b
u
i
o

F

d
e

S
n
e
d
e
c
o
r
:

a

=

5
%
A
n
e
x
o

A

(
n
o
r
m
a
t
i
v
o
)

V
a
l
o
r
e
s

c
r
t
i
c
o
s

d
a

d
i
s
t
r
i
b
u
i
o

F

d
e

S
n
e
d
e
c
o
r
:

o

=

5
%

Tabela A.2 - Tabela com valores crticos da distribuio F para 01 , 0 = o

A
n
e
x
o

A

(
n
o
r
m
a
t
i
v
o
)

V
a
l
o
r
e
s

c
r
t
i
c
o
s

d
a

d
i
s
t
r
i
b
u
i
o

F

d
e

S
n
e
d
e
c
o
r
:

a

=

1
%

A
n
e
x
o

B

A
n
e
x
o

C

A
n
e
x
o

D

(
n
o
r
m
a
t
i
v
o
)

V
a
l
o
r
e
s

c
r
t
i
c
o
s

d
a

d
i
s
t
r
i
b
u
i
o

F

d
e

S
n
e
d
e
c
o
r
:

a

=

1
%

A
n
e
x
o

E

A
n
e
x
o

F

A
n
e
x
o

G

(
n
o
r
m
a
t
i
v
o
)

V
a
l
o
r
e
s

c
r
t
i
c
o
s

d
a

d
i
s
t
r
i
b
u
i
o

F

d
e

S
n
e
d
e
c
o
r
:

a

=

1
%

A
n
e
x
o

H

A
n
e
x
o

I

A
n
e
x
o

J

(
n
o
r
m
a
t
i
v
o
)

V
a
l
o
r
e
s

c
r
t
i
c
o
s

d
a

d
i
s
t
r
i
b
u
i
o

F

d
e

S
n
e
d
e
c
o
r
:

a

=

1
%

(
n
o
r
m
a
t
i
v
o
)

V
a
l
o
r
e
s

c
r
t
i
c
o
s

d
a

d
i
s
t
r
i
b
u
i
o

F

d
e

S
n
e
d
e
c
o
r
:

a

=

1
%
_
/
A

ABNT/CEE-83
FEV 2012


Anexo B
(normativo)
Tabela B.1 - Valores crticos para o teste de Cochran

ABNT/CEE-83
FEV 2012


Tabela B.1 (continuao)

ABNT/CEE-83
FEV 2012


Anexo C
(normativo)
Tabela C.1 Valores crticos para o teste de Grubbs (ver referncia bibliogrfica 15 do Anexo F)

n
Um extremo inferior ou
superior
1% 5%
3 1,155 1,153
4 1,492 1,463
5 1,749 1,672
6 1,944 1,822
7 2,097 1,938
8 2,221 2,032
9 2,323 2,110
10 2,410 2,176
11 2,485 2,234
12 2,550 2,285
13 2,607 2,331
14 2,659 2,371
15 2,705 2,409
16 2,747 2,443
17 2,785 2,475
18 2,821 2,504
19 2,854 2,532
20 2,884 2,557
21 2,912 2,580
22 2,939 2,603
23 2,963 2,624
24 2,987 2,644
25 3,009 2,663
26 3,029 2,681
27 3,049 2,698
28 3,068 2,714
29 3,085 2,730
30 3,103 2,745
31 3,119 2,759
32 3,135 2,773
33 3,150 2,786
34 3,164 2,799
35 3,178 2,811
36 3,191 2,823
37 3,204 2 ,835
38 3,216 2,846

ABNT/CEE-83
FEV 2012


Tabela C.1 (continuao)

n
Um extremo inferior ou
superior
1% 5%
39 3,228 2,857
40 3,240 2,866
41 3,251 2,877
42 3,261 2,887
43 3,271 2,896
44 3,282 2,905
45 3,292 2,914
46 3,302 2,923
47 3,310 2,931
48 3,319 2,940
49 3,329 2,948
50 3,336 2,956

ABNT/CEE-83
FEV 2012


Anexo D
(informativo)
Relevncia do nmero de repeties
Ao utilizar dados de uma varivel de qualidade para verificar a adequao do produto s especificaes,
h riscos de se tomarem decises erradas devido ao erro analtico. Considerar o caso em que o
resultado de uma varivel de qualidade, y, apresenta valores prximos dos limites de especificao
inferior ou superior (LEi ou LEs). O valor verdadeiro desta varivel, x, afetado pela variabilidade da
anlise (c):
y = x + c
Na Figura D.1 ilustra-se o efeito da variabilidade da anlise. Esta variabilidade pode fazer com que
sejam cometidos dois tipos de erros: aceitar um produto no-conforme (direita da Figura D.1) e rejeitar
um produto conforme (esquerda da Figura D.1).

LEi Alvo LEs
Variabilidade
da anlise
Variabilidade
da anlise
y x y x

Figura D.1 - Erro de anlise nas proximidades dos limites de especificao (y = valor observado,
x = valor verdadeiro)
Para que a classificao do produto como conforme ou no-conforme seja eficiente importante que:
a) a mdia do processo coincida com o alvo da especificao do produto;
b) a variabilidade do processo (o
p
) seja a menor possvel;
c) a variabilidade da anlise (o
R
) seja desprezvel em relao variabilidade do processo (ver Figura
D.2).

ABNT/CEE-83
FEV 2012


LEi LEs
s
R
desvio-padro
da anlise
Distribuio
do erro de
anlise
s
p
desvio-padro
do processo

Figura D.2 - Influncia da variabilidade da anlise e variabilidade do processo na classificao de
um produto em relao aos limites de especificao
Existem diversas referncias que mencionam que o
R
deveria ser menor que 1/3 a 1/10 em relao a o
p
.
Alan R. Eagle (ver referncia bibliogrfica 13 do Anexo F) apresenta as justificativas do porqu da
escolha de um ou outro extremo e de como se estimar a probabilidade de se aceitar um produto no-
conforme e a probabilidade de rejeitar um produto conforme para valores de
R

P
entre zero e um. A
probabilidade de rejeitar um produto conforme menor que 1 % e a probabilidade de aceitar um produto
fora de especificao menor que 0,06 %, quando:
a) a mdia do processo coincide com o alvo da especificao;
b) os limites de especificao esto posicionados a uma distncia igual a 3 o
P
;
c) o
R
= 0,3 o
P
.

Para determinar a importncia da variabilidade da anlise em relao variabilidade do processo
importante que os desvios padro de repetitividade e preciso intermediria sejam estimados com uma
variabilidade adequada, que depende do nmero de observaes utilizadas nos clculos.
Considera-se a seguir o plano de ensaio mais geral utilizado para o clculo dos desvios-padro da
repetitividade e reprodutibilidade, o plano hierrquico. Neste caso, os dados podem ser organizados
como na Tabela D.1, no caso de um fator de variao constitudo por p analistas.

Tabela D.1 - Disposio dos dados em um ensaio com p analistas e n medidas realizadas por
cada analista em cada amostra
Resultado Analista
1 2

p
1 y
11
y
12

y
1p

2 y
21
y
22

y
2p

N y
n1
y
n2

y
np

ABNT/CEE-83
FEV 2012


A preciso do desvio-padro pode ser avaliada em termos do coeficiente de variao, o qual calculado pela
equao (ver referncia bibliogrfica 14 do Anexo F):
Coeficiente de variao percentual do desvio-padro CV % =
v 2
1
100
Onde v representa os graus de liberdade do desvio-padro. Na Tabela D.2 encontram-se equaes para
estimar os graus de liberdade dos desvios-padro da repetitividade e preciso intermediria no mtodo
simples e no planejamento hierrquico.

Tabela D.2 - Clculo dos graus de liberdade do desvio-padro da repetitividade e do desvio-
padro da preciso intermediria em situaes especiais
Caso Mtodo Medida Graus de liberdade
v
Observao
1 Simples Repetitividade sem
variao dos fatores
(n-1) p = 1
2 Planejamento
hierrquico(um fator)
Repetitividade p (n-1)
3 Planejamento
hierrquico(um fator)
Preciso
intermediria
( )
( ) ( )
1 p
ny
p
n
y
n
+
+
+
2
1 1
2
1
2
=
2
r
2
0
o
o

comum a requisio de 30 graus de liberdade para a obteno de uma estimativa razovel do desvio
padro. Neste caso, CV % = 100 [1/(2 x 30)]
1/2
= 12,9 o qual uma "impreciso" aceitvel pela literatura
(ver referncia bibliogrfica 14 do Anexo F).
Na Figura D.3 representou-se o coeficiente de variao do desvio-padro da repetitividade para distintos
valores de n e p e para os casos 1 e 2 da Tabela D.2. A rea sombreada (CV % entre 10 % e 15 %) indica
uma regio aceitvel para a preciso de um desvio-padro (ver referncia bibliogrfica 14 do Anexo F). No
obstante alguns autores admitem CV % de at 25 %.
0
10
20
30
40
50
60
70
80
0 5 10 15 20 25 30 35
n
C
V
%

d
o

S
r
p=1
p=5
p=10
p=30

Figura D.3 - Coeficiente de variao do desvio-padro da repetitividade para distintos valores de
p e n

ABNT/CEE-83
FEV 2012


Na Figura D.3 observa-se que o desvio-padro da repetitividade estimado com boa preciso, por
exemplo, nas seguintes situaes:
a) 30 analistas, n = 2;
b) 10 analistas, n = 4 ou 5;
c) cinco analistas, n = 7 ou 8;
d) um analista, n = 26 a 28.
Na Figura D.4 representaram-se os coeficientes de variao do desvio-padro da preciso intermediria
para p = 5 e 10 e para = 0,5, 1 e 2. No primeiro caso a varincia entre os nveis do fator de variao
igual metade da varincia da repetitividade, conforme Figura D.4.a. No segundo caso, as duas
varincias so iguais, conforme a Figura D.4.b; e, no terceiro caso, a varincia entre nveis o dobro da
varincia da repetitividade, conforme a Figura D.4.c.
A partir da Figura D.4 observa-se que o desvio-padro da preciso intermediria estimado com boa
preciso nas seguintes situaes: i) se = 0,5, p = 5 e n = 15 ou 16 ou tambm p = 10 e n = 4-6; ii) se =
1, p = 10 e n = 8. Quando = 1, no possvel trabalhar s com cinco nveis do fator em estudo se for
desejvel uma preciso do desvio-padro (CV %) de 10 % a 15 %. Quando = 2, deve-se trabalhar com
mais do que 15 analistas.
NOTA Pode ser aceita uma preciso pior que 15 % (CV %) para o desvio-padro se o quociente entre a
estimativa do desvio padro da anlise (o
R
) e a estimativa do desvio padro do processo (o
P
) for bem
menor que 0,3.
0
5
10
15
20
25
30
35
0 5 10 15 20 25 30 35
n
C
V
%

d
o

S
R
p=5
p=10

CV % para = 0,5
Figura D.4a)

ABNT/CEE-83
FEV 2012


n
0
5
10
15
20
25
30
35
0 5 10 15 20 25 30 35
C
V
%

d
o

S
R
p=5
p=10

CV % para = 1,0
Figura D.4b)
n
0
5
10
15
20
25
30
35
0 5 10 15 20 25 30 35
C
V
%

d
o

S
R
p=5
p=10

CV % para = 2,0

Figura D.4c)
Figura D.4 - Coeficiente de variao do desvio-padro da preciso intermediria para
distintos valores de , p e n

ABNT/CEE-83
FEV 2012


Anexo E
(informativo)
Tabela E.1 - Coeficiente a
n
(W) para clculo de W do - Teste de Shapiro-wilk

ABNT/CEE-83
FEV 2012


Tabela E.1 (continuao)

ABNT/CEE-83
FEV 2012


Tabela E.2 Valores crticos de W
n
p
n
p
0,01 0,05 0,01
0,05
3
0,753 0,767 27 0,894
0,923
4
0,687 0,748 28 0,896
0,924
5
0,686 0,762 29 0,898
0,926
6
0,713 0,788 30 0,900
0,927
7
0,730 0,803 31 0,902
0,929
8
0,749 0,818 32 0,904
0,930
9
0,764 0,829 33 0,906
0,931
10
0,781 0,842 34 0,908
0,933
11
0,792 0,850 35 0,910
0,934
12
0,805 0,859 36 0,912
0,935
13
0,814 0,866 37 0,914
0,936
14
0,825 0,874 38 0,916
0,938
15
0,835 0,881 39 0,917
0,939
16
0,844 0,887 40 0,919
0,940
17
0,851 0,892 41 0,920
0,941
18
0,858 0,897 42 0,922
0,942
19
0,863 0,901 43 0,923
0,943
20
0,868 0,905 44 0,924
0,944
21
0,873 0,908 45 0,926
0,945
22
0,878 0,911 46 0,927
0,945
23
0,881 0,914 47 0,928
0,946
24
0,884 0,916 48 0,929
0,947
25
0,888 0,918 49 0,929
0,947
26
0,891 0,920 50 0,930
0,947

ABNT/CEE-83
FEV 2012


Tabela E.3 Fator para clculo dos limites da linha central do grfico de amplitude
Tamanho do
subgrupo
d
2
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
1,128
1,693
2,059
2,326
2,534
2,704
2,847
2,970
3,078
3,173
3,258
3,336
3,407
3,472
3,532
3,588
3,640
3,689
3,765
3,778
3,819
3,858
3,895
3,931

ABNT/CEE-83
FEV 2012


Bibliografia
[1] Nelson, Lloyd, S., Interpreting shewhart X control charts, journal of quality technology, 1985,17 (2),
114-116
[2] ASTM E 691, Standard practice for conducting an interlaboratory study to determine the precision of
a test method
[3] ASTM E 180, Standard practice for determining the precision of asym methods for analysis and
testing of industrial chemicals
[4] ASTM E 178, Practice for Dealing with Outlying Observations
[5] ISO 5725, Accuracy (trueness and precision) of measurement methods and results part 1: general
principles and definitions
[6] ISO 5725, Accuracy (trueness and precision) of measurement methods and results part 2: a basic
method for the determination of repeatability and reproducibility of a standard measurement method
[7] ISO 5725, Accuracy (trueness and precision) of Measurement Methods and Results Part 3:
Intermediate measures on the precision of a test method
[8] ASTM E 177, Standard practice for use of the terms precision and bias in ASTM test methods
[9] Mandel, J. and Lashof, T. W., The Nature of Repeatability and Reproducibility, Journal of Quality
Technology, 1987, 19, 29-36
[10] Waeny, J. C. C., Controle Total da Qualidade em Metrologia, 1992- So Paulo; Makron Books,
McGraw Hill
[11] AS 2850, Chemical analysis - interlaboratory test programs - for determining precision of analytical
method(s) guide to the planning and conduct
[12] ASTM Manual on presentation of Data and Control Chart Analysis, 1976
[13] Eagle, Alan R., A method for handling errors in testing and measuring, industrial quality control,
1954, 10, 10-15
[14] Mandel, J., Repeatability and reproducibility, journal of quality technology, 1972, 4, 74-85
[15] Grubbs, F. E. and Beck, G. extension of sample sizes and percentage points for significance tests
of outlying observations, technometrics, 1971, 14, 847-854
[16] VIM, Vocabulrio Internacional de Metrologia 2008

Projeto de Revisão Abnt NBR 14597

Enviado por

Dados do documento

Descrição original:

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Projeto de Revisão Abnt NBR 14597

Enviado por

Direitos autorais:

Formatos disponíveis

ABNT/CEE-83

PROJETO DE REVISO ABNT NBR 14597

Você também pode gostar