IPEF Srie Tcnica, Piracicaba, 9(26): 1-36, mar.

1993

ISSN 100 - 8137

A DETERMINAO DE EQUAES
VOLUMTRICAS NA ENGENHARIA
FLORESTAL
Frederico Pimentel Gomes
Carlos Henrique Garcia

INSTITUTO DE PESQUISAS E ESTUDOS FLORESTAIS

PRODUZINDO FLORESTAS COM CINCIA

em convnio com
UNIVERSIDADE DE SO PAULO
ESCOLA SUPERIOR DE AGRICULTURA LUIZ E QUEIROZ
Departamento de Cincias Florestais

Srie Tcnica IPEF (ISSN 100-8137) uma publicao trimestral

do IPEF Instituto de Pesquisas e Estudos Florestais. Publlica
contribuies originais, que se enquadram como anais de encontros
ou monografias, com o objetivo de atualizar o conhecimento sobre
temas florestais de grande interesse prtico. (tiragem de 300
exemplares)
Instituto de Pesquisas e Estudos Florestais
Conselho de Administrao
Presidente Arnaldo Salmeron RIPASA
Vice-Presidente Admir Lopes Mora FLORIN/CELPAV
Rubens Cristiano Damas Garlipp BAHIA SUL
Manoel de Freitas CHAMPION
Vagner Pereira Pinto CENIBRA
Jorge Vieira Gonzaga RIOCELL
Jos Carlos Macedo Ferreira SUZANO
Mrio Santana Jnior INPACEL
Joo Walter Simes ESALQ/LCF
Conselho Tcnico-Cientfico
Mrio Ferreira ESALQ/LCF
Jos Otvio Brito ESALQ/LCF
Fbio Poggiani ESALQ/LCF
Admir Lopes Mora FLORIN/CELPAV
Jorge Vieira Gonzaga RIOCELL
Rubens Cristiano Damas Garlipp BAHIA SUL
Conselho Fiscal
Francisco Bertolani DURAFLORA
Raul Mrio Speltz KLABIN
Manoel Carlos Ferreira EUCATEX
Gerncia Executiva
Gerente Executivo Walter Suiter Filho IPEF
Assistente Carlos Henrique Garcia IPEF
Comisso Editorial
Editor Walter de Paula Lima ESALQ/LCF

Assistente Marialice Metzker Poggiani - IPEF

Endereo
IPEF/CTI Central Tcnica de Informaes
Av. Pdua Dias, 11 - Caixa Postal 530
13400-970 Piracicaba, SP Brasil
FONE (0194) 334124
FAX (0194) 33 6081
TELEX 19 7881 IPEF BR

SUMRIO
1. INTRODUO
2. A ESTIMATIVA DOS PARMETROS
3. CRITRIOS PARA JULGAMENTO DAS EQUAES
4. A DISTRIBUIO DOS RESDUOS
5. PARTICULARIDADES DO COEFICIENTE DE DETERMINAO
6. O MTODO DOS QUADRADOS MNIMOS PONDERADOS
7. REFERNCIAS BIBLIOGRFICAS
ANEXOS

A DETERMINAO DE EQUAES VOLUMTRICAS NA ENGENHARIA

FLORESTAL
*

Frederico Pimentel Gomes

**
Carlos Henrique Garcia

1. INTRODUO
As equaes para determinao de volume slido de essncias florestais so de uso
geral e indispensvel na Silvicultura. Como todas elas so empricas, faz-se necessrio
ajust-las com freqncia, para dapt-las a diferentes espcies, idades, espaamentos e
regies. Estudar-se- principalmente as equaes clssicas seguintes (VEIGA, 1984):
1. Equao de varivel combinada de Spurr:
V = a + b D2H
2. Equaes australianas, de Stoate:
V a + b D2H + c D2 + f H.
3. Equao de Schumacher-Hall, na forma logartmica:
Log V = a + b Log D + c Log H,
ou na forma original:
V = A Db Hc
altura.

Nestas equaes, V o volume slido (com ou sem casca), D o DAP e H a

Embora s essas equaes sejam discutidas especificamente, os mtodos expostos

podem ser aplicados a muitas outras, com as ligeiras modificaes necessrias.
2. A ESTIMATIVA DOS PARMETROS
Equao de Spurr
linear nos parmetros. Se tomar X = D2H, transformar-se- em
V = a + bX

Os parmetros (ou coeficientes) a e b podem ser estimados facilmente pelos

mtodos clssicos de regresso (PIMENTEL-GOMES, 1990, captulo 12, DRAPER &
*

Consultor do IPEF Caixa Postal 530 13400-970, Piracicaba, SP

IPEF Caixa Postal 530 13400-970, Piracicaba, SP

**

SMITH, 1981) ou por programas apropriados de computador, tias como o REG do SAS, ou
o REGRESEQ do SAEG.
Equao de Stoate
Com X1 = D2H, X2 = D2, X3 = H, ela se transforma em:
V = a + bX1 + cX2 + fX3,
Linear nos parmetros, que se podem estimar pelos mtodos indicados para a equao de
Spurr.
Equao logartmica de Schumacher-Hall
Com U = Log V, X1 = Log D, X2 = Log H, ela se transforma em
U = a + bX1 + cX2,
igualmente linear nos parmetros, que se podem estimar como nos dois casos anteriores.
Equao de Schumacher-Hall original
Esta equao, dada pela expresso
V = A Db Hc,
Tem os parmetros b e c como expoentes e, pois, no linear nos parmetros. usual
pass-la forma logartmica
U = Log V = Log A + b Log D + c Log H,
= a + b Log D + cLog H,
onde a = Log A. Nesta forma, ela linear nos parmetros, e eles podero ser estimados pelo
programa REG do SAS, ou pelos seus equivalentes do SANEST ou do SAEG. Obtidas as
estimativas a, b, c, pode-se voltar forma original e escrever:

V = 10 a D b H c
Mas a equao assim obtida subestima o volume V (THNI (1967)) e no
corresponde exatamente que se obteria a partir da equao original V = A Db Hc. O
melhor, pois, tomar 10 a , b, c como valores iniciais de A, b, c e atravs do programa
NLIN do SAS, ou o REGRENL do SAEG obter novas estimativas A1, b1, c1 para esses
parmetros.

Equao de Spurr Exemplo

A equao em pauta V = a + bX, com X = D2H. Usar-se- como exemplo os dados

da Tabela 1. O programa REG do SAS d a seguinte anlise da varincia. (Listagem no 1).

C. variao
Regresso Linear
Resduo
Total

G.L.
1
48
49

S.Q.
0,39955
0,15125
0,55080

Q.M.
0,39955
0,00315

F
126,79

Probab.
0,0001

A equao obtida :
V = 0,0540 + 0,2026 D2H,

( )

com R2 = 72,54%. O coeficiente de determinao ajustado R a2 dado pela frmula

R a2 = 1 -

N -1
(1 - R 2 ),
N - P -1

onde N o nmero de rvores da amostra e p o numero de coeficiente de variveis na

equao de regresso.
Obtem-se pois:
R a2 = 1 -

50 - 1
(1 - 0,7254) = 0,7197 = 71,97%.
50 - 1 - 1

Quando grande o nemero de rvores na amostra, pequena a diferena entre R2 e

R a2 : tal o caso usual no estudo de equaes da Silvimetria.

TABELA 1 Dados dendromtricos de 50 rvores de Eucalyptus saligna Smith de 10

anos de idade.
Arv.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50

D(m)
0,172
0,190
0,270
0,150
0,122
0,187
0,245
0,237
0,160
0,250
0,235
0,200
0,177
0,283
0,275
0,205
0,200
0,204
0,215
0,270
0,160
0,215
0,205
0,203
0,215
0,260
0,310
0,185
0,215
0,220
0,150
0,250
0,315
0,210
0,273
0,170
0,202
0,254
0,180
0,190
0,223
0,174
0,364
0,245
0,260
0,190
0,247
0,270
0,130
0,224

H(m)
12,0
14,0
17,0
11,0
9,0
16,0
14,0
18,0
9,5
14,0
14,0
12,0
13,0
16,0
18,0
15,0
12,0
12,0
15,0
14,0
12,0
14,0
16,0
14,0
14,0
18,0
16,0
12,0
16,0
14,0
7,2
16,0
18,0
18,0
18,0
16,0
17,0
19,0
14,0
14,0
14,0
12,0
18,0
16,0
14,0
14,0
16,0
18,0
8,6
16,0

V(m3)
0,116
0,130
0,249
0,047
0,041
0,131
0,203
0,270
0,071
0,202
0,214
0,129
0,144
0,305
0,357
0,160
0,254
0,146
0,211
0,199
0,088
0,148
0,173
0,212
0,156
0,438
0,255
0,091
0,177
0,239
0,043
0,261
0,397
0,209
0,328
0,123
0,201
0,352
0,133
0,156
0,200
0,135
0,572
0,226
0,301
0,162
0,234
0,365
0,344
0,220

Nesta anlise de varincia, o Resduo corresponde na verdade a Desvios da

Regresso, com QMResduo = 0,0315 e S = 0,0315 = 0,0561 m 3 . Como a mdia geral m
= 0,2104 m3, o coeficiente de variao seria:
CV =

0,0561 x 100
= 26,7%.
0,2104

A anlise poderia ser feita tambm pelo programa GLM do SAS, com resultados
equivalentes, neste caso, em que h uma s varivel independente X = D2H.
A anlise poderia ser feita, ainda, pelo programa REGREGN do SAEG. Este
programa obtm estimativas dos parmetros e dos respectivos erros padres, mas no
fornece uma anlise de varincia. Aplica o teste t a cada parmetro estimado, com exceo
do parmetro a, neste caso. Obtm-se, assim, os resultados seguintes: (Listagem no 2).
a = 0,0540 ;
b = 0,2026 ; S(b) = 0,0180 ; t = 11,26 ;
R 2 = 72,55%; R a2 = 71,98%.

Equao de Stoate Exemplo

a seguinte:
V = a + b D2H + c D2 + f H.

C. variao
Regresso Linear
Resduo
Total

G.L.
3
46
49

S.Q.
0,41212
0,13868
0,55080

Q.M.
0,13737
0,00301

F
45,57

Probab.
0,0001

O valor de R2 :
R2 =

SQRegresso 0,41212
=
= 0,7482 = 74,82%.
SQTotal
0,55080

Embora com 3 variveis (X1 = D2H, X2 = D2, X3 = H), em vez de uma (x = D2H),
como a equao de Spurr, o valor de R2 pouco maior (74,82%, em vez de 72,54%).
A equao obtida :
V = 0,2061 + 0,4945 D2H 5,0305 D2 0,0085 H
= 0,2061 + (0,4945 H 5,0305) D2 0,0085 H.
Esta equao muito estranha, pois para H < 10,17 m ela decrescente, em relao
varivel D. Por exemplo:

V(D2; H=8) = 0,1381 1,0745 D2.

Para D2 < 0,0172 (D < 0,131) ela tambm decrescente em relao a H. Por
exemplo:
V(D2 = 0,0150; H) = 0,1306 0,00108 H
Conclui-se, pois, ser perigoso o uso dessa equao, sem restries rigorosas.
O programa REG do SAS testa os coeficientes separadamente, pelo teste t. Por ai se
verifica que o coeficiente de D2H (b) significativo ao nvel de 1% (P = 0,0013), o de D2 (c)
significativo ao nvel de 5% (P 0,0472), e o de H (f) no significativo (P = 0,1651).
Poder-se-ia, pois, recalcular a equao de regresso com excluso de seu ltimo termo, isto
, com a forma V = a + b D2H + c D2.
Por outro lado, obtem-se S = QMResduo = 0,00301 = 0,0549 , com coeficiente
de variao CV = 26,10%.
A anlise pelo GLM do SAS d mais detalhes, pois, alm da anlise da varincia
apresentada, igual do programa REG, indica a contribuio de cada varivel na
SQRegresso. Isto feito de duas maneiras: pela anlise de tipo I e pela de tipo II.
(Listagem no 4).
A anlise de tipo I d os resultados seguintes.

C. Variao
D2 H
D2
H

G.L.
1
1
1

Q.M.
0,399548
0,006578
0,005997

F
132,53
2,18
1,99

Probab.
0,0001
0,1465
0,1651

Estes valores de F so calculados em relao ao QMResduo = 0,00301.

Na anlise de tipo I, acima exposta, a Soma de Quadrados relativa primeira
varivel mencionada (D2H, no caso presente) no ajustada. A Soma de Quadrados
referente segunda varivel (D2) ajustada em relao primeira (D2H). J a Soma de
Quadrados relativa terceira varivel (H) ajustada em relao s duas variveis anteriores
(D2H e D2). Em resumo, no tipo I a Soma de quadrados referente a cada varivel ajustada
em relao a todas as variveis anteriores. evidente, pois, que a ordem em que se colocam
as variveis acarreta mudanas, que podem ser drsticas, nessa anlise da varincia de tipo I,
que, em geral, se considera a mais indicada para estudos de regresso. conveniente, pois,
colocar as variveis em ordem decrescente de importncia. No caso discutido parece
evidente que se deva comear por D2H, mas a ordem das variveis restantes poderia ser D2,
H ou H, D2. Se, por exemplo, tivesse adotado a ordem H, D2, D2H, os resultados seriam os
seguintes, para o tipo I de anlise de varincia.

C. Variao

H
D2
D2 H

G.L.
1
1
1

Q.M.
0,237684
0,139204
0,035235

F
78,84
46,17
11,69

Probab.
0,0001
0,0001
0,0013

J a anlise do tipo III ajustada a Soma de Quadrados de qualquer das variveis em

relao a todas as demais. evidente, pois, que no tipo III, a ordem de considerao das
variveis indiferente: os resultados so os seguintes, em qualquer caso.

C. Variao
DH
D2
H

G.L.
1
1
1

Q.M.
0,035235
0,012535
0,005997

F
11,69
4,16
1,99

Probab.
0,0013
0,0472
0,1651

Esta anlise de tipo III confirma que a varivel mais importante D2H, seguida por
D2 e ficando H em ltimo lugar.
O programa REGRESEQ do SAEG faz, por mtodo um pouco diferente, anlise de
regresso semelhante do SAS, pelo tipo I. Compeende-se, pois, que tambm neste caso a
ordem de entrada das variveis importante. Adotada a ordem D2H, D2, H tem-se primeiro
a estimativa do parmetro b, como se houvesse apenas esta varivel, e lhe aplica o teste t. A
estimativa b = 0,2026, e o valor de t t = 11,26, com P = 0,0000. fornece tambm a
Soma de Quadrados correspondente: SQ(D2H) = 0,399598 e os coeficientes de
determinao R2 = 72,55%, R a2 = 71,98%. (Listagem no 5).
A seguir, considera as variveis D2H e D2, estima b = 0,3439 (coeficiente de D2H)
e c = -2,8202 (coeficiente de D2) e aplica o teste t a estas estimativas, obtendo para b , t =
3,56 e, para c , t = -1,49. Fornece tambm a Soma de Quadrados relativa a D2, ajustada em
relao a D2H (SQ = 0,006798), assim com os novos coeficientes de determinao: R2 =
73,78%, R a2 = 72,67%.
Finalmente, acrescenta o programa REGRESEQ do SAEG a varivel H, d as novas
estimativas de b, de c e de f, com respectivos testes t e, ainda, fornece o valor SQ =
0,005994 relativo varivel H, depois de ajustada em relao a D2H e D2. A equao
finalmente obtida :
V = 0,2050 + 0,4951 D2H 5,039 D2 0,0085 H,
sendo significativos ao nvel de 5% apenas os coeficientes de D2H e de D2.
Notam-se pequenas discrepncias entre os resultados obtidos pelo SAEG e os
fornecidos pelo SAS. Tais discrepncias devem ser conseqncia de problemas de
aproximao numrica.

A Equao de Schumacher-Hall na Forma Logartmica

A equao :
Log V = a + b Log D + c Log H.
Com os dados da Tabela 1, o programa REG do SAS d os resultados seguintes.
(Listagem no 6).

C. variao
Regresso
Resduo
Total

G.L.
2
47
49

S.Q.
1,93956
0,97412
2.91368

Q.M.
0,96978
0,02073

F
46,79

Probab.
0,0001

A equao obtida :
Log V = -0,5782 + 1,4808 Log D + 0,7234 Log H,
com R2 = 66,57% e R a2 = 65,14%. O desvio padro S = 0,02073 = 0,144.
A mdia de Log V negativa: -0,736, e o mesmo ocorre, pois, com o CV = -19,5%.

A Equao Original de Schumacher-Hall

A equao :
(1)

V = A Db Hc .

Aplicado o logartmo decimal, obtm-se:

Log V = a + b Log D + c Log H,
onde a = Log A. Ajustada aos dados da Tabela 1, tem-se:
(2) Log V = -0,5782 + 1,4808 Log D + 0,7234 Log H,
de onde se conclui que a equao original seria:
(3) V = 0,2641 D1,4808 H0,7234
Mas o modo correto de ajustamento da equao original (1) no este. O certo
aplicar o programa NLIN do SAS ou o programa REGREGN do SAEG ou programas
anlogos de outros aplicativos, uma vez que a equao (1) no linear nos parmetros. A
equao(3), obtida atravs da transformao logartmica apenas nos fornece os valores
iniciais para o programa escolhido. No caso do programa NLIN do SAS, tomaram-se os
valores iniciais:
A: 0,2 a 0,3 by 0,005
B: 1,30 a 1,50 by 0,10
C: 0,50 a 0,90 by 0,10
O mtodo de Gauss-Newton do programa NLIN deu a equao
V = 0,1256 D1,460 H0,9945
e a anlise da varincia seguinte. (Listagem no 7).

C. Variao
Regresso
Resduo
Total (no corrigido)

G.L.
3
47
50

S.Q.
2,60392
0,15945
2,76337

Q.M.
0,86797
0,00339

No entanto, num caso como esse, em que o parmetro A se ajusta mdia dos
valores do volume (V), prefervel obter uma Soma de Quadrados da Regresso com
subtrao da correo C = ( V)2/50 = 2,21257. Obtem-se ento a seguinte anlise da
varincia.

C. Variao
Regresso (corrigida)
Resduo
Total (corrigido)

G.L.
2
47
49

S.Q.
0,39135
0,15945
0,55080

Q.M.
0,19568
0,00339

F
57,72**

Neste caso tem-se:

R2 =

0,39135
= 71,05%
0,55080

A estimao dos parmetros A, b, c pode ser feita tambm pelo programa

REGREGN do SAEG. Usaram-se os valores iniciais:
(A = 0.1, 0.3, 0.264)
(B = 1.3, 1.6, 1.480)
(C = 0.5, 1.1, 0.723)
Por exemplo, para A, o intervalo proposto [0.1; 0.3] com mdia 0.264.
As estimativas obtidas foram as seguintes: (Listagem no 8).
= 0,12349 ; b = 1,4572 ; c = 1,0002
A
Resolveu-se tomar por base estas estimativas, como novos valores iniciais, e usar
mais uma vez o programa REGREGN. As novas estimativas, mais refinadas, foram as
seguintes: (Listagem no 9).
= 0,12586 ; b = 1,4598 ; c = 0,99464
A
Elas so praticamente iguais s dadas pelo aplicativo SAS. Mas, infelizmente, o
SAEG no d a SQResduo, e, assim, no permite o clculo de uma anlise de varinica.
Mas d o coeficiente de determinao R2 = 71,05% e um grfico dos resduos, que
importante.
importante salientar que a transformao logartmica da varivel depende (V)
acarreta sempre subestimao para ela (THNI, 1967).

3. CRITRIOS PARA JULGAMENTO DAS EQUAES

Qual o critrio para comparar equaes de regresso, de modo a indicar qual a mais
conveniente? Podem-se indicar os seguintes critrios em ordem de importncia:
1. as propriedades matemticas das funes;
2. o coeficiente de determinao R2, s vezes substitudo pelo coeficiente de determinao
ajustado R2;
3. o QMDesvios da Regresso, ou o desvio padro (S) respectivo; e
4. a distribuio dos resduos.
Discutir-se- rapidamente esses critrios.

As Propriedades Matemticas das Funes

Nos fenmenos biolgicos, as equaes correspondentes, embora empricas, tm,
geralmente, certas propriedades matemticas conhecidas. Por exemplo, as equaes de
volume devem ser funes crescentes do DAP e da altura. Assim, no seria aceitvel uma
equao.
V = A + B X + C X2 ,
com X = D2H e C < 0, que tivesse um mximo dentro do intervalo dos valores de X
observados.
PIMENTEL-GOMES (1990, pp.229-235) d um exemplo interessante em que, com
os dados de um experimento de adubao fosfatada de milho, cujos nveis de P2O5 variaram
de zero a 100 kg/ha. A anlise estatstica indicou a convenincia de uma equao de 3 grau.
Y = 4,712 + 0,276 X 0,00483 X2 + 0,0000256 X3,
onde Y a produtividade do milho e X o nvel de P2O5. Mas, do ponto de vista
agronmico, esta equao no convm, pois tem um ponto de mximo para X = 43,9 kg/ha
de P2O5, o que seria razovel, mas tem tambm um ponto de mnimo para X = 81,9 kg/ha
de P2O5. As mdias de produtividade para os nveis de P2O5 eram as seguintes:
Nvel
de
P2O5(kg/ha)
Produtividade
Mdia

25

50

75

100

4,65

9,26

9,30

9,35

9,64

Estas mdias demonstram que a produtividade praticamente se estabilizou para

nveis de P2O5 de 25 kg/ha para cima. Tal comportamento, que no pode ser
adequadamente representado por uma regresso polinomial, que leva excentricidade
exibida pelo polinmio de 3 grau. Na verdade, a lei de Mitscherlich (PIMENTEL-GOMES,
1990) seria mais adequada para esse caso.
Analogamente, o estudo matemtico de uma equao proposta para a estimativa do
volume slido pode identificar casos em que no seja conveniente.

Foi isso que aconteceu na equao de Stoate antes obtida (pg. 4). Com efeito, essa
equao, que
V = 0,2061 + 0,4945 D2H 5,0305 D2 0,0085 H
decrescente em relao a D, quando se tem H < 10,17 m, e tambm decrescente em
relao a H, para D < 0,131.

O Coeficiente de determinao (R2)

Considere-se o experimento de adubao fosfatada de milho, acima referido
(PIMENTEL-GOMES, 1990, pp.229-235), instalado em 4 blocos casualizados, com 5
nveis de P2O5 (zero, 25, 50, 75 e 100 kg/ha). A anlise da varincia dos dados de
produtividade, em kg/parcela, a seguinte:

C. de Variao
Tratamentos
Blocos
Resduo
Total

G.L.
4
3
12
19

S.Q.
72,22
2,73
10,92
85,87

Q.M.
18.055
...
0,910

F
19,84**

Os programas ANOVA e GLM, que realizam essa anlise, do tambm o valor de

R2, mas este R2 nada tem a ver com a regresso que se pode obter, para estimar o efeito do
nutriente. Na verdade, esse R2, que o programa refere como R2 do modelo, definido como:
R2 =

SQTotal - SQResduo 85,87 - 10,92 74,95

=
=
= 0,873 = 87,3%.
SQTotal
85,87
85,87

Se admitida regresso polinomial, pode-se separar os 4 G.L. de Tratamentos em 4

componentes: Linear (ou de 1 grau) Quadrtico (ou de 2 grau), Cbica (ou de 3 grau) e
de 4 grau, com os resultados seguintes:

C. de Variao
Regresso Linear
Regresso Quadrtica
Regresso Cbica
Regresso de 4 grau
Tratamentos
Resduo

G.L.
1
1
1
1
4
12

S.Q.
40,64
21,28
9,23
1,07
72,22
10,92

Q.M.
40,64
21,28
9,23
1,07
...
0,910

Se considerar uma regresso de 3 grau, a equao ser:

Y = 4,712 + 0,276 X 0,00483 X2 + 0,0000256 X3.
A Soma de Quadrados relativa a esta equao de regresso ser:
SQRegresso = 40,64 + 21,28 + 9,23 = 71,15 ,

F
44,66**
23,38**
10,14*
1,18

e o valor de R2 correspondente :
R2 =

SQRegresso
71,15
=
= 0,9852 = 98,52%.
SQTratamentos 72,22
Mas se considerar somente uma equao de 2 grau, o resultado seria:
Y = 7,912 + 0,8448 X 0,0009856 X2.

Note-se que mudaram tanto o coeficiente de X como o de X2, ao se eliminar o termo

de 3 grau na equao de regresso.
A nova Soma de Quadrados da Regresso :
SQRegresso = 40,64 + 21,28 = 61,92,
o que daria um novo
R2 =

61,92
= 0,8574 = 85,74%.
72,22

Ao passar da equao de 2 grau, Y = a + bX + cX2, para a de 3 grau (com um

parmetro a mais),
Y = a + bX + cX2 + dX3,
o valor de R2 aumenta necessariamente. Mas esses valores no so diretamente
comparveis, pois se referem a equaes com nmero diferente de parmetros: trs na
equao de 1 grau (a, b, c) e quatro na de 3 grau (a, b, c, d). Para torn-los comparveis,
usual calcular o coeficiente de determinao ajustado R a2 , dado pela frmula
(PIMENTEL-GOMES, 1990):
R a2 = 1 -

n -1
(1 - R 2 ) ,
n - p -1

onde n = 5 o nmero de nveis da varivel independente (X) e p o nmero de

coeficientes de variveis na equao de regresso.
No caso da equao de 2 grau tem-se p = 2 e fica:
R a2 = 1 -

5 -1
(1 - 0,8574) = 0,7148 = 71,48%.
5 - 2 -1

Para a equao de 3 grau tem-se p = 3 e fica:

R a2 = 1 -

5 -1
(1 - 0,9852) = 0,9408 = 94,08%.
5 - 3 -1

Neste caso, a equao de 3 grau tem R2 maior do que a de 2, como acontecia com
o R , mas em certas oportunidades a situao se inverte.
Uma dificuldade que ocorre com o coeficiente de determinao ajustado R a2 que
pode assumir valor negativo, o que absurdo. Isto ocorre quando se tem R2 < p/(n-1). Por
exemplo, no caso da equao de 2 grau acima referida, se tiver R2 = 0,40, fica:
2

R a2 = 1 -

5 -1
(1 - 0,40) = - 0,20 = - 20%.
5 - 2 -1

Nos casos de anlises de varincia em que se tenha:

SQTotal = SQRegresso + SQResduo,
O valor de R2 :
R2 =

SQRegresso
SQTotal

exatamente isso que ocorre no caso da determinao de equaes para estimativa

de volume, em Silvicultura.

O Quadro Mdio dos Desvios de Regresso

Considere-se os Quadrados Mdios dos Desvios da Regresso para as equaes
seguintes, j estudadas:
Spurr

V = a + b D2 H

Stoate

V = a + b D2 H + c D2 + f H

Schumacher-Hall

V = A Db Hc

Os resultados so os seguintes:

Equao
Spurr
Stoate
Schumacher-Hall

No de G.L. do
Resduo
48
46
47

QMResduo

Desvio Padro

0,00315
0,00301
0,00339

0,0561
0,0549
0,0582

A comparao dos Quadrados Mdios ou dos Desvios Padres mostra que as trs
equaes do resultados praticamente equivalentes, embora a equao de Spurr tenha
apenas dois parmetros, e a de Stoate tenha quatro.
Para a equao de Schumacher-Hall na forma logartmica
Log V = a + b Log D + c Log D,

temos QMResduo = 0,02073, Desvio Padro = 0,1440, mas estes resultados no so

comparveis com os das demais equaes, pois se referem a Log V, e no varivel V.
Para obter resultado comparvel deve-se usar o ndice de Furnival.

O ndice de Furnival (1961)

O problema que se tem em vista o de comparar o desvio padro S relativo a uma
equao de regresso em que a varivel dependente V, por exemplo:
V = a + b D2 H
com o desvio padro S1 referente a outra equao de regresso, em que a varivel depende
uma funo de V, por exemplo
Log V = a + b Log D + c Log H,
onde Log indica logaritmo decimal.
O problema teve uma soluo aproximada deduzida por FURNIVAL (1961), que
props, para isso, um ndice que recebeu o seu nome. No caos particular desta equao
logartmica, em que a varivel dependente Log V, o ndice de Furnival tem a seguinte
expresso:
I = 2,3026 [V] S1,
onde [V] indica a mdia geomtrica dos valores de varivel V.
Mas o que mdia geomtrica? Suponha-se que a varivel V tenha 2 valores, V1 = 8
e V2 = 2. Sua mdia geomtrica [V] ser:
[V] = (V1 x V2 )1/2 = (8 x 2)1/2 = 14 = 4.
No caso de 3 valores V1 = 8, V2 = 2, V3 = 5, a mdia geomtrica seria:
[V] = (8 x 2 x 5)1/3 = 3 80 = 4,309.
No caso de N = 50 valores de V, a mdia geomtrica seria, pois:
[V] = (V1 x V2 x V3 x ... x V50 )1/50 ,
e, no caso geral de N valores de V:
[V] = (V1 x V2 x V3 x ... x VN )1/N ,
O modo mais fcil de calcular esta expresso a aplicao de logaritmos:

1
(Log V1 + Log V2 + Log V3 + ... + Log VN )
N
1
= R Log V.
N

Log[V] =

No caso, dos valores da Tabela 1, tem-se:

1
(-0,936 - 0,886 - 0,604 - ... - 0,658)
50
1
=
[-36,811]
50
= - 0,73622,

Log[V] =

logo
[V] = antilog (-0,73622) = 10-0,73622 = 0,184.
J o valor do desvio padro S1, obtido facilmente, pois tem-se, para essa equao
logartmica QMResduo = 0,02073 logo S1 = 0,2073 = 0,144.
Conclui-se, pois, que o ndice de Furnival relativo equao logartmica em
discusso :
I = 2,3026 [V] S1 = 2,3026 x 0,184 x 0,144 = 0,0610.
Este valor que se pode comparar aos desvios padres relativos equao de Spurr
(S = 0,0561), de Stoate (S = 0,0549) ou de Schumacher-Hall (S = 0,0582). E se conclui,
finalmente, que a equao logartmica perde para as outras, por lhe corresponder um ndice
de Furnival mais elevado.

4. A DISTRIBUIO DOS RESDUOS

um outro critrio importante de julgamento das equaes. Mas o que so resduos?
Suponha-se a equao de Spurr, por exemplo, para a qual se obtivem a expresso
Vc = 0,0540 + 0,2026 D2H
Onde Vc indica o valor de V calculado pela equao de regresso. Mas para cada uma das
50 rvores da amostra tem-se tambm o valor observado V0. Denomina-se resduo () a
diferena = V0 Vc. O valor absoluto mdio desses resduos j avaliado pelo Desvio
Padro S, para o qual se tem:
S2 = QMDesvios da Regresso = QMResduo.
Mas o computador pode calcular os desvios para todas as rvores da amostra e
indic-los num grfico em coordenadas cartesianas, com V no eixo das abscissas e os
resduos () no eixo das ordenadas, ou vice-versa, como mostra a Fig. 1.

FIG. 1 Grfico dos resduos em condies ideais.

Em condies ideais, os resduos, positivos e negativos, devem distribuir-se
aleatoriamente acima e abaixo do eixo das abscissas, quando nele que se representam os
valores V, ou esquerda e direita do eixo das ordenadas, no caso contrrio. o que
acontece, aproximadamente na Fig. 1.
J no caso da Fig. 2, vemos que os desvios positivos se acumulam em certas regies,
e os negativos em outras, o que mau.

FIG. 2 Grfico dos resduos, com os positivos acumulados em certas regies e os

negativos em outras, o que mau.
Tambm ruim o caso da Fig. 3, em que o valor absoluto dos desvios cresce com o
valor da varivel V.

FIG. 3 Grfico dos resduos, que crescem em valor absoluto com o valor de V
5. PARTICULARIDADES DO COEFICIENTE DE DETERMINAO
O coeficiente de determinao (R2) uma estatstica geralmente mal compreendida.
O assunto vasto, mas discutir-se- apenas os aspectos relativos determinao de
equaes volumtricas.
Suponha-se que a equao Real de Regresso seja dada por Y = R(D, H). Sendo Vi
o volume da rvore i, (i = 1, 2, ..., n), com Di e Hi o DAP e a altura correspondentes, o
modelo matemtico ser:
Vi = R(Di, Hi) + ei,
com eiN (0, 2), isto , com distribuio normal de mdia zero e varincia
modelo matemtico decorre a igualdade:
(1)

. Deste

SQTotal = SQRegr. Real + SQResduo.

Se a Regresso Real tiver r parmetros, haver uma estimativa imparcial de

correspondente a
S2 =

SQResduo
N-r

Como no se conhece a Equao Real de Regresso Y = R(D, H), admite-se uma

Equao de Regresso Adotada Z = A (Di, Hi) e pode-se escrever:
Vi = R(Di, Hi) + ei
= A(Di, Hi) + [R(Di, Hi) A(Di, Hi)] + ei
= A(Di, Hi) + Ui + ei,

onde Ui (i = 1, 2, ..., N) representa os Desvios de Regresso, isto , a diferena entre o valor

Yi = R(Di, Hi) da Equao de regresso Real e o valor Zi = A(Di, Hi) da Equao de
Regresso Adotada. Tem-se, pois,
(2)

SQTotal = SQRegr. Adotada + SQDesvios + SQResduo.

No caso de ser a Equao de Regresso Adotada Z = A (Di, Hi) igual Equao de

Regresso Real Y = R(D, H), os desvios Ui = R(Di, Hi) A(Di, Hi) sero nulos logo
SQDesvios = 0 e se volta igualdade (1).
J no caso geral de ser A(D, H) R(D, H), que o usual, tem-se SQDesvios > 0 e
SQTotal = SQRegr. Adotada + SQResduo Falso. Em tais condies, tem-se uma
estimativa inflacionada (SI)2 da varincia
SQRes.Falso
N-a
SQRDesvios + SQResduo
=
,
N-a

(SI) 2 =

onde a o nmero de parmetros da Equao de Regresso Adotada Z = A (D, H).

Discurtir-se- separadamente os dois casos.

1 Caso: A(D, H) = R(D, H)

vlida ento a igualdade (1):
(1)

SQTotal = SQRegr. Adotada + SQResduo,

= SQRegr. Real + SQResduo.
Tem-se, pois:
SQRegr. Adotada
SQTotal
SQTotal - SQResduo
=
SQTotal
SQResduo
=1SQTotal

R2 =
(3)

Como se deve ter sempre SQResduo > 0, conclui-se que, mesmo no caso ideal de
ser A(D, H) = R(D, H), tem-se R2 < 1.
Por outro lado, sabe-se que, a partir de (3):

SQRegr. Adotada
SQTotal
SQRegr. Adotada
=
SQRegr. Adotada + SQResduo ,

R2 =
(4)

onde SQRegr. Adotada = SQRegr. Real. Da se conclui que s se pode ter R2 = 0 se for
SQRegr. Real = 0, o que impossvel.
A concluso geral , ois, de que, mesmo no caso de ser a Equao de Regresso
Adotada igual Equao de Regresso Real, tem-se sempre: 0 < R2 < 1.
Por outro lado, de (4) obtm-se:
SQRegr. Adotada SQRegr. Real
=
SQTotal
SQTotal
SQTotal - SQResduo
=
SQTotal
SQResduo
=1SQTotal

R2 =

=1-

(N - r) S 2
SQTotal

Conclui-se da, que s se poder ter valores de R2 prximos de 1 (um) se for baixo o
valor de S2, isto , do QMResduo.

2 Caso: A(D, H)

R(D, H)

Nestas condies, tem-se SQDesvios > 0, e vlida a igualdade (2). Logo:

SQTotal = SQRegr. Adotada + SQDesvios + SQResduo, e tem-se ainda:
SQRegr. Adot.
SQTotal
SQTotal - SQDesvios - SQResduo
=
SQTotal
SQDesvios SQResduo
=1
SQTotal
SQTotal

R2 =

Da decorre que os valores baixos de R2 podem ter as seguintes explicaes:

A. desvios grande Ui = R(Di, Hi) A(Di, Hi), em valor absoluto;

B. valores altos de SQResduo Falso = (N a) SI2, onde a o nmero de parmetros
da Regresso Adotada, resultantes de heterogeneidade no povoamento; e

C. Valores baixos da SQRegr. Adotada, devidos, por exemplo, a intervalos de

variao pequenos para D e para H.
CONCLUSES GERAIS
I. Mesmo no caso de ser a Equao de Regresso Adotada igual Equao de
Regresso Real, isto , A(D, H) = R(D, H), e de se ter, pois, SQDesvios = 0, o valor de R2
pode ser baixo ou alto, dependendo do valor da SQResduo = (N r) S2.
100.

Exemplo 1: SQRegr. Adotada = SQRegr. Real = 100, SQDesvios = 0, SQResduo =

R 2 =1-

20.

SQResduo
100
=1= 0,50.
SQTotal
100 + 0 + 100

Exemplo 2: SQRegr. Adotada = SQRegr. Real = 100, SQDesvios = 0, SQResduo =

R 2 =1-

SQResduo
20
=1= 0,83.
SQTotal
100 + 0 + 20

II. Valores mais altos de R2 no garantem maior adequao da Equao Adotada.

Exemplo 3: SQRegr. Adotada = 100, SQDesvios = 50, SQResduo = 10.
SQDesvios + SQResduo
SQTotal
50 + 10
=1= 0,62.
100 + 50 + 10

R 2 =1-

Exemplo 4: SQRegr. Adotada = 100, SQDesvios = 10, SQResduo = 90.

R 2 =1-

SQDesvios + SQResduo
10 + 90
=1= 0,50.
SQTotal
200

Est claro que a Equao de Regresso Adotada se ajusta melhor Equao de

Regresso Real no Exemplo 4 do que no Exemplo 3. No entanto, o valor de R2 d idia
contrria, pois maior no exemplo 3 do que no exemplo 4.

6. O MTODO DOS QUADRADOS MNIMOS PONDERADOS

Os mtodos usuais de estimativa dos parmetros de um modelo de regresso
admitem que os erros de todas as observaes tenham uma mesma varincia. Na prtica,
porm, a varincia desses erros costuma variar com o tamanho das rvores (FURNIVAL,
1961), de tal sorte que para rvores grandes essa varincia maior. Para contornar essa
dificuldade, convm adotar o mtodo dos quadrados mnimos ponderados, tendo como

fator de ponderao a varivel W = D2H. Nestas condies a equao de Spurr V = a + b

D2H, por exemplo, dividida por D2H e fica:
U=

1
1
x V = a x 2 + b = a X + B,
2
D H
D H

Obtem-se pois a equao de regresso

(4) U = a X + b,
com U = f(V) =

1
1
x V, X = 2 .
2
D H
D H

Sendo S1 o desvio padro relativo equao (4), ele no ser comparvel ao S das
equaes usuais de Spurr, de Stoate e de Schumacher-Hall. Para fazer a comparao, faz-se
necessrio calcular o ndice de Furnival.
Sendo U = f(V) a varivel dependente, a expresso geral do ndice de Furnival :
I = [f(V)]-1 S1, onde f(V) a derivada de f(V) e os colchetes indicam mdia
geomtrica.
No caso da equao (4) tem-se
f'(V) =

1
D2H

e fica
I = [D2H] S1 .
No caso da equao de Stoate.
V = a + b D2H + c D2 + fH,
a diviso pelo fator de ponderao D2H d:
V
1
1
1
=a 2 +b+c +f 2
2
H
D H
D H
D
= b + a X 1 + c X 2 + fX 3 ,
com X1 = 1/D2H, X2 = 1/H, X3 = 1/D2.
Por sua vez a equao de Schumacher-Hall fica:
V
= A DmHm ,
2
D H

com m = b-2, n = c-1

Em ambos os casos, o ndice de Furnival tem a mesma expresso referente
equao de Spurr, isto :
I = [D2H] S1.

Equao de Spurr Exemplo

Considera-se a expresso
U = a X + b,
com U = V/D2H, X = 1/D2H o fator de ponderao para uso do mtodo dos quadrados
mnimos ponderados. O programa GLM do SAS aplicado aos dados da Tabela 2 d a
equao: (Listagem no 10).
(5)

U = 0,2412 + 0,20095 Z

isto :
V
1
= 0,2412 + 0,20095 2 ,
2
D H
D H
ou ainda:
V = 0,2012 + 0,2412 D2H
A anlise da varincia relativa equao (5) a seguinte:

C. de variao
Regresso
Resduo
Total

G.L.
1
38
39

S.Q.
0,009104
0,148766
0,157870

O desvio padro , pois, S1 = 0,003915 = 0,0626.

Q.M.
0,009104
0,003915

F
2,33

TABELA 2 Dados dendromtricos de 40 rvores de Eucalyptus saligna Smith de 10

anos de idade.
Arv.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40

D(m)
0,190
0,270
0,150
0,187
0,245
0,237
0,250
0,235
0,200
0,177
0,283
0,275
0,205
0,200
0,204
0,215
0,270
0,160
0,215
0,205
0,203
0,215
0,260
0,310
0,185
0,215
0,220
0,250
0,315
0,210
0,273
0,170
0,202
0,254
0,180
0,190
0,223
0,174
0,364
0,245

H(m)
14,0
17,0
11,0
16,0
14,0
18,0
14,0
14,0
12,0
13,0
16,0
18,0
15,0
12,0
12,0
15,0
14,0
12,0
14,0
16,0
14,0
14,0
18,0
16,0
12,0
16,0
14,0
16,0
18,0
18,0
18,0
16,0
17,0
19,0
14,0
14,0
14,0
12,0
18,0
16,0

Para a equao de Spurr sem ponderao obtm-se a expresso seguinte:

V = 0,0404 = 0,2123 D2H,

V(m3)
0,130
0,249
0,047
0,131
0,203
0,270
0,202
0,214
0,129
0,144
0,305
0,357
0,160
0,254
0,146
0,211
0,199
0,088
0,148
0,173
0,212
0,156
0,438
0,255
0,091
0,177
0,239
0,261
0,397
0,209
0,328
0,123
0,201
0,352
0,133
0,156
0,200
0,135
0,572
0,226

com S = 0,0453. Mas estes valores de S e S1 no so comparveis. Para que o sejam,

calcula-se o ndice de Furnival:
I = [D2H]S1 = 0,7303 x 0,0626 = 0,0457
Verifica-se que este valor I = 0,0457 combina bem com o de S = 0,0453.

7. REFERNCIAS BIBLIOGRFICAS
DRAPER, N.R. & SMITH, H. Applied regression analysis, 2. ed. New York, John Wiley,
1981.
FURNIVAL, G.M. An index for comparing equations used in constructing volume tables.
Forest science, Madison, 7(4): 337-41, 1961.
PIMENTEL-GOMES, F. Curso de estatstica experimental, 13. ed. So Paulo, Nobel,
1990.
THNI, H. Transformations of variables uses in the analysis of experimental and
observational data. Technical report. ISU. Statistical Laboratory, Ames (7), 1967.
VEIGA, R.A. de A. O uso de equaes de volume em levantamentos florestais. In:
SIMPSIO SOBRE INVENTRIO FLORESTAL, 2, Piracicaba, 1984. Anais.
Piracicaba, ESALQ/IPEF, 1984. p.93-102.

ANEXOS

LISTAGEM No 1: ANLISE PELO PROGRAMA REG DO SAS

Model: MODEL1
Dependent Variable: V
Analysis of Variance
Source
Model
Error
C Total

DF

Sun of
Squares

Mean
Square

1
48
49

0.39955
0.15126
0.55080
0.05614
0.21036
26.68527

Root MSE
Dep Mean
C.V.

F Value

Prob>F

0.39955
0,00315

126.794

0.0001

R-square
Adj R-sq

0.7254
0.7197

Parameter Estimates
Variable

DF

INTERCEP
D2H

1
1

Parameter
Estimate
0.054002
0.202614

Standard T for HO:

Error
Parameter = 0
0.01599490
0.01799370

3.376
11.260

Prob > :T:

0.0015
0.0001

LISTAGEM No 2: ANLISE PELO REGRESEQ DO SAEG

MODELO = V FUNO D2H
VARIAVEL
V
D2H

ESTATISTICA SIMPLES
MDIA
DESVIO-PADRO
.2104
.7718

.1060
.4456

MATRIZ DE CORRELAO
V
D2H
V
D2H

1.00000
.85175

.85175
1.00000

******VARIAVEL DEPENDENTE = V MODELO COMPLETO******

NOME
COSNTANTE
D2H

COEFICIENTE
.539700E-01
.202643E+00

DESVIO

BETA

.179922E-01 .112628E+02 .851752E+00

SOMA DE QUADRADOS DO MODELO

SOMA DE QUADRADOS DE D2H
COEF. DETERMINAO
COEF. DETERMINAO AJUSTADO

= .3995977
= .3995977
= .7254812
= .7197621

PROBAB.
.0000

LISTAGEM No 3: ANLISE PELO REG DO SAS

Model: MODEL3
Dependent Variable: V
Analysis of Variance
Source
Model
Error
C Total

DF

Sun of
Squares

Mean
Square

1
46
49

0.41212
0.13868
0.55080
0.05491
0.21036
26.10150

Root MSE
Dep Mean
C.V.

F Value

Prob>F

0.13737
0.00301

45.567

0.0001

R-square
Adj R-sq

0.7482
0.7318

Parameter Estimates
Variable

DF

INTERCEP
D2H
D2
H

1
1
1
1

Parameter
Estimate
0.206095
0.494497
-5.030471
-0.008542

Standard T for HO:

Error
Parameter = 0
0.08888062
0.14464562
2.46708080
0.00605595

2.319
3.419
-2.039
-1.410

Prob > :T:

0.0249
0.0013
0.0472
0.1651

LISTAGEM No 4: ANLISE PELO GLM DO SAS.

General Linear Models Procedure
Number of observations in data set = 50
General Linear Models Procedure
Dependent Variables: V
Source
Model
Error
Corrected Total

DF

Sum of
Squares

Mean
Square

3
46
49

0.41212313
0.13868039
0.55080352

0.13737438
0.00301479

R-Square

C.V.

Root MSE

V Mean

0.748222

26.10150

0.054907

0.21036000

F Value

Pr > F

45.57

0.0001

General Linear Models Procedure

Dependent Variable: V
Source
D2H
D2
H
Source
D2H
D2
H

DF

Type I SS

Mean Square

F Value

Pr > F

1
1
1

0.39954818
0.00657756
0.00599739

0.39954818
0.00657756
0.00599739

132.53
2.18
1.99

0.0001
0.1465
0.1651

DF

Type III SS

Mean Square

F Value

Pr > F

1
1
1

0.03523502
0.01253452
0.00599739

0.03523502
0.01253452
0.00599739

11.69
4.16
1.99

0.0013
0.0472
0.1651

General Linear Models Procedure

Dependent Variable: V
Parameter

Estunate

T for HO:
Parameter = 0

Pr > :T:

INTERCEPT
0.206094741
2.32
0.0249
D2H
0.494497341
3.42
0.0013
D2
-5.030471242
-2.04
0.0472
H
-0.008541514
-1.41
0.1651
LISTAGEM No 5: ANLISE PELO REGRESEQ DO SAEG

Std Error of
Estimate
0.08888062
0.14464562
2.46708080
0.00605595

REGRESEQ MODELO = V FUNO D2H H

ESTATISTICAS SIMPLES
VARIAVEL

MEDIA

DESVIO-PADRAO

V
D2H
D2
H

.2104
.7718
.0503
14.5060

.1060
.4456
.0227
2.7062

MATRIZ DE CORRELAES
V
1.00000
.85175
.81678
.65690

V
D2H
D2
H

D2H
.85175
1.00000
.98294
.77758

D2
.81678
.98294
1.00000
.69003

H
.65690
.77758
.69003
1.00000

******VARIVEL DEPENDENTE = V MODELO COMPLETO******

PARAMETROS DA REGRESSAO
NOME
CONSTANTE
D2H

COEFICIENTE

DESVIO

.539700E-01
.202643E+00

.179922E-01

SOMA DE QUADRADOS DO MODELO

SOMA DE QUADRADOS DE D2H
COEF. DETERMINACAO
COEF. DETERMINACAO AJUSTADO

BETA

PROBAB.

.112628E+02 .851752E+00

.0000

= .3995977
= .3995977
= .7254812
= .7197621

PARAMETROS DE REGRESSAO
NOME
CONSTANTE
D2H
D2

COEFICIENTE

DESVIO

BETA

PROBAB.

.869234E-01
.343893E+00
-.282022E+01

.966054E-01
.189593E+01

.355977E+01
-.148751E+01

.144546E+01
-.604011E+00

.0004
.0718

SOMA DE QUADRADOS DO MODELO

SOMA DE QUADRADOS DE D2H
COEF. DETERMINACAO
COEF. DETERMINACAO AJUSTADO
PARAMETROS DE REGRESSAO

= .4063960
= .6798267E-02
= .7378237
= .7266672

NOME
CONSTANTE
D2H
D2
H

COEFICIENTE

DESVIO

BETA

PROBAB.

.204968E+00
.495086E+00
-.503943E+01
-.848055E-02

.143580E+00
.244797E+01
.600862E-02

.344816E+01
-.205862E+01
-.141140E+01

.208095E+01
-.205862E+01
-.216462E+00

.006
.0226
.0824

SOMA DE QUADRADOS DO MODELO

SOMA DE QUADRADOS DE D2H
COEF. DETERMINACAO
COEF. DETERMINACAO AJUSTADO

= .4123902
= .5994201E-02
= .7487063
= .7323176

LISTAGEM No 6: ANLISE PELO REG DO SAS

Model: MODEL2
Dependent Variable: LV
Analysis of Variance
Source
Model
Error
C Total

DF

Sun of
Squares

Mean
Square

1
47
49

1.93956
0.97412
2.91368
0.14397
-0.73622
-19.55467

Root MSE
Dep Mean
C.V.

F Value

Prob>F

0.96968
0.02073

46.790

0.0001

R-square
Adj R-sq

0.6657
0.6514

Parameter Estimates
Variable

DF

INTERCEP
LD
LH

1
1
1

Parameter
Estimate
-0.578186
1.480841
0.723442

Standard T for HO:

Error
Parameter = 0
0.60774209
0.33436598
0.36172034

-0.951
4.429
2.000

Prob > :T:

0.3463
0.0001
0.0513

LISTAGEM No 7: ANLISE PELO NLIN DO SAS

Non-Linear Least Squares Interative Phase
Dependent Variable V Method: Gauss-Newton
Iter

Sum of Squares

0
1
2
3
4
5
6
7
8
9
10
11
12

0.300000
0.270997
0.247766
0.228959
0.213583
0.188214
0.171161
0.147494
0.126549
0.125988
0.125654
0.125606
0.125599

1.500000
1.494329
1.489424
1.485193
1.481550
1.475285
1.470769
1.464309
1.458769
1.459713
1.459765
1.459777
1.459778

0.700000
0.732251
0.761130
0.786926
0.809927
0.850893
0.882946
0.932809
0.988251
0.994264
0.995224
0.995369
0.995392

0.162170
0.161767
0.161477
0.161232
0.161007
0.160935
0.160668
0.160540
0.159760
0.159450
0.159450
0.159450
0.159450

NOTE: Convergence criteriom met.

Non-Linear Least Squares Summary Statistics Dependent Variable V
Source

DF

Sum of Squares

Mean Square

Regression
Residual
Uncorrected Total

3
47
50

2.6039197832
0.1594502168
2.7633700000

0.8679732611
0.0033925578

(Corrected Total)

49

0.5508035200

Parameter

Estimate

Asymptotic
Std. Error

A
B
C

0.125598613
1.459778266
0.995391729

0.15525249400
0.23763709107
0.36069347694

Asymptotic 95%
Confidence Interval
Lower
Upper
-.18672827444
0.4379254997
0.98171539583 1.9378411364
0.26977201136 1.7210114463

Asymptotic Correlation Matrix

Corr
A
B
C

A
1
0.7806546373
-0.978845088

B
0.7806546373
1
-0.63826231

C
-0.978845088
-0.638262231
1

LISTAGEM No 8: ANLISE PELO REGREGN DO SAEG 1a APROXIMAO

V FUNO A*D**B*H**C
AMPLITUDES (A = 0.1, 0.3, 0.264) (B = 1.3, 1.6, 1.48) (C = 0.5, 1.1, 0.723)
TOLERANCIA = .1000000E-02
ITERACOES PERMITIDAS

= 60

ITERACOES EXECUTADAS

= 22

NUMERO DE AVALIACOES

= 59

NUMERO DE OBSERVACOES

= 50

COEFICIENTE DE DETERMINACOA

= .7105137E+00

PARAMETROS

ESTIAMTIVAS
INICIAIS

LIMITES
INFERIORES

LIMITES
SUPERIORES

COEFICIENTES
DE RESTRICAO

COEFICIENTES
DA SOLUCAO

DESVIOS DOS
COEFICIENTES

A
B
C

.264000E+00
.148000E+01
.723000E+00

.100000E+00
.130000E+01
.500000E+00

.300000E+00
.160000E+01
.110000E+01

.200000E-04
.300000E-04
.600000E-04

.123492E+00
.145722E+01
.100019E+01

.152451E+00
.237291E+00
.360258E+00

LISTAGEM No 9: ANLISE PELO REGREGN DO SAEG 2a APROXIMAO

REGREGN

V FUNO A*D**B*H**C

AMPLITUDES (A = 0.1, 0.14, 0.12349) (B = 1.4, 5.1, 1.4572) (C = 0.9, 1.1, 1.000)
TOLERANCIA = .1000000E-02
ITERACOES PERMITIDAS

= 60

ITERACOES EXECUTADAS

=8

NUMERO DE AVALIACOES

= 18

NUMERO DE OBSERVACOES

= 50

COEFICIENTE DE DETERMINACOA

= .7105141E+00

PARAMETROS

ESTIAMTIVAS
INICIAIS

LIMITES
INFERIORES

LIMITES
SUPERIORES

COEFICIENTES
DE RESTRICAO

COEFICIENTES
DA SOLUCAO

DESVIOS DOS
COEFICIENTES

A
B
C

1.23490E+00
.145720E+01
.100000+01

.100000E+00
.140000E+01
.900000E+00

.140000E+00
.150000E+01
.110000E+01

.400000E-04
.100000E-04
.200000E-04

.125856E+00
.145978E+01
.994644E+00

.155722E+00
.238015E+00
.360689E+00

LISTAGEM No 10: ANLISE PELO GLM DO SAS.

General Linear Models Procedure
Number of observations in data set = 40
General Linear Models Procedure
Dependent Variables: U
Source
Model
Error
Corrected Total

DF

Sum of
Squares

Mean
Square

1
38
39

0.00910449
0.14876571
0.15787019

0.00910449
0.00391489

R-Square

C.V.

Root MSE

U Mean

0.057671

22.98904

0.062569

0.27216907

F Value

Pr > F

2.33

0.1355

General Linear Models Procedure

Dependent Variable: U
Source
Z
Source
Z

Parameter
INTERCEPT
Z

DF

Type I SS

Mean Square

F Value

Pr > F

0.00910449

0.00910449

2.33

0.1355

DF

Type III SS

Mean Square

F Value

Pr > F

0.00910449

0.00910449

2.33

0.1355

Estunate

T for HO:
Parameter = 0

Pr > :T:

Std Error of
Estimate

0.2412355704
0.201206036

10.69
1.52

0.0001
0.1355

0.2256827
0.01319398