Elaboração e Validação de Planilha de Cálculo de Fatores

de Correção de Pressão e Temperatura para

Hidrocarbonetos Líquidos Usando o Ms Excel
Edson Carretoni Júnior1
1
Refinaria de Paulínia, Manutenção Industrial, Elétrica e Instrumentação
(UN-REPLAN/MI/EI) – Chave RSHJ

Resumo. Este trabalho aborda a validação de uma planilha de cálculo para

verificação de fatores de correção usados na transferência de custódia de
derivados líquidos de petróleo. São descritos os requisitos aplicáveis do
sistema de gestão da qualidade e os requisitos para elaboração da planilha
conforme algoritmo de cálculo da norma API MPMS 11.1 – Seção1.

Palavras-chave: Fatores de correção; validação de métodos; validação de

planilhas; comprovação metrológica.
1. Introdução
Os sistemas de medição de volumes na transferência de custódia de derivados líquidos
de petróleo usam fatores de correção de temperatura e pressão para determinar os
volumes equivalentes nas condições de referência. Geralmente empregados em
computadores de vazão, os algoritmos de cálculo que determinam esses fatores são
elaborados a partir de normas como a API 11.1 [1] ou outras aplicáveis. Este artigo
descreve a elaboração e a validação de uma planilha de cálculo usando o MS Excel para
verificação da determinação desses fatores de correção, com a finalidade de verificar a
adequação da configuração de um computador de vazão. O propósito dessa verificação
é atender os requisitos de comprovação metrológica dentro do contexto de um sistema
de gestão da qualidade, sem a intenção de usar a planilha de cálculo para validar o
algoritmo empregado no computador de vazão.

2. A validação no contexto do sistema de gestão da qualidade

O sistema de gestão da qualidade em uso na Petrobras emprega as diretrizes da NBR
ISO 9001 [2]. Essa norma estabelece os requisitos mínimos para a gestão da qualidade e
propõe que o sistema da qualidade seja tratado como um processo com entradas e
saídas, cuja finalidade primária é a satisfação do cliente. Uma característica da NBR
ISO 9001 é que existem outras normas que detalham como os requisitos podem ser
atendidos. Dessa forma, há normas específicas sobre os fundamentos da qualidade e os
termos relacionados com a qualidade [3], normas para a auditoria [4] e para a melhoria
da qualidade [5].
Um dos requisitos para o sistema de gestão da qualidade é com relação à confiabilidade
dos sistemas de medição. Novamente, esses requisitos são detalhados por outra norma,
a NBR ISO 10012 [6], que por sua vez se refere a outros três documentos importantes
para a garantia da confiabilidade metrológica: a resolução que adota o Sistema
Internacional de Unidades [7], o vocabulário internacional de metrologia (VIM) [8] e o
guia para expressão da incerteza de medição (ISO GUM) [9]. Tanto a NBR ISO 9001
quanto a NBR ISO 10012 estabelecem que uma planilha de cálculo usada na
comprovação de um sistema de medição deve ser validada antes de ser colocada em
uso. Além disso, essa planilha deve atender a outros requisitos específicos, que podem
ter origem em outras normas e regulamentos. Na planilha de cálculo descrita nesse
artigo devem ser atendidos os requisitos de comprovação metrológica na medição de
derivados líquidos de petróleo [10] e os requisitos da norma API 11.1 [1] [11].
A validação nada mais é que a comprovação, através do fornecimento de evidência
objetiva, de que os requisitos para uma aplicação ou uso específicos pretendidos foram
atingidos [3]. Dessa forma, uma planilha de cálculo qualquer pode ser validada a partir
de um modelo que leve em conta os requisitos de uso da planilha e os requisitos do
sistema de gestão da qualidade. Um bom exemplo é o modelo adaptado da metodologia
descrita na NBR ISO 17025 para validação de métodos [12], que será usado nesse
artigo. A forma como as normas citadas se relacionam é mostrada na figura 1.
 Figura 1

3. A estratégia de validação da planilha com o algoritmo da API 11.1

A estratégia de validação é o conjunto das etapas que irão compor um processo cujo
resultado é a comprovação do atendimento dos requisitos de uso. Essa estratégia passa
necessariamente pela especificação dos requisitos a serem atendidos, a determinação
das características do método de avaliação, a verificação de que os requisitos podem ser
atendidos e uma declaração sobre a validade. A lista a seguir detalha como a estratégia
de validação foi montada para a validação da planilha tratada neste artigo:
1. Definição do escopo da planilha:
A planilha será elaborada no software MS Excel e deverá calcular os fatores de
correção de temperatura no líquido (CTL), correção da pressão no líquido (CPL),
fator de correção combinado (CTPL) e densidade nas condições de campo, a partir
da densidade nas condições de base (20 °C e 101,325 kPa abs), da temperatura
de referência (20 °C), da temperatura no campo e da pressão no campo;
2. Definição do escopo da validação:
A validação será feita por comparação entre os resultados calculados pela
planilha eletrônica e os resultados dos mesmos cálculos obtidos por outros
meios, e deve abranger a faixa de temperatura de 0 a 110 °C, a faixa de pressão
de 0 a 20 kgf/cm2 e a faixa de variação de densidade a 20 °C de 610,6 a 1163,5
kg/m3. Essas faixas foram escolhidas de acordo com as condições usuais de
bombeamento de produtos nas quais opera o computador de vazão que se deseja
verificar, no caso as condições da EMED na UN-REPLAN;
3. Definição dos requisitos a serem atendidos pela planilha eletrônica:
Basicamente os requisitos a serem atendidos seguem os requisitos descritos na
API MPMS 11.1. Na revisão de 1980 dessa norma, revalidada em 2004, o que
foi padronizado foi o algoritmo de cálculo dos fatores, e não as tabelas contendo
os valores dos fatores de correção. Dessa forma, além de descrever o algoritmo
de cálculo, a norma também estabeleceu requisitos para o hardware. Os
seguintes requisitos devem ser atendidos:
a. O hardware deve ser capaz de realizar cálculos usando números de
ponto flutuante de 64 bits (precisão dupla);
b. O software deve ser capaz de reconhecer números da ordem de 10 -16 ou
menores, e deve usar pelo menos 16 dígitos nos cálculos;
c. Os resultados intermediários não devem ser arredondados;
d. O arredondamento deve ser feito nos resultados finais (CTL, CPL e CTPL) e
deve seguir as regras de arredondamento da NBR 5891 [13];
e. Todos os valores intermediários e finais calculados pela planilha
eletrônica devem ser iguais aos valores calculados manualmente em pelo
menos oito casas decimais;
f. O software de cálculo deve ser capaz de realizar as iterações descritas na
norma API MPMS 11.1;
g. A planilha de cálculo deve permitir a verificação de cada passo no
procedimento de cálculo descrito na norma;
h. Pelo menos cinco conjuntos de resultados devem ser aprovados para
considerar a planilha validada;
i. A planilha deve ser protegida contra alterações indevidas no algoritmo
de cálculo.
4. Definição dos requisitos a serem atendidos pelo sistema de validação:
Na validação de qualquer outra planilha eletrônica os cálculos devem ser feitos
manualmente, empregando calculadora ou um dispositivo de calcular que atenda
aos mesmos requisitos de hardware e software descritos no item anterior. Além
disso, para maior segurança, sugere-se que os cálculos para validação devem ser
verificados por mais uma pessoa. No entanto, a API MPMS 11.1 apresenta
vários exemplos numéricos onde os resultados são indicados com 12 casas
decimais. Dessa forma, na validação serão usados os exemplos numéricos da
 norma, não sendo necessário nem a execução de cálculos manuais e nem a dupla
verificação dos cálculos.
5. Definição dos critérios de avaliação:
Todos os requisitos estabelecidos devem ser atendidos pela planilha eletrônica,
considerando-se as faixas estabelecidas para os dados de entrada.
6. Execução da validação e análise dos resultados:
Os resultados comparados devem ser documentados e devem atender aos
critérios de avaliação.
7. Declaração da validade:
O resultado da validação deve ser declarado, decidindo pela validade ou não-
validade da planilha de cálculo. Conforme a necessidade, recomendações
adicionais ou limitações no uso da planilha também deverão ser declaradas.

4. A elaboração da planilha usando o MS Excel

O MS Excel foi escolhido por ser um software acessível e largamente utilizado, além de
atender aos requisitos já mencionados. Além disso, essa planilha eletrônica apresenta
flexibilidade suficiente para atender às manipulações lógicas e matemáticas exigidas
pelo algoritmo de cálculo da API MPMS 11.1.

4.1 O algoritmo de cálculo

A norma descreve três tipos de cálculos usados no algoritmo:
Tipo 1: o cálculo tipo 1 obtém a densidade numa dada condição de pressão e
temperatura, partindo do valor conhecido da densidade a 60 °F e 0 psig;
Tipo 2: o cálculo tipo 2 obtém a densidade a 60 °F e 0 psig, partindo do valor da
densidade observada numa dada condição de temperatura e pressão (densidade nas
condições do campo);
Tipo 3: o cálculo tipo 3 obtém os fatores de correção para uma dada condição de
temperatura e pressão, a partir de uma condição qualquer de temperatura e pressão
diferente da condição inicial.
Devido a inconsistências nos cálculos usando unidades do sistema métrico, o algoritmo
da norma combina os três tipos de cálculos para partir de uma densidade expressa a 20
°C e 0 kPa e encontrar os fatores de correção para as condições de temperatura e
pressão no campo. Primeiramente usa-se o cálculo tipo 2, onde a densidade a 20°C e 0
kPa serve como dado de entrada para se obter a densidade a 60 °F e 0 psig. A
temperatura deve ser convertida para °F na escala IPTS 68. O cálculo tipo 2 é um
processo de iteração usando o cálculo tipo 1, partindo de um valor de densidade
inicialmente igual à densidade a 20 °C e usando o método de iteração de Newton até
que o valor estimado da densidade a 60 °F produza o valor da densidade a 20 °C. A
convergência do valor de densidade deve acontecer com no máximo 15 iterações. Com
o valor da densidade a 60 °F e a temperatura e a pressão observadas no campo, usa-se o
cálculo tipo 1 para se obter os fatores de correção CPL e CTL. Por fim usa-se o cálculo
tipo 3, que é uma combinação dos cálculos tipos 1 e 2, onde o valor de C TL é a razão
entre os fatores de correção da temperatura obtidos anteriormente nos cálculos tipos 1 e
2, e o valor de CPL é o mesmo que foi obtido no cálculo tipo 1. O valor de C TPL é o
produto dos valores de CTL e CPL.
Cabe ressaltar que os valores de densidade de entrada devem ser corrigidos para os
efeitos de dilatação do vidro, no caso da densidade ser determinada com densímetros de
vidro. Para maiores detalhes na elaboração do algoritmo, consultar a norma de
referência [1]. A figura 2 ilustra o processo básico de execução do algoritmo; a figura 3
mostra a página de dados da planilha elaborada; a figura 4 mostra a planilha de cálculo
tipo 1 e a figura 5 mostra o esquema de planilha de cálculo tipo 2, com destaque para as
colunas onde as iterações são executadas.
Figura 2
Figura 3

Figura 4
 Figura 5

5 Resultados obtidos
A execução dos procedimentos de validação seguiu as especificações e os requisitos
citados anteriormente. Os exemplos descritos na norma cobriram a faixa do escopo de
validação proposta. Todos os requisitos de hardware e software foram satisfeitos pelas
especificações do MS Excel, obtidas no menu de ajuda do próprio programa. Tanto os
valores intermediários quanto os calores finais dos cálculos da planilha eletrônica foram
iguais aos valores dos exemplos numéricos da norma até a décima segunda casa
decimal. Todos os requisitos propostos foram atendidos.
Todo o processo de validação foi documentado e a planilha foi declarada como válida
para o uso pretendido.
5.1 O uso da planilha validada em relação às tabelas de correção de 1952
Em 1952 a American Society for Testing and Materials (ASTM) americana e o The
Institute of Petroleum (IP) inglês publicaram as tabelas de correção de volumes de
petróleo e derivados, que ficaram conhecidas como “The Petroleum Measurement
Tables” ou simplesmente “The Blue Book Tables”. Nessas tabelas a norma eram os
fatores de correção e não o algoritmo de cálculo do fator de correção. Com a utilização
de dispositivos microprocessados na correção de volumes diferentes abordagens foram
propostas para se obter os valores dos fatores de correção. Por volta de 1972 estudos
mostraram que essas tabelas não eram satisfatoriamente aplicáveis a diversos tipos de
petróleo de interesse econômico, o que motivou um esforço conjunto para a revisão da
norma de fatores de correção. O resultado foi a atual norma API MPMS 11.1 – Seção 1,
utilizada na elaboração da planilha de cálculo de que trata o presente artigo.
Posteriormente, essa norma foi revista para atender o desenvolvimento do hardware dos
dispositivos de cálculo e a melhoria na capacidade de medição dos instrumentos de
campo, além da melhoria na realização das unidades de medida. Pode-se citar alguns
exemplos, como o caso da adoção da escala internacional de temperatura ITS-90 e o
uso cada vez mais disseminado de densímetros em linha, substituindo os antigos
densímetros de vidro.
O fato importante é que os resultados das tabelas de correção de 1952 retornam valores
de fatores de correção ligeiramente diferentes daqueles obtidos com o novo algoritmo
de cálculo. A diferença entre os valores de correção fornecidos pelas duas normas
aumenta conforme aumenta a temperatura no campo, podendo chegar a 0,5% em
relação ao valor fornecido pela norma mais recente [1].
Em alguns casos, devido à resolução do antigo Conselho Nacional do Petróleo, ainda se
usa a tabela de correção de fatores a 20 °C, que corresponde à tabela 54 das tabelas
publicadas em 1952, apenas mudando-se a referência de temperatura de 15 °C para 20
°C nos computadores de vazão. Com isso, a verificação da configuração do computador
de vazão com base nos fatores de correção pode tomar duas abordagens: utilizar a
planilha validada para comparar os valores dos fatores de correção, esperando um
desvio máximo de ±1% entre os valores, ou configurar, no computador de vazão, uma
receita de produto usando o algoritmo de cálculo mais recente (tabelas 54A, 54B, 54C,
54D, 60A, 60B, 60C ou 60D [1]) e que seja executada paralelamente a outra receita de
produto, de forma a se obter os valores dos fatores de correção que possam ser
comparados com aqueles gerados pela planilha – nesse caso espera-se que os valores
sejam iguais até a quarta casa decimal.

6 Conclusão
O processo de validação seguiu os requisitos estipulados nas normas do sistema de
gestão da qualidade, de forma que a validação pudesse ser usada como evidência
objetiva de parte de um sistema de comprovação metrológica. Para esse fim é muito
importante a documentação de todo o processo, conforme a metodologia proposta neste
trabalho.
Verificou-se que o software proposto para elaboração da planilha de cálculo atendeu aos
requisitos para a destinação que foi objeto da validação, permitindo que seu uso seja
extrapolado para outros tipos de planilhas de cálculo que sejam necessárias dentro de
um sistema de gestão da medição, desde que devidamente validadas.
Os resultados obtidos no processo de validação levaram à decisão pela validação e
conseqüente uso da planilha de cálculo aqui apresentada.

Referências Bibliográficas
[1] AMERICAN PETROLEUM INSTITUTE, Manual of Petroleum Measurement
Standards Chapter 11 – Physical Properties Data, Section 1 – Temperature and
Pressure Volume Correction Factors for Generalized Crude Oils, Refining
Products and Lubricating Oils. Washington, API, 2004;
[2] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, NBR ISO 9001 –
Sistemas de gestão da qualidade – Requisitos, Versão 2000. Rio de Janeiro,
ABNT, 2002;
[3] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, NBR ISO 9000 –
Sistemas de gestão da qualidade – Fundamentos e vocabulário, Versão 2000, 2a
Ed. Rio de Janeiro, ABNT, 2006;
[4] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, NBR ISO 19011 –
Diretrizes para auditorias de sistema de gestão da qualidade e/ou ambiental.
Rio de Janeiro, ABNT, 2002;
[5] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, NBR ISO 9004 –
Sistemas de gestão da qualidade – Diretrizes para melhorias de desempenho,
Versão 2000. Rio de Janeiro, ABNT, 2002;
[6] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, NBR ISO 10012 –
Sistemas de gestão de medição – Requisitos para os processos de medição e
equipamento de medição, 1ª Ed. Rio de Janeiro, ABNT, 2004;
[7] CONSELHO NACIONAL DE METROLOGIA, NORMALIZAÇÃO E
QUALIDADE INDUSTRIAL, Resolução n° 12, de 12 de outubro de 1988.
CONMETRO, 1988;
[8] INSTITUTO NACIONAL DE METROLOGIA, NORMALIZAÇÃO E
QUALIDADE INDUSTRIAL, Portaria n° 29, de 10 de março de 1995.
INMETRO, 1995;
[9] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, INSTITUTO
NACIONAL DE METROLOGIA, NORMALIZAÇÃO E QUALIDADE
INDUSTRIAL, Guia para a expressão da incerteza de medição, 3a Ed. Rio de
Janeiro, ABNT / INMETRO, 2003;
[10] INSTITUTO NACIONAL DE METROLOGIA, NORMALIZAÇÃO E
QUALIDADE INDUSTRIAL, Portaria n° 64, de 11 de abril de 2003.
INMETRO, 2003;
[11] ORGANIZAÇÃO INTERNACIONAL DE METROLOGIAL LEGAL, OIML R63
– Petroleum measurement tables. Paris, OIML, 1994;
[12] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, NBR ISO 17025 –
Requisitos gerais para a competência de laboratórios de ensaio e calibração, 2ª
Ed., versão corrigida. Rio de Janeiro, ABNT, 2006;
[13] ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS, NBR 5891 – Regras
de arredondamento na numeração decimal - Procedimento. Rio de Janeiro,
ABNT, 1977;