Escolar Documentos
Profissional Documentos
Cultura Documentos
Os reatores nucleares têm uma dinâmica muito complexa, e Chernobyl não era
uma exceção. Como resultado dessa complexidade, Toptunov - o engenheiro
sênior da sua equipe de controle do reator nuclear - teve dificuldade para reduzir
o nível de energia para 25% e acabou reduzindo-a a 7%. Mas o design do reator
soviético RBMK- 1000 é muito instável em potência baixa, o que torna muito
difícil para os operadores manterem o controle sobre a usina. Isto, combinado
com o fato de que um dos principais sistemas de segurança estava desligado,
tornava a situação extremamente perigosa, mas Toptunov e seus colegas nada
perceberam porque não estavam acostumados a operar o reator em nível de
potência tão baixa e também não compreendiam plenamente os complexos
princípios que governavam o comportamento do reator. Para piorar as coisas, os
milhares de indicadores dos painéis que ocupavam a parede inteira diante de
Toptunov apresentavam uma atordoante variedade de dados, mas com
informação insuficiente, e, desta forma, a gravidade da situação não era óbvia.
Além disso, fora dito ao jovem Toptunov que técnicos especialistas haviam
calculado a possibilidade de um acidente grave em uma em dez milhões -
praticamente impossível de ocorrer. Portanto, ele e seus colegas prosseguiram
com o teste.
Para isso, eles improvisaram - com a usina em um estado fora do comum e cada
vez mais perigoso -, despojando finalmente o reator dos últimos sistemas de
segurança. Por volta de 1:22h daquela madrugada fatídica, o reator nuclear
estava quase fora de controle. Contudo, a temperatura na sala de controle não
subiu de modo alarmante, nenhuma vibração crescente foi percebida nem
qualquer ruído mais forte - nada comparável ao que não tardaria a acontecer. A
única coisa que mudou foi o conjunto de indicações nos mostradores embutidos
nos atordoantes painéis. Apenas dois minutos se passaram quando, à 1:24h,
Toptunov finalmente percebeu que os dados à sua frente significavam que uma
coisa terrível estava prestes a acontecer: num derradeiro esforço para impedir o
desastre, ele tentou desligar o reator. Mas seu esforço bem- intencionado veio
tarde demais; a essa altura, o destino de Chernobyl estava selado. Uma reação
nuclear crítica - o tipo que pode ser provocado numa bomba atômica, mas que
não se espera que aconteça em uma usina nuclear - era inevitável. E imediata.
A primeira explosão violenta liberou um pico de energia cem vezes maior que
tudo o que o reator poderia produzir sob condições normais de operação. Ela
levantou a placa de cem toneladas de aço e concreto que cobria o reator, expondo
as 1.680 varetas de combustível nuclear do coração do reator e despejando
radioatividade mortal na atmosfera. A força da explosão foi tão poderosa que o
reator mandou partículas radioativas a um quilômetro de altura. Uma segunda e
furiosa explosão fez com que a grafite do núcleo do reator se incendiasse. O fogo
continuou a arder durante nove dias, soltando uma corrente constante e invisível
de partículas radioativas para o meio ambiente. O reator ficou totalmente
destruído.
2
não deram atenção suficiente ao fator humano - os operadores haviam sido
treinados, mas a complexidade do reator e dos painéis de controle estava além do
que eles podiam ver naquele momento.' Toptunov só compreendeu exatamente
os efeitos que suas ações teriam quando já era tarde demais - com devastadoras
conseqüências. Quando o centro de grafite do reator explodiu em chamas, o
impacto devastador que uma usina de energia nuclear pode ter sobre a
humanidade ou o meio ambiente tomou forma concreta.'
Um dos horrores provocados por uma catástrofe nuclear é seu impacto, que se
estende a uma longa distância em termos de espaço e tempo. O número de casos
de câncer de tiróide entre as crianças na área de Chernobyl aumentou, com 1.800
diagnósticos confirmados entre 1990 e 1998. Mais difícil de medir, mas
igualmente real, é o impacto psicológico causado por um desastre assim: um dos
mais significativos efeitos do acidente de Chernobyl sobre a saúde das pessoas foi
a angústia mental e o trauma experimentado pela população local. Os habitantes
continuam aterrorizados com os efeitos desconhecidos da radiação; eles não
confiam no governo nem nos cientistas, e seu modo de viver foi gravemente
prejudicado. Esses efeitos danosos para a saúde persistirão por gerações.
Voltemos por um momento ao ano de 1936. Nos últimos dias dos filmes mudos
em preto e branco, Charlie Chaplin criou uma sátira magistral à industrialização,
3
Tempos Modernos, que atraiu a atenção para os custos humanos e sociais da
tecnologia. Em uma seqüência memorável, Chaplin aparece trabalhando numa
linha de montagem. Sua função é realizar alguns movimentos repetitivos; ele usa
duas chaves inglesas, uma em cada mão, para apertar dois parafusos em cada um
dos componentes que deslizam por uma esteira. A velocidade da esteira aumenta;
Chaplin tenta desesperadamente acompanhá-la, mas finalmente é levado pela
esteira e cai em uma rampa. Na cena seguinte, vemos várias rodas mecânicas
gigantescas com engrenagens entrelaçadas, que torcem o Pequeno Vagabundo
num trajeto em forma de S, primeiro para frente, depois para trás, e novamente
para frente. Ele foi forçado a se adaptar à tecnologia literalmente: tornou-se um
verdadeiro dente na engrenagem.
Chaplin, entretanto, teve que se adaptar apenas a uma engrenagem mecânica que
se movia em velocidade terrestre. Nós, que habitamos os tempos modernos do
século XXI, temos que nos adaptar à tecnologia digital que se move à velocidade
da luz. Mais e mais tecnologia está sendo impingida sobre nós a passos cada vez
mais rápidos. Caminhamos com guias eletrônicos - pagers, telefones celulares,
assistentes pessoais digitais e computadores de bolso - que nos ligam ao nosso
trabalho. Em casa, temos os últimos produtos de consumo eletrônico - cada um
com seu controle remoto e um volumoso manual de instruções. Todas essas
engenhocas destinam-se, supostamente, a tornar a vida mais fácil, mas
freqüentemente a fazem ficar mais complicada. E antes de aprendermos a usar a
mais recente "conveniência" tecnológica, surge outra mais nova no mercado, com
recursos mais "avançados" Não importa quantos manuais consigamos ler,
simplesmente não conseguimos dar conta disso.
4
Eis um exemplo rotineiro. Há alguns anos, a Mercedes-Benz passou a oferecer
em seu modelo E320 um dispositivo que permite ao motorista verificar o óleo
eletronicamente, sem sair do seu próprio assento.' Parece um uso engenhoso da
tecnologia. Você não tem que deixar o conforto do ar condicionado do seu carro.
Muito inteligente. Não tem mais que abrir o capô, procurar um pano para limpar
a vareta do óleo, ou descobrir qual das várias coisas que parecem ser uma vareta
sob o capô é de fato a vareta. E não tem que cumprir o tedioso e sujo processo
manual de levantar a vareta, limpá-la, reinseri-la, fazer uma avaliação e reinseri-
la novamente - enfim, exatamente o tipo de inovação que você esperaria da
famosa engenharia alemã.
Esse dispositivo de verificação de óleo não poderia ter sido projetado há algumas
décadas sem que o transistor fosse inventado. Naquela época, nosso
conhecimento de eletrônica e as opções tecnológicas à nossa disposição eram
muito pobres para permitir que se pensasse em uma peça potencialmente tão
útil. Digo "potencialmente" porque ainda não descrevi o que você de fato tem que
fazer para checar o óleo sem sair da poltrona do carro. São apenas cinco passos.
Passo número 1: desligue o carro. Passo número 2: espere o óleo se estabilizar.
Muito justo. Não tem sentido checar o óleo com a máquina ligada. Você tem que
esperar as coisas se acalmarem para fazer uma leitura correta do nível do óleo.
Passo número 3: vire a ignição duas vezes para a direita. Hummm. Isso parece
menos óbvio. É fácil de fazer, mas não há uma relação intuitiva entre a ação e o
efeito da ação. Passo número 4: espere cinco segundos. O quê? Esperar cinco
segundos? Você já esperou o óleo se estabilizar. Por que tem que esperar mais
cinco segundos? Mas você ainda não terminou. Há mais um passo ainda. Passo
número 5: em um segundo, pressione o botão "reset" duas vezes. Esse passo não
faz qualquer sentido, parece totalmente arbitrário. O que o botão “reset” tem a
ver com a checagem do óleo? Pelo que posso dizer, não há uma resposta lógica
para essa pergunta - e eu tenho um doutorado em engenharia mecânica. O
motorista mediano ficará perplexo, ainda que os componentes eletrônicos
tenham sido cuidadosamente planejados, de acordo com a mais sofisticada
compreensão das leis da eletricidade. No final, a maioria das pessoas vai preferir
sair do carro e checar o óleo pelo método antigo, porque não conseguirá
memorizar os passos e não quer se aborrecer mais repetindo a leitura de
instruções tão contra -intuitivas. E ficamos nisso, com a famosa engenharia
alemã.
5
mensagens telefônicas automáticas, ou quando tentamos adivinhar qual dos
botões corresponde ao conjunto de luzes que queremos desligar.
Infelizmente, esse padrão - tecnologia bem modelada para o mundo físico mas
excessivamente complexa para ser manejada por seres humanos - não se
restringe a engenhocas da vida cotidiana, como dispositivos eletrônicos para
verificar o óleo do carro; ele também é encontrado em setores tecnológicos
maiores, de segurança crítica. E então, as falhas de funcionalidade podem ser
letais.
Não importa para onde olhemos, seja para situações rotineiras ou para sistemas
complexos, vemos tecnologias; que ultrapassam a nossa capacidade de controle.
6
Nos casos mais banais, como o dispositivo para checagem eletrônica do óleo do
carro, os resultados que experimentamos diariamente são bastante negativos -
ineficiência, frustração, alienação e fracasso em realizar nosso potencial humano
e tecnológico. Mas quando nos voltamos para setores de segurança crítica -
energia nuclear, saúde, aviação, segurança nos aeroportos e meio ambiente -, as
conseqüências da loucura tecnológica são muito mais preocupantes. Falhas
nesses sistemas complexos podem levar a dispendiosos acidentes industriais,
como desastres com aviões, cujo prejuízo chega a milhões ou bilhões de dólares,
sem mencionar o custo inestimável em vidas humanas. Sistemas tecnológicos
complexos fora de controle podem também levar a litígios dispendiosos, porque
indivíduos e organizações freqüentemente são processados quando as coisas não
dão certo. Em alguns casos, erros nesses sistemas podem acarretar desastres
ecológicos que ameaçam o meio ambiente, tais como a contaminação causada
não só por Chernobyl, mas também pelo enorme vazamento de óleo do Exxon
Valdez na costa do Alasca. Esses custos são uma carga enorme para a sociedade.
E em nosso mundo conectado, sistemas complexos mal desenhados põem em
risco todas as nações, não apenas os países desenvolvidos. Ainda que uma grande
proporção da população mundial nunca tenha visto um videocassete ou qualquer
outro dispositivo eletrônico semelhante, não pode escapar aos efeitos da
tecnologia, como Chernobyl deixou bem claro. O mundo industrial está
exportando cada vez mais suas tecnologias para países não-industrializados, às
vezes sem pensar muito no impacto que essas tecnologias terão sobre outras
culturas - testemunha disso foi o desastre na usina química de Bhopal, na Índia.
E, por ironia, medidas para neutralizar o temor crescente do terrorismo global
simplesmente aumentam a confusão. Se mais de 98 mil americanos morrem
anualmente por erro médico evitável quando os Estados Unidos não estão sendo
sitiados por ameaças terroristas, imagine o potencial de ameaças não previstas à
segurança criadas pelo pesadelo logístico de ter de inocular rapidamente uma
nação inteira de 300 milhões de pessoas contra o sarampo - a mais explosiva
arma biológica na face da terra.
7
PORQUE A TECNOLOGIA ESTÁ TÃO FORA DE CONTROLE?
Duas culturas antiquadas para os tempos modernos: as visões de
mundo mecanicista e humanística
Por que a tecnologia está girando como um pião fora de controle? Há uma
explicação que podemos dispensar de imediato. Os designers não constroem
deliberadamente sistemas tecnológicos incontroláveis. Nunca falei com os
inventores do dispositivo eletrônico de checagem de óleo que mencionei antes,
mas estou certo de que eles tinham a melhor das intenções. Eles não ficam ali
sentados, sorrindo maliciosamente e comentando entre si: "Otimo, os motoristas
já podem checar o óleo, sentados dentro do carro. Agora vamos planejar uma
série de procedimentos realmente difíceis de lembrar. E vamos fazer com que o
último passo seja pressionar o botão “reset” duas vezes em um segundo - com
isso eles vão ficar malucos!"
Não, as coisas não são tão simples. Os verdadeiros motivos para nosso
sofrimento com a tecnologia vêm de muito antes. Na verdade, para compreender
realmente o que está acontecendo, temos que examinar alguns dos princípios que
fundamentam a nossa abordagem do mundo em que vivemos - a organização do
conheci~ mento humano. Ao longo dos últimos séculos, temos adotado uma
abordagem reducionista para a solução de problemas: dividindo-os em partes
menores e então estudando essas partes relativamente isoladas. No século XVIII,
o matemático francês Simon de Laplace levou essa filosofia até o extremo,
acreditando que, se pudéssemos fracionar o universo inteiro em suas partículas
elementares e explicar o movimento de cada uma dessas partículas individuais,
seríamos capazes de entender, digamos, tudo. Esta idéia pode parecer um pouco
maluca hoje (será que os quarks podem explicar por que as pessoas se
apaixonam?), mas naquela época a concepção de Laplace era incrivelmente
poderosa e acabou tendo um impacto enorme sobre a história das idéias.
Essa abordagem geral também deu origem a outro hábito intelectual, um hábito
que se relaciona mais diretamente às preocupações deste livro: tendemos dividir
o que sabemos em categorias (ou “silos”), definidos por fronteiras disciplinares
rígidas, como física, biologia, química, psicologia, religião e arte. Essas categorias
tradicionais de conhecimento nos permitem lidar com questões que, de outro
modo, seriam inabordáveis. Em vez de tentar compreender o mundo como um
todo, com cada um de seus espantosos detalhes, desenvolvemos uma abordagem
como "divida e reine" - você estuda os elétrons enquanto eu estudo os neurônios,
e, depois de estudarmos bastante, juntamos as nossas peças do quebra-cabeça
para termos o quadro completo. Pelo menos, esta é a nossa esperança. E é um
modo de pensar que tem se mostrado extremamente eficaz. No século XVII, o
filósofo francês Renê Descartes estabeleceu a diferença entre a mente e o corpo,
que ainda molda a maneira de muitas pessoas encararem as suas disciplinas. Elas
dão muita atenção aos seus próprios propósitos e decidem que tudo que estiver
fora deles pode ser tranqüilamente ignorado. Essa abordagem foi útil durante
muito tempo: ela propiciou ao pensamento humano um progresso bem
8
significativo, desde a descoberta do átomo até o mapeamento do genoma
humano.
Snow não poderia imaginar como as suas palavras ainda repercutiriam no século
XXI. Desde a sua época, as coisas só pioraram. A estratégia reducionista que deu
origem ao problema das duas culturas também influenciou diretamente em
nossos problemas com a tecnologia. Neste caso, não estou me referindo à divisão
de Snow entre cientistas de aventais brancos e poetas errantes em trajes pretos,
mas sim a uma brecha no interior da própria ciência: nós temos um
conhecimento científico acentuadamente dividido em dois grandes grupos: as
ciências humanas e as ciências tecnológicas. O primeiro grupo adotou uma visão
humanística; quando olham para o mundo, essas ciências focalizam
principalmente as pessoas. Por exemplo, a psicologia cognitiva estuda como a
mente humana funciona, mas é raro que considere a atividade mental das
pessoas comuns ao usarem ferramentas como calculadoras, carros,
computadores ou aparelhos para realizar tarefas cotidianas; falta a compreensão
da tecnologia nos seus aspectos mais simples.' Em contrapartida, as ciências
técnicas - engenharia, computação e matemática aplicada - adotaram uma visão
mecanicista; quando elas olham para o mundo, focalizam principalmente o
hardware ou o software; a compreensão das necessidades e das aptidões
humanas não faz parte da equação. Quando os engenheiros de computadores
desenham minúsculos dispositivos que podem processar uma enorme
quantidade de informação com grande velocidade, não pensam nas
características nem nas necessidades das pessoas que usarão tais engenhocas.
Até recentemente, essa separação nítida no trabalho científico parecia ser uma
maneira razoável de dar sentido ao nosso mundo.
9
Estamos tão habituados a definir as pessoas deste modo que é fácil esquecer que
as tradicionais visões de mundo humanista e mecanicista são - ambas -
abstrações ditadas pela conveniência; não existe tecnologia sem pessoas, ou
pessoas sem tecnologia. No mundo real, pessoas e tecnologia coexistem. De fato,
a capacidade de construir ou de usar ferramentas é parte do que define um ser
humano. Nossas divisões disciplinares não representam o mundo como ele é
concretamente, com pessoas e tecnologia, lado a lado, interagindo.
Mas se pensarmos que é possível escolher entre essas duas visões de mundo, faz
sentido colocar pessoas treinadas na visão de mundo ciclópica mecanicista -
vamos chamá-las de Magos - no planejamento da tecnologia. Afinal de contas,
eles é que podem desenhar aviões, usinas elétricas, telefones celulares e outras
maravilhas tecnológicas. Pessoas treinadas na perspectiva ciclópica humanista
em geral não têm o domínio técnico - o conhecimento profundo em matemática,
física e computadores - para desenhar e construir tecnologia confiável. Portanto,
geralmente cabe aos Magos o encargo exclusivo do desenvolvimento tecnológico,
porque nós não acreditamos que os humanistas, desafiados pela técnica, tenham
alguma contribuição a dar. 0 resultado óbvio é que os sistemas tecnológicos são
confiáveis apenas sob uma estreita perspectiva técnica - porque seus designers
tinham a perícia requerida para desenvolver produtos ou sistemas que têm
afinidade apenas com os aspectos relevantes do mundo físico.
Qualquer tentativa de explicar por que a tecnologia está girando fora de controle
deve levar em conta mais três outras observações. A primeira é que a coisa
técnica freqüentemente é complexa demais para ser manipulada pelas pessoas, o
que, na melhor das hipóteses, cria confusão e, na pior, tem conseqüências
potencialmente devastadoras. A segunda observação é que os aspectos "mais
soft" dos sistemas tecnológicos (horários de trabalho, coordenação de equipes e
outros) também podem tornar mais difícil do que é preciso a vida das pessoas, o
que contribui para o caos. E a terceira, para coroar, é que nossos problemas com
tecnologia, em vez de melhorar, só pioram. Como foi que esse padrão tríplice se
instalou?
Por ironia, a força dos Magos - os designers, em geral brilhantes, dos sistemas e
produtos de alta tecnologia do mundo atual - é, em parte, também responsável
por sua perda: por terem tanta proficiência em ciência e engenharia, os Magos
tendem a pensar que todo mundo conhece tecnologia como eles. As pessoas que
desenham e planejam coisas gostam de brincar com engenhocas e inventar
coisas. Para elas, isso é um jogo que, quanto mais jogam, mais fácil fica. Algumas
10
até gostam de ler os manuais feitos para os usuários. E as que possuem
habilidades técnicas mais sofisticadas são excepcionalmente aptas para
descobrirem como funcionam os dispositivos mais complexos, e é por isso, aliás,
que acabam sendo contratadas como designers.
Mas não somos todos assim. Não queremos descobrir o que fazem todos aqueles
botões, ou por que eles foram colocados de um certo do modo. Queremos apenas
tocar a nossa vida e o nosso trabalho. Quando fazemos uso de tecnologia,
queremos nos focalizar no nosso objetivo, não na decifração da tecnologia. 0
design devia estar no segundo plano da nossa atenção. Quando ligamos um
videocassete, simplesmente queremos gravar um filme. Não queremos nos tornar
programadores de computador para fazer isso. O mesmo acontece com sistemas
complexos e potencialmente mais perigosos, como o sistema de saúde. As
enfermeiras escolhem sua carreira porque gostam de cuidar de pessoas, não
porque gostam de programar complexos dispositivos médicos computadorizados
ou porque têm doutorado em ciência da computação.
Tomemos o Infinia 7220, por exemplo. Esse dispositivo foi introduzido pela
Toshiba, com grande alarde, em 1998.' É o equivalente eletrônico do canivete
suíço: tem uma televisão, um computador, um telefone, um pager, um fax, um
videocassete digital e um exibidor de filmes com som surround e dispositivo de
jogos digitais - tudo isso em um. Provavelmente uma equipe inteira de gênios em
engenharia foi necessária para concebê-lo. Mas se muitas pessoas pensam que
operar um videocassete é difícil você pode imaginar o que seria operar esse polvo
tecnológico? A complexidade ultrapassaria o alcance da vasta maioria das
pessoas. Não é de surpreender que a Toshiba o tenha batizado de Infinia -
provavelmente o tempo necessário para aprender a usá-lo seria infinito.
11
"Isso me faz lembrar dos designers de software que se habituaram tanto com o
funcionamento dos seus produtos que se esqueceram dos fregueses reais que em
algum momento terão que aprender a usá-los... Em suma, esse sistema força o
usuário a pensar demais. Um bom sistema deveria fazer exatamente o oposto".
Como resultado, Road & Track acabou dando a seu artigo o título "iDrive? Não,
você dirige, enquanto eu brinco com os controles".
Não podemos pôr a culpa nos despachantes. O sistema de informação havia sido
desenhado com base na perspectiva caolha mecanicista para minimizar a
participação humana, mas teve o efeito oposto. Os Magos não haviam pensado
em dotá-lo de um meio de identificar mensagens duplicadas - nunca lhes ocorreu
12
que isso seria necessário. As mensagens novas começaram a rolar para fora das
telas dos despachantes enquanto o número de chamadas aumentava
insistentemente. O sistema do computador ficou sobrecarregado e lento. O envio
de ambulâncias se atrasou. No auge da confusão, o tempo de resposta chegou a
mais de três horas (o máximo admissível devia ser de 17 minutos). Os Magos não
tinham previsto isso. Como o relatório do inquérito informou depois, "... o
próprio sistema do computador não falhou num sentido técnico ele fez aquilo
para que foi projetado".
Para transmitir essa lição numa aula introdutória ao design de engenharia, uso
uma situação deliberadamente constrangedora, pedindo aos que não sabem tocar
guitarra para desenharem juntos uma guitarra elétrica. 0 resultado inevitável
desse exercício em classe é uma guitarra inimiga do usuário. Como pouco sabem
a respeito do assunto, os alunos encarregados do design não têm outra escolha
senão a de tomar suas decisões numa base ad-hoc. Certa ocasião, a turma passou
longo tempo discutindo quantos potenciômetros deviam ser colocados numa
guitarra elétrica. "Dois", disse um. "Não, três", foi o palpite de um outro. "De jeito
nenhum. Uma guitarra elétrica deve ter pelo menos quatro potenciômetros",
disse um terceiro. A discussão continuou. Finalmente, um deles perguntou: "Mas
para que servem esses potenciômetros?" Em classe, sou deliberadamente
simplista para tornar clara a questão. Mas a comparação faz sentido: se a maioria
dos alunos de engenharia quebra tanto a cabeça para prever as necessidades do
usuário de um produto relativamente simples como uma guitarra, imagine a
dificuldade do trabalho dos Magos ao desenhar um sistema complexo de
segurança crítica.
Hard x Soft
Mas como podemos explicar a segunda observação da nossa lista que os aspectos
soft, não-físicos, dos sistemas tecnológicos podem também tornar a vida das
pessoas mais difícil do que necessário. Em parte, esta é mais uma conseqüência
13
natural da colocação dos Magos no comando do processo de design. Eles são
treinados para focalizar o hardware e o software, portanto os aspectos "mais soft"
da tecnologia, tais como os horários de trabalho ou a coordenação de equipes,
simplesmente ficam fora de seu foco de atenção, quando não de sua própria
perícia.
14