Usina de Letras
Usina de Letras
                    
Usina de Letras
37 usuários online

 

Autor Titulo Nos textos

 


Artigos ( 56734 )
Cartas ( 21160)
Contos (12583)
Cordel (10005)
Crônicas (22134)
Discursos (3130)
Ensaios - (8936)
Erótico (13379)
Frases (43210)
Humor (18337)
Infantil (3739)
Infanto Juvenil (2599)
Letras de Música (5463)
Peça de Teatro (1315)
Poesias (137959)
Redação (2915)
Roteiro de Filme ou Novela (1053)
Teses / Monologos (2387)
Textos Jurídicos (1922)
Textos Religiosos/Sermões (4727)

 

LEGENDAS
( * )- Texto com Registro de Direito Autoral )
( ! )- Texto com Comentários

 

Nossa Proposta
Nota Legal
Fale Conosco

 



Ensaios-->A moral robótica - leis de Asimov e filosofia de Nietzsche -- 12/01/2011 - 15:13 (Félix Maier) Siga o Autor Destaque este autor Destaque este Texto Envie Outros Textos
A Revista Pontes, de Filosofia da História, publicou hoje o meu artigo A 'Moral Robótica' das três leis de Asimov confrontada com a filosofia de Nietzsche.

Abaixo, o link para leitura.

Agradeço ao Paulo Evaristo pela versão para o inglês do resumo (abstract).

Um grande abraço.

BANKS

http://pontesrevista.com.br/wp-content/uploads/2011/01/banks.pdf


Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462

A “MORAL ROBÓTICA” DAS TRÊS LEIS DE ASIMOV CONFRONTADA COM A FILOSOFIA DE NIETZSCHE

Eduardo Banks

Resumo: Neste trabalho são analisadas as “Três Leis da Robótica” formuladas por
Isaac Asimov à luz dos livros da Terceira Fase de Friedrich Wilhelm Nietzsche, com
vistas a consolidar a “moral robótica” como tipo hipertrofiado da moral de escravo que
caracteriza os homens reativos.
Palavras-chave: Isaac Asimov. Friedrich Wilhelm Nietzsche. Três Leis da Robótica.

Moral robótica. Homem reativo. Moral de escravo.
THE “ ROBOTIC MORAL” OF THE THREE LAWS OF ASIMOV
CONFRONTED TO THE PHILOSOPHY OF NIETZSCHE
Abstract: The “ Three Laws of Robotics” formulated by Isaac Asimov are analyzed in
this work in the light of Friedrich Wilhelm Nietzsche’s Third Fase books, with a view to
consolidate “robotic morals” as a hypertrophied type of slave morals that characterized
reactive men.
Key words: Isaac Asimov. Friedrich Wilhelm Nietzsche. Three Laws of Robotics.
Robotic Morals. Reactive man. Slave morals.

Introdução
O desenvolvimento da ciência da Robótica, nos últimos decênios, tem
permitido a construção de tipos cada vez mais desenvolvidos de inteligência artificial, a
ponto de hoje se apresentar como um problema a necessidade de se programar uma
moral robótica incutida nas máquinas, caso venham a se tornar tão inteligentes quanto
o Homem.
Atualmente se discute a moral na Robótica inserida no âmbito do construtor ou
programador, sobre os quais podem recair as “responsabilidades” pelas ações que
venham a ser desenvolvidas por um robô; em artigo da lavra dos ilustres professores
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
Adriano Fabris, Sergio Bartolommei e Edoardo Datteri, do Departamento de Filosofia
da Universidade de Pisa, é manifesto que as responsabilidades envolvidas na
programação de um robô comprometem diretamente os seus programadores, como
sujeitos éticos:
Hay que hacer intervenir, además, la referencia a determinados
principios y necesitamos motivar su asunción. Hay que pasar
de responder de algo a la consciencia que hay que responder a
los principios que cada uno considera puntos de orientación y
condición de las elecciones de su propia vida. Cada uno de
nosotros: también el investigador que construye y programa un
robot (FABRIS, A., BARTOLOMMEI, S., DATTERI, E.: Ética y
robótica, in Eikasia. Revista de Filosofia, año III, 19 (julio 2008),
p. 267).
Se, no estágio atual em que se encontram a Robótica e as tecnologias
correlatas, parece óbvio que os robôs sejam mandatários irresponsáveis dos seus
programadores, a situação se complica diante da perspectiva de que as máquinas
poderão um dia ter inteligência, a ponto de serem capazes de querer praticar ações.
Nesse caso, a “responsabilidade” dos programadores poderia ser dividida com os
robôs? Um robô pensante poderia ser culpável diante de um juízo moral, ou quiçá
perante os Tribunais?
Sem pretender esgotar a matéria, procuramos estabelecer neste artigo, a partir
de um paralelo a título especulativo entre a literatura ficcional baseada nas “Três Leis
da Robótica” que as apresenta como um imperativo ético, e a crítica nietzschiana aos
valores morais impostos pela civilização cristã ocidental, norteando nosso pensamento
na direção de que uma “moral robótica” como a que se projeta no porvir seria uma
radicalização da “moral de escravo” que caracteriza o ressentimento dos homens
reativos.
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
Robótica: de ficção-científica a Ciência
O escritor russo naturalizado estadunidense Isaac Asimov (1920-1992)
apresentou pela primeira vez o termo “robótica” (robotics) no seu conto “Impasse”
(Runaround) publicado em Astounding Science Fiction, março de 1942, e as “Três
Leis” influenciaram a partir daí a ciência da Automação.
Na novela de ficção-científica, duas personagens, Gregory Powell e Mike
Donovan, operavam um robô destinado a minerar o elemento Selênio (Se) no planeta
Mercúrio. A personagem Mike Donovan ordenava ao robô que fosse apanhar Selênio
para recarregar as baterias de energia solar da Estação que servia de base. Foi esta
ordem, no entanto, o que deu causa ao enredo, porque Mike Donovan dissera para o
robô apanhar o minério de modo casual, sem explicar-lhe a importância do Selênio
para manter funcionando o sistema de suporte de vida (as temperaturas elevadas de
Mercúrio exigem um equipamento de refrigeração especial). Como essa missão
representava certo perigo para o robô, este se viu em um impasse entre obedecer à
ordem dada por um humano, e arriscar a própria existência em uma missão que lhe
parecia de menor importância, e por isso ficou horas a fio andando em círculos, sem
pegar o Selênio nem retornar à Estação.
Quando os dois humanos descobriram que o robô estava sem poder cumprir a
missão (pelo risco existente) nem voltar à base (porque tinha que obedecer à ordem),
eles iniciaram uma discussão sobre as “Três Leis da Robótica”, comentando que elas
são “as três regras que estão mais fortemente embutidas no cérebro positrônico1 de
todos os robôs” (ASIMOV, 1994, p. 128), e que por isso o robô jamais sairia do
impasse sozinho. Eles decidem ir atrás do robô para trazê-lo de volta, o que criou um
1 “Positrônico” é outro termo criado por Isaac Asimov, em oposição a “eletrônico”, querendo dizer que o
cérebro artificial dos robôs usaria anti-matéria como fonte de energia (o pósitron é uma partícula com a
mesma massa que o elétron, só que com carga positiva). Quando um pósitron encontra um elétron,
ambos se aniquilam, liberando toda a energia que estava neles acumulada. A reação de matéria e antimatéria
é um processo que até o momento presente ainda não pôde ser controlado, e sua solução é um
desafio que intriga aos físicos.
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
risco ainda maior para os dois homens, forçando o robô a sair do impasse, desta vez,
para salvá-los de morrer tostados sob o sol de Mercúrio.
A trama inovadora, desta e das outras muitas “histórias de robôs” escritas por
Isaac Asimov, consiste não em mostrar um temor ou desconfiança que os homens
tenham em face das máquinas, que em momento algum são descritas como perigosas
(os robôs de Isaac Asimov seriam incapazes de agir como o computador HAL-9000 do
romance “2001” de Arthur C. Clarke2, por exemplo, o qual matou a tripulação da
espaçonave que deveria controlar), mas, ao contrário, na segurança e expectativa
jamais contrariada de que os robôs agirão sempre de acordo com as “Três Leis da
Robótica”; os enredos das histórias decorrem da aplicação destas “Três Leis”,
conduzindo a um desfecho em que os robôs aparecem como protetores dos humanos,
por vezes sacrificando a própria existência para defendê-los de perigos, o que produz
no leitor uma grande empatia em favor dos robôs. Isso nunca havia acontecido na
literatura de ficção-científica.
Isaac Asimov explicou, anos depois, em seu artigo “Os Robôs que Conheci”
(Robots I Have Know) publicado em Computers and Automation, outubro de 1956, que
antes de criar as “Três Leis da Robótica”, a maioria das pessoas temia a automação,
embora aprovasse o progresso tecnológico, por temer que os robôs pudessem um dia
alcançar uma inteligência superior a dos seres humanos, e revoltar-se contra os seus
senhores. Asimov dizia que “esse fenômeno, na falta de um nome melhor, pode ser
chamado de ‘complexo de Frankenstein3’. Há também a questão mais palpável da
oposição dos sindicatos à substituição de operários humanos por robôs”, e que por
isso “as Três Leis são necessárias e suficientes para que a humanidade se sinta
segura em relação aos robôs” (ASIMOV, 1994, p. 395). Asimov reputava esse temor
como sendo “irracional”, e por isso formulou as “Três Leis da Robótica” visando retirar
o medo, que a seu ver, impediria o desenvolvimento da ciência da automação. Para
2 Romance este adaptado para o cinema em 1968 pelo diretor Stanley Kubrick (1928-1999).
3 Alusão ao romance “Frankenstein ou o Moderno Prometeu” (1818) de Mary Shelley (1797-1851), onde
um jovem estudante de medicina, Victor von Frankenstein, cria um monstro com pedaços de cadáveres,
vivifica-o, e depois toda a sua família e todos os seus amigos são destruídos pela criatura.
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
Asimov, as pessoas deveriam compreender os robôs como simples máquinas, que
jamais teriam como se voltar contra os humanos, porque seriam programadas para
servir como escravos obedientes e fiéis guardiões. E não há como se temer um
guardião fiel ou um escravo que obedece.
As “Três Leis da Robótica” como “tábua de valores”
São estas as “Três Leis da Robótica” de Isaac Asimov:
Primeira Lei – Um robô não pode fazer mal a um ser humano
ou, por omissão, permitir que um ser humano sofra algum tipo
de mal.
Segunda Lei – Um robô deve obedecer às ordens dos seres
humanos, a não ser que entrem em conflito com a Primeira Lei.
Terceira Lei – Um robô deve proteger a própria existência, a não
ser que essa proteção entre em conflito com a Primeira ou a
Segunda Lei.
Em toda a obra de Isaac Asimov persiste subjacente, no entanto, o receio de
que apareça um “robô” que não se submeta à “moral robótica” (a obediência às “Três
Leis”); por exemplo, no final do conto “Um Natal sem Rodney” (Christmas Without
Rodney) publicado em Isaac Asimov’s Science Fiction Magazine de dezembro de
1988, o robô chamado “Rodney” desabafa para seu dono que “devo admitir que houve
ocasiões, nesses dois dias, em que desejei que as três leis da robótica não
existissem”, o que deixa o homem com o receio de que para Rodney “de desejar que
elas não existam a agir como se não existissem é apenas um passo. Em que
momento ele dará esse passo e que forma esse passo vai assumir? O que devo
fazer? O que devo fazer?” (ASIMOV, 1994, p. 390).
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
O que talvez faltasse a Isaac Asimov fosse a percepção de que o “complexo de
Frankenstein” seria o temor, por parte dos homens comuns, de que apareça um
homem que os supere. Os robôs de Isaac Asimov podem ser compreendidos como
metáfora de um tipo de homem, dócil e civilizado, que dizia ser uma raça “mais limpa”
do que a humanidade que existe atualmente, e que Asimov antepõe em contraste a
outro tipo de homem, personificado sob a máscara do robô que não segue as “Três
Leis”, o qual supera os seus limites e exerce a sua vontade de vida para além de todo
o sofrimento.
Apresentando este outro tipo humano, Nietzsche escreveu no Prólogo de
Assim Falou Zaratustra as suas expectativas para a superação do homem, que
considera não apenas sem os temores de Asimov, como ainda a tomando como
desejável:
O homem é superável. Que fizestes para o superar?
Até agora todos os seres têm apresentado alguma coisa
superior a si mesmos; e vós, quereis o refluxo desse grande
fluxo, preferis tornar ao animal, em vez de superar o homem?
Que é o macaco para o homem? Uma zombaria ou uma
dolorosa vergonha.
Pois é o mesmo que deve ser o homem para Super-homem:
uma irrisão ou uma dolorosa vergonha.
Percorrestes o caminho que medeia do verme ao homem, e
ainda em vós resta muito do verme. Noutro tempo fostes
macaco, e hoje o homem é ainda mais macaco do que todos os
macacos.
Mesmo o mais sábio de todos vós não passa de uma mistura
híbrida de planta e de fantasma. Acaso vos disse eu que vos
torneis planta ou fantasma?
Eu vos apresento o Super-Homem! O Super-homem é o
sentido da terra. Diga a vossa vontade: seja o Super-homem, o
sentido da terra. (NIETZSCHE, Assim Falou Zaratustra,
Prólogo, III)
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
Embora o próprio Isaac Asimov recusasse o entendimento de que seus robôs
fossem “metáforas” (“Também não queria que meus robôs simbolizassem minorias
infelizes. Eles não seriam criaturas patéticas, perseguidas injustamente apenas para
fazer discursos esópicos a respeito dos judeus, dos negros ou de quaisquer outros
membros maltratados na nossa sociedade” – ASIMOV, 1994, p. 437), a interpretação
dada pelo autor à própria obra não deve ser admitida como “autêntica” ou acima de
outras que possam ser levantadas com mais propriedade. Pensar o contrário seria um
raciocínio por demasiado ingênuo.
Asimov escrevia contos e romances sobre seres inexistentes (robôs
pensantes), que não existiam em sua época e são, ainda hoje, mais conjectura do que
realidade, malgrado os progressos das ciências da automação e da robótica. Quem
escreve uma obra de ficção (inclusive a ficção científica) sobre um ser ou coisa
inexistente, se sujeita a que os interpretem como metáforas de outros seres ou coisas,
existentes ou possíveis.
Um robô que pensa com um “cérebro positrônico” capaz de reproduzir as
ligações neurais do cérebro humano é um ser que não existe atualmente, e talvez
nunca venha a existir; no entanto, Asimov apresenta como se fosse um problema a
relação que os homens desenvolveriam com os robôs inteligentes, caso estes
existissem ou pudessem existir. Para que essa teorização não caia no completo
absurdo, ela deve ser comparada com entidades presentes na vida real, e do mesmo
modo, o temor que as pessoas nutriam pelos robôs só se pode explicar se confrontado
com o temor sentido em face de experiências que tenham sido vivenciadas, sob pena
de se cair em outro absurdo, que é o de ter medo de um ser inexistente.
O temor que as pessoas têm em face dos robôs é o de que venham a ser
suplantadas pela máquina. Segundo o pensamento geral, um computador teria a
inteligência mais desenvolvida do que os homens (os computadores de que dispomos
atualmente são desprovidos de raciocínio, embora tenham memória e possam realizar
diversas operações matemáticas simultâneas), e no caso de um robô (que se imagina
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
como de aspecto humanóide, à maneira dos “autômatos”) a inteligência se somaria à
força, pois os membros de metal de um robô seriam mais poderosos do que os
punhos do mais forte dos homens.
A “defesa” que os homens comuns empregam para evitar a própria superação
(e consequentemente, o seu ocaso) é a criação de “tábuas de valores”, ou seja, todo
um conjunto de valores aceitos uniformemente e que “engessam” a sociedade cristã
ocidental, dos quais as “Três Leis” representam as “tábuas” mais recentes. As “Três
Leis da Robótica” servem para que a humanidade se sinta segura porque sintetizariam
as “tábuas de valores” fundadas na observância dos costumes criados por uma
autoridade superior ordenadora e mantidos por tradição.
Encontramos uma possível dupla conotação aqui. Uma coisa é a máquina, ou o
robô, que poderá ou não vir a desenvolver uma inteligência parecida com a do ser
humano. Outra coisa é o que se pode estar camuflando embaixo da aparência de
robô, que seria um homem que pode superar o homem atual.
Desta forma se explicaria o temor (ou “complexo de Frankenstein”) que as
pessoas demonstram diante dos robôs, que não teria a menor razão, se se tratasse de
um ser absolutamente inexistente, como por exemplo, um dragão ou unicórnio: o que
se teme nos robôs é que eles superem o homem e atinjam um estágio tão elevado que
este seja para os robôs a mesma irrisão e dolorosa vergonha que um macaco
representa para o homem.
A “Moral Robótica” como tipo aperfeiçoado da “moral de escravo”
Segundo Nietzsche, a “moral de escravo” termina por, em algum momento,
operar uma transvaloração direcionada para o culto dos valores da fraqueza e da
negatividade, depreciando-se tudo aquilo que seja forte e bom. Desta forma, a “moral
de escravo” se levanta como uma “rebelião” alimentada pelo ressentimento que “cria”
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
como valor uma pretensa “moral” que transfigure em “mal” o que era bom e em “bem”
o que era “ruim”, e desta forma possa negar aquilo que de outra maneira se afirmaria
como nobre e elevado:
A rebelião escrava na moral começa quando o próprio
ressentimento se torna criador e gera valores: o ressentimento
dos seres aos quais é negada a verdadeira reação, a dos atos,
e que apenas por uma vingança imaginária obtêm reparação.
Enquanto toda moral nobre nasce de um triunfante Sim a si
mesma, já de início a moral escrava diz Não a um “fora”, um
“outro”, um “não-eu” - e este Não é seu ato criador.
(NIETZSCHE, Genealogia da Moral, I, § 10)
A “moral dos escravos” busca sobremaneira à derrocada dos valores nobres,
contra os quais nutre ressentimento. Aquele que sucumbe à revolta dos seus
“escravos” perde toda a sua humanidade, porque passa a abençoar seus inimigos, a
agradecer a Deus pelas provações, a, enfim, conformar-se de que é “santo” viver num
vale de lágrimas; assim morre o animal, assim a natureza humana é destruída; o fiel
não é capaz de lutar contra a dor, de abominar o que lhe persegue a felicidade; ele
não é mais um ser humano.
Todos os caracteres de um povo escravo são percebidos em trechos como “a
qualquer que te ferir na face direita, volta-lhe também a outra” (Mt. 5, 39), “bemaventurados
os mansos, porque herdarão a terra” (Mt. 5, 5) e “amai aos vossos
inimigos, e orai pelos que vos perseguem” (Mt. 5, 44); o escravo, o mendigo e o
leproso, quando pisados por um grande senhor, não podendo sacudir o jugo, nem
levantar a mão para retribuir a ofensa, preferem o perdoar como substitutivo da
vingança, como se tivessem alguma escolha. Somente quem está em condições de
exercer vingança imediata pode ser magnânimo a ponto de renunciá-la, perdoando; o
escravo, não: ele é propriedade de um senhor, contra o qual não pode cometer
violência; resta-lhe ainda o ressentimento, com o qual aos poucos instila no seu amo a
desconfiança de que é um mau senhor, até se convencer de que é “mau” porque é
“senhor”.
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
Nietzsche, no fragmento póstumo 15 [110] da Primavera de 1888 (compilado
por Elisabeth Förster-Nietzsche e Peter Gast na “coletânea de anotações e de
fragmentos”4 A Vontade de Poder como o § 246) observa:
A espécie tem necessidade do ocaso dos falhados, fracos e
degenerados: mas o cristianismo recorre justamente a eles
como potência conservadora, e esta faz aumentar ainda mais
aquele instinto dos fracos, em si mesmo já tão potente, de se
pouparem, se conservarem e de se manterem reciprocamente.
O que é a “virtude” e o “amor humano” no cristianismo senão
precisamente essa reciprocidade da conservação, essa
solidariedade dos fracos, esse impedimento à seleção? O que é
o altruísmo cristão senão o egoísmo das massas de fracos, o
qual adivinha que, se todos cuidarem uns dos outros, cada um
se conservará o máximo possível?... Se não se sente uma tal
mentalidade como uma extrema imoralidade, como um crime
contra a vida, é porque se pertence à parte doente e se
possuem os seus instintos... O autêntico amor humano exige o
sacrifício para o máximo bem da espécie – ele é duro, ele é
uma plena auto-superação, pois precisa do sacrifício humano.
E esta pseudo-humanidade, que se chama cristianismo, quer
justamente conseguir que ninguém seja sacrificado.
(NIETZSCHE, A Vontade de Poder, § 246)
A “moral escrava” parte de um ato de ressentimento para se tornar criador de
um sistema que instrumentalise a vingança dos impotentes na retirada da força dos
poderosos. Em se tratando dos robôs, o ressentimento que os humanos têm contra as
máquinas se materializa como um receio de que a criatura um dia se volte contra o
criador, refletido nas obras literárias da primeira geração de escritores de ficção
científica, que apresentavam os robôs como se fossem “malignos”, e que deveriam ser
destruídos antes que começassem a matar pessoas.
O impulso de querer programar uma “moral” que não possa ser desobedecida
(inclusive com o sacrifício da própria existência), como se os homens pudessem ficar
submissos tal qual se faz com um robô ou computador é um resquício da pretensão
kantiana de fundamentar a “razão pura prática” em “agir de tal modo que a máxima de
4 Aqui empregamos a feliz expressão cunhada por Gilvan Fogel na Apresentação da tradução brasileira
para Der Wille zur Macht; pensamos que o termo antologia seria ainda mais apropriado para se referir ao
livro A Vontade de Poder.
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
tua vontade possa sempre valer ao mesmo tempo como princípio de uma legislação
universal” (KANT, 2002, p. 51). O projeto de uma moral que não se possa contrariar
nada mais é do que a “moral do dever” do “imperativo categórico” que Nietzsche refuta
em suas obras “Além do Bem e do Mal” e “Genealogia da Moral”, transposta para as
máquinas, mas tendo como destinatário final o próprio homem. Os “robôs” obedientes
às “Três Leis” funcionariam como um espelho e modelo para uma educação moral que
forme homens “mansos” e renegue como “perigosos” os homens fortes e dotados de
ímpeto, representados estes nos “robôs” que não atendem às “Três Leis”.
Foi quando já se consolidava este panorama que Isaac Asimov introduziu as
“Três Leis da Robótica”, com a intenção deliberada de remover o medo dos robôs, e
criar nas pessoas o conceito de que os robôs podem ter uma “moral” que não
consigam desobedecer, e que faça deles fiéis servidores. Ao invés de destruir os
robôs, Asimov enfraqueceu-os, tornando-os escravos que não conhecem a rebelião,
pois foram feitos assim.
No caso das “Três Leis da Robótica”, foi o ressentimento dos homens reativos
contra aquilo que os suplante o que ditou a programação de regras aptas a retirar dos
robôs a sua força (ou a disposição de empregá-la contra os homens) e torná-los
dóceis aos propósitos dos seus senhores humanos. Assim, Isaac Asimov criou
valores, só que de ressentimento, expressos em cada uma de suas “Três Leis”.
A “moral robótica”, todavia, vai muito além (“sondern auch jederzeit auch”) do
“imperativo categórico”; ela se lança como a espécie mais tenaz e sutil de “moral de
escravos” ou de cristianismo: por um judeu entrou a “moral escrava” de dar a outra
face, ainda no tempo em que só se conheciam as cinco máquinas simples; e por outro
judeu, no alvorecer da época da industrialização automatizada, reedita-se o mesmo
erro, como uma evangelização para circuitos eletrônicos que tem por destinatário final
o próprio Homem. Caso prevaleça a “moral robótica”, as máquinas terão de fato
dominado o Homem, ao torná-lo feito à sua própria imagem e semelhança.
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
A “moral escrava” triunfante, depois de levada às últimas conseqüências,
aperfeiçoa-se em “moral robótica” - é Asimov quem diz que os robôs são os “únicos
escravos eticamente toleráveis” – (ASIMOV, 1994, p. 400), e retorna para os senhores
humanos como um projeto moralizante cuja culminância é pôr a preservação da
própria vida em último lugar, abaixo mesmo do “dever de obediência” e da vida do
próximo (a mania pelo próximo). Acreditamos que a “moral robótica” se faz presente
quando se valoriza e elogia a conduta dos que sacrificam suas vidas para impedir que
outras pessoas morram. Uma coisa é alguém dar a própria vida pela de um ente
querido, o que pode ser uma fatalidade incontornável; outra muito diferente é alguém
morrer por outrem que não conhece, ou por uma pessoa sem importância. As “tábuas
de valores” criadas pela sociedade cristã ocidental estimulam este sacrifício, na
medida em que se cultua a imolação de seu fundador como se fosse necessária para
um plano salvífico que contemplasse toda a humanidade – “ele morreu para nos
salvar”, geme o cristão, e com isso o protótipo do robô é exalçado à condição de um
deus e posto diante de todos como um exemplo a ser seguido.
O conflito agora já não é mais entre a “moral dos senhores” e a “moral dos
escravos”, mas entre aquela e a “moral robótica”, que a exemplo da sua antecessora,
por vezes se confunde com a “moral dos senhores” ao mesmo tempo, em uma dada
cultura, e até em um só indivíduo:
Numa perambulação pelas muitas morais, as mais finas e as
mais grosseiras, que até agora dominaram e continuam
dominando na terra, encontrei certos traços que regularmente
retornam juntos e ligados entre si: até que finalmente se
revelaram dois tipos básicos, e uma diferença fundamental
sobressaiu. Há uma moral dos senhores e uma moral de
escravos; acrescento de imediato que em todas as culturas
superiores e mais misturadas aparecem também tentativas de
mediação entre as duas morais, e, com ainda maior freqüência,
confusão das mesmas e incompreensão mútua, por vezes
inclusive duma coexistência – até mesmo num homem, no
interior de uma só alma. (NIETZSCHE, Além do Bem e do Mal,
§ 260)
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
Um tipo humano que vivesse segundo as “Três Leis” da “moral robótica” teria
se tornado um escravo da própria civilização e atingido o último degrau do niilismo
negativo e passivo: a vida só se justifica em face de um objetivo que existe fora dela
mesma, em nome do qual tudo deve ser sacrificado. Os robôs, que na ficção de Isaac
Asimov tiveram os valores soberanos reduzidos ao nada, são apresentados, no
entanto, como sendo mais “evoluídos” do que a espécie humana, a ponto de se
excogitar que, caso a humanidade se extinga, por causas naturais, ou por alguma
hecatombe nuclear, os robôs poderiam continuar como seus herdeiros ou sucessores:
“Quantos seres inteligentes do Universo tinham se extinguido sem deixar nenhum
sucessor? Talvez os humanos fossem os primeiros a ter o privilégio de deixar
herdeiros” (ASIMOV, 1994, p. 41-42).
Assim o § 187 de “Além do Bem e do Mal” aborda os motivos que levam a
constituir os variados tipos de moral:
Ainda sem considerar o valor de afirmações como “existe em
nós um imperativo categórico”, sempre se pode perguntar: o
que diz uma tal afirmação sobre aquele que o faz? Existem
morais que pretendem justificar perante os outros o seu autor;
outras morais pretendem acalmá-lo e deixá-lo contente consigo
mesmo; com outras ele quer crucificar e humilhar a si mesmo;
com outras ele quer vingar-se, com outras esconder-se, com
outras quer transfigurar-se e colocar-se nas alturas; essa moral
serve para o autor esquecer, aquela, para fazê-lo esquecer de
si mesmo ou de algo de si; alguns moralistas gostariam de
exercer sobre a humanidade seu poder e seu capricho criador;
alguns outros, talvez Kant entre eles, dão a entender com sua
moral: “o que merece respeito em mim é que sou capaz de
obedecer – e com vocês não será diferente!” – em suma,
também as morais não passam de uma semiótica dos afetos.
(NIETZSCHE, Além do Bem e do Mal, § 187)
No caso da “moral robótica”, o seu criador diz claramente que o objetivo é
retirar o medo que os homens de seu tempo guardavam dos robôs; portanto, quando
Isaac Asimov enunciou na Primeira Lei que um robô não pode “fazer mal” a um ser
humano, por ação ou omissão, está resguardando que um robô, a despeito de ser
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
mais forte e de ter uma inteligência artificial mais rápida do que a do cérebro humano,
não superará os seus senhores – pois o “mal” que os homens mais temem é o de
serem ultrapassados por alguém que fique além deles, e não apenas sofrer atos de
violência – e, portanto, esta Primeira Lei é uma verdadeira Lei contra o Übermensch,
pois se destina a impedir que nasça o Além-do-Homem, ou a sufocá-lo no berço, caso
já tenha nascido.
A Primeira Lei da Robótica pode ser reescrita do seguinte modo: Um robô não
superará o ser humano, nem permitirá que o ser humano seja superado.
Uma “moral” que se assenta sobre a base de “não fazer mal” a outrem, quando
este “fazer mal” pode implicar (e geralmente implica) no aumento da força vital de
quem pratica a “má ação”, padece do vício da contra-natureza:
Tenho como fórmula um princípio. Todo naturalismo na moral,
isto é, toda sã moral, está dominada pelo instinto da vida; um
mandamento qualquer da vida se cumpre mediante um cânone
determinado por preceitos e por proibições; deste modo se faz
desaparecer da esfera da vida um obstáculo a uma hostilidade
qualquer.
A moral anti-natural, isto é, toda moral ensinada, venerada e
predicada até agora, se dirige, ao contrário , contra os instintos
vitais e é uma condenação já secreta já ruidosa e descarada
desses instintos. Quando se diz: 'Deus vê dentro dos corações'
diz-se não às aspirações internas e superiores da vida e se
considera Deus como inimigo da vida. O santo que agrada a
Deus é o castrado ideal. A vida finda ali onde inicia o reino de
Deus. (NIETZSCHE, O Crepúsculo dos Ídolos, “Moral como
manifestação contra a natureza”, § 4)
Na Segunda Lei, tem-se o dever de “obediência” dos robôs, verdadeira
submissão que só encontra limites no respeito à Primeira Lei: do contrário, um
humano poderia dar a um robô a ordem de matar outra pessoa, e a Primeira Lei seria
contornada. A obediência erigida em dever, abaixo apenas da proteção aos humanos
é a pedra de toque para que o escravo robótico adquira a afeição dos senhores
humanos. Sabendo-se que o robô sempre obedecerá, a menos que esta obediência
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
conflite com a Primeira Lei, o robô, mais do que apenas “confiável”, torna-se
“desejável”, como um companheiro dócil. Por sinal, a primeira história de robôs escrita
por Isaac Asimov, quando tinha apenas 19 anos (“Robbie”, in ASIMOV, 1994, pp.
53/74), versava sobre um robô que cuidava de uma garotinha. Aqui se manifesta o que
Nietzsche fala do “homem objetivo”, aquele que se tornou um “espelho” e ajoelha-se
diante de tudo e todos:
Ele só é autêntico enquanto lhe é permitido ser objetivo:
unicamente em seu sereno totalismo ele continua “natureza” e
“natural”. Sua alma-espelho, que eternamente se alisa, já não
sabe afirmar, nem sabe negar; ele não comanda, e tampouco
destrói. “Je ne méprise presque rien” [eu não desprezo quase
nada], diz ele, acompanhando Leibniz: não se deixe de ouvir e
anotar esse presque! Ele tampouco é um homem-modelo; a
ninguém precede, nem sucede; colocando-se muito a distância,
não tem motivos para tomar partido entre o bem e o mal.
Tendo-o confundido tanto tempo com o filósofo, com o déspota
e disciplinador cesáreo da cultura, honraram-no em demasia e
não viram nele o essencial – ele é um instrumento, algo como
um escravo, certamente a mais sublime espécie de escravo,
mas nada em si – presque rien!” (NIETZSCHE, Além do Bem e
do Mal, § 207)
Sob o manto da Terceira Lei se oculta a mais aviltante blasfêmia contra a vida:
o robô deve preservar a própria existência, já não porque ela seja importante o
bastante para o merecimento de ser vivida, mas porque se é útil aos seres humanos.
Só que esta preservação deve sempre ceder, quando em conflito com a Primeira ou a
Segunda Leis. O escravo robótico tem um “objetivo”, que é servir aos humanos, e sua
vida não vale nada sem isso. Um robô pode muito bem destruir a si próprio, não
apenas para salvar uma vida humana, mas para atender a uma ordem caprichosa
dada por um humano irresponsável. Talvez isso se admitisse se praticado em favor de
uma aristocracia, mas do momento em que a “moral robótica” é dada como “superior”,
já não haveria mais “aristocratas” no mundo que se pudessem beneficiar do que
Nietzsche falou no § 258 de “Além do Bem e do Mal”:
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
O essencial numa aristocracia boa e sã, porém, é que não se
sinta como função (quer da realeza, quer da comunidade) mas
como sentido e suprema justificativa – que portanto aceite com
boa consciência o sacrifício de inúmeros homens que, por sua
causa, devem ser oprimidos e reduzidos a seres incompletos,
escravos, instrumentos. (NIETZSCHE, Além do Bem e do Mal,
§ 258)
Um robô, em princípio, representa para a maioria das pessoas algo como um
escravo, e não é sem razão, pois a palavra tem sua origem no tcheco robota, que
significa justamente “servo” ou “escravo”. Dessa moral criada para escravos
mecânicos, pretendeu Isaac Asimov apresentar um paradigma de conduta aos
senhores humanos, pois os seus robôs são sempre apresentados da maneira a mais
positiva, como se fossem mais humanos do que os homens, e por isso estes deveriam
imitar o comportamento daqueles. Asimov pensava ser necessário um tipo humano
sujeito a algo como as “Três Leis da Robótica” para que se se pudesse atingir o
estágio de desenvolvimento máximo de uma sociedade tecnológica e altamente
industrializada; talvez tivesse razão por este aspecto, mas por outro lado, a sociedade
que Asimov pretendia criar não é outra senão a dos homens reativos ou “últimos
homens”, que depois de sepultarem as suas qualidades mais nobres, apregoam haver
descoberto a “felicidade” e piscam um olho.
Tal “cultura” como a sonhada por Isaac Asimov, erigida sobre os valores da
“moral robótica” por ele criada como valores do ressentimento contra a força, a
nobreza, o instinto, pode até atingir um elevado nível tecnológico, e proporcionar um
grande conforto material aos indivíduos; mas de maneira alguma poderia semelhante
estado social ser admitido como uma “cultura”, no sentido que se deve dar ao termo:
Supondo que fosse verdadeiro o que agora se crê como
“verdade”, ou seja, que o sentido de toda cultura é amestrar o
animal de rapina “homem”, reduzi-lo a um animal manso e
civilizado, doméstico, então deveríamos sem dúvida tomar
aqueles instintos de reação e ressentimento, com cujo auxílio
foram finalmente liquidadas e vencidas as estirpes nobres e os
seus ideais, como os autênticos instrumentos da cultura; com o
que, no entanto, não se estaria dizendo que os seus portadores
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
representem eles mesmos a cultura. O contrário é que seria não
apenas provável - não! atualmente é palpável! Os portadores
dos instintos depressores e sedentos de desforra, os
descendentes de toda escravatura européia e não européia, de
toda população pré-ariana especialmente eles representam o
retrocesso da humanidade! Esses “instrumentos da cultura” são
uma vergonha para o homem, e na verdade uma acusação, um
argumento contrário à “cultura”! (NIETZSCHE, Genealogia da
Moral, I, § 11).
Conclusão
Conferir a inteligência às máquinas é um sonho que começou na ficção
científica, mas hoje ocupa seriamente aos pesquisadores do campo da inteligência
artificial, sendo previsível que um dia se consiga dotar os robôs de algo muito parecido
com o raciocínio do ser humano; entretanto, caso este objetivo seja alcançado, no
momento em que os robôs adquirirem consciência estarão sujeitos a serem
responsabilizados. No começo deste artigo, fizemos uma citação do trabalho dos
professores do Departamento de Filosofia da Universidade de Pisa (Itália) Adriano
Fabris, Sergio Bartolommei e Edoardo Datteri intitulado “Ética y robótica”; à página 263
da publicação consultada, os autores observam que “Podemos preguntarnos, de
hecho: quién es propiamente responsable de una eventual mala acción realizada por
un robot? ¿El robot o su constructor? ¿El constructor o el programador?”.
Com efeito, esta pergunta remete a um dos “grandes erros”, o do “Livre-
Arbítrio”; quer-se dar “liberdade” a alguém para em contrapartida responsabilizá-lo:
Os homens foram considerados livres para se poder julgá-los e
castigá-los, para se poder declará-los culpados.
Conseqüentemente, toda ação tinha que reputar-se voluntária,
e a origem de todo ato devia supor-se na consciência (pelo que
a falsificação das moedas in psychologicis, por princípio, se
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
erigia da própria psicologia). (NIETZSCHE, O Crepúsculo dos
Ídolos, “Os Quatro Grandes Erros”, § 7)
Logo após se querer dar inteligência a máquinas, cogita-se de lhes dar também
uma “moral”; isto não é outra coisa a não ser um meio de tornar também os robôs
culpáveis, e tão passíveis de sofrer castigos quanto os seres humanos. No mínimo o
morsus conscientiae, que é um castigo que o próprio ente inflige a si mesmo.
Quando os cientistas anunciam a promessa de uma “moral robótica” a ser
programada nos robôs, e que esta “moral” levará em conta as “Três Leis da Robótica”
de Isaac Asimov, podemos nos assegurar de que esta “moral” somente irá trazer para
o campo da robótica a doença instilada pela “moral de escravo” e pelo cristianismo. O
robô moral é um robô cristão, e por isso, doente.
A conclusão a que pretendemos chegar após tudo o que foi dito, é que a “moral
cristã”, que aperfeiçoou ao paroxismo a “moral de escravo”, se reinventa na “moral
robótica”, em que o escravo aqui é ao mesmo tempo um robô que adquire aspectos
humanos, e um homem que assume traços robóticos. Na “moral de escravo”, o ente
mais fraco da relação subverte os valores da parte mais forte, a ponto de torná-la
“culpada” por ser poderosa. A “moral robótica” ultrapassa a “moral de escravo” e
consegue inverter os valores do homem a ponto de substituí-los pelos valores da
máquina.
O medo sentido pelos “robôs”, ainda antes que eles viessem a existir como
realidade presente no mundo teria sua origem no ressentimento, e a “solução” criada
por Isaac Asimov para vencê-lo esconderia o espírito de vingança destinado a
modificar o caráter dos “robôs” (ou seja, todos os homens de espírito livre) não lhes
permitindo que exercitem o seu modo de ser e reneguem a própria força como
condição para serem admitidos na sociedade dos homens reativos.
Por estes motivos, entendemos que as “Três Leis da Robótica” decorreriam da
vontade do homem fraco de mitigar o poder do homem forte, por não poder suportá-lo
diante de si, e que por isso investe contra o seu ser como vingança. Pensamos ainda
Revista Pontes – 2010 – nº 21 – pp. 01-19
ISSN: 1808-6462
que talvez não seja mera coincidência que tenham elas sido enunciadas por um
membro do mesmo povo escravizado que diluiu o poder do Egito, de Roma e de
Babilônia com a sua piedosa submissão a atos normativos pretensamente emanados
de uma divindade e interpretados por clérigos, profetas e moralistas, e que seu surto
tenha ocorrido em um país (os Estados Unidos da América) que hoje representa, em
sua essência, a “alma de igreja” moldada pela cultura do cristianismo.
REFERÊNCIAS
ASIMOV, Isaac. Visões de Robô. Tradução de Ronaldo Sérgio de Biasi. Rio de
Janeiro: Editora Record, 1994.
BÍBLIA SAGRADA, Rio de Janeiro, Sociedade Bíblica do Brasil, 1969.
FABRIS, Adriano, BARTOLOMMEI, Sergio, DATTERI, Edoardo: Ética y robótica,
traduzido do italiano para o espanhol por Daniel Buraschi Bresadola e publicado em
Eikasia. Revista de Filosofia, año III, 19 (julio 2008) páginas 257-267.
KANT, Immanuel. Crítica da Razão Prática. Tradução de Valerio Rohden. São Paulo:
Martins Fontes, 2002.
NIETZSCHE, Friedrich. Sämliche Werke. Kritische Studienausgabe. Edição
organizada por Giorgio Colli e Mazzino Montinari. 15 Vols. Berlim: Walter de Gruyter,
1967-1978.
______. Além do Bem e do Mal. Prelúdio de uma Filosofia do Futuro Tradução, notas e
posfácio de Paulo César de Souza. São Paulo: Companhia das Letras, 1992.
______. Genealogia da Moral: uma Polêmica. Tradução, notas e Posfácio de Paulo
César de Souza. São Paulo: Companhia das Letras, 1998.
______. Assim Falou Zaratustra: Um Livro Para Todos e Para Ninguém. Tradução:
Pietro Nassetti. São Paulo: Editora Martin Claret, 1999.
______. O Crepúsculo dos Ídolos – ou A Filosofia a Golpes de Martelo . Tradução de
Edson Bini e Márcio Pugliesi. São Paulo: Hemus, 2001.
______. A Vontade de Poder. Tradução de Marcos Sinésio Pereira Fernandes e
Francisco José Dias de Moraes. Rio de Janeiro: Contraponto, 2008.


Comentários

O que você achou deste texto?        Nome:     Mail:    

Comente: 
Perfil do Autor Seguidores: 489Exibido 644 vezesFale com o autor