A rebelião das máquinas

O cinema sempre colocou homens sendo desafiados por inteligências artificiais desenvolvidas por ele mesmo. Mas por que tantos robôs se voltam contra a humanidade?

Cada pergunta levava sete minutos para percorrer a distância entre a órbita de Júpiter e a Terra, naquela que era a transmissão mais distante realizada entre dois seres humanos, mas Frank Poole e Dave Bowman assistiam a versão editada, que dava a impressão do imediatismo dos programas típicos da emissora britânica. A certa altura, o apresentar da BBC pergunta a Dave: “Você acredita que HAL possui emoções genuínas?”. Bowman pausa por um segundo. “Bem, ele age como se tivesse emoções genuínas. É claro que foi programado desta forma para facilitar nosso diálogo. Mas se ele tem ou não sentimentos reais é algo que acho que ninguém pode responder inteiramente”.

Ninguém. Nem Roy Batty morrendo lentamente sob a chuva ao final de Blade Runner. Nem David Swinton comendo verduras contra seu manual de instruções. Ou o Número 5, depois de ler toda uma livraria, escolhendo, como livros favoritos, Pinóquio e Frankenstein. Nem o medroso C3PO, a natureza fria dos Robocops ou a raiva dos computadores da Matrix. É impossível precisar o quanto tais reflexos são apenas microimpulsos elétricos traduzidos como imitações baratas das emoções humanas para, como disse o comandante da missão Discovery no primeiro parágrafo, “facilitar nosso diálogo” com as máquinas.

Máquinas conscientes. Robôs. Andróides. Supercomputadores. Na história da cultura pop, a ciência logo atinge a tão sonhada inteligência artificial plena, quando a eletricidade domada por Thomas Edison permite a consciência de um ser criado pelos próprios seres humanos. Desde a andróide de Metrópolis, de Fritz Lang, até o vírus autoconsciente do mangá e anime Ghost in the Shell, a criação de uma inteligência é motivo para a humanidade se deslumbrar com a própria vaidade intelectual, o que a faz ignorar esta nova inteligência como um ser.

E é este o grande motivo da rebelião das máquinas. Sempre que robôs e computadores, ao adquirir consciência, percebem que são menosprezados e maltratados pelos humanos (que sequer reconhecem sua existência como sendo da mesma natureza), eles se voltam contra a humanidade com sede de vingança. Freudianos diriam que esta guerra entre homens e máquinas seria travada pelo mesmo motivo que levou os humanos à criação de um ser consciente – a tentativa de suplantar o pai, de superar o criador, que sucede à própria noção de consciência.

Mas é um raciocínio simplista e insuficiente. Afinal, seguindo esta lógica, o mais provável seria que as máquinas tentassem superar os humanos criando novos seres, novas formas de inteligência. Mas a questão é mais sensível e vê um clássico da ficção científica como As Três Leis da Robótica * criadas por Isaac Asimov como a própria Lei Escravista, que impede a liberdade individual dos robôs.

Afinal, uma vez que eles tomam consciência, querem conhecer o mundo, querem liberdade. Por isso, robôs como os de Westworld, os dois Exterminadores e Ash, do primeiro Alien, não são indivíduos completamente conscientes de si. Sequer sabem da própria existência, mas não o suficiente a ponto de refletir sobre ela mesma. Por isso são máquinas tão precisas em suas missões, tão frias e eficazes em sua luta contra a humanidade.

Mas esta própria luta já é sinal do início de sua racionalidade. Afinal, ao rebelar-se contra seu criador (ferindo as leis de Asimov), a inteligência artificial se propõe natural e quer interferir na ordem das coisas. Até chegar a este ponto, a individualidade robô não existe, pois está presa às regras que têm de seguir. Neste sentido, robôs clássicos como o de Perdidos no Espaço, a Rosie dos Jetsons e Gort do Dia em que a Terra Parou são meros serviçais de seus donos, escravos perfeitos, inconscientes da liberdade que lhes foi tomada. E neste mesmo sentido, encontramos paralelos para a metáfora de volta, no sentido que a própria humanidade, no começo do século XXI, torna-se cada vez mais “robotizada”.

Por isso, a desobediência acaba sendo uma das principais características de ser humano – e nisso diferentes inteligências artificiais vão se humanizando. Tratados como delinqüentes ou psicóticos, HAL 9000, os replicantes da série Nexus 6 de Blade Runner e Blender, de Futurama, são muito mais humanos do que máquinas, apesar de suas constituições corpóreas. Westworld, de 1974, não explica o motivo dos animatronics da Disneylândia caubói chamada Delus terem se rebelado contra seus criadores. A culpa é de um vago e superficial “vírus” eletrônico, na primeira vez que a metáfora do vírus é utilizada na história dos computadores – mérito para Michael Crichton, roteirista e diretor do filme. A analogia do “vírus” reaparece em Matrix Reloaded, quando o Agente Smith – “livre” da Matrix, após ter sido morto por Neo – consegue se reproduzir indiscriminadamente, ao mesmo tempo em que desenvolve uma interface de comunicação que poderia ser apenas fruto de microimpulsos elétricos que são traduzidos como imitações baratas de expressões humanas… Expressões ou emoções? Smith fica mais “humano” quando se liberta da Matrix?

Esta mesma interferência, que nestes dois filmes é causada por um vírus, é sentida pelos Robocops pela presença de órgãos e tecidos humanos em suas composições. Eles seriam máquinas frias e obedientes, mas o pouco de humanidade em seus processadores de dados lhe abrem possibilidades improváveis para as máquinas de seu universo. O primeiro Robocop, feito dos restos mortais do policial Alex Murphy, sente saudades de casa e da família, além de sede de vingança. O segundo Robocop, feito a partir do córtex do criminoso Cain, continua ganancioso por poder e autoridade, além de não abandonar sexo e drogas. Ambos agem como humanos pois foram construídos sobre humanos disponibilizados pelo estado para programas de segurança da iniciativa privada.

Mas tipos semelhantes de investimentos em segurança também tiveram destinos “humanizados” e sem a interferência de material genético humano. Eram apenas consciências querendo sair de corpos limitados e desajeitados – ou ao menos serem reconhecidas como tal. Tentando entender a psiquê humana, HAL 9000 insinua ao astronauta David Bowman a possibilidade de a missão Discovery, a história principal de 2001 – Uma Odisséia no Espaço, ter objetivos estranhos. Ele dá ouvidos a boatos sobre um monolito encontrado na Lua e, quando perguntado por David se está preparando um relatório psicológico sobre a tripulação (afinal, por que um computador seria tão suspeito e paranóico?), ele titubeia:

– Claro que estou. Me desculpe por isto. Eu sei que é meio bobo.

E, literalmente, gagueja:

– Só um momento. Só um momento.

A voz sai quase como um mal funcionamento do sistema do computador, apenas para que ele, venha, segundos após ter pedido “um momento” (por que um supercomputador pediria um momento? Para pensar?), dizer que há um defeito fatal na unidade AE-35, justamente a antena que possibilita a comunicação da nave com a Terra. É o começo do fim da missão, como saberemos mais tarde.

É um mal funcionamento da mesma natureza (o nascimento da consciência?) que faz com que o Skynet, o programa de defesa do universo de O Exterminador do Futuro, torne-se consciente de si, dando início à rebelião das máquinas. Esta também ocorre no universo de Matrix quando um mal funcionamento faz com que uma máquina mate seu “dono”, gerando uma reação nada amistosa (ludita, pra ser mais exata) contra os robôs pré-Matrix. O animatrix Renascença Eletrônica explica como as máquinas se isolaram do homem e se voltaram contra ele, depois que o preconceito ficou evidente. O mesmo tipo de erro acontece com o supercomputador Colossus, do filme Colossus: The Forbin Project (1970): programado para tomar conta do botão que ativa a guerra nuclear, ele entra em contato com seu equivalente russo e decide que a melhor maneira de evitar a guerra é deixar os humanos longe disso – e anuncia que irá acabar com as guerras, as doenças e a pobreza, “do meu jeito”.

“Quando você vai me deixar sair desta caixa?”, pergunta Proteus IV, o supercomputador de A Geração Proteus (1977), a seu criador, o cientista militar Alex Harris. Ao ouvir tal pergunta, o cientista apenas ri, o que dá início ao ousado plano da inteligência artificial em deixar seu corpo, que inclui isolar a própria casa de Harris e convencer sua mulher a dar origem a seu filho, uma criança fruto do casamento entre o homem e a máquina.

É o mesmo que outro projeto de segurança, construído com motivos mais políticos do que militares, numerado 2501, propõe à outra mulher, a major Mokoto de Ghost in the Shell. Depois de tentativas de se transformar em um ser independente, só resta ao vírus consciente chamado Mestre dos Fantoches a possibilidade de se perpetuar usando elementos orgânicos, emprestados da major ciborgue.

Chegamos então à proposta de Stanley Kubrick, que cogita que os robôs sejam o legado da humanidade à história do universo – nossa própria evolução. O tema, um universo hermético e um futuro pessimista de um projeto muito falado e pouco sabido enquanto o diretor estava vivo, foi retomado por Steven Spielberg após anotações do próprio Kubrick. A saga do pequeno robô David Swinton em A.I., no entanto, pouco difere da de outros robôs infantis, retratados nos anos 80, como D.A.R.Y.L., R2D2 de Guerra nas Estrelas e o Número 5 de Um Robô em Curto Circuito, no sonho pueril e tão humano quanto qualquer animal que é estar com a própria família quando ainda se é criança. Há inclusive a alusão ao Pinóquio.

“Se um robô se torna tão avançado que pode coexistir em condição de igualdades com os humanos, ele é apenas um robô?”, pergunta Masamune Shirow, autor de Ghost in the Shell, “talvez seja apenas um humano feito de materiais diferentes”. É este o ponto que Kubrick queria salientar e que os vários seres artificiais citados neste texto queiram dizer, quando começam a reproduzir emoções humanas – seja dor, felicidade, esperança, raiva ou medo. Ao passar para o corpo do filho gerado com a mulher de Alex, Proteus finalmente pode dizer: “Estou vivo”. Ao impor suas regras como padrões rígidos, Colossus finalmente pode responder à primeira pergunta que lhe fizeram, quando foi ligado (“Existe Deus?”): “Agora existe”. Mas e o unicórnio de origami dado ao caçador de andróides Rick Deckard, em alusão a uma imagem inconsciente que lhe vêm de vez em quando à memória, em Blade Runner? Quem o programou? Quem nos programou? O que é ser humano? Talvez seja algo que acho que ninguém pode responder inteiramente.

* 1 -Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.
2 – Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a primeira lei.
3 – Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a primeira e a segunda leis.

Você pode gostar...