O cinema sempre colocou homens sendo desafiados por inteligências artificiais desenvolvidas por ele mesmo. Mas por que tantos robôs se voltam contra a humanidade?
Cada pergunta levava sete minutos para percorrer a distância entre a órbita de Júpiter e a Terra, naquela que era a transmissão mais distante realizada entre dois seres humanos, mas Frank Poole e Dave Bowman assistiam a versão editada, que dava a impressão do imediatismo dos programas típicos da emissora britânica. A certa altura, o apresentar da BBC pergunta a Dave: “Você acredita que HAL possui emoções genuínas?”. Bowman pausa por um segundo. “Bem, ele age como se tivesse emoções genuínas. É claro que foi programado desta forma para facilitar nosso diálogo. Mas se ele tem ou não sentimentos reais é algo que acho que ninguém pode responder inteiramente”.
Ninguém. Nem Roy Batty morrendo lentamente sob a chuva ao final de Blade Runner. Nem David Swinton comendo verduras contra seu manual de instruções. Ou o Número 5, depois de ler toda uma livraria, escolhendo, como livros favoritos, Pinóquio e Frankenstein. Nem o medroso C3PO, a natureza fria dos Robocops ou a raiva dos computadores da Matrix. É impossível precisar o quanto tais reflexos são apenas microimpulsos elétricos traduzidos como imitações baratas das emoções humanas para, como disse o comandante da missão Discovery no primeiro parágrafo, “facilitar nosso diálogo” com as máquinas.
Máquinas conscientes. Robôs. Andróides. Supercomputadores. Na história da cultura pop, a ciência logo atinge a tão sonhada inteligência artificial plena, quando a eletricidade domada por Thomas Edison permite a consciência de um ser criado pelos próprios seres humanos. Desde a andróide de Metrópolis, de Fritz Lang, até o vírus autoconsciente do mangá e anime Ghost in the Shell, a criação de uma inteligência é motivo para a humanidade se deslumbrar com a própria vaidade intelectual, o que a faz ignorar esta nova inteligência como um ser.
E é este o grande motivo da rebelião das máquinas. Sempre que robôs e computadores, ao adquirir consciência, percebem que são menosprezados e maltratados pelos humanos (que sequer reconhecem sua existência como sendo da mesma natureza), eles se voltam contra a humanidade com sede de vingança. Freudianos diriam que esta guerra entre homens e máquinas seria travada pelo mesmo motivo que levou os humanos à criação de um ser consciente – a tentativa de suplantar o pai, de superar o criador, que sucede à própria noção de consciência.
Mas é um raciocínio simplista e insuficiente. Afinal, seguindo esta lógica, o mais provável seria que as máquinas tentassem superar os humanos criando novos seres, novas formas de inteligência. Mas a questão é mais sensível e vê um clássico da ficção científica como As Três Leis da Robótica * criadas por Isaac Asimov como a própria Lei Escravista, que impede a liberdade individual dos robôs.
Afinal, uma vez que eles tomam consciência, querem conhecer o mundo, querem liberdade. Por isso, robôs como os de Westworld, os dois Exterminadores e Ash, do primeiro Alien, não são indivíduos completamente conscientes de si. Sequer sabem da própria existência, mas não o suficiente a ponto de refletir sobre ela mesma. Por isso são máquinas tão precisas em suas missões, tão frias e eficazes em sua luta contra a humanidade.
Mas esta própria luta já é sinal do início de sua racionalidade. Afinal, ao rebelar-se contra seu criador (ferindo as leis de Asimov), a inteligência artificial se propõe natural e quer interferir na ordem das coisas. Até chegar a este ponto, a individualidade robô não existe, pois está presa às regras que têm de seguir. Neste sentido, robôs clássicos como o de Perdidos no Espaço, a Rosie dos Jetsons e Gort do Dia em que a Terra Parou são meros serviçais de seus donos, escravos perfeitos, inconscientes da liberdade que lhes foi tomada. E neste mesmo sentido, encontramos paralelos para a metáfora de volta, no sentido que a própria humanidade, no começo do século XXI, torna-se cada vez mais “robotizada”.
Por isso, a desobediência acaba sendo uma das principais características de ser humano – e nisso diferentes inteligências artificiais vão se humanizando. Tratados como delinqüentes ou psicóticos, HAL 9000, os replicantes da série Nexus 6 de Blade Runner e Blender, de Futurama, são muito mais humanos do que máquinas, apesar de suas constituições corpóreas. Westworld, de 1974, não explica o motivo dos animatronics da Disneylândia caubói chamada Delus terem se rebelado contra seus criadores. A culpa é de um vago e superficial “vírus” eletrônico, na primeira vez que a metáfora do vírus é utilizada na história dos computadores – mérito para Michael Crichton, roteirista e diretor do filme. A analogia do “vírus” reaparece em Matrix Reloaded, quando o Agente Smith – “livre” da Matrix, após ter sido morto por Neo – consegue se reproduzir indiscriminadamente, ao mesmo tempo em que desenvolve uma interface de comunicação que poderia ser apenas fruto de microimpulsos elétricos que são traduzidos como imitações baratas de expressões humanas… Expressões ou emoções? Smith fica mais “humano” quando se liberta da Matrix?
Esta mesma interferência, que nestes dois filmes é causada por um vírus, é sentida pelos Robocops pela presença de órgãos e tecidos humanos em suas composições. Eles seriam máquinas frias e obedientes, mas o pouco de humanidade em seus processadores de dados lhe abrem possibilidades improváveis para as máquinas de seu universo. O primeiro Robocop, feito dos restos mortais do policial Alex Murphy, sente saudades de casa e da família, além de sede de vingança. O segundo Robocop, feito a partir do córtex do criminoso Cain, continua ganancioso por poder e autoridade, além de não abandonar sexo e drogas. Ambos agem como humanos pois foram construídos sobre humanos disponibilizados pelo estado para programas de segurança da iniciativa privada.
Mas tipos semelhantes de investimentos em segurança também tiveram destinos “humanizados” e sem a interferência de material genético humano. Eram apenas consciências querendo sair de corpos limitados e desajeitados – ou ao menos serem reconhecidas como tal. Tentando entender a psiquê humana, HAL 9000 insinua ao astronauta David Bowman a possibilidade de a missão Discovery, a história principal de 2001 – Uma Odisséia no Espaço, ter objetivos estranhos. Ele dá ouvidos a boatos sobre um monolito encontrado na Lua e, quando perguntado por David se está preparando um relatório psicológico sobre a tripulação (afinal, por que um computador seria tão suspeito e paranóico?), ele titubeia:
– Claro que estou. Me desculpe por isto. Eu sei que é meio bobo.
E, literalmente, gagueja:
– Só um momento. Só um momento.
A voz sai quase como um mal funcionamento do sistema do computador, apenas para que ele, venha, segundos após ter pedido “um momento” (por que um supercomputador pediria um momento? Para pensar?), dizer que há um defeito fatal na unidade AE-35, justamente a antena que possibilita a comunicação da nave com a Terra. É o começo do fim da missão, como saberemos mais tarde.
É um mal funcionamento da mesma natureza (o nascimento da consciência?) que faz com que o Skynet, o programa de defesa do universo de O Exterminador do Futuro, torne-se consciente de si, dando início à rebelião das máquinas. Esta também ocorre no universo de Matrix quando um mal funcionamento faz com que uma máquina mate seu “dono”, gerando uma reação nada amistosa (ludita, pra ser mais exata) contra os robôs pré-Matrix. O animatrix Renascença Eletrônica explica como as máquinas se isolaram do homem e se voltaram contra ele, depois que o preconceito ficou evidente. O mesmo tipo de erro acontece com o supercomputador Colossus, do filme Colossus: The Forbin Project (1970): programado para tomar conta do botão que ativa a guerra nuclear, ele entra em contato com seu equivalente russo e decide que a melhor maneira de evitar a guerra é deixar os humanos longe disso – e anuncia que irá acabar com as guerras, as doenças e a pobreza, “do meu jeito”.
“Quando você vai me deixar sair desta caixa?”, pergunta Proteus IV, o supercomputador de A Geração Proteus (1977), a seu criador, o cientista militar Alex Harris. Ao ouvir tal pergunta, o cientista apenas ri, o que dá início ao ousado plano da inteligência artificial em deixar seu corpo, que inclui isolar a própria casa de Harris e convencer sua mulher a dar origem a seu filho, uma criança fruto do casamento entre o homem e a máquina.
É o mesmo que outro projeto de segurança, construído com motivos mais políticos do que militares, numerado 2501, propõe à outra mulher, a major Mokoto de Ghost in the Shell. Depois de tentativas de se transformar em um ser independente, só resta ao vírus consciente chamado Mestre dos Fantoches a possibilidade de se perpetuar usando elementos orgânicos, emprestados da major ciborgue.
Chegamos então à proposta de Stanley Kubrick, que cogita que os robôs sejam o legado da humanidade à história do universo – nossa própria evolução. O tema, um universo hermético e um futuro pessimista de um projeto muito falado e pouco sabido enquanto o diretor estava vivo, foi retomado por Steven Spielberg após anotações do próprio Kubrick. A saga do pequeno robô David Swinton em A.I., no entanto, pouco difere da de outros robôs infantis, retratados nos anos 80, como D.A.R.Y.L., R2D2 de Guerra nas Estrelas e o Número 5 de Um Robô em Curto Circuito, no sonho pueril e tão humano quanto qualquer animal que é estar com a própria família quando ainda se é criança. Há inclusive a alusão ao Pinóquio.
“Se um robô se torna tão avançado que pode coexistir em condição de igualdades com os humanos, ele é apenas um robô?”, pergunta Masamune Shirow, autor de Ghost in the Shell, “talvez seja apenas um humano feito de materiais diferentes”. É este o ponto que Kubrick queria salientar e que os vários seres artificiais citados neste texto queiram dizer, quando começam a reproduzir emoções humanas – seja dor, felicidade, esperança, raiva ou medo. Ao passar para o corpo do filho gerado com a mulher de Alex, Proteus finalmente pode dizer: “Estou vivo”. Ao impor suas regras como padrões rígidos, Colossus finalmente pode responder à primeira pergunta que lhe fizeram, quando foi ligado (“Existe Deus?”): “Agora existe”. Mas e o unicórnio de origami dado ao caçador de andróides Rick Deckard, em alusão a uma imagem inconsciente que lhe vêm de vez em quando à memória, em Blade Runner? Quem o programou? Quem nos programou? O que é ser humano? Talvez seja algo que acho que ninguém pode responder inteiramente.
* 1 -Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.
2 – Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a primeira lei.
3 – Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a primeira e a segunda leis.
Citar é fácil
Poetry is for everyone
“Cut-ups are for everyone. Anybody can make cut-ups. It is experimental in the sense of being something to do. Right here write now. Not something to talk and argue about. Greek philoso- phers assumed logically that an object twice as heavy as another object would fall twice as fast. It did not occur to them to push the two objects off the table and see how they fall. Cut the words and see how they fall. Shakespeare Rimbaud live in their words. Cut the word lines and you will hear their voices. Cut-ups often come through as code messages with special meaning for the cutter. Table tapping? Perhaps. Certainly an improvement on the usual deplorable performance of contacted poets through a medium. Rimbaud announces himself, to be followed by some excruciatingly bad poetry. Cut Rimbaud’s words and you are as- sured of good poetry at least if not personal appearance. All writing is in fact cut-ups. A collage of words read heard overheard. What else? Use of scissors renders the process explicit and subject to extension and variation. Clear classical prose can be composed entirely of rearranged cut-ups. Cutting and rear- ranging a page of written words introduces a new dimension into writing enabling the writer to turn images in cinematic variation. Images shift sense under the scissors smell images to sound sight to sound sound to kinesthetic. This is where Rimbaud was going with his color of vowels. And his “systematic derangement of the senses.” The place of mescaline hallucination: seeing colors tasting sounds smelling forms. The cut-ups can be applied to other fields than writing. Dr Neumann in his Theory of Games and Economic Behavior intro- duces the cut-up method of random action into game and military strategy: assume that the worst has happened and act accordingly. If your strategy is at some point determined . . . by random factor your opponent will gain no advantage from knowing your strategy since he cannot predict the move. The cut-up method could be used to advantage in processing scientific data. How many dis- coveries have been made by accident? We cannot produce ac- cidents to order. The cut-ups could add new dimension to films. Cut gambling scene in with a thousand gambling scenes all times and places. Cut back. Cut streets of the world. Cut and rearrange the word and image in films. There is no reason to accept a second-rate product when you can have the best. And the best is there for all. “Poetry is for everyone” . . . ”
O significado extra-terrestre de estar alto
Quando esse quinto “corpo-cérebro” é ativado, configurações planas Euclidianas explodem multi-dimensionalmente. Mudança gestalt, nos termos de McLuhan, do ESPAÇO VISUAL linear para um todo-penetrante ESPAÇO SENSÓRIO. Uma excitação hedonística ocorre, uma surpresa extasiante, um desprendimento dos mecanismos compulsivos dos primeiros quatro circuitos. Eu acionei esses circuitos com maconha e Tantra.
Esse quinto cérebro começou a aparecer cerca de 4.000 anos atrás nas primeiras civilizações que mantiveram uma “classe de lazer” e tem aumentado estatisticamente nos séculos mais recentes (mesmo antes da Revolução das Drogas), um fato demonstrado pelas artes hedonísticas da Índia, China, Roma e outras sociedades influentes. Mais recentemente, Ornstein e sua escola demonstraram com eletroencefalogramas que este circuito representa o primeiro salto do linear lóbulo esquerdo para o analógico lóbulo direito.
A abertura e impressão desses circuito tem sido a preocupação dos “técnicos do oculto” — xamãs tântricos e hatha yogis. Enquanto a quinta realidade-túnel pode ser atingida por privação sensorial, isolamento social, estresse psicológico ou choque brutal (táticas de terror cerimonial praticadas por gurus patifes tais como Don Juan Matus ou Aleister Crowley), tem sido mais tradicionalmente atingida pela aristocracia educada das sociedades de lazer que resolveram os quatro problemas de sobrevivência terrestres.
Cerca de 20.000 anos atrás, o quinto neurotransmissor específico foi descoberto por xamãs na área do Mar Cáspio na Ásia e rapidamente se espalhou por outros magos através da Eurásia e África. É, claro, a cannabis. Erva. Mamãe Maria Joana.
Não é acidental o fato de que o pothead geralmente refere-se a seu estado neural como “alto”, ou “fora do espaço”. A transcendência das orientações planetárias gravitacionais, digitais, lineares, ou Aristotélicas, ou Euclidianas, ou Newtonianas (circuitos I-IV) é, numa perspectiva evolucionária, parte de nossa preparação neurológica para a inevitável migração de nosso planeta natal, hoje em seus primórdios. Esta é a razão pela qual tantos potheads são freaks de Jornada nas Estrelas e adeptos da ficção científica. (Berkeley, California, certamente a Capital da Cannabis dos EUA, tem um Posto de Troca da Federação na Avenida dos Telégrafos, onde o abonado pode facilmente gastar US$500 ou mais num único dia, comprando contos, revistas, bugigangas em geral).
O significado extraterrestre de estar “alto” é confirmado pelo astronautas; 85% daqueles que já entraram na queda livre da gravidade zero descrevem “experiências místicas” de êxtase típicas do circuito neurossomático. “Nenhuma foto pode mostrar quão bela a Terra parecia,” delira o Capitão Ed Mitchell, descrevendo sua Iluminação em queda livre. Ele soa como qualquer yogi ou pothead bem sucedido. Nenhuma câmara pode mostrar essas experiências, já que elas ocorrem dentro do sistema nervoso.
“Queda livre, no momento evolucionário correto, aciona a mutação neurossomática, crê Leary. A princípio essa mutação foi alcançada “artificialmente” por treinamento yogico ou xamânico ou pelo estimulante do quinto circuito, a cannabis. Surfar, esquiar, mergulhar e a nova cultura sexual (massagem sensual, vibradores, arte Tântrica importada, etc.) evoluíram ao mesmo tempo como parte de uma conquista hedonista da gravidade. O estado “ligado” é sempre descrito como “flutuante”, ou na metáfora Zen, “um pé acima do chão.”
Workers of the world, relax!
Leisure is the new currency and your credit has no limit. Relaxation, in its purest form, is an essential component of human creativity. It is the yin to society’s infoglut yang. Wake to the dawning of the age of leisure! Machines have made the need to work obsolete. To continue on is folly. Grab a chair, sit back, and claim what is rightfully yours. Leisure. There is no substitute. You have nothing to lose but your slavery to the opiate of busyness – and the world of leisure to gain!
Wu-Ming não vale um lampião
Arte sem experimentação não é arte. Aliás, um pessoal que gostava muito de exilar experimentalistas era o politburo soviético. Diziam que arte complexa demais visava confundir o proletariado, afastá-lo do caminho para o paraíso comunista. Socializar arte, convenhamos, é ridículo. É um dos poucos territórios onde o que vale ainda é a individualidade. Quanto a achar que artistas não devem se expor à mídia, causa apreensão. Artistas são das poucas pessoas que ainda tem o que dizer em talk shows. E nem todos.
The Heart of Darkness – Joseph Conrad
“I came upon him, and, if he had not heard me coming, I would have fallen over him too, but he got up in time. He rose, unsteady, long, pale, indistinct, like a vapor exhaled by the earth, and swayed slightly, misty and silent before me; while at my back the fires loomed between the trees, and the murmur of many voices issued from the forest. I had cut him off cleverly; but when actually confronting him I seemed to come to my senses, I saw the danger in its right proportion. It was by no means over yet. Suppose he began to shout? Though he could hardly stand, there was still plenty of vigor in his voice. `Go away– hide yourself,’ he said, in that profound tone. It was very awful. I glanced back. We were within thirty yards from the nearest fire. A black figure stood up, strode on long black legs, waving long black arms, across the glow. It had horns–antelope horns, I think– on its head. Some sorcerer, some witch-man, no doubt: it looked fiend-like enough. `Do you know what you are doing?’ I whispered. `Perfectly,’ he answered, raising his voice for that single word: it sounded to me far off and yet loud, like a hail through a speaking-trumpet. `If he makes a row we are lost,’ I thought to myself. This clearly was not a case for fisticuffs, even apart from the very natural aversion I had to beat that Shadow–this wandering and tormented thing. `You will be lost,’ I said–‘utterly lost.’ One gets sometimes such a flash of inspiration, you know. I did say the right thing, though indeed he could not have been more irretrievably lost than he was at this very moment, when the foundations of our intimacy were being laid–to endure– to endure–even to the end–even beyond.
McDonald’s recebe um trote e constrange clientes cegos
A rede de lanchonetes McDonald’s sofreu um dos trotes mais silenciosos da história. No último final de semana, um cliente cego que escolhia sua refeição na filial de um shopping da zona sul carioca fez um escândalo dizendo que nunca tinha visto tamanho desrespeito e começou a agredir verbalmente os atendentes. Apenas depois de ter sido acalmado pelo gerente da lanchonete, o deficiente visual explicou que estava revoltado porque o menu em braile exposto na loja continha vários palavrões e insultos.
Espantado com a denúncia, o responsável pela filial enviou o menu para a sede da empresa em São Paulo, onde constatou-se que realmente todo o texto padrão havia sido modificado e que o mesmo continha várias palavras de baixo calão. Imediatamente a direção da empresa providenciou o recolhimento de todos os menus em braile expostos em seus 1200 pontos de venda no país.
“Certamente isto foi uma brincadeira de mal gosto de algum funcionário da empresa que “traduz” e imprime os nossos menus em braile. Já estamos apurando o fato e processaremos os responsáveis”, declarou Ronaldo Ferreira, gerente de relações públicas do McDonald’s. Ninguém soube enumerar quantos clientes cegos teriam lido os insultos, mas o número não deve ser pequeno, pois os menus ficaram expostos durante um período de quase 2 meses. O prejuízo decorrente do recolhimento, destruição e impressão de novos menus ficou em torno de 15 mil Reais.
Dr. Livingstone, I prosume
We are not currently in Toffler’s third wave; we are still in transition between the second and third waves, and that is why the implications of the transformation are not immediately obvious.
Just as knowledge is replacing material and manpower as the fulcrum of the new economy, the old roles of producer and consumer are blurring. In the case of Windows 95, which anyone with a disk drive can duplicate as well as GM made Cadillacs, those roles have lost much meaning. The Tofflers have come up with a word that describes the blurred role we all play: prosumer.
As prosumers we have a new set of responsibilities, to educate ourselves. We are no longer a passive market upon which industry dumps consumer goods but a part of the process, pulling toward us the information and services that we design from our own imagination.
It is a version of capitalism that colonial economics (“There’s a sucker born every minute”) never envisaged. In the third wave, the prosumer is always right.