Frankenstein e I.A: O temor das criações perpetuado pelas obras de ficção

Com esse trabalho proponho uma aproximação entre a Inteligência Artificial e a criatura do Dr. Viktor Frankenstein. Embora um esteja inserido na obra de ficção da autora Mary Shelley e a outra faça cada vez mais parte de nossas vidas, ambos são criações do ser humano e causam espanto, repulsa ou medo. Percebe-se que quanto mais esses objetos ou criaturas aproximam-se da  aparência humana, maior a aversão é demonstrada. O medo do desconhecido, do que ainda não entendemos completamente, pode ser facilmente notado ao assistir obras como Matrix (1999), Eu, Robô (2004), Ex – Machina (2014) , Vingadores: Era de Ultron (2015) e 2001: Uma Odisséia no Espaço (1968). 

Frankenstein ou o Prometeu moderno, abreviado para Frankenstein, é o romance gótico da autora inglesa Mary Shelley publicado em 1818. Para termos um melhor entendimento, é necessário explicar quem é Prometeu e como o mesmo se encaixa no tema, tanto da brilhante autora, quanto desta pesquisa. Ao tratar de mitologia grega, é importante frisar que inúmeras variações são disseminadas, não necessariamente tendo uma “certa” ou “errada”. Assim, introduzo brevemente a história do deus Prometeu (significa premeditação), aquele que contrariando Zeus, rouba o fogo das forjas do Olimpo e o entrega aos humanos. Como resposta por sua desobediência e traição, o titã é castigado severamente. Sua punição eterna consiste em ser amarrado em uma rocha com correntes produzidas pelo deus do fogo, dos ferreiros, artesãos, escultores e metais, Hefesto, e ter uma águia (ou abutre, em outras versões) comendo seu fígado, que regenerava-se diariamente.

Na obra, o ambicioso estudante Victor Frankenstein deseja desafiar os limites das ciências e dar vida a um ser através de partes de corpos de diferentes pessoas para atingir seu objetivo. Assim que sua experiência é finda, ocorre o “nascimento”, seguido pelo contato com a criatura. O jovem se arrepende de sua criação como pode-se perceber no trecho “Percebi, enquanto chegava perto de mim (odiosa visão!), que era o desgraçado criado por mim” (SHELLEY, 1818, p.81). Abandonado logo por seu criador, o monstro se vê obrigado a continuar sua trajetória sem auxílio de ninguém, já que todos temem sua aparência e o julgam perigoso. Dessa forma, experienciou pela primeira vez vivências humanas como fome, frio, dor, medo e rejeição, situações estranhas à ele. 

Cena do filme Frankenstein de 1931.

A solidão e isolamento, além da reação extrema de todos que o encontravam, até mesmo de seu próprio criador, fez que a criatura desejasse uma companhia igual à ele. Por essa razão, em um de seus encontros, pede a Victor que faça outra criatura para que viva com ele em um local longe do resto da sociedade e clama “Está em tuas mãos decidir se deixarei para sempre a proximidade dos homens e levarei uma vida inofensiva ou se me tornarei o flagelo de teus semelhantes e o autor de tua rápida ruína” (SHELLEY, p.83). Completamente sozinho, teve que aprender, por meio da observação, os comportamentos humanos. Dessa forma descobre a música, além de interpretar os sentimentos dos seres humanos e aprender o idioma falado pelos moradores do chalé próximo de onde se abrigava, o que fica explícito na passagem: 

Descobri que aquela gente dispunha de um método de comunicar experiências e sentimentos uns aos outros, por meio de sons articulados. Percebi que as palavras que diziam produziam ora prazer, ora dor, ora sorrisos, ora tristeza, na mente e nos rostos dos ouvintes […] Esta leitura confundira-me no começo, mas aos poucos descobri que ele pronunciava muitos sons que eram os mesmos quando lia e quando falava. Supus, portanto, que ele encontrasse no papel sinais para a fala sinais que ele compreendia e que eu desejei  ardentemente compreender  também; mas como isso era possível, se eu nem sequer entendia os sons para os quais eles serviam de signos? Fiz, porém, progressos consideráveis nessa ciência, mas não o suficiente para acompanhar todo tipo de conversa (…) (SHELLEY.  p. 109-110).

Nesse ponto uma aproximação pode ser feita com a avançada tecnologia de HAL 9000 no longa metragem 2001: Uma Odisseia no Espaço, onde a máquina aprende a ler os lábios dos passageiros da nave para agir antes que os mesmos tivessem a oportunidade de agir contra ele. Machine Learning, ou aprendizado de máquina, um método muito utilizado em aplicativos de viagem e mecanismos de busca, é uma tecnologia que permite que os computadores aprendam a dar as respostas esperadas por meio dos resultados anteriores através da associação de dados. 

Cena do filme 2001: Uma odisseia no espaço

No filme, o computador HAL 9000 acredita que suas decisões sejam melhores, mais inteligentes do que as escolhas feitas pelos tripulantes humanos, o que resulta numa disputa pelo controle da missão. É relevante mencionar que não é possível ter certeza do que uma máquina aprendeu com o conteúdo que lhe foi dado, “Mesmo um sistema que parece ter um desempenho espetacular em treinamento pode fazer previsões terríveis quando apresentado dados inéditos do mundo” (CRAWFORD, p.04). Talvez seja justamente tal afirmação que cause tamanho desconforto nas pessoas porque, teoricamente, alguém poderia criar um robô assassino que se ache superior aos seres humanos como é representado nas obras de ficção. 

Ao abordar a I.A, Crawford (2021) argumenta que a mesma não é nem “inteligente” e nem “artificial”, uma vez que é feita de materiais, recursos naturais e montada, construída por alguém, além de não poder ser comparada à inteligência dos seres humanos; caso fosse, usaríamos em decisões de alto risco como em casos médicos ou justiça criminal, por exemplo, em outras palavras, a máquina só “pensa” porque as informações já estavam disponíveis para a mesma. Como podemos perceber, não apenas Machine Learning, mas o avanço tecnológico e a Inteligência Artificial ainda causam receio e choque em parte da sociedade. Em relação a tecnologia de forma geral, entende-se que essa característica da relação tenha se iniciado com a  Revolução Industrial e o receio do desemprego estrutural, assim como a adaptação a esse novo mundo e o medo da chegada da modernidade que era expressado constantemente nos jornais (SINGER, 2004).

Esse temor de uma iminente revolução das máquinas, com objetivo de exterminar a humanidade, é a realidade em Vingadores: Era de Ultron. Quando o gênio Tony Stark, com a ajuda do colega de equipe Bruce Banner, planeja criar uma Inteligência Artificial (Ultron) capaz de proteger todo o planeta de ameaças extraterrestres, o primeiro posicionamento do cientista é “você vai investir em inteligência artificial e não vai avisar a equipe?”, já demonstrado uma preocupação com os possíveis resultados do projeto. Ao desenrolar da narrativa, a nova inteligência criada por Stark tem acesso a todas as informações do mundo, todas os históricos de guerras, doenças, documentos sigilosos e dossiês. Ultron faz uma análise desses dados e decide que a melhor solução seria acabar com a humanidade, o que assemelha-se de certa forma ao sentimento de desesperança da criação de Victor, quando alega que  “(…) mas quanto mais aprendia, maior era a angústia” (SHELLEY, p.96). 

Tradução: Agora estou livre, não há mais cordas em mim.

Tais avanços tecnológicos que culminam em uma revolução das máquinas ou numa realidade distópica aterrorizante, como vemos na série Black Mirror, representados em elementos da cultura pop reverberam em notícias  e comentários sensacionalistas. Apenas neste ano tivemos o caso onde um dispositivo da Amazon (conhecido como Alexa) instruiu uma menina de 10 anos a inserir uma moeda juntos aos pinos do carregador enquanto o mesmo estava conectado a tomada ou quando o instituto americano Engineered Arts  apresentou o robô humanoide mais avançado do mundo, Ameaca (muitas piadas com a palavras “ameaça” também foram reproduzidas), comentários elogiosos foram feitos em relação à tecnologia mas por outro lado, comentários parecidos  como “temos que parar de brincar de Deus”, “estamos perto do fim da humanidade” e “vocês nunca assistiram Eu, robô?” são comuns. 

Ainda sobre o medo da superação do maquinário em relação à humanidade, no capítulo O homem pós-orgânico, é abordado o sociólogo português Hermínio Martins no contexto de uma tecnociência que tem como objetivo ultrapassar a condição humana. Na primeira parte do segundo capítulo do livro é levada em consideração a genealogia de relações de poderes do filósofo Foucault e entende-se a existência de dispositivos de poder e forma de saber e que esse duo permeia todas as relações em nossa sociedade. Nota-se que a correspondência entre poder e conhecimento é a responsável por diferentes mecanismos de  poder. 

A seguir, tratando de tecnociência, o autor faz uso das figuras de Fausto e Prometeu ao citar mitos ocidentais que englobam a fascinação e o medo que acompanham o desenvolvimento do conhecimento. Sob a perspectiva de Martins, na tradição prometéica o caráter libertador do conhecimento científico é visado, assim como o desejo de uma melhor condição de vida através da tecnologia, que é alcançada por causa da dominação da natureza. Tal tradição encontra-se em decadência, uma vez que a tradição fáustica vem tomando seu lugar com as premissas de desmentir e questionar a ingenuidade do projeto anterior. Agora os experimentos científicos teriam como objetivo principal o entendimento dos fenômenos a fim de estudá-los e prová-los, obtendo o controle sobre os mesmos. 

Retornando a Prometeu, o autor cita a obra de Mary Shelley e comenta que estudiosos da mesma mencionaram a época em que a obra foi produzida era repleta de experiências científicas, uma delas sendo o galvanismo, que consistia na aplicação de correntes elétricas em tecido vivo. Durante esse período fica evidente a fascinação em relação à vida e a morte, à criação de vida, o que não diverge completamente dos dias atuais, uma diferença que deve ser levada em consideração é que, graças aos avanços da  tecnologia, biologia e medicina, uma melhor compreensão foi alcançada em assuntos que em outrora eram desconhecidos e muitas vezes explicados através de mitos ou crenças. 

É interessante notar que apesar dessa mudança, vimos que atualmente os “mitos e crenças”, mencionados anteriormente, encontram-se nos roteiros de filmes, séries e notícias que são disseminados pelas mídias, mesmo alguns sendo claramente obras de ficção, não impedem que um pensamento ou sentimento de medo e desconfiança seja plantado nos telespectadores. Acumulando os valores que já haviam se estabelecido desde a Revolução Industrial com a representação contemporânea da tecnologia e principalmente a I.A como vilã, entende-se o ciclo estabelecido entre o público que tem interesse em consumir esse tipo de conteúdo e o mercado que continua a reproduzi-lo, o que tem como consequência a manutenção do medo de novas formas de tecnologia.  

Bibliografia: 

2001, UMA ODISSEIA NO ESPAÇO. Direção: Stanley Kubrick. Metro-Goldwyn-Mayer e Stanley Kubrick Productions. Estados Unidos: Metro-Goldwyn-Mayer, 1986. 

CRAWFORD, Kate. ATLAS OF AI: power, politics, and the planetary costs of artificial intelligence. Traducao . [s.l.] YALE UNIVERSITY PRESS, 2021.

SHELLEY, Mary. Frankenstein. Coleção L&M POCKET. Porto Alegre, RS; 1997.

SIBILIA, Paula. O Homem Pós Orgânico: Corpo, subjetividade e tecnologias digitais. Relume Dumará. Rio de Janeiro, 2002. 

SINGER, Ben. Modernidade, hiperestímulo e o início do sensacionalismo popular. In.: CHARNEY, Leo R.; SCHWARTZ, Vanessa (org). O cinema e a invenção da vida moderna. Trad Thompson, Regina. São Paulo: Cosac & Naif Edições, 2001. p. 95-123.

VINGADORES: A ERA DE ULTRON. Direção: Joss Whedon. Estados Unidos: Walt Disney Studios Motion Pictures, 2015. Disney Plus.