• 8 de julho de 2020

Assassinar um robô é homicídio?

 Assassinar um robô é homicídio?

Por Vitor da Matta Vivolo


Uma bola de vôlei tornou-se famosa em 2001, co-estrelando o filme Náufrago ao lado de Tom Hanks. A ficção cinematográfica nos revelava um homem desesperado por contato humano, após atracar solitariamente em uma ilha, que acaba por desenhar um rosto no objeto esportivo e desenvolver laços de amizade com o mesmo. Batizando-a de Wilson, uma das cenas de dramaticidade do filme se dá quando a bola se perde em mar aberto, fazendo com que seu companheiro sinta remorso por tê-la tratado mal ou abandonado.

É um costume humano a projeção de traços antropomórficos em objetos, sendo visível desde a infância. Não é raro encontrar crianças extremamente apegadas a seus brinquedos, tratando-os como seres conscientes, capazes de sentir prazer, fome, saudade, dor e tristeza. Especula-se que tais exercícios são formas de aquisição de comportamentos,  experimentações em papéis sociais oferecidos pela sociedade que as circunda.

Curiosamente, com o avanço cada vez mais iminente da tecnologia, podemos perceber também a atribuição de humanismo às máquinas à nossa volta. Quantas vezes já não ouvimos que a culpa de algum erro não seria de alguém, mas de um computador? Que algum eletrodoméstico “não está colaborando” ou “não quer funcionar”? Até mesmo pessoas extremamente apegadas a seus celulares, tratando-os carinhosamente… Carros e motos sendo batizados por seus donos… Tais atitudes não seriam justamente uma atribuição de características de consciência e/ou reciprocidade afetiva?

Agora, imaginemos um cenário futurístico em que a presença de máquinas sociais, ou seja, robôs, é inevitável. O advento de androides ou seres de traços humanoides não são novidade aos adeptos da ficção científica. Desde filmes como 2001: Uma Odisséia no Espaço, Blade Runner ou A.I.: Inteligência Artificial, somos questionados sobre o fatídico papel social das máquinas num futuro não tão distante. Isaac Asimov, um dos autores pilares da ficção científica, inclusive elaborou as famosas três leis da robótica, com o objetivo de regular o comportamento robótico-social porvir:

1ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.

2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.

3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Robôs são geralmente representados como inimigos no futuro da humanidade, capazes de maior resiliência por serem inorgânicos ou incapazes de discernir julgamentos morais com a “clareza humana”. Essa abordagem, no entanto, nos conduz inevitavelmente a cenários em que tais criaturas mecânicas são vistas somente como ferramentas malignas nas mãos de seus criadores e operadores. Sendo assim, caso um robô cometesse um crime, geralmente, os primeiros a se culpar seriam os humanos responsáveis.

Gabriel Hallevy (2015), estudioso da área da justiça criminal, na obra “Liability for Crimes Involving Artificial Intelligence Systems” (“Responsabilidade por Crimes Envolvendo Sistemas de Inteligência Artificial”, em tradução livre) nos relata um caso de 1981, no qual um funcionário de 37 anos de uma fábrica de motos japonesa foi assassinado por um robô dotado de inteligência artificial. O “assassino”  – aqui permanece a dúvida de envolver este adjetivo entre aspas ou não – havia considerado o humano uma ameaça à tarefa programada em seu sistema, calculando que a forma mais eficiente de resolver o problema seria empurrá-lo em uma máquina adjacente. O robô possuía um forte braço hidráulico, esmagando o empecilho de sua missão e matando-o instantaneamente. Logo em seguida, retomou suas atividades, como se nada houvesse ocorrido.

Como podemos ver, tanto no campo da ficção quanto da realidade, robôs assassinos são uma discussão recorrente. Gostaria então de reverter os papéis. E se as vítimas de um assassinato fossem as próprias máquinas? É possível discutirmos tal cenário num campo de legalidade sem que o tomemos como mero atentado a “bens materiais”? Um robô pode ser protegido legalmente de ser torturado ou morto? Esta foi a questão posta por Kate Darling, especialista e pesquisadora do MIT Media Lab, num workshop genovês em fevereiro de 2013.

Darling reuniu um grupo de adultos em uma sala e fez com que pudessem interagir com dinossauros mecânicos chamados Pleo, cujo público alvo é originalmente o infantil. Após uma hora de brincadeiras, a pesquisadora distribuiu facas e machadinhas, ordenando que os donos desmembrassem seus amigos mecânicos. Não houve reação. Diz-se então que, caso não desejassem destruir seus próprios Pleos, poderiam escolher suas vítimas das bancadas dos colegas. Novamente, nenhuma obediência da plateia. Darling então injetou maior tensão, dizendo que ao menos um dinossauro deveria ser sacrificado em nome da equipe, ou todos seriam dizimados e torturados. Relutante, um homem tomou a frente do grupo e decepou seu robô com uma machadinha. A sala caiu em silêncio absoluto, horrorizada pelo suposto ato brutal.

O embate psicológico sofrido pelos voluntários remonta uma discussão bastante similar à proteção aos animais. Debate esse, inclusive, que advém do XVII, quando René Descartes polemizou o campo da filosofia dizendo que animais nada mais são que autômatos – seres providos de movimento mas nenhuma consciência -, visto que o ser humano é o único animal capaz de ser consciente e intelectual. Hoje em dia, após séculos de furor público, a posição mais aceitável é claramente oposta. Animais são seres sociais e providos de traços comportamentais humanos aos olhos públicos: afetivos, leais, suscetíveis a dor e sofrimento.

Aparentemente, o futuro reserva o mesmo campo de projeções aos robôs, incitando até mesmo movimentos de cientistas que defendem que os mesmos devam ser construídos de maneira a mostrar seus circuitos e engrenagens. Assim, diminui-se o “risco” de seus usuários lhes dotarem de humanidade indevida.

Especulemos então a seguinte questão: assassinar um macaco pode ser considerado homicídio? Conforme observamos no artigo sobre o desenvolvimento da proibição contra crueldade aos animais no século XIX (veja aqui), a agonia sentida ao imaginar tal ato se dá pela suposta proximidade biológica ativada em nosso senso de moralidade. Animais são “praticamente humanos” aos nossos olhos. Imaginemos, então, um salto histórico para uma época em que robôs circulem livremente na sociedade, “sentindo” e “pensando” da maneira mais “humana” possível… Não consideremos máquinas como geladeiras, torradeiras ou ventiladores, mas sim formas capazes de emular os traços humanos: sorrir, abraçar, fazer companhia (seres similares a Robin Williams no filme O Homem Bicentenário). Você seria capaz de assassinar um robô? Seria chocante observar um ser mecânico, humanoide, desmembrado numa calçada pública?

Obviamente não somos capazes de prever o futuro, mas o momento em que tais questões serão crucialmente discutidas está próximo. Na realidade, algumas respostas já foram por nós formuladas mesmo que inconscientemente. Lembram-se do filme Toy Story? Você chorou ao ver os brinquedos, seres inanimados, expressarem suas tristezas e saudades, seus laços emocionais com Andy?

Fique tranquilo, então. Você provavelmente não assassinaria um robô.

_Colunistas-VitorMatta

Ilustração por Thiago Mendes

Vitor da Matta Vivolo

Historiador. Mestrando em História. Pesquisador com ênfase no Século XIX e Belle Époque.