Isaac Asimov pode ser considerado um dos maiores escritores de ficção cientifica hard da história, que é aquele tipo de ficção que tem mais interesse no detalhe, na precisão científica. Juntamente com Arthur C. Clarke, autor de “2001: Uma Odisseia no Espaço”, e Robert A. Heinlein, criador de “Tropas Estelares”, ele é parte dos “Grandes Três” desse gênero de literatura e contribuiu muito para a criação da maioria dos estereótipos sobre robótica e inteligência artificial.
Asimov nasceu em uma vila chamada Petrovichi, na época na União Soviética, hoje Rússia, em 1920. Sua família emigrou para os Estados Unidos quando ele tinha apenas três anos de idade e com 11 ele já escrevia suas próprias histórias. Entre suas obras mais famosas estão a trilogia “Fundação”, “Eu, Robô”, “O Fim da Eternidade” e diversos contos, entre eles “O Homem Bicentenário”.
Isaac Asimov
As Três Leis da Robótica de Asimov
Essas regras deveriam ser implantadas no mais profundo nível das mentes robóticas
Uma das coisas que mais serviu como base para outras obras de ficção – e mais recentemente até para a realidade – e que foi invenção de Asimov são as famosas Três Leis da Robótica. Esse conjunto de regras apareceu pela primeira vez em um conto chamado “Círculo Vicioso”, que aparece em “Eu, Robô”. Segundo a história, essas leis teriam surgido pela primeira vez nesse universo em uma publicação chamada “Manual de Robótica, 56ª Edição, 2058 d.C.”.
Essas regras deveriam ser implantadas no mais profundo nível das mentes robóticas de maneira que constituíssem as leis mais básicas nas quais essas inteligências artificiais deveriam se pautar e aparecem em praticamente todas as obras do autor, sendo que seus robôs devem obedecê-las (ou a desobediência acaba gerando problemas que são solucionados em suas narrativas). São elas:
- Primeira Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
- Segunda Lei: Um robô deve obedecer às ordens dadas por seres humanos exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
- Terceira Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei.
HAL 9000: Alguns robôs do cinema desrespeitaram as Três Leis
Perigo à vista
Se pararmos para pensar que a robótica hoje em dia é indubitavelmente mais avançada do que na época em que Asimov escreveu suas obras, talvez o uso dessas regras não fosse uma má ideia para evitar alguns possíveis problemas ao lidar com robôs, especialmente aqueles dotados de inteligência artificial e que são capazes de aprender novas coisas.
Alguns relatos por aí podem até causar um certo medo, como o do robô que quer deixar os humanos em zoológicos, um que já tem habilidade suficiente para dar mortais para trás, e claro, aqueles que poderão roubar nossos empregos. Exatamente por isso, seria interessante que essas três regras, as Três Leis da Robótica, de fato fossem respeitadas pelos nossos “amigos” robóticos. Mas será que isso realmente teria efeito? E se tivessem, haveria alguma necessidade de atualizar essas diretrizes?
Feitas para quem?
Fica bastante claro quando analisamos as Três Leis da Robótica que Asimov as criou pensando mais especificamente em androides, ou seja, organismos sintéticos feitos para se parecerem com humanos, mas que possuíam inteligência artificial que os tornavam similares a nós também em comportamento.
Já existem, por exemplo, drones militares autônomos que podem matar sem o controle ou a interferência de seres humanos
Pensando nisso, as leis fazem bastante sentido, mas e quando olhamos hoje para como o campo da robótica avançou, será que elas funcionariam. Devemos pensar que hoje em dia robôs podem ser objetos como drones ou outros tipos de máquinas de formas diversas, com movimentações completamente diferentes da nossa e, claro, inteligências artificiais totalmente distintas.
Já existem, por exemplo, drones militares autônomos que podem matar sem o controle ou a interferência de seres humanos. Como esses dispositivos compreenderiam as leis de Asimov? E indo ainda mais longe, não podemos nos esquecer dos sistemas machine learning presentes em softwares que carregamos nos nossos bolsos, rodando em nossos smartphones. Apesar da limitação de movimentos, um celular autônomo com acesso a nossas informações poderia fazer um belo estrago em nossas vidas.
Drone militar é capaz de voar e até matar de maneira autônoma
Complexidades diferentes
Mark Robert Anderson, professor de sistemas de computação e informação da Universidade de Edge Hill, acredita que essas leis poderiam ser mais complexas para englobar os diferentes tipos de robôs, dos mais simples aos mais próximos de um humano. Um aspirador autônomo, por exemplo, não precisaria seguir as mesmas leis que um robô militar programado para matar.
Para que os robôs obedecessem essas regras, eles deveriam possuir um sistema de inteligência artificial extremamente avançado
E aí entra outro problema: dispositivos robóticos controlados pelas Forças Armadas para atuar em guerras e outros tipos de conflitos não poderiam atirar em soldados inimigos sem quebrarem logo de cara a Primeira Lei. E ele certamente entraria em parafuso caso precisasse defender um ser humano matando outro. É provável que ele literalmente travaria na hora de fazer a decisão paradoxal.
Anderson aponta uma outra questão ainda mais complicada: para que os robôs obedecessem essas regras, eles deveriam possuir um sistema de inteligência artificial extremamente avançado, capaz de compreender as leis e, mais ainda, de acatá-las cegamente. É necessário que seja dado para os robôs meios confiáveis de reconhecer um ser humano e uma maneira de evitar que os machuquem. Quem vai garantir que os robôs não vão copiar a teimosia humana e ignorar todas as diretrizes?
Ex-Machina: seriam os robôs capazes de identificar humanos com perfeição?
Medo por culpa
Um artigo de 2014 publicado pela MIT Technology Review questiona se realmente precisamos das leis de Asimov para manter os robôs sob controle e proteger a manutenção da raça humana no planeta Terra. Ulrike Barthelmess e Ulrich Furbach, da Universidade de Koblenz, na Alemanha, tentaram responder essa pergunta e chegaram à conclusão que o medo que temos de dispositivos robóticos é infundado.
Muito disso pode ter um fundo religioso, fazendo com que o homem se sinta culpado por se colocar no papel de criador
Para eles, esse receio que sentimos é fundado em todas as obras de ficção científicas – como as de Asimov, claro – e de outras similares onde humanos constroem um ser que, eventualmente, perde o controle se volta contra eles. Um ótimo exemplo disso acontecendo na literatura é em “Frankenstein”, de Mary Shelley, que nada tem a ver com um robô, mas trata-se do clássico “criatura contra criador”.
Barthelmess e Furbach afirmam que muito disso pode ter um fundo religioso, fazendo com que o homem se sinta culpado por se colocar no papel de criador e, assim, assumir a função que deveria ser apenas de Deus. Outras histórias que vão até as mitologias antigas reforçam que o homem acaba sempre se dando mal quando resolve gerar uma criatura similar a ele, seja um robô no sentido mecânico da palavra ou não.
Criador e criatura: culpa de se parecer demais com Deus?
Falhas nas leis
Quando analisamos a própria obra de Isaac Asimov, é possível perceber que as Três Leis da Robótica não são nada infalíveis – muito pelo contrário. Diversas tramas, inclusive, baseiam-se na incapacidade de elas serem respeitadas pelos robôs, seja por defeitos na inteligência artificial, seja pela inabilidade das máquinas em analisar e interpretar paradoxos e ambiguidades.
Tenho a minha resposta pronta sempre que alguém me pergunta se eu acho que as Três Leis da Robótica vão ser realmente usadas para comandar o comportamento dos robôs
No fim das contas, conforme George Dvorsky afirma em seu artigo publicado pelo io9, as Três Leis de Asimov não passariam de um recurso literário usado para criar tramas dentro das narrativas do autor. Resumindo: elas são impeditivas o suficiente quando necessário e falhas em momentos em que é interessante para dar mais dramaticidade nas histórias.
E no que ele mesmo acredita?
No entanto, é interessante levar em conta o que o próprio Asimov acredita. Em uma entrevista que o autor deu em 1981, ele afirmou que realmente acredita que as Três Leis da Robótica possam servir como parâmetro para limitar – e manter seguras – as relações entre humanos e robôs:
“Tenho a minha resposta pronta sempre que alguém me pergunta se eu acho que as Três Leis da Robótica vão ser realmente usadas para comandar o comportamento dos robôs, uma vez que eles se tornem versáteis e flexíveis o suficiente para escolher entre diferentes comportamentos. Minha resposta é: ‘sim, as Três Leis são a única maneira pela qual seres humanos racionais podem lidar com robôs – ou com qualquer outra coisa’”.
O próprio criador acreditava em sua Leis
Novas leis
Obviamente, outros autores de ficção científica se viram no direito – por que não? – de acrescentar novas regras às Três Leis da Robótica. Na realidade, o próprio Asimov já havia feito um adendo que ficou conhecido como a Lei Zero, que seria “um robô não pode causar mal à humanidade ou, por inação, permitir que a humanidade cause mal a si mesma”.
Porém, foram outros que criaram, em algumas ocasiões, algumas versões diferentes de uma Quarta Lei e até uma Quinta Lei. “Um robô deve explicitar sua identidade como robô em todas as ocasiões” é uma delas, criada por Lyuben Dilov no livro “Icaru’s Way”. Uma quinta regra foi introduzida por Nikola Kesarovski e diz: “Um robô deve saber que é um robô”. Quem acompanhou a primeira temporada da série Westworld sabe que essa diretriz ficou longe de ser respeitada nessa ocasião.
Mais regras para evitar nossa destruição
Outros escritores sugeriram leis como “um robô deve se reproduzir contanto que isso não interfira com as três primeiras leis” ou “todos os robôs dotados de razão e consciência comparáveis com as dos humanos devem agir uns com os outros com um espírito de fraternidade”.
No fim das contas, serve o mesmo raciocínio já mencionado no texto: as novas regras acabam servindo muito mais como recurso literário (especialmente quando apresentam uma característica mais específica, como é o caso de algumas) do que de fato exerceriam com sucesso a função de nos proteger dos robôs.
Um caminho invertido
Após toda essa jornada pelas Três Leis da Robótica, podemos concluir que, no fim das contas, talvez elas não possam nos ajudar muito caso exista um levante de robôs ou de outros dispositivos portadores de inteligência artificial, mesmo que isso ainda esteja consideravelmente longe de acontecer – se é que realmente poderia acontecer algum dia.
As Três Leis da Robótica podem ter sido apenas regras para ajudar nas narrativas dos contos de Asimov, mas foram elas que ajudaram a sedimentar todas as ideias que temos sobre dispositivos robóticos
Quem sabe essas regras, na realidade, sejam uma maneira do ser humano lidar com a culpa pela criação de seres que se assemelham com nós mesmos, mas que possuem uma série de limitações que os distanciam dos humanos. É aquela mesma sensação estranha quando sentimos dó do robozinho que demonstra sentimentos nos filmes ou desenhos.
Seja como for, as Três Leis da Robótica podem ter sido apenas regras para ajudar nas narrativas dos contos de Asimov e muitos outros que seguiram seu caminho, mas foram elas que ajudaram a sedimentar todas as ideias que temos sobre dispositivos robóticos, de modo que, ao criá-los, inevitavelmente vamos nos basear nessas diretrizes, fazendo o caminho inverso, onde as leis existem antes mesmo dos próprios robôs que deverão obedecê-las.
Categorias
