Moral da máquina: IA poderá decidir sobre a vida humana?

A inteligência artificial (IA), na sua concepção, faz com que as máquinas se aproximem ao máximo do pensamento humano. Ao mesmo tempo que estamos observando avanços extraordinários nesse campo, questões acerca dos limites éticos e morais da sua evolução não devem ser menosprezadas.

Apesar de ser um tópico complexo, não é exatamente novo. Você se lembra de Alan Turing, aquele interpretado por Benedict Cumberbatch no filme O Jogo da Imitação? Por muitos, ele é considerado o pai da IA, com estudos na área que datam mais de 70 anos. Mas também é um assunto supermoderno: hoje muitos pedem ao Google, por voz, para ligar o alarme.

IA pode ser conveniente, mas mortal

Um exemplo bem bacana do uso de IA — disponível para qualquer usuário dos celulares Google Pixel nos Estados Unidos — é a capacidade de, quando receber uma chamada de um número desconhecido, pedir ao próprio smartphone que atenda e pergunte o motivo da ligação. Enquanto a pessoa fala, a resposta é transcrita em tempo real na tela do celular. Aí sim você pode atender, se quiser.

Outro uso que parece vindo de ficção científica, mas com quase 900 mil usuários globalmente, é a capacidade semiautônoma dos carros da Tesla. Em estacionamentos, o "motorista" (ainda pode ser chamado assim?) não precisa mais andar até o veículo; basta pegar o celular e apertar um botão para que venha sozinho. Além disso, em estradas, o motorista não precisa interagir com o automóvel para levá-lo de um lugar a outro; basta ligar o GPS, que a máquina liga a seta, muda de faixa e pega a saída certa sem interação.

E quando a IA falha a dezenas de quilômetros por hora em uma via expressa? Infelizmente, vidas já foram perdidas assim

Mas e quando a IA falha? No caso do Google Pixel, talvez a mensagem que apareça na tela não seja exatamente aquilo que quem ligou falou. Chato, porém suportável. Acidentes com um Tesla manobrando sozinho em estacionamentos foram reportados, mas tendem a ser uma dor de cabeça, nada além disso. E quando o erro acontece a dezenas de quilômetros por hora em uma via expressa? Infelizmente, vidas já foram perdidas assim.

Outra discussão sobre possíveis falhas da IA é ainda mais profunda: a moral. Vamos supor que, em um Tesla em alta velocidade, a IA perceba que vai bater em um caminhão à frente, possivelmente matando o motorista. Rapidamente ela calcula que, caso suba o meio-fio, conseguirá poupar a vida do motorista, mas poderá machucar gravemente pedestres que estão em um ponto do ônibus. O que o carro deve fazer?

Por motivos como esse, muitos acreditam que empresas que trabalham com IA avançada, incluindo Elon Musk, que é dono da Tesla e da SpaceX, devam ser regulamentadas. Esse tipo de ação abriria um debate para a sociedade decidir qual é a forma ética de a IA se comportar em diferentes cenários e ter certeza de que aqueles que a aplicam estão seguindo as regras do jogo.

Precisamos falar sobre IA

A discussão sobre a regulação da IA é longa e ainda embrionária. Governos e entidades privadas devem ter clareza sobre o limite que a tecnologia pode atingir, preservando aspectos como privacidade, segurança e até mesmo se ela pode eventualmente decidir se uma pessoa sobrevive ou morre, como no exemplo citado.

Colocar em pauta discussões como essa é fundamental para que a IA possa evoluir, e os debates acerca da ética e da moral da máquina devem ser feitos em conjunto com a sociedade. Isso passa pelas comunidades científica e empresarial, mas no fim das contas deve ser uma decisão do cidadão.

Como você acha que as questões colocadas devem ser consideradas? Empresas como a Tesla deveriam ser regulamentadas por trabalhar com IA avançada? Tem sugestões para o próximo tópico da nossa coluna? Comente.

 ***

Raphael Bottino, novo colunista quinzenal do TecMundo, é desenvolvedor e entusiasta de tecnologia. Ele trabalha como arquiteto de soluções na Trend Micro, uma das empresas líderes globais em segurança da informação. Nas horas vagas, quando não está cozinhando, está aprendendo novas tecnologias ou programando (sim, ele programa por prazer).