(3 minutos – Rafael Martins)

E se escancarassem o seu egoísmo para todos? Já pensou nisso? Talvez seja a hora de se preparar para uma maior transparência ética que será forçada pela tecnologia. Sim, um algoritmo pode lhe encurralar antes mesmo da sua consciência.

O dilema do bonde é algo já um pouco batido no meio filosófico. Em síntese:

Um bonde está fora de controle em uma estrada. Em seu caminho, cinco pessoas amarradas na pista por um filósofo malvado. Felizmente, é possível apertar um botão que encaminhará o bonde para um percurso diferente, mas ali, por desgraça, se encontra outra pessoa também atada. Deveria apertar-se o botão?

Com o advento dos veículos autônomos essa decisão será codificada. Supostamente, uma máquina já tomaria essa decisão por você.

Imagine, adaptando um pouco o dilema, que em uma situação hipotética o algoritmo terá que decidir entre arriscar a vida do condutor, que é você a propósito (51% de chance de óbito) ou desviar e contribuir para uma morte de um pedestre (95% de chance de óbito).

A provocação é de Yuval Harari e pode ser encontrada no seu último livro: 21 lições para o Século 21. [1]

Mas e se o mercado for um pouco mais ardiloso e deixar essa opção com o cliente, que afinal, sempre tem razão. Desse modo, na hora de finalizar a compra será você que definirá como o computador reagirá diante dessas situações tão particulares quanto reveladoras.

Pense aí na conversa antes com a esposa antes de comprar o carrão. Que frases não surgiriam?

“Se forem cinco pedestres em vez de um só, tudo bem o sacrifício…” ou “Quero que você opte pela função, salve-me sempre e que se exploda o resto. Nossos filhos nem estão criados”.

Demandarei do software uma análise da utilidade perante a humanidade de cada um dos possíveis mortos no caso de um acidente? Deixe vivo os mais relevantes. Mas e se a sua relevância desabrochar um pouquinho mais pra frente? Talvez você não pense nisso sozinho.

Qual seria a condição mais sensata de um espírita que se entende imortal? E se você morresse de velho, mas tivesse na bagagem dezenas de filhos de Deus mortos por decisões suas sempre que houvesse 1% de chance de desencarne seu?

Dá pra imaginar infinitos “ses” para fins de perturbação.

Já destaquei em outros textos o protagonismo do egoísmo nas mazelas do mundo. Acontece que as coisas ficam um pouco mais constrangedoras quando a perícia após um eventual acidente apurar que a minha cota de egoísmo é um número X. Por isso, eu sequer quebrei um osso, mas uma família perdeu seus dois filhos a caminho pra escola.

Enquanto a tecnologia não vem para salvar diversas vidas perdidas no trânsito [2], talvez seja melhor ganhar a vida a cada instante em um presente ao meu alcance.

Afinal, eu não faço a menor ideia do que eu escolheria. Você faz?

[1] Há pesquisas citadas por esse historiador israelense bastante constrangedoras, mas muito explicativas. Por exemplo, pessoas que em um momento entendiam como ético um carro com um algoritmo que “mate menos”, informaram que não comprariam um carro com essa programação, diante de um risco maior do que zero de serem as mortas da vez.
[2] Os atuais mortos pelo álcool, imprudência, sonolência e barbeiragens superam, de longe, os futuros mortos decorrentes do aprendizado dos algoritmos. Tem muito estudo apontando isso. Fiquei com preguiça. Qualquer coisa, vá no algoritmo mais famoso da internet.

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s