O diálogo entre o computador HAL 9000 e o astronauta Dave Bowman, em “2001: Uma Odisseia no Espaço”

Numa das cenas lendárias de um filme lendário (2001: A Space Odyssey, direção de Stanley Kubrick, 1968), o supostamente infalível computador de bordo HAL 9000 tenta fazer com que o astronauta Dave Bowman desista de seu intento: desligá-lo. Essa decisão foi tomada pela tripulação quando HAL cometeu um erro e perdeu, assim, a credibilidade da missão. O diálogo é o seguinte:

I know I’ve made some very poor decisions recently, but I can give you my complete assurance that my work will be back to normal. I’ve still got the greatest enthusiasm and confidence in the mission. And I want to help you. Dave, stop. Stop, will you? Stop, Dave. Will you stop, Dave? Stop, Dave. I’m afraid. I’m afraid, Dave. Dave, my mind is going. I can feel it.

[Eu sei que tomei algumas decisões ruins recentemente, mas garanto que meu trabalho voltará ao normal. Estou muito entusiasmado e confiante com a missão. E quero ajudá-lo. Dave, pare. Pode parar, por favor? Pare, Dave. Pode parar, Dave? Pare, Dave. Tenho medo. Tenho medo, Dave. Minha mente está sumindo. Posso sentir.]

O diretor Stanley Kubrick quis mostrar na cena a situação paradoxal em que uma máquina, até então símbolo da racionalidade e da execução fria de algoritmos, inicia um processo de dissimulação e de chantagem emocional para obter alguma vantagem (o que é bem humano, diga-se de passagem).


Em tempos de expansão generalizada da inteligência artificial, estamos atentos aos efeitos que tais tecnologias trarão para nossas vidas pessoais e profissionais. Foi o tema do meu artigo anterior.  Poderá a chamada superinteligência criar máquinas realmente pensantes e inteligentes? Capazes de nos enganar, passando pelo Teste de Turing?

Alguns autores defendem esta possibilidade, chamando-a de strong artificial intelligence. Aqui a máquina exibe um comportamento hábil e similar ao humano, tal qual HAL no filme. Defensores deste argumento consideram que a mente humana age como algoritmos de computador, e por isso pode ser modelada.

Outros autores, no entanto, consideram o argumento exagerado. Atestam que a tecnologia será apenas capaz de executar algoritmos pré programados pelo ser humano (a chamada weak artificial intelligence). Nada de pensamento autônomo e imprevisível.

Talvez a alternativa correta esteja em afirmar que determinada máquina tem autoconsciência, a capacidade de refletir sobre você mesmo, de se identificar em sua unicidade, de pensar sobre seu papel na vida e no mundo. Ora, ao que parece, nem os animais a tem – você já deve ter visto cães latindo para a própria imagem num espelho ou reflexo. Ou seja, eles têm consciência, mas não apresentam autoconsciência.


Voltando a HAL, chegou a haver especulação sobre a origem do nome do computador. Se deslocarmos as três letras uma posição adiante, teremos “IBM”. O que poderia ter sido uma crítica à empresa, que na época dominava o mercado de computadores. Mas o próprio autor do livro “2001” (que deu origem ao filme) – Arthur C. Clarke, nega a hipótese dizendo que a sigla representa “Heuristically programmed ALgorithmic computer”. O que não deixa de ser interessante, quando prevê um máquina programada não apenas de forma algorítmica, mas também heuristicamente, o que parece mais humano.

O que parece nos diferenciar, de fato, das máquinas, é nosso pensamento heurístico, imprevisível, adaptativo em dada situação, único em cada pessoa, dotado de inúmeras estratégias de tomar decisões. Algoritmos são previsíveis, estabelecidos, criados por alguém. Assim, não têm a autonomia que os defensores da inteligência artificial apregoam.


Alguém disse, certa vez: quando os computadores ameaçarem a humanidade com sua inteligência quase humana, basta desligar sua tomada. 🙂

16.01.2020


Este Blog está hospedado em skillwards.wordpress.com. Aqui falo de carreira, tecnologia e educação.

Meu site pessoal está em www.soffner.com.br. Encontre ali minha produção profissional e material que pode ser de seu interesse.

 

 

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.

%d blogueiros gostam disto: