Será possível que este século seja o mais importante da história da humanidade?

Qual é o século mais importante da história da humanidade? Alguns podem argumentar que é um período de extensas campanhas militares, como a de Alexandre, o Grande, nos anos 300 a.C., que remodelou as fronteiras políticas e culturais. Outros podem citar o surgimento de uma grande religião, como o islamismo no século VII, que codificou e disseminou valores através dessas fronteiras. Ou talvez seja a Revolução Industrial do século XVIII que transformou o comércio global e redefiniu a relação da humanidade com o trabalho.

Seja qual for a resposta, parece que qualquer século que disputa esse primeiro lugar está em um momento de grande mudança, quando as ações de nossos ancestrais mudaram a trajetória da humanidade pelos séculos seguintes.

Então, se esta é a nossa métrica, será possível que este século seja o mais importante da história da humanidade? O século XXI já provou ser um período de rápido crescimento tecnológico.

Estamos prestes a desenvolver novas tecnologias que podem mudar completamente a maneira como as pessoas vivem, e podem contribuir para níveis sem precedentes de risco existencial. As decisões que tomarmos agora podem ter um grande impacto no futuro da humanidade.

Celulares e computadores aceleraram o ritmo de vida. E provavelmente estamos prestes a desenvolver novas tecnologias transformadoras, como a inteligência artificial avançada, que podem mudar completamente a maneira como as pessoas vivem.

Como todo o dia ouço alguém falando bobagem sobre a Inteligência Artificial (IA), primeiro vamos explicar de forma simples como ela funciona. A IA é como um programa de computador superinteligente que pode aprender e melhorar com o tempo.

Ela recebe enormes quantidades de dados, como texto, imagens ou sons e depois usa algoritmos para analisar os dados, encontrar padrões e fazer conexões. Com base no que aprendeu, a IA faz previsões ou toma decisões.

A IA melhora com o tempo, à medida que recebe mais dados e feedback. Imagine que você está tentando ensinar uma criança a reconhecer cães. Você mostra a ela várias fotos de cães, e ela começa a notar os padrões (peludos, quatro patas, rabo abanando). Quanto mais fotos ela vê, melhor ela se torna em reconhecer cães. É basicamente assim que a IA aprende!

Lembro-me que desenvolvemos um sistema preditivo de manutenção nos anos 90. Os eletricistas deviam anotar em uma ficha qualquer irregularidade e problema dos mecanismos e máquinas. Posteriormente estes dados eram digitados no Access, banco de dados.

No final de um ano ou mais, filtrando os padrões de repetição e de ocorrências sabíamos quando uma máquina ia queimar e promovíamos a manutenção com antecedência.

Sim, isso é IA, com o diferencial que precisávamos de muito tempo para aprender isso. Hoje é possível fazer em segundos.

Enquanto isso, muitas tecnologias que já possuímos contribuem para os níveis sem precedentes de risco existencial da humanidade, o risco de nossa espécie ser extinta ou sofrer algum tipo de desastre que limite permanentemente a capacidade da humanidade de crescer e prosperar.

A invenção da bomba atômica marcou um grande aumento no risco existencial e, desde então, só aumentamos as probabilidades contra nós.

É extremamente difícil estimar as probabilidades de um colapso existencial ocorrer neste século. Calcula-se que o risco de uma catástrofe existencial devido ao inverno nuclear e às mudanças climáticas seja de cerca de 0,1%, enquanto a probabilidade de uma pandemia causar o mesmo tipo de colapso é de assustadores 3%.

Considerando que qualquer um desses desastres pode significar o fim da vida como a conhecemos, esses não são exatamente números pequenos. E é possível que este século veja o surgimento de novas tecnologias que introduzam mais riscos existenciais.

Especialistas em IA têm uma ampla gama de estimativas sobre quando a inteligência artificial geral surgirá, mas, de acordo com algumas pesquisas, muitos acreditam que isso poderá acontecer neste século.

Atualmente, temos formas relativamente limitadas de inteligência artificial, projetadas para realizar tarefas específicas, como jogar xadrez ou reconhecer rostos.

Mesmo IAs limitadas que realizam trabalho criativo são limitadas à sua especialidade singular. Mas as inteligências artificiais gerais, ou IAGs, seriam capazes de se adaptar e executar qualquer número de tarefas, ultrapassando rapidamente suas contrapartes humanas.

Há uma enorme variedade de palpites sobre como seria a IAG e o que significaria para a humanidade compartilhar a Terra com outra entidade senciente.

As IAGs podem nos ajudar a alcançar nossos objetivos, podem nos considerar inconsequentes ou podem nos ver como um obstáculo a ser removido rapidamente.

Portanto, em termos de risco existencial, é imperativo que os valores dessa nova tecnologia se alinhem aos nossos. Este é um desafio filosófico e de engenharia incrivelmente difícil que exigirá muito trabalho delicado e cuidadoso.

No entanto, mesmo se tivermos sucesso, a IAG ainda pode levar a outro resultado complicado. Imaginemos que uma IAG surja com profundo respeito pela vida humana e um desejo de resolver todos os problemas da humanidade. Mas, para evitar o desalinhamento, ela foi desenvolvida para ser incrivelmente rígida em relação às suas crenças.

Se essas máquinas se tornassem a potência dominante na Terra, seus valores rígidos poderiam se tornar hegemônicos, aprisionando a humanidade em uma ideologia incrivelmente resistente à mudança.

A história nos ensinou que, por mais esclarecida que uma civilização pense ser, raramente estará à altura dos padrões morais das gerações posteriores. E esse tipo de aprisionamento de valores pode distorcer ou restringir permanentemente o crescimento moral da humanidade.

Há muita incerteza em torno da IAG, e é extremamente difícil prever como quaisquer riscos existenciais se desenrolarão no próximo século. Também é possível que novas preocupações mais urgentes tornem esses riscos irrelevantes.

Mas mesmo que não possamos afirmar com certeza que o nosso é o século mais importante, ainda parece que as decisões que tomamos podem ter um grande impacto no futuro da humanidade. Então, talvez devêssemos todos viver como se o futuro dependesse de nós, porque, na verdade, pode ser que dependa.