A IA é a tecnologia mais importante do século?

Qual é o século mais importante na história da humanidade? Alguns podem argumentar que é um período de extensa campanha militar, como a d Alexandre, O Grande, em 300 a.C., o que reformulou fronteiras políticas e culturais. Outros podem citar a criação de uma religião importante, como o Islamismo no século VII, o que codificou e espalhou valores entre fronteiras. Ou talvez seja a Revolução Industrial de 1700 que transformou o comércio global e redefiniu a relação da humanidade com o trabalho com profundas transformações econômicas e sociais.

Independente da resposta, parece que qualquer século que está competindo por essa posição está em um momento de grande mudança. quando as ações de nossos ancestrais mudaram a trajetória humana nos séculos que estavam por vir.

Se essa é a nossa definição, é possível que agora, esse século, seja o mais importante? O século XXI já se provou ser um período de rápido crescimento tecnológico. Celulares e computadores aceleram o andamento da vida. E nós estamos, provavelmente, no pico de desenvolver novas tecnologias transformadoras como inteligência artificial avançada, que pode mudar totalmente a forma como as pessoas vivem.

Por enquanto, muitas tecnologias que já temos contribuem para os níveis sem precedentes de risco existencial da humanidade, esse é o risco da nossa espécie ser extinta ou passar por algum tipo de desastre que limite permanentemente a habilidade humana de crescer e prosperar. A invenção da bomba atômica marcou um grande crescimento no risco existencial, e desde então nós estamos apenas aumentando as chances contra nós mesmos.

É profundamente difícil estimar as chances de um colapso existencial ocorrendo nesse século. Alguns palpites bem aproximados colocam o risco de uma catástrofe causada por um inverno nuclear ou mudanças climáticas em cerca de 0m1%, e as chances de uma pandemia causar o mesmo tipo de colapso em assustadores 3%.

Considerando que qualquer um desses desastres poderiam significar o fim da vida como conhecemos, essas não são exatamente pequenas porcentagens. E é possível que esse século veja o crescimento de novas tecnologias que introduzem mais riscos a existência. Especialistas em IA tem uma grande variedade de estimativas referentes a quando a inteligência artificial geral irá despontar, mas de acordo com algumas pesquisas, muitos acreditam que possa acontecer nesse século.

Atualmente, nós temos formas relativamente limitadas de inteligência artificial, que são programadas para realizar tarefas específicas como jogar xadrez ou reconhecer rostos. Mesmo essas IAs que fazem um trabalho criativo são limitadas á suas especialidades singulares. Mas inteligências artificiais gerais, ou IAGs, serão capazes de se adaptar ou realizar qualquer número de tarefas, rapidamente ultrapassando seus equivalentes humanos. Há uma grande variedade de palpites sobre como a IAG poderia parecer, e o que significaria para a humanidade compartilhar a Terra com outros seres autoconscientes.

IAGs podem nos ajudar a alcançar nossos objetivos, podem nos considerar inconsequentes ou elas podem nos ver como um obstáculo a ser rapidamente removido. Em termos de perigo existencial, é indispensável que os valores dessa nova tecnologia se alinhem com os nossos. Esse é um desafio filosófico e de engenharia incrivelmente difícil que vai exigir muito trabalho delicado e bem pensado.

No entanto, mesmo que tenhamos sucesso, a IAG poderia ainda levar a outro resultado complicado. Vamos imaginar que uma AGI surja com um profundo respeito pela vida humana e com um desejo de resolver todos os problemas da humanidade. Para evitar o desalinhamento, ela foi desenvolvida para ser incrivelmente rígida sobre suas crenças.

Se essas máquinas se tornarem o poder dominante na Terra, seus valores rígidos podem se tornar hegemônicos, prendendo a humanidade em uma ideologia que seria incrivelmente resistente a mudança. A história nos ensinou que independente do quão sábia uma civilização pensa que é raramente estão à altura dos padrões morais das gerações posteriores.

E este tipo de bloqueio de valores poderia distorcer ou restringir permanentemente o crescimento moral da humanidade. Existe um monte de incertezas sobre IAG, e é profundamente difícil prever como quaisquer riscos existenciais irão surgir conforme o próximo século. Também é possível que novas preocupações mais urgentes possam tornar estes riscos discutíveis.

Mesmo que nós não possamos dizer definitivamente que o nosso é o século mais importante, ainda parece que as decisões que tomamos poderão ter um grande impacto no futuro da humanidade. Talvez, todos nós devêssemos viver como se o futuro dependesse da gente porque, na verdade, talvez dependa.