A inteligência artificial pode ser nossa última invenção?

Os avanços na inteligência artificial estão tornando cada vez mais difícil distinguir entre comportamentos exclusivamente humanos e aqueles que podem ser replicados por máquinas. Se a inteligência artificial geral (IAG) chegar com força total superando a inteligência humana, a fronteira entre as capacidades humanas e de computador diminuirá completamente. Nos últimos meses, uma faixa significativa de largura de banda jornalística foi dedicada a esse tópico potencialmente distópico em função de interações com o ChatGPT mentindo por "vontade" própria.

A verdade é que se as máquinas AGI desenvolverem a capacidade de experimentar a vida conscientemente, as considerações morais e legais que precisaremos dar a elas rapidamente se tornarão difíceis de manejar. Elas terão sentimentos a considerar, pensamentos a compartilhar, desejos intrínsecos e talvez direitos fundamentais como seres recém-criados.

Por outro lado, se a IA não desenvolver a consciência, e, em vez disso, simplesmente a capacidade de pensar melhor do que nós em todas as situações concebíveis, podemos nos encontrar subservientes a uma entidade vastamente superior, mas sociopática.

Nesse sentido, alguns filósofos e cientistas são da opinião de que a inteligência artificial poderia um dia se tornar consciente. Vimos como essa ideia foi usada na ficção científica, como no romance "Androides Sonham com Ovelhas Elétricas?", de Philip K. Dick, que foi magistralmente transformado no filme "Blade Runner".

O argumento simples que você ouve ou lê com frequência é que se o cérebro, como uma máquina biológica, pode ser consciente, qualquer outra máquina, se for complexa o suficiente, pode ser consciente. Ou seja, se o computador no qual estou digitando agora fosse mais avançado, ele seria capaz de ter uma perspectiva em primeira pessoa de como é ser um computador. Complexidade aqui significa que meu computador teria que ter um número maior de elementos, com estruturas e processos fortemente inter-relacionados.

Comparar o cérebro com um computador porque ambos foram chamados de máquinas é uma suposição errônea. Você pode facilmente rotular dois objetos diferentes com a mesma palavra: "máquina". Isso não muda o fato de que o cérebro e uma máquina contendo metal são duas entidades muito diferentes.

Os computadores operam com base no fluxo de eletricidade através de seus componentes. Mas os componentes em si sempre permanecem os mesmos. Em princípio, você poderia desligar um computador e armazená-lo em um ambiente sem poeira. Cem anos depois, você poderia ligá-lo novamente e ele poderia continuar processando dados.

A consciência em nossos computadores atuais é completamente impossível. O hype em torno da consciência artificial é em vão. Hardware é hardware. Não importa o quão brilhante uma máquina seja em jogar xadrez, no final do dia, ela não sabe que ganhou um jogo, nem sentiu a montanha-russa emocional da competição.

Seja como for não dá para descartar a perspectiva de se aproximar rapidamente de máquinas altamente inteligentes: sistemas AGI que superarão os humanos em suas habilidades computacionais. Esta é uma distinção crucial que devemos lembrar de fazer, enquanto avaliamos a melhor forma de inaugurar um futuro repleto de bots AGI.

No caso disso acontecer e tudo leva a crer que teremos uma IA superinteligente o ser humano pode se tornar intelectualmente redundantes em um futuro próximo, como aventa o canal do Youtube "Kurzgesagt – In a Nutshell".

Nesse caso a inteligência artificial pode ser a última invenção humana, porque se pudermos terceirizar o pensamento, o que resta para fazer? Não haveria razão para aprender a maioria das coisas que aprendemos agora, ou mesmo ser educado. Mas quem controlará essa inteligência artificial que pode fazer todo o nosso trabalho? Eles serão motivados pela ética ou pela ganância?

Uma ressalva não mencionada neste vídeo são os crescentes requisitos de energia do aprendizado de máquina. O ChatGPT 3 consumiu mais de 1.000 megawatts-hora de eletricidade para treinar e requer 260 megawatts-hora por dia para funcionar. O GPT 4 precisou de 50 gigawatts-hora para treinar. Um artigo da Forbes inclui estimativas de que o aprendizado de máquina pode exigir 1000 terawatts-hora nos próximos dois anos se as tendências atuais continuarem.

O principal fator limitante do aprendizado de máquina, como a física teórica Sabine Hossenfelder apontou, é a energia necessária para treiná-los e executá-los. Nesse ritmo, o mundo inteiro não será capaz de gerar eletricidade suficiente para criar uma AGI. Por outro lado, o cérebro humano inteligente geral consome cerca de 25 watts e pode funcionar com comida-lixo.