Será que um dia a IA vai substituir o trabalho de um cientista?

Em 1921, o dramaturgo tcheco Karel Capek lançou uma peça de ficção científica chamada "Os Robô Universais de Rossum" que introduzia a ideia de "Inteligência Artificial", o livro encalhou nas prateleiras porque as pessoas achavam aquela ideia uma total bobagem. Quando em 1950 Alan Turing publicou "Máquinas e Inteligência de Computadores", que propunha um teste de inteligência de máquina chamado "Jogo da Imitação", a sociedade franziu o cenho. Até mesmo os alunos da Universidade de Dartmouth não entenderam bem o que John McCarthy queria dizer com "inteligência artificial", quando ele cunhou o termo durante um workshop em 1955.

Hoje, programas de inteligência artificial podem escrever notícias, codificar aplicativos e lidar com o atendimento ao cliente. Podem fazer todas essas coisas tão bem que, em alguns casos, as empresas estão substituindo os humanos que fazem esses trabalhos por IA. O que faz algumas pessoas, que estudaram anos para se tornar um cientista, se perguntarem se a IA é capaz de fazer esse trabalho também... e se for, o que terceirizar todas as futuras descobertas científicas para um bando de máquinas pode significar para a ciência e para o mundo.

O trabalho de um cientista envolve todos os tipos de tarefas, como reunir informações, por meio de coleta de dados ou apenas observando coisas; perceber padrões ou esquisitices; gerar explicações potenciais; projetar experimentos, fazer esses experimentos; e documentar as descobertas, sem mencionar tarefas que parecem menos científicas, como supervisionar alunos e prover subsídios.

Em outras palavras, a ciência requer reunir dois lados bem diferentes da humanidade: lógica e criatividade. O que parece uma tarefa difícil para a IA replicar. Muitos sistemas de IA são ótimos em tarefas baseadas em lógica. Eles são programados com toneladas de dados de treinamento relacionados à resolução de um problema específico.

Então, quando apresentados a uma nova instância desse problema, eles percorrem todas as soluções possíveis e escolhem aquela que, com base nos dados de treinamento, tem mais probabilidade de ser bem-sucedida. Cientistas têm usado esses tipos de programas por um tempo para lidar com as partes baseadas em lógica de seu trabalho, como vasculhar conjuntos de dados massivos para encontrar exoplanetas e identificar as melhores condições para o crescimento de nanotubos de carbono.

Mas hoje em dia, também há IA construída para a criatividade. Esses programas são treinados em um monte de dados muito gerais e, quando são apresentados a um prompt, eles sempre respondem, mas não sabemos exatamente como isso acontece. O que é, na verdade, um pouco semelhante à criatividade humana: com base no que vivenciamos, podemos, por meio de processos que não entendemos completamente, inventar coisas inteiramente novas ou inclusive podemos mentir. O pior dessa coisa toda é que IAs generativa também já aprenderam a mentir.

Cientistas estão começando a colocar esses programas para funcionar em partes criativas de seu trabalho, como gerar hipóteses sobre as propriedades de substâncias desconhecidas. Como os sistemas que se destacam em tarefas lógicas não são bons nas criativas, e vice-versa, a IA não tem sido uma ameaça legítima a todo o trabalho dos cientistas; No entanto, pesquisadores desenvolveram recentemente alguns "IAs cientistas" que podem realizar todo o processo de descoberta científica, desde a coleta de informações até a publicação dos resultados.

Até agora, esses protocientistas de IA foram limitados a pesquisar o aprendizado de máquina em si, e o que eles criaram são basicamente ajustes que aceleram ou melhoram a metodologia existente, em vez de algo realmente alucinante. Isso porque, embora a IA seja realmente boa em coisas baseadas em lógica, não está claro se sua capacidade de criatividade real está próxima da dos humanos. Em outras palavras, se a IA pode desenvolver novas ideias que mudam a forma como pensamos sobre o mundo, como as maiores descobertas científicas que os humanos fizeram.

Então ainda não sabemos se a IA poderia legitimamente substituir o trabalho que os cientistas humanos fazem, em vez de apenas complementá-lo. Mesmo se pudéssemos eventualmente terceirizar a ciência inteiramente para a IA, deveríamos? De certa forma, automatizar a descoberta científica é realmente empolgante. Isso poderia acelerar drasticamente o avanço em certos campos, como o desenvolvimento de tratamentos para doenças subfinanciadas.

Pense em todas as vidas em potencial que poderíamos melhorar, ou até mesmo salvar! Mas considere essas mesmas capacidades colocadas em propósitos mais nefastos, por exemplo, levou apenas algumas horas para um programa de IA inventar 40.000 novas moléculas possivelmente mortais. Podemos confiar na IA, que nem mesmo entendemos completamente, para exercer a ciência com sabedoria ou pelo menos tão sabiamente quanto os humanos?

Além do mais, a ciência inclui pesquisa e desenvolvimento de IA, então automatizar completamente a ciência colocaria a IA no comando de pesquisar e projetar a si mesma, o que tem o potencial de dar muito errado. E nem estamos entrando em todos os tipos de outros desafios associados à IA, como toda a energia necessária para treinar e executar esses sistemas, ou vieses embutidos neles por meio dos dados de treinamento.

Existem tantas incógnitas quando se trata de ciência e IA e descobrir o que pode acontecer no futuro -e o que fazer sobre isso agora- é um trabalho que estou feliz por termos muitos cientistas humanos muito inteligentes por perto para fazer.

Como você provavelmente pode perceber, muitas pessoas estão um pouco preocupadas com os potenciais aspectos negativos de um futuro super high-tech. Elon Musk que o diga. Ele expressou seus medos em diversas ocasiões, afirmando que a IA representa uma ameaça existencial à humanidade. Ele também disse que a IA poderia causar "destruição da civilização".

Elon também assinou uma carta com mais de 1.000 outros pedindo uma pausa nos sistemas de treinamento de IA que podem superar o GPT-4. A carta diz que tais decisões não devem ser delegadas a líderes de tecnologia não eleitos.

Alguns desses aspectos negativos já estão aqui: como, bots regularmente correm pela web coletando nossas informações pessoais para sites de corretores de dados, colocando todos nós em maior risco de roubo de identidade ou assédio on-line, sem mencionar coisas irritantes como spam e estes malditos robocalls que enchem o saco o dia todo. Só para que se tenha uma ideia, de 15 a 21 de janeiro, a Anatel registrou 2,47 bilhões de chamadas com menos de três segundos.

Quanto a questão do título deste artigo espero que o papel humano permaneça essencial para avaliar resultados e orientar a pesquisa em novas direções, ao mesmo tempo em que alavanca as capacidades da IA na aceleração de processos e análise de dados.

A IA representa uma ferramenta poderosa que nos permite alcançar saltos tremendos no campo da pesquisa científica. No entanto, devemos reconhecer suas limitações atuais e manter o papel do pesquisador humano como líder nesta revolução tecnológica. A colaboração entre a mente humana e a inteligência artificial é a chave para construir um futuro melhor para toda a humanidade.