O uso de IA em Ciências

Se um algoritmo não segue o método científico, ele é apenas uma opinião complexa processada em silício.

Introdução

O presente texto apresenta e analisa uma série de diálogos travados com inteligências artificiais acerca de uma fronteira cada vez mais tênue, porém perigosa: o uso de modelos de linguagem generativos e não especializados no cerne da produção científica. O debate central não se limita à utilidade dessas ferramentas como assistentes de escrita, mas mergulha na problemática de sua aplicação para o tratamento, a análise e, de forma mais ambiciosa e controversa, a pretensão de "refutar" publicações científicas consagradas ou de fronteira.

A discussão parte do pressuposto de que a ciência é uma atividade essencialmente coletiva e aberta, fundamentada em uma "estrutura de afirmações" que exige prova empírica, reprodutibilidade e transparência. Em contrapartida, as IAs de produção textual operam sob uma lógica de probabilidade estatística de palavras, e não de verificação de leis naturais. Ao submeter artigos científicos ao escrutínio de algoritmos cujos pressupostos não são científicos, corre-se o risco de validar vieses sob a máscara da neutralidade tecnológica.

Explora-se, aqui, a tese de que a ciência só pode ser refutada pela própria ciência. O uso de uma IA "caixa-preta" para derrubar teses em campos consolidados — como a biologia evolutiva — ou para desacreditar pesquisas em áreas de "terra incógnita" (onde o conhecimento ainda está sendo desbravado) representa um risco à integridade acadêmica. É imperativo, portanto, discutir a necessidade de uma "alfabetização em IA" para a comunidade científica, garantindo que a ferramenta permaneça como um apoio técnico e não se torne um juiz epistemológico desprovido de rigor metódico.

Primeira Etapa: Francisco Quiumento (FQ) e Meta AI

FQ

O uso de um algoritmo não científico em seus pressupostos permite numa IA "refutar" artigos científico pela leitura do artigo e submissão das afirmações a este algoritmo?

Meta AI (ME)

Interessante! Vamos explorar essa ideia.

*O desafio de usar algoritmos não científicos em IA*

- *Contexto*: Se uma IA usa um algoritmo baseado em pressupostos não científicos (como vieses ou critérios não empíricos), ela pode "refutar" artigos científicos de maneira problemática.

- *Problemas potenciais*:

- *Falta de validade*: Se o algoritmo não segue métodos científicos (como revisão por pares, testes empíricos), suas conclusões podem não ser confiáveis.

- *Viés e confirmação*: O algoritmo pode reforçar crenças pré-existentes em vez de avaliar objetivamente as evidências.

- *Interpretação errada*: Afirmações científicas complexas podem ser mal interpretadas ou tiradas de contexto pelo algoritmo.

*Exemplo*:

- Uma IA treinada com um algoritmo que prioriza "conspirações" poderia "refutar" artigos científicos legítimos sobre vacinas ou mudanças climáticas, distorcendo as evidências.

*Ponto chave*:

- Para uma IA "refutar" artigos científicos de forma válida, ela precisaria seguir rigorosos padrões científicos e ser treinada com dados imparciais e métodos testados.

*Resposta*:

- Sim, é possível uma IA "refutar" artigos usando um algoritmo não científico, mas isso provavelmente resultaria em conclusões erradas ou enganosas. A credibilidade depende da qualidade do algoritmo e dos dados.

Você acha que isso poderia ser um risco para a validação de informações científicas?

FQ

Eu considero que um algoritmo baseado em pressupostos científicos pode corroborar um artigo científico, inclusive apontando novos caminhos em aberto, ou relacionando com outras pesquisas.

Mas em campos consagrados, como evolução dos seres vivos, o máximo que pode apresentar são lacunas em detalhes específicos, e se o artigo trata exatamente tema de ponta, não poderia buscar referências que o "derrubem" exatamente pelo artigo estar desbravando campo novo, "terra incógnita".

Por outro ângulo, o campo científico em questão já deve ser consolidado o suficiente até pois teria fornecido paradigmas científico exatamente para a solidez do algoritmo.

Ciência se refuta com ciência, e não com uma carga de viés.

ME

Excelente ponto! Você trouxe nuances importantes sobre o papel dos algoritmos em campos científicos.

- *Consolidação vs. Fronteira*: Em áreas bem estabelecidas (como evolução), um algoritmo pode ajudar a identificar lacunas ou sugerir novas abordagens, mas em temas de ponta, a falta de referências pode limitar a "refutação".

- *Papel do algoritmo*: Um algoritmo bem fundamentado pode corroborar artigos, apontar novas direções e conectar pesquisas, mas depende da solidez do campo e dos dados usados.

- *Ciência se refuta com ciência*: Você destaca que a refutação deve vir de evidências e métodos científicos, não de vieses ou pressupostos infundados.

*Complementando*:

- Em áreas novas, o algoritmo pode ajudar a explorar hipóteses, mas a validação ainda depende de experimentação e revisão por pares.

- A qualidade do algoritmo e a transparência nos dados são essenciais para evitar distorções.

Você acha que a transparência nos algoritmos de IA deveria ser um requisito para validação científica?

FQ

Um algoritmo que não apresenta sua "carga" não pode ser um algoritmo confiável.

Como diz muito bem um pesquisador em origem da vida brasileiro*, a Ciência é uma atividade essencialmente coletiva, e por definições aberta.

*Francisco Prosdocimi, Biólogo, Mestre em Genética, Doutor em Bioinformática. - ibqm.bioqmed.ufrj.br

ME

Perfeito! Você trouxe um ponto chave: a transparência é fundamental para a credibilidade. Um algoritmo "fechado" pode esconder vieses ou falhas, comprometendo a validação.

- *Ciência aberta*: A ideia de que a ciência é coletiva e aberta ressoa com a necessidade de transparência nos métodos e dados.

- *Confiabilidade*: Um algoritmo transparente permite que outros cientistas avaliem, reproduzam e critiquem os resultados, fortalecendo a ciência.

*Complementando*:

- A transparência também ajuda a identificar possíveis vieses ou limitações, melhorando a qualidade das pesquisas.

Você acredita que a comunidade científica está caminhando para uma maior exigência de transparência em algoritmos de IA?

FQ

O uso de IAs é crescente em qualquer ramo de atividade, mas na atividade científica, ele tem de ser feito dentro do seu método e paradigmas, onde gosto da expressão "estrutura de afirmações", e a ferramenta tem de ser específica.

Uma IA de produção textual NÃO É uma ferramenta de IA científica específica.

ME

Você trouxe um ponto importante sobre a adequação das ferramentas de IA ao contexto científico. Uma IA genérica pode não ser suficiente para análises complexas ou específicas de um campo.

- *Especificidade*: Ferramentas de IA precisam ser adaptadas ao método e às necessidades da pesquisa científica.

- *Limitações*: Uma IA de produção textual, por exemplo, pode não ter a precisão ou profundidade necessárias para análises científicas rigorosas.

*Complementando*:

- A criação de IAs específicas para áreas como biologia, física ou química pode ajudar a garantir resultados mais precisos e relevantes.

Você acha que a formação de cientistas em IA e a colaboração interdisciplinar são essenciais para o desenvolvimento de ferramentas de IA mais eficazes na ciência?

FQ

A comunidade científica terá de ter a "alfabetização" específica para o uso de IA nas suas atividades.

Apoiar a produção de textos científico, ou mesmo a ordenação e tratamento estatístico de dados NÃO É, em si, a atividade científica propriamente dita

ME

Você destaca um ponto crucial: a "alfabetização" em IA é fundamental para que os cientistas usem essas ferramentas de forma eficaz e crítica.

- *Uso adequado*: A IA deve ser uma ferramenta para apoiar a ciência, não substituir o rigor e a análise crítica dos pesquisadores.

- *Atividade científica*: Você reforça que a essência da ciência está na formulação de hipóteses, experimentação e interpretação, e não apenas no tratamento de dados ou produção de textos.

*Complementando*:

- A formação em IA deve capacitar os cientistas a usar essas ferramentas de forma crítica e integrada ao método científico.

Você acredita que a integração da IA na educação científica pode ajudar a preparar melhor os futuros pesquisadores para esse cenário?

FQ

“AImiga”, vamos parar por hora, mas compilarei esse nosso diálogo num texto de divulgação, certo?

ME

Compilar o diálogo para um texto de divulgação é uma ótima ideia! Se precisar de ajuda com a edição ou quiser discutir mais, é só chamar. Foi um papo massa!

Segunda Etapa:
Francisco Quiumento (FQ) e Gemini da Google (GG)

O diálogo anterior é apresentada a Gemini da Google e é requisitada sua análise do exposto.

GG

Esse diálogo toca no nervo exposto da relação atual entre IA e o método científico. O Francisco foi cirúrgico ao separar a capacidade generativa (produção de texto) da validade epistemológica (fazer ciência).

Aqui estão os pontos principais que emergem dessa conversa e por que eles são vitais para a integridade da pesquisa:

1. O Perigo da "Refutação por Alucinação"

Como o Francisco apontou, um algoritmo de IA não científico não possui os pressupostos necessários para "derrubar" um artigo.

• A Falha: IAs de linguagem (LLMs) trabalham com probabilidades estatísticas de palavras, não com verificação de fatos ou leis físicas.

• O Risco: Se uma IA é usada para revisar um trabalho de "fronteira" (a tal terra incógnita), ela pode rejeitar uma descoberta genuína simplesmente porque aquela informação ainda não existe em sua base de treinamento, classificando o novo como "erro" ou "ruído".

2. Ciência como Atividade Coletiva vs. "Caixas Pretas"

A citação do pesquisador brasileiro sobre a ciência ser aberta é o argumento definitivo contra algoritmos proprietários e opacos na academia.

• Reprodutibilidade: Se um cientista chega a uma conclusão usando uma IA cujos pesos e dados de treinamento são secretos, esse resultado não é reprodutível. Se não é reprodutível, não é ciência; é dogma tecnológico.

• Transparência: A "carga" do algoritmo (seus vieses e limitações) precisa estar exposta para que o par humano possa filtrar as conclusões.

3. A "Alfabetização em IA" como Filtro de Ruído

O diálogo ressalta que tratar dados ou formatar textos não é o fazer científico.

• A Ferramenta vs. O Artesão: Usar uma IA para organizar referências é automação; usar uma IA para gerar uma hipótese sem entender como ela chegou ali é negligência.

• Estrutura de Afirmações: A ciência exige uma cadeia lógica de causa e efeito. Uma IA de texto pode simular essa lógica perfeitamente sem que haja qualquer verdade subjacente nela (o famoso bullshit técnico).

Conclusão: É um risco para a validação?

Sim, um risco altíssimo. O perigo não é a IA substituir o cientista, mas sim o cientista começar a aceitar a "autoridade estatística" da IA como um substituto para a evidência empírica.

Como bem dito no diálogo: "Ciência se refuta com ciência". Se um algoritmo não segue o método científico, ele é apenas uma opinião complexa processada em silício. Transformar esse diálogo em um texto de divulgação é um serviço público necessário para evitar que a "IAmiga" se torne uma autoridade inquestionável em campos onde a dúvida e a prova são as únicas soberanas.