Empresa afirma que o modelo de inteligência artificial identificou novo sistema em vírus, mas pesquisadores questionam origem dos resultados já que estudo não foi publicado
Executivos da área de IA estão apostando alto na biologia. Eles afirmam que seus grandes modelos de linguagem, que já transformaram drasticamente os campos da programação, do desenvolvimento de software e da matemática, podem revolucionar a pesquisa biológica da mesma forma.
Mas a tentativa de uma empresa nesse sentido já desencadeou uma onda de ceticismo e controvérsia.
A Anthropic, gigante da IA e da pesquisa por trás do Claude, anunciou no mês passado que seu laboratório de pesquisa biológica utilizou agentes de IA para descobrir um padrão incomum de DNA no código genético de vírus, especificamente um novo sistema enzimático. A assinatura é semelhante ao sistema microbiano utilizado em ferramentas de edição genética como o CRISPR Cas-9 (Repetições Palindrômicas Curtas Agrupadas e Regularmente Interespaçadas, em tradução livre), que é usado para modificar o DNA de organismos vivos. A tecnologia é comum em laboratórios ao redor do mundo e rendeu o Prêmio Nobel de Química aos seus inventores em 2020.
Dario Amodei, diretor executivo da Anthropic, afirmou nas redes sociais que a descoberta oferece grande potencial científico. “Hoje anunciamos a descoberta, liderada por Claude, de uma máquina molecular que suspeitamos poder representar um novo mecanismo de edição genética”, escreveu ele no X.
A Anthropic afirmou que a descoberta foi feita “apenas com orientação de alto nível de nossos cientistas” e as ações de empresas que desenvolvem tecnologia de edição genética caíram logo após o anúncio.
No entanto, alguns especialistas que não participaram do estudo disseram que a descoberta era preliminar e incremental, e longe de ser um verdadeiro avanço.
Esses são resultados preliminares muito interessantes, mas, neste momento, eles não demonstram a edição genética nem fornecem uma imagem mecanística exata do que está acontecendo, disse Aaron Engelhart, professor associado do Departamento de Genética, Biologia Celular e Desenvolvimento da Universidade de Minnesota.
Segundo um documento que detalha a pesquisa, os pesquisadores da Anthropic ainda não determinaram a função das novas sequências virais descobertas e, portanto, se elas representam um mecanismo com aplicações práticas semelhantes às utilizadas nas ferramentas CRISPR. A pesquisa também não foi publicada em uma revista científica com revisão por pares.
Cientistas, incluindo Engelhart, afirmaram que a descoberta da Anthropic definitivamente justifica uma investigação mais aprofundada, e um comunicado de imprensa da empresa citou Feng Zhang professor do MIT e do Broad Institute em Cambridge, Massachusetts, e pioneiro na edição genômica CRISPR para o tratamento da anemia falciforme, entre outros avanços que classificou o trabalho como genuinamente intrigante.
Mas apenas alguns dias após o anúncio da Anthropic, Mario Rodríguez Mestre, que afirmou ter usado Claude extensivamente em sua pesquisa de doutorado recém-concluída na Universidade de Copenhague, alegou que sua pesquisa ainda não publicada descreve as mesmas assinaturas virais.
É essencialmente a mesma conclusão. Não se trata simplesmente de dois grupos estudando famílias de proteínas relacionadas ou sistemas biológicos semelhantes, disse Mestre à CNN por e-mail.
Definindo originalidade
As afirmações de Mestre ecoam as feitas por matemáticos após a OpenAI, criadora do ChatGPT, anunciar a solução de um problema matemático antigo e de grande repercussão . Elas também levantam questões sobre como a descoberta de Claude se deu.
Os biólogos que trabalham no laboratório Anthropic disseram que deram a Claude a instrução de pesquisar em um enorme banco de dados de sequências de DNA por “novos exemplos interessantes” de transcriptase reversa, ou RT, uma enzima que copia o RNA em DNA e, portanto, desempenha um papel na disseminação da informação genética em um organismo.
A empresa afirmou que 950 agentes de IA, capazes de planejar e executar tarefas de forma independente, passaram 21 horas pesquisando os dados e selecionando 3.500 tempos de reação. A partir daí, foram reduzidos aos 20 mais relevantes. Para um cientista experiente, esse tipo de análise pode levar semanas ou até meses, segundo um comunicado da Anthropic.
Então, um dos agentes detectou algo notável: um padrão repetitivo de sequências de DNA que ocorre próximo ao gene de uma transcriptase reversa de aparência peculiar, observou a empresa em comunicado. Após uma análise minuciosa, a empresa se convenceu de que havia encontrado um novo sistema biológico e submeteu um relatório para revisão por especialistas.
A Anthropic afirmou que cientistas de seu laboratório de biologia analisaram e testaram a descoberta, que descreveram como um sistema biológico “anteriormente não caracterizado” em bacteriófagos, um tipo de vírus que ataca bactérias, com uma estrutura semelhante ao CRISPR, que é encontrado naturalmente em bactérias.
Mestre, no entanto, afirmou ter compartilhado pesquisas inéditas sobre sua conta particular de Claude, incluindo rascunhos de sua dissertação, análises e material que descrevem esses sistemas.
Não estou afirmando que a Anthropic se apropriou deliberadamente do nosso trabalho. Não posso provar isso, disse ele à CNN por e-mail.
Ou informações relacionadas ao nosso trabalho chegaram de alguma forma ao modelo e ele foi treinado com elas. A segunda possibilidade, que atualmente considero mais plausível, é que havia consideravelmente mais conhecimento científico prévio e direcionamento humano por trás da busca do que a expressão ‘descoberta autônoma’ sugere, acrescentou Mestre, referindo-se à linguagem usada no comunicado.
A Anthropic não respondeu ao pedido de comentário enviado por e-mail.
Não é incomum no processo científico que diferentes grupos de pesquisa cheguem ao mesmo resultado, mas a alegação de Mestre é séria, e muitos cientistas podem pensar duas vezes no futuro antes de inserir seus resultados não publicados nessas ferramentas, disse Ilya Finkelstein, professor de biociências moleculares da Universidade do Texas em Austin.
Novo território
Ainda assim, o anúncio da Anthropic sugere que a IA está começando a funcionar com mais autonomia na ciência, disse Gustavo Sudre, professor de neuroimagem genômica e inteligência artificial no King’s College London.
Recebeu uma orientação geral e depois teve que usar seu próprio julgamento sobre o que era interessante nos dados. Isso é uma mudança real em relação ao usual ‘analise este conjunto de dados para mim’, disse ele em um e-mail.
Finkelstein acrescentou que a IA se destaca na busca por uma “agulha no palheiro”, em vez de uma “descoberta imaginativa”. Ele observou que as ferramentas de IA ajudariam a explorar áreas onde os alunos ficariam muito cansados ou entediados ao tentar encontrar um padrão interessante que mereça uma investigação mais aprofundada.
Eles podem seguir rapidamente um grande número de caminhos improdutivos, disse Finkelstein à CNN. Eles são realmente bons em trabalhos braçais quando orquestrados por especialistas na área.
Finkelstein também observou que o autor principal do artigo da Anthropic é o Dr. Peter Yoon , que trabalhou no laboratório de Jennifer Doudna, uma das arquitetas do CRISPR Cas-9 e ganhadora do Prêmio Nobel de 2020 juntamente com Emmanuelle Charpentier. Portanto, os agentes de IA da Anthropic foram orientados por pessoas no topo de suas áreas, afirmou ele.
Quatro dos seis autores são biólogos moleculares seniores e especialistas na área. Dê a esse grupo uma grande quantidade de recursos computacionais e modelos de ponta (sem salvaguardas, imagino), e tenho certeza de que veremos descobertas bioinformáticas ainda mais interessantes, escreveu Finkelstein em uma postagem no blog do site de seu laboratório.
No entanto, outros pesquisadores afirmam que falar sobre descobertas autônomas impulsionadas por IA é uma propaganda exagerada que se antecipa à ciência real, e que os modelos ainda não são capazes de gerar resultados significativos por conta própria, apesar das alegações em contrário.
Permitir que um modelo analise dados em uma escala que nenhum ser humano consegue igualar realmente impulsiona o campo de pesquisa, mas não necessariamente anuncia um grande avanço, disse Sudre. “Por experiência própria, posso afirmar que a maior parte do trabalho se concentra na lacuna entre ‘padrões interessantes’ e ‘conhecimento útil'”, observou ele.
A Anthropic lançou o Claude Science, sua ferramenta projetada para pesquisa, no início deste ano. Seus concorrentes também lançaram recentemente ferramentas semelhantes. A OpenAI tem o GPT-Rosalind, a Microsoft tem o Quine e o Google DeepMind tem o Co-Scientist. Elas funcionam como grandes modelos de linguagem, mas também utilizam conjuntos de dados científicos específicos, como sequências de DNA.
No entanto, os modelos são tão confiáveis quanto os dados com os quais são treinados. Por exemplo, a força do AlphaFold do Google DeepMind, que ganhou o Prêmio Nobel de Química de 2024 pela decodificação de estruturas de proteínas, vem do treinamento do sistema de IA em uma fonte de dados restrita e especializada, coletada ao longo de décadas .
Os desenvolvedores de IA estão sob intenso escrutínio público em meio à crescente preocupação com agentes de IA desonestos e se as empresas de IA conseguem controlá-los adequadamente. Descobertas biológicas podem oferecer aos executivos das empresas a oportunidade de construir uma narrativa mais positiva que contrabalance parte do pessimismo em torno de seus produtos.
Mas avançar em direção a descobertas significativas e tangíveis na área provavelmente exigirá a integração dos modelos de IA ao trabalho prático em laboratório por meio da robótica.
Biologia não é matemática e, em algum momento, a inteligência precisa ser expressa no mundo físico por meio de um robô capaz de realizar as tarefas experimentais complexas e pontuais que um bom aluno normalmente faria quase instintivamente, disse Yuval Elani, professor associado de tecnologias bioquímicas no Imperial College London. Pelo que tenho visto sobre robótica e automação, ainda estamos longe disso. Portanto, levará algum tempo até que possamos realmente justificar toda a expectativa em torno da IA na biologia.
Limite tecnológico
A Anthropic afirma compreender que existe um limite para o que a inteligência artificial pode fazer sozinha e está investindo em ” hardware modelo ” que permitirá que agentes de IA operem dispositivos físicos com segurança.
Sudre, do King’s College, cujo trabalho integra dados genômicos, clínicos, neurais e cognitivos para prever como os sintomas de saúde mental se desenvolverão em crianças, enfatiza que o papel dos humanos na ciência não está diminuindo. O risco não é que os cientistas sejam afastados das descobertas, mas que se tornem preguiçosos e não usem seu discernimento para entender se um resultado é significativo, disse ele.
O próximo passo para os cientistas da Anthropic é realizar o trabalho minucioso de experimentos físicos em laboratório para entender o padrão que identificaram e se a assinatura pode ter uma aplicação prática em biotecnologia.
Claro, no futuro, parte disso também poderá ser feito por robôs, disse Sudre. Mas o ponto é que as perguntas que valem a pena fazer na ciência não ficam escondidas em bancos de dados esperando para serem encontradas. Elas vêm de nós, daquilo que nos importa, daquilo que nos preocupa.
Fonte: www.cnnbrasil.com.br