Inteligência Artificial usada pela indústria farmacêutica não é inteligente, garantem especialistas

Redação do Site Inovação Tecnológica - 08/01/2024

Não é mais defensável que as GNNs aprendam as interações químicas entre substâncias ativas e proteínas, diz o professor Bajorath.
[Imagem: University of Bonn]

Inteligência da IA

Uma das principais preocupações com a inteligência artificial, como o risco de que ela se torne autoconsciente, se baseia no fato de que, ao contrário dos programas de computador comuns, onde cada etapa da solução do problema é descrito detalhadamente, os programas de IA são como caixas-pretas - nem mesmo os programadores sabem como eles chegam às conclusões que chegam porque eles aprendem não a partir das instruções dos programas, mas dos dados usados em seu treinamento.

E três especialistas da Universidade de Bonn, na Alemanha, acabam de reforçar essas preocupações, além de mostrar que a IA talvez não seja tão inteligente quanto esperamos.

O trio desenvolveu um método para tentar desvendar como as aplicações de IA usadas na pesquisa farmacêutica de fato funcionam. Os resultados foram inesperados: A larga maioria das respostas dos programas consiste em "lembranças" dos dados conhecidos, dificilmente "aprendendo" interações químicas específicas ao prever a potência de um medicamento.

O trabalho da IA na indústria farmacêutica envolve essencialmente descobrir qual molécula é mais eficaz contra uma determinada doença. Os compostos geralmente se ligam a proteínas, tipicamente enzimas ou receptores que desencadeiam uma cascata específica de ações fisiológicas. Em alguns casos, certas moléculas também têm como objetivo bloquear reações indesejáveis no organismo - como uma resposta inflamatória excessiva.

Dada a abundância de compostos químicos disponíveis, encontrar o mais adequado é como achar uma agulha num palheiro, o que fez a pesquisa de novos medicamentos passar a usar ferramentas de inteligência artificial, sobretudo as redes neurais de grafos (GNNs: Graph Neural Networks), ou redes neurais gráficas, para prever, por exemplo, quão fortemente uma determinada molécula se liga a uma proteína alvo.

Para isso, os modelos GNN são treinados com gráficos que representam complexos formados entre proteínas e compostos químicos (ligantes). Os grafos geralmente consistem em nós, que representam objetos, e arestas, que representam relacionamentos entre nós. Nas representações gráficas de complexos proteína-ligante, as bordas conectam apenas nós de proteína ou ligante, representando suas estruturas, ou nós de proteína e ligante, representando interações específicas proteína-ligante.

Como essas redes neurais fazem suas previsões, contudo, é um exemplo típico do que os especialistas chamam de um caixa-preta: Ninguém consegue ver como ela funciona por dentro. Era isto o que a equipe alemã pretendia desvendar, o que eles fizeram analisando detalhadamente se as redes neurais gráficas realmente aprendem as interações proteína-ligante para prever a força com que uma substância ativa se liga a uma proteína alvo.

Proporções relativas de bordas nos grafos de interação proteína-ligante determinando previsões de seis GNNs para diferentes sub-regiões de afinidade. As barras codificadas por cores comparam as proporções médias de proteínas, ligantes e bordas de interação entre as 25 bordas superiores de cada predição.
[Imagem: A. Mastropietro/J. Bajorath]

Previsões indefensáveis

Os pesquisadores analisaram um total de seis arquiteturas GNN diferentes usando seu novo método, batizado de EdgeSHAPer, e uma metodologia conceitualmente diferente para comparação. O programa de computador faz uma varredura nas GNNs para ver se elas aprendem as interações mais importantes entre um composto e uma proteína e, assim, preveem a potência do ligante, conforme pretendido e antecipado pelos pesquisadores - ou se a IA chega às previsões de outras maneiras.

As seis GNNs essencialmente falharam, não apresentando o comportamento esperado de um aprendizado, que seria aprender as interações entre o composto e a proteína alvo e formatar suas previsões priorizando interações específicas. "Para prever a força de ligação de uma molécula a uma proteína alvo, os modelos 'lembraram' principalmente moléculas quimicamente semelhantes que encontraram durante o treinamento e seus dados de ligação, independentemente da proteína alvo. Essas semelhanças químicas aprendidas essencialmente determinaram as previsões," resumiu o professor Jürgen Bajorath.

Segundo a equipe, isso lembra em grande parte o "Efeito Hans Esperto". Esse efeito refere-se a um cavalo que aparentemente sabia contar; a frequência com que Hans batia com o casco deveria indicar o resultado de um cálculo. Porém, como se descobriu mais tarde, o cavalo não era capaz de calcular nada, apenas deduzindo os resultados esperados a partir de nuances nas expressões faciais e nos gestos do seu treinador.

A conclusão - essencialmente que a inteligência artificial não é tão inteligente quanto se calcula - é a mesma obtida por outro estudo, feito em 2019, usando um espectro mais amplo de aplicações. Assim como o cavalo Hans, o programa simplesmente detecta o que já foi feito e tentar acertar, mais ou menos como um programa de recomendação de números de loteria baseasse suas sugestões nos resultados anteriores.

E o que essas descobertas significam para a pesquisa de descoberta de medicamentos? Segundo Bajorath, não é mais defensável que as GNNs aprendam as interações químicas entre substâncias ativas e proteínas, com suas previsões sendo largamente superestimadas porque previsões de qualidade equivalente podem ser feitas utilizando conhecimentos químicos e métodos mais simples.

Mais tópicos