Estudo da Universidade de York revela falhas em modelos de IA
Pesquisadores da Universidade de York identificaram discrepâncias significativas entre os modelos de inteligência artificial (IA) e o funcionamento do cérebro de primatas ao processar informações visuais. A pesquisa sugere que as estratégias utilizadas por esses sistemas de IA podem não refletir os mecanismos biológicos da visão.
Estudo da Universidade de York
O estudo, liderado pelo professor assistente Kohitij Kar, foi desenvolvido para avaliar se as redes neurais artificiais (ANNs) realmente operam de maneira semelhante ao cérebro primata. Os pesquisadores questionaram se a capacidade preditiva das ANNs em relação à atividade cerebral se sustentava quando a análise era invertida.
Teste de predição reversa
Os cientistas implementaram um teste de predição reversa, onde a atividade cerebral registrada deveria prever as respostas internas dos modelos de IA. Para isso, utilizaram 1.320 fotografias naturais e imagens sintéticas, além de 300 imagens adicionais em formas alteradas, como contornos e representações artísticas. O objetivo era verificar a consistência entre a atividade cerebral e as características internas da IA.
Resultados e implicações
Os resultados mostraram que, embora os modelos de IA pudessem prever a atividade neuronal com precisão, a atividade cerebral não conseguia prever muitas das características internas dos modelos. Essa discrepância sugere que as ANNs podem alcançar respostas visuais corretas por meio de processos distintos dos utilizados pelo cérebro primata. Kar alerta que essa diferença pode se ampliar à medida que os modelos se tornam mais complexos.
Relevância para pesquisas futuras
A pesquisa tem implicações significativas para o uso de modelos de IA em estudos de comportamento humano, incluindo pesquisas clínicas. Os pesquisadores enfatizam a necessidade de desenvolver modelos que se alinhem mais de perto com a atividade cerebral, a fim de evitar interpretações errôneas do comportamento humano. A abordagem adotada pelos cientistas pode ajudar a identificar quais partes das ANNs realmente correspondem à atividade cerebral, contribuindo para um entendimento mais preciso de como os humanos percebem o mundo.
A descoberta ressalta a importância de um alinhamento mais rigoroso entre modelos de IA e a biologia do cérebro, especialmente em áreas como pesquisa sobre autismo e outras condições neurológicas.
