As redes neuronais electrónicas, um dos conceitos-chave na investigação da inteligência artificial, inspiraram-se nos neurónios biológicos desde o seu início – como evidenciado pelo seu nome. Uma nova investigação revelou agora que a influente arquitetura do transformador de IA também partilha paralelos inesperados com a neurobiologia humana.
Num estudo realizado em colaboração, os cientistas propõem que as redes biológicas de neurónios-astrócitos possam imitar os cálculos centrais dos transformadores. Ou vice-versa. As conclusões – comunicadas conjuntamente pelo MIT, pelo MIT-IBM Watson AI Lab e pela Harvard Medical School – foram publicadas esta semana na revista Proceedings of the National Academy of Sciences.
As redes de astrócitos-neurónios são redes de células do cérebro constituídas por dois tipos de células: astrócitos e neurónios. Os astrócitos são células que suportam e regulam os neurónios, que são células cerebrais que enviam e recebem impulsos eléctricos. A sua atividade é basicamente pensar. Os astrócitos e os neurónios comunicam entre si através de substâncias químicas, eletricidade e toque.
Por outro lado, os transformadores de IA – apresentados pela primeira vez em 2017 – são uma das tecnologias de base por detrás de sistemas generativos como o ChatGPT. –De facto, é daí que vem o “T” em GPT. Ao contrário das redes neurais que processam as entradas sequencialmente, os transformadores podem aceder diretamente a todas as entradas através de um mecanismo chamado auto-atenção. Isto permite-lhes aprender dependências complexas em dados como texto.
Os investigadores concentraram-se nas sinapses tripartidas, que são junções onde os astrócitos formam ligações entre um neurónio que envia sinais (neurónio pré-sináptico) e um neurónio que recebe sinais (neurónio pós-sináptico).
Utilizando modelos matemáticos, demonstraram como a integração dos sinais pelos astrócitos ao longo do tempo pode fornecer a memória espacial e temporal necessária para a auto-atenção. Os seus modelos também mostram que um transformador biológico pode ser construído utilizando a sinalização de cálcio entre astrócitos e neurónios. TL;DR, este estudo explica como construir um transformador orgânico.
“Tendo permanecido eletricamente silenciosos durante mais de um século de gravações cerebrais, os astrócitos são uma das células mais abundantes, mas menos exploradas, do cérebro”, disse ao MIT Konstantinos Michmizos, professor associado de ciências informáticas na Universidade Rutgers. “O potencial de libertar o poder computacional da outra metade do nosso cérebro é enorme. “
Uma visão geral de alto nível da rede neurónio-astrócito proposta.
A hipótese aproveita a evidência emergente de que os astrócitos desempenham papéis activos no processamento de informação, ao contrário das suas funções de manutenção anteriormente assumidas. Também delineia uma base biológica para os transformadores, que podem ultrapassar as redes neuronais tradicionais na facilitação de tarefas como a geração de texto coerente.
Os transformadores biológicos propostos poderão fornecer novos conhecimentos sobre a cognição humana se forem validados experimentalmente. No entanto, continuam a existir lacunas significativas entre os seres humanos e os modelos de transformadores que exigem muitos dados. Enquanto os transformadores exigem conjuntos de dados de treino maciços, os cérebros humanos transformam organicamente a experiência em linguagem com um orçamento energético modesto.
Embora as ligações entre a neurociência e a inteligência artificial ofereçam uma perspetiva, compreender a enorme complexidade das nossas mentes continua a ser um enorme desafio. As ligações biológicas representam apenas uma peça do puzzle – para desvendar os meandros da inteligência humana é necessário um esforço sustentado de todas as disciplinas. A forma como a biologia neural consegue realizar a quase magia continua a ser o mistério mais profundo da ciência.
