Home » Gli scienziati scoprono echi biologici in potenti modelli di trasformatori AI

Gli scienziati scoprono echi biologici in potenti modelli di trasformatori AI

by Tim

Le reti neurali elettroniche, uno dei concetti chiave della ricerca sull’intelligenza artificiale, hanno tratto ispirazione dai neuroni biologici fin dalla loro nascita, come dimostra il loro nome. Una nuova ricerca ha ora rivelato che l’influente architettura dei trasformatori di intelligenza artificiale condivide anche inaspettati parallelismi con la neurobiologia umana.

In uno studio collaborativo, gli scienziati propongono che le reti biologiche di astrociti e neuroni possano imitare le computazioni fondamentali dei trasformatori. O viceversa. I risultati, presentati congiuntamente dal MIT, dal MIT-IBM Watson AI Lab e dalla Harvard Medical School, sono stati pubblicati questa settimana sulla rivista Proceedings of the National Academy of Sciences.

Le reti di astrociti e neuroni sono reti di cellule nel cervello composte da due tipi di cellule: astrociti e neuroni. Gli astrociti sono cellule che sostengono e regolano i neuroni, cellule cerebrali che inviano e ricevono impulsi elettrici. La loro attività è fondamentalmente il pensiero. Gli astrociti e i neuroni si parlano utilizzando sostanze chimiche, elettricità e tatto.

D’altra parte, i trasformatori di intelligenza artificiale, introdotti per la prima volta nel 2017, sono una delle tecnologie di base dei sistemi generativi come ChatGPT. –Infatti, è da qui che deriva la “T” di GPT. A differenza delle reti neurali che elaborano gli input in modo sequenziale, i trasformatori possono accedere direttamente a tutti gli input attraverso un meccanismo chiamato auto-attenzione. Questo permette loro di apprendere dipendenze complesse in dati come il testo.

I ricercatori si sono concentrati sulle sinapsi tripartite, che sono giunzioni in cui gli astrociti formano connessioni tra un neurone che invia segnali (neurone presinaptico) e un neurone che riceve segnali (neurone postsinaptico).

Utilizzando modelli matematici, hanno dimostrato come l’integrazione dei segnali nel tempo da parte degli astrociti possa fornire la memoria spaziale e temporale necessaria per l’autoattenzione. I loro modelli mostrano anche che è possibile costruire un trasformatore biologico utilizzando la segnalazione del calcio tra astrociti e neuroni. Questo studio spiega come costruire un trasformatore biologico.

“Essendo rimasti elettricamente silenziosi per oltre un secolo di registrazioni cerebrali, gli astrociti sono una delle cellule più abbondanti, ma meno esplorate, del cervello”, ha dichiarato al MIT Konstantinos Michmizos, professore associato di informatica alla Rutgers University. “Il potenziale di liberare la potenza di calcolo dell’altra metà del nostro cervello è enorme”.

Una panoramica di alto livello della rete neurone-astrocita proposta.

Una panoramica di alto livello della rete neurone-astrocita proposta.


L’ipotesi si basa sulle prove emergenti che gli astrociti svolgono un ruolo attivo nell’elaborazione delle informazioni, a differenza delle funzioni di mantenimento precedentemente ipotizzate. Inoltre, delinea una base biologica per i trasformatori, che possono superare le reti neurali tradizionali nel facilitare compiti come la generazione di testi coerenti.

I trasformatori biologici proposti, se convalidati sperimentalmente, potrebbero fornire nuove conoscenze sulla cognizione umana. Tuttavia, permangono notevoli lacune tra gli esseri umani e i modelli di trasformatori affamati di dati. Mentre i trasformatori richiedono enormi insiemi di dati per l’addestramento, il cervello umano trasforma l’esperienza in linguaggio in modo organico, con un budget energetico modesto.

Sebbene i collegamenti tra le neuroscienze e l’intelligenza artificiale offrano spunti di riflessione, la comprensione della complessità delle nostre menti rimane una sfida immensa. Le connessioni biologiche rappresentano solo un tassello del puzzle: per svelare le complessità dell’intelligenza umana è necessario un impegno costante in tutte le discipline. Il modo in cui la biologia neurale riesce a realizzare la quasi magia continua a essere il mistero più profondo della scienza.

Related Posts

Leave a Comment