Attention for Analyzing Brain Activity

Abstract

Forståelsen av hvordan nevral aktivitet fungerer er avgjørende for å avdekke grunnleggende sannheter om hjernen. Denne oppgaven omhandler analyse av tidsmønstre i nevronaktivitet i telencephalon hos sebrafisk, med et spesielt fokus på bruk av attention-modeller og grafbaserte metoder. Målet er å benytte attention-mekanismer for å analysere samspill mellom nevroner, samt grafmodeller som GNN (Graph Neural Networks) for å forstå forbindelsene i nevrale data.

For å oppnå disse målene ble modellen ZebraGNN utviklet. Modellen utnytter grafstruktur-læring og attention-baserte mekanismer for å forutsi fremtidig nevral aktivitet og identifisere koblinger mellom nevroner i datasettet. Resultatene viser at modellen effektivt kan forutsi aktivitet for enkelte nevroner og avdekke meningsfulle koblingsmønstre. Likevel avdekker varierende prestasjoner behovet for ytterligere forskning og systematisk eksperimentering for å optimalisere og validere modellen fullt ut.

Dette arbeidet introduserer et nytt verktøy for analyse av nevrale data og legger grunnlaget for videre forskning innen maskinlæring og nevrovitenskap.

Understanding the complexities of neural activity is crucial for uncovering fundamental truths about the brain. This thesis focuses on analyzing the temporal patterns of neuronal activity in the zebrafish telencephalon, with a particular emphasis on applying attention mechanisms and graphical models. The primary objectives are to investigate the use of attention models for analyzing neural interactions and to integrate graph-based tools, such as Graph Neural Networks (GNNs), for modeling connectivity in neural data.

To achieve these objectives, the ZebraGNN model was developed. This model leverages graph structure learning and attention-based mechanisms to predict future neural activity and identify inter-neuron dependencies within the datasets. The results demonstrate that the model effectively captures accurate predictions for certain neurons and uncovers meaningful connectivity patterns. However, inconsistencies in performance underscore the need for further research and systematic experimentation to comprehensively benchmark and optimize the model.

Overall, this work contributes to neuroscience by presenting a novel approach to neural data analysis and establishing a foundation for future research at the intersection of machine learning and neuroscience.