HAL Id: inria-00311967
https://hal.inria.fr/inria-00311967
Submitted on 22 Aug 2008
HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub-
L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non,
Neurosciences
Jonathan Touboul
To cite this version:
Jonathan Touboul. Stochastic Processes and Hitting Times in Mathematical Neurosciences. 2006.
�inria-00311967�
a p p o r t
d e r e c h e r c h e
9ISRNINRIA/RR--1--FR+ENG
Thème BIO
Stochastic Processes and Hitting Times in Mathematical Neurosciences
Jonathan Touboul
N° 1
August 22, 2008
Jonathan Touboul
∗
ThèmeBIOSystèmesbiologiques
ProjetOdyssée
†
Rapportdereherhe n°1August22,2008118pages
Abstrat: Dans e rapport de reherhe nous denissons un adre mathématique pour
étudierladynamiquederéseauxdeneuronesintègre-et-tireenprésenede bruitextérieur.
Detelsréseauxsonthabituellementétudiésenutilisantl'équationdeFokker-Plank(Brunel,
Hakim par exemple). Dans etteétude on utilise les puissants outils développés pourles
réseauxde ommuniationet dénissons unformalisme pourl'étude de neuronesà spikes
gouvernésparunbruitextérieur. Grâeàeformalismenousposonsdesquestionsd'intérêt
biologiqueandearatériserlesdiérentsrégimesduréseau. Notonsquedansemodèle,la
distributiondel'intervaleinter-spikesestunparamètrefondamental. Danserapportnous
developponsetappliquonsdenombreuxoutilsdealulstohastiqueandearatériseres
distributionsdeprobabilité. Cepoinntdevuenousdonneunestratégiepoursimuleretype
deréseauxaléatoires. Nousavonsimplémenté etteméthodedesimulationenextensiondu
simulateurévénementielMvaspike.
Key-words: neuron models, stohastinetwork,event-drivenmodelization, event-driven
simulation,ommuniationnetwork,stohastiintegrate-and-reneurons.
∗
jonathan.touboulsophia.inria.fr
†
OdysséeisajointprojetbetweenENPC-ENSUlm-INRIA
Résumé : In this researh report we dene a newevent-based mathematial framework
forstudyingthedynamisofnetworksofintegrate-and-reneurondrivenbyexternalnoise.
Suh networks are lassially studied using the Fokker-Plank equation (Brunel, Hakim).
Inthisstudy,weusethepowerfultoolsdevelopedforommuniationnetworkstheoryand
deneaformalismforthestudyofspikingneuronnetworksdrivenbyanexternalnoise.With
thisformalism,weaddressbiologialquestionstoharaterizethedierentnetworkregimes.
Inthis framework, the probability distribution of theinterspikeintervalis a fundamental
parameter. Wedevelopedandapplyseveraltoolsfordeningandomputingtheprobability
densityfuntion (pdf)ofthetimeoftherstspike,usingstohastianalysis. Thispointof
viewgives us anevent-drivenstrategy for simulatingthis type of random networks. This
strategyhasbeenimplementedinanextensionoftheevent-drivensimulatorMvaspike.
Mots-lés: modèlesdeneurones,réseaustohastique,modélisationévénementielle,simu-
lationévénementielle,réseaudeommuniation,neuronesintègre-et-tirestohastiques.
Contents
I Some Neurosiene Basis 10
1 Biologial Spiking NeuronModels 11
1.1 Introdution. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.1.1 StrutureoftheNeuron . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.1.2 TheNeuronalSignal . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.1.3 TheNeuralTransmission . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.1.4 NeuronalCoupling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.1.5 Theproblemofneuraloding . . . . . . . . . . . . . . . . . . . . . . . 13
1.2 SingleNeuronModels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
1.2.1 Detailedneuronmodels . . . . . . . . . . . . . . . . . . . . . . . . . . 18
1.2.2 Two-dimensionalneuronmodels . . . . . . . . . . . . . . . . . . . . . 22
1.2.3 FormalSpikingNeuronModels . . . . . . . . . . . . . . . . . . . . . . 25
2 Randomnessin spiking neuron models 31 2.1 Noisesoures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.2 Statistisofspiketrains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.2.1 Input-dependantrenewalsystems. . . . . . . . . . . . . . . . . . . . . 32
2.2.2 Intervaldistribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.2.3 Sationnaryrenewalproesses . . . . . . . . . . . . . . . . . . . . . . . 33
2.3 Esapenoise . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.3.1 Esaperateandhasardfuntion . . . . . . . . . . . . . . . . . . . . . 35
2.3.2 Intervaldistributionandmeanringrate . . . . . . . . . . . . . . . . 36
2.4 Slownoisein theparameters . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.5 DiusiveNoise . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.5.1 Stohastispikearrival. . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.6 Stohastiresonane . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
2.7 Stohastiringratesmodels . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
II Hitting Times Approximations 39
3 First passage pdf 41
3.1 Introdution. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.2 Representationsofthepdf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.3 Approximationsofthepdf . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
3.3.1 A seriesexpression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
3.3.2 An IterativeApproximation . . . . . . . . . . . . . . . . . . . . . . . . 55
3.4 Appliationtosomesimpleases . . . . . . . . . . . . . . . . . . . . . . . . . 57
3.4.1 AneBoundary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
3.4.2 OUproess,ConstantBoundary . . . . . . . . . . . . . . . . . . . . . 57
4 Laplae transformpdf 61 4.1 Feynman-KaformulasandLaplaetransformsofHittingTimes . . . . . . . 61
4.1.1 SomeFeynman-Kaformulas . . . . . . . . . . . . . . . . . . . . . . . 62
4.1.2 Appliation: Charaterizationofhittingtimesforonstantboundaries 64 4.1.3 Appliation: Charaterizationofhittingtimesformovingboundaries 66 4.2 Appliations. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.2.1 BrownianMotionHittingTimes . . . . . . . . . . . . . . . . . . . . . 67
4.2.2 Ornstein-Ulhenbekhittingtimes . . . . . . . . . . . . . . . . . . . . . 72
5 Implementations 79 5.1 Introdution. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
5.2 Monte-CarloMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
5.3 Integrateand rewithinstantaneoussynaptiondutanes . . . . . . . . . . 80
5.3.1 Thetimeoftherstspike . . . . . . . . . . . . . . . . . . . . . . . . . 80
5.3.2 Validation oftheseapproximations . . . . . . . . . . . . . . . . . . . . 83
5.3.3 Thetimesofthenextspikes. . . . . . . . . . . . . . . . . . . . . . . . 85
5.4 Integrateand rewithexponentiallydeayingsynaptiondutanes . . . . . 86
5.4.1 Thetimeoftherstspike . . . . . . . . . . . . . . . . . . . . . . . . . 87
5.4.2 Thetimesofthenextspikes. . . . . . . . . . . . . . . . . . . . . . . . 88
5.5 Conlusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
III A stohasti network of biologial neurons 92 6 Event-basednetworkmodel 93 6.1 Introdution: Basidenitions . . . . . . . . . . . . . . . . . . . . . . . . . . 93
6.1.1 Integrate-and-reneurons . . . . . . . . . . . . . . . . . . . . . . . . . 94
6.1.2 MathematialFramework: TheHourglassModel . . . . . . . . . . . . 94
6.1.3 FromBiologialnetworkstotheHourglassmodel . . . . . . . . . . . . 97
6.2 SingleNeuronBiologialModels . . . . . . . . . . . . . . . . . . . . . . . . . 98
6.2.1 Perfetintegrate-and-remodels . . . . . . . . . . . . . . . . . . . . . 100
6.2.2 Leaky integrate-and-remodels . . . . . . . . . . . . . . . . . . . . . . 101
6.3 InludingSynaptiDelaysandRefratory Period . . . . . . . . . . . . . . . . 106
6.3.1 SynaptiDelaysandRefratoryPeriod. . . . . . . . . . . . . . . . . . 106
6.3.2 A speialaseofsynaptidelaysandrefratoryperiod . . . . . . . . . 107
7 Mathematial Analysisof the Hourglassmodel 111 7.1 ConstantInterations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
7.2 IIDInterations. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
A Mathematial Complements 113 A.1 HermiteFuntions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
A.2 Convergeneofprobabilitymeasures . . . . . . . . . . . . . . . . . . . . . . . 114
List of Figures
1.1 SingleNeuronanatomy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.2 Spikedensity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.3 Phaseoding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.4 Synhrony . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.5 Reverseorrelationtehnique . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.6 Eletrialequivalene,Hodgkin-Huxleymodel . . . . . . . . . . . . . . . . . . 19
1.7 FuntionsintheHH model . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
1.8 Leakyintegrate-and-remodel . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.1 Noisythreshold . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.2 SpikeResponseModel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
5.1 Durbin'sseries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
5.2 Monte-Carloapproximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
6.1 Synaptidelaysandrefratoryperiod . . . . . . . . . . . . . . . . . . . . . . 108
Résumé
CedoumentonstituemonmémoiredeMaster2Reherhe"ProbabilitésetAppliations",
lière Proessus Stohastiques. J'ai en eet eetué mon mémoire de Master au sein de
l'équipeOdysséedel'INRIA Sophia-Antipolis, et j'aitravaillésurla modélisation stohas-
tique des neurones et des réseaux de neurones biologiques. De e travail a résulté deux
publiationsdansdesonférenes: unposterenollaborationaveRomainBretteprésenté
àlaonféreneNeuroMath2006qui s'est tenueàAndorre,etune ommuniationoraleen
ollaborationaveOlivierFaugeraset TheodorePapadopoulodel'équipeOdysseeet Denis
Talay,EtienneTanréetMireilleBossydel'équipeOmega,quiseraprésentéàlaonférene
NeuroComples23et24otobre.
Ce doumentseomposede3partiesprinipales.
Lapremièrepartie estune introdutionàlamodélisation enneurosienes. Dans ette
partie,jedénislesnotionsprinipalesquiinterviennentdanslesmodèlesdeneurosienes,
etj'exposelesprinipauxmodèlesmathématiques,d'aborddansunadredéterministe,puis
dansunadrestohastique.
La seonde partie traite des temps d'atteinte de proessus stohastiques et de leurs
approximations. Le problèmequenous herhonsàrésoudreonsisteàexpliiterouara-
tériserlesdensitésdeprobabilitédestempsd'atteintedeertainsproessusstohastiquesà
unefrontièrequipeutêtreonstante ouvariable. Pourefaire,nousétudionsdeuxartiles
de J. Durbin [16, 17℄ qui donnentune représentation des temps d'atteinte d'un proessus
gaussien (oudumouvementbrownien)d'une ourbe. Ces artilesdonnentaussi une série
quionvergedanssousertaineshypothèsessurlafrontière. Nousprouvonsdansleas du
proessusd'Ornstein-Uhlenbekqu'uneapproximationproposéeparDurbindanssonartile
de1985estexatelorsquelafrontièreonsidéréeestonstanteégaleàladériveduproessus.
NousexpliitonsensuitedesformulesaratérisantlestransforméesdeLaplaedestemps
d'atteinteviadessolutionsd'EDPelliptiquesouparaboliques,etappliquonsesformulations
pour trouver des temps d'atteinte de proessus simples (mouvement brownien, Ornstein-
Uhlenbek). Nousnousservonsdeesaratérisationspourprouverdesonvergenesenloi
etpresquesuresdetempsd'atteinteenfontiondelaonditioninitialeduproessus.
Enn,nousappliquonslesméthodesdéritesi-dessuspoursimulerdesdensitésdeprob-
abilitésdetempsd'atteinteutilesenneurosienes,donnantladistributiondupremiertemps
despikepourertains modèlesdeneurones. Ce travailsera l'objetdela présentationàla
onféreneNeuroComp.
Latroisièmepartiedéveloppeunpontentreunelassederéseauxdeneuronesbiologiques
et un adre mathématique unique, déjà quelque peu étudié par des mathématiiens. Ce
travailest l'objetduposterprésentéàlaonféreneNeuroMath.
Abstrat
This doument is my master's 2 researh thesis, in the setion Stohasti Proesses, of
UniversityParisVI(PierreetMarieCurie). IdidthisthesisintheOdysséeteamofINRIA
Sophia-Antipolis,andmyworkdealswithstohastimodelisationof biologialneuronand
neuralnetworks. This work hasleadto twopubliationsin onferenes: apostertogether
withRomainBrette,attheNeuroMathonfereneinAndorra,andanoralommuniation
togetherwithOlivierFaugerasandTheodorePapadopoulooftheOdysseeteam andDenis
Talay,EtienneTanréandMireilleBossyoftheOmegateam,whihwillbepresentedatthe
onfereneNeuroComponOtober23rdand 24th.
Thisdoumentisomposedofthreemainparts.
The rst part is an introdution the neurosienemodelisation. Inthis part, I would
dene the main notions used in mathematial models for neurosiene, and I review the
mainmathematialmodelsofneurons,deterministiandprobabilisti.
Theseondpartdealswithhittingtimesofstohastiproessesandwiththeirapproxi-
mations. Theissuewedealwithinthispartistheproblemofharaterizingtheprobability
densitiesof hitting times of somestohasti proesseswith aonstantor moving frontier.
Todoso,werststudyDurbin'smethod,whihhepresentsintwoartiles[16,17℄,givinga
representationofthehittingtimesofaGaussianproess(oroftheBrownianmotion)with
aurve. Theseartilesgivesaseriesrepresentation,whihonvergesundersomeonditions
on the boundary funtion, to the real probability density. We also prove in the ase of
the Ornstein-Uhlenbek proessfor averyspeial boundary that arst order approxima-
tion gives thereal pdf, giving anotherexample (Durbin showsthe same property for the
Brownianmotionrossingalinearboundaryinhis artileof1985.
Then wemakeexpliit someformulasharaterizingthe Laplae transformsof hitting
timesusingelliptiorparaboliPartialDierentialEquations(PDE), andapplythosefor-
mulastondthelawsofhittingtimesoftheBrownianmotionandtheOrnstein-Uhlenbek
proess. Weusethose haraterizationstoprovealsosomeonvergenesin lawandalmost
sureofthosehittingtimeswhenthestartingpointoftheproessunderonsiderationtends
tothebarrier.
Finally,weapply thosemethodstosimulatetheprobabilitydensityfuntions usefullin
neurosiene,givingorapproximatingtheprobabilitydistributionoftherstspikeforsome
neuralmodels. Thisworkwill bepresentedintheNeuroComponferene.
The third part of this doument builds a bridge between a lass of biologial neural
networks and asingle generalmathematial framework, whih has beenstudied sinethe
lasttenyearsbytheommunityofstohastinetworks. Thisstudyhasbeenpresented(with
theposterjoint)intheNeuroMathonferenein Andorra.
Part I
Some Neurosiene Basis