Gepubliseer aanlyn 2018 Mei 14. doi: 10.1038 / s41593-018-0152-y
Abstract
Dopamien is 'n kritieke modulator van beide leer en motivering. Dit bied 'n probleem: hoe kan teikenselle weet of verhoogde dopamien 'n sein is om te leer of beweeg? Daar word gereeld aanvaar dat motivering langdurige ("toniese") dopamienveranderinge behels, terwyl vinnige ("phasic") dopamienskommelings loonvoorspellingsfoute vir leer meedeel. Tog het onlangse studies getoon dat dopamien motiveringswaarde dra, en bevorder beweging, selfs op sub-tweede tye. Hier beskryf ek 'n alternatiewe weergawe van hoe dopamien deurlopende gedrag reguleer. Dopamien vrylating wat verband hou met motivering word vinnig en plaaslik gevorm deur reseptore op dopamien terminale, onafhanklik van dopamien selontbranding. Teiken neurone skielik wissel tussen leer en prestasie modusse, met striatale cholinergiese interneurone wat een kandidaat skakel meganisme. Die gedragsimpak van dopamien wissel volgens subregio, maar in elke geval bied dopamien 'n dinamiese skatting van of dit 'n beperkte interne hulpbron, soos energie, aandag of tyd, is die moeite werd.
Is dopamien 'n sein vir leer, vir motivering, of albei?
Ons begrip van dopamien het in die verlede verander en verander weer. Een kritieke onderskeid is tussen dopamien-effekte op huidige gedrag (prestasie) en dopamien-effekte op toekoms gedrag (leer). Albei is eintlik en belangrik, maar op verskillende tye is daar 'n voordeel en die ander het nie.
Wanneer (in die '70'e) dit moontlik geword het om selektiewe, volledige letsels van dopamienpaaie uit te voer, was die voor die hand liggende gedragsgevolge 'n ernstige vermindering in beweging1. Dit pas by die aketiese effekte van dopamienverlies by mense, wat geproduseer word deur gevorderde Parkinson se siekte, giftige middels of enkefalitis2. Tog toon geen rotse of menslike gevalle 'n fundamentele onvermoë om te beweeg nie. Dopamien-letselsrotte swem in koue water3, en aketiese pasiënte kan opstaan en hardloop as 'n brandalarm klink ("paradoksale" kinesie). Daar is ook nie 'n basiese tekort om die belonings te waardeer nie: dopamienblaasjies sal kos wat in hul mond geplaas word, verteer en tekens toon om dit te geniet4. Inteendeel, hulle sal nie kies om moeite uit te oefen om aktief belonings te kry nie. Hierdie en baie ander resultate het 'n fundamentele verband tussen dopamien en motivering gevestig5. Selfs die bewegings verlangsaming waargeneem word in minder ernstige gevalle van Parkinson's Disease kan beskou word as 'n motiverende tekort, wat implisiete besluite weerspieël dat dit nie die energie wat nodig is vir vinniger bewegings die moeite werd het nie.6.
Toe het (in die '80s') baanbreker opnames van dopamienneurone in die optrede van ape (in middelbreinareas wat na voorhoede projekseer: ventrale tegmentale area, VTA / substantia nigra pars compacta, SNc). Onder die waargeneem vuurpatrone was kort opeenvolgende aktiwiteite aan stimuli wat onmiddellike bewegings veroorsaak het. Hierdie "fasiese" dopamienontsteking is aanvanklik geïnterpreteer as ondersteunende "gedragsaktivering"7 en "motiverende opwinding"8 - met ander woorde as 'n verkwikkende gedrag van die dier.
'N Radikale verskuiwing het plaasgevind in die' 90s ', met die herinterpretasie van fasiese dopamien-uitbarstings as kodering beloon voorspellingsfoute (RPEs9). Dit was gebaseer op 'n belangrike waarneming: dopamien selle reageer op onverwagte stimuli wat met toekomstige beloning geassosieer word, maar stop gereeld reageer as hierdie stimuli verwag word.10. Die RPE-idee het ontstaan in vroeëre leerteorieë, en veral in die toenemend rekenaarwetenskaplike veld van versterkingsleer11. Die punt van 'n RPE sein is om op te dateer waardes(ramings van toekomstige belonings). Hierdie waardes word later gebruik om keuses te help wat beloning maksimeer. Aangesien dopamienselontbranding RPE's gelyk het, en RPE's word gebruik om te leer, het dit natuurlik geword om die rol van dopamien in leer te beklemtoon. Later optogenetiese manipulasies bevestig die dopaminerge identiteit van RPE-kodering selle12,13 en het getoon dat hulle leer leer14,15.
Die idee dat dopamien 'n leersein bied, pas pragtig by die literatuur dat dopamien die sinaptiese plastisiteit in die striatum moduleer, die primêre voorhoofdoel van dopamien. Byvoorbeeld, die drievoudige toeval van glutamaatstimulasie van 'n striatale dendrietwervel, postsynaptiese depolarisasie en dopamien vrylating veroorsaak dat die ruggraat groei16. Dopaminerge modulasie van langtermyn-leermeganismes help om die aanhoudende gedragseffekte van verslawende middels te verduidelik, wat die eienskap van die verbetering van striatale dopamien vrystelling deel17. Selfs die diepgaande akinesie met dopamienverlies kan gedeeltelik verantwoord word deur sulke leermeganismes18. Gebrek aan dopamien kan behandel word as 'n voortdurend-negatiewe RPE, wat progressief waardes van aksies na nul opdateer. Soortgelyke progressiewe, uitwissing-agtige effekte op gedrag kan deur dopamien-antagoniste geproduseer word19,20.
Die idee dat dopamien krities betrokke is by voortdurende motivering, het nog nooit verdwyn nie - inteendeel, dit word algemeen aanvaar as gedrags neurowetenskaplikes. Dit is toepaslik gegewe die sterk bewyse dat dopamienfunksies in motivering / beweging / verkwikking los van leer is15,20-23. Minder gewaardeer is die uitdaging om hierdie motiverende rol te versoen met die teorie dat DA 'n RPE-leersein verskaf.
Motivering "sien uit": dit gebruik voorspellings van toekomstige beloning (waardes) om huidige gedrag toepaslik te aktiveer. In teenstelling hiermee, leer ons "kyk terug" na state en aksies in die onlangse verlede en werk hulle waardes op. Hierdie is komplementêre fases van 'n siklus: die opgedateerde waardes kan in die daaropvolgende besluitneming gebruik word indien daardie state weer ondervind word, dan weer opgedateer word, ensovoorts. Maar watter fase van die siklus is dopamien betrokke by - gebruik waardes om besluite te neem (prestasie) of waardes (leer) op te dateer?
In sommige omstandighede is dit reguit om te dink dat dopamien albei rolle gelyktydig speel.24Onverwagte, beloningsvoorspellende aanwysings is die argetipe gebeurtenisse om dopamien selontbranding en -ontlading op te wek, en sulke leidrade is tipies beide opgewekte gedrag en leer bevorder (Fig 1). In hierdie spesifieke situasie neem beloningsvoorspelling en beloningsvoorspellingsfoute gelyktydig toe, maar dit is nie altyd die geval nie. As net een voorbeeld word mense en ander diere dikwels gemotiveer om vir belonings te werk, selfs as daar min of niks verrassends voorkom nie. Hulle kan harder en harder werk namate hulle nader en nader aan beloning kom (waarde styg namate belonings nader kom). Die punt is dat leer en motivering konseptueel, berekenend en gedragsonderskeidend is - en tog lyk dit of dopamien albei doen.
Hieronder evalueer ek krities huidige idees oor hoe dopamien beide leer- en motiveringsfunksies kan bereik. Ek stel 'n opgedateerde model voor, gebaseer op drie sleutel feite: 1). Dopamien vrystelling van terminale kom nie bloot uit dopamien selontbranding nie, maar kan ook plaaslik beheer word. 2) dopamien beïnvloed beide sinaptiese plastisiteit en opgewondenheid van teikenselle, met afsonderlike gevolge vir leer en prestasie onderskeidelik; 3) dopamien-effekte op plastisiteit kan aangeskakel of afgeskakel word deur nabygeleë stroombaanelemente. Saam kan hierdie funksies breinbane toelaat om tussen twee afsonderlike dopamienboodskappe te wissel, onderskeidelik vir leer en motivering.
Is daar aparte "fasiese" en "toniese" dopamien seine, met verskillende betekenisse?
Daar word dikwels aangevoer dat die leer- en motiveringsrolle van dopamien op verskillende tydskale voorkom25. Dopamien selle brand voortdurend ("tonies") teen 'n paar spikes per sekonde, met af en toe kort ("phasic") bars of pouses. Bursts, veral as dit kunsmatig gesinchroniseer word oor dopamien selle, ry ooreenstemmende vinnige toenames in voorhoed dopamien26 Dit is hoogs verbygaande (sub-tweede duur27). Die afsonderlike bydrae van toniese dopamien selbrand na die voorkoms van dopamien konsentrasies is minder duidelik. Sommige bewyse dui daarop dat hierdie bydrae baie klein is28. Dit kan genoeg wees om nagenoeg deurlopende stimulering van die D2-reseptore met hoër affiniteit te produseer, wat die stelsel toelaat om kort pouses in dopamien-selontbranding op te let.29 en gebruik hierdie pouses as negatiewe voorspellingsfoute.
Mikrodialise is wyd gebruik om direk dopamienvlakke van voorhoed te meet, alhoewel met lae temporale resolusie (gewoonlik gemiddeld oor baie minute). Sulke stadige metings van dopamien kan uitdagend wees om presies met gedrag verband te hou. Desondanks toon mikrodialise van dopamien in die nucleus accumbens (NAc, ventrale / mediale striatum) positiewe korrelasies aan lokomotoriese aktiwiteit30 en ander motiewe van motivering5. Dit is wyd geneem om te beteken dat daar stadige ("toniese") veranderinge in dopamien konsentrasie is, en dat hierdie stadige veranderinge 'n motiverende sein oor bring. Meer spesifiek, het berekeningsmodelle voorgestel dat toniese dopamienvlakke die langtermyn gemiddelde beloningsyfer volg31 - 'n nuttige motiveringsveranderlike vir die toekenning van besluite oor tyd en kos. Dit is die moeite werd om te beklemtoon dat baie min artikels 'toniese' dopamienvlakke duidelik definieer - hulle neem gewoonlik aan dat die dopamienkonsentrasie stadig verander gedurende die veelvoudige tydskaal van mikrodialise.
Tog is hierdie probleem met "phasic dopamine = RPE / learning, tonic dopamine = motivation" gesig. Eerstens, daar is geen direkte bewyse dat toniese dopamien selbrand normaalweg oor stadige tydskale wissel nie. Toniese vuurpryse verander nie met veranderende motivering nie32,33. Daar is aangevoer dat toniese dopamienvlakke verander as gevolg van 'n veranderende deel van aktiewe dopamien selle34,35. Maar oor baie studies in ongedekte, onbesliste diere is dopamien selle nog nooit aangemeld om tussen stil en aktiewe toestande te wissel nie.
Verder beteken die feit dat mikrodialise stadig dopamienvlakke meet, nie dat dopamienvlakke eintlik stadig verander nie. Ons het onlangs15 ondersoek rat NAc dopamien in 'n probabilistiese beloningstaak, met behulp van beide mikrodialise en vinnige scan sikliese voltammetrie. Ons het bevestig dat mesolimbiese dopamien, soos gemeet deur mikrodialise, korreleer met beloningskoers (belonings / min). Maar selfs met 'n verbeterde mikrodialise-temporale resolusie (1min) dopamien fluktueer so vinnig as wat ons dit bemonster het: ons het geen bewyse vir 'n inherent-stadige dopamien sein gesien nie.
Deur die fyner tydelike resolusie van voltammetrie te gebruik, het ons 'n noue verband tussen sub-tweede dopamien skommelinge en motivering waargeneem. Aangesien rotte die volgorde van aksies wat nodig was om belonings te behaal, opgedoen het, het dopamien hoër en hoër gestyg en 'n piek bereik, net soos wat hulle die beloning behaal het (en vinnig gedaal het as hulle dit verteer het). Ons het getoon dat dopamien sterk gekorreleer is met oombliklike staatwaarde-gedefinieer as die verwagte toekomstige beloning, verdiskonteer met die verwagte tyd wat nodig is om dit te ontvang. Hierdie vinnige dopamien-dinamika kan ook die mikrodialise-resultate verduidelik, sonder om afsonderlike dopamien seine op verskillende tydskaalse te gebruik. Aangesien diere meer belonings ervaar, verhoog hulle hul verwagtinge van toekomstige belonings by elke stap in die proefvolgorde. In plaas van 'n stadig-ontwikkelende gemiddelde beloningsyfer-sein, word die korrelasie tussen dopamien- en beloningsyfer die beste verklaar as 'n gemiddelde, oor die langdurige mikrodialise-monster-insamelingstyd, van hierdie vinnig ontwikkelende staatswaardes.
Hierdie waarde interpretasie van mesolimbiese dopamien vrystelling is in ooreenstemming met voltammetrie resultate van ander navorsingsgroepe, wat herhaaldelik bevind het dat dopamien vrylating ramps met toenemende nabyheid tot beloning36-38(Fig 2). Hierdie motiverende sein is nie inherent "stadig" nie, maar kan eerder oor 'n deurlopende reeks tydskale waargeneem word. Alhoewel dopamien-opritte 'n paar sekondes kan duur, kan 'n benaderingsgedrag ook 'n paar sekondes duur38, dit weerspieël die tydsverloop van die gedrag, eerder as intrinsieke dopamien dinamika. Die verhouding tussen mesolimbiese dopamien vrystelling en fluktuerende waarde is sigbaar so vinnig soos die opname tegniek toelaat, dws op 'n ~ 100m-tydskaal met akute voltammetrie-elektrodes15.
Vinnige dopamien skommelinge weerspieël nie net motivering nie, hulle voer ook dadelik gemotiveerde gedrag aan. Groter fasiese reaksies van dopamien selle om leidrade te aktiveer, voorspel korter reaksietye op dieselfde proef39. Optogenetiese stimulering van VTA dopamien selle maak rotte meer geneig om te begin werk in ons probabilistiese beloningstaak15, net asof hulle 'n hoër verwagting van beloning gehad het. Optogenetiese stimulasie van SNc dopamienneurone, of hul aksone in dorsale striatum, verhoog die waarskynlikheid van beweging40,41. Hierdie gedragseffekte is krities gesien binne 'n paar honderd millisekonde van die aanvang van optogenetiese stimulasie. Die vermoë van beloning-voorspellende aanwysings om motivering te bevorder, blyk te midde van baie vinnige dopaminerge modulasie van die opwinding van NAc-spinige neurone42. Aangesien dopamien vinnig verander, en hierdie dopamienveranderinge vinnig beïnvloed, word die motiveringsfunksies van dopamien beter beskryf as vinnig ("phasic"), nie stadig nie ("tonic").
Verder kan 'n beroep op afsonderlike vinnige en stadige tydskale nie op sigself die dekodeerprobleem wat neurone met dopamienreseptore in die gesig staar, oplos nie. As dopamien leer ken, sal modulasie van sinaptiese plastisiteit 'n gepaste sellulêre reaksie wees. Maar onmiddellike effekte op gemotiveerde gedrag impliseer onmiddellike effekte op spiking - byvoorbeeld deur vinnige veranderings in opgewondenheid. Dopamien kan albei hierdie postsynaptiese effekte hê (en meer), het 'n gegewe dopamienkonsentrasie dus 'n spesifieke betekenis? Of moet hierdie betekenis gekonstrueer word - byvoorbeeld deur dopamienvlakke oor tyd heen te vergelyk, of deur ander samevallende seine te gebruik om vas te stel by watter sellulêre masjinerie u moet skakel? Hierdie moontlikheid word hieronder verder bespreek.
Gee dopamien-vrystelling dieselfde inligting as dopamien-selontbranding?
Die verwantskap tussen vinnige dopamien skommelinge en motiveringswaarde lyk vreemd, aangesien dopamien selontsteking eerder RPE lyk. Verder het sommige studies RPE seine gerapporteer in mesolimbiese dopamien vrystelling43. Dit is belangrik om te let op 'n uitdaging in die interpretasie van sommige vorms van neurale data. Waardeseine en RPE's is met mekaar gekorreleer - nie verrassend nie, aangesien die RPE gewoonlik gedefinieer word as die verandering in waarde van een oomblik na die volgende ('temporale verskil' RPE). As gevolg van hierdie korrelasie is dit van kritieke belang om eksperimentele ontwerpe en ontledings te gebruik wat waarde van RPE-rekeninge onderskei. Die probleem word vererger wanneer 'n neurale maatstaf gebruik word wat afhanklik is van relatiewe, eerder as absolute, seinveranderings. Voltammetrie-analises vergelyk gewoonlik dopamien op 'n sekere tydstip van belang met 'n "basislyn" -tydperk vroeër in elke proef (om seinkomponente wat nie-dopamienafhanklik is nie, te verwyder, insluitend die laai van die elektrode op elke spanningsveeg en dryf oor 'n tydskaal van minute). Maar as 'n basislyn afgetrek word, kan 'n waardesein soos 'n RPE-sein lyk. Dit is wat ons in ons eie voltammetrie-data waargeneem het (Fig. 2e). Veranderinge in beloningsverwagting is weerspieël in veranderinge in dopamienkonsentrasie vroeg in elke proef, en hierdie veranderinge word gemis as 'n mens net 'n konstante basislyn oor proewe aanneem.15. Gevolgtrekkings oor die vrystelling van dopamien en RPE-kodering moet dus met omsigtigheid beskou word. Hierdie gevaar vir data-interpretasie is nie net van toepassing op voltammetrie nie, maar ook op enige analise wat afhanklik is van relatiewe veranderinge - wat moontlik fMRI en fotometrie insluit.44.
Tog moet ons nog steeds waardeverwante dopamien-vrystelling in NAc-kern versoen met die konsekwente afwesigheid van waardeverwante spiking deur dopamienneurone13, selfs binne die laterale VTA-area wat dopamien aan NAc-kern verskaf45. Een potensiële faktor is dat dopamien selle gewoonlik aangetref word in kopbeheerde diere wat klassieke kondisioneringstake uitvoer, terwyl dopamien vrylating tipies gemeet word in ongebreidelde diere wat aktief deur hul omgewing beweeg. Ons het voorgestel dat mesolimbiese dopamien die waarde van "werk" spesifiek kan aandui.15 - dat dit 'n vereiste weerspieël om tyd en moeite te bestee om die beloning te verkry. In ooreenstemming hiermee neem dopamien toe met seine wat beweging aandui, maar nie met seine wat stilte aanwys nie, selfs nie as dit soortgelyke toekomstige beloning aandui nie.46. As daar, soos in baie klassieke kondisioneringstake, geen voordeel is aan aktiewe 'werk' nie, kan dopaminerge veranderinge wat die waarde van werk aandui, minder duidelik wees.
Nog belangriker kan die feit wees dat dopamien vrystelling plaaslik by die terminale self beheer kan word, en sodoende spatio-temporale patrone toon wat onafhanklik is van selliggaamspiking. Byvoorbeeld, die basolaterale amygdala (BLA) kan NAc dopamien vrystelling beïnvloed selfs wanneer VTA geïaktiveer word.47. Omgekeerd verminder BLA inaktiewe NAc dopamien vrylating en ooreenstemmende gemotiveerde gedrag, sonder om VTA-skiet te beïnvloed48. Dopamien-terminale het reseptore vir 'n reeks neurotransmitters, insluitend glutamaat, opioïede en asetielcholien. Nikotiniese asetielcholienreseptore laat striatale cholinergiese interneurone (CINs) toe om dopamien vrystelling vinnig te beheer.49,50. Alhoewel dit lank reeds opgemerk is dat plaaslike beheer oor dopamien vrystelling potensieel belangrik is7,51, dit is nie ingesluit in die rekenkundige rekeninge van dopamienfunksie nie. Ek stel voor dat die dopamienvrystellingsdinamika wat verband hou met waardekodering grootliks ontstaan plaaslike beheer, selfs as dopamien-selontbranding belangrike RPE-agtige seine vir leer bied.
Hoe kan dopamien beide leer en motivering sonder verwarring beteken?
In beginsel is 'n waardesignaal voldoende om RPE ook oor te dra, aangesien tydelike-verskil-RPE's eenvoudig vinnige veranderinge in waarde is (Fig. 2B). Byvoorbeeld, duidelike intrasellulêre weë in teikenneurone kan anders sensitief wees vir die absolute konsentrasie dopamien (waarde verteenwoordig) teenoor vinnige relatiewe veranderinge in konsentrasie (wat RPE verteenwoordig). Hierdie skema lyk waarskynlik, gegewe die komplekse dopamienmodulasie van stekel neuronfisiologie52 en hul sensitiwiteit vir tydelike patrone van kalsium konsentrasie53. Tog lyk dit ook ietwat oorbodig. As 'n RPE-achtige sein reeds bestaan in dopamien selspiking, behoort dit moontlik te wees om dit te gebruik eerder as om RPE van 'n waardesin te herleef.
Om afsonderlike RPE- en waardeselle te gebruik, kan dopamien-ontvangerstroombane aktief skakel hoe hulle dopamien interpreteer. Daar is intrige bewys dat asetielcholien hierdie skakelrol ook kan dien. Terselfdertyd dopamien selle brand bars spykers na onverwagte leidrade, CINs toon kort (~ 150ms) breek in die vuur, wat nie met RPE's skaal nie54. Hierdie CIN pouses kan aangedryf word deur VTA GABAergic neurone55 sowel as 'verrassing' -verwante selle in die intralaminêre thalamus, en is voorgestel om op te tree as 'n assosiasie-sein wat leer bevorder56. Morris en Bergman het voorgestel54 daardie cholinergiese pouses definieer tydelike vensters vir striatale plastisiteit, waartydens dopamien as leersin gebruik kan word. Dopamien-afhanklike plastisiteit word voortdurend onderdruk deur meganismes wat muskariene M4-reseptore insluit op streeksneurone57. Modelle van intracellulêre sein dui daarop dat tydens die CIN-pouses die afwesigheid van m4 binding sinergisties kan optree met fasiese dopamien bars om PKA-aktivering te bevorder58, en sodoende synaptiese verandering bevorder.
Striatale cholinergiese selle is dus goed geposisioneer om die betekenis van 'n multiplexed dopaminerge boodskap dinamies te verander. Tydens die CIN-pouses sal die verligting van 'n muskariene blok oor sinaptiese plastisiteit toelaat dat dopamien gebruik word vir leer. Op ander tye sal vrystelling van dopamien-terminale plaaslik gevorm word om deurlopende gedragsverrigting te beïnvloed. Tans is hierdie voorstel spekulatief en onvolledig. Daar is voorgestel dat CIN's inligting van baie omliggende spiny neurone integreer om nuttige netwerkvlakseine soos entropie te onttrek.59,60. Maar dit is glad nie duidelik dat CIN-aktiwiteitdinamika gebruik kan word om dopamienwaarde seine te genereer nie61, en ook om dopamien leer seine te hek.
Dopamin beteken dieselfde ding regdeur die voorhoede?
Soos die RPE-idee vasgehou het, is dit gedink dat dopamien 'n wêreldwye sein was, wat 'n foutboodskap uitgestuur het dwarsdeur die streeks- en frontale kortikale teikens. Schultz het beklemtoon dat aap dopamien selle regdeur VTA en SNc baie soortgelyke antwoorde het62. Studies van geïdentifiseerde dopamien selle het ook nogal homogene RPE-agtige response in knaagdiere gevind, ten minste vir laterale VTA neurone binne klassieke kondisioneringskontekste13. Tog is dopamien selle molekulêr en fisiologies divers63-65 en daar is nou baie berigte dat hulle verskillende brandpatrone in gedra diere toon. Dit sluit in fasiese verhogings in afvuur na aversive gebeure66 en sneller aanwysers67 wat swak pas by die standaard RPE-rekening. Baie dopamien selle toon 'n aanvanklike kort-latency reaksie op sensoriese gebeure wat verrassing weerspieël of "waarskuwing" meer as spesifieke RPE kodering68,69. Hierdie waarskuwing aspek is meer prominent in SNC69, waar dopamien selle meer projekteer na "sensorimotoriese" dorsale / laterale striatum (DLS45,63). Subpopulasies van SNc dopamien selle is ook gerapporteer te verhoog41 of afneem70 vuur in kombinasie met spontane bewegings, selfs sonder eksterne leidrade.
Verskeie groepe het veselfotometrie en die kalsiumaanwyser GCaMP gebruik om grootmaat aktiwiteit van subpopulasies van dopamienneurone te ondersoek.71,72. Dopamien selle wat na die dorsale / mediale striatum (DMS) geprojekteer het, het oorgedra depressiewe aktiwiteit tot onverwagte kort skokke getoon, terwyl diegene wat na DLS uitsteek, verhoogde aktiwiteit getoon het.71- meer konsekwent met 'n waarskuwende reaksie. Daar is ook waargeneem dat dopaminerge reaksies in verskillende substreke van die voorbrein gebruik word met behulp van GCaMP om die aktiwiteit van dopamienaksone en terminale te ondersoek.40,72,73. Met behulp van twee-foton-beeldmateriaal in hoofbeheerde muise, Howe en Dombeck40 gerapporteer phasic dopamien aktiwiteit wat verband hou met spontane bewegings. Dit is hoofsaaklik gesien in individuele dopamien-aksone van SNc wat in dorsale striatum beëindig is, terwyl VTA-dopamienaksone in NAc meer gereageer het om lewering te beloon. Ander het ook beloningsverwante dopaminerge aktiwiteit in NAc gevind, met DMS in plaas daarvan meer gekoppel aan kontralaterale aksies72 en die posterior stert van striatum reageer op aversive en nuwe stimuli74.
Direkte maatreëls van dopamien vrylating toon ook heterogeniteit tussen substreke30,75. Met mikrodialise het ons dopamien gekorreleer met die waarde spesifiek in NAc-kern- en ventraal-mediale frontale korteks, nie in ander mediale dele van striatum (NAc-skulp, DMS) of frontale korteks nie. Dit is intrigerend omdat dit lyk asof dit goed lyk na twee "hotspots" van waarde kodering wat konsekwent gesien word in menslike fMRI studies76,77. In die besonder die NAc BOLD sein, wat 'n noue verhouding tot dopamien seinverband het78, neem toe met beloningsafwagting (waarde) - meer as met RPE76.
Of hierdie ruimtelike patrone van dopamien vrystelling voortspruit uit die afvuur van afsonderlike dopamien sel subpopulasies, plaaslike beheer van dopamien vrystelling, of albei, daag hulle die idee van 'n wêreldwye dopamienboodskap uit. Mens kan tot die gevolgtrekking kom dat daar baie verskillende dopamienfunksies is, met (byvoorbeeld) dopamien in dorsale striatum wat "beweging" en dopamien in ventrale striatumsein "beloning"40. Ek gun egter nog 'n konseptuele benadering. Verskillende striatale subregio's kry insette van verskillende kortikale streke, en so sal verskillende tipes inligting verwerk word. Tog deel elke striatale subregio 'n gemeenskaplike mikrosirkulasie-argitektuur, insluitende afsonderlike D1- teenoor D2-reseptore wat stekelneurone bevat.79, CINs, ensovoorts. Alhoewel dit algemeen is om na verskillende striatale subregio's (bv. DLS, DMS, NAc-kern) te verwys, asof dit diskrete areas is, is daar geen skerp anatomiese grense tussen hulle nie (NAc-dop is 'n bietjie meer neurochemies onderskei). In plaas daarvan is daar net sagte gradiënte in reseptor digtheid, interneuron proporsies, ens., Wat meer lyk as tweaks tot die parameters van 'n gedeelde berekeningsalgoritme. Gegewe hierdie gemeenskaplike argitektuur, kan ons 'n algemene dopamienfunksie beskryf, weg van die spesifieke inligting wat deur elke subregio gehanteer word?
Striatale dopamien en die toekenning van beperkte hulpbronne.
Ek stel voor dat 'n verskeidenheid uiteenlopende dopamien-effekte op voortgesette gedrag verstaan kan word as modulasie van hulpbrontoewysingsbesluite. Spesifiek, dopamien bied ramings van hoe die moeite werd is om 'n beperkte interne hulpbron te bestee, met die spesifieke hulpbron wat verskil tussen striatale subregio's. Vir "motoriese" striatum (~ DLS) is die hulpbron beweging, wat beperk word omdat die energie energies beweeg en omdat baie aksies onverenigbaar met mekaar is.80. Toenemende dopamien maak dit meer waarskynlik dat 'n dier sal besluit dat dit die moeite werd is om energie te gebruik om te beweeg, of vinniger beweeg6,40,81. Let daarop dat 'n dopamien sein wat "beweging die moeite werd is" sal korrelasies tussen dopamien en beweging veroorsaak, selfs sonder dopamien wat kodering "beweging" per se.
Vir "kognitiewe" striatum (~ DMS) is die bronne kognitiewe prosesse, insluitende aandag (wat beperkingsvermoë per definisie is82) en werkgeheue83. Sonder dopamien, word belangrike negatiewe leidrade wat gewoonlik oriënterende bewegings veroorsaak, verwaarloos, asof dit minder aandag-waardig beskou word.3. Daarbenewens is doelbewus verswarende kognitiewe beheerprosesse moeite (duur84). Dopamien - veral in DMS85 - speel 'n sleutelrol in die besluit of dit die moeite werd is om hierdie poging aan te wend86,87. Dit kan insluit of meer kognitief-veeleisende, beraadslagende ("model-gebaseerde") besluitstrategieë in diens moet neem88.
Vir "motiverende" striatum (~ NAc) kan een sleutel beperkte hulpbron die dier se tyd wees. Mesolimbiese dopamien is nie nodig as diere 'n eenvoudige, vaste aksie uitvoer om vinnig belonings te kry nie89. Maar baie vorme van beloning kan slegs verkry word deur middel van langdurige werk: uitgebreide rye onbelaste optrede, soos by veehoudery. Keuse om werk te betrek beteken dat ander voordelige maniere om tyd te spandeer, verby moet wees. Hoë mesolimbiese dopamien dui daarop dat die aanpak van tydelik verlengde, moeisame werk die moeite werd is, maar as dopamien verlaag word, steur diere nie, en mag hulle net voorberei om te slaap90.
Binne elke cortico-striatale lusbaan is dopamien se bydrae tot voortgesette gedrag dus beide ekonomies (aangaande hulpbrontoewysing) en motivering (of dit nou die moeite werd om hulpbronne te bestee81). Hierdie stroombane is nie heeltemal onafhanklik nie, maar het eerder 'n hiërargiese, spiraal organisasie: meer ventrale gedeeltes van striatum beïnvloed dopamien selle wat na meer dorsale gedeeltes5,91. Op hierdie manier kan besluite oor die werk ook help om die vereiste spesifieke, korter bewegings te versterk. Maar oor die algemeen bied dopamien 'aktiverings'-seine - wat die waarskynlikheid verhoog dat 'n besluit geneem word - in plaas van' rigtinggewende 'seine wat spesifiseer hoe hulpbronne moet bestee word5.
Wat is die berekeningsrol van dopamien as besluite geneem word?
Een manier om te dink oor hierdie aktiviserende rol is in terme van besluitnemingsdrempels. In sekere wiskundige modelle neem besluitprosesse toe totdat hulle 'n drempelvlak bereik, wanneer die stelsel verbind word tot 'n aksie92. Hoër dopamien sou gelykstaande wees aan 'n laer afstand tot drempel, sodat besluite vinniger bereik word. Hierdie idee is simplisties, maar maak kwantitatiewe voorspellings wat bevestig is. Verlagingsdrempels vir beweging sal 'n spesifieke verandering in die vorm van die reaksietydverspreiding veroorsaak, net wat gesien word wanneer amfetamien in sensorimotoriese striatum ingespuit word.20.
In plaas van vaste drempels, kan gedrags- en neurale data beter pas as drempels mettertyd daal, asof besluite toenemend dringend word. Basale ganglia-uitset is voorgestel om 'n dinamies-ontwikkelende dringende sein te verskaf, wat seleksiemeganismes in korteks bevorder.93. Dringendheid was ook groter as toekomstige belonings nader in die tyd was, wat hierdie konsep soortgelyk aan die waarde kodering, aktiewe rol van dopamien.
Is so 'n aktiveringsrol voldoende om die prestasie-modulerende effekte van striatale dopamien te beskryf? Dit hou verband met die langdurige vraag of basale ganglia-stroombane direk uit geleerde aksies kies80 of bloot keuses wat elders gemaak is, opnuut laat vaar93,94. Daar is ten minste twee maniere waarop dopamien kan verskyn om 'n meer rigtingseffek te hê. Die eerste is wanneer dopamien optree in 'n brein substreek wat inherent rigtingsinligting verwerk. Basale ganglia-kringe het 'n belangrike, gedeeltelik-lateralized roloriëntering tot en naderende potensiële belonings. Die primate caudate (~ DMS) is betrokke by die bestuur van oogbewegings na kontralaterale ruimtelike velde95. 'N Dopaminerge sein dat iets in kontralaterale spasie die moeite werd is om te oriënteer, kan rekening hou met die waargenome korrelasie tussen dopaminerge aktiwiteit in DMS en kontralaterale bewegings72, sowel as die rotasiegedrag wat deur dopamien manipulasies geproduseer word96. 'N Tweede "rigting" -invloed van dopamien is duidelik wanneer (bilaterale) dopamienletsels vooroordeel rotte teenoor lae-inspanning / lae-beloningskeuses, eerder as hoë-inspanning / hoë-beloning alternatiewe97. Dit kan die feit weerspieël dat sommige besluite meer serieus as parallel is, met rotte (en mense) die opsies een-tot-een keer evalueer98. In hierdie besluitkontekste kan dopamien nog steeds 'n fundamentele aktiviserende rol betaal deur die waarde van die huidiglik oorweegde opsie oor te dra, wat dan aanvaar kan word of nie24.
Aktiewe diere maak besluite op verskeie vlakke, dikwels teen hoë pryse. Behalwe om te dink aan individuele besluite, kan dit nuttig wees om 'n algehele trajek deur 'n volgorde van state te oorweeg (Fig 1). Deur oorgange van een toestand na die volgende te fasiliteer, kan dopamien die vloei langs geleerde trajekte versnel99. Dit kan verband hou met die belangrike invloed van dopamien oor die tydsberekening van gedrag44,100. 'N Sleutelbeginsel vir toekomstige werk is om 'n dieper begrip te verkry van hoe sulke dopamien-effekte op voortgesette gedrag meganisties ontstaan, deur inligtingverwerking binne enkelselle, mikrokringe en grootskaalse kortikale basale ganglia-lusse te verander. Ek het ook algemene berekeningsrolle van dopamien beklemtoon oor 'n reeks striatale teikens, maar grotendeels verwaarloos kortikale teikens, en dit moet nog gesien word of dopamienfunksies in albei strukture binne dieselfde raamwerk beskryf kan word.
In opsomming, 'n Toereikende beskrywing van dopamien sal verduidelik hoe dopamien beide leer en motivering kan weerspieël, op dieselfde vinnige skale, sonder verwarring. Dit sal verduidelik waarom dopamien vrylating in sleutel teikens covaries met beloning verwagting selfs alhoewel dopamien sel afvuur nie. En dit sal 'n verenigde berekening van dopamienaksies regdeur striatum en elders verskaf, wat uiteenlopende gedragseffekte op beweging, kognisie en tydsberekening uiteensit. Enkele spesifieke idees wat hier aangebied word, is spekulatief, maar is bedoel om hernude bespreking, modellering en insiggewende nuwe eksperimente te vernuwe.
Erkennings.
Ek dank die baie kollegas wat insiggewende kommentaar op vroeëre konsepte verskaf het, waaronder Kent Berridge, Peter Dayan, Brian Knutson, Jeff Beeler, Peter Redgrave, John Lisman, Jesse Goldberg en die anonieme skeidsregters. Ek spyt dat ruimtebeperkings die bespreking van baie belangrike vorige studies uitgesluit het. Noodsaaklike ondersteuning is verskaf deur die Nasionale Instituut vir Neurologiese Stoornisse en Beroerte, die Nasionale Instituut vir Geestesgesondheid en die Nasionale Instituut vir Dwelmmisbruik.