Dópamínmerki fyrir verðlaun og áhættugrunn og nýlegar upplýsingar (2010)

Wolfram Schultz 1

Behav Brain Funct. 2010; 6: 24.

Birt á netinu 2010 apríl 23. doi: 10.1186 / 1744-9081-6-24.

FULL RANNSETNING: Dópamínmerki um verðmætagjöld og áhættugrunn og nýleg gögn

1Departement of Physiology, Development and Neuroscience, University of Cambridge, Downing Street, Cambridge CB2 3DY, UK

Samsvarandi höfundur.

Wolfram Schultz: [netvarið]

Abstract

Bakgrunnur

Fyrri meinsemd, rafræn sjálfsörvun og rannsóknir á fíkn á fíkniefni benda til þess að dópamínkerfi í miðhjálp séu hluti af umbunarkerfi heilans. Þessi úttekt veitir uppfært yfirlit um grunnmerki dópamín taugafrumna við áreiti umhverfisins.

aðferðir

Tilraunirnar sem lýst er notuðu venjulegar atferlis- og taugalífeðlisfræðilegar aðferðir til að skrá virkni stakra dópamíns taugafrumna í vöku öpum meðan á sérstökum atferlisverkefnum stóð.

Niðurstöður

Dópamín taugafrumur sýna fasíska virkjun á utanaðkomandi áreiti. Merkið endurspeglar umbun, líkamlega hollustu, áhættu og refsingu, í röð eftir brot af svörðum taugafrumum. Reiknað verðlaunagildi er lykilatriði fyrir efnahagslegar ákvarðanir. Svörunarkóðin fyrir verðlaunin verðlauna gildi, líkur og samanlagða vöru þeirra, væntanlegt gildi. Taugafrumurnar umbuna gildi þar sem það er frábrugðið spá og uppfyllir þannig grunnkröfuna um tvíátta spávillu sem kennir merki sett fram af námskenningum. Þetta svar er kvarðað í einingum staðalfráviks. Aftur á móti sýna tiltölulega fáir dópamín taugafrumur fasískan virkjun í kjölfar refsiverða og skilyrt andstætt áreiti, sem bendir til skorts á sambandi umbunarsvörunar við almenna athygli og vekja athygli. Stór hluti dópamín taugafrumna er einnig virkjaður með mikilli, líkamlega áberandi áreiti. Þetta svar er aukið þegar áreiti er skáldsaga; það virðist vera aðgreint frá verðlauna gildi merki. Dópamín taugafrumur sýna einnig ósértæka virkjun á áreiti sem ekki er umbunandi sem er hugsanlega vegna alhæfingar með svipuðu áreiti og gerviverð með aðal umbun. Þessar aðgerðir eru styttri en svörun við umbun og er oft fylgt eftir með þunglyndi á virkni. Sérstakt, hægari dópamínmerki upplýsir um áhættu, önnur mikilvæg ákvörðun breytu. Spávillusvörun kemur aðeins fram með umbun; það er kvarðað af hættunni á spá umbunar.

Ályktanir

Nefafræðilegar rannsóknir sýna phasic dópamín merki sem senda upplýsingar sem tengjast aðallega en ekki eingöngu til að umbuna. Þó að ekki sé alveg einsleitt, er dópamínmerkið meira takmörkuð og staðalímyndað en taugafrumum í flestum öðrum heilauppbyggingum sem taka þátt í markvissri hegðun.

Bakgrunnur

Niðurstöður úr meinsemdum og sálarefnafræðilegum rannsóknum benda til margs konar atferlisstarfsemi fyrir dópamínkerfi í heila. Lykilspurningin er, hver af þessum mörgu aðgerðum er virkt kóðuð með fasískum dópamínmerkjum sem eru samhæf við skjótum taugafrumum? Góð vísbending kemur frá eiturlyfjafíkn og rafræn sjálfsörvun, sem bendir til þess að dópamínvirkni hafi gefandi og nálgunaráhrif [1,2].

Við getum skilgreint umbun sem hluti eða atburði sem mynda nálgun og fullkomna hegðun, framleiða lærdóm af slíkri hegðun, tákna jákvæðar niðurstöður efnahagslegrar ákvarðana og taka jákvæðar tilfinningar og hedonic tilfinningar. Umbun skiptir sköpum fyrir lifun einstaklinga og gena og styður grunnferli eins og drykkju, át og æxlun. Þessi hegðunarskilgreining einkennir umbun virka einnig til ákveðinna eininga sem ekki eru matar- og ekki-kynferðisleg, þar á meðal peninga, tæknilega gripi, fagurfræðilegan áreiti eiginleika og andlega atburði. Verðlaun stunda umboðsmenn í svo ólíkri hegðun eins og fóðrun og viðskipti á hlutabréfamörkuðum.

Grunnhugtök

Verðlaun hafa sérstaka stærðargráðu og eiga sér stað með sérstökum líkum. Umboðsmenn miða að því að fínstilla val milli valkosta þar sem gildi ákvarðast af tegund valhlutarins og stærð hans og líkum [3]. Þess vegna er hægt að lýsa umbun á fullnægjandi hátt með líkindadreifingu verðlaunagildis. Í hugsjónum heimi fylgja þessar dreifingar Gauss-aðgerð, en öfgafullur ávinningur kemur sjaldnar fyrir en millistigið. Tilraunapróf nota oft tvöfalda líkindadreifingu með jafngildum gildum (hvert verðlaunagildi kemur fram við p = 0.5). Dreifing Gauss og tvöfaldur líkindi er að fullu lýst með stærðfræðilegu væntanlegu gildi (fyrsta augnabliki líkindadreifingar) og dreifingu eða frávikum á gildum frá meðaltalinu, nefnilega (væntanlegt) frávik (annað augnablik) eða (væntanlegt) staðalfrávik (kvaðratrót) afbrigði). Afbrigði og staðalfrávik eru oft álitin mælikvarðar á áhættu. Í atferlishagfræði vísar hugtakið „áhætta“ til einhvers konar óvissu þar sem líkindadreifing er þekkt, en „tvískinnungur“ gefur til kynna ófullnægjandi þekkingu á líkindum og er oft vísað til einfaldlega „óvissu“. Áhætta vísar til möguleika á að vinna eða tapa, frekar en þrengri, skynsamleg tengsl við tap.

Spár eru grundvallaratriði fyrir að taka upplýsta ákvörðun með því að veita fyrirfram upplýsingar um fyrirliggjandi valkosti, öfugt við ágiskanir sem verða þegar niðurstöður eru óþekktar. Þar sem umbun er hægt að mæla með líkindadreifingu gildi, þá tilgreina umbunarspár væntanlegs gildi og (búist við) dreifni eða staðalfrávik dreifingarinnar.

Þróunarþrýstingur stuðlar að orkunýtinni vinnslu upplýsinga. Ein möguleg lausn er að geyma spár um atburði í framtíðinni í hærri heilastöðvum og reikna í lægri heilaverum muninn á nýjum umhverfisupplýsingum og geymdri spá. Misræmið milli raunverulegs atburðar og spá hans er kallað villuspá fyrir atburði. Að fylgjast með breyttu umhverfisástandi hærri heilastöðva myndi einfaldlega fela í sér að uppfæra spár með minni upplýsingum sem innihalda og minni orkunotkun, spávillur frekar en að vinna úr öllum jaðarupplýsingum í hvert skipti sem einn lítill hlutur hefur breyst [4]. Þannig hafa æðri miðstöðvar aðgang að öllum upplýsingum um umheiminn fyrir skynjun, ákvarðanir og hegðunarviðbrögð við mun lægri orkukostnað. Þessi grundvallareinkenni spáa leiðir til þess að hægt er að sjá nám fyrirbæri eins og það er skilgreint með breytingum á hegðun sem byggist á uppfærðri spá.

Kenning dýrarannsókna og skilvirk tímamunur styrkingarmódel leggja til að útkomuspávillur séu lykilatriði fyrir Pavlovian og operant condition [5,6]. Núverandi viðhorf hugleiða nám Pavlovian sem hvers konar öflun spár sem leiðir til breyttra gróðurviðbragða eða strípaðra vöðvasamdrátta, svo framarlega sem niðurstaðan er ekki skilyrt af hegðunarviðbrögðum. Þannig flytja spádómar um umbun, ekki aðeins upplýsingar um umbunargildið (vænt gildi) heldur einnig um áhættuna (dreifni) framtíðarinnar, sem er mikilvæg framlenging á hugmyndinni sem Pavlov lagði til fyrir hundrað árum. Mikilvægi spávillna er byggt á hindrunaráhrifum Kamin [7] sem sýna fram á að nám og útrýmingu þróast aðeins að því marki sem styrktaraðili er betri eða verri en spáð var; nám hægist smám saman þegar spá nálgast einkennalaust styrk styrktaraðilans.

Dópamín svar við umbun móttöku

Meirihluti dópamín taugafrumna í miðheilanum (75-80%) sýnir frekar staðalímyndir, stigvaxandi virkjun með töf <100 ms og lengd <200 ms eftir tímabundið óútreiknað mat og vökva umbun (mynd (mynd1A) .1A). Þessi sprunguviðbrögð eru háð því að virkja og mýkja glútamatergíska NMDA og AMPA viðtaka sem eru staðsettir á dópamín taugafrumum [8-12]. Sprengingin er mikilvæg fyrir hegðunarnám á girnilegum verkefnum eins og skilyrðum staðval og vali á T-völundarhúsi fyrir mat eða kókaín umbun og fyrir skilyrt viðbrögð við ótta [9].

Mynd 1

Fasísk virkjun taugalífeðlisfræðilegrar hvatvirkni dópamín taugafrumna. A: Áfangavirkjun í kjölfar aðalverðlauna. B: Stafræn virkjun eftir skilyrt, umbun sem spá fyrir um áreiti. C: Efst: Skortur á áfanga virkjun í kjölfar aðal (meira ...)

Forritun villa um spávillu

Dópamínsvörun við afhendingu umbunar virðist vera að kóða spávillu; umbun sem er betri en spáð hefur í för með sér virkjun (jákvæð spávillu), að fullu spáð umbun vekur engin viðbrögð og umbun sem er verri en spáð vekur þunglyndi (neikvæð villa) [13-24]. Þannig útfærir dópamínsvörun að fullu lykilatriðið í Rescorla-Wagner námslíkaninu og líkist vel kennslumerki skilvirkra tímabundinna námsmóta fyrir mismunadrifsstyrk [6,23].

Villusvörunin er breytileg magnbundin með mismuninum milli móttekins umbunargildis og áætlaðs umbunargildis [18-23]. Spávillusvörun er viðkvæm fyrir þeim tíma sem umbunin er; seinkuð umbun veldur þunglyndi á upphaflegum tíma og virkjun á nýjum tíma [24,25]. Magnskóðun er augljós fyrir virkjun sem endurspeglar jákvæðar spávillur. Aftur á móti sýnir þunglyndið sem verður við neikvæðar spávillur náttúrulega þrengra kvensvið þar sem taugafræðileg virkni getur ekki farið niður fyrir núll, og viðeigandi magnsmat þarf að taka tillit til þunglyndistímabilsins [26].

Þannig bregðast dópamín taugafrumur við umbun aðeins að því marki sem það er frábrugðið spá. Þar sem spá er upprunnin í áður fenginni umbun eru dópamín taugafrumur virkjaðar aðeins þegar núverandi umbun er betri en fyrri umbunin. Sama umbun aftur virkjar ekki dópamín taugafrumur. Ef virkjun dópamín taugafrumna hefur jákvæð styrkjandi áhrif á hegðun mun aðeins aukin umbun veita áframhaldandi styrkingu með dópamínvirkum aðferðum. Þetta getur verið ein ástæða þess að stöðug, óbreytileg umbun virðist tapa örvandi áhrifum þeirra og hvers vegna við þurfum alltaf meiri umbun.

Strangar prófanir fyrir umbunarspá fyrir villukóða

Dýranámið hefur þróað formlegar fyrirmyndir til að prófa umbunarspár. Í lokunarprófinu [7] er ekki hægt að læra áreiti sem er parað við fullkomlega spáð umbun og verður því ekki gildur umbunarspámaður. Skortur á umbun eftir lokaðan áreiti felur ekki í sér spávillu og leiðir ekki til svörunar í dópamín taugafrumum, jafnvel ekki eftir víðtæka pörun á áreiti-umbun [27]. Aftur á móti er afhending umbunar eftir lokað áreiti jákvæð spávilla og í samræmi við það vekur dópamín virkjun.

Skilyrt hömlun fyrirmynd [28] býður upp á viðbótarpróf fyrir spávillur. Í verkefninu sem notað er í tilraunum okkar er prófunarörvun kynnt samtímis staðfestu umbun sem spáir hvati en engin umbun er gefin eftir efnasambandinu, sem gerir prófunarörvunina að spá fyrir umbun. Aðgerðarleysi eftir slíkan skilyrtan hemil felur ekki í sér neikvæða forspávillu og skortir því ekki framköllun í dópamín taugafrumum [29]. Aftur á móti gefur afhending umbunar eftir hemlinum sterka jákvæða spávillu og í samræmi við það sterka virkjun dópamíns.

Niðurstöðurnar frá þessum tveimur formlegu prófunum staðfesta að dópamín taugafrumur sýna tvíátta kóða fyrir umbunarspár.

Aðlögunarvillu um forspávillu vegna villuspá

Í almennum skilningi tilgreinir umbun sem spáir fyrir um gildi framtíðar umbunar með því að upplýsa um líkindadreifingu umbunargilda. Þannig gefur hvati til kynna væntanlegt gildi (fyrsta augnablik) og (búist við) dreifni (annað augnablik) eða staðalfrávik dreifingarinnar.

Dópamíngildissvörunarviðbrögð eru viðkvæm fyrir bæði fyrsta og öðru augnabliki spáðri umbunardreifingu tveimur sekúndum eftir áreiti. Í tilraun, mismunandi sjónræn áreiti getur spáð fyrir um sérstaka tvöfaldar líkindadreifingu útbúnaðar umbunastærða með mismunandi væntanlegum gildum og dreifni. Þar sem spávillusvörun endurspeglar mismuninn á milli fengins og væntanlegrar verðmætagildis, framleiðir sömu stærðargráða mótteknu umbunar annað hvort aukningu eða minnkun á dópamínvirkni eftir því hvort sú umbun er stærri eða minni en spá hennar, hvort um sig [23]. Þessi niðurstaða bendir til þess að erfðaspá fyrir villuboð hafi upplýsingar miðað við tilvísun eða akkerisgildi.

Dópamín kóðun á spávillu umbunagildisins aðlagast breytileika eða staðalfrávik dreifingarinnar. Í tvöfaldri dreifingu á tækjabúnaði, sem hægt er að nota, er afhending umbóta með stærri stærðargráðu innan hverrar dreifingar vekur sömu virkni dópamíns með hverri dreifingu, þrátt fyrir 10 sinnum mun milli fengins umboðsstærðs (og gildisspár fyrir villur) [23]. Tölulegar útreikningar sýna að dópamínsvörunin kóðar gildi spávillunnar deilt með staðalfráviki spáðri dreifingu. Þetta nam árangursríkri stöðlun eða stigstærð viðbragðsgildissvörunar hvað varðar staðalfrávik, sem gefur til kynna hve mikið fengin umbunargildi eru frábrugðin væntu gildi í einingum staðalfráviks. Fræðileg sjónarmið benda til þess að merki um villukennslu sem eru stigin eftir dreifni eða staðalfráviki fremur en meðaltali geti miðlað stöðugu námi sem er ónæmur fyrirhugaðri hættu á niðurstöðum [30].

Dópamín svar við umbun sem spáir fyrir áreiti

Dópamín taugafrumur sýna virkjun („örvun“) í kjölfar umbuna sem spá fyrir sjón-, heyrnar- og sómatruflunum (mynd (mynd 1B) 1B) [31-33]. Svörin koma fram óháð skynfærum og staðbundnu áreiti og án tillits til þess að áhrifavaldar eru hand-, munn- eða augnhreyfingar.

Virkjanirnar aukast einhæft með umbunarmöguleikum [18] og umbunarstærð, svo sem vökvamagn [23]. Samt sem áður gera dópamín svörin ekki greinarmun á líkum á umbun og stærðargráðu svo lengi sem áætlað gildi er eins [23]. Þannig virðast virkjanirnar kóða væntanlegt gildi dreifðra líkindadreifinga. Væntanlegt gildi er mistakari skýringin og hávaði í taugasvörunum kemur í veg fyrir persónusköpun hvað varðar væntanlegt (huglægt) notagildi. Athugaðu að tímabundin afsláttur sem lýst er hér að neðan sýnir huglæga erfðaskrá og gæti gefið smá ljós á málinu.

Svarstærð eykst með minnkandi viðbragðstíma hegðunar, sem gefur til kynna að dópamínviðbrögðin séu viðkvæm fyrir hvatningu dýrsins [19]. Í vali á milli mismunandi umbunargildis eða seinkana endurspegla dópamínviðbrögðin við kynningu á valkostum framtíðarvalið umbun dýrsins [34] eða hæstu mögulegu umbun tveggja valkosta í boði [35].

Á námsárunum minnkar örvun dópamíns til verðlauna smám saman í röð námskeiða og virkjun á umbuninni sem spáir áreiti þróast á sama tíma [36,37]. Öflun skilyrðra svara er næm fyrir hindrun, sem bendir til þess að spávillur gegni hlutverki í öflun dópamín svara við skilyrtu áreiti [27]. Viðbragðsbreytingin við umbun sem spáir áreiti er í samræmi við helstu einkenni kennslumerkja um skilvirk tímabundin styrkingarlíkön [38]. Viðbragðsbreytingin felur ekki í sér afturforritun á spávillum yfir áreiti-umbunarbil fyrri eldri tímamismunarlíkana [27,38] en er endurskapað í upprunalegu tímabundna mismunarmódelinu og í upprunalegu og nýlegri útfærslu tímabundins mismunar [6,37,39].

Huglæg umbunagildistölun sýnd með tímabundinni núvirðingu

Hin hlutlæga mæling á huglægu umbunargildi eftir valkostum leiðir í ljós að umbun tapar einhverju gildi þeirra þegar þeim er seinkað. Reyndar kjósa rottur, dúfur, apar og menn oft frekar minni umbun en síðar stærri umbun [40-42]. Þannig virðist hið huglæga gildi umbunar hrannast með auknum töfum á tíma, jafnvel þó að líkamleg umbun, og þar með hlutlæg umbunargildi, sé sú sama.

Sálfræðimælingar á vali milli tíma hegðunar milli fyrr og síðar umbunar aðlaga stærðargráðu snemma umbunar þar til val á áhugaleysi, skilgreint sem líkurnar á að velja hvern valkost með p = 0.5. Þannig bendir til að lægri snemma umbun við afskiptaleysi að vali sé lægra huglægt gildi síðari umbunar. Í nýlegri tilraun okkar á öpum lækkuðu afskiptaleysi gildi fyrir umbun sem seinkað var með 4, 8 og 16 s, eintóna um 25%, 50% og 75%, í sömu röð, samanborið við umbun eftir 2 s [43]. Lækkunin passar við ofvirkan afsláttaraðgerð.

Dópamínviðbrögð við umbun sem spá fyrir um áreiti minnkar einhæft vegna umbunartímabila 2 til 16 s [25,43], þrátt fyrir að sömu líkamlegu upphæðin hafi verið afhent eftir hverja seinkun. Þessar upplýsingar benda til þess að tímabundnar tafir hafi áhrif á svörun dópamíns við umbun sem spáir áreiti á svipaðan hátt og þau hafa áhrif á huglægt verðmætamat sem metið er með intertemporal vali. Athyglisvert er að lækkun dópamínsvörunar með seinkun á umbun er óskilgreinanleg frá svörunarlækkuninni með lægri umbunarstærð. Þessi líkt bendir til þess að tímabundnar tafir hafi áhrif á svörun dópamíns með breytingum á verðlaunagildi. Fyrir dópamín taugafrumur virðast seinkun umbunar eins og þau væru minni.

Þannig virðast dópamín taugafrumur kóða huglæga frekar en líkamlega, hlutlæga gildi seinkaðra umbunar. Í ljósi þess að notagildi er mælikvarði á huglægt frekar en hlutlægt gildi umbóta, gæti svörun minnkað með tímabundinni núvirðingu bent til þess að dópamín taugafrumur kóði umbun sem (huglægt) gagn fremur en sem (hlutlægt) gildi. Frekari tilraunir gætu hjálpað til við að prófa gagnakóðun með beinari hætti.

Dópamín svörun við aversive áreiti

Andstætt áreiti eins og loftpúðar, saltvatnssalt og raflost framkalla virkjandi („örvandi“) svörun hjá litlu hlutfalli dópamín taugafrumna í vakandi dýrum (14% [33]; 18-29% [44]; 23% [45] ; 11% [46]), og meirihluti dópamín taugafrumna er annaðhvort þunglyndur í virkni sinni eða hefur ekki áhrif á fráhverfar atburði (mynd (Mynd 1C1C efst). Öfugt við umbun, loftpúðar geta ekki framkallað tvíátta spávillusvörun sem eru dæmigerð fyrir umbun ; spá mótar aðeins fráhverfar virkjanir [45,46].

Örvandi örvun hjá svæfðum dýrum skilar mismunandi en oft litlu leyti að mestu leyti hægari, virkjar svörun (50% [47]; 18% [48]; 17% [49]; 14% [50]) og oft niðurdrepandi virkni. Taugalífeðlisfræðilegar endurskoðanir með betri þekkingu á dópamín taugafrumum staðfestu lága tíðni tálgandi dópamínvirkjana hjá svæfðum dýrum [51] og var staðsett við svörun með dópamíni taugafrumum á ventromedial tegmental svæði miðbaksins [52].

Skilyrt, loftblása sem spáir fyrir áreiti í vakandi öpum vekur upp virkni hjá minnihluta dópamín taugafrumna og lægðir í stærra broti af dópamín taugafrumum (11% [33]; 13% [45]; 37% [46]). Viðbrögð þunglyndisins hætta við fáar örvanir í meðaltalssvörun viðbragða dópamíns taugafrumna við hvikandi áreiti [33] (sjá mynd Mynd1C1C neðst, svart). Í einni rannsókn virkjuðu andstæða áreitið fleiri taugafrumur en loftbólið sjálft (37% á móti 11% [46]), þó að skilyrt áreiti sé minna andstætt en fyrsti andstæða atburðurinn sem það spáir, svo sem loftblástur. Meiri fjöldi virkjana á skilyrtu áreiti samanborið við lofthúð bendir til andhverfra tengsla milli andúð og örvunar (því meira sem hvetur hvati, því sjaldnar sem örvunin er) eða viðbótar, sem ekki er andstæður hvati, sem er ábyrgur fyrir því að auka hlutfall virkjaðra taugafrumur frá 11% til 37%. Þrátt fyrir að örvunarörvunin hafi verið í samhengi við líkamsloftslofts hjá íbúunum voru þær ekki metnar í einstökum taugafrumum [46]. Fylgni fylgni getur stafað af tiltölulega fáum jákvæðum fylgdum taugafrumum innan þess íbúa, og virkilega andstæður örvunarörvun gæti verið nær 11% en 37%. Í annarri rannsókn sýndi stórt hlutfall dópamín taugafrumna fasískan örvun við skilyrt aversive áreiti þegar þetta var sett fram í handahófi til skiptis með umbun sem spáði fyrir áreiti af sama skynskyni (mynd (mynd1C1C botn, grár) (65% [33]); voru mun sjaldgæfari þegar þessar tvær tegundir skilyrtra áreita höfðu mismunandi skynhegðun (mynd (mynd1C1C neðst, svart) (11%). Í næsta kafla verður fjallað um þá þætti sem mögulega liggja að baki þessum óútskýrðu aðgerðum til andstyggilegs og annarra, ósamþykktra áreita).

Þrátt fyrir að sumar dópamín taugafrumur séu gerðar virkar af andstæðum atburðum, er stærsta dópamínvirkjunin í tengslum við umbun. Gögn fengin með öðrum aðferðum leiða til svipaðra ályktana. Hröð skannar voltammetry hjá atferli með rottum sýnir losun dópamíns af völdum streymis af völdum umbunar og breyting á umbun fyrir að spá fyrir um áreiti eftir skilyrðingu [53], sem bendir til þess að viðbrögð svörunar dópamíns taugafrumna leiði til samsvarandi losunar dópamíns frá strímsbendingum. Dópamínaukningin stendur aðeins í nokkrar sekúndur og hefur því stysta tímaferil allra neurochemical aðferða, næst raflífeðlisfræðilegri virkjun. Losun dópamíns er mismunur fyrir umbun (súkrósa) og kemur ekki fram með refsingu (kínín) [54]. Þar sem voltammetry metur staðbundið meðaltal dópamínstyrks gæti skortur á mælanlegri losun með kíníni leynt nokkrum aðgerðum sem hætt var við vegna læginga í svörun dópamíns íbúa [33]. Rannsóknir sem nota mjög viðkvæma örskiljun í in vivo greina losun dópamíns eftir hvetjandi áreiti [55].

Þessi svörun kann að endurspegla dópamínbreytingu af völdum fárra taugafrumna sem eru virkjuð með andstæða áreiti, þó að tímamælingin á örgreiningarmælingum sé um það bil 300-500 sinnum hægari en höggviðbrögðin og gæti verið nægjanlegt til að leyfa forstillta milliverkunum að hafa áhrif á losun dópamíns [56] . Truflun á sprengingu af dópamínum taugafrumum truflar nokkur lystisæfandi verkefni en óttast einnig ástand [9]. Niðurstaðan gæti bent til námsaðgerðar á andstæðum dópamínviðbrögðum ef útilokað er að ósértæk, almennt óvirkjanleg áhrif lægri dópamínstyrks, sem eftir er að sýna. Sértæk örvun dópamíns taugafrumna með optogenetic aðferðum með erfðafræðilega settu channelrhodopsin hvetur Pavlovian ástandskjör hjá músum [57]. Aftur á móti hefðu hugsanleg nettó hvataáhrif dópamínörvunar komið til staðarnámsnáms. Þessar niðurstöður staðfesta hugmyndina um alheims jákvætt styrkandi virkni dópamínkerfa sem eru unnin úr fyrri meinsemd, rafræn sjálfsörvun og eiturlyfjafíknarstarf [1,2]. Hins vegar fullyrða þessi rök hvorki að umbunin sé eina aðgerð dópamínkerfa né að allar umbununaraðgerðirnar feli í sér dópamín taugafrumur.

Phasic dopamine örvun sem ekki umbun umbun

Áreiti getur framkallað viðbrögð og viðbrögð við athygli þegar þau eru líkamlega mikilvæg (líkamleg áþreifanleiki) eða þegar þau tengjast styrktaraðilum („hvetjandi“ eða „tilfinningaþrungin“ áleitni). Hegðunarviðbrögð við áberandi áreiti eru flokkuð með líkamlegum styrk áreitis og gildi styrktarins, í sömu röð. Líkamleg áreiðanleiki er alls ekki háður styrkingu og hvetjandi áreiðanleiki veltur ekki á dugnaði styrktaraðilanna (umbun og refsing).

Svör við líkamlega áreiti

Líkamlega sterkt sjón- og heyrnarörvun örvar örvun í dópamín taugafrumum (mynd (mynd1D) .1D). Þessi svör eru aukin með áreiti nýjung [58-60] en eru viðvarandi á lægra stigi í nokkra mánuði að því tilskildu að áreiti sé nægilega líkamlega ákafur. Svörin eru flokkuð eftir stærð áreitis (mynd 4 í [15]). Líkamleg sala gæti einnig að hluta til skýrt svör við aðal refsingum með verulegum líkamlegum styrk [45]. Þessi svör geta verið sérstök tegund af dópamínsvörun sem tengist líkamlegri athygli athyglisörvandi umhverfisáreiti, eða þau geta verið tengd jákvæðu og styrkandi eiginleikum mikils og skyndilegs áreitis.

Virkjunin á líkamlega áberandi áreiti virðist ekki endurspegla almenna tilhneigingu til að dópamín taugafrumur verði virkjaðir með neinum athygli sem vekur athygli. Sérstaklega, önnur sterk athygli sem vekja athygli, svo sem umbun frálaun, skilyrtir hemlar og andstæður áreiti, valda aðallega lægðum og sjaldan ósviknum dópamínvirkjum [14,29]. Þannig að virkjun dópamíns með líkamlega áberandi áreiti kann ekki að vera almenn viðvörunarsvörun. Líklega mun umbunarsvörunin mynda sérstakt svar sem endurspeglar kannski ekki þá athygli sem hvetur til hvatningar umbunanna.

Aðrar örvun forrita sem ekki eru launuð

Önnur áreiti örva örvun í dópamíni taugafrumum án þess að sjá merkjanleg umbunagildi. Þessar örvanir eru minni og styttri en viðbrögðin við því að umbuna spá fyrir áreiti og er oft fylgt eftir með þunglyndi þegar áreitið er ekki skilað (mynd (mynd1E1E).

Dópamín taugafrumur sýna örvun í kjölfar áreynslu í samanburði sem birt er í gervifrumsbreytingum með umbunaðri áreiti [27,29,32]. Tíðni örvunar fer eftir fjölda valinna, verðlaunaðra áreita í atferlisverkefninu; örvun er tíð þegar þrjú af fjórum verkefnaörvun eru umbunuð (25% -63% [27]) og verða sjaldgæf þegar aðeins eitt af fjórum verkefnaáreiti er ekki skilað (1% [29]). Þessi ósjálfstæði ræður gegn eingöngu skynjunarviðbrögðum viðbragða.

Dópamín taugafrumur sýna fremur staðalímyndaða upphafsvirkjunarþátt til að örva spá umbunar sem eiga sér stað eftir mismunandi tafir [43]. Upphafsvirkjunin er mjög lítil með seinkun á umbun og virðist því ekki kóða kóða verðmæti. Aftur á móti lækkar síðari svörunarþáttur með auknum töfum og kóðar þannig (huglægt) umbunargildi (sjá hér að ofan).

Dópamín taugafrumur sýna tíðar örvanir í kjölfar skilyrts áreiti sem framleitt er af handahófi til skiptis með umbun sem spáir um áreiti; örvunin hverfur að mestu leyti þegar mismunandi skynjunaraðferðir eru notaðar (65% á móti 11% taugafrumna [33]), sem bendir til kóðunar á örvandi íhluti sem ekki eru andstæður. Jafnvel þegar andstætt og lystandi áreiti er aðgreint í mismunandi prufubálka, eru dópamín taugafrumur virkjaðar töluvert með skilyrtu andstætt áreiti. Hinsvegar, oftar sem örvun á skilyrtu áreiti er borin saman við andstyggilegri aðal loftloft (37% samanborið við 11% [46]) bendir til öfugsambands við andúð áreynslunnar og hugsanlega andstæðu svörunarþátta.

Ástæðurnar fyrir þessum ólíku dópamínvirkjunum gætu legið í alhæfingu, gerviaðstæðum eða hvati til að hvetja. Alhæfing stafar af líkt með áreiti. Það gæti skýrt virkjun dópamíns við fjölda aðstæðna, nefnilega virkjunina á ósendra sjónrænu áreiti þegar þetta kemur til skiptis með umbun sem spáir fyrir sjónrænu áreiti (mynd (mynd1E1E vinstri) [27,29,32] og upphafs, illa flokkað örvunarþátturinn til að umbuna seinkun á áreiti (mynd) (Mynd1E1E til hægri) [43]. Alhæfing gæti gegnt hlutverki þegar áreiti með mismunandi skynjunaraðstæður framleiðir minni dópamínvirkjun á óframgefið áreiti en áreiti með sömu aðferðum, eins og sést með sjónrænum andstæða og hljóðrænum áreiti (mynd (mynd1C1C neðst) [33] .

Pseudoconditioning getur komið upp þegar aðal styrkari setur samhengisgrundvöll og vekur ósértæk hegðunarviðbrögð við atburðum í þessu samhengi [61]. Þar sem dópamín taugafrumur eru mjög viðkvæmar fyrir umbun, gefandi samhengi gæti valdið gerviaðstæðum til áreita sem sett eru í þessu samhengi og þar með örvun taugafrumna. Þetta fyrirkomulag kann að liggja að baki örvun taugafrumna á áreiti sem ekki er umbunað sem kemur fram í gefandi samhengi, svo sem rannsóknarstofu þar sem dýr fær daglega umbun, án tillits til þess að áreitið er sett fram í handahófi til skiptis með verðlaunuðu áreiti eða í aðskildum rannsóknablokkum [46]. Pseudoconditioning gæti skýrt virkjun á ósamþykktu stjórnunaráreiti [27,29,32], flestar aðgerðir í kjölfar andstæða áreitis [33,45,46] og upphafs, slæmur virkjunarbúnaður til að umbuna frestun fyrir að spá fyrir um áreiti [43]. Þannig getur gervigreining myndast við aðallaunin frekar en skilyrt áreiti og haft áhrif á virkni dópamíns bæði á skilyrt áreiti og frumstyrkja sem eiga sér stað í gefandi samhengi.

Þrátt fyrir að áreiti með verulegu líkamlegu snilld virðist virka dópamín taugafrumum [15,58-60] (sjá hér að ofan), eru áreiti sem örva dópamínvirkjanir sem ekki eru umbunin oft lítil og ekki líkamlega mjög áberandi. Hvatningarhæfni er samkvæmt skilgreiningu algeng fyrir umbun og refsingar og á eigin spýtur gæti skýrt virkjunina bæði til umbunar og refsingar í 10-20% af dópamín taugafrumum. Áreiti sem ekki er styrkt gæti orðið hvatningarlega áberandi vegna nálægðar þeirra við umbun og refsingu með gerviaðstæðum. Hins vegar virðast dópamínvirkjanir vera mun næmari fyrir umbun en refsingu. Þar sem áhugi á hvatningu felur í sér næmi fyrir báðum styrkjum, gæti hvatningarhæfni, sem fengin er með gervivinnslu, ekki skýrt vel hvaða virkni dópamín sem ekki er umbunað.

Samanlagt geta margar af örvun dópamínvirkjana sem ekki eru umbunað verið vegna alhæfingar áreiti eða einkum vegna gerviverðunar. Engu að síður virðast enn vera virk virkjanir á óafturkræfu stjórnunaráreiti og aðal og skilyrt andstæða áreiti í takmörkuðu hlutfalli dópamín taugafrumna þegar útilokað er að þessir þættir séu. Frekari tilraunir sem meta slík svör ættu að nota betra eftirlit og útrýma algjörlega öllum samhengi umbunasamtaka með áreiti á rannsóknarstofunni.

Í ljósi þess að umbreytingar á erfðaskrá sem ekki eru umbunað eru, er sanngjarnt að spyrja hvernig dýr myndi aðgreina umbun frá óverðskuldaðri áreiti út frá dópamínsvörun. Mjög hröð, upphafleg, gervigreind og illa mismunandi svörunarhlutinn gæti veitt tímabundinn bónus til að auðvelda hröð, sjálfgefin hegðunarviðbrögð sem hjálpa dýrinu til að finna mjög fljótt mögulega umbun [62]. Aftur á móti greinir svörunarhlutinn, sem strax á eftir fylgst, raunverulegt eðli atburðarins með flokkaðri virkjun hans með umbunargildi [43] og tíðu þunglyndi hans með óafturkræft og andstætt áreiti [27,29,32,33] (mynd (mynd1E). 1E). Ennfremur er dópamínkerfið ekki eina heilabyggingin sem umbreytir umbuninni og önnur taugakerfi, svo sem heilabjúgur, striatum og amygdala, geta veitt frekari mismunandi upplýsingar.

Dópamín umbun áhættu merki

Ef umbunarmerki endurspeglar meðaltal umbunarspá fyrir mistök sem eru stigin með staðalfráviki dreifingar á líkindadreifingu og ef við lítum á staðalfrávik sem mælikvarða á áhættu, gæti það verið bein taugaboð um áhættu? Þegar umbunarmöguleikar eru breytilegir frá 0 til 1 og umbunarstærðin helst stöðug eykst meðaltal umbunargildisins einhæft með líkum, en áhættufjárhæðin fylgir öfugri U-aðgerð sem nær hámarki á p = 0.5 (mynd (mynd2,2, innstæða). Á p = 0.5, það eru nákvæmlega eins líkur á að fá umbun og það er að missa af umbun en hærri og lægri líkur en p = 0.5 gera hagnað og tap vissara, hver um sig, og eru því tengd minni áhættu.

Mynd 2

Viðvarandi virkjun tengd áhættu. Áhættuviðbrögðin eiga sér stað á meðan áreynslu-umbunartímabilið (örin) kemur í kjölfar átaks, gildistengdrar virkjunar á áreitinu (þríhyrningur). Innskotið, efst til hægri, sýnir að áhætta (vígsla) er breytileg eftir (meira ...)

Um það bil þriðjungur dópamín taugafrumna sýnir tiltölulega hæga, í meðallagi, tölfræðilega marktæka virkjun sem eykst smám saman á bilinu milli umbunarins sem spáir hvati og umbuninni; þetta svar er misjafnt með áhættu (mynd (mynd2) 2) [18]. Virkjunin fer fram í einstökum rannsóknum og virðist ekki vera svar við spávillu sem breiðist út frá umbun til umbunar sem spáir hvati. Virkjunin eykst einhæft líka með staðalfráviki eða dreifni þegar tvöfaldar dreifingar af mismunandi tækjabúnaði, án endurgjalds umbunar eru notaðir. Þannig virðast staðalfrávik eða dreifni vera raunhæfar ráðstafanir fyrir áhættu eins og þær eru kóðar af dópamín taugafrumum. Virkjunartengd virkjun hefur lengri leynd (um það bil 1 sekúndur), hægari tímanámskeið og lægri toppar samanborið við viðbragðsgildissvörun við áreiti og umbun.

Vegna minni stærðargráðu er líklegt að áhættumerkið valdi minni losun dópamíns við dópamínsbreytileika samanborið við fasískari virkjanir sem umbuna verðmæti. Hlutfallslega lágur dópamínstyrkur sem hugsanlega er af völdum áhættumerkisins gæti virkjað D2 viðtakana sem eru að mestu leyti í mikilli sækni en ekki D1 viðtakarnir með litla sækni [63]. Aftur á móti gæti hærra fasískt verðmæt svörun leitt til meiri dópamínstyrks sem nægir til að virkja D1 viðtaka í stuttu máli í aðallega lágu sækni þeirra. Þannig að merkin tvö gætu verið aðgreind með postsynaptískum taugafrumum á grundvelli mismunandi dópamínviðtaka sem eru virkjaðir. Að auki myndu dópamín gildi og áhættumerki saman leiða til nánast samtímis virkjun bæði D1 og D2 viðtaka, sem í mörgum venjulegum og klínískum aðstæðum er nauðsynleg fyrir fullnægjandi dópamínviðbrögð.

Dópamín áhættumerki geta haft ýmsar aðgerðir. Í fyrsta lagi gæti það haft áhrif á stigstærð strax eftir spávillusvörun með staðalfráviki strax eftir umbun [23]. Í öðru lagi gæti það aukið losun dópamíns sem framkölluð var strax eftir svörun á spávillu. Þar sem áhætta vekur athygli, efling hugsanlegrar kennslumerkis með áhættu væri samhæft við hlutverk athyglinnar í námi í samræmi við kenningar um tengslanám [64,65]. Í þriðja lagi gæti það veitt inntak til heilauppbygginga sem taka þátt í mati á umbunaráhættu í sjálfu sér. Í fjórða lagi gæti það sameinast efnahagslegu væntanlegu gildismerki til að tákna töluverðar upplýsingar um væntanlegt notagildi hjá áhættusæmum einstaklingum í samræmi við meðal-dreifni nálgun í fjárhagslegri ákvörðunarfræði [66]. Töf á u.þ.b. 1 s er of löng til að merki gegni tafarlausu hlutverki í vali undir óvissu.

hagsmuna

Höfundur lýsir því yfir að hann hafi enga samkeppnishagsmuni.

Framlög höfunda

WS skrifaði blaðið.

Þakkir

Þessi umfjöllun var skrifuð í tilefni af málþinginu um athyglisbrest með ofvirkni (ADHD) í Osló, Noregi, 2010 í febrúar. Störf okkar voru studd af Wellcome Trust, Swiss National Science Foundation, Human Frontiers Science Program og öðrum styrk- og félagsstofnunum.

Meðmæli

1. Wise RA, Rompre PP. Dópamín heila og umbun. Ann Rev Psychol. 1989; 40: 191 – 225. doi: 10.1146 / annurev.ps.40.020189.001203.

2. Everitt BJ, Robbins TW. Taugakerfi til styrkingar vegna eiturlyfjafíknar: frá aðgerðum til venja til nauðungar. Nat Neurosci. 2005; 8: 1481 – 1489. doi: 10.1038 / nn1579. [PubMed] [Cross Ref]

3. Bernoulli D. Specimen theoriae novae de mensura sortis. Comentarii Academiae Scientiarum Imperialis Petropolitanae (Papers Imp. Acad. Sci. St. Petersburg) 1738; 5: 175 – 192. Þýtt sem: Greinargerð um nýja kenningu um mælingu á áhættu. Econometrica 1954, 22: 23-36.

4. Rao RPN, Ballard DH. Forspárkóðun í sjónbarki: virkni túlkun á sumum utan klassískum móttækilegum áhrifum. Nat Neurosci. 1999; 2: 79 – 87. doi: 10.1038 / 4580. [PubMed] [Cross Ref]

5. Rescorla RA, Wagner AR. Í: Klassískt ástand II: Núverandi rannsóknir og kenning. Black AH, Prokasy WF, ritstjóri. New York: Appleton Century Crofts; 1972. Kenning um Pavlovian ástand: Tilbrigði við árangur styrkingar og óstyrkingar; bls. 64 – 99.

6. Sutton RS, Barto AG. Í átt að nútímalegri kenningu um aðlögunarnet: eftirvænting og spá. Psychol séra 1981; 88: 135 – 170. doi: 10.1037 / 0033-295X.88.2.135. [PubMed] [Cross Ref]

7. Kamin LJ. Í: Grundvallaratriði í hljóðfæranámi. Mackintosh NJ, Honig WK, ritstjóri. Halifax: Dalhousie University Press; 1969. Sértækt félag og ástand; bls. 42 – 64.

8. Blythe SN, Atherton JF, Bevan MD. Synaptic örvun á dendritic AMPA og NMDA viðtökum býr til tímabundna hátíðnihleðslu í substantia nigra dópamín taugafrumum in vitro. J Neurophysiol. 2007; 97: 2837 – 2850. doi: 10.1152 / jn.01157.2006. [PubMed] [Cross Ref]

9. Zweifel LS, Parker JG, Lobb CJ, Rainwater A, Wall VZ, Fadok JP, Darvas M, Kim MJ, Mizumori SJ, Paladini CA, Phillips PEM, Palmiter RD. Truflun á NMDAR háðri sprengingu af völdum dópamíns taugafrumna veitir sértækt mat á fasískum dópamínháðum hegðun. Proc Natl Acad Sci. 2009; 106: 7281 – 7288. doi: 10.1073 / pnas.0813415106. [Ókeypis grein PMC] [PubMed] [Cross Ref]

10. Harnett MT, Bernier BE, Ahn KC, Morikawa H. Burst-Timing-Dependent Plasticity of NMDA Receptor-Mediated Transmission in Midbrain Dopamine Neurons. Neuron. 2009; 62: 826 – 838. doi: 10.1016 / j.neuron.2009.05.011. [Ókeypis grein PMC] [PubMed] [Cross Ref]

11. Jones S, Bonci A. Synaptic plasticity og eiturlyfjafíkn. Curr Opin Pharmacol. 2005; 5: 20 – 25. doi: 10.1016 / j.coph.2004.08.011. [PubMed] [Cross Ref]

12. Kauer JA, Malenka RC. Synaptic plasticity og fíkn. Nat séraungur. 2007; 8: 844 – 858. doi: 10.1038 / nrn2234. [PubMed] [Cross Ref]

13. Ljungberg T, Apicella P, Schultz W. Svör dópamíns taugafrumna við apa við seinkaða frammistöðu til skiptis. Brain Res. 1991; 586: 337 – 341. doi: 10.1016 / 0006-8993 (91) 90816-E.

14. Schultz W, Apicella P, Ljungberg T. Svör apa dópamín taugafrumna til að umbuna og skilyrta áreiti í röð skrefum til að læra seinkað svörunarverkefni. J Neurosci. 1993; 13: 900 – 913. [PubMed]

15. Schultz W. Spá fyrir umbun fyrir dópamín taugafrumum. J Neurophysiol. 1998; 80: 1 – 27. [PubMed]

16. Schultz W, Dayan P, Montague RR. Tauga undirlag spá og umbun. Vísindi. 1997; 275: 1593 – 1599. doi: 10.1126 / vísindi.275.5306.1593. [PubMed] [Cross Ref]

17. Hollerman JR, Schultz W. Dopamine taugafrumur segja frá villu í tímabundinni spá umbunar við nám. Náttúra tauga. 1998; 1: 304 – 309. doi: 10.1038 / 1124. [PubMed] [Cross Ref]

18. Fiorillo CD, Tobler PN, Schultz W. Stakur erfðaskrá um líkur á umbun og óvissu dópamín taugafrumna. Vísindi. 2003; 299: 1898 – 1902. doi: 10.1126 / vísindi.1077349. [PubMed] [Cross Ref]

19. Satoh T, Nakai S, Sato T, Kimura M. Samsvarandi erfðaskrá og niðurstaða ákvörðunar dópamín taugafrumna. J Neurosci. 2003; 23: 9913 – 9923. [PubMed]

20. Morris G, Arkadir D, Nevet A, Vaadia E, Bergman H. Samfallandi en greinileg skilaboð um dópamín í miðhjálp og stígandi virkum taugafrumum. Neuron. 2004; 43: 133 – 143. doi: 10.1016 / j.neuron.2004.06.012. [PubMed] [Cross Ref]

21. Nakahara H, Itoh H, Kawagoe R, Takikawa Y, Hikosaka O. Dopamine taugafrumur geta táknað samhengisháð spávillu. Neuron. 2004; 41: 269 – 280. doi: 10.1016 / S0896-6273 (03) 00869-9. [PubMed] [Cross Ref]

22. Bayer HM, Glimcher PW. Dópamín taugafrumur í miðhjálp umrita tölulegt merki um villuspá fyrir umbun. Neuron. 2005; 47: 129 – 141. doi: 10.1016 / j.neuron.2005.05.020. [Ókeypis grein PMC] [PubMed] [Cross Ref]

23. Tobler PN, Fiorillo CD, Schultz W. Aðlagandi erfðaskrá fyrir umbunargildi með dópamín taugafrumum. Vísindi. 2005; 307: 1642 – 1645. doi: 10.1126 / vísindi.1105370. [PubMed] [Cross Ref]

24. Zaghloul KA, Blanco JA, Weidemann CT, McGill K, Jaggi JL, Baltuch GH, Kahana MJ. Mannleg efnafræðileg taugafrumum umbreytir óvæntum fjárhagslegum umbótum. Vísindi. 2009; 323: 1496 – 1499. doi: 10.1126 / vísindi.1167342. [Ókeypis grein PMC] [PubMed] [Cross Ref]

25. Fiorillo geisladiskur, Newsome WT, Schultz W. Tímabundin nákvæmni umbunarspá í dópamín taugafrumum. Nat Neurosci. 2008; 11: 966 – 973. doi: 10.1038 / nn.2159.

26. Bayer HM, Lau B, Glimcher PW. Tölfræði um dópamín taugafrumutog í vakandi höfðingja. J Neurophysiol. 2007; 98: 1428 – 1439. doi: 10.1152 / jn.01140.2006. [PubMed] [Cross Ref]

27. Waelti P, Dickinson A, Schultz W. Dopamine svör eru í samræmi við grunnforsendur formlegrar námskenningar. Náttúran. 2001; 412: 43 – 48. doi: 10.1038 / 35083500. [PubMed] [Cross Ref]

28. Rescorla RA. Pavlovian skilyrt hömlun. Psychol Bull. 1969; 72: 77 – 94. doi: 10.1037 / h0027760.

29. Tobler PN, Dickinson A, Schultz W. Kóðun á spáð umbunaleysi dópamíns taugafrumna í skilyrtri hömlunaraðferð. J Neurosci. 2003; 23: 10402 – 10410. [PubMed]

30. Preuschoff, Bossaerts P. Bætir spááhættu við kenningar um námsbætur. Ann NY Acad Sci. 2007; 1104: 135 – 146. doi: 10.1196 / annals.1390.005. [PubMed] [Cross Ref]

31. Romo R, Schultz W. Dopamine taugafrumur í miðhjálp apans: Viðbrögð viðbragða við virku snertingu við handahreyfingar sem eru sjálfstart af hendi. J Neurophysiol. 1990; 63: 592 – 606. [PubMed]

32. Schultz W, Romo R. Dopamine taugafrumur í miðhjálp apans: Viðbrögð viðbragða við áreiti sem vekja upp strax hegðunarviðbrögð. J Neurophysiol. 1990; 63: 607 – 624. [PubMed]

33. Mirenowicz J, Schultz W. Æskileg virkjun dópamíntaugafrumna í miðhjálp með lystisömu fremur en andstyggilegu áreiti. Náttúran. 1996; 379: 449 – 451. doi: 10.1038 / 379449a0. [PubMed] [Cross Ref]

34. Morris G, Nevet A, Arkadir D, Vaadia E, Bergman H. Midbrain dópamín taugafrumur umrita ákvarðanir fyrir framtíðaraðgerðir. Nat Neurosci. 2006; 9: 1057 – 1063. doi: 10.1038 / nn1743. [PubMed] [Cross Ref]

35. Roesch MR, Calu DJ, Schoenbaum G. Dópamín taugafrumur umrita betri kostinn í rottum sem ákvarða milli mismunandi seinkaðra eða stórra umbóta. Nat Neurosci. 2007; 10: 1615 – 1624. doi: 10.1038 / nn2013. [Ókeypis grein PMC] [PubMed] [Cross Ref]

36. Takikawa Y, Kawagoe R, Hikosaka O. Hugsanlegt hlutverk dópamín taugafrumna í leghálsi í aðlögun saccades til skemmri og lengri tíma að kortlagningu staðsetningarlauna. J Neurophysiol. 2004; 92: 2520 – 2529. doi: 10.1152 / jn.00238.2004. [PubMed] [Cross Ref]

37. Pan WX, Schmidt R, Wickens JR, Hyland BI. Dópamínfrumur bregðast við spáðum atburðum meðan á klassískri skilyrðingu stóð: Sönnunargögn fyrir rekstrarhæfi í umbunanámsnetinu. J Neurosci. 2005; 25: 6235 – 6242. doi: 10.1523 / JNEUROSCI.1478-05.2005. [PubMed] [Cross Ref]

38. Montague PR, Dayan P, Sejnowski TJ. Rammi fyrir dópamínkerfi í mesencephal sem byggir á sjálfvirkri nám í Hebresku. J Neurosci. 1996; 16: 1936 – 1947. [PubMed]

39. Suri R, Schultz W. Taugakerfi með dópamínlíku styrkingarmerki sem lærir svörun við staðbundinni svörun. Taugavísindi. 1999; 91: 871 – 890. doi: 10.1016 / S0306-4522 (98) 00697-6. [PubMed] [Cross Ref]

40. Ainslie G. Specious umbun: hegðunarkenning um hvatvísi og höggstjórn. Psych Bull. 1975; 82: 463 – 496. doi: 10.1037 / h0076860.

41. Rodriguez ML, Logue AW. Aðlögun seinkunar að styrkingu: bera saman val hjá dúfum og mönnum. J Exp Psychol Anim Behav Process. 1988; 14: 105 – 117. doi: 10.1037 / 0097-7403.14.1.105. [PubMed] [Cross Ref]

42. Richards JB, Mitchell SH, de Wit H, Seiden LS. Ákvörðun afsláttaraðgerða hjá rottum með aðlögunarfjárhæðaraðferð. J Exp Anal Behav. 1997; 67: 353 – 366. doi: 10.1901 / jeab.1997.67-353. [Ókeypis grein PMC] [PubMed] [Cross Ref]

43. Kobayashi S, Schultz W. Áhrif frestunar umbun á svörun dópamín taugafrumna. J Neurosci. 2008; 28: 7837 – 7846. doi: 10.1523 / JNEUROSCI.1600-08.2008. [PubMed] [Cross Ref]

44. Guarraci FA, Kapp BS. Lífeðlisfræðileg einkenni dópamínvirkra taugafrumna á ventral tegmental svæði við mismunadrif Pavlovian hræðslu við vöku kanínuna. Behav Brain Res. 1999; 99: 169 – 179. doi: 10.1016 / S0166-4328 (98) 00102-8. [PubMed] [Cross Ref]

45. Joshua M, Adler A, Mitelman R, Vaadia E, Bergman H. Dópamínvirkar taugafrumur í miðhimnu og katalínvirkar kyrningafæðar í fæðingu umrita muninn á umbun og andstyggilegum atburðum á mismunandi tímum líkindastigs klassískra ástand. J Neurosci. 2008; 28: 1673 – 11684. doi: 10.1523 / JNEUROSCI.3839-08.2008.

46. Matsumoto M, Hikosaka O. Tvær gerðir af dópamín taugafrumum flytja áberandi jákvæð og neikvæð hvatningarmerki. Náttúran. 2009; 459: 837 – 841. doi: 10.1038 / nature08028. [Ókeypis grein PMC] [PubMed] [Cross Ref]

47. Chiodo LA, Antelman SM, Caggiula AR, Lineberry CG. Skynörvun breytir losunartíðni dópamíns (DA) taugafrumna: Vísbendingar um tvær virkar gerðir DA frumna í substantia nigra. Brain Res. 1980; 189: 544 – 549. doi: 10.1016 / 0006-8993 (80) 90366-2. [PubMed] [Cross Ref]

48. Mantz J, Thierry AM, Glowinski J. Áhrif skaðlegs hala klípa á losunartíðni mesó-barkalífs og mesólimbísks dópamín taugafrumna: sértæk virkjun mesókortíka kerfisins. Brain Res. 1989; 476: 377 – 381. doi: 10.1016 / 0006-8993 (89) 91263-8. [PubMed] [Cross Ref]

49. Schultz W, Romo R. Viðbrögð dópamín taugafrumna í meltingarfærum við örvandi líkamsstyrkandi örvun í svæfða apanum. J Neurophysiol. 1987; 57: 201 – 217. [PubMed]

50. Coizet V, Dommett EJ, Redgrave P, Overton PG. Uppsöfnun svörunar dópamínvirkra taugafrumna í miðhjálp er mótað af yfirburðum colliculus hjá rottum. Taugavísindi. 2006; 139: 1479 – 1493. doi: 10.1016 / j.neuroscience.2006.01.030. [PubMed] [Cross Ref]

51. Brown MTC, Henny P, Bolam JP, Magill PJ. Virkni taugakemískra ólíkra dópamínvirkra taugafrumna í substantia nigra við skyndileg og drifin breyting á heilaástandi. J Neurosci. 2009; 29: 2915 – 2925. doi: 10.1523 / JNEUROSCI.4423-08.2009. [PubMed] [Cross Ref]

52. Brischoux F, Chakraborty S, Brierley DI, Ungless MA. Phasic örvun á dópamíni taugafrumum í ventral VTA með skaðlegum áreiti. Proc Natl Acad Sci USA. 2009; 106: 4894 – 4899. doi: 10.1073 / pnas.0811507106. [Ókeypis grein PMC] [PubMed] [Cross Ref]

53. Day JJ, Roitman MF, Wightman RM, Carelli RM. Félagsfræðsla miðlar kraftmiklum breytingum á dópamínmerkjum í kjarnanum. Nat Neurosci. 2007; 10: 1020 – 1028. doi: 10.1038 / nn1923. [PubMed] [Cross Ref]

54. Roitman MF, Wheeler RA, Wightman RM, Carelli RM. Efnafræðileg viðbrögð í rauntíma í kjarnanum samanstendur af gefandi og andstyggilegu áreiti. Nat Neurosci. 2008; 11: 1376 – 1377. doi: 10.1038 / nn.2219. [PubMed] [Cross Ref]

55. Ungur AMJ. Aukið utanfrumu dópamín hjá kjarnaumbúðum til að bregðast við skilyrðislausu og skilyrtu andstæða áreiti: rannsóknir sem nota 1 min örskiljun hjá rottum. J Neurosci Meth. 2004; 138: 57 – 63. doi: 10.1016 / j.jneumeth.2004.03.003.

56. Schultz W. Margþættar dópamínaðgerðir á mismunandi námskeiðum. Ann sr Neurosci. 2007; 30: 259 – 288. doi: 10.1146 / annurev.neuro.28.061604.135722. [PubMed] [Cross Ref]

57. Tsai HC, Zhang F, Adamantidis A, Stuber GD, Bonci A, de Lecea L, Deisseroth K. Fasískt skothríð í dópamínvirkum taugafrumum dugar til hegðunaraðstæðna. Vísindi. 2009; 324: 1080 – 1084. doi: 10.1126 / vísindi.1168878. [PubMed] [Cross Ref]

58. Strecker RE, Jacobs BL. Veruleg áhrif dópamínvirkrar einingar í hegðun ketti: Áhrif örvunar á sjálfsprottna útskrift og skynjun. Brain Res. 1985; 361: 339 – 350. doi: 10.1016 / 0006-8993 (85) 91304-6. [PubMed] [Cross Ref]

59. Ljungberg T, Apicella P, Schultz W. Svör apa dópamín taugafrumna við að læra á hegðunarviðbrögð. J Neurophysiol. 1992; 67: 145 – 163. [PubMed]

60. Horvitz JC, Stewart T, Jacobs BL. Brjóstvirkni dópamín taugafrumna í vöðva er dregin fram með skynjunarörvun hjá vöku kattarins. Brain Res. 1997; 759: 251 – 258. doi: 10.1016 / S0006-8993 (97) 00265-5. [PubMed] [Cross Ref]

61. Sheafor PJ. Pseudoconditioned kjálkahreyfingar kanínunnar endurspegla samtök sem eru skilyrt eftir samhengislegum bakgrunnsröðum. J Exp Psychol: Anim Behav Proc. 1975; 104: 245 – 260. doi: 10.1037 / 0097-7403.1.3.245.

62. Kakade S, Dayan P. Dopamine: alhæfing og bónus. Neural Netw. 2002; 15: 549 – 559. doi: 10.1016 / S0893-6080 (02) 00048-5. [PubMed] [Cross Ref]

63. Richfield EK, Pennney JB, Young AB. Samanburður á líffærafræði og skyldleika er milli Dópamín D1 og D2 viðtaka í miðtaugakerfi rottunnar. Taugavísindi. 1989; 30: 767 – 777. doi: 10.1016 / 0306-4522 (89) 90168-1. [PubMed] [Cross Ref]

64. Mackintosh NJ. Kenning um athygli: Tilbrigði við tengsl hvati við styrkingu. Psychol séra 1975; 82: 276 – 298. doi: 10.1037 / h0076778.

65. Pearce JM, Hall G. Fyrirmynd fyrir Pavlovian ástand: afbrigði í skilvirkni skilyrt en ekki skilyrt áreiti. Psychol séra 1980; 87: 532 – 552. doi: 10.1037 / 0033-295X.87.6.532. [PubMed] [Cross Ref]

66. Levy H, Markowitz HM. Að samræma væntanlega notagildi með falli meðaltals og dreifni. Am Econ séra 1979; 69: 308 – 317.