Dopamine Uncertainty sy TD Learning (2005)

KOMENTARY: ny tsy fahatokisana dia midika hoe zava-baovao. Ity fandalinana sarotra ity dia manamafy fa mampitombo ny dopamine ny zava-baovao. Manazava ihany koa fa ny valisoa tsy azo antoka dia mampatanjaka ny fianarana. Ny pôrnôgrafia amin'ny Internet dia tsy mitovy amin'ny pôrnôgrafia taloha satria ny zava-baovao tsy misy farany - izay midika hoe fikoropahana dopamine tsy misy farany. Ny fiankinan-doha amin'ny fotony dia ny fianarana sy fahatsiarovana. Ny fifindrana amin'ny karazana pôrnôgrafia dia mampihetsika ny dopamine sy ny fianarana - noho ny tsy fahazoana antoka ny zavatra ho azonao. Mitranga ihany koa ny tsy fahazoana antoka rehefa mikaroka sary vetaveta ireo mpampiasa pôrnôgrafia. Tsy fantatrao izay ho hitanao ary mampiakatra dopamine.
Ny vaovao, ny tsy fahazoana antoka, ary ny fikatsahana ny dopamine rehetra

Fandalinana feno: Dopamine Uncertainty sy TD Learning

Ny fihetsika sy ny atidoha 2005, 1:6doi:10.1186/1744-9081-1-6

Yael Niv1,2, Michael O Duff2 sy Peter Dayan2
1 Ivon-toeram-pifaneraserana momba ny fitakiana ny fahasalamana, ny University of Hebrew, Jerusalem, Isiraely
2 Gatsby Unit Computational Neuroscience, University College Londres, London, UK
Ny dika elektronika amin'ity lahatsoratra ity dia ny iray manontolo ary azo jerena amin'ny aterineto: http://www.behavioralandbrainfunctions.com/content/1/1/6
© 2005 Niv et al; licensee BioMed Central Ltd.

Abstract

Ny porofo manamarina dia maneho fa ny asan'ny phasic of neurons dopaminergic ao amin'ilay avo midbrain dia mampiavaka ny fahadisoana ara-nofo (TD) amin'ny faminavinana ny valisoa amin'ny hoavy, miaraka amin'ny fiakarana etsy ambony ary mihena eo ambanin'ny baseline izay vokatry ny fahadisoana mety sy tsy mahomby. Na izany aza, ny cellules dopamine dia manana asa ambany ambany, izay midika fa ny fanehoana ireo karazana fahadisoana ireo dia asymmetrika. Hitanay ny fiantraikan'io asymmetrika toa tsy manan-tsahala io ho an'ny fandikana ny dopaminergic modely fironana amin'ny fanandramana amin'ny valisoa azo antoka fa miteraka fahadisoana mialoha. Amin'ny ankapobeny, asehontsika fa rehefa miorina amin'ny tsy fitovian-tsazy tsy misy famotorana manerana ny fitsapana, dia tokony ho hita miharihary ny firoboroboan'ny asan'ny dopamine neurons, izay miankina amin'ny tahan'ny fianarana. Ity tranga marina ity dia notsongaina nandritra ny fanandramana vao haingana, na dia teo aza ny fandikana azy ao amin'ny teny antipodal ho toy ny famaritana ao anaty famaritana ny tsy fahazoana antoka.

Fampidirana

Misy karazana fanazavana ara-batana sy ara-pahasalamana ary psychopharmacological momba ny fizakan-tena ao amin'ny sela dopaminergic (DA) ao anatin'ny midadasika an-jazakely, rataly ary olona ao anatin'ny asa fiasa mitovitovy anton-javatra sy ny faminaniana momba ny valisoa hoavy [1-5]. Ireo angon-drakitra ireo dia natao hanolorana [6,7] fa ny asan'ny DA neuron dia maneho ny fahadisoana ara-nofo (TD) amin'ny faminaniana momba ny valisoa ho avy [8,9]. Io dopamine TD io dia manome fototra ara-pitsipi-pahaizana manokana mba hahatakarana ny antontam-baovao sy fitondran-tena. Ankoatra izany, dia manolotra hevitra izy io fa manome fehezanteny mifanaraka amin'ny fitsipi-pitenenana mifanaraka amin'ny fitantanana ny faminaniana roa sy ny valim-panatanterahana.

Ny sasany amin'ireo porofo mampiaiky indrindra manoloana ny teoria TD dia avy amin'ny fanadihadiana manadihady ny fampidirana an-tsokosoko ny cellules dopamine ho valin'ny fisainana tsy ara-dalàna (toy ny fractal modèl eo amin'ny monitor) izay maminavina ny fahazoan-dàlana tsy manam-paharoa (toy ny ranomamy) . Amin'ny endriny maro, dia nasehon'izy ireo fa amin'ny fampiofanana, ny dikan-teny phasic DA dia mampitohy hatramin'ny fotoana nahazoan'ilay valisoa tsy nahazo alalana, hatramin'ny vanim-potoana voalohany nahitana valisoa. Izany indrindra no mety ho vokatr'izany ho an'ny fahadisoana ara-potoana mitranga eo amin'ny ara-nofo (ohatra [1,2,10-13]). Ny fikarohana fototra [7] dia rehefa tsy ampoizina ny valisoa (izay tsy azo ihodivirana amin'ny fisedrana voalohany) dia mamaly mafy ny sela dopamine. Rehefa milaza mialoha ny valisoa iray, dia mamaly ilay mpandahateny aloha ireo sela, fa tsy ny valim-panantenana omena azy ankehitriny.

Raha toa ka tsy voavaha ny valim-pialana nomena azy, dia atahorana ho voafetra ny fotoana ao anatin'ny fotoana mahamety ny valisoa, fanakanana izay manambara ny fotoana marim-pototry ny vinavinan'ny valisoa [10], ary ny metrika ara-nofo dia eo ambany fijerin'ny forensika [14]. Ny fiovan'ny hetsika hatramin'ny fotoan'ny valim-pitia ka hatramin'ny fotoan'ny mpanao vinavina dia mitovy amin'ny fiovan'ny fihetsiky ny fientanam-po amin'ny biby hatramin'ny vanim-potoana valisoa (ny stimulus tsy misy fepetra) mankany amin'ny stimulus condimentations amin'ny fanandramana fikolokoloana klasika [7,10] .

Ao amin'ny fianarana vao haingana, Fiorillo et al. [15] nanadihady ny tranga fanamafisana ampahany, izay misy ny fahadisoana maharitra, tsy azo atao, ary ny faminaniana amin'ny andalana tsirairay. Ny fandikana mivantana ny fahitana hypothesis momba ny fametavetana TD dia hanoro hevitra fa amin'ny tranga toy izao (a) ny asa atao dopamine amin'ny fotoan'ny fisavorovoroan-kevitra dia mety hampitombo ny mety ho valisoa, ary b) amin'ny antsalany ny fitsapana, ny valin'ny dopaminergic taorian'ny fanantenana ary ny làlana mankany amin'ny vanim-potoana dia tokony ho zero. Na dia voamarina aza ny fitsapana voalohany tamin'ny fanandramana, dia tsy ilay faharoa. Ny valim-pifanarahana teo anelanelan'ny fitsaràna dia nahitana fihenam-bidy mihetsiketsika nandritra ny fotoana naharitra teo amin'ny fanombohana sy ny valisoa izay toa tsy mifanaraka amin'ny kaonty TD. Fiorillo et al. dia mihevitra fa io asam-baratra io dia maneho ny tsy fahazoana antoka amin'ny fanomezana valisoa, fa tsy fahadisoan'ny faminaniana.

Amin'ity taratasy ity dia mamaly ny olan'ny faminaniana maharitra izahay. Asehontsika fa ny asymmetrika manan-danja eo amin'ny famaritana ny fahadisoana tsara sy ratsy dia mitarika ny iray hiandrandra ny fandehanana ao anaty signal dopamine mahazatra, ary koa ny fanamarihana tsara amin'ny lafiny roa hafa amin'ny tsangan-dazan'ny DA - faharetan'ny asa maharitra amin'ny fotoana (valim-bavaka), ary ny fanjavonan'ny (na farafaharony fahamendrehana) ny fanoherana, fa tsy ny famantarana amin'ny fotoan'ny valisoa, eo amin'ny endriky ny tsipika fa tsy ny fijanonana amin'ny fijanonana. Ireo tranga roa ireo dia voamarika ihany koa ao amin'ny fanandramana fananganana fitaovana mifandraika amin'ny Morris et al. [16]. Farany, manazava isika fa ny mari-pandrefesana dia ny porofo tsara indrindra amin'ny ankehitriny noho ny toetoetran'ny rafi-pampianarana izay mahatonga ny fiovan'ny toetran'ny dopamine amin'ny vanim-potoana manjavozavo.

Ny tsy fisian'ny fisalasalana amin'ny valisoa: DA mihazakazaka

Fiorillo et al. [15] dia nampifandray ny fampisehoana fientanam-poitra dimy hafa amin'ny mokaika amin'ny fahatarana, probabilistic (pr = 0, 0.25, 0.5, 0.75, 1) fanomezana valisoa ranom-boankazo. Nampiasa paradigma fanemorana izy ireo, izay maharitra ny stimulus mandritra ny elanelam-potoana 2, miaraka amin'ny valisoa omena rehefa manjavona ilay stimulus. Taorian'ny fanazaran-tena, ny fihetsik'ireo gidro gidragidra gidro dia nanondro fa fantatr'izy ireo ny valisoa valisoa samihafa mifandraika amin'ny fanentanana tsirairay.

Ny sary 1a dia mampiseho ny tantaram-piainan'ny sela hafan'ny sela hafahafa voamarika, ho an'ny tsirairay. Ny tarika TD dia maminavina fa ny fampiasana ny phasic ny sela DA amin'ny fotoan'ny fanentanana amin'ny maso dia tokony hifanaraka amin'ny salam-panantenana azo omena, ary tokony hitombo amin'ny pr. Ny sary 1a dia mampiseho an'izany - eny, manerana ny mponina, ny fitomboana dia mazava tsara. Morris et al. [16] dia mitatitra vokatra iray mitovy amin'izany amin'ny tetikasa fanaraha-mason'ny fitaovana (trace) izay misy ihany koa ny fanamafisana ny fampandrosoana.

Figure 1. Ireo fahadisoana azo itokisana amin'ny alàlan'ny valim-panafody
a) valiny DA amin'ny fisedrana samy hafa ny valisoany valisoa. Ny fandaharam-potoana momba ny vanim-potoanan'ny stimulus peri-stimulus (PSTHs) dia mampiseho ny fihetsiketsehana fitsangatsanganana ataon'ny neurons DA maromaro mandritra ny fitsapana maro, ho an'ny pr tsirairay, noho ny fanandramana valisoa sy tsy misy valisoa amin'ny vinavinan'ny mpanelanelana. (b) Fahadisoana mialoha ny faminaniana TD miaraka amina refy tsy simetrika. Ao amin'ny lahasa simulated, isaky ny andrana iray dia notsongaina tampoka ny iray tamin'ireo fanentanana dimy ary naseho tamin'ny fotoana t = 5. Novonoina ilay stimulus t = 25, ary tamin'izany fotoana izany dia nomena valisoa iray azo inoana fa pr voafaritry ny stimulus. Nampiasainay ny fampisehoana an-tsipika fahatarana ny stimuli (jereo ny lahatsoratra), miaraka amin'ny fanentanana tsirairay asolo karazana singa ('neurons') samihafa. Ny lesoka TD dia δ (t) = r (t) + w (t - 1) • x (t) - w (t - 1) • x (t - 1), miaraka amin'ny r (t) ny valiny amin'ny fotoana t , ary x (t) ary w (t) ny fanjakana sy ny lanjan'ny lanja ho an'ny singa. Ny fitsipi-pianarana TD an-tserasera mahazatra dia nampiasaina miaraka amin'ny tahan'ny fianarana α, w (t) = w (t - 1) + αδ (t) x (t - 1), ka ny lanja tsirairay dia maneho ny sandan'ny valisoa ho avy. Mitovy amin'i Fiorillo et al., Asehontsika ny lesoka mialoha ny faminaniana δ (t) salantsalany amin'ny fitsapana maro, aorian'ny nahalalana ilay asa. Ny asymmetrika solontenam-panehoana dia mipoitra satria ny soatoavina ratsy δ (t) dia natsangana tamin'ny d = 1/6 talohan'ny famintinana ny PSTH simulate, na dia mitohy aza ny fianarana araky ny lesoka tsy voasivana. Ary farany, mba hampamoahana ireo valiny kely tsara tamin'ny fotoana nanentanana ny pr = 0 sy tamin'ny fotoana valisoa (voalaza mialoha) ho an'ny pr = 1 hita ao amin'ny (a), dia noheverinay fa kely ny (8%) fantatra mialoha ny fanentanana mialoha. (c) valiny DA tamin'ny fisedrana pr = 0.5, nosarahana ho fizahan-toetra valiny (havia) ary tsy voavidy (havanana). (d) Modely TD an'ny (c). (a, c) Navoaka tamin'ny alàlan'ny fahazoan-dàlana avy amin'ny [15] © 2003 AAAS. Ny fahazoan-dàlana avy amin'ny AAAS dia takiana amin'ny fampiasana hafa rehetra.

Mifanohitra amin'izany kosa, amin'ny fotoana mety amin'ny famoizana valisoa, ny teoria TD dia maminavina fa tsy tokony hisy asa atao amin'ny antsasany, satria, amin'ny antsalany, dia tsy misy hadisoana mitranga amin'izao fotoana izao. Mazava ho azy, amin'ny famolavolana manam-pahaizana azo antoka (farafaharatsiny ho an'ny pr ≠ 0, 1) dia misy ny fahadisoana amin'ny faminaniana amin'ny fotoana famerenana na tsy fanomezana valisoa amin'ny fizarana tsirairay. Amin'ny fitsapana izay anomezana valisoa iray, ny faharesen-dahatry ny faminaniana dia tokony ho tsara (satria ny vola raisina dia lehibe noho ny valisoa miandry). Mifanohitra amin'izany, amin'ny fitsapana tsy misy valiny dia tokony ho ratsy izany (jereo ny sary 1c). Tsara homarihina, eo ambanin'ny TD, ny halehiben'ireo fahasamihafana ireo, izay mavesa-danja amin'ny tanjon'izy ireo, dia tokony ho zero. Raha tsy zero izany, dia tokony ho toy ny plastika famantarana io hadisoana io, ka manova ny faminaniana mandra-paha tsy misy hadisoana. Raha ampitahaina amin'izany fanantenana izany, ny angon-drakitra amin'ny sary 1a izay averina arakaraka ireo fitsapana nahazo valisoa sy tsy noraisina, dia mampiseho fa misy ny dikan'ny dikany amin'izao fotoana izao. Hita miharihary koa ao amin'ny rakitsoratr'i Morris et al. [16] (jereo ny sary 3c). Ny valin'ny fitarihana DA dia tsy mampiseho ny tsy fahitana azy na dia misy fiofanana mazava aza (mandritra ny volana maro).

Ny ratsy noho izany dia ho an'ny modelin'i TD, ary ny tena ifantohan'ny Fiorillo et al. [15], dia ny fiatrehana ny hetsika DA manoloana ny fotoana andrasana amin'ilay valisoa. Satria ny haben'ny fiampitana dia lehibe indrindra amin'ny pr = 0.5, Fiorillo et al. dia nanoso-kevitra izy fa mitatitra ny tsy fahazoana antoka amin'ny fanomezana ny valisoa, fa tsy ny hadisoana diso, ary nanombantombana fa afaka manazava ny toetra mampiavaka ny tsy fahazoana antoka (izay hita ao amin'ny filokana) io famantarana io.

Ny fiasa mihetsiketsika sy ny asa atao amin'ny fotoana mety hitrandrahana dia mametraka fanamby lehibe amin'ny teoria TD. Ny fianarana TD dia miasa amin'ny fandaminana ny asan'ny DA amin'ny fotoana iray ao anatin'ny fizahan-tany mba ho alohan'ny faminaniana azo omena alohan'io fitsarana io. Noho izany, tsy mazava ny fomba fiasa toa azo tsinontsinoavina, na dia amin'ny fotoana misy ny valisoa na eo amin'ny fiandrasana aloha, dia afaka mitoetra tsy misy faminaniany amin'ny fanombohan'ny maso fanentanana. Na izany na tsy izany, ny asan'ny pr-miankina amin'ny valin-kafatra dia manamarina ny sata ho toy ny mpandaha-teny azo antoka. Ankoatra izay, ny lafiny iray amin'ny TD [17], dia manjary maminavina ny safidiny amin'ny fampiasana ny lanjan'ny fanjakana ho fampidirana ny valisoa azo avy amin'io fanjakana io, ary noho izany ny toetrany ho toy ny lasibatra ho an'ny asa. Noho io fomba fijery io, satria tsy nambara mialoha ny hetsi-panoherana tamin'ny alàlan'ny fanoratana teo aloha, dia tsy misy fiantraikany amin'ny fihetsika aloha izany, toy ny fanapahan-kevitry ny filokana. Diniho, ohatra, ny fifaninanana misy eo amin'ny roa tonta: ny iray dia mitarika ho any amin'ny fanjakana iray miaraka amin'ny valim-pifidianana ary tsy misy fiatoana, ary ny iray hafa mitarika any amin'ny fanjakana iray arahin'ny valisoa azo antoka amin'ny dikany sy ny fiaviany. Koa satria tsy misy fiantraikany amin'ny asa atao amin'ny vanim-potoanan'ny fepetra ny fepetra, dia tsy azo ampiasaina hanombanana na hanomezana tombony ny fihetsika faharoa (gambling) amin'ny voalohany, na dia eo aza ny fisalasalana fanampiny.

Manome soso-kevitra momba ny fitsapana hafa isika fa ny roa amin'ireo lozam-pifamoivoizana ireo dia miteraka mivantana avy amin'ny faneriterena midika ho ny fihenan-tsakafo ambany dia ambany an'ny DA neurons (2-4 Hz) amin'ny famaritana ny fahadisoana noforonina. Araka ny nomarihin'i Fiorillo et al. [15], ny faharesen-dahatry ny faminaniana azo antoka dia asehon'ny lanjan'ny ~ 270% ambony ambony, raha diso kosa ny fahadisoana diso noho ny fihenan'ny ~ 55% eto ambany (jereo koa [14,18]). Ity asymmetrika ity dia vokatra mivantana avy amin'ny fandikana ny marika nosoniavina amin'ny firesahana izay manana fototra kely ambany, mazava ho azy, dia mety ho tsara ihany. Ny fifehezana ny taham-pahavitrihana eo ambanin'ny baseline dia afaka mamadika ireo hadisoana mivaingana mahomby amin'ny fampiasana andiam-pivoarana goavana, na izany aza, ambany ny tahan'ny firotsahana firy dia tsy afaka midina afa-tsy zero, mametraka fameperana amin'ny famaritana diso ny hadisoana ratsy.

Vokatr'izany dia mila mitandrina ny fandikana ny sanda (na salan'isa) ny peri-stimulus-time-histograms (PSTHs) amin'ny hetsika samihafa, toy ny hita amin'ny sary 1a. Ireo fambara diso sy simika tsy misy simika amin'ny fotoana nandraisana na tsy nahazo valisoa dia tsy tokony ho tonga hatramin'ny aotra, na dia maneho hadisoana mialoha amin'ny TD marina aza izy ireo. Raha fintina, ny fitifirana ambany izay maneho ny lesoka ratsy amin'ny fisedrana tsy voavidy dia tsy "hanafoana" ireo fipoahana haingana izay mamela hadisoana tsara amin'ny fitsapana valisoa, ary, amin'ny ankapobeny, ny salan'isa dia haneho valiny tsara. Ao amin'ny ati-doha, mazava ho azy, satria ny valiny dia tsy antonony mandritra ny fisedrana (nahazo valisoa sy tsy nahazo valiny), fa noho ny neurônina ao anatin'ny fitsapana dia tsy mila mametraka olana izany.

Izany dia manazava ny asa maharitra maharitra (amin'ny ankapobeny) amin'ny fotoana famerenana na tsy fanomezana ny valisoa. Ary ahoana ny amin'ilay fiandrasana talohan'ity fotoana ity? Farafaharatsiny amin'ny fisehoana an-tsoratra sasany momba ny fotoana eo anelanelan'ny fanentanana sy ny valisoa, rehefa ampitahaina amin'ny fitsapana, dia toy izany koa ny asymmetria dia mitarika TD ny vokatra mitarika amin'ny fiatrehana ny asa atao amin'ny vanim-potoanan'ny valisoa. Ny rafitra fianarana TD dia misy fiantraikany amin'ny fampielezana, amin'ny foto-pitsapana am-pitsapana, ny fahadisoana maminavina izay mipoitra indray mandeha ao anatin'ny fotoam-pitsarana (toy ny amin'ny fotoan'ny valisoa) mankany amin'ny mety ho toetran'ny mpilatsaka ho fidiana (toy ny CS) tany am-piandohana teo aloha. Eo ambany fifehezana asymmetrika ny fahadisoana azo antoka sy tsy mivaingana izay noresahintsika vao haingana, ny fampitomboana ireo fahadisoana manaparitaka amin'ny fitsapana maro (tahaka ny hita ao amin'ny Figure 1a) dia hitondra mankany amin'ny fitaovana azo antoka ho an'ny androm-piainana ao anatin'ny fotoam-pitsarana alohan'ny valisoa. Ny endriky ny endriky ny asany dia miankina amin'ny fomba fisehoana an-tsehatra amin'ny fotoana, ary koa amin'ny haavon'ny fianarana, araka izay horesahina etsy ambany.

Ny sary 2 dia maneho an'io fomba fijery io momba ny fizotran'ny asa fanararaotana. Eto, fanehoana ny fotoana fanemorana ny fotoana hatramin'ny nampiasana ny stimulus. Ho an'izany, ny singa tsirairay ('neuron') dia lasa mavitrika (izany hoe mihevitra ny sanda 1) amin'ny lagy iray aorinan'ny nanolorana ny fanentanana, hany ka ny fotoana rehetra aorian'ny fanombohana dia nampiseho hatrany ny fitifirana singa iray. Ny fianarana dia mifototra amin'ny lesoka TD (notaterina tamin'ny dopaminergika), namboarina ho δ (t) = r (t) + V (t) - V (t - 1), miaraka amin'ny V (t) ny fatra mavesatra avy amin'ilay singa mavitrika ao fotoana t, ary r (t) valisoa azo amin'ny fotoana t. Ny fanavaozana ny lanjan'ireo singa arakaraka ny fitsipika fanavaozana ny TD mahazatra miaraka amin'ny tahan'ny fianarana maharitra, dia mamela ny V (t), amin'ny antsalany, maneho ny valisoa ho avy andrasana (jereo ny sary 1). Satria isaky ny manaraka ny fizaram-potoana manaraka dia miseho isaky ny fotoana ao anatin'ny fitsarana ny lesoka amin'ny faminaniana TD. Ny sary 2a dia mampiseho ireo lesoka ireo tamin'ny andrana enina nifanesy izay pr = 0.5. Isaky ny fitsapana dia misy lesoka tsara na ratsy eo amin'ny vanim-potoana valisoa, vokatry ny fahazoana na ny tsy fahazoana ny valisoa, ary ny lesoka isan-tsokajiny tamin'ireo fitsapana teo aloha dia niparitaka hatrany amin'ny fotoanan'ny fanentanana, amin'ny alàlan'ny ny fanavaozana tsy tapaka ny lanja (oh: ny lesoka asongadina amin'ny mena). Rehefa averimberina (na, toy ny PSTHs, famintina) mihoatra ny fitsapana, ireo hadisoana ireo dia mifamono antonony, ary miteraka histogram fisaka ankapobeny amin'ny elanelam-potoana aorian'ny fanentanana, ary mitarika amin'ny fotoana valisoa (tsipika mainty amin'ny sary 2b, voafintina mandritra ny andrana 10 naseho tamin'ny manga manify). Na izany aza, rehefa voaangona aorian'ny fandrefesana ny simba simetrika ny lesoka ratsy amin'ny faran'ny d = 1/6 (izay manahaka ny kaody asymméric an'ny lesoka mialoha sy ratsy momba ny faminaniana nataon'ny DA neon), dia nisy hetsika mihetsika tsara hita, araka ny asehon'ny tsipika mainty amin'ny sary 2c. Mariho fa ity fanavotana ity dia olana iray fotsiny amin'ny solontena, vokatry ny faneriterena ny sanda ratsy momba ny tahan'ny fitifirana ambany, ary tsy tokony hisy fiantraikany amin'ny fianarana ny lanjany, mba tsy hianarana soatoavina diso (jereo ny fifanakalozan-kevitra). Na izany aza, satria ny PSTHs dia fitambaran-tsoratry ny neuronal mivantana, ity olana misolo tena ity dia mitondra ny histogram vokatr'izany.

Figure 2. Ny fiverimberenan'ny fahadisoana maminavina dia manazava ny asa mihetsiketsika.
(a) Ny fahadisoana TD dia mamaritra ny fizotran'ny fizarana enina (ambony mankany ambany) avy amin'ny simulation ao amin'ny Figure 1b, miaraka amin'ny pr = 0.5. Ny fanasongadinana mena dia ny fahadisoana amin'ny vanim-potoanan'ny valisoa amin'ny voalohany amin'ny fitsapana, ary ny fampielezankevitra miverimberina mankany amin'ny vanim-potoanan'ny fanandramana amin'ny fitsapana manaraka. Famakiana taratasy dia manondro ny vokatry ny fitsarana tsirairay (R = valisoa; N = tsy nahazo valisoa). Ny fizotry ny valisoa alohan'ireny fitsapana ireny dia omena eo an-tampony havanana. b) Ny fahadisoana TD avy amin'ireo fitsapana enina ireo, ary efatra fanampiny aorian'izy ireo, dia napetraka. Ny tsipika mena sy maitso dia maneho ny valopy amin'ny fahadisoana ao anatin'ireo fitsapana ireo. Ny famintinana ireo fitsapana ireo dia miteraka tsy misy ny lahasa avo lenta midadasika (teboka mainty), satria diso sy ratsy ny miseho amin'ny 50% mahazatra amin'ny fotoana, ka mifandefera. (c) Na izany aza, raha toa ka diso aseho ny asan-toetran-tsokosoko ny dingan'ny firoboroboana (raha atambatra ny d = 1 / 6 mba hanohanana ny famaritana asymmetrika ny fahadisoana virtoalin'ny DA neurons), dia mihena ny fihoaran'ny asa dia mipoitra rehefa miorina amin'ny fitsapana, araka izay asehon'ny lamà mainty. Ny singa simulation rehetra dia mitovy amin'ny an'ny 1b, d.

Ny tarehimarika 1b, d mampiseho ny fiatrehana avy amin'io fitambarana asymmetric coding sy averina amin'ny inter-trial, ho fampitahana amin'ny data experimental. Ny sary 1b dia mampiseho ny PSTH noforonina avy amin'ny angon-drakitra nomena antsika amin'ny alalan'ny fampitoviana ny famantarana aseho amin'ny asymmetrika δ (t) ao amin'ny ~ 50 fitsapana ho an'ny karazana fanentanana tsirairay. Ny sary 1d dia mampiseho ny valin'ny fitrandrahana pr = 0.5, mizara ho fitsapana valisoa sy tsy misy valiny raha oharina amin'ny Figure 1c. Ny vokatra simulated dia mitovy amin'ny vokatra azo avy amin'ny fanandramana akaiky amin'ny famerenany ny valinteny nety tsara ho an'ireo valisoa tsy azo antoka, ary koa ny fihenan'ny vokatra, izay avo indrindra amin'ny tranga pr = 0.5.

Mora ny mamaly ny valim-pitenenana amin'ny vanim-potoan'ny valisoa (t = N) ao amin'ny fizarana T, izany hoe ny fahadisoana avoakan'ny TD (δT), avy amin'ny fitsipiky ny fianarana TD miaraka amin'ny solonanarana an-tserasera amin'ny fotoana fohy. Ny fatran'ny fianarana α. Ny lanjany amin'ny manaraka amin'ny fotoana farany amin'ny andrana, toy ny asan'ny laharam-pitsarana (miaraka amin'ny sanda voalohany raisina ho zero), dia

izay r (t) no valisoa amin'ny faran'ny fitsapana t. Ny mari-pamantarana diso amin'ny faran'ny fitsapana T dia ny tsy fitoviana eo amin'ny valisoa azo r (T), sy ny sanda maminany mialoha ny valisoa VT - 1 (N - 1). Ity lesoka ity dia miabo amin'ny probabilité pr, ary ny négatique (1 - pr). Ny fanesorana ireo lesoka ratsy amin'ny alàlan'ny singa d ∈ (0, 1], dia azontsika izany

Ho an'ny famakafakan-tsarimihetsika diso sy diso (d = 1), ny valiny mahazatra dia 0. Ho an'ny asymmetric coding (0 Toeram-pitsaboana trosa: tranga fitsapana

Tranga fitsapana manan-danja amin'ny fandikana anay no mipoitra amin'ny lahasa samihafa an'ny Fiorillo et al. [15], ary koa amin'ny laharam-pahamehana nataon'i Morris et al. [16], samy misy fifehezana ny trace. Mifanohitra amin'ny fanemorana ny toetr'andro (sary 3a) izay mifanindran-dalana ny valisoa amin'ny fanentanana ny fanentanana mialoha, eto dia misy elanelana be eo anelanelan'ny offset ny stimulus mialoha sy ny fanomezana ny valisoa (sary 3b). Mazava ho azy, amin'ity tranga ity, ny tsy fahatokisana ny valisoa dia mety hihalehibe ihany, noho ny tabataba amin'ny fanelanelanana ny elanelam-potoana eo anelanelan'ny fanentanana sy valisoa [19], noho izany eo ambanin'ny kaonty tsy azo antoka dia tokony hisy ny tantsaha azo ampitahaina na lehibe kokoa aza. Na izany aza, ny valim-panandramana dia mampiseho ny hetsi-panoherana ho kely kokoa, na azo tsinontsinoavina mihitsy (sary 3c; d). Na izany aza, mariho fa ny halehiben'ny asa atao eo ho eo amin'ny andrana amin'ny fotoana antenaina valisoa dia tazonina, manondro fisarahana eo anelanelan'ny hahavon'ny lalambe sy ny habetsaky ny hetsika tsara amin'ny fotoana valiny andrasana.

Figure 3. Fitaovana fitiliana amin'ny valisoa azo antoka.
a) Sary iray momba ny fitsapana ny laharam-pahamendrehana ataon'ny Fiorillo et al. [15]. Ny fitsapana dia misy stimulus visual 2 segondra, ny offset dia mifanindran-dàlana amin'ny fanolorana ny valisoa ranom-boankazo, raha toa ka voalamina ny valisoa toy ny probabilité mifandraika amin'ny cue visual. Amin'ny fisedrana tsy misy valiny dia nofoanana ilay fanentanana tsy nisy valisoa. Amin'ireo tranga roa ireo dia elanelam-potoana fitsapana 9 segondra eo ho eo no manasaraka ny fisedrana. b) Sary iray an'ny fitsapana ny laharam-pahamehana amin'ny asan'ny Morris et al. [16]. Ny fahasamihafana lehibe dia izao dia misy fahatarana ara-potoana be dia be eo anelanelan'ny fanentanana ny fanentanana sy ny fanombohan'ny valisoa (ny vanim-potoana "soritra"), ary tsy misy fanentanana ivelany manondro ny fotoana valisoa andrasana. Izany dia manome tsy fahatokisana fanampiny satria ny fotoana marim-pototra amin'ny valim-panontaniana mialoha dia tokony halamina anaty, indrindra amin'ny fitsapana tsy voavaha. Amin'ity asa ity, toy ny amin'ny [15], ny iray amin'ireo fanentanana hita maso (tsy aseho) dia naseho isaky ny fitsapana, ary ny fanentanana tsirairay dia nampifandraisina tamina fahafaha-mahazo valisoa. Eto koa, ny rajako dia nangatahana mba hanao valin-kafatra fitaovana (manindry ny lakile mifanandrify amin'ny lafiny nanolorana ny fanentanana), ny tsy fahombiazany dia namarana ny fitsarana tsy nisy valisoa. Ny fizahan-toetra dia niavaka tamin'ny elanelam-panandramana miovaova. (c, d) Taham-pitifirana DA (moramora) mifandraika amin'ny baseline, manodidina ny fotoana antenaina valisoa, amin'ny fisedrana valisoa (c) sy amin'ny fisedrana tsy voavadika (d). (c, d) Navoaka indray avy amin'ny [16] © 2004 nahazoana alalana tamin'i Elsevier. Ireo dian-tongotra dia manondro valiny tsara amin'ny fotoana andrasana amin'ny valiny, saingy misy làlana kely dia kely, na tsy misy eo alohan'io. Ny valiny mitovy amin'izany dia azo tamin'ny lahasa fanamafisam-peo kilasika nofaritana fohifohy ao amin'ny [15], izay nampiasa fomba fanao fanaraha-maso, nanamafy fa ny vanim-potoana fizahana, fa tsy ny fomban'ny asa aseho ao amin'ny (b) no fahasamihafana lehibe a (a) .

Ny modelin'i TD DA dia manazava mora foana ireo angon-drakitra ireo. Araka ny asehon'ny sary 4, ny endriky ny fikandrana, na dia tsy ny haavony aza dia voakasika amin'ny tahan'ny fianarana. Ny habetsaky ny fahadisoana miverimberina dia manaparitaka, amin'ny antsipiriany, ny tahan'ny fianarana, satria miseho ireo fahadisoana ireo amin'ny maha-ampahan'ny fianarana an-tserasera ny faminaniana vaovao. Raha ny marina, misy ny fanavaozana tsy tapaka ny faminaniana toy izao, fa aorian'ny fitsapana tsara dia misy ny fiandrasana valim-bavaka (ary ny valiny manaraka dia miteraka fahadisoana kely kokoa), ary raha avy eo ny fitsarana tsy misy valiny [18] (jereo ny sary 2a). Io fanavaozana ny faminaniana io dia mifandraika mivantana amin'ny fianarana ambony - ny avo kokoa ny fianarana, ny lehibe kokoa ny fanavaozana ny faminaniana mifanaraka amin'ny hadisoana amin'izao fotoana izao, ary ny lehibe kokoa ny ampahany amin'ny hadisoan'ny faminaniana izay miparitaka. Amin'izany fomba izany, amin'ny fianarana avo lenta kokoa, ny fahasamihafana amin'ny zavatra andrasana aorian'ny valin'ny valim-panadinana iray dia tsy maintsy hotsaraina bebe kokoa, ary noho izany dia mety ho diso ny faminaniana raha ny valisoa manaraka na mbola tsy misy dia ho lehibe kokoa - noho izany dia ny ampemba mihodina kokoa sy tsikelikely kokoa.

Figure 4. Ny fialan-tsasatra amin'ny fianarana amin'ny tahan'ny fianarana.
Ny endriky ny familiana, fa tsy ny haavon'ny tampony, dia miankina amin'ny tahan'ny fianarana. Ny grafika dia mampiseho fihetsika similaires amin'ny trangan'ny pr = 0.5 akaikin'ny vanim-potoanan'ny valisoa voavaly, ho an'ny isan-karazany amin'ny fianarana, averina amin'ny fitsapana valisoa sy tsy naverina. Araka ny fandalinana ny TD miaraka amin'ny fahadisoana tsy mivaingana asiam-pandrefesana, ny valim-panafahana amin'ny asa atao amin'ny valin'ny valisoa sy tsy misy valiny dia miteraka fiatoana mankany amin'ny fotoana ahazoana valisoa. Ny haavon'ny tampon'ny tondrozotra dia tondroin'ny fetran'ny fitsapana valisoa sy tsy ankasitrahana, na izany aza, ny haben'ny fiokoana dia mamaritra ny tahan'ny fampivoarana ireo famantarana diso ireo hatramin'ny fotoana (vala) fotoana ho an'ny fanentanana. Ny tahan'ny fianarana avo lenta dia miteraka ampahany lehibe amin'ny fahadisoana manaparitaka, ary noho izany dia misy fiovana ambony kokoa. Amin'ny latsaky ny fianarana ambany, dia mihena ny fihazakazahana, na dia mihazona hatrany aza ny asa atao (amin'ny ankapobeny) amin'ny vanim-potoanan'ny valisoa. Mariho fa na ny tahan'ny fianarana ampiasaina amin'ny simulations aseho ao amin'ny Figure 1b, d dia 0.8, tsy tokony horaisina ho toy ny lanjany ara-litera ara-litera ara-litera ara-bakitenin'ny sora-pandrefesana ara-tsimia izany, arakaraka ny fanehoana an-tsary ny fanentanana. Amin'ny fisehoan-javatra mampihetsi-po kokoa izay ahafahan'ny mponina amin'ny toeran'ny neurônina atao isaky ny fotoam-paharetana, dia mety hamokatra vokatra mitovy ihany koa ny fianarana ambany kokoa.

Raha ny marina, raha ampitahaina amin'ny fikarakarana fandefasana, ny fitiliana fitiliana dia malaza mora foana, manolo-kevitra fa ambany ny fianarana, ary noho izany dia tokony hisy fiaramanidina ambany, mifanaraka amin'ny vokatra azo tanterahina. Fandinihana mivantana ny tahan'ny fianarana amin'ny rakitra ao Morris et al. [16], izay nitaky fampiofanana tafahoatra satria ny asa dia tsy vitan'ny fanarahamason'ny fitiliana fotsiny ihany, fa koa nahitana fihetsika mahery setra, nanamafy fa tena ambany izy (Genela Morris - fifandraisana manokana, 2004).

Discussion

Ny famaritana samihafa ny soatoavina sy ny tsy dia tsara ataon'ny DA neurons dia miharihary amin'ny fianarana rehetra ao amin'ny siantifika phasic DA, ary azo heverina ho vokatra tsy azo ihodivirana amin'ny hetsika ambany atao amin'ny neurons. Raha ny marina, ity farany dia nanome soso-kevitra avy amin'ny tsindrim-peo fa ny mpifaninana mpanohitra ny mpikirakira, ny serotonin, dia tokony handray anjara amin'ny fisoloan-tena ary hianatra ny hadisoana ratsy vetaveta [20]. Na izany aza anefa, dia voafetra ny fiheverantsika ny vokatry ny asymmetrika amin'ny fandinihana ny dopamine momba ny dopamine, ary nanaporofo fa ny fisondrotana DA, ary ny valiny mahafa-po mahomby amin'ny vanim-potoanan'ny valisoa, dia mivantana avy hatrany ny famaritana asymmetrika ny hadisoana amin'ny faminaniana.

Ankoatra ny fomba fijery mazava kokoa momba ny famantarana ny hadisoana, ny vokatra manan-danja indrindra amin'ny fandikana vaovao dia ny fanondroana ny fanilihana ho toy ny soniavin'ny tandindona TD izay efa tena tsy misy dikany. Ity no fampielezankevitra miverimberina miverimberina amin'ny famantarana ny fahadisoa asehon'ny hetsika DA, hatramin'ny vanim-potoanan'ny valisoa hatramin'ny vanim-potoana (ny 2a). Ny fandalinana mialoha momba ny dopaminergic dia nampiasa ny pr = 1, noho izany dia mampiseho ity fampielezan-kevitra miverimberina amin'ny tsara indrindra ny tranga fitrandrahana izay hita manomboka amin'ny fiantombohan'ny fampiofanana (raha toa ka tsy mbola nanomboka ny fandraisana an-tsarimihetsika) firing DA neurons. Ankoatr'izay, araka ny voalaza dia miankina amin'ny fomba itondrana ny fotoana eo anelanelan'ny fanentanana sy ny valim-pifidianana ny fisiany - misy izy io ho an'ny fisoloana vetivety amin'ny teboka toy ny [6], fa tsy ho an'ny fisehoana an-tsarintany fahatarana, toy ny ao amin'ny [21]. Mariho fa ny endriky ny familiana ihany koa dia miankina amin'ny fampiasana ny zana-pitenenana azo atao sy ny antsoina hoe TD (λ) fitsipika fianarana (simulation tsy naseho), izay manome fitaovana fanampiny momba ny fotoana mampifandray ny zava-mitranga eo amin'ny fianarana. Indrisy anefa, satria ny endrika rampana ao amin'ny angon-drakitra dia somary variana (sary 1) sy laitra, tsy afaka manome fepetra mahery vaika amin'ny mt-TD izay ampiasain'ny atidoha.
Ny fikarohana vao haingana izay mampiseho ny fahadisoana tsy miangatra dia mampiseho ny asam-panentanana amin'ny fampielezan-kevitra, indrindra ny 4 amin'ny [13]. Ao amin'io fandalinana io, ny fahadisoana amin'ny faminavinana dia vokatry ny fiovan'ny fe-potoana, ary ny fanangonam-peo DA dia vita tamin'ny fanombohan'ny fampiofanana, toy izany dia hita mivantana avy hatrany ny asa fanodikodinam-pahefana, na dia tsy voatanisa io asa io aza.

Isika dia manantena fa hanohy ny fianarana mandritra ny fiofanana ny fanilikilihana raha toa ka tsy mitombo isa ny fianarana raha tsy mandroso ny fianarana. Ny teôria an'i Pearce & Hall [22] momba ny fifehezana ny fianarana amin'ny alalàn'ny tsy fahatokisana dia manondro izany fikirizanan'ny fianarana izany mihitsy - ary misy porofo avy amin'ny fandaharam-panamafisana ampahany izay mety ho avo kokoa ny tahan'ny fianarana raha misy ny tsy fahazoana antoka bebe kokoa mifandraika amin'ny valisoa. Raha ny marina, raha ny antontan'isa statistika 'rational' dia tokony haharitra ny fianarana raha toa ka misy tsy fahazoana antoka lehibe eo amin'ny fifandraisana misy eo amin'ireo mpilaza mialoha sy ny valim-pifidianana, izay mety hitranga amin'ny mety ho fiovana eo amin'ny fifandraisana mialoha. Ity endrika tsy fahatokisana maharitra ity, miaraka amin'ny tsy fahazoana antoka noho ny tsy fahalalana voalohany momba ilay asa, dia nampiasaina hananganana ny teôria an'i Pearce & Hall momba ny fomba itarihan'ny tsy fahatokisana ny fahalalana [23]. Noho izany, ny filazantsika fa ny fisalasalana dia mety tsy ho solontenan'ny tavy mivantana, tsy azo antoka fa tsy midika hoe tsy zava-dehibe ny solontenany. Mifanohitra amin'izany aza, nanolotra sosokevitra izahay fa ny tsy fahatokisana dia misy fiantraikany amin'ny fanatsoahan-kevitra kortika sy ny fianarana amin'ny alàlan'ny rafi-pitantanana neuromodulatory [24] hafa, ary mety hamaritra ihany koa ny lafiny amin'ny fifantina ny hetsika [25].

Misy karazany hafa amin'ny asymmetrika tokony homarihina. Ny tsikera indrindra dia ny vokatry ny asymmetrie amin'ny fianarana miankina DA [26], raha toa ka ny andraikitry ny lahatahiry etsy ambany no tompon'andraikitra amin'ny fihenan'ny faminaniana izay avo loatra. Mba hahazoana antoka fa mijanona ho marina ny faminaniana voavolavola, dia tokony hiaiky isika fa ny asymmetrika dia tsy misy fiantraikany amin'ny fianarana, izany hoe ny rafitra iray toy ny fahasimbana isan-karazany amin'ny fitrandrahana sy ny famoretana ny tanjaka amin'ny synaptika dia manonitra ny famantarana asymmetrika. Mazava ho azy, ity dia azo atao moot raha toa ka misy ny fifandraisana amin'ny tsy fahasalamana avy amin'ny mpanohitra amin'ny fianarana amin'ny fahadisoana diso. Ity olana ity dia sarotra amin'ny soso-kevitry ny Bayer [14] fa ny tahan'ny DA firing dia mitovitovy amin'ny fahadisoana rehetra mamaritra eo ambany sombin-tsilo, angamba noho ny fiantraikan'ny taratra ambany. Ny famadihana toy izany dia tsy misy fiantraikany amin'ny sary mendrika momba ny fiantraikan'ny fampitoviana amin'ny rafim-pifaneraserana eo amin'ny fisondrotan'ny rampana, fa manamafy ny filàna famantarana ny mpanohitra amin'ny fianarana tsy maintsy ilaina.

Ary farany, ny fitsapana mivantana indrindra ny fandikànay dia ny fampitahana ny salan'isa intra sy ny fizahan-toetra ny famantarana DA. Zava-dehibe ny fanaovana izany amin'ny fomba maodina ara-nofo, hisorohana ny olan'ny salan'isa famantarana tsy mijanona. Mba handresena ny tabataba amin'ny fitifirana neural, ary hamaritana raha misy tokoa ny fidinana tsikelikely ao anatin'ny fitsarana iray, na, araka ny hinanantsika vinavina - lesoka mialoha ny faminaniana tsara sy ratsy, ilaina ny manaloka ny neurons maro voarakitra miaraka ao anatiny fitsapana iray, ary koa ny neurons mifandraika amin'ny tahan'ny fianarana mitovy amin'izany. Raha tsy izany, ny soritr'aretin'ny neuron tokana dia azo averina manohitra ny valin'ny fiverenana miverina voalazan'ny fisedrana teo aloha sy ny fianarana TD. Ny fampitahana ny habetsaky ny fari-pahaizana nohazavaina tamin'ny maodely toy izany, raha ampitahaina amin'ny fihemorana amin'ny lalan'ny hetsika monotonic, dia mety hanondro ilay maodely mety indrindra. Faminaniana iray tsy dia mahitsy, saingy azo tsapaina kokoa fa ny endrik'ilay tavy dia tokony hiankina amin'ny tahan'ny fianarana. Ny taham-pianarana dia azo tombana amin'ny valiny amin'ireo valisoa azo antoka, tsy miankina amin'ny endrika fiakarana (Nakahara et al. [18] dia naneho tamin'ny fomba toy izany, fa amin'ny laharam-pahamehana fanamafisana ny fizotrany, 0.3 ny tahan'ny fianarana). ary azo ovaina amin'ny alàlan'ny fanovana ny habetsaky ny fiofanana na ny fahita matetika izay ovaina sy averina ianarana ireo adin-javatra. Raha ny marina, ny fikajiana ny fisian'ny sy ny endrik'ilay lalambe ao amin'ny hetsika DA nirakitra ny Nakahara et al., dia afaka manome fanazavana mazava momba ny tolo-kevitra ankehitriny.

Mifaninana ny tombontsoa
Ny mpanoratra (s) dia milaza fa tsy manana tombontsoa mifaninana izy ireo.

Ny fandraisan'ireo mpanoratra
Ny YN, ny MD sy ny PD dia niara-niasa sy namono ity fianarana ity, ary nanampy tamin'ny fanoratana ny sora-tanana. Ny mpanoratra rehetra dia namaky sy nankasitraka ny sora-tanana farany.

Fankasitrahana
Feno fankasitrahana an'i H. Bergman, C. Fiorillo, N. Daw, D. Joel, P. Tobler, P. Shizgal ary W. Schultz ho an'ny adihevitra sy fanehoan-kevitra, indraindray na dia maromaro aza ny fandikana ny angon-drakitra. Tena mankasitraka an'i Genela Morris isika noho ny fandinihana ny angon-drakitra avoakany sy tsy navoaka mikasika ny firoboroboana. Ity asa ity dia novatsian'ny EC Thematic Network (YN), ny Gatsby Charitable Foundation ary ny tetikasa BIBA an'ny EU.

References

1. Ljungberg T, Apicella P, Schultz W: Valin'ny monkey dopamine neurons mandritra ny fianarana ny fihetsiky ny fitondran-tena.
Journal Neurophysiol 1992, 67: 145-163.
Hiverina amin'ny lahatsoratra
2. Schultz W: Famantarana valisoa ho an'ny neurons dopamine. [http://jn.physiology.org/cgi/content/full/80/1/1] tranonkala
Journal of Neurophysiology 1998, 80: 1-27. PubMed Abstract
Hiverina amin'ny lahatsoratra
3. O'Doherty J, Dayan P, Friston K, Critchley H, Dolan R: Modely fahasamihafana ara-potoana sy fianarana mifandraika amin'ny valisoa ao amin'ny atidohan'olombelona.
Neuron 2003, 38: 329-337. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
4. Seymour B, O'Doherty J, Dayan P, Koltzenburg M, Jones A, Dolan R, Friston K, Frackowiak R.
Nature 2004, 429: 664-667. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
5. Montague PR, Hyman SE, Cohan JD: Ny anjara asan'ny computational ho an'ny dopamine amin'ny fanaraha-maso ny fitondran-tena.
Nature 2004, 431: 760-767. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
6. Montague PR, Dayan P, Sejnowski TJ: Rafitra ho an'ny rafitra dopamine mesencephalic mifototra amin'ny fianarana Hebbian mialoha.
Ny Journal of Neuroscience 1996, 16: 1936-1947. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
7. Schultz W, Dayan P, Montague PR: Ny fototry ny faminaniana sy ny valisoa.
Science 1997, 275: 1593-1599. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
8. Sutton RS: Mianara maminany amin'ny fomba fahasamihafan'ny fotoana.
Machine Learning 1988, 3: 9-44.
Hiverina amin'ny lahatsoratra
9. Sutton RS, Barto AG: [http://www.cs.ualberta.ca/~sutton/book/ebook/the-book.html] tranonkala
Fanamafisana fanamafisana: fampidirana. MIT Press; 1998.
Hiverina amin'ny lahatsoratra
10. Hollerman J, Schultz W: Dopamine neurons dia mitatitra ny fahadisoana amin'ny faminaniana ara-nofo momba ny valisoa mandritra ny fianarana.
Ny Neuroscience Nature 1998, 1: 304-309. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
11. Schultz W, Apicella P, Ljungberg T: Valin'ny neurons dopamine gidro amin'ny valisoa sy ny fientanam-po mandritra ny dingana misesy amin'ny fianarana asa famaliana tara.
Ny Journal of Neuroscience 1993, 13: 900-913. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
12. Tobler P, Dickinson A, Schultz W: Fanodinana ny fanesoana valisoa voavinavina nataon'ny Dopamine Neurons amin'ny Paradigma Inhibition Conditioned.
Journal of Neuroscience 2003, 23 (32): 10402-10410. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
13. Takikawa Y, Kawagoe R, Hikosaka O: Ny andraikitry ny neurons dopamine midbrain amin'ny fampifanarahana fohy sy maharitra amin'ny saccades amin'ny sari-tany momba ny valisoa.
Journal of Neurophysiology 2004, 92: 2520-2529. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
14. Bayer H: Ny anjara asan'ny substantia nigra amin'ny fianarana sy ny fifehezana ny motera.
PhD, New York University 2004.
Hiverina amin'ny lahatsoratra
15. Fiorillo C, Tobler P, Schultz W: Coding discrete momba ny mety ho valisoa sy ny tsy fahazoana antoka avy amin'ny Dopamine Neurons.
Science 2003, 299 (5614): 1898-1902. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
16. Morris G, Arkadir D, Nevet A, Vaadia E, Bergman H: Hafatra mifanandrify nefa miavaka amin'ny dopamine midbrain sy ny neurons tonika mavitrika striatal.
Neuron 2004, 43: 133-143. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
17. Barto A, Sutton R, Watkins C: Fianarana sy fandraisana fanapahan-kevitra manaraka. In Learning and Computational Neuroscience: Fondation of Adaptive Networks. Navoakan'i Gabriel M, Moore J. Cambridge, MA: MIT Press; 1990:539-602.
Hiverina amin'ny lahatsoratra
18. Nakahara H, Itoh H, Kawagoe R, Takikawa Y, Hikosaka O: Ny neurons dopamine dia afaka maneho ny fahadisoana amin'ny faminaniana miankina amin'ny toe-javatra.
Neuron 2004, 41: 269-280. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
19. Gallistel CR, Gibbon J: Fotoana, tahan'ny ary fepetra.
Psychological Review 2000, 107: 289-344. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
20. Daw ND, Kakade S, Dayan P. Fifandraisana amin'ny mpanohitra eo amin'ny serotoninina sy dopamine.
Ny Neural Networks 2002, 15 (4-6): 603-616. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
21. Suri RE, Schultz W: Modelin'ny tambajotra neural miaraka amin'ny mari-pamantarana fanamafisana dopamine izay mianatra asa famaliana elaela.
Neuroscience 1999, 91: 871-890. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
22. Pearce JM, Hall G: Modely ho an'ny fianarana Pavloviana: Fiovaovan'ny fahombiazan'ny stimuli tsy misy fepetra fa tsy misy fepetra.
Psychological Review 1980, 87: 532-552. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
23. Dayan P, Kakade S, Montague PR: Fianarana sy fifantohana mifantina.
Ny Neuroscience Nature 2000, 3: 1218-1223. PubMed Abstract | Mpamoaka lahatsoratra feno
Hiverina amin'ny lahatsoratra
24. Dayan P, Yu A: Fisalasalana andrasana sy tsy ampoizina: Ach sy NE ao amin'ny neocortex. [http://books.nips.ce/papers/files/nips15/NS08.pdf] tranonkala
Fandrosoana amin'ny fanodinana ny vaovao momba ny fahasimban-tena amin'ny alalan'ny fandinihana ny systèmes nataon'i Dietterich T, Becker S, Ghahramani Z. Cambridge, MA: MIT Press; 2002, 14: 189-196.
Hiverina amin'ny lahatsoratra
25. Daw N, Niv Y, Dayan P: Actions, Policies, Soatoavina, ary ny Basal Ganglia. Tao anatin'ny fandrosoana vao haingana tao amin'ny fikarohana Basal Ganglia. Navoakan'i Bezard E. New York, Etazonia: Nova Science Publishers, Inc; amin'ny gazety.
Hiverina amin'ny lahatsoratra
26. Wickens J, Kötter R: Modely finday amin'ny fanamafisana. Ao amin'ny modely amin'ny fanodinana fampahalalana ao amin'ny Ganglia Basal. Nataon'i Houk JC, Davis JL, Beiser DG. MIT Press; 1995:187-214.
Hiverina amin'ny lahatsoratra