Нобудкунии Допам ва ТТИ Омӯзиш (2005)

Шарҳҳо: Номуайянӣ маънои навигариро дорад. Ин тадқиқоти мураккаб тасдиқ мекунад, ки навоварӣ допаминро зиёд мекунад. Он инчунин мефаҳмонад, ки мукофоти номуайян бештар омӯзишро қавитар мекунад. Порнои интернетӣ аз порнои гузашта бо сабаби навигариҳои бепоён фарқ мекунад - ин маънои ҷаззобии бепоёни допаминро дорад. Нашъамандӣ дар он омӯхтан ва хотира аст. Гузариш ба жанри нави порнография допамин ва омӯзишро фаъол мекунад - бо сабаби номуайянии он чизе, ки шумо аз сар гузаронидан мехоҳед. Инчунин номуайянӣ вақте рух медиҳад, ки корбарони зӯроварӣ барои порнография сайр мекунанд. Шумо намедонед, ки чӣ чизро дидан мехоҳед ва ин допаминро ба вуҷуд меорад.
Навофӣ, номуайянӣ ва ҷустуҷӯи ҳама дофаминро фаъол мекунанд

Омӯзиши пурра: Номуайянии допамин ва омӯхтани TD

Вазифаҳои рафторӣ ва майнаӣ 2005, 1:6doi:10.1186/1744-9081-1-6

Yael Niv1,2, Michael O Duff2 ва Peter Dayan2
Маркази байнисоҳавӣ барои ҳисобкунии асабҳо, Донишгоҳи Ибронӣ, Ерусалим, Исроил
Бахши Neuroscience Computational 2 Gatsby, Коллеҷи Донишгоҳи Лондон, Лондон, Бритониё
Нусхаи электронии ин мақола комил аст ва онро дар сайти зерин пайдо кардан мумкин аст: http://www.behavioralandbrainfunctions.com/content/1/1/6
© 2005 Niv ва дигарон; литсензия BioMed Central Ltd.

мавҳум

Далелҳои асосӣ бар он ишора мекунанд, ки фаъолияти фазавии нейронҳои допаминергикӣ дар мобайни приматӣ хатои муваққатиро (TD) дар пешгӯии мукофоти оянда бо баландшавӣ болотар ва пасттар аз хатогиҳои пешгӯии мусбӣ ва манфӣ мутаносибан паст мекунанд. Бо вуҷуди ин, ҳуҷайраҳои допамин дорои сатҳи пасти фаъолият мебошанд, ки намояндагии ин ду навъи хато асимметрӣ мебошад. Мо натиҷаҳои ин ассиметрияи ба назар намоёнро барои тафсири намунаҳои тирандозии допаминергикӣ ҳангоми таҷрибаҳо бо мукофотҳои эҳтимолӣ, ки хатогиҳои доимии пешгӯиҳоро ба вуҷуд меоранд, меомӯзем. Аз ҷумла, мо нишон медиҳем, ки ҳангоми баланд бардоштани хатогиҳои пешгӯии ғайримуқаррарӣ дар озмоишҳо, шиддат дар фаъолияти нейронҳои допамин муайян мешавад, ки миқёси онҳо ба сатҳи таълим вобаста аст. Ин падидаи дақиқ дар таҷрибаи охирин ба назар расид, ҳарчанд он ҷо бо истилоҳи антиподалӣ ҳамчун рамзгузории мурофиаи номуайян шарҳ дода шуда буд.

Муқаддима

Ҳайати ба таври таъсирбахши зиёди физиологӣ, тасвирӣ ва психофармакологӣ дар бораи фаъолияти фазии ҳуҷайраҳои допаминергӣ (DA) дар мобайнҳои маймунҳо, каламушҳо ва одамон дар вазифаҳои классикӣ ва дастгоҳҳои хунуккунӣ мавҷуданд, ки пешгӯии мукофотҳои ояндаро дар бар мегиранд [1-5]. Ин маълумотҳо барои пешниҳод кардани [6,7] гирифта шудаанд, ки фаъолияти нейронҳои DA хатогиҳои муваққатиро (TD) дар пешгӯии мукофоти оянда [8,9] ифода мекунанд. Ин назарияи TD допамин як санади дақиқи ҳисобро барои фаҳмидани маълумотҳои рафторӣ ва асабӣ медиҳад. Ғайр аз он, он пешниҳод мекунад, ки DA сигналеро пешниҳод мекунад, ки барои назорати омӯзиши ҳам пешгӯиҳо ва ҳам амаликунонии мукофотҳо назариявӣ аст.

Баъзе далелҳои боварибахш ба манфиати назарияи TD аз таҳқиқоти фаъолсозии фазавии ҳуҷайраҳои допамин дар вокуниш ба ҳавасмандкунии ихтиёрӣ (ба монанди намунаҳои фракталӣ дар монитор), ки мавҷудияти тақаллуби мукофотро пешгӯӣ мекунанд (ба монанди қатраҳои афшура) бармеоянд. . Дар бисёр вариантҳо нишон доданд, ки ҳангоми таълим, сигналҳои phasic DA аз вақти мукофоти аввалия ғайричашмдошт ба давраи авҷи барвақти пешгӯӣ интиқол медиҳанд. Ин маҳсули интизорравандаи хатои пешгӯии муваққатӣ мебошад (масалан. [1,2,10-13]). Бозёфти асосӣ [7] дар он аст, ки вақте ки мукофот ногаҳонӣ аст (он дар мурофиаҳои ибтидоӣ ногузир аст), ҳуҷайраҳои допамин ба он сахт вокуниш нишон медиҳанд. Ҳангоми пешгӯии мукофот, аммо ҳуҷайраҳо ба пешгӯӣ ҷавоб медиҳанд, на ба мукофоти интизоршаванда.

Агар мукофоти пешгӯишуда ногаҳон партофта шуда бошад, он гоҳ ҳуҷайраҳо ба таври муқаррарӣ дар вақти муқаррарии мукофот монеа мешаванд, монеаест, ки вақти дақиқи пешгӯии мукофотро нишон медиҳад [10] ва нишондиҳандаҳои муваққатии он айни замон дар маркази диққати судӣ мебошанд [14]. Тағйирёбии фаъолият аз вақти мукофот ба вақти пешгӯишаванда ба тағирёбии реаксияи рафтории иштиҳои ҳайвонот аз вақти мукофот (ангезандаи бечунучаро) ба стимули шартӣ дар таҷрибаҳои классикии классикӣ шабеҳ аст [7,10] .

Дар як таҳқиқоти ҷолибтарин дар солҳои охир, Fiorillo et al. [15] парвандаи қисман мустаҳкамкуниро баррасӣ кард, ки дар он ҳар як мурофиаи судӣ хатои доимӣ, номатлуб ва пешгӯӣ мавҷуд аст. Тафсири дурусти гипотезаи хатогии пешгӯии TD имкон медиҳад, ки дар ин маврид (a) фаъолияти допамин дар вақти ҳавасмандкунӣ бо эҳтимолияти мукофот зиёд карда шавад ва (b) ба ҳисоби миёна дар давоми озмоишҳо, аксуламали допаминергикӣ пас аз ҳавасмандкунӣ ва тамоми роҳ ба вақти мукофот, бояд сифр бошад. Гарчанде ки фарзияи аввал дар таҷрибаҳо тасдиқ карда шуда бошад, дувум набуд. Вокунишҳои миёнавазни мурофиавӣ нишон доданд, ки фаъолият дар давраи таъхири фарорасии ҳавасмандкунӣ ва подош, ки бо ҳисоби TD номувофиқ буд, нишон медод. Фиорило ва дигарон. гипотеза дар бораи он ки ин фаъолият номуайяниро дар расонидани мукофот назар ба хатои пешгӯишаванда нишон медиҳад.

Дар ин ҳуҷҷат, мо ба масъалаи хатогии пешгӯии доимӣ меравем. Мо нишон медиҳем, ки асимметриҷи муҳим дар рамзгузории хатогиҳои пешгӯии мусбат ва манфӣ боиси он мегардад, ки паҳншавии сигнали миёнаи санҷиши допаминро дар байни озмоишҳо интизор шаванд; инчунин инчунин ду хусусияти дигари сигнали DA - фаъолияти доимии доимӣ дар вақти (эҳтимолияти) мукофот ва нопадид шудан (ё ҳадди аққал заъиф шудани) сигналҳои шиддатнокро ба назар мегиранд, аммо сигнал дар вақти мукофот, дар пеши изи, на кондитсионер таъхир. Ҳардуи ин падидаҳо дар таҷрибаҳои вобаста ба василаи хунуккунии Моррис ва дигарон мушоҳида шудааст. [16]. Дар ниҳоят, мо сигналҳои густаришдиҳандаро ҳамчун беҳтарин далели мавҷуда барои хусусияти механизми омӯзиш шарҳ медиҳем, ки тавассути он гузариш ба фаъолияти допамин ба вақти ҳавасмандкунии пешгӯишаванда рух медиҳад.

Номуайянӣ дар вақти мукофот

Фиорилло ва дигарон. [15] муаррифии панҷ ангезаи гуногуни визуалӣ ба макакҳоро бо таъхир, эҳтимолият (pr = 0, 0.25, 0.5, 0.75, 1) расонидани мукофотҳои шарбат иртибот дод. Онҳо парадигмаи кондитсионерии таъхирро истифода бурданд, ки дар он ҳавасмандгардонӣ барои фосилаи муайяни 2s боқӣ монда, ҳангоми аз байн рафтани ҳавасмандкунӣ мукофот дода мешавад. Пас аз омӯзиш, рафтори пешгӯии лесидани маймунҳо нишон дод, ки онҳо аз эҳтимолияти гуногуни мукофот бо ҳар як ҳавасманд огоҳанд.

Тасвири 1a гистограммаи популяцияро дар бораи ҳуҷайраҳои DA аз ҳуҷайравӣ ба қайд гирифташуда барои ҳар як pr нишон медиҳад. Назарияи TD пешгӯӣ мекунад, ки фаъолсозии phasic ҳуҷайраҳои DA дар вақти ҳавасмандкунии визуалӣ бояд ба мукофоти миёнаи интизоршаванда мувофиқат кунанд ва аз ин рӯ бояд бо pr афзоиш ёбад. Расми 1a инро аниқ нишон медиҳад - воқеан, дар саросари аҳолӣ, афзоиш ба таври хаттӣ аст. Моррис ва дигарон. [16] натиҷаи якхеларо дар вазифаи кондитсиониро (изи) дар бар мегирад, ки инчунин тақвияти эҳтимолиро дар бар мегирад.

Тасвири 1. Хатогиҳои миёнаи пешгӯӣ дар вазифаи эҳтимолии мукофотӣ
(а) вокуниши DA дар озмоишҳо бо эҳтимолияти гуногуни мукофот. Гистограммаҳои даврии стимулятсияи аҳолӣ (PSTHs) фаъолияти ҷамъшудаи якчанд нейронҳои DA-ро дар тӯли бисёр озмоишҳо, барои ҳар як pr, ки дар озмоишҳои мукофотонидашуда ва мукофотнашуда дар эҳтимолияти мобайнӣ ҷамъ оварда шудаанд, нишон медиҳанд. (б) хатогии пешгӯии TD бо миқёси асимметрӣ. Дар вазифаи симулятсионӣ, дар ҳар як озмоиш ба таври тасодуфӣ яке аз панҷ ангеза интихоб карда шуд ва дар вақти t = 5. намоиш дода шуд. Ҳавасмандгардонӣ дар t = 25 хомӯш карда шуд, ки дар он вақт мукофот бо эҳтимолияти pr муайянкардаи stimul дода мешуд. Мо тасвири лампаи таъхиршудаи ҳушдорро истифода кардем (ба матн нигаред), бо ҳар як ангезандае, ки бо маҷмӯи гуногуни воҳидҳо ('нейронҳо') ифода ёфтааст. Хатои TD was (t) = r (t) + w (t - 1) • x (t) - w (t - 1) • x (t - 1) буд, ки r (t) мукофот дар вақти t , ва x (t) ва w (t) векторҳои ҳолат ва вазн барои воҳид. Қоидаҳои стандартии таълими онлайнии TD бо суръати муайянкардашудаи α, w (t) = w (t - 1) + αδ (t) x (t - 1) истифода шуданд, аз ин рӯ ҳар як вазн арзиши интизории мукофотро дар оянда нишон медод. Монанди Фиорилло ва дигарон, мо хатои пешгӯии δ (t) -ро дар тӯли бисёр озмоишҳо, пас аз омӯхтани вазифа, тасвир мекунем. Асимметрияи намояндагӣ дар ҳолате ба вуҷуд меояд, ки арзишҳои манфии δ (t) то d = 1/6 пеш аз ҷамъбасткунии PSTH-и моделиронӣ миқёс карда шуда буданд, гарчанде ки омӯзиш аз рӯи хатогиҳои миқёспазир идома дорад. Ниҳоят, барои ҳисоб кардани посухҳои хурди мусбат дар вақти ҳавасмандкунӣ барои pr = 0 ва дар вақти мукофоти (пешбинишуда) барои pr = 1, ки дар (а) дида мешавад, мо имкони хурд (8%) дорем, ки a ҳавасмандкунии пешгӯӣ нодуруст муайян карда мешавад. (c) вокуниши DA дар pr = 0.5 озмоишҳо, ки ба озмоишҳои мукофотонида (чап) ва беҷавоб (рост) ҷудо карда шудаанд. (г) Модели TD аз (c). (а, в) Бо иҷозати [15] © 2003 AAAS чоп шудааст. Иҷозат аз AAAS барои ҳама истифодаи дигар зарур аст.

Баръакси ин, дар лаҳзаи расонидани мукофотҳои эҳтимолӣ, назарияи TD пешгӯӣ мекунад, ки ба ҳисоби миёна ҳеҷ гуна амал набояд вуҷуд дошта бошад, зеро, ба ҳисоби миёна, он вақт хатогии пешгӯишаванда вуҷуд надорад. Албатта, дар тарҳрезии эҳтимолияти арматура (ҳадди аққал барои pr ≠ 0, 1) хатогии пешгӯӣ дар вақти супурдан ё надодани мукофот дар ҳар як озмоиш мушоҳида мешавад. Дар озмоишҳое, ки подош дода мешаванд, хатогии пешгӯӣ бояд мусбат бошад (зеро мукофоти бадастомада аз мукофоти миёнаи интизоршаванда зиёдтар аст). Ва баръакс, дар озмоишҳо бе мукофот бояд он манфӣ бошад (ниг. Тасвири 1c). Муҳим аст, ки дар зери TD, миёнаи ин фарқиятҳо, ки эҳтимолияти ба вуқӯъ омадани онҳо чен карда шудаанд, бояд сифр бошад. Агар он сифр набошад, он гоҳ ин хатои пешгӯӣ бояд ҳамчун як аломати пластикӣ амал кунад, пешгӯиҳоро тағир диҳад то хатогии пешгӯӣ вуҷуд надорад. Бар хилофи ин интизорӣ, маълумот дар расми 1a, ки дар муқобили ҳам озмоишҳои мукофотонидашуда ва ҳам ба назар нарасида нишон дода шудааст, нишон медиҳад, ки дар айни замон воқеан фаъолияти мусбӣ вуҷуд дорад. Ин дар маълумотҳои Моррис ва дигарон низ аён аст. [16] (ниг. Тасвири 3c). Вокунишҳои мусбии DA ҳеҷ нишонаҳои нопадидкуниро, ҳатто ҳангоми омӯзиши ҷиддӣ (дар тӯли моҳҳо) нишон медиҳанд.

Бадтар аз ин барои модели TD ва дар ҳақиқат диққати Fiorillo et al. [15], фаъолшавии намоёни DA ба сӯи вақти интизорравандаи мукофот мебошад. Азбаски бузургии ramp барои pr = 0.5 бузургтар аст, Fiorillo et al. пешниҳод кард, ки он ба номуайянӣ дар расонидани мукофот, на хатои пешгӯишаванда хабар диҳад ва тахмин кард, ки ин сигнал хусусиятҳои ба назар намоёнкунандаи номуайяниро шарҳ медиҳад (тавре ки дар қимор дида мешавад).

Ҳам фаъолияти ғоратгарӣ ва ҳам фаъолияте, ки дар вақти пешбинишудаи мукофот ба назарияи TD мушкилиҳои ҷиддӣ ба бор меоранд. Омӯзиши TD бо роҳи ба роҳ мондани фаъолияти DA дар як вақт дар мурофиаи пешакӣ, ки бо муроҷиатҳои қаблӣ дар мурофиа пешгӯӣ карда мешавад, амал мекунад. Ҳамин тавр, маълум нест, ки чӣ гуна фаъолияти ба назар пешбинишаванда, новобаста аз он ки дар вақти мукофот ё дар нишебии қаблӣ метавонад бидуни фарорасии стимулясияи визуалӣ пешгӯӣ карда шавад. Дар ниҳоят, фаъолияти мустақил дар посух ба ҳавасмандӣ мақоми худро ҳамчун пешгӯии мӯътамад тасдиқ мекунад. Ғайр аз он, як ҷанбаи асосии TD [17] он аст, ки он ҷуфти пешгӯиро дар интихоби амал бо истифода аз арзиши давлат ҳамчун нишонаи муздашон дар оянда аз он давлат дастрас менамояд ва аз ин рӯ ҷолибияти онро ҳамчун ҳадафи амал муайян мекунад. Аз ин нуқтаи назар, азбаски фаъолияти ғаразнок ба таври возеҳ пешгӯии пешакӣ пешбинӣ нашудааст, он наметавонад ба амалҳои барвақт, ба монанди тасмими қимор таъсир расонад. Масалан, рақобат байни ду амалро дида мебароем: яке оқибат ба давлате, ки мукофоти муайянкунанда дорад ва бинобар ин дарвоза нест ва амали дигаре, ки пас аз он давлате меояд, ки пас аз он мукофоти эҳтимолӣ бо ҳамон маъно ва рамз оварда мешавад. Азбаски нишеб ба фаъолият дар вақти ҳавасмандкунии шартӣ таъсир намерасонад, бо вуҷуди номуайянии изофӣ, онро барои арзёбӣ ё маъқул кардани амали дуввум (қимор) истифода бурдан мумкин нест.

Мо фарзияи алтернативиро пешниҳод менамоем, ки ҳардуи ин шакли тирандозии аномалӣ мустақиман аз маҳдудиятҳои бо суръати пасти фаъолияти нейронҳои DA (2 – 4 Гц) дар рамзгузории хатогии пешгӯишуда ба вуҷуд омадаанд. Тавре ки аз ҷониби Fiorillo et al. [15], хатогиҳои пешгӯии мусбӣ бо суръати оташфишонии ~ 270% боло аз сатҳ нишон дода шудаанд, дар ҳоле ки хатогиҳои манфӣ танҳо коҳиш ёфтани ~ 55% дар зери замин мавҷуданд (инчунин ба [14,18]). Ин асимметрия оқибати бевоситаи рамзгузории миқдори имзошуда тавассути сӯхтор мебошад, ки сатҳи ибтидоӣ паст аст, ҳарчанд бешубҳа, танҳо мусбӣ буда метавонад. Сатҳи сӯхтор дар боло аз марҳилаи ибтидоӣ метавонад хатогиҳои пешгӯии мусбиро бо истифодаи доираи калони динамикӣ рамзгузорӣ кунад, аммо сатҳи поёнтар аз сӯхтор танҳо ба сифр поён рафта, рамзи хатогиҳои манфии пешгӯиро маҳдуд мекунад.

Аз ин рӯ, як шахс бояд дар тафсири маҷмуъҳои (ё миёнаҳои) peri-stimulus-time-histograms (PSTHs) фаъолият дар озмоишҳои гуногун, тавре ки дар расми 1а анҷом дода шудааст, бодиққат тафсир кунад. Сигналҳои хатогии мусбат ва манфии рамзи асимметрӣ дар вақти қабул ё нагирифтани мукофот, дар ҳақиқат набояд ба сифр ҷамъбаст карда шаванд, ҳатто агар онҳо хатогиҳои дурусти пешгӯии TD-ро ифода кунанд. Ҳангоми ҷамъбаст, тирпарронии кам, ки хатогиҳои манфии озмоишҳои барнагардондаро ифода мекунад, тирпарронии фавриро бо рамзгузории хатогиҳои мусбӣ дар озмоишҳои мукофотонида "бекор намекунад" ва дар маҷмӯъ, миқдори миёна посухи мусбат нишон хоҳад дод. Дар мағзи сар, албатта, азбаски посухҳо ба туфайли озмоишҳо (мукофотонида ва беподош) ба ҳисоб гирифта намешаванд, балки бар нейронҳо дар доираи озмоиш, ин набояд мушкилот эҷод кунад.

Ин фаолияти устувори мусбати (ба ҳисоби миёна) ҳангоми супурдан ё надодани мукофотро шарҳ медиҳад. Аммо дар бораи саросемагӣ то ин вақт чӣ гуфтан мумкин аст? Ҳадди аққал дар баъзе намояндагиҳои асабии вақт байни ҳавасмандкунӣ ва подош, ҳангоми озмоишҳо ба ҳисоби миёна, ин ҳамон асимметрия TD-ро ба он оварда мерасонад, ки маҳз дар тӯли фаъолият ба вақти мукофот рост меояд. Механизми омузиши БД таъсири тарғибу ташвиқи хатогиҳои пешгӯишавандаро, ки як вақт дар мурофиа ба вуҷуд меоянд (ба монанди вақти мукофот) нисбат ба пешгӯиҳои эҳтимолӣ (ба монанди ХС), дар давраҳои пеш аз мурофиа Дар доираи муаррифии асимметрии хатогиҳои пешгӯии мусбат ва манфии мо, ки дар боло муҳокима кардем, ба ҳисоби миёна рафтани ин хатогиҳои тарғиботӣ дар мурофиаҳои сершумор (ба мисли расми 1a) ба василаи мусбат дар давраҳои давраи озмоиш пеш аз мукофот оварда мерасонад. Шакли дақиқи тамаркузи натиҷа аз тавсифи вақтҳои вақт ва инчунин аз суръати омӯзиш вобаста аст, ки дар зер баррасӣ хоҳад шуд.

Тасвири 2 ин нуқтаи назарро дар бораи исботи фаъолияти афзоишёбанда нишон медиҳад. Дар ин ҷо, тасвири лентаи таъхири хати вақт, зеро аз ангезанда истифода мешавад. Барои ин, ҳар як воҳид ('нейрон') пас аз пешниҳоди ангезанда дар ақибнишинии муайян фаъол мешавад (яъне арзиши 1-ро ба назар мегирад), то ҳар як вақти аз паси саршавии ангезиш пайваста бо оташфишонии як воҳид ифода карда шавад. Омӯзиш ба хатогии (допаминергикӣ гузоришшуда) TD асос ёфтааст, ки ҳамчун δ (t) = r (t) + V (t) - V (t - 1) ба расмият дароварда шудааст, бо V (t) вуруди вазнин аз воҳиди фаъол дар вақти t, ва r (t) мукофоте, ки дар вақти t ба даст оварда шудааст. Навсозии вазнҳои воҳидҳо тибқи қоидаҳои стандартии навсозии TD бо сатҳи устувори омӯзиш, ба V (t) имкон медиҳад, ки ба ҳисоби миёна мукофотҳои ояндаи ояндаро нишон диҳад (ниг. Ба сарлавҳаи 1 нигаред). Азбаски ҳар як вақти навбати минбаъда алоҳида нишон дода мешавад, хатогиҳои пешгӯии TD метавонанд дар ҳар вақти озмоиш ба амал оянд. Дар расми 2а ин хатогиҳо дар шаш озмоиши пайдарпайи моделиронӣ нишон дода шудааст, ки дар онҳо pr = 0.5 мебошад. Дар ҳар як озмоиш, дар вақти мукофот хатои нави мусбат ё манфӣ ба амал меояд, ки дар натиҷа гирифтани ё нагирифтани мукофот аст ва зина ба зина хатогиҳо аз озмоишҳои қаблӣ то замони ҳавасмандгардонӣ тавассути навсозии доимии вазнҳо (мас., хатои бо сурх қайдшуда). Ҳангоми ҳисоби миёна (ё тавре ки дар PSTHs, ҷамъбаст) дар озмоишҳо, ин хатогиҳо ба ҳисоби миёна якдигарро бекор мекунанд, ки дар фосилаи пас аз фарорасии ҳавасмандгардонӣ ба гистограммаи умумии ҳамвор оварда мерасонад ва ба вақти мукофот оварда мерасонад (хати сиёҳ дар расм 2б, дар тӯли 10 озмоиши бо кабуди тунук нишон додашуда ҷамъбаст карда шудааст). Аммо, вақте ки пас аз миқёси асимметрии хатогиҳои манфӣ бо омили d = 1/6 ҷамъбаст карда мешавад (ки рамзгузории асимметрии хатогиҳои пешгӯиҳои мусбат ва манфиро аз ҷониби DA нейронҳо симулятсия мекунад), рамзи мусбати фаъолият ба вуқӯъ мепайвандад, ки онро хати сиёҳ нишон медиҳад дар расми 2в. Аҳамият диҳед, ки ин барқароркунӣ танҳо як масъалаи намояндагӣ мебошад, ки дар натиҷаи маҳдудиятҳои рамзгузории арзиши манфӣ дар бораи суръати паси тирпарронии ибтидоӣ ба вуҷуд омадааст ва набояд ба омӯзиши вазнҳо таъсир расонад, то арзишҳои нодурустро наомӯзем (нигаред ба муҳокима). Бо вуҷуди ин, азбаски PSTHs мустақиман суммаи хӯшаҳои нейронанд, ин масъалаи намояндагӣ ба гистограммаи натиҷа оварда мерасонад.

Тасвири 2. Ақибмондагии хатогиҳои пешгӯишаванда густаришро дарбар мегирад.
(a) Хатои пешгӯии TD дар ҳар яке аз шаш озмоишҳои пайдарпай (аз боло ба поён) аз моделиронӣ дар расми 1b, бо pr = 0.5. Хатогии вақти мукофот дар озмоишҳои аввал ва тарғиби батадриҷаш ба вақти ҳавасмандкунӣ дар мурофиаҳои минбаъда бо ранги сурх таъкид карда мешавад. Ҳарфҳои блок натиҷаи ҳар як озмоиши мушаххасро нишон медиҳанд (R = мукофотонидашуда; N = мукофотонида намешавад). Дар пайдарпаии мукофотҳои пеш аз ин озмоишҳо дар тарафи рости боло оварда мешавад. (б) Хатои TD аз ин шаш озмоиш ва чор нафари дигар паси онҳо супурданд. Хатҳои сурх ва сабз лифофаи хатогиҳоро дар ин озмоишҳо нишон медиҳанд. Ҷамъбасти ин озмоишҳо ба ҳисоби миёна ҳеҷ кадоме аз фаъолиятҳои ибтидоӣ натиҷа намедиҳад, зеро хатогиҳои мусбӣ ва манфӣ дар 50% -и тасодуфӣ рух медиҳанд ва аз ин рӯ якдигарро бекор мекунанд. (c) Аммо, вақте ки хатогиҳои пешгӯишуда асимметрӣ дар сатҳи болоӣ ва поёнтар нишон дода мешаванд (дар ин ҷо хатогиҳои манфӣ бо ассимметрикӣ тавассути d = 1 / 6 барои рамзгузории асимметрии хатогиҳои пешгӯӣ аз ҷониби нейронҳои DA чен карда шудаанд), шиддати миёнаи фаъолият ҳамон тавре ки хати сиёҳ нишон медиҳад, ҳангоми гузаштан ба озмоишҳо пайдо мешаванд. Ҳама параметрҳои моделсозӣ бо нақшаи 1b, d баробаранд.

Тасвирҳои 1b, d нишон медиҳад, ки нишонае, ки аз ин комбинатсияи рамзгузории асимметрӣ ва миёнамӯҳлати озмоишӣ барои муқоиса бо маълумоти таҷрибавӣ бармеояд. Тасвири 1b нишон медиҳад, ки PSTH аз маълумоти моделиронидашудаи мо тавассути гузаштани сигнали асимметриявӣ δ (t) дар ~ 50 озмоиш барои ҳар як намуди ҳавасмандкунӣ нишон дода шудааст. Расми 1d натиҷаҳои парвандаи pr = 0.5-ро нишон медиҳад, ки ба муқоиса бо расми 1c ба тақсимоти озмоишҳои мукофотонидашуда ва ғайримарказ тақсим карда шудааст. Натиҷаҳои шабеҳ ба маълумоти таҷрибавӣ шабоҳат доранд, зеро онҳо аксуламали холиси мусбиро ба подошҳои номуайян такмил медиҳанд ва инчунин таъсири ramping, ки дар ҳолати pr = 0.5 баландтар аст.

Ҳангоми гирифтани мукофот (t = N) дар озмоиши T, яъне хатои миёнаи TD δT (N), аз қоидаҳои омӯзишии TD бо пешниҳоди вақти соддашудаи таъхири вақт ва гирифтани аҷиби посухи миёна содда аст. сатҳи муқаррарии омӯзиш α. Аҳамият дар сонияи вақти таъиншуда дар мурофиа, ҳамчун як функсияи рақами озмоишӣ (бо аҳамияти ибтидоӣ ба сифр гирифта шудааст),

ки дар он r (t) мукофот дар охири озмоиши t аст. Сигнали хатогӣ дар вақти охирини озмоиши T танҳо фарқи байни мукофоти ба даст овардашуда r (T) ва арзиши пешгӯии он мукофот VT - 1 (N - 1) мебошад. Ин хато бо эҳтимолияти pr мусбат ва бо эҳтимолият манфӣ (1 - pr) аст. Миқёс кардани хатогиҳои манфӣ ба воситаи d ∈ (0, 1], мо ҳамин тавр мегирем

Барои рамзгузории симметрии хатогиҳои мусбат ва манфӣ (d = 1), посухи миёна 0 аст. Барои рамзгузории асимметрӣ (0 Пардаи хунгузарон: як ҳолати озмоишӣ

Як мавриди муҳими санҷишӣ барои тафсири мо дар як варианти вазифаи Фиорилло ва диг. [15] ва инчунин дар вазифаи аналогии инструменталии Моррис ва дигарон пайдо мешавад. [16], ҳам дар бар мегирад кондитсионер микроэлементхо. Дар муқоиса бо кондитатсияи таъхир (Тасвири 3а), ки мукофот бо ҷубронкунии ҳавасмандии пешгӯишаванда рост меояд, дар ин ҷо фарқияти назаррас байни ҳавасмандкунии пешгӯишаванда ва расонидани мукофот вуҷуд дорад (Расми 3b). Равшан аст, ки дар ин ҳолат, номуайянӣ дар бораи мукофот танҳо аз сабаби садоҳо дар вақти фосилаи байни ҳавасмандгардонӣ ва мукофот калонтар шуда метавонад [19], аз ин рӯ, дар ҳисоби номуайянӣ бояд пандусҳои муқоисашаванда ва ҳатто аз ин ҳам калонтар мавҷуд бошанд. Аммо, натиҷаҳои таҷрибавӣ нишон медиҳанд, ки фаъолияти афзоянда хурдтар ё ҳатто ночиз аст (Расми 3в; г). Бо вуҷуди ин, диққат диҳед, ки андозаи фаъолияти миёнаи озмоишӣ дар вақти интизоршудаи мукофот нигоҳ дошта мешавад ва ба тақсимот байни баландии рампа ва ҳаҷми фаъолияти мусбӣ дар вақти интизоршудаи мукофот ишора мекунад.

Тасвири 3. Кондитсияи Trace бо мукофотҳои эҳтимолӣ.
(а) Тасвири як озмоиши вазифаи таъхири таъхири Фиорилло ва дигарон. [15]. Озмоиш аз як ҳавасмандии визуалии 2 сония иборат аст, ки ҷуброн кардани он бо супоридани мукофоти шарбат рост меояд, агар чунин мукофот тибқи эҳтимолияти алоқаманд бо визуалӣ барномарезӣ шуда бошад. Дар озмоишҳои бидуни мукофот ҳавасмандкунӣ бидуни мукофот қатъ карда шуд. Дар ҳарду ҳолат, фосилаи байни санҷишӣ ба ҳисоби миёна 9 сония озмоишҳоро ҷудо мекунад. (б) Тасвири як озмоиши вазифаи пайгирии пайгирии Моррис ва дигарон. [16]. Тафовути муҳим он аст, ки ҳоло байни ҷуброн кардани ҳавасмандгардонӣ ва фарорасии мукофот (давраи "пайгирӣ") таъхири муваққатии муваққатӣ вуҷуд дорад ва ҳеҷ гуна ҳавасмандии беруна вақти пешбинишудаи мукофотро нишон намедиҳад. Ин номуайянии иловагиро ба миён меорад, зеро вақти дақиқи мукофоти пешбинишуда бояд дар дохили худ ҳал карда шавад, алахусус дар озмоишҳои бебозгашт. Дар ин вазифа, тавре ки дар [15], дар ҳар як озмоиш яке аз якчанд ҳушдорҳои визуалӣ (нишон дода нашудааст) пешниҳод карда шуд ва ҳар як ҳавасмандгардонӣ бо эҳтимолияти мукофот алоқаманд буд. Дар ин ҷо, инчунин, аз маймун дархост карда шуд, ки ҷавоби инструменталиро (пахш кардани тугмаи мувофиқ ба тарафе, ки ҳавасмандгардонӣ пешниҳод карда мешавад), ки нокомии он мурофиаро бидуни мукофот қатъ кардааст. Озмоишҳо бо фосилаи тағйирёбандаи байни санҷишӣ ҷудо карда шуданд. (c, d) Сатҳи оташфишонии DA нисбат ба ибтидоӣ, дар атрофи вақти пешбинишудаи мукофот, дар озмоишҳои мукофотонида (c) ва дар озмоишҳои беҷавоб (г). (в, г) Аз [16] © 2004 бо иҷозати Элсевье чоп шудааст. Нишонҳо ҷавоби умумии мусбатро дар вақти интизоршудаи мукофот дар назар доранд, аммо бо ин хеле хурд ё ҳеҷ гуна пандусе, ки пеш аз он вуҷуд дорад. Натиҷаҳои ба ин монанд дар як вазифаи классикии кондитатсионии кӯтоҳе, ки дар [15] тавсиф шудааст, ба даст оварда шуданд, ки дар он тартиби кондитсионерии микроэлементҳо истифода шуда, тасдиқ кард, ки мӯҳлати пайгирӣ на табиати инструменталии вазифаи дар (б) тасвиршуда фарқи ҳалкунанда аз (а) буд .

Модели TD DA ин маълумотҳои ҳайратангезро ба осонӣ шарҳ медиҳад. Чӣ тавре ки дар ҷадвали 4 нишон дода шудааст, ба шакли чарх, гарчанде ки баландии қуллаи он нест, ба сатҳи омӯзиш таъсир мерасонад. Ҳаҷми хатогиҳои пешгӯишавандаи такрорӣ қисман аз сатҳи омӯзиш муайян карда мешавад, зеро ин хатогиҳо дар доираи омӯзиши онлайн пешгӯиҳои нав ба вуҷуд меоянд. Дар ҳақиқат, пешгӯиҳо доимо такмил меёбанд, ки пас аз озмоиши мукофотонидашуда интизории баландтар аст (ва ҳамин тавр мукофоти навбатӣ хатои пешгӯии хурдтарро мегирад) ва баръакс пас аз озмоиши бе мукофот [18] (нигаред ба Расми 2a). Ин таҷдиди пешгӯиҳо мустақиман ба сатҳи омӯзиш алоқаманд аст - дараҷаи омӯзиш баландтар аст, андозаи пешгӯиҳо аз рӯи хатогии пешгӯишавандаи ҷорӣ зиёдтар ва ҳиссаи хатои пешгӯишавандае, ки тарғиб карда мешаванд, калонтар аст. Ҳамин тавр, бо сатҳи баландтари таҳсил, фарқияти интизориҳо пас аз мукофотонидашуда ва озмоиши номувофиқтар зиёд хоҳад шуд ва ба ин васила хатогиҳои пешгӯӣ ҳангоми гирифтани мукофоти навбатӣ зиёд ё калонтар хоҳанд буд - аз ин рӯ маҷрои калонтар ва тадриҷан зиёдтар.

Тасвири 4. Вобастагии рамп аз сатҳи таҳсил.
Шакли чарх, аммо на баландии қуллаи он, ба сатҳи омӯзиш вобастагӣ дорад. Дар диаграмма фаъолияти шабеҳ дар мавриди pr = 0.5 дар тӯли лаҳзаи мукофотҳои пешбинишуда нишон дода шудааст, ки барои сатҳҳои гуногуни таҳсил, ки дар ҳам озмоишҳои мукофотонидашуда ва ҳам бенуқсон ба ҳисоби миёна гирифта шудаанд. Тибқи омӯхтани TD бо хатогиҳои пешгӯии асимметрӣ бо рамзҳои устувори рамзкунонидашуда, давом додани фаъолият дар озмоишҳои мукофотонидашуда ва номунтазам боиси фарогирӣ то замони мукофот мегардад. Баландии қуллаи нишеб бо таносуби озмоишҳои мукофотонидашуда ва интиқолнашаванда муайян карда мешавад, аммо фарогирии паҳлавӣ бо суръати паҳнкунии ин сигналҳои иштибоҳ аз замони мукофот (пешбинишаванда) ба зарб муайян карда мешавад. вақти ташвиқи пешгӯишаванда. Дараҷаи баландтари омӯзиш боиси он мегардад, ки қисми зиёди хатогиҳо тарғиб карда шаванд ва ба ин васила суръати баландтар мешавад. Бо сатҳи пасти таҳсил, соҳил ночиз мешавад, гарчанде ки фаъолияти мусбӣ (ба ҳисоби миёна) дар вақти мукофот ҳанӯз ҳам нигоҳ дошта мешавад. Дар хотир доред, ки гарчанде ки сатҳи омӯзиш дар моделҳои дар тасвири 1b, d тасвиршуда 0.8 истифода шудааст, ин набояд ҳамчун сатҳи ҳатмии омӯзиши синтетикии субстраталии асаб, бо назардошти тасвири схемавии ҳавасмандкунӣ, ба назар гирифта шавад. Дар тасвири воқеии воқеӣ, ки дар он шумораи аҳолии нейронҳо дар ҳама вақтҳо фаъоланд, сатҳи камтари омӯзишҳо натиҷаҳои мушобеҳ меорад.

Дар ҳақиқат, дар муқоиса бо таъхири таъхир, хунуккунии суръат ба таври ночиз суст аст ва ба он ишора мекунад, ки сатҳи таҳсил паст аст ва аз ин рӯ, тибқи натиҷаҳои озмоишӣ, бояд нишебии поёнтар бошад. Санҷиши мустақими сатҳи таҳсил дар маълумотҳои Моррис ва дигарон. [16], ки вазифаи ӯ таълими аз ҳад зиёдро талаб мекард, зеро он на танҳо як микроэлемент, балки инчунин як амали асбобҳоро дар бар мегирифт, он дар ҳақиқат хеле паст буд (Genela Morris - муоширати шахсӣ, 2004).

мубоҳиса

Рамзгузории дифференсиалии арзишҳои мусбат ва манфӣ аз ҷониби нейронҳои DA дар ҳама таҳқиқоти сигнали phasic DA намоён аст ва метавонад ҳамчун оқибати ногузири фаъолияти пасти ин нейронҳо ҳисобида шавад. Дар ҳақиқат, охирин пешниҳодҳои мустақимро илҳом бахшид, ки як нейротрансмиттер, ки серотонин аст, дар муаррифӣ ва азхуд кардани хатогиҳои пешгӯии манфӣ [20] ҷалб карда шавад, то онҳо низ чоряки пурра дошта бошанд. Аммо, дар ин ҷо, мо худро ба баррасии таъсири асимметрия ба таҳлили озмоишии миёна ба фаъолияти дофамин маҳдуд кардем ва нишон дод, ки шиддати фаъолияти DA, инчунин аксуламали миёнаи мусбат ҳангоми мукофот, мустақиман аз натиҷаи рамзгузории асимметрии хатогиҳои пешгӯишаванда.

Ба ғайр аз нуқтаи назари равшантари сигнали хатогӣ, оқибати муҳимтарини тафсири нав дар он аст, ки пандусҳо ҳамчун аломати як падидаи TD дида мешаванд, ки то ҳол бенатиҷа буданд. Ин пропагандаи прогрессивии сигналҳои хатогие мебошад, ки аз ҷониби фаъолияти DA муаррифӣ шудааст, аз замони мукофот то замони пешгӯишаванда (Расми 2a). Аксари таҳқиқоти қаблии фаъолияти допаминергикӣ pr = 1-ро истифода бурдаанд, бинобар ин тарғиби бозгашт дар беҳтарин ҳолат падидаи муваққатӣ танҳо дар оғози таълим маълум аст (вақте ки одатан сабтҳо ҳанӯз оғоз наёфтааст) ва эҳтимол дорад, ки онҳо дар сустии тирҳои нейронҳои DA. Ғайр аз он, тавре ки дар боло зикр шуд, тарғиби бозгашт аз он вобаста аст, ки вақти байни ҳавасмандкунандаи пешгӯӣ ва мукофот чӣ гуна аст - он барои намояндагии лағжиши хати таъхир ҳамчунон дар [6] мавҷуд аст, аммо на аз намояндагиҳое, ки тамоми умрро дар бар мегиранд. таъхир, масалан, дар [21]. Ба назар гиред, ки шакли рамка аз истифодаи нишонаҳои қобили қабул ва қоидаҳои таълимии TD (depends) (моделизатсия нишон дода намешавад) вобастагӣ дорад, ки механизми иловагии пулро дар байни чорабиниҳо дар давоми омӯзиш фароҳам меорад. Мутаассифона, азбаски шаклҳои пандусҳо дар маълумот хеле тағйирёбандаанд (ҷадвали 1) ва ғавғо мекунанд, онҳо наметавонанд маҳдудияти қавии механизми дақиқи TD-ро, ки мағзи сар истифода мекунад, таъмин кунанд.
Таҳқиқотҳои охирин бо иштибоҳҳои доимии пешгӯиҳо инчунин нишон медиҳанд, ки фаъолияти таблиғоти такрориро нишон медиҳанд, алахусус Расми 4 -и [13]. Дар ин таҳқиқот, хатогиҳои пешгӯӣ дар натиҷаи тағироти даврӣ дар вазифа ба вуҷуд омадаанд ва сабтҳои DA аз оғози таълим сохта шудаанд, бинобар ин фаъолияти шабеҳи тарғибот мустақиман маълум аст, гарчанде ки ин фаъолият ҳисоб карда нашудааст.

Мо интизорем, ки пандусҳо дар тӯли омӯзиш танҳо боқӣ мемонанд, агар сатҳи омӯзиш дар баробари пешрафт ба сифр кам нашавад. Назарияи Пирс & Холл [22] оид ба назорати омӯзиш тавассути номуайянӣ маҳз ҳамин устувории омӯзишро пешниҳод мекунад - ва аз ҷадвалҳои қисман тақвият далелҳо мавҷуданд, ки ҳангоми омӯзиши номуайянии марбут ба мукофот сатҳи омӯзиш метавонад баландтар бошад. Дар ҳақиқат, аз нуқтаи назари "оқилона" -и оморӣ, омӯзиш бояд ҳангоми номуайянии ҷиддӣ дар робитаи байни пешгӯикунандаҳо ва натиҷаҳо идома ёбад, зеро он аз имкони ҳамешагии тағирёбии муносибатҳои пешгӯишаванда ба миён омада метавонад. Ин шакли номуайянии доимӣ ва якҷоя бо номуайянӣ бо сабаби надонистани ибтидоӣ нисбати вазифа, барои ба расмият даровардани назарияи Пирс & Холл дар бораи тарзи номуайянӣ омӯзишро истифода мебаранд [23]. Ҳамин тариқ, даъвои мо дар бораи номуайянӣ метавонад тавассути пандусҳо мустақиман муаррифӣ карда нашавад, набояд албатта маънои онро надорад, ки намояндагӣ ва сӯистеъмоли он муҳим нест. Баръакс, мо пешниҳод кардем, ки номуайянӣ ба хулосабарорӣ ва омӯзиш тавассути дигар системаҳои нейромодуляторӣ таъсир мерасонад [24] ва он инчунин метавонад ҷанбаҳои интихоби амалҳоро муайян кунад [25].

Дигар хусусиятҳои асимметрияро низ қайд кардан лозим аст. Таъсири асимметрия ба омӯзиши аз DA вобаста ба [26] муҳим аст, агар фаъолияти зеризаминии DA барои коҳиши пешгӯиҳо хеле баланд аст. Барои он ки дурустии пешгӯиҳои омӯхташуда дуруст бошад, мо бояд фарз кунем, ки намояндагии асимметрӣ ба омӯзиш таъсир намерасонад, яъне механизме ба монанди миқёси гуногун барои потенсиализатсия ва депрессияҳои қавӣ синаптӣ сигнали хатои асимметриро ҷуброн мекунад. Албатта, ин ба он мафҳум табдил меёбад, агар нейротрансмиттери рақиб дар омӯхтан аз хатогиҳои пешгӯии манфӣ ҷалб карда шавад. Масъалаи мазкур бо пешниҳоди Bayer [14] мураккаб аст, ки сатҳи сӯхтор дар DA воқеан барои ҳамаи хатогиҳои пешгӯӣ дар зер аз ҳадди манфии эҳтимолӣ шабеҳ аст, шояд аз сабаби таъсири ошёнаи ками тирандозӣ. Чунин рамзгузории талафнок ба тасвири сифатии таъсири миёнаи мурофиаи судӣ ба пайдоиши пандусҳо таъсир намерасонад, балки зарурати сигнали оппозитсиониро барои омӯзиши ҳатмии симметрӣ тақвият медиҳад.

Ниҳоят, озмоиши мустақими тафсири мо муқоисаи миёнаи дохилӣ ва байнишаҳрии сигнали DA хоҳад буд. Инро ба таври муваққатӣ ба роҳ мондан муҳим аст, то мушкилоти ба ҳисоби миёна гирифтани сигналҳои ғайримуқаррарӣ пешгирӣ карда шавад. Барои бартараф кардани ғавғо дар оташфишонии асаб ва муайян кардани он, ки оё воқеан дар дохили як озмоиш тадриҷан пандус мавҷуд аст, ё, тавре ки мо пешгӯӣ мекардем - хатогиҳои пешгӯиҳои мусбат ва манфӣ, ба ҳисоби миёна аз болои бисёр нейронҳои ҳамзамон дар ҳудуди кишвар сабтшуда зарур аст як озмоиш ва инчунин нейронҳо, ки бо суръати омӯзиши шабеҳ алоқаманданд. Ғайр аз ин, пайгирӣҳои ягонаи нейрон метавонанд бар зидди аксуламали паспропагатсия, ки бо озмоишҳои қаблӣ ва омӯзиши TD пешбинӣ шуда буданд, барқарор карда шаванд. Муқоисаи ҳаҷми тағирёбандаро, ки бо чунин модел шарҳ дода шудааст, дар муқоиса бо регрессия бар зидди рамзи якранги фаъолият, метавонад ба модели мувофиқ ишора кунад. Пешгӯии камтар мустақим, вале бештар санҷидашуда он аст, ки шакли пандус бояд ба сатҳи омӯзиш вобаста бошад. Сатҳи омӯзишро аз вокуниш ба подошҳои эҳтимолӣ, новобаста аз шакли пандус, арзёбӣ кардан мумкин аст (Накахара ва диг. [18] чунин нишон доданд, ки дар вазифаи қисмҳои тақвияти онҳо дар сатҳи кондитсионерӣ, сатҳи омӯзиш 0.3 буд), ва эҳтимолан бо тағир додани ҳаҷми омӯзиш ё басомади тағирёбӣ ва аз нав омӯхтани ҳолатҳои эҳтимолии вазифаҳо идора карда мешаванд. Дар ҳақиқат, миқдори мавҷудият ва шакли як пандус дар фаъолияти сабтшудаи DA DA, метавонад ба пешниҳоди кунунӣ равшанӣ андозад.

Манфиатҳои рақобатпазир
Муаллиф (муаллиф) эълон мекунанд, ки онҳо манфиатҳои рақобат надоранд.

Саҳмияҳои муаллифон
Ю.Н., МД ва ПД тадқиқоти мазкурро дар якҷоягӣ ба анҷом расониданд ва дар таҳияи дастнавис мусоидат карданд. Ҳама муаллифон дастнависи хотимавиро хонда, тасдиқ карданд.

изњори сипос
Мо ба Ҳ.Бергман, С.Фиорилло, Н.Доув, Д.Ҷоэл, П. Тоблер, П.Шизгал ва В.Шульц барои муҳокима ва шарҳ додан, дар баъзе ҳолатҳо, новобаста аз тафсири мухталифи маълумот, хеле миннатдорем. Мо махсусан ба Ҷенела Моррис миннатдорем, ки маълумотҳои нашршуда ва нашрнашудаи худро дар робита ба рампинг таҳлил кард. Ин кор аз ҷониби Шабакаи Тематикии EC (YN), Фонди хайрияи Гэтсби ва лоиҳаи ИА BIBA маблағгузорӣ шудааст.

Адабиёт

1. Ljungberg T, Apicella P, Schultz W: Вокунишҳои нейронҳои допаминии маймун ҳангоми омӯзиши реаксияҳои рафторӣ.
Маҷаллаи Neurophysiol 1992, 67: 145-163.
Бозгашт ба матн
2. Шултс В: Сигнали мукофоти пешгӯии нейронҳои допамин. [http://jn.physiology.org/cgi/content/full/80/1/1] вебсайт
Маҷаллаи нейрофизиология 1998, 80: 1-27. PubMed абстрактӣ
Бозгашт ба матн
3. O'Doherty J, Dayan P, Friston K, Critchley H, Dolan R: Моделҳои фарқияти муваққатӣ ва омӯзиши марбут ба мукофот дар майнаи инсон.
Neuron 2003, 38: 329-337. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
4. Seymour B, O'Doherty J, Dayan P, Koltzenburg M, Jones A, Dolan R, Friston K, Fraccowiak R: Моделҳои фарқияти муваққатӣ омӯзиши тартиби олиро дар одамон тавсиф мекунанд.
Табиат 2004, 429: 664-667. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
5. Montague PR, Hyman SE, Cohan JD: Нақшҳои ҳисоббарорӣ барои допамин дар назорати рафтор.
Табиат 2004, 431: 760-767. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
6. Montague PR, Dayan P, Sejnowski TJ: Чаҳорчӯба барои системаҳои допаминии мезенцефаликӣ дар асоси омӯзиши пешгӯии Ҳебби.
Маҷаллаи Neuroscience 1996, 16: 1936-1947. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
7. Шульц В, Даян П, Монтег PR: Як субстрати асабии пешгӯӣ ва мукофот.
Илм 1997, 275: 1593-1599. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
8. Саттон РС: Омӯзиши пешгӯӣ бо усули фарқияти вақт.
Омӯзиши мошин 1988, 3: 9-44.
Бозгашт ба матн
9. Саттон РС, Барто AG: [http://www.cs.ualberta.ca/~sutton/book/ebook/the-book.html] вебсайт
Омӯзиши такмили ихтисос: Муқаддима. Матбуоти MIT; 1998.
Бозгашт ба матн
10. Холлерман Ҷ, Шултс В: Нейронҳои допамин дар бораи хатогиҳо дар пешгӯии муваққатии мукофот ҳангоми омӯзиш хабар медиҳанд.
Neuroscience табиат 1998, 1: 304-309. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
11. Шульц В, Апикелла П, Люнгберг Т: Ҷавобҳои нейронҳои допаминии маймун ба мукофот ва ангезаҳои шартӣ ҳангоми қадамҳои пайдарпайи омӯзиши вазифаи вокуниши таъхиршуда.
Маҷаллаи Neuroscience 1993, 13: 900-913. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
12. Тоблер П, Дикинсон А, Шульц В: Рамзгузории беэътибории пешгӯии мукофот аз ҷониби нейронҳои допамин дар парадигмаи монеъшавии шартӣ.
Маҷаллаи Neuroscience 2003, 23 (32): 10402-10410. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
13. Такикава Ю, Кавагое Р, Хикосака О: Нақши имконпазири нейронҳои допаминии мобайнӣ дар мутобиқсозии кӯтоҳмуддат ва дарозмуддати саккадҳо ба харитасозии мавқеъ-мукофот.
Маҷаллаи нейрофизиология 2004, 92: 2520-2529. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
14. Bayer H: Нақш барои сиёҳи моддаҳо дар омӯзиш ва идоракунии мотор.
Рисолаи номзадӣ, Донишгоҳи Ню-Йорк 2004.
Бозгашт ба матн
15. Фиорилло С, Тоблер П, Шульц В: Рамзгузории дискретии эҳтимолияти мукофот ва номуайянӣ аз ҷониби нейронҳои допамин.
Илм 2003, 299 (5614): 1898-1902. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
16. Моррис Г, Аркадир Д, Невет А, Ваадиа Е, Бергман Х: Паёмҳои тасодуфӣ, вале фарқкунандаи допамини мобайнӣ ва нейронҳои тоник фаъоли стриаталӣ.
Neuron 2004, 43: 133-143. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
17. Барто А, Саттон Р, Уоткинс С: Омӯзиш ва қабули қарорҳои пайдарпай. Дар омӯзиш ва неврологияи ҳисоббарор: Асосҳои шабакаҳои мутобиқшавӣ. Таҳрири Gabriel M, Moore J. Cambridge, MA: MIT Press; 1990: 539-602.
Бозгашт ба матн
18. Накахара Ҳ, Ито Ҳ, Кавагое Р, Такикава Ю, Хикосака О: Нейронҳои допамин метавонанд хатогии пешгӯии аз контекст вобастаро нишон диҳанд.
Neuron 2004, 41: 269-280. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
19. Gallistel CR, Gibbon J: Вақт, суръат ва кондитсионер.
Шарҳи равонӣ 2000, 107: 289-344. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
20. Daw ND, Kakade S, Dayan P: Муносибатҳои рақиби байни серотонин ва допамин.
Шабакаҳои асабӣ 2002, 15 (4-6): 603-616. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
21. Suri RE, Schultz W: Модели шабакаи нейронӣ бо сигнали тақвияти ба допамин монанд, ки вазифаи вокуниши фазоӣ таъхирёфтаро меомӯзад.
Neuroscience 1999, 91: 871-890. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
22. Pearce JM, Hall G: Намунаи омӯзиши Павловӣ: Тағйирот дар самаранокии ангезаҳои шартӣ, вале на аз ангезаҳои шартӣ.
Шарҳи равонӣ 1980, 87: 532-552. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
23. Даян P, Kakade S, Montague PR: Омӯзиш ва диққати интихобӣ.
Neuroscience табиат 2000, 3: 1218-1223. PubMed Абстракти | Ношир Матни пурра
Бозгашт ба матн
24. Даян П, Ю А: номуайянии интизорӣ ва ғайричашмдошт: Ach ва NE дар neocortex. [http://books.nips.ce/papers/files/nips15/NS08.pdf] вебсайт
Дар пешрафтҳо дар Sysytems коркарди иттилооти асабӣ Диттерич Т, Беккер S, Ғаҳрамани З. Кембридж, MA: MIT Press; 2002, 14: 189-196.
Бозгашт ба матн
25. Daw N, Niv Y, Dayan P: Амалҳо, сиёсатҳо, арзишҳо ва Ганглияи базавӣ. Дар пешрафтҳои охирин дар таҳқиқоти базалии Ганглия. Таҳрири Безард Э. Ню-Йорк, ИМА: Nova Science Publishers, Inc; дар матбуот.
Бозгашт ба матн
26. Wickens J, Kötter R: Моделҳои мобилӣ аз reinforcemnt. Дар Моделҳои коркарди иттилоот дар Ганглияи базавӣ. Таҳрири Houk JC, Davis JL, Beiser DG. Матбуоти MIT; 1995: 187-214.
Бозгашт ба матн