2018 May 14 onlayn nəşr olundu. doi: 10.1038 / s41593-018-0152-y
mücərrəd
Dopamin həm öyrənmənin, həm də motivasiyanın kritik modulyatorudur. Bu problem yaradır: hədəf hüceyrələr, artan dopaminin öyrənmək və ya hərəkət etmək üçün bir siqnal olduğunu necə bilə bilər? Tez-tez motivasiyanın yavaş ("tonik") dopamin dəyişikliklərini ehtiva etdiyi ehtimal olunur, sürətli ("phasic") dopamin dalğalanmaları isə öyrənmə üçün mükafat proqnozu səhvlərini göstərir. Son araşdırmalar sübut etdi ki, dopamin həvəsləndirici əhəmiyyət daşıyır və hətta ikinci ikinci dövrədə də hərəkətə kömək edir. Burada dopaminin davam edən davranışı necə tənzimlədiyinin alternativ bir hesabını təsvir edirəm. Dopamin hüceyrə atəşindən asılı olmayaraq, motivasiya ilə əlaqəli dopamin sərbəst və yerli olaraq dopamin terminallarında reseptorlar tərəfindən heykəl qoyulur. Hədəf neyronları, bir namizəd keçid mexanizmini təmin edən striatal xolinergik interneurons ilə öyrənmə və performans rejimləri arasında kəskin şəkildə dəyişir. Dopaminin davranış təsiri subregiona görə dəyişir, lakin hər vəziyyətdə dopamin enerji, diqqət və ya vaxt kimi məhdud bir daxili qaynağa xərcləməyin lazım olub olmadığını dinamik qiymətləndirir.
Dopamin öyrənmə, motivasiya və ya hər ikisi üçün bir siqnaldır?
Dopamin anlayışımız keçmişdə dəyişdi və bir daha dəyişir. Bir kritik fərq, dopamin təsiri arasındakı fərqdir cari davranış (performans) və dofamin təsiri gələcək davranış (öyrənmə). Hər ikisi real və vacibdir, lakin müxtəlif dövrlərdə biri lehinə, digəri isə yox idi.
('70'lərdə) dopamin yollarının selektiv, tam lezyonlarını həyata keçirmək mümkün olduqda, aşkar davranış nəticəsi hərəkətin kəskin azalması idi1. Bu, inkişaf etmiş Parkinson xəstəliyi, zəhərli dərmanlar və ya ensefalitin yaratdığı insanlarda dofamin itkisinin akinetik təsiri ilə uyğun gəlir.2. Lakin nə siçovul, nə də insan davası hərəkət edə bilməməyi göstərmir. Dopamin zədələnmiş siçovullar soyuq suda üzür3və akinetik xəstələr yanğın həyəcan siqnalı verərsə ("paradoksal" kinesiya) ayağa qalxıb qaça bilərlər. Mükafatların qiymətləndirilməsində də əsas çatışmazlıq yoxdur: dopamin zərərli siçovullar ağızlarına qoyulmuş qidaları istehlak edəcək və bundan ləzzət aləmlərini göstərəcəklər.4. Əksinə, aktiv şəkildə mükafat almaq üçün səy göstərməyi seçməzlər. Bu və bir çox digər nəticələr dopamin və motivasiya arasında əsas bir əlaqə yaratdı5. Parkinson Xəstəliyinin daha az ağır vəziyyətlərində müşahidə olunan hərəkətin yavaşlaması belə, sürətli hərəkətlər üçün tələb olunan enerjini xərcləməyə dəyməyən qərarı əks etdirən motivasiya çatışmazlığı hesab edilə bilər.6.
Sonra ('80-lərdə) meymunlarla davranışda dopamin neyronlarının önləyici qeydləri gəldi (orta beyin sahələrində: ventral tegramal bölgədə, VTA / substantia nigra pars compacta, SNc). Müşahidə olunan atəş nümunələri arasında dərhal hərəkətə səbəb olan stimullaşdırma üçün qısa fəaliyyət fasilələri var. Bu "phasic" dopamin atışması əvvəlcə "davranış aktivləşdirilməsini" dəstək kimi şərh edilmişdir7 və "həvəsləndirici oyanış"8 - başqa sözlə, heyvanın mövcud davranışını canlandıran kimi.
'90'lərdə köklü bir dəyişiklik meydana gəldi, fazik dopamin partlamalarını kodlaşdırma kimi izah etdi mükafat proqnoz səhvləri (RPE)9). Bu əsas bir araşdırmaya əsaslandı: dopamin hüceyrələri gələcək mükafatla əlaqəli gözlənilməz stimullara cavab verir, lakin bu stimulların gözlənildiyi təqdirdə tez-tez cavab verməyi dayandırır.10. RPE ideyası əvvəllər öyrənilmiş nəzəriyyələrdə və xüsusilə də daha sonra inkişaf edən kompüter elmləri sahəsində möhkəmlənmə öyrənməsində yaranmışdır11. Bir RPE siqnalının nöqtəsi yeniləməkdir dəyərlər(gələcək mükafatların qiymətləndirilməsi). Bu dəyərlər daha sonra mükafatı artıran seçim etmək üçün istifadə olunur. Dopamin hüceyrə atəşi RPE'yə bənzəyir və RPE'lər öyrənmək üçün istifadə edildiyi üçün dopamin'in öyrənmədə rolunu vurğulamaq təbii hala gəldi. Daha sonra optogenetik manipulyasiyalar RPE kodlayan hüceyrələrin dopaminergik şəxsiyyətini təsdiqlədi12,13 və həqiqətən öyrənməyi modulyasiya etdiklərini göstərdilər14,15.
Dopamin bir öyrənmə siqnalını təmin etməsi fikri, dopamin, dopamin əsas beyin hədəfi olan striatumdakı sinaptik plastisiyanı modullaşdıran ədəbiyyata gözəl uyğun gəlir. Məsələn, striatal dendrit belinin glutamat stimullaşdırılması, postsinaptik depolarizasiya və dopamin sərbəst buraxılmasının üçqat təsadüfü onurğanın böyüməsinə səbəb olur16. Uzunmüddətli öyrənmə mexanizmlərinin dopaminergik modulyasiyası, striatal dopamin ifrazını artırmaq xüsusiyyətini bölüşən asılılıq dərmanlarının davamlı davranış təsirlərini izah etməyə kömək edir.17. Hətta dopamin itkisi ilə dərin akineziya belə öyrənmə mexanizmləri ilə qismən hesab edilə bilər18. Dopamin çatışmazlığı daim mənfi bir RPE kimi qəbul edilə bilər ki, bu da hərəkətlərin dəyərlərini sıfıra doğru yeniləyir. Davranışa bənzər mütərəqqi, tükənməyə bənzər təsirlər dopamin antaqonistləri tərəfindən istehsal edilə bilər19,20.
Yenə də dopaminin davamlı motivasiyaya qarışdığı fikri heç bir zaman keçməmişdir, əksinə davranışçı nevrologlar tərəfindən qəbul edilir. Motivasiyada / hərəkətdə / canlanmada dopamin funksiyalarının öyrənmədən ayrıldığına dair güclü dəlillər nəzərə alınaraq bu uyğun gəlir.15,20-23. Daha az təqdir edilən bu motivasiya rolunu DA'nın RPE öyrənmə siqnalını təmin etdiyi nəzəriyyə ilə uzlaşdırmağın çətinliyidir.
Motivasiya "irəli baxır": hazırkı davranışa lazımi dərəcədə enerji vermək üçün gələcək mükafatların (dəyərlərin) proqnozlarından istifadə edir. Bunun əksinə olaraq, öyrənmək yaxın keçmişdəki vəziyyətlərə və hərəkətlərə "geriyə baxır" və dəyərlərini yeniləyir. Bunlar bir dövrün tamamlayıcı mərhələləridir: yenilənmiş dəyərlər sonrakı qərar qəbulunda istifadə edilə bilər, əgər bu dövlətlər yenidən qarşılaşdıqda, daha sonra yenilənsə və s. Bəs, dövrün hansı mərhələsi dofamin ilə əlaqədardır - qərar vermək üçün dəyərlərdən istifadə (performans) və ya dəyərləri yeniləmək (öyrənmək)?
Bəzi hallarda dopaminin hər iki rolu eyni anda oynadığını təsəvvür etmək düzdür.24Gözlənilməz, mükafat verici proqnozlar dopamin hüceyrə atəşinin və sərbəst buraxılmasının arxetipik hadisələridir və bu kimi ifadələr adətən həm gücləndirir, həm də öyrənməyə səbəb olur (Əncir 1). Bu vəziyyətdə həm mükafat proqnozu, həm də mükafat proqnozu səhvləri eyni vaxtda artır - lakin bu həmişə belə deyil. Yalnız bir nümunə kimi, insanlar və digər heyvanlar çox vaxt təəccüblü və ya heç bir şey olmadığı təqdirdə mükafat almaq üçün çalışmağa həvəslənirlər. Mükafata yaxınlaşdıqca daha çox çalışa bilərlər (mükafatlar yaxınlaşdıqda dəyər artır). Məsələ burasındadır ki, öyrənmə və motivasiya konseptual, hesablama və davranış baxımından fərqlənir - buna baxmayaraq dopamin hər ikisini də edir.
Aşağıda dopaminin həm öyrənmə, həm də motivasiya funksiyalarına necə nail ola biləcəyi ilə bağlı mövcud fikirləri tənqidi qiymətləndirirəm. Üç əsas həqiqətə əsaslanaraq yenilənmiş bir model təklif edirəm: 1) dopamin terminallardan sərbəst buraxılması sadəcə dopamin hüceyrə atəşindən yaranmır, həm də yerli olaraq idarə edilə bilər; 2) dopamin, həm öyrənmə, həm də performans üçün fərqli nəticələrə malik olmaqla, həm sinaptik plastikliyə, həm də hədəf hüceyrələrin həyəcanlılığına təsir göstərir; 3) dopamin plastikliyə təsiri yaxınlıqdakı dövrə elementləri tərəfindən açıla və ya söndürülə bilər. Birlikdə, bu xüsusiyyətlər, beyin sxemlərinin öyrənmə və motivasiya üçün iki fərqli dofamin mesajı arasında keçməsinə imkan verə bilər.
Fərqli mənaları olan ayrıca "fazik" və "tonik" dopamin siqnalları varmı?
Dopamin öyrənmə və həvəsləndirici rollarının müxtəlif vaxt miqyasında baş verməsi tez-tez iddia olunur25. Dopamin hüceyrələri fasiləsiz olaraq qısa ("phasic") partlayışlar və ya fasilələrlə saniyədə bir neçə tükdən davamlı olaraq ("tonik") yanır. Burstlar, xüsusən dopamin hüceyrələri arasında süni şəkildə sinxronizasiya edilərsə, beyin dopaminində müvafiq sürətlə artım təmin edir26 yüksək keçid (ikinci ikinci müddəti)27). Tonik dopamin hüceyrəsinin atılan beyin dopamin konsentrasiyasına ayrıca töhfəsi az aydındır. Bəzi dəlillər bu töhfənin çox az olduğunu göstərir28. Sistemə dopamin hüceyrələrinin atəşində qısa fasilələri qeyd etməyə imkan verən daha yüksək yaxınlıqdakı D2 reseptorlarının davamlı fasiləsiz stimullaşdırılması üçün kifayət ola bilər.29 və bu fasilələrdən mənfi proqnoz səhvləri kimi istifadə edin.
Mikrodializ, aşağı müvəqqəti qətnamə ilə (adətən bir neçə dəqiqə ərzində orta hesabla) olsa da, beyin dopamin səviyyəsini birbaşa ölçmək üçün geniş istifadə edilmişdir. Dopamin bu qədər yavaş ölçülməsi, davranışla dəqiq əlaqələndirmək çətin ola bilər. Buna baxmayaraq, nüvələrin böyüməsində dopamin mikdializi (NAc; ventral / medial striatum) lokomotor fəaliyyətə müsbət münasibət göstərir30 və digər motivasiya göstəriciləri5. Bu, dopamin konsentrasiyasında yavaş ("tonik") dəyişikliklərin olduğunu və bu yavaş dəyişikliklərin bir həvəsləndirici bir siqnal olduğunu ifadə etmək üçün geniş qəbul edilmişdir. Daha dəqiq desək, hesablama modelləri tonik dopamin səviyyəsinin uzunmüddətli orta mükafat nisbətini izləməsini təklif etdilər31 - vaxt ayırma və yem qərarları üçün faydalı motivasion dəyişən. Vurgulamağa dəyər ki, çox az sənəddə “tonik” dopamin səviyyələri aydın şəkildə müəyyənləşdirilir - ümumiyyətlə dopamin konsentrasiyasının mikrodializin bir neçə dəqiqəlik vaxt miqyasında yavaş-yavaş dəyişdiyini düşünürlər.
Bununla belə bu "phasic dopamin = RPE / öyrənmə, tonik dopamin = motivasiya" görünüşü bir çox problemlə üzləşir. Birincisi, tonik dopamin hüceyrəsinin normal olaraq yavaş zaman tərəzisində dəyişməsi barədə birbaşa sübut yoxdur. Tonik atəş dərəcələri dəyişən motivasiya ilə dəyişmir32,33. Tonik dopamin səviyyəsinin aktiv dopamin hüceyrələrinin dəyişən nisbətinə görə dəyişdiyi iddia edildi34,35. Dopamin hüceyrələrinin boşaldılmamış, kimsəsiz heyvanlardakı bir çox araşdırmada səssiz və aktiv vəziyyətlər arasında keçid olduğu bildirildi.
Bundan əlavə, mikrodializin dopamin səviyyəsini yavaşca ölçməsi o demək deyil ki, dopamin səviyyələri yavaş-yavaş dəyişir. Bu yaxınlarda15 Siçovul NAc dopaminini həm mikdializ, həm də sürətli siklik voltametriyadan istifadə edərək ehtimal olunan bir mükafat vəzifəsində araşdırdı. Mikolializ ilə ölçülən mesolimbik dopaminin mükafat dərəcəsi (mükafat / min) ilə əlaqəli olduğunu təsdiq etdik. Ancaq inkişaf etmiş bir mikdializin müvəqqəti həlli ilə (1min) dopamin nümunə götürdüyümüz qədər sürətlə dəyişdi: təbii yavaş dofamin siqnalına dair heç bir sübut görmədik.
Hələ voltametriyanın incə müvəqqəti qətnaməsindən istifadə edərək, ikinci ikinci dopamin dalğalanması və motivasiya arasında sıx əlaqəni müşahidə etdik. Siçovullar, mükafatlar əldə etmək üçün lazım olan hərəkətlər ardıcıllığını yerinə yetirərkən, dopamin daha yüksək və daha yüksək səviyyəyə yüksəldi, mükafat aldıqları zaman zirvəyə çatdı (və istehlak etdikcə sürətlə aşağı düşdü). Dopamin ani bir dövlət dəyəri ilə güclü bir şəkildə əlaqələndirildiyini göstərdik və gözlənilən gələcək mükafat olaraq təyin olundu, onu almaq üçün gözlənilən vaxt endirim edildi. Bu sürətli dopamin dinamikası ayrı-ayrı vaxt şkalalarında ayrıca dopamin siqnallarını işə salmadan mikrodializ nəticələrini də izah edə bilər. Heyvanlar daha çox mükafat aldıqca sınaq ardıcıllığının hər bir addımında gələcək mükafat gözləmələrini artırır. Yavaş-yavaş inkişaf edən ortalama mükafat dərəcəsi siqnalı əvəzinə, dopamin və mükafat nisbəti arasındakı əlaqə, bu sürətlə inkişaf edən dövlət dəyərlərinin uzunmüddətli mikrodializ nümunəsi toplama müddətinə nisbətən ən yaxşı olaraq izah olunur.
Mezolimbik dopamin sərbəst buraxılmasının bu dəyər şərhi, dəfələrlə dopamin buraxılışının mükafatlandırma yaxınlığına qədər yüksəldiyini aşkar edən digər tədqiqat qruplarının voltammetriya nəticələrinə uyğundur.36-38(Əncir 2). Bu həvəsləndirici siqnal mahiyyətcə "yavaş" deyildir, əksinə davamlı miqyas aralığında müşahidə edilə bilər. Dopamin rampaları bir yanaşma davranışı da bir neçə saniyə davam edərkən bir neçə saniyə davam edə bilər38, bu, daxili dofamin dinamikasını deyil, davranışın vaxtını əks etdirir. Mezolimbik dopamin sərbəst buraxılması ilə dalğalanan dəyəri arasındakı əlaqə qeyd texnikasının icazə verdiyi qədər sürətli görünür, yəni kəskin voltametriya elektrodları ilə ~ 100ms dəfə artır.15.
Sürətli dopamin dalğalanmaları sadəcə motivasiyanı əks etdirmir, eyni zamanda dərhal motivasiyalı davranışa səbəb olur. İstiqamətləri tetiklemek üçün dopamin hüceyrələrinin daha böyük phazic cavabları, eyni sınaqda daha qısa reaksiya müddətlərini proqnozlaşdırır.39. VTA dopamin hüceyrələrinin optogenetik stimullaşdırılması siçovulların ehtimal olunan mükafat vəzifəmizdə işə başlamağını daha da artırır15, sanki daha yüksək mükafat gözlədikləri kimi. SNc dopamin neyronlarının və ya onların dorsal striatumdakı aksonlarının optogenetik stimullaşdırılması hərəkət ehtimalını artırır40,41. Tənqidi olaraq, bu davranış təsirləri, optogenetik stimullaşdırmanın başlamasından bir neçə yüz milisaniyədə görünür. Həvəsləndirməni artırmaq üçün mükafat verici proqnozlaşdırma nişanlarının NAc spiny neyronlarının həyəcanlılığının çox sürətli dopaminergik modulyasiyası ilə vasitə olduğu görünür42. Dopamin tez dəyişdiyindən və bu dopamin dəyişiklikləri tez motivasiyaya təsir etdiyindən, dopaminin motivasiya funksiyaları daha yavaş deyil ("tonik") kimi sürətli təsvir olunur.
Bundan əlavə, ayrı-ayrı sürətli və yavaş vaxt tərəzilərinə müraciət etmək, dopamin reseptorları olan neyronların qarşılaşdığı dekodlama problemini həll etmir. Dopamin öyrənməyə siqnal verirsə, sinaptik plastisiyanın modulyasiyası uyğun bir hüceyrə reaksiyası kimi görünür. Ancaq motivasiya edilmiş davranışa dərhal təsirlər tırmanışa dərhal təsirləri nəzərdə tutur - məsələn, həyəcanlanmada sürətli dəyişikliklər. Dopamin bu postsinaptik təsirlərin hər ikisinə (və daha çoxuna) sahib ola bilər, buna görə müəyyən bir dopamin konsentrasiyası xüsusi bir məna daşıyırmı? Yoxsa bu mənanı, məsələn, zamanla dopamin səviyyələrini müqayisə etməklə və ya hansı mobil cihazları işə salacağını müəyyən etmək üçün digər təsadüfi siqnallardan istifadə etməklə qurmaq lazımdır? Bu ehtimal aşağıda daha da müzakirə olunur.
Dopamin sərbəst buraxılması dopamin hüceyrəsinin atəşə tutulması ilə eyni məlumatı çatdırırmı?
Sürətli dopamin dalğalanmaları və motivasiya dəyəri arasındakı əlaqə qəribə görünür, bunun əvəzinə dopamin hüceyrə atəşinin RPE-yə bənzədiyini nəzərə alsaq. Bundan əlavə, bəzi tədqiqatlar mesolimbik dopamin sərbəst buraxılmasında RPE siqnallarını bildirmişdir43. Sinir məlumatlarının bəzi formalarını şərh edərkən bir problemi qeyd etmək vacibdir. Dəyər siqnalları və RPE-lər bir-biri ilə əlaqələndirilir - təəccüblü deyil ki, RPE ümumiyyətlə dəyərin bir andan digərinə dəyişməsi kimi təyin olunur (“müvəqqəti-fərq” RPE). Bu korrelyasiya səbəbindən dəyəri RPE hesablarından fərqləndirən eksperimental dizayn və analizlərdən istifadə etmək vacibdir. Problem, mütləq deyil, nisbi siqnal dəyişikliklərinə əsaslanan bir sinir ölçüsü istifadə edərkən daha da ağırlaşır. Voltammetriya analizləri, adətən hər bir araşdırmada əvvəllər müəyyən bir dövrdə dopamini bir "başlanğıc" dövrü ilə müqayisə edir (dopamindən asılı olmayan siqnal komponentlərini, o cümlədən hər bir gərginlik süpürgəsində elektrik enerjisi doldurma və dəqiqələrin bir dəqiqə ölçüsündə sürüşməsi daxil olmaqla). Ancaq bir başlanğıc xəttini çıxarmaq bir dəyər siqnalını bir RPE siqnalına bənzədə bilər. Öz voltammetriya məlumatlarımızda müşahidə etdiklərimiz (Şəkil 2e). Mükafat gözləməsindəki dəyişikliklər, hər sınaqın əvvəlində dopamin konsentrasiyasındakı dəyişikliklərdə öz əksini tapdı və yalnız sınaqlar boyu sabit bir əsas götürüldükdə bu dəyişikliklər qaçırıldı.15. Dopaminin sərbəst buraxılması və RPE kodlaşdırması ilə bağlı nəticələr ehtiyatla nəzərdən keçirilməlidir. Bu məlumatların təfsiri təhlükəsi yalnız voltammetriyaya deyil, nisbi dəyişikliklərə əsaslanan hər hansı bir təhlilə aiddir - potensial olaraq bəzi fMRI və fotometriyalar da daxil olmaqla44.
Buna baxmayaraq, hələ də NAc nüvəsindəki dəyərlə əlaqəli dopamin sərbəst buraxılmasını dopamin neyronlarının ardıcıl olmaması ilə uzlaşdırmalıyıq.13, NAc nüvəsinə dopamin təmin edən yan VTA bölgəsində belə45. Bir potensial amil, dopamin hüceyrələrinin adətən klassik kondisioner vəzifələrini yerinə yetirən baş mühərrikli heyvanlarda qeydə alınmasıdır, dopamin sərbəst buraxılması adətən ətraflarında fəal hərəkət edən maneəsiz heyvanlarda ölçülür. Təklif etdik ki, mesolimbik dopamin xüsusi olaraq "iş" in dəyərini göstərə bilər15 - mükafat almaq üçün vaxt və səy sərf etmək tələbini əks etdirir. Buna uyğun olaraq, dopamin hərəkətə təlimat verən siqnallarla artar, amma oxşar gələcək mükafatı göstərsələr də, sükunət əmr edən siqnallarla deyil46. Bir çox klassik kondisioner tapşırıqlarında olduğu kimi - aktiv "iş" üçün heç bir fayda yoxdursa, işin dəyərini göstərən dopaminerjik dəyişikliklər daha az görünə bilər.
Daha da vacib olanı, dopamin sərbəst buraxılmasının terminallarda özləri tərəfindən idarə oluna bilməsi və beləliklə hüceyrə orqanının sıçramasından asılı olmayan məkan-müvəqqəti nümunələrin göstərilməsidir. Məsələn, bazolateral amigdala (BLA) VTA təsirsiz hala gəldikdə də NAc dopamin ifrazına təsir göstərə bilər.47. Əksinə, aktiv olmayan BLA, VTA atəşinə təsir etmədən, NAc dopamin sərbəst buraxılmasını və müvafiq motivasiyalı davranışı azaldır.48. Dopamin terminallarında glutamat, opioidlər və asetilkolin də daxil olmaqla bir sıra nörotransmitterlər üçün reseptorlar mövcuddur. Nikotinik asetilkolin reseptorları striatal xolinergik interneuronların (CIN) dopamin buraxmasını sürətlə idarə etməyə imkan verir.49,50. Hərçənd ki, çoxdan qeyd edilmişdir ki, dopamin sərbəst buraxılmasına yerli nəzarət potensial vacibdir7,51, dopamin funksiyasının hesablama hesablarına daxil edilməmişdir. Təklif edirəm ki, dəyər kodlaşdırması ilə əlaqəli dopamin salınma dinamikası əsasən yaranır yerli nəzarət, hətta dopamin hüceyrə atəşi öyrənmə üçün vacib RPE kimi siqnalları təmin etdiyi kimi.
Dopamin qarışıqlıq olmadan həm öyrənmə, həm də motivasiya demək necə ola bilər?
Prinsipcə, RPE-ni çatdırmaq üçün bir dəyər siqnalı kifayətdir, çünki müvəqqəti fərq RPE-ləri sadəcə dəyərdə sürətli dəyişikliklərdir (Şəkil 2B). Məsələn, hədəf neyronların fərqli hüceyrədaxili yolları konsentrasiyada sürətli nisbi dəyişikliklərə (RPE təmsil edir) nisbətdə dopaminin mütləq konsentrasiyasına (dəyəri ifadə edən) fərqli dərəcədə həssas ola bilər. Spiny neyron fiziologiyasının kompleks dopamin modulyasiyasını nəzərə alaraq, bu sxem uyğun görünür52 və onların kalsium konsentrasiyasının müvəqqəti nümunələrinə həssaslığı53. Yenə də bu, bir qədər artıq görünür. Əgər dopamin hüceyrə sıçrayışında RPE kimi bir siqnal varsa, bir siqnaldan RPE'yi yenidən almaqdan daha çox istifadə etmək lazımdır.
Fərqli RPE və dəyər siqnallarından düzgün istifadə etmək üçün dopamin qəbuledici sxemlər dopamin necə şərh etdiklərini aktiv şəkildə dəyişə bilər. Asetilkolinin də bu keçid roluna xidmət edə biləcəyinə dair maraqlı dəlillər var. Dopamin hüceyrələri gözlənilməz istəklərə tırmanışan yanğınlar ilə eyni vaxtda, CINs qısa göstərir (~ 150ms) duraklamalar atəş zamanı, RPE ilə ölçülməyən54. Bu CIN fasilələri VTA GABAergic neyronları tərəfindən idarə edilə bilər55 həmçinin intralaminar talamusdakı "sürpriz" əlaqəli hüceyrələrdir və öyrənmə təşviq edən bir əlaqə siqnalı kimi çıxış etmək təklif edilmişdir56. Morris və Bergman təklif etdi54 xolinergik duraklamalar, dopamin bir öyrənmə siqnalı olaraq istifadə edilə biləcəyi müddətdə striatal plastikliyin müvəqqəti pəncərələrini təyin edir. Dopamindən asılı plastiklik birbaşa yolda olan striatal neyronlardakı muscarinic m4 reseptorları da daxil olmaqla mexanizmlər tərəfindən davamlı olaraq sıxılır57. Hüceyrədaxili siqnal modelləri CIN fasilələri zamanı m4 bağlamanın olmaması PKA aktivləşməsini artırmaq üçün phasic dopamin partlayışları ilə sinerji olaraq hərəkət edə biləcəyini göstərir.58, bununla da sinaptik dəyişikliyi təşviq edir.
Striatal xolinergik hüceyrələr, beləliklə bir multipleksiyalı dopaminergik mesajın mənasını dinamik şəkildə dəyişdirmək üçün yaxşı bir vəziyyətdədirlər. CIN fasilələri zamanı sinoptik plastiklik üzərində bir muskarin blokunun relyefi dopamin öyrənmə üçün istifadə olunmasına imkan verəcəkdir. Digər vaxtlarda dopamin terminallarından sərbəst buraxılanlar davranış fəaliyyətinə təsir göstərmək üçün yerli olaraq heykəllənəcəkdir. Hal-hazırda bu təklif həm spekulyativ, həm də natamamdır. CIN'lərin entropiya kimi faydalı şəbəkə səviyyəli siqnalları çıxarmaq üçün ətrafdakı bir çox spiny neyron məlumatlarını birləşdirməsi təklif edilmişdir.59,60. Lakin CIN fəaliyyət dinamikasının dopamin dəyər siqnalları yaratmaq üçün istifadə edilə biləcəyi heç də aydın deyil61, və həmçinin dopamin öyrənmə siqnallarına qapılaraq.
Dopamin, beyin beyni boyunca eyni mənanı ifadə edirmi?
RPE ideyasını tutduqda, dopaminin striatal və frontal kortikal hədəfləri boyunca səhv mesajı yayan qlobal bir siqnal olduğu təsəvvür edildi. Schultz, VTA və SNc boyundakı meymun dopamin hüceyrələrinin çox oxşar cavablara sahib olduğunu vurğuladı62. Müəyyən edilmiş dopamin hüceyrələrinin araşdırmaları gəmiricilərdə, ən azından klassik kondisioner içərisində olan lateral VTA neyronları üçün olduqca homogen RPE tipli cavablar tapdı.13. Hələ dopamin hüceyrələri molekulyar və fizioloji cəhətdən müxtəlifdir63-65 heyvanların davranışlarında müxtəlif atəş nümunələri göstərdikləri barədə indi bir çox məlumat var. Bunlara həssas hadisələrə atəş açmaqda fasik artımlar daxildir66 və tetiklemek istekleri67 standart RPE hesabı ilə uyğun olmayan. Bir çox dopamin hüceyrəsi xüsusi RPE kodlaşdırmadan daha çox sürpriz və ya "xəbərdarlıq" əks etdirən hiss hadisələrinə ilkin qısa gecikmə reaksiyasını göstərir68,69. Bu xəbərdarlıq yönü SNc-də daha qabarıq görünür69, dopamin hüceyrələri dorsal / lateral striatuma (DLS) daha çox "sensimotor" verir45,63). SNc dopamin hüceyrələrinin subpopulyasiyalarının da artdığı bildirildi41 ya da azal70 kortəbii hərəkətlərlə, hətta xarici istəklər olmadan birlikdə atəş.
Dopamin neyronlarının subpopulyasiyalarının toplu fəaliyyətini yoxlamaq üçün bir neçə qrup lif fotometriyasından və kalsium göstəricisi GCaMP istifadə etdi.71,72. Dorsal / medial striatumu (DMS) proqnozlaşdıran dofamin hüceyrələri müvəqqəti olaraq depresif aktivliyi gözlənilməz qısa şoklara, DLS-yə proqnozlaşdıranlar aktivliyin artdığını göstərdilər.71- xəbərdaredici cavabla daha uyğun gəlir. Fərqli beyin alt bölgələrində fərqli dopaminerjik reaksiyalar da dopamin aksonlarının və terminallarının fəaliyyətini araşdırmaq üçün GCaMP istifadə edərək müşahidə edilmişdir.40,72,73. Başa mane olan siçanlarda Howo və Dombeck'də iki foton görüntüləmə istifadə olunur40 phasic dopamin fəaliyyətinin spontan hərəkətlərlə əlaqəli olduğunu bildirdi. Bu, əsasən SNc-dən olan fərdi dopamin aksonlarında, dorsal striatumda xitam verilmişdir, NAc-dakı VTA dopamin aksonları çatdırılma üçün daha çox reaksiya göstərmişdir. Digərləri, NAc-da mükafatla əlaqəli dopaminergik fəaliyyət tapdılar, bunun əvəzinə kontralateral hərəkətlərə daha çox bağlandılar.72 aversive və roman stimullarına cavab verən striatumun posterior quyruğu74.
Dofamin azad edilməsinin birbaşa tədbirləri subregions arasındakı heterojenliyi də göstərir30,75. Mikrodializlə dopamin striatumun digər medial hissələrində (NAc qabığı, DMS) və ya frontal korteksdə deyil, xüsusi olaraq NAc nüvəsində və ventral-medial frontal korteksdə dəyəri ilə əlaqəli olduğunu tapdıq. İnsan fMRI tədqiqatlarında ardıcıl olaraq görülən dəyər kodlaşdırmasının iki "qaynar nöqtəsi" nə yaxşı göründüyü üçün bu maraqlıdır.76,77. Xüsusilə dopamin siqnalına yaxın bir əlaqəsi olan NAc BOLD siqnalı78, mükafat gözləntisi ilə artır (dəyər) - RPE ilə müqayisədə daha çox76.
Dopamin sərbəst buraxılmasının bu məkan nümunələri fərqli dopamin hüceyrə subpopulyasiyalarının atəşindən, dopamin sərbəst buraxılmasına yerli nəzarətdən və ya hər ikisi də qlobal bir dofamin mesajı ideyasına meydan oxuyur. Belə bir nəticəyə gəlmək olar ki, dopamin ilə "hərəkət" siqnalını verən dopamin və ventral striatumda dopamin "mükafat" siqnalını verən "məsələn" dopamin funksiyası çoxdur.40. Ancaq başqa bir konseptual yanaşmanı dəstəkləyirəm. Fərqli striatal subregions müxtəlif kortikal bölgələrdən giriş alır və buna görə də müxtəlif məlumatları emal edəcəkdir. Hər bir striatal subregion, spiny neyronları daşıyan D1-reseptoru ilə müqayisədə ayrıca D2 daxil olmaqla ortaq bir mikrosxem memarlığını bölüşür.79, CIN və s. Ayrı-ayrı striatal subregiyalara (məsələn, DLS, DMS, NAc nüvəsi) istinad etmək adi hal olsa da, aralarında kəskin anatomik sərhəd yoxdur (NAc qabığı bir az daha neyrokimyəvi dərəcədə fərqlidir). Bunun əvəzinə, ortaq hesablama alqoritminin parametrlərinə daha çox bənzəyən reseptor sıxlığı, interneuron nisbətləri və s. Kimi incə gradientlər var. Bu ümumi arxitekturanı nəzərə alaraq, hər bir subregion tərəfindən idarə olunan xüsusi məlumatdan kənarlaşdırılan ortaq bir dofamin funksiyasını təsvir edə bilərikmi?
Striatal dopamin və məhdud resursların ayrılması.
Təklif edirəm ki, davam edən davranışa təsir edən müxtəlif dopamin təsirləri modulyasiya kimi başa düşülsün resurs bölgüsü qərarları. Xüsusilə, dopamin, məhdud bir daxili qaynağın xərclənməsinin nə qədər dəyərli olduğunu təxmin edir, xüsusi resurs striatal subregiyalar arasında fərqlidir. "Motor" striatum (~ DLS) üçün resurs hərəkətlidir, hərəkət enerjiyə ehtiyac duyduğu üçün və bir çox hərəkətin bir-biri ilə uyğun gəlməməsi səbəbindən məhduddur.80. Dopamin artırılması, bir heyvanın daha sürətli hərəkət etməsinə və ya daha sürətli hərəkət etməsinə enerji xərcləməyə qərar verəcəyini daha çox ehtimal edir6,40,81. Qeyd edək ki, "hərəkəti dəyərlidir" kodlaşdıran bir dopamin siqnalı, dopamin kodlaşdırmadan "hərəkət" etmədən də, hərəkət və dopamin arasında əlaqə yaradacaqdır. per se.
"Bilişsel" striatum (~ DMS) üçün mənbələr diqqət daxil olmaqla idrak prosesləridir (müəyyənləşdirmə ilə məhdud imkanlara malikdir)82) və işləyən yaddaş83. Dopamin olmadan, adətən oriyentasiya hərəkətlərini doğuran görkəmli xarici istəklər, az diqqəti cəlb edən sayılır.3. Bundan əlavə, bilişsel nəzarət proseslərini bilərəkdən həyata keçirmək çətindir (baha başa gəlir)84). Dopamin - xüsusilə DMS-də85 - bu səy göstərməyə dəyər olub olmadığına qərar verməkdə əsas rol oynayır86,87. Buraya daha çox idrak tələb edən, düşünülmüş ("model əsaslı") qərar strategiyalarının tətbiq edilməsini də daxil etmək olar88.
"Həvəsləndirici" striatum (~ NAc) üçün bir əsas məhdud resurs heyvanın vaxtı ola bilər. Heyvanlar sürətlə mükafat əldə etmək üçün sadə, sabit bir hərəkət edərkən mezolimbik dopamin tələb olunmur89. Lakin mükafatlandırmanın bir çox forması yalnız uzunmüddətli iş sayəsində əldə edilə bilər: yemlənmədə olduğu kimi qiymətləndirilməmiş hərəkətlərin ardıcıl ardıcıllığı. İşlə məşğul olmağı seçmək o deməkdir ki, vaxt sərf etməyin digər faydalı yollarını da unutmaq lazımdır. Yüksək mesolimbik dopamin, müvəqqəti uzadılmış, səylə işləməyin dəyərli olduğunu göstərir, ancaq dopamin endirildiyi üçün heyvanlar narahat olmur və bunun əvəzinə sadəcə yatmağa hazırlaşa bilər90.
Hər bir kortiko-striatal döngə içərisində dopaminin davam edən davranışa verdiyi töhfə həm iqtisadi (qaynaq bölgüsü ilə əlaqəli), həm də motivativdir (bu olub-olmamasıdır). dəyərli resursları xərcləmək81). Bu sxemlər tam müstəqil deyildir, əksinə iyerarxik, spirallaşan bir quruluşa malikdir: striatumun daha çox ventral hissələri daha çox dorsal hissələrə yönəlmiş dopamin hüceyrələrini təsir edir.5,91. Bu şəkildə işlə məşğul olmaq üçün verilmiş qərarlar, tələb olunan spesifik, briefer hərəkətlərini gücləndirməyə də kömək edə bilər. Ancaq ümumilikdə dopamin, "yönləndirici" siqnalları deyil, bəzi qərarların qəbul edilmə ehtimalını artıraraq "aktivləşdirici" siqnallar verir. necə mənbələr xərclənməlidir5.
Qərarlar verildikdə dopaminin hesablama rolu nədir?
Bu aktivləşdirici rol haqqında düşünməyin bir yolu qərar vermə “eşikləri” baxımından. Bəzi riyazi modellərdə qərar prosesləri, hədd səviyyəsinə çatana qədər, sistem bir işə sadiq qaldıqda artır92. Daha yüksək dopamin daha aşağı məsafədən-eşikə bərabər olardı ki, qərarlar daha sürətli alınsın. Bu fikir sadədir, lakin təsdiqlənmiş kəmiyyət proqnozları verir. Hərəkət üçün aşağı hədləri endirmək, amfetamin sensorimotor striatuma daxil olduqda görülən şey reaksiya vaxtı paylanmasının şəklindəki müəyyən bir dəyişikliyə səbəb olardı20.
Müəyyən edilmiş eşiklər əvəzinə, zaman keçdikcə azaldıqda davranış və neyron məlumatları daha uyğun ola bilər, sanki qərarlar getdikcə aktuallaşır. Bazal ganglia çıxışı, korteksdəki seçim mexanizmlərini canlandıran, dinamik olaraq inkişaf edən təcili bir siqnal təmin etmək təklif edilmişdir.93. Gələcək mükafatların vaxtında yaxınlaşdıqda, bu konsepsiyanı dəyər kodlaşdırma, dopamin aktivləşdirmə roluna bənzər hala gətirəndə təcili olmaq daha böyük idi.
Striatal dopaminin performans tənzimləyici təsirlərini təsvir etmək üçün belə bir aktiv rolu kifayətdirmi? Bu, bazal ganglia sxemlərinin öyrənilən hərəkətlər arasında birbaşa seçilib-seçilməyəcəyi ilə bağlı çoxdan bəri davam edən bir sual ilə əlaqədardır80 və ya sadəcə başqa yerlərdə edilən seçimləri canlandırın93,94. Dopaminin daha "yönlü" təsirə malik olmasının ən azı iki yolu var. Birincisi, dopamin, təbii olaraq istiqamətləndirici məlumatları emal edən bir beyin subregionunda hərəkət edərkən. Bazal ganglia sxemləri, potensial mükafatlara doğru yönəlmiş və yaxınlaşan mühüm, qismən yanal bir rol oynayır. Primal kaudat (~ DMS) göz hərəkətlərini kontralateral məkan sahələrinə aparır95. Qarışıq tərəfdəki bir şeyin yönəldilməsinə dəyər bir dopaminergik siqnal DMS-də dopaminergik aktivlik və kontralateral hərəkətlər arasında müşahidə olunan əlaqəni nəzərə ala bilər.72, həmçinin dopamin manipulyasiyalarının yaratdığı fırlanma davranışı96. Dopamin ikinci bir "yönümlü" təsiri, yüksək səyli / yüksək mükafatlı alternativlərə deyil, az səy / aşağı mükafat seçimlərinə qarşı (ikitərəfli) dopamin lezyonlarının siçovullara meyl etdikdə aydın olur.97. Bu, bəzi qərarların paraleldən daha çox ardıcıl olduğunu, siçovulların (və insanların) seçimlərini bir-bir-bir-bir qiymətləndirdiyini göstərir.98. Bu qərar kontekstində dopamin hələ qəbul edilmiş və ya qəbul olunmayan seçim dəyərini ötürərək köklü aktiv rol oynaya bilər.24.
Aktiv heyvanlar çox səviyyələrdə, çox vaxt yüksək nisbətdə qərar verirlər. Fərdi qərarlar haqqında düşünməkdən başqa, bir sıra ardıcıllıqla ümumi bir traektoriya nəzərdən keçirmək faydalı ola bilər (Əncir 1). Bir vəziyyətdən digərinə keçidləri asanlaşdırmaqla, dopamin öyrənilmiş traektoriyalar boyunca axını sürətləndirə bilər99. Bu davranış vaxtı üzərində dopaminin əhəmiyyətli təsirinə aid ola bilər44,100. Gələcək iş üçün bir əsas sərhəd, tək hüceyrələr, mikrosxemlər və geniş miqyaslı kortikal-bazal ganglia döngələri içərisində məlumat emalını dəyişdirərək, davamlı davranışa bu cür dopamin təsirinin mexaniki olaraq necə yarandığını daha dərindən anlamaqdır. Ayrıca, bir sıra striatal hədəflər arasında dopamin ümumi hesablama rollarını vurğulamışam, lakin əhəmiyyətli dərəcədə laqeyd olan kortikal hədəflər və hər iki quruluşdakı dopamin funksiyalarının eyni çərçivədə təsvir edilə biləcəyini görmək qalır.
Xülasə, dopamin adekvat təsviri dopamin qarışıqlıq olmadan eyni sürətli zaman tərəzi, həm öyrənmə, həm də motivasiya siqnal necə göstərə bilər izah edəcək. Dopamin hüceyrə atəşinə məruz qalmasa da, mükafat gözləməsi ilə əsas hədəflərdə olan dopamin sərbəst buraxılmasının səbəbini izah edəcəkdir. Bu, striatumda və başqa yerlərdə dopamin hərəkətlərinin vahid hesablama hesabını təmin edər, bu da hərəkətə, idraka və zamana fərqli davranış təsirlərini izah edir. Burada təqdim olunan bəzi spesifik fikirlər spekulyativdir, lakin yenilənmiş müzakirə, modelləşdirmə və incə yeni təcrübələri canlandırmaq üçün nəzərdə tutulmuşdur.
Təşəkkürlər.
Əvvəlki mətn layihələrində, o cümlədən Kent Berridge, Peter Dayan, Brian Knutson, Jeff Beeler, Peter Redgrave, John Lisman, Jesse Goldberg və anonim hakimlər haqqında dərin şərhlər verən çox sayda həmkarlarına təşəkkür edirəm. Təəssüf edirəm ki, kosmik məhdudiyyətlər bir çox vacib əvvəlcədən araşdırmaların qarşısını aldı. Əhəmiyyətli dəstək Milli Nevroloji Bozukluklar və Strok İnstitutu, Milli Ruh Sağlamlığı İnstitutu və Narkotik maddələrdən sui-istifadə Milli İnstitutu tərəfindən təmin edilmişdir.