Допамін в мотиваційному контролі: нагородження, аверсія і оповіщення (2010)

Нейрон. Авторський рукопис; доступний у PMC Dec 9, 2011.

Опубліковано в остаточному форматі:

PMCID: PMC3032992

NIHMSID: NIHMS253484

Див. Інші статті у PMC cite опублікованої статті.

Перейти до:

РЕЗЮМЕ

Нейрони дофаміну середнього мозку добре відомі своїми сильними реакціями на нагороди та їх критичну роль у позитивній мотивації. Проте стає все більш очевидним, що нейрони дофаміну також передають сигнали, пов'язані з важливими, але не нагороджуючими подіями, такими як аверсивні та попереджувальні події. Тут ми розглядаємо останні досягнення в розумінні функцій винагороди та не-винагороди дофаміну. Виходячи з цих даних, ми припускаємо, що нейрони дофаміну приходять в декількох типах, які пов'язані з різними мозковими мережами і мають чіткі ролі в мотиваційному контролі. Деякі дофамінові нейрони кодують мотиваційну цінність, підтримуючи мозкові мережі для пошуку, оцінки та ціннісного навчання. Інші кодують мотиваційний характер, підтримують мережі мозку для орієнтації, пізнання і загальної мотивації. Обидва типи нейронів дофаміну доповнюються сигналом оповіщення, який бере участь у швидкому виявленні потенційно важливих сенсорних сигналів. Ми припускаємо, що ці допамінергічні шляхи для цінності, значущості та оповіщення співпрацюють для підтримки адаптивної поведінки.

Вступ

Нейромедіатор дофамін (ДА) має вирішальну роль у мотиваційному контролі - у вивченні того, що речі в світі хороші і погані, і в виборі дій, щоб отримати хороші речі і уникнути поганих речей. Основними джерелами DA в корі головного мозку і в більшості підкіркових областях є DA-вивільняючі нейрони вентрального середнього мозку, розташовані в substantia nigra pars compacta (SNc) і вентральній тегментальной області (VTA) (Bjorklund і Dunnett, 2007). Ці нейрони передають DA у двох режимах: «тонічний» і «фазовий» (Грейс, 1991; Grace et al., 2007). У їх тонічному режимі DA нейрони підтримують стійкий базовий рівень DA в нижніх нейронних структурах, що є життєво важливим для забезпечення нормальних функцій нейронних ланцюгів (Шульц, 2007). У їх фазовому режимі DA нейрони різко збільшують або зменшують свої швидкості випалу протягом 100 – 500 мілісекунд, викликаючи великі зміни концентрацій DA в структурах, що тривають протягом декількох секунд (Шульц, 1998; Шульц, 2007).

Ці фазові відповіді DA ініціюються багатьма типами нагород і чуттєвих сигналів, пов'язаних із винагородою (Шульц, 1998) і ідеально підходять для виконання ролей ДА в мотиваційному контролі, включаючи його роль як навчального сигналу, що лежить в основі навчання, що підкріплюється (Schultz et al., 1997; Мудрий, 2005) і як стимулюючий сигнал, який сприяє негайному пошуку винагороди (Berridge і Robinson, 1998). Як наслідок, ці фазові сигнали винагороди DA взяли на себе важливу роль у теоріях про функції кортикальних і підкіркових ланцюгів і стали предметом інтенсивних досліджень з неврології. У першій частині цього огляду ми представимо загальноприйняту теорію фазових сигналів винагороди DA і розглянемо останні досягнення в розумінні їх природи та їх контролю над нейронною обробкою та поведінкою.

На відміну від загальноприйнятої ролі ПД в обробці винагороди, відбулися значні дебати щодо ролі фазової діяльності Д.О. Деякі теорії припускають, що фазові відповіді DA нейронів переважно кодують події, пов'язані з винагородою (Шульц, 1998; Бездоганна, 2004; Шульц, 2007), в той час як інші припускають, що DA нейрони передають додаткові сигнали, не пов'язані з винагородою, пов'язані з дивовижними, новими, важливими і навіть аверсивними досвідомRedgrave et al., 1999; Хорвіц, 2000; Ді Кьяра, 2002; Joseph et al., 2003; Pezze і Feldon, 2004; Лісман і Грейс, 2005; Редгрейв і Герні, 2006). У другій частині цього огляду ми будемо обговорювати ряд досліджень, які поставили ці теорії на випробування і виявили багато про природу ненагороджуваних сигналів в DA нейронах. Зокрема, ці дослідження підтверджують, що нейрони DA більш різноманітні, ніж вважалося раніше. Замість того, щоб кодувати єдиний однорідний мотиваційний сигнал, DA нейрони приходять в декількох типах, які кодують винагороду і не нагороджують подіями різними способами. Це створює проблему для загальних теорій, які намагаються ідентифікувати допамін з єдиним нейронним сигналом або мотиваційним механізмом.

Щоб виправити цю дилему, у заключній частині цього огляду ми пропонуємо нову гіпотезу для пояснення наявності декількох типів нейронів Д.А., природи їхніх нервових сигналів та їх інтеграції в різні мозкові мережі для мотиваційного контролю. Наша основна пропозиція полягає в наступному. Один тип DA нейронів кодує мотиваційне значення, збуджені нагородженням подій і гальмуються аверсивними подіями. Ці нейрони підтримують системи мозку для пошуку цілей, оцінки результатів і ціннісного навчання. Другий тип DA нейронів кодують мотиваційний характер, збуджені як корисними, так і аверсивними подіями. Ці нейрони підтримують системи мозку для орієнтування, когнітивної обробки і мотиваційного приводу. На додаток до своєї величини і активності, що кодує відмінність, обидва типи DA нейронів також передають сигнал попередження, викликані несподіваними сенсорними сигналами високого потенційного значення. Разом ми висуваємо гіпотезу, що ці значення, виразність і сигнали співпраці співпрацюють для координації структур мозку і контролюють мотивовану поведінку.

Допамін в нагороді: звичайна теорія

Допамін в мотивації дій, які шукають винагороди

Допамін давно відомий як важливий для посилення і мотивації дій. Препарати, які заважають передачі ДА, втручаються в навчання підкріпленню, тоді як маніпуляції, які підвищують передачу DA, такі як стимуляція мозку і наркотичні засоби, що викликають звикання, часто виступають як підсилювачіМудрий, 2004). Передача ДА є найважливішою для створення мотиваційного статусу для отримання винагороди (Berridge і Robinson, 1998; Salamone et al., 2007) і для встановлення спогадів про асоціації, що надають cue-reward (Dalley et al., 2005). Реліз Д. не є необхідним для всіх форм навчання винагороди і не завжди може бути "сподобався" в сенсі приносить задоволення, але він є критичним для того, щоб цілі стали "бажаними" в сенсі мотивації дій для їх досягнення (Berridge і Robinson, 1998; Пальмітер, 2008).

Одна гіпотеза про те, як допамін підтримує навчання підкріплення, полягає в тому, що він регулює силу синаптичних зв'язків між нейронами. Найпростіша версія цієї гіпотези полягає в тому, що дофамін контролює синаптичну пластичність згідно з модифікованим правилом Хебба, який можна грубо викласти як «нейрони, які спільно обпалюють провід, доки вони отримують викид дофаміну». Іншими словами, якщо клітина А активує клітину B, а клітина B викликає поведінкові дії, що призводять до винагороди, то дофамін буде вивільнений і зв'язок A → B буде посилено (Montague et al., 1996; Шульц, 1998). Цей механізм дозволить організму навчитися оптимальному вибору дій для отримання винагороди, отримавши достатній досвід проб і помилок. Відповідно до цієї гіпотези, допамін впливає на синаптичну пластичність у багатьох областях мозку (Surmeier et al., 2010; Goto et al., 2010; Molina-Luna et al., 2009; Marowsky et al., 2005; Лісман і Грейс, 2005). У деяких випадках дофамін дає можливість синаптичної пластичності уздовж ліній, описаних вище Хебба, таким чином, що співвідноситься з поведінкою, що шукає винагороду (Reynolds et al., 2001). На додаток до його впливу на довгострокову синаптичну пластичність, дофамін може також здійснювати безпосередній контроль над нейронними ланцюгами, модулюючи нервову пікова активність і синаптичні зв'язки між нейронами (Surmeier et al., 2007; Роббінс і Арнстен, 2009), у деяких випадках це робиться таким чином, що сприятиме негайному вживанню винагороди (Франк, 2005).

Нейрон дофаміну винагороджує сигнали

Для того, щоб мотивувати дії, які призводять до винагород, дофамін має бути вивільнений під час нагородження. Дійсно, більшість нейронів DA сильно активуються несподіваними первинними нагородами, такими як їжа і вода, часто виробляючи фазові "сплески" активності (Шульц, 1998) (фазові збудження, включаючи декілька спайків (Грейс і Банні, 1983)). Тим не менш, новаторські дослідження Вольфрама Шульца показали, що ці відповіді DA нейронів не викликані споживання винагороди сам по собі. Замість цього вони нагадують "помилку прогнозування винагороди", повідомляючи про різницю між отриманою винагородою та винагородою, яка передбачається (Schultz et al., 1997) (Малюнок 1A). Таким чином, якщо винагорода є більшою, ніж передбачено, DA нейрони сильно збуджуються (помилка позитивного прогнозування, Малюнок 1E, червоний); якщо винагорода є меншою, ніж передбачається або не відбувається в призначений час, DA нейрони фазово гальмуються (помилка негативного прогнозування, Малюнок 1E, синій); і якщо винагороду попередньо зафіксоване таким чином, що її розмір є повністю передбачуваним, DA нейрони мають мало або взагалі не відповідають (нульова помилка прогнозування, Малюнок 1C, чорний). Той же принцип застосовується для відповідей ДА на сенсорні сигнали, які надають нову інформацію про майбутні нагороди. DA нейрони збуджуються, коли сигнал свідчить про збільшення майбутнього значення винагороди (Малюнок 1C, червоний), заборонений, коли сигнал означає зниження майбутнього значення винагороди (Малюнок 1C, синій), і взагалі мало реагують на сигнали, які не передають нову інформацію про винагороду (Малюнок 1E, чорний). Ці відповіді DA нагадують певний тип помилки прогнозування винагороди, який називається помилкою тимчасової різниці, або "TD error", який був запропонований діяти як сигнал посилення для вивчення значення дій і станів навколишнього середовища (Houk et al., 1995; Montague et al., 1996; Schultz et al., 1997). Обчислювальні моделі, що використовують TD-подібний підсилювальний сигнал, можуть пояснити багато аспектів навчання підкріплення у самих людей, тварин і самих нейронів DA (Саттон і Барто, 1981; Waelti et al., 2001; Монтегю і Бернс, 2002; Даян і Нів, 2008).

малюнок 1 

Кодування дофаміну помилок передбачення передбачення і переваги для інтелектуальної інформації

Вражаючий спектр експериментів показав, що сигнали DA представляють передбачувані нагороди таким чином, що тісно співпадає з поведінковими уподобаннями, включаючи переваги великих винагород над малими (Tobler et al., 2005) ймовірні винагороди за неймовірні (Fiorillo et al., 2003; Satoh et al., 2003; Morris et al., 2004) і безпосередні винагороди за затримку (Roesch et al., 2007; Fiorillo et al., 2008; Кобаясі і Шульц, 2008). Існує навіть доказ того, що нейрони DA у людини кодують грошову вартість винагороди (Zaghloul et al., 2009). Крім того, сигнали ДА виникають під час навчання з подібним часом на поведінкові заходи прогнозування винагороди (Холлерман і Шульц, 1998; Satoh et al., 2003; Takikawa et al., 2004; Day et al., 2007) і співвідносяться з суб'єктивними заходами премії за винагороду (Morris et al., 2006). Ці знахідки встановили DA нейронів як один з кращих зрозумілих і найбільш відтворених прикладів кодування винагороди в мозку. Як результат, нещодавні дослідження піддали DA нейронів до інтенсивного вивчення, щоб виявити, як вони генерують передбачувані нагороди і як їхні сигнали діють на структури, що знаходяться нижче за течією, щоб контролювати поведінку.

Допамін в нагороді: останні досягнення

Нейрон дофаміну винагороджує сигнали

Останні досягнення в розумінні сигналів винагороди DA випливають з розгляду трьох широких запитань: як DA нейрони дізнаються нагороди? Наскільки точними є їхні прогнози? І що саме вони вважають корисним?

Як DA нейрони дізнаються нагороди передбачення? Класичні теорії наводять на думку, що винагороди передбачаються за допомогою поступового підкріплення, що вимагає повторних подразників стимулів-винагород (Rescorla і Wagner, 1972; Montague et al., 1996). Кожен часовий стимул A супроводжується несподіваною винагородою, оціночне значення A збільшується. Останні дані, однак, показують, що DA нейрони виходять за рамки простого стимулу-винагороди навчання і роблять прогнози на основі складних переконань про структуру світу. DA нейрони можуть передбачити правильні винагороди навіть у нетрадиційних середовищах, де винагороду поєднується з стимулом зменшити у значенні цього стимулу (Satoh et al., 2003; Nakahara et al., 2004; Bromberg-Martin et al., 2010c) або викликати зміну вартості зовсім іншого стимулу (Bromberg-Martin et al., 2010b). DA нейрони можуть також адаптувати свої винагороди сигнали на основі більш високого порядку статистики розподілу винагороди, такі як масштабування сигналів помилки передбачення на основі їх очікуваної дисперсії (Tobler et al., 2005) і "спонтанно відновлюючи" свої відповіді на погашені нагородиPan et al., 2008). Всі ці явища формують чудову паралельну подібну дію, що спостерігається в сенсорній та руховій адаптації (Braun et al., 2010; Fairhall et al., 2001; Shadmehr et al., 2010), припускаючи, що вони можуть відображати загальний нейронний механізм інтелектуального навчання.

Наскільки точними є передбачення DA за винагородою? Недавні дослідження показали, що DA нейрони вірно коригують свої винагороди за рахунок трьох джерел невизначеності прогнозування. По-перше, люди та тварини страждають від внутрішнього шуму, що перешкоджає їм робити достовірні прогнози про довгі інтервали часу-нагороди (Gallistel і Gibbon, 2000). Таким чином, якщо затримки cue-reward є короткими (1 – 2 секунд), прогнозування часу є точним, а показники доставки винагороди викликають невеликий відповідь DA, але для більш тривалих затримок відстеження часу сигнали стають менш надійними, а винагороди викликають чіткі вибухи DA (Кобаясі і Шульц, 2008; Fiorillo et al., 2008). По-друге, багато підказок у повсякденному житті є неточними, що вказує на широкий розподіл часу нагородження. DA нейрони знову відображають цю форму невизначеності часу: вони поступово гальмуються під час змінних затримок винагороди, як би сигналізуючи все більш негативні помилки передбачення нагородження в кожний момент, коли винагорода не з'являється (Fiorillo et al., 2008; Bromberg-Martin et al., 2010a; Nomoto et al., 2010). Нарешті, багато сигналів перцептуально складні, що вимагає детального обстеження для досягнення твердого висновку про їхню винагороду. У таких ситуаціях сигнали винагороди DA виникають при довгих затримках і поступово, відображаючи поступовий потік перцептивної інформації при декодуванні значення стимулу (Nomoto et al., 2010).

Які події DA нейрони розглядають як корисне? Звичайні теорії нагороди дозволяють припустити, що DA нейрони призначають значення на основі очікуваної суми майбутньої первинної винагороди (Montague et al., 1996). Проте навіть тоді, коли рівень первинної винагороди постійний, люди і тварини часто висловлюють додаткову перевагу для передбачуваного середовища, де розмір, ймовірність і терміни кожної винагороди можуть бути відомі заздалегідь (Daly, 1992; Чу і Хо, 1994; Ahlbrecht і Weber, 1996). Недавнє дослідження на мавпах виявило, що нейрони DA сигналізують про це (Бромберг-Мартін і Хікосака, 2009). Мавпи висловили сильне перевагу перегляду інформативних візуальних підказок, що дозволить їм передбачити розмір майбутньої винагороди, а не неінформативні сигнали, які не дають нової інформації. Паралельно, нейрони ДА були збуджені можливістю переглядати інформативні сигнали таким чином, щоб корелювати з поведінковими уподобаннями тварини (Малюнок 1B, D). Це говорить про те, що нейрони ДА не тільки мотивують дії для отримання винагороди, але й мотивують дії, щоб зробити точні прогнози про ці нагороди, щоб гарантувати, що нагороди можуть бути належним чином передбачені і підготовлені заздалегідь.

У сукупності ці дані показують, що сигнали про помилку прогнозування ПДО чутливі до складних факторів, які свідчать про передбачення людського та тваринного винагород, включаючи адаптацію до високооплачуваної статистики винагород, невизначеність винагороди та переваги для прогнозної інформації.

Ефекти фазових дофамінових сигналів винагороди на нижніх структурах

Відповіді на винахід DA відбуваються в синхронних фазових сплесках (Joshua et al., 2009b), шаблон відповіді, який формує вивільнення DA в цільових структурах (Gonon, 1988; Zhang et al., 2009; Tsai et al., 2009). Давно теоретизували, що ці фазові сплески впливають на навчання і мотивацію в чіткому порядку від тонічної активності ДА (Грейс, 1991; Grace et al., 2007; Шульц, 2007; Lapish et al., 2007). Нещодавно розроблена технологія дозволила підтвердити цю гіпотезу, керуючи діяльністю нейронів DA з тонкою просторовою та часовою точністю. Оптогенетична стимуляція нейронів ДТА індукує сильне умовне перевагу місця, яке виникає лише тоді, коли стимуляція застосовується в розривною схемою (Tsai et al., 2009). І навпаки, генетичний нокаут NMDA-рецепторів від DA-нейронів, який погіршує розрив, залишаючи тонічну активність значною мірою неушкодженою, викликає виборче порушення в конкретних формах навчання винагороди (Zweifel et al., 2009; Parker et al., 2010) (хоча зауважимо, що цей нокаут також погіршує DA нейронних синаптичну пластичність (Zweifel et al., 2008)). Пакети DA можуть підвищити рівень заохочення за допомогою реконфігурації локальних нейронних ланцюгів. Слід зазначити, що передбачувані за винагороду DA вибухи відправляються до конкретних регіонів nucleus accumbens, і ці області мають особливо високий рівень прогнозованої нейрональної активності (Cheer et al., 2007; Owesson-White et al., 2009).

У порівнянні з фазовими спалахами, менше відомо про важливість фазових пауз у пікової активності для негативних помилок прогнозування винагороди. Ці паузи спричиняють менші зміни швидкості сплескання, менш модулюються очікуванням винагороди (Bayer і Glimcher, 2005; Joshua et al., 2009a; Nomoto et al., 2010), і можуть мати менший вплив на навчання (Rutledge et al., 2009). Однак, певні типи навчання помилок прогнозування негативного характеру вимагають VTA (Takahashi et al., 2009), що припускає, що фазові паузи все ще можуть бути розшифровані структурами, розташованими нижче за течією.

Оскільки вибухи і паузи викликають дуже різні закономірності вивільнення ДА, вони, ймовірно, впливають на структури нижче за течією через різні механізми. Останнім часом є докази цієї гіпотези в одній великій мішені нейронів Д.А. Нейрони проекції спинного стриатума виникають у двох типах, які експресують різні DA рецептори. Один тип виражає рецептори D1 і проектує «прямий шлях» базальних гангліїв для полегшення рухів тіла; другий тип виражає рецептори D2 і проектує "непрямий шлях" для придушення рухів тіла (малюнок 2) (Albin et al., 1989; Gerfen et al., 1990; Kravitz et al., 2010; Hikida et al., 2010). Виходячи з властивостей цих шляхів і рецепторів, було висунуто теорію, що вибухи DA створюють умови високого DA, активують рецептори D1 і викликають прямий шлях до вибору великих значень рухів (Малюнок 2A), тоді як DA паузи виробляють умови низького DA, інгібують D2 рецептори, і викликають непрямий шлях для придушення низькоцінних рухів (Малюнок 2B) (Франк, 2005; Hikosaka, 2007). Відповідно до цієї гіпотези, активація високих рецепторів DA сприяє потенціюванню кортико-стритальних синапсів на прямий шлях (Shen et al., 2008) і вивчення позитивних результатів (Frank et al., 2004; Voon et al., 2010), в той час як блокада стриральних рецепторів D1 вибірково знижує рух до цільових цілей (Накамура і Хікосака, 2006). Аналогічним чином активація низького рецептора DA сприяє потенціюванню кортико-стриатальних синапсів на непрямий шлях (Shen et al., 2008) і навчання від негативних результатів (Frank et al., 2004; Voon et al., 2010), в той час як блокада стриральних рецепторів D2 вибірково пригнічує переміщення до ненаведених цілей (Накамура і Хікосака, 2006). Такий розподіл функцій рецептора D1 і D2 в мотиваційному контролі пояснює багато ефектів генів, пов'язаних з DA, на поведінку людини (Ullsperger, 2010; Франк і Фосселла, 2010) і може виходити за межі спинного стриатума, оскільки є докази подібного поділу праці в вентральному стриатуме (Grace et al., 2007; Lobo et al., 2010).

малюнок 2 

Контроль дофаміну позитивної та негативної мотивації в спинному стриатуме

Хоча наведена вище схема малює просту картину фазового контролю поведінки DA через її вплив на стриатум, повна картина набагато складніша. DA впливає на поведінку, пов'язану з винагородою, діючи на багато областей мозку, включаючи префронтальний кора (Hitchcott et al., 2007), кора носоглотки (Liu et al., 2004), гіпокампу (Packard і White, 1991; Grecksch і Matties, 1981) і мигдалину (Phillips et al., 2010). Вплив DA, ​​ймовірно, сильно відрізнятиметься між цими регіонами внаслідок змін щільності іннервації DA, DA-транспортерів, метаболічних ферментів, авторецепторів, рецепторів і зв'язування рецепторів з внутрішньоклітинними сигнальними шляхами (Neve et al., 2004; Bentivoglio і Morelli, 2005; Франк і Фосселла, 2010). Крім того, принаймні у VTA, DA нейрони можуть мати різні клітинні властивості в залежності від їх проекційних цілей (Lammel et al., 2008; Margolis et al., 2008), а деякі мають чудову здатність передавати глутамат, а також дофамін (Descarries et al., 2008; Chuhma et al., 2009; Hnasko et al., 2010; Tecuapetla et al., 2010; Stuber et al., 2010; Birgner et al., 2010). Таким чином, повний ступінь контролю над нейронною обробкою нейронів тільки починає виявлятися.

Допамін: поза винагородою

До цих пір ми обговорювали роль нейронів ДА у поведінці, пов'язаній з винагородою, засновану на відповідях дофаміну, що нагадують помилки передбачення винагороди. Проте стає все більш очевидним, що DA-нейрони фазово реагують на кілька типів подій, які не є внутрішніми і не є сигналами майбутніх винагород, і що ці не-винагороди мають важливу роль у мотиваційній обробці. Ці події, які не передбачають винагород, можна згрупувати у дві великі категорії, аверсивний та попереджаючи, про які ми детально розповімо нижче. Аверсивні події включають в себе суттєво небажані подразники (такі як повітряні напухання, гіркі смаки, електричні шоки та інші неприємні відчуття) і сенсорні сигнали, які набули аверсивних властивостей через асоціацію з цими подіями. Попереджувальні події є несподіваними сенсорними сигналами високого потенціалу, які, як правило, викликають негайну реакцію, щоб визначити їх значення.

Різноманітні реакції дофаміну на аверсивні події

Реакція нейрона на аверсивні події є важливим випробуванням його функцій в мотиваційному контролі (Шульц, 1998; Berridge і Robinson, 1998; Redgrave et al., 1999; Хорвіц, 2000; Joseph et al., 2003). У багатьох відношеннях ми сприймаємо винагороду і аверсивні події в протилежних манерах, відображаючи їхню протилежність мотиваційне значення. Ми шукаємо винагороди і призначаємо їм позитивне значення, а уникаємо аверсивних подій і призначаємо їм негативне значення. В інших відносинах ми сприймаємо винагороду і аверсивні події подібним чином, відображаючи їх подібне мотиваційний характер [FOOTNOTE1]. Як корисні, так і аверсивні події викликають орієнтацію уваги, когнітивну обробку та підвищення загальної мотивації.

Яку з цих функцій підтримують нейрони DA? Давно відомо, що стресові та аверсивні досліди викликають значні зміни концентрацій ДА у структурах головного мозку, і що поведінкові реакції на цей досвід різко змінюються агоністами, антагоністами та ураженнями ДАSalamone, 1994; Ді Кьяра, 2002; Pezze і Feldon, 2004; Young et al., 2005). Проте ці дослідження дали вражаючу різноманітність результатів (Levita et al., 2002; Ді Кьяра, 2002; Young et al., 2005). Багато досліджень узгоджуються з нейронами DA, що кодують мотиваційний характер. Вони повідомляють, що аверсивні події збільшують рівень DA і що поведінкова відраза підтримується високими рівнями передачі DA (Salamone, 1994; Joseph et al., 2003; Ventura et al., 2007; Barr et al., 2009; Fadok et al., 2009), включаючи фазові вибухи DA (Zweifel et al., 2009). Але інші дослідження більш узгоджуються з нейронами DA, що кодують мотиваційну цінність. Вони повідомляють, що аверсивні події знижують рівні DA і що поведінкова відраза підтримується низькими рівнями передачі DA (Mark et al., 1991; Shippenberg et al., 1991; Liu et al., 2008; Roitman et al., 2008). У багатьох випадках ці змішані результати були знайдені в окремих дослідженнях, що свідчить про те, що аверсивні досвіди викликають різні закономірності вивільнення DA в різних структурах мозку (Thierry et al., 1976; Бессон і Луїло, 1995; Ventura et al., 2001; Jeanblanc et al., 2002; Bassareo et al., 2002; Pascucci et al., 2007), і що пов'язані з DA препарати можуть виробляти суміш нейронних і поведінкових ефектів, подібних до тих, що викликаються як корисним, так і негативним досвідом (Ettenberg, 2004; Wheeler et al., 2008).

Це різноманіття зразків і функцій вивільнення DA важко узгодити з ідеєю, що DA нейрони передають рівномірний мотиваційний сигнал до всіх структур мозку. Ці різноманітні відповіді можна пояснити, однак, якщо самі нейрони Д. є різноманітними - складаються з численних нейронних популяцій, які підтримують різні аспекти аверсивної обробки. Ця думка підтверджується дослідженнями нейронних записів у анестезованих тварин. Ці дослідження показали, що шкідливі стимули викликають збудження в деяких нейронах DA, але інгібування в інших нейронах DA (Chiodo et al., 1980; Maeda і Mogenson, 1982; Шульц і Ромо, 1987; Mantz et al., 1989; Gao et al., 1990; Coizet et al., 2006). Важливо відзначити, що як нейтральні, так і інгібіторні відповіді виникають у нейронів, які підтверджують дофамінергічність за допомогою юкстакулярної мітки (Brischoux et al., 2009) (малюнок 3). Подібна різноманітність аверсивних реакцій відбувається під час активної поведінки. Різні групи нейронів DA фазово збуджуються або інгібуються аверсивними подіями, включаючи шкідливу стимуляцію шкіри (Кияткін, 1988a; Кияткін, 1988b), сенсорні сигнали, що передбачають аверсивні шоки (Guarraci і Kapp, 1999), аверсивніМацумото і Хікосака, 2009b), а також сенсорні сигнали, які передбачають аверсивніМацумото і Хікосака, 2009b; Joshua et al., 2009a). Більш того, коли два DA нейрони записуються одночасно, їх аверсивні відповіді, як правило, мають невелику кореляцію проб до суду (Joshua et al., 2009b), що свідчить про те, що негативні відповіді не узгоджені між населенням ДА в цілому.

малюнок 3 

Різні відповіді допамінових нейронів на аверсивні події

Щоб зрозуміти функції цих різноманітних негативних відповідей, ми повинні знати, як вони поєднуються з відповідями на винагороду, щоб генерувати змістовний мотиваційний сигнал. Недавнє дослідження дослідило цю тему і виявило, що DA нейрони розділені на множинні групи з чіткими мотиваційними сигналами (Мацумото і Хікосака, 2009b). Одна популяція збуджується шляхом нагородження подій і гальмується аверсивними подіями, як би кодування мотиваційне значення (Малюнок 4A). Друга популяція збуджується як корисними, так і аверсивними подіями подібними манерами, як би кодування мотиваційний характер (Малюнок 4B). В обох цих популяціях багато нейронів чутливі до винагороди та аверсивних прогнозів: вони реагують, коли корисні події є більш корисними, ніж передбачається, і коли аверсивні події є більш схильними, ніж передбачено (Мацумото і Хікосака, 2009b). Це показує, що їхні негативні відповіді дійсно викликані прогнозами про негативні події, виключаючи можливість того, що вони можуть бути викликані неспецифічними факторами, такими як необроблений сенсорний вхід або узагальнені асоціації з винагородою (Шульц, 2010). Ці дві популяції, однак, відрізняються деталізованим характером їх інтелектуального коду. Мотиваційне значення кодування DA нейронів кодує точний сигнал помилки прогнозування, включаючи сильне гальмування шляхом упущення винагород і м'якого збудження опущенням аверсивних подій (Малюнок 4A, праворуч). Навпаки, мотиваційне відмінність кодування DA нейронів реагує на наявність явних подій, але не тоді, коли вони відсутні (Малюнок 4B, праворуч), що відповідає теоретичним уявленням про збудження (Ланг і Девіс, 2006) [FOOTNOTE2]. Докази для цих двох популяцій DA нейронів спостерігалися навіть тоді, коли нейронна активність була досліджена усередненим чином. Таким чином, дослідження, спрямовані на різні частини системи DA, виявили фазові DA-сигнали, що кодують аверсивні події з інгібуванням (Roitman et al., 2008), подібно до кодування мотиваційного значення або з порушенням (Joshua et al., 2008; Anstrom et al., 2009), аналогічно кодуванню мотиваційного характеру.

малюнок 4 

Відмінні популяції нейронів дофаміну, що кодують мотиваційну цінність і виразність

Ці недавні висновки можуть суперечити раннім повідомленням про те, що нейрони ДА відповідають на користь, а не на аверсивні сигнали (Mirenowicz і Schultz, 1996). Однак при детальному вивченні навіть це дослідження повністю узгоджується зі значенням DA та кодуванням виокремленості. У цьому дослідженні сигнали винагороди призвели до результатів нагородження з високою ймовірністю (> 90%), тоді як аверсивні сигнали призвели до аверсивних результатів з низькою ймовірністю (<10%). Отже, значення нейронів DA, ​​що кодують виокремлення, мало б реагувати на аверсивні сигнали, точно кодуючи їх низький рівень аверсивності.

Функціональна роль мотиваційних цінностей і сигналів вибірковості

Взяті разом, вищезазначені висновки показують, що DA нейрони розділені на декілька популяцій, придатних для різних ролей в мотиваційному контролі. Мотиваційне значення кодує DA нейронів добре вписується в сучасні теорії нейронів дофаміну та обробки винагороди (Schultz et al., 1997; Berridge і Robinson, 1998; Мудрий, 2004). Ці нейрони кодують повний сигнал помилки передбачення і кодують корисні і аверсивні події в протилежних напрямках. Таким чином, ці нейрони забезпечують відповідний повчальний сигнал для пошуку, оцінки та вивчення вартості (малюнок 5). Якщо стимул викликає збудження DA нейронів, що кодують значення, ми повинні підходити до нього, присвоювати йому високу цінність і вчитися діям, щоб шукати його знову в майбутньому. Якщо стимул призводить до пригнічення нейронів DA, ​​що кодують значення, то ми повинні уникати його, присвоювати йому низьке значення, і вчитися дії, щоб уникнути його знову в майбутньому.

малюнок 5 

Гіпотетичні функції мотиваційної цінності, значущості та сигналів оповіщення

Навпаки, мотиваційне відмінність кодує DA нейронів добре вписується в теорії дофамінових нейронів і обробки важливих подій (Redgrave et al., 1999; Хорвіц, 2000; Joseph et al., 2003; Капур, 2003). Ці нейрони збуджуються як корисними, так і аверсивними подіями і мають більш слабкі відповіді на нейтральні події, забезпечуючи відповідний повчальний сигнал для нейронних схем, щоб навчитися виявляти, прогнозувати і реагувати на ситуації, що мають велике значення. Тут ми розглянемо три такі системи мозку (малюнок 5). По-перше, нейронні ланцюги для орієнтації на візуальне та уважне настроювання калібруються для виявлення інформації про всі типи подій, як корисних, так і аверсивних. Наприклад, як нагорода, так і аверсивні сигнали привертають орієнтаційні реакції більш ефективно, ніж нейтральні сигнали (Ланг і Девіс, 2006; Мацумото і Хікосака, 2009b; Остін і Дука, 2010). По-друге, як винагороджуючі, так і аверсивні ситуації залучають нейронні системи для когнітивного контролю та відбору дій - нам потрібно задіяти робочу пам’ять, щоб мати на увазі інформацію, вирішення конфліктів для прийняття рішення про дію та довготривалу пам’ять, щоб запам’ятати результат (Bradley et al., 1992; Botvinick et al., 2001; Savine et al., 2010). По-третє, як корисні, так і негативні ситуації вимагають збільшення загальної мотивації для активізації дій і забезпечення їх виконання належним чином. Дійсно, DA-нейрони мають вирішальне значення в мотивації зусиль для досягнення високоцінних цілей і в перекладі знань вимог завдання в надійну моторну продуктивність (Berridge і Robinson, 1998; Mazzoni et al., 2007; Niv et al., 2007; Salamone et al., 2007).

Збудження дофаміну шляхом оповіщення сенсорних сигналів

На додаток до своїх сигналів, що кодують мотиваційну цінність та виразність, більшість нейронів ДА також мають реакції на кілька видів сенсорних подій, які безпосередньо не пов'язані з корисним або аверсивним досвідом. Теоретично, ці відповіді залежать від низки нейронних і психологічних факторів, включаючи прямий сенсорний вхід, подив, новизну, збудження, увагу, виразність, узагальнення та псевдокондиціювання (Шульц, 1998; Redgrave et al., 1999; Хорвіц, 2000; Лісман і Грейс, 2005; Редгрейв і Герні, 2006; Joshua et al., 2009a; Шульц, 2010).

Тут ми спробуємо синтезувати ці ідеї і врахувати ці відповіді DA у вигляді єдиного базового сигналу сигнал попередження (малюнок 5). Термін "попередження" використовувався Schultz (Шульц, 1998) як загальний термін для подій, які привертають увагу. Тут ми будемо використовувати його в більш конкретному сенсі. Під час попереджувальної події ми маємо на увазі несподіваний сенсорний кий, який привертає увагу на основі швидкої оцінки її потенційної важливості, використовуючи прості функції, такі як її розташування, розмір і сенсорна модальність. Такі попереджувальні події часто викликають негайні поведінкові реакції, щоб дослідити їх і визначити їх точне значення. Таким чином, сигнали оповіщення DA, як правило, виникають при коротких латентностях, ґрунтуються на грубих характеристиках стимулу і найкраще корелюють з негайними реакціями, такими як орієнтаційні реакції (Шульц і Ромо, 1990; Joshua et al., 2009a; Шульц, 2010). Це на відміну від інших мотиваційних сигналів у нейронах ДА, які зазвичай відбуваються при більш довгих латентностях, враховують точну ідентичність стимулу і найкраще корелюють з розглянутими поведінковими діями, такими як рішення для наближення або уникнення (Шульц і Ромо, 1990; Joshua et al., 2009a; Шульц, 2010).

Реакції попередження DA можуть бути викликані дивовижними сенсорними подіями, такими як несподівані спалахи світла і кліренс слуху, які викликають помітні вибухові збудження в 60 – 90% DA нейронів по всьому SNc і VTA (Стрекер і Якобс, 1985; Horvitz et al., 1997; Хорвіц, 2000) (Малюнок 6A). Ці попереджувальні відповіді, здається, відображають ступінь, з якою стимул дивує і захоплює увагу; вони зменшуються, якщо стимул відбувається в передбачувані часи, якщо увагу залучено в іншому місці, або під час сну (Шульц, 1998; Takikawa et al., 2004; Стрекер і Якобс, 1985; Steinfels et al., 1983). Наприклад, несподіваний звук клацання викликає відомий вибух Д.А., коли кішка знаходиться в пасивному стані спокійного пробудження, але не діє, коли кіт бере участь у заходах, що вимагають уваги, таких як полювання на щура, годування, догляд, пестик експериментатором і так далі (Стрекер і Якобс, 1985) (Малюнок 6A). Аналогічним чином, відповіді на вибух DA викликаються сенсорними подіями, які є фізично слабкими, але попереджають через їхню новизну (Ljungberg et al., 1992; Шульц, 1998). Ці відповіді звикають, коли новий стимул стає звичним, паралельно зі звиканням до орієнтуючих реакцій (Малюнок 6B). Відповідно до цих висновків, дивовижні та нові події викликають вивільнення DA у структурах, що знаходяться нижче за течієюЛісман і Грейс, 2005) і активувати пов'язані з DA мозкові ланцюги таким чином, що формує обробку винагороди (Zink et al., 2003; Davidson et al., 2004; Duzel et al., 2010).

малюнок 6 

Збудливі реакції дофамінових нейронів на попереджувальні події

Відповіді на попередження DA також викликані несподіваними сенсорними сигналами, які мають потенціал для надання нової інформації про мотиваційно важливі події. Як і очікувалося для сигналу оповіщення короткого часу затримки, ці відповіді досить неселективні: вони спрацьовують будь-яким стимулом, який просто походить мотиваційно виразний кий, навіть якщо подібність дуже незначна (явище, яке називається узагальненням) (Шульц, 1998). Як наслідок, DA нейрони часто реагують на стимул з сумішшю двох сигналів: швидкий сигнал оповіщення, що кодує той факт, що стимул потенційно важливий і другий сигнал, що кодує його фактичний нагородження або аверсивний зміст (Шульц і Ромо, 1990; Waelti et al., 2001; Tobler et al., 2003; Day et al., 2007; Кобаясі і Шульц, 2008; Fiorillo et al., 2008; Nomoto et al., 2010) (подивитися (Какаде і Даян, 2002; Joshua et al., 2009a; Шульц, 2010) для перегляду). Приклад можна побачити в наборі мотиваційних відмінностей, що кодують DA нейронів, показаних на рис Малюнок 6C (Bromberg-Martin et al., 2010a). Ці нейрони були збуджені нагородою і аверсивними репліками, але вони також були збуджені нейтральною кий. Нейтральна репліка ніколи не була пов'язана з мотиваційними наслідками, але мала (дуже незначну) фізичну подібність до нагороди та відвертих сигналів.

Ці попереджувальні відповіді, здається, тісно пов'язані зі здатністю сенсорного сигналу викликати орієнтуючі реакції, щоб вивчити її далі і виявити її значення. Це можна побачити в трьох помітних властивостях. По-перше, відповіді на сповіщення відбуваються лише для сенсорних сигналів, які необхідно вивчити, щоб визначити їхній зміст, а не для іскрознавчих чи аверсивних подій, таких як доставка соку або повітряних пузирів (Шульц, 2010). По-друге, відповіді на попередження виникають лише тоді, коли сигнал є потенційно важливим і має здатність викликати орієнтаційні реакції, а не тоді, коли сигнал не має відношення до поставленої задачі і не може викликати орієнтаційні реакції (Шульц і Ромо, 1990). По-третє, відповіді на сповіщення підвищуються в ситуаціях, коли сигнали викликатимуть різке зміщення уваги - коли вони з'являться в несподіваний час або далеко від центру погляду (Bromberg-Martin et al., 2010a). Таким чином, коли мотиваційні сигнали представлені з непередбачуваними термінами, вони викликають негайну реакцію орієнтування та узагальнену реакцію з попередженням DA - збудження всіма сигналами, включаючи нейтральні сигнали (Малюнок 6C, чорний). Але якщо їхній час є передбачуваним - наприклад, попереджаючи суб'єктів, які мають "пробну версію", представлену за секунду до появи сигналів - сигнали більше не викликають попереджувальної відповіді (Малюнок 6D, сірий). Натомість, відповідь на сповіщення переходить на стартову пробну версію - перша подія випробування, яка має непередбачуваний час і викликає реакції орієнтування (Малюнок 6D, чорний).

Який основний механізм генерує сигнали оповіщення DA нейронів? Одна гіпотеза полягає в тому, що відповіді на сповіщення є просто звичайними сигналами помилок прогнозування винагороди, які виникають при коротких латентностях, кодуючи очікуване значення винагороди стимулу до того, як він був повністю дискримінованим (Какаде і Даян, 2002). Більш пізні дані свідчать, що сигнали оповіщення можуть генеруватися окремим механізмом від звичайних сигналів винагород DA (Satoh et al., 2003; Bayer і Glimcher, 2005; Bromberg-Martin et al., 2010a; Bromberg-Martin et al., 2010c; Nomoto et al., 2010). Найбільш вражаючим є те, що відповідь на попереджувальний сигнал на початковий кий не обмежується корисними завданнями; вона може мати рівну силу під час аверсивного завдання, в якому не надається винагорода (Малюнок 6C, D, знизу, «аверсивне завдання»). Це відбувається навіть при тому, що звичайні сигнали винагороди DA в одних і тих же нейронах правильно сигналізують про те, що завдання нагородження має набагато більш високе очікуване значення, ніж аверсивне завдання (Bromberg-Martin et al., 2010a). Ці сигнали оповіщення не є суто формою кодування величин або чисто кодуванням відхилень, оскільки вони виникають у більшості як мотиваційне значення, так і кодування DA, що кодує DA ().Bromberg-Martin et al., 2010a). Другу дисоціацію можна побачити так, як нейрони ДА передбачають майбутні винагороди на основі пам'яті минулих результатів винагороди (Satoh et al., 2003; Bayer і Glimcher, 2005). У той час як звичайні сигнали винагородження DA контролюються датчиком тривалості пам'яті, оптимізованим для точного прогнозування винагороди, оповіщення про відповідь на пробний початковий сигнал контролюється окремою трасою пам'яті, що нагадує реакцію безпосереднього орієнтування (Bromberg-Martin et al., 2010c). Третя дисоціація може бути видна в тому, як ці сигнали розподілені по популяції DA нейронів. У той час як звичайні сигнали винагородження DA є найсильнішими у вентромедіальному SNc, оповіщення відповідей на пробний старт (і на інші несподівано приурочені сигнали) транслюються по всьому SNc (Nomoto et al., 2010).

На відміну від цих дисоціацій від звичайних сигналів винагороди, сигнали оповіщення DA корелюють зі швидкістю орієнтування та наближенням відповідей на подію попередження (Satoh et al., 2003; Bromberg-Martin et al., 2010a; Bromberg-Martin et al., 2010c). Це говорить про те, що сигнали оповіщення генеруються нейронним процесом, який мотивує швидкі реакції для дослідження потенційно важливих подій. В даний час, на жаль, відносно мало відомо про те, які події цей процес розглядає як «важливий». Наприклад, повідомляють відповіді, які однаково чутливі до корисних і неприйнятних подій? Відомо, що відповіді на сповіщення виникають для стимулів, які нагадують підказки, або які нагадують як нагороду, так і аверсивні сигнали (наприклад, поділяючи одну і ту ж сенсорну модальність). Але ще невідомо, чи відбуваються попереджувальні відповіді на подразники, які лише нагадують неприємні сигнали.

Функціональна роль дофамінових сигналів

Як ми бачили, сигнали оповіщення, ймовірно, будуть генеруватися окремим механізмом від мотиваційних значень і сигналів виразності. Однак сигнали оповіщення відправляються як до мотиваційного значення, так і до нейронів DA, ​​що кодують відмінність, і тому, ймовірно, регулюють обробку мозку і поведінку подібним чином до значень і сигналів виразності (малюнок 5).

Сигнали, що посилаються на мотиваційні відхилення, кодують DA нейронів, будуть підтримувати орієнтування уваги на стимулюючий стимул, залучення когнітивних ресурсів для виявлення його сенсу і прийняття рішення про план дій, а також підвищення рівня мотивації для ефективного здійснення цього плану (малюнок 5). Ці ефекти можуть виникати через негайне вплив на нейронну обробку або посилення дій, які призвели до виявлення події, що викликає попередження. Ця функціональна роль добре вписується в кореляцію між відповідями DA та швидкими поведінковими реакціями на стимулюючий стимул, а також з теоріями, що відповіді DA нейронів короткої затримки беруть участь у орієнтації уваги, збудженні, посиленні когнітивної обробки та негайних поведінкових реакціях (Redgrave et al., 1999; Хорвіц, 2000; Joseph et al., 2003; Лісман і Грейс, 2005; Редгрейв і Герні, 2006; Joshua et al., 2009a).

Наявність сигналів оповіщення в мотиваційному значенні, що кодує DA нейронів, більш важко пояснити. Ці нейрони передають сигнали мотиваційної цінності, які ідеально підходять для пошуку, оцінки результатів і ціннісного навчання; але вони також можуть бути збуджені, попереджуючи події, такі як несподівані звуки клацання і початок аверсивних випробувань. Згідно з нашою гіпотезою (малюнок 5), це призведе до того, що події попередження будуть присвоєні позитивному значенню і будуть шукатися таким чином, як і винагороди! Хоча це дивує на перший погляд, є підстави підозрювати, що оповіщення про події можна розглядати як позитивні цілі. Сигнали сповіщення надають перше попередження про те, що потенційно важлива подія має відбутися, і, отже, дають першу можливість вжити заходів для контролю цієї події. Якщо є сигнали оповіщення, мотиваційно важливі події можуть бути виявлені, передбачені і підготовлені заздалегідь; якщо сигнали оповіщення відсутні, мотиваційно важливі події завжди виникають як несподіваний сюрприз. Дійсно, люди та тварини часто висловлюють перевагу середовищам, де можна спостерігати та прогнозувати нейтральні, сприятливі та навіть мотиваційно нейтральні сенсорні події (Badia et al., 1979; Herry et al., 2007; Daly, 1992; Чу і Хо, 1994), і багато нейронів DA сигналізують про поведінкові переваги для перегляду інтелектуальної інформаціїБромберг-Мартін і Хікосака, 2009). Сигнали оповіщення DA можуть підтримувати ці переваги, надаючи позитивне значення середовищам, де потенційно важливі сенсорні сигнали можна передбачити заздалегідь.

Нейронні шляхи для мотиваційної цінності, виразності і оповіщення

До цих пір ми розділили нейрони DA на два типи, які кодують мотиваційну цінність і мотиваційну значимість і підходять для різних ролей в мотиваційному контролі (малюнок 5). Як ця концептуальна схема відображається на нейронних шляхах мозку? Тут ми пропонуємо гіпотезу про анатомічні розташування цих нейронів, їх проекції на структури вниз і джерела їх мотиваційних сигналів (Фігури 6,, 77).

малюнок 7 

Гіпотезували анатомічне розташування і проекції мотиваційного значення дофаміну і виразність кодуючих нейронів

Анатомічні розташування значень і виразність кодуючих нейронів

Нещодавнє дослідження відобразило розташування DA винагороди та аверсивних сигналів у бічному середньому мозку, включаючи SNc і пізнішу частину VTA (Мацумото і Хікосака, 2009b). Сигнали мотиваційної цінності та мотиваційної виразності були розподілені по цій області в анатомічному градієнті. Сигнали мотиваційної цінності були знайдені частіше в нейронах вентромедіального SNc і в латеральному ВТА, тоді як мотиваційні сигнали виявлялися частіше в нейронах дорсолатерального SNc (Малюнок 7B). Це узгоджується з повідомленнями про те, що кодування значення винагородження DA є найсильнішим у вентромедіальному SNc (Nomoto et al., 2010), в той час як аверсивні збудження, як правило, сильніші з боків (Mirenowicz і Schultz, 1996). Інші дослідження вивчили більш медіальний середній мозок. Ці дослідження виявили суміш збудливих та інгібіторних аверсивних реакцій без істотної різниці в їх розташуванні, хоча з тенденцією аверсивних збуджень розташовуватися більш вентрально (Guarraci і Kapp, 1999; Brischoux et al., 2009) (Малюнок 7C).

Напрямки сигналів мотиваційної цінності

Згідно з нашою гіпотезою, мотиваційне кодування DA нейронів повинно проектувати до областей мозку, що беруть участь у діях підходу та уникнення, оцінці результатів та вивченні цінностей (малюнок 5). Дійсно, вентромедіальний SNc і VTA-проект до вентромедіального префронтального кори (Вільямс і Голдман-Ракіч, 1998), включаючи орбітофронтальну кору (OFC) (Porrino і Goldman-Rakic, 1982) (Малюнок 7A). OFC послідовно втягувався у кодування значень у функціональних дослідженнях зображення (Anderson et al., 2003; Small et al., 2003; Jensen et al., 2007; Litt et al., 2010) і окремі записи нейронів (Моррісон і Зальцман, 2009; Роше і Олсон, 2004). Очікується, що OFC оцінює варіанти вибору (Padoa-Schioppa, 2007; Kable і Glimcher, 2009), кодують очікування результатів (Schoenbaum et al., 2009), і оновити ці очікування під час навчання (Walton et al., 2010). Крім того, OFC бере участь у вивченні негативних помилок прогнозування винагороди (Takahashi et al., 2009), які є найбільш сильними в нейронах DA, що кодують значення (малюнок 4).

Крім того, медіальні частини дофамінергічного проекту середнього мозку до вентрального стриатуму, включаючи оболонку nucleus accumbens (оболонку NAc) (Haber et al., 2000) (Малюнок 7A). Недавнє дослідження показало, що оболонка NAc отримує фазові сигнали DA, що кодують мотиваційне значення результатів смаку (Roitman et al., 2008). Ці сигнали, ймовірно, призводять до вивчення вартості, оскільки пряме вливання препаратів DA в оболонку NAc сильно підсилює (Ikemoto, 2010), в той час як процедури, що зменшують вхід DA в оболонку, можуть викликати спотворення (Liu et al., 2008). Одне застереження полягає в тому, що дослідження звільнення DA оболонки DA протягом тривалих часових інтервалів (хвилин) дають неоднозначні результати, деякі узгоджуються з кодуванням значень, а інші - з кодуванням виразності (наприклад, (Bassareo et al., 2002; Ventura et al., 2007)). Це говорить про те, що сигнали значення можуть бути обмежені конкретними місцями в межах оболонки NAc. Примітно, що різні регіони оболонки NAc спеціалізуються на контролі апетитної та аверсної поведінки (Рейнольдс і Берридж, 2002), які обидва вимагають введення з нейронів DA (Faure et al., 2008).

Нарешті, DA-нейрони по всій протяжності SNc посилають важкі проекції на спинний стриатум (Haber et al., 2000), що свідчить про те, що дорсальний стриатум може отримувати як мотиваційне значення, так і сигнали виразності, що кодують DA (Малюнок 7A). Мотиваційне значення кодує DA нейронів буде забезпечувати ідеальний повчальний сигнал для струнної схеми, залученої до навчання цінності, наприклад, вивчення навичок стимулу-відповіді (Faure et al., 2005; Інь і Ноултон, 2006; Balleine і O'Doherty, 2010). Коли ці DA нейрони розриваються, вони залучають прямий шлях, щоб навчитися отримувати винагороду; коли вони призупиняються, вони залучаються до непрямого шляху, щоб навчитися уникати негативних наслідків (малюнок 2). Дійсно, останнім часом з'явилися свідчення того, що стриатальні шляхи йдуть саме за таким розподілом праці за винагороду та аверсивну обробку (Hikida et al., 2010). Проте досі невідомо, як нейрони в цих шляхах реагують на корисні та неприйнятні події під час поведінки. Принаймні в дорзальному стриатуме в цілому, підмножина нейронів реагує на певні корисні та відвернені події в різних манерах (Ravel et al., 2003; Yamada et al., 2004, 2007; Joshua et al., 2008).

Напрямки сигналів мотиваційного відзначення

Згідно з нашою гіпотезою, мотиваційне відмінність кодування DA нейронів повинна проектуватися до областей мозку, що беруть участь у орієнтуванні, когнітивній обробці та загальній мотивації (малюнок 5). Дійсно, DA-нейрони в дорсолатеральному середньому мозку посилають проекції до дорсального і латерального фронтального кори (Вільямс і Голдман-Ракіч, 1998) (Малюнок 7A), область, яка була залучена до когнітивних функцій, таких як пошук уваги, робоча пам'ять, когнітивний контроль і прийняття рішень між мотиваційними результатами (Вільямс і Кастнер, 2006; Лі і Сео, 2007; Мудрий, 2008; Kable і Glimcher, 2009; Уолліс і Кеннерлі, 2010). Дорзолатеральні префронтальні когнітивні функції жорстко регулюються рівнями ДА (Роббінс і Арнстен, 2009) і теоретично залежать від фазової активації нейронів DA (Cohen et al., 2002; Lapish et al., 2007). Примітно, що підмножина латеральних префронтальних нейронів реагує як на корисні, так і на аверсивні візуальні сигнали, і переважна більшість відповідає в тому ж напрямку, що нагадує кодування мотиваційної виразності (Kobayashi et al., 2006). Крім того, активність цих нейронів корелює з поведінковим успіхом при виконанні завдань робочої пам'яті (Kobayashi et al., 2006). Хоча цей дорсолатеральний шлях ДА → дорсолатерального фронтального кори головного мозку є специфічним для приматів (Вільямс і Голдман-Ракіч, 1998), функціонально подібний шлях може існувати в інших видах. Зокрема, багато когнітивних функцій дорсолатеральної префронтальної кори приату виконуються медіальною префронтальною корою гризунів (Uylings et al., 2003), і є докази того, що цей регіон отримує сигнали про мотиваційну значимість DA і керує поведінкою, пов'язаною з вимогами (Mantz et al., 1989; Ді Кьяра, 2002; Joseph et al., 2003; Ventura et al., 2007; Ventura et al., 2008).

Враховуючи докази того, що VTA містить як нейрони кодування виразності, так і значення кодування значень, і що сигнали кодування величин відправляються до оболонки NAc, сигнали відсутності можуть бути відправлені до ядра NAc (Малюнок 7A). Дійсно, ядро ​​NAc (але не оболонка) має вирішальне значення для забезпечення мотивації для подолання витрат на відповідь, таких як фізичні зусилля; для виконання задач, які потребують когнітивної гнучкості; а також для того, щоб дозволити нагороджувати сигнали, щоб викликати підвищення загальної мотивації (Ghods-Sharifi і Floresco, 2010; Floresco et al., 2006; Hall et al., 2001; Кардинал, 2006). Відповідно до кодування мотиваційного характеру, ядро ​​NAc отримує фазові спалахи DA під час обох корисних досвіду (Day et al., 2007) і негативний досвід (Anstrom et al., 2009).

Нарешті, як обговорювалося вище, деякі суботність, що кодує DA нейронів, може проеціюватися до спинного стриатума (Малюнок 7A). Хоча деякі області дорсального стриатуму задіяні у функціях, пов'язаних з цінностями навчання, спинний стриатум також бере участь у функціях, які повинні бути задіяні для всіх важливих подій, таких як орієнтація, увага, робоча пам'ять та загальна мотивація (Hikosaka et al., 2000; Klingberg, 2010; Пальмітер, 2008). Дійсно, підмножина дорзальних стриатичних нейронів більш сильно реагує на корисні та неприйнятні події, ніж на нейтральні події (Ravel et al., 1999; Blazquez et al., 2002; Yamada et al., 2004, 2007), хоча їх причинно-наслідкова роль в мотивованій поведінці поки не відома.

Джерела мотиваційних сигналів цінності

Недавній ряд досліджень припускає, що DA-нейрони отримують сигнали мотиваційної цінності від малого ядра в епіталамусі, латеральному habenula (LHb) (Hikosaka, 2010) (малюнок 8). LHb надає потужний негативний контроль над нейронами DA: стимуляція LHb інгібує нейрони DA при коротких латентностях (Christoph et al., 1986) і може регулювати навчання навпаки стимуляції VTA (Shumake et al., 2010). Відповідно до негативного контрольного сигналу, багато нейронів LHb мають дзеркально інвертовані фазові відповіді на нейрони DA: нейрони LHb гальмується позитивними помилками прогнозування винагород і збуджений за допомогою помилок прогнозування від'ємних винагород (Мацумото і Хікосака, 2007, 2009a; Bromberg-Martin et al., 2010a; Bromberg-Martin et al., 2010c). У деяких випадках ці сигнали відбуваються при більш коротких затримках в LHb, що узгоджується з LHb → DA передачею (Мацумото і Хікосака, 2007; Bromberg-Martin et al., 2010a).

малюнок 8 

Гіпотези джерел мотиваційної цінності, значущості та сигналів оповіщення

LHb здатний керувати нейронами DA по всьому середньому мозку, але кілька рядків доказів свідчать про те, що він надає переважний контроль над мотиваційним кодуванням DA нейронів. По-перше, LHb-нейрони кодують мотиваційне значення таким чином, щоб тісно віддзеркалювали нейрони DA-кодування DA - вони кодують як позитивні, так і негативні помилки прогнозування винагороди і реагують в протилежних напрямках на корисні та неприйнятні події (Мацумото і Хікосака, 2009a; Bromberg-Martin et al., 2010a). По-друге, стимуляція LHb має свої найпотужніші ефекти на нейрони DA, властивості яких узгоджуються зі значенням кодування, включаючи інгібування ненагороджуючими сигналами та анатомічним розташуванням у вентромедіальному SNc (Мацумото і Хікосака, 2007, 2009b). По-третє, ураження LHb погіршують інгібіторні реакції нейронів DA на аверсивні події, припускаючи причинну роль LHb у генеруванні сигналів значення DA (Gao et al., 1990).

LHb є частиною більш широкого нервового шляху, за допомогою якого нейрони DA можуть контролюватися базальними гангліями (малюнок 8). LHb отримує сигнали, що нагадують помилки прогнозування винагороди, через проекцію з популяції нейронів, розташованих навколо межі глобуса pallidus (GPb) (Хонг і Хікосака, 2008). Як тільки ці сигнали досягають LHb, вони, ймовірно, будуть спрямовані до нейронів DA через дисинаптичний шлях, в якому LHb збуджує нейрони GABA середнього мозку, які, в свою чергу, пригнічують нейрони DA (Джи і Шепард, 2007; Omelchenko et al., 2009; Brinschwitz et al., 2010). Це може відбуватися через LHb-проекції до інтернейронів у VTA та до сусіднього GABA-ергічного ядра, що називається ростромедіальним тегментальним ядром (RMTg) (Jhou et al., 2009b) (також називається "хвостовим хвостом VTA" (Kaufling et al., 2009)). Примітно, що нейрони RMTg мають властивості відповіді, подібні до нейронів LHb, кодують мотиваційне значення і мають важку інгібуючу проекцію на допамінергічний середній мозок (Jhou et al., 2009a). Таким чином, повний шлях базальних гангліїв для передачі сигналів мотиваційної цінності до DA нейронів може бути GPb → LHb → RMTg → DA (Hikosaka, 2010).

Важливим питанням для майбутніх досліджень є те, чи мотиваційні сигнали вартості направляються виключно через LHb або вони переносяться кількома вхідними шляхами. Слід зазначити, що інгібування DA шляхом аверсивних ударів ногами контролюється активністю в мезопонтинном парабрахіальному ядрі (PBN) (Coizet et al., 2010) (малюнок 8). Це ядро ​​містить нейрони, які отримують прямий вхід від спинного мозку, що кодує шкідливі відчуття, і може інгібувати нейрони DA через збудливі проекції на RMTg (Coizet et al., 2010; Гауро і Бернард, 2002). Це свідчить про те, що LHb посилає сигнали мотиваційних значень DA нейронів як для корисних, так і для аверсивних сигналів і результатів, в той час як PBN надає компонент значення сигналу, специфічно пов'язаного з аверсивними результатами.

Джерела мотиваційних сигналів виклику

Менше відомо про джерело мотиваційних сигналів відсутності в DA нейронах. Один інтригуючий кандидат - це центральне ядро ​​мигдалини (CeA), яке послідовно втягувалося в орієнтацію, увагу та загальні мотиваційні відповіді під час як корисних, так і негативних подій (Голландія і Галлахер, 1999; Бакстер і Мюррей, 2002; Merali et al., 2003; Balleine і Killcross, 2006) (малюнок 8). CeA та інші ядра мигдалини містять багато нейронів, сигнали яких узгоджуються з мотиваційною виразністю: вони сигналізують про корисні та аверсивні події в одному напрямку, посилюються, коли події відбуваються несподівано, і співвідносяться з поведінковими заходами збудження (Nishijo et al., 1988; Belova et al., 2007; Шабель і Джанак, 2009). Ці сигнали можуть бути відправлені до DA нейронів, оскільки CeA має низхідні проекції на стовбур мозку, що несуть корисну та аверсивну інформацію (Lee et al., 2005; Pascoe і Kapp, 1985) і CeA необхідне для випуску ПД під час подій, пов'язаних з винагородою (Phillips et al., 2003a). Крім того, CeA бере участь з DA нейронами в шляхах, які відповідають нашим запропонованим анатомічним і функціональним мережам для мотиваційної виразності. Шляхи, що включають CeA, SNc і дорсальний стриатум, необхідні для того, щоб навчитися орієнтуватися на харчові сигнали (Han et al., 1997; Lee et al., 2005; Ель-Амамі і Голландія, 2007). Відповідно до нашого розподілу сигналів відмінності та вартості, цей шлях необхідний для навчання, щоб зорієнтуватися на харчові сигнали, але не для того, щоб навчитися підходити до результатів харчування (Han et al., 1997). Другий шлях, включаючи CEA, SNc, VTA, і NAc ядро, необхідний для нагородження сигналів, щоб викликати збільшення загальної мотивації для виконання винагороди шукає дії (Hall et al., 2001; Corbit і Balleine, 2005; Ель-Амамі і Голландія, 2007).

На додаток до CeA, DA нейрони могли отримувати сигнали мотиваційного відзначення з інших джерел, таких як нейрони, що кодують відмінності, в базальному передньому мозку (Lin та Nicolelis, 2008; Річардсон і Делонг, 1991) і нейронів у PBN (Coizet et al., 2010), хоча ці шляхи залишаються для вивчення.

Джерела сигналів оповіщення

Є кілька хороших кандидатів для забезпечення DA нейронів з сигналами оповіщення. Можливо, найпривабливішим кандидатом є верхній колікуляр (SC), ядро ​​середнього мозку, який отримує сенсорний вхід з короткими затримками від множинних сенсорних модальностей і контролює орієнтуючі реакції та увагу (Редгрейв і Герні, 2006) (малюнок 8). ДК має пряму проекцію на SNc і VTA (May et al., 2009; Comoli et al., 2003). У анестезованих тварин СК є життєво важливим каналом для коротколатентних візуальних сигналів для досягнення нейронів ДА і спрацьовування ДА у низхідних структурах (Comoli et al., 2003; Dommett et al., 2005). Шлях SC-DA найкраще підходить для передачі сигналів оповіщення, а не сигналів винагороди та відхилення, оскільки нейрони SC мають малу реакцію на доставку винагороди і мають лише слабкий вплив на аверсивні відповіді DA (Coizet et al., 2006). Це свідчить про послідовність подій, в яких SC нейрони (1) виявляють стимул, (2) вибирають його як потенційно важливе, (3) ініціюють орієнтуючу реакцію для вивчення стимулу, і (4) одночасно викликають відповідь DA, що викликає, що викликає вибух DA в низхідних структурах (Редгрейв і Герні, 2006).

Другим кандидатом для передачі сигналів оповіщення до DA нейронів є LHb (малюнок 8). Слід зазначити, що несподіване початок пробного пускового сигналу пригнічує багато нейронів LHb в зворотному напрямку до сигналу оповіщення DA нейронів, і ця реакція відбувається при більш короткому затримці в LHb, що відповідає LHb → DA напрямку передачіBromberg-Martin et al., 2010a; Bromberg-Martin et al., 2010c). Ми також анекдотично зауважили, що нейрони LHb зазвичай інгібуються несподіваними візуальними образами і звуками в зворотному порядку до збуджень DA (MM, ESB-M і OH, неопубліковані спостереження), хоча це очікується на більш систематичне дослідження.

Нарешті, третім кандидатом для передачі сигналів оповіщення до DA нейронів є ядро ​​pedunculopontine tegmental (PPTg), яке проектується як для SNc, так і для VTA і бере участь у мотиваційній обробці (Winn, 2006) (малюнок 8). PPTg є важливим для того, щоб активувати сплески нейронів VTA DA (Grace et al., 2007) включаючи пакети відповідей на винагородуPan і Hyland, 2005). Відповідно до сигналу оповіщення, нейрони PPTg мають короткочасну відповідь на множинні сенсорні модальності і є активними під час орієнтаційних реакцій (Winn, 2006). Є дані про те, що на чутливі відповіді PPTg впливають цінність винагороди та вимоги до негайних дій (Dormont et al., 1998; Okada et al., 2009) (але перегляньте (Pan і Hyland, 2005)). Деякі нейрони PPTg також самі реагують на корисні або негативні результати (Dormont et al., 1998; Kobayashi et al., 2002; Івлієва та Тимофєєва, 2003b, a). Буде важливо перевірити, чи сигнали, які PPTg посилає DA нейронам, пов'язані саме з оповіщенням або містять інші мотиваційні сигнали, такі як цінність і виразність.

Напрямки подальших досліджень

Ми розглянули природу нагороджувальних, аверсивних і оповіщувальних сигналів в DA нейронах і запропонували гіпотезу про основні нервові шляхи та їх роль у мотивованій поведінці. Ми вважаємо це робочою гіпотезою, керівництвом для майбутніх теорій і досліджень, які приведуть нас до більш повного розуміння. Тут ми будемо висвітлювати кілька областей, де потрібне подальше дослідження, щоб виявити більш глибокі складності.

В даний час наше розуміння нервових шляхів, що лежать в основі сигналів ДА, знаходяться на ранній стадії. Таким чином, ми спробували зробити висновок про джерела та місця призначення значень та сигналів кодування DA у значній мірі на основі непрямих заходів, таких як властивості нейронної реакції та функціональні ролі різних областей мозку. Це буде важливо поставити ці шляхи кандидатів до прямого випробування і виявити їх детальні властивості, допомагаючи недавно розробленими інструментами, які дозволяють контролювати передачу DA (Robinson et al., 2008) і контрольовані (Tsai et al., 2009; Tecuapetla et al., 2010; Stuber et al., 2010) з високою просторовою і часовою точністю. Як зазначалося вище, деякі з цих структур-кандидатів мають топографічну організацію, що свідчить про те, що їх зв'язок з DA-нейронами також може бути топографічним. Нейронні джерела фазових DA-сигналів також можуть бути більш складними, ніж прості провідні шляхи, які ми запропонували, оскільки нейронні структури, які зв'язуються з нейронами DA, щільно взаємопов'язані (Geisler і Zahm, 2005) і DA нейрони можуть зв'язуватися один з одним в межах середнього мозку (Ford et al., 2010).

Ми зосередилися на обраному наборі DA-нейронних зв'язків, але DA-нейрони отримують функціональний вхід з багатьох додаткових структур, включаючи субталамічне ядро, пізньородистеральне ядро, ліжко ядра Stria terminalis, префронтальний кора, вентральний паллідум і латеральний гіпоталамус (Grace et al., 2007; Shimo і Wichmann, 2009; Jalabert et al., 2009). Зокрема, бічні нейрони гіпоталамуса орексину проектуються до нейронів DA, ​​активуються скоріше, ніж аверсивні події, і викликають поведінку, яка шукає наркотики (Харріс і Астон-Джонс, 2006), що свідчить про можливу роль у функціях, пов'язаних з цінністю. Нейрони DA також посилають проекції на багато додаткові структури, включаючи гіпоталамус, гіпокамп, мигдалину, habenula і велику кількість коркових областей. Примітно, що передня поясна кору головного мозку (АКК) була запропонована для отримання сигналів помилок прогнозування винагород з нейронів ДА (Holroyd і Coles, 2002) і містить нейрони з активністю, позитивно пов'язаною з мотиваційною цінністю (Koyama et al., 1998). Однак активація ACC також пов'язана з аверсивною обробкою (Vogt, 2005; Johansen and Fields, 2004). Ці функції АКК можуть підтримуватися сумішшю мотиваційних значень ДА і сигналів вибірковості, які будуть важливі для тестування в майбутньому. Дійсно, нервові сигнали, пов'язані з помилками прогнозування винагороди, були зареєстровані в декількох областях, включаючи медіальну префронтальную коруMatsumoto et al., 2007; Seo і Lee, 2007), орбітофронтальна кора (Sul et al., 2010) (але перегляньте (Takahashi et al., 2009; Кеннерлі і Уолліс, 2009)), і спинного стриатума (Kim et al., 2009; Oyama et al., 2010), і їх причинно-наслідковий зв'язок з діяльністю нейронів DA залишається відкритим.

Ми описували мотиваційні події простою дихотомією, класифікуючи їх як «корисні» або «аверсивні». Проте ці категорії містять велику різноманітність. Аверсивна хвороба поступова, тривала і викликана внутрішніми подіями; аверсивний повітряний пузир є швидким, коротким і викликаним зовнішнім світом. Ці ситуації вимагають дуже різних поведінкових реакцій, які, ймовірно, підтримуються різними нейронними системами. Крім того, хоча ми зосередили наше обговорення на двох типах DA-нейронів з сигналами, що нагадують мотиваційну цінність і виразність, то ретельне дослідження показує, що DA нейрони не обмежуються цією суворою дихотомією. Як вказується нашим поняттям анатомічного градієнта, деякі нейрони ДА передають суміші як сигнальних, так і ціннісних сигналів; інші нейрони ДА реагують на корисні, але не аверсивні події (Мацумото і Хікосака, 2009b; Bromberg-Martin et al., 2010a). Ці міркування дозволяють припустити, що деякі нейрони ДА можуть не кодувати мотиваційні події вздовж нашої інтуїтивної осі «добра» проти «поганого» і можуть бути спеціалізованими для підтримки конкретних форм адаптивної поведінки.

Навіть у сфері винагороди є докази того, що DA нейрони передають різні сигнали нагороди до різних областей мозку (Бассарео і Ді Кьяра, 1999; Ito et al., 2000; Стефані і Могаддам, 2006; Wightman et al., 2007; Aragona et al., 2009). Різні відповіді, зазначені в SNc і VTA, включають нейрони, які: реагують тільки на початок випробування (Roesch et al., 2007), можливо, кодує чистий сигнал оповіщення; по-різному реагують на зорові та слухові модальності (Стрекер і Якобс, 1985), можливо, отримують вхідні дані від різних нейронів SC і PPTg; відповісти на першу або останню подію в послідовності (Равель і Річмонд, 2006; Джин і Коста, 2010); стійку активацію ризиковими нагородами (Fiorillo et al., 2003); або активуються під час рухів тіла (Шульц, 1986; Кияткін, 1988a; Puryear et al., 2010; Джин і Коста, 2010) (Дивіться також (Phillips et al., 2003b; Stuber et al., 2005)). Хоча кожна з цих схем відповіді повідомлялася лише в меншій кількості досліджень або нейронів, ці дані свідчать про те, що DA нейрони потенційно можуть бути розділені на набагато більшу кількість функціонально різних груп населення.

Останнім і важливим моментом є те, що нинішні дослідження запису в поведінці тварин ще не забезпечують повністю вичерпних вимірювань активності нейронів DA, ​​оскільки ці дослідження дозволяли розрізняти тільки DA і не-DA нейрони з використанням непрямих методів, заснованих на таких нейронних властивостях. як швидкість стрільби, хвилеподібне сплеск і чутливість до агоністів рецепторів D2 (Грейс і Банні, 1983; Шульц, 1986). Ці методики, очевидно, ідентифікують DA нейронів надійно в межах SNc, що вказується кількома лініями доказів, включаючи порівняння внутрішньоклітинних і позаклітинних методів, юклестерових записів і ефектів DA-специфічних уражень (Грейс і Банні, 1983; Grace et al., 2007; Brown et al., 2009). Проте останні дослідження показують, що цей метод може бути менш надійним у VTA, де DA і не DA-нейрони мають більш широке різноманіття клітинних властивостей (Margolis et al., 2006; Margolis et al., 2008; Lammel et al., 2008; Brischoux et al., 2009). Навіть безпосередні вимірювання концентрацій ДА у структурах, що знаходяться нижче, не дають переконливих доказів активності пікового нейрону DA, оскільки концентрації ДА можна контролювати додатковими факторами, такими як глутаматергічна активація терміналів ДА аксона (Cheramy et al., 1991) і швидкі зміни в діяльності транспортерів ДА (Zahniser і Sorkin, 2004). Для виконання повністю кінцевих вимірювань активності нейронів DA під час активної поведінки необхідно використовувати нові методи запису, такі як комбінування позаклітинного запису з оптиогенной стимуляцією (Джин і Коста, 2010).

Висновок

Впливова концепція нейронів DA середнього мозку полягала в тому, що вони передають єдиний мотиваційний сигнал всім низхідним структурам. Тут ми розглянули докази, що сигнали DA є більш різноманітними, ніж загальноприйняті. Замість того, щоб кодувати однорідний сигнал, DA нейрони приходять в декількох типах, які відправляють різні мотиваційні повідомлення про корисні та невигідні події. Навіть одиночні нейрони ДА не передають одиночні мотиваційні сигнали. Замість цього DA нейрони передають суміші безлічі сигналів, що генеруються різними нейронними процесами. Деякі відображають детальні прогнози про корисність та аверсивний досвід, в той час як інші відображають швидку реакцію на події з високим потенціалом.

Крім того, ми запропонували гіпотезу про природу цих різноманітних DA-сигналів, нейронні мережі, що їх генерують, і їх вплив на структури мозку і на мотивовану поведінку. Нашу пропозицію можна розглядати як синтез попередніх теорій. Багато попередніх теорій намагалися ідентифікувати нейрони Д. з єдиним мотиваційним процесом, таким як пошук цінних цілей, залучення мотиваційно важливих ситуацій або реагування на попередження про зміни у навколишньому середовищі. На наш погляд, DA нейрони отримують сигнали, пов'язані з усіма цими трьома процесами. Проте замість того, щоб дистилювати ці сигнали в єдине повідомлення, ми запропонували, щоб DA нейрони передавали ці сигнали на різні структури мозку, щоб підтримувати різні нейронні системи для мотивованого пізнання і поведінки. Деякі нейрони ДА підтримують системи мозку, які призначають мотиваційну цінність, сприяючи діям, спрямованим на пошук корисних подій, уникаючи аверсивних подій, і забезпечуючи, що попереджувальні події можна заздалегідь передбачити і підготувати. Інші нейрони ДА підтримують системи мозку, які задіяні мотиваційною відзнакою, включаючи орієнтування на виявлення потенційно важливих подій, когнітивну обробку для вибору відповіді і запам'ятовування її наслідків, а також мотивацію до збереження оптимального результату. Ми сподіваємося, що ця пропозиція допоможе нам прийти до більш витонченого розуміння функцій ДА в мозку, в якому нейрони нейронів пристосовують свої сигнали для підтримки декількох нейронних мереж з чіткими ролями в мотиваційному контролі.

ПОДЯКА

Цю роботу підтримала внутрішня наукова програма Національного очного інституту. Ми також дякуємо Емі Арнстен за цінні дискусії.

Виноски

Заява видавця: Це PDF-файл неозброєного рукопису, який був прийнятий до публікації. Як послугу нашим клієнтам ми надаємо цю ранню версію рукопису. Рукопис буде підданий копіюванню, набору тексту та перегляду отриманого доказу до його опублікування в остаточній формі. Зверніть увагу, що під час виробничого процесу можуть бути виявлені помилки, які можуть вплинути на вміст, і всі правові застереження, які стосуються журналу, стосуються.

FOOTNOTE1By мотиваційний характер ми розуміємо величину, яка є високою як для корисних, так і для аверсивних подій, і є низькою для мотиваційно нейтральних (не нагороджують і неаверсивних) подій. Це схоже з визначенням, наданим (Berridge і Robinson, 1998). Зауважимо, що мотиваційна відмінність відрізняється від інших уявлень про значущість, що використовуються в неврології, таких як стимулююча відмінність (що стосується лише бажаних подій;Berridge і Robinson, 1998)) і перцептуальний характер (що застосовується до мотиваційно нейтральних подій, таких як рухомі об'єкти і кольорові вогні;Bisley і Goldberg, 2010)).]

FOOTNOTE2Зауважимо, що мотиваційні сигнали кодування DA нейронні сигнали відрізняються від класичних понять «асоціативність» і «зміна асоціативності», які були запропоновані для регулювання швидкості навчання підкріплення (наприклад, (Пірс і Холл, 1980)). Такі теорії стверджують, що тварини вивчають (і регулюють частоту навчання) як від позитивних, так і від негативних помилок передбачення. Хоча ці нейрони ДА можуть сприяти вивченню з позитивних помилок передбачення, під час яких вони можуть мати сильну реакцію (наприклад, на непередбачувану доставку винагороди), вони можуть не сприяти вивченню негативних помилок прогнозування, під час яких вони можуть мати мало або взагалі не реагувати наприклад, до несподіваного упущення винагород ()4B).

Посилання

  1. Ahlbrecht M, Weber M. Дозвіл невизначеності: експериментальне дослідження. Журнал інституціональної та теоретичної економіки. 1996: 152: 593 – 607.
  2. Albin RL, Young AB, Penney JB. Функціональна анатомія порушень базальних гангліїв. Тенденції нейронаук. 1989: 12: 366 – 375. [PubMed]
  3. Андерсон А.К., Крістофф К, Stappen I, Panitz D, Ghahremani DG, Glover G, Gabrieli JD, Sobel N. Роз'єднані нейронні уявлення інтенсивності і валентності в людських нюхах. Nat Neurosci. 2003: 6: 196 – 202. [PubMed]
  4. Анстром К.К., Міцк К.А., Будигін Е.А. Підвищення фазової дофамінової сигналізації в мезолімбічному шляху під час соціальної поразки у щурів. Неврологія. 2009: 161: 3 – 12. [PubMed]
  5. Aragona BJ, Day JJ, Roitman MF, Cleaveland NA, Wightman RM, Carelli RM. Регіональна специфічність в реальному часі розвитку фазових моделей передачі дофаміну під час придбання асоціації cue-кокаїну у щурів. Європейський журнал неврології. 2009: 30: 1889 – 1899. [PMC безкоштовна стаття] [PubMed]
  6. Austin AJ, Duka T. Механізми уваги до апетитних і негативних результатів у кондиціонування Павлова. Поведінкові дослідження мозку. 2010: 213: 19 – 26. [PubMed]
  7. Badia P, Harsh J, Abbott B. Вибір між передбачуваними та непередбачуваними умовами шоку: дані та теорія. Психологічний бюлетень. 1979: 86: 1107 – 1131.
  8. Balleine BW, Killcross S. Паралельна стимулююча обробка: інтегрований погляд на функцію амігдали. Тенденції нейронаук. 2006: 29: 272 – 279. [PubMed]
  9. Balleine BW, O'Doherty JP. Гомології людини та гризунів у контролі дії: кортикостріальні детермінанти цілеспрямованої та звичної дії. Нейропсихофармакологія. 2010; 35: 48–69. [PMC безкоштовна стаття] [PubMed]
  10. Barr GA, Moriceau S, Shionoya K, Музні K, Гао P, Ван S, Sullivan RM. Переходи в дитячому навчанні модулюються дофаміном в мигдалині. Nat Neurosci. 2009: 12: 1364 – 1366. [PMC безкоштовна стаття] [PubMed]
  11. Bassareo V, De Luca М.А., Di Chiara G. Диференціальне вираження мотиваційних властивостей стимулу дофаміном в оболонці Nucleus Accumbens проти ядра і префронтальної кори. J Neurosci. 2002: 22: 4709 – 4719. [PubMed]
  12. Бассарео В., Ді Кьяра Г. Диференціальна чутливість передачі дофаміну до харчових стимулів в ядрі акумулює оболонки / ядра. Неврологія. 1999: 89: 637 – 641. [PubMed]
  13. Baxter MG, Murray EA. Мигдалини і винагороди. Nat Rev Neurosci. 2002: 3: 563 – 573. [PubMed]
  14. Bayer HM, Glimcher PW. Нейрони дофаміну середнього мозку кодують сигнал кількісної помилки прогнозування винагороди. Нейрон. 2005: 47: 129 – 141. [PMC безкоштовна стаття] [PubMed]
  15. Белова М.А., Патон JJ, Morrison SE, Salzman CD. Очікування модулює нейронні реакції на приємні та відхильні стимули в мигдалині приматів. Нейрон. 2007: 55: 970 – 984. [PMC безкоштовна стаття] [PubMed]
  16. Bentivoglio M, Morelli M. Організація і схеми мезенцефальних дофамінергічних нейронів і розподіл дофамінових рецепторів у мозку. Довідник з хімічної нейроанатомії. 2005: 1 – 107.
  17. Berridge KC, Robinson TE. У чому полягає роль допаміну в нагороді: гедонічний вплив, нагорода навчання або стимулююче відзначення? Дослідження мозку. 1998: 28: 309 – 369. [PubMed]
  18. Бессон С, Луїлот А. Асиметричне залучення мезолімбічних допамінергічних нейронів в афективне сприйняття. Неврологія. 1995: 68: 963 – 968. [PubMed]
  19. Birgner C, Nordenankar K, Lundblad M, Mendez JA, Smith C, Le Greves M, Galter D, Olson L, Fredriksson A, Trudeau LE, et al. VGLUT2 в нейронах дофаміну необхідний для індукованої психостимулятором поведінкової активації. Праці Національної академії наук Сполучених Штатів Америки. 2010: 107: 389 – 394. [PMC безкоштовна стаття] [PubMed]
  20. Bisley JW, Goldberg ME. Увага, намір і пріоритет у тім'яній частці. Щорічний огляд неврології. 2010: 33: 1 – 21. [PMC безкоштовна стаття] [PubMed]
  21. Bjorklund A, Dunnett SB. Нейронні системи дофаміну в мозку: оновлення. Тенденції нейронаук. 2007: 30: 194 – 202. [PubMed]
  22. Blazquez PM, Fujii N, Kojima J, Graybiel AM. Мережеве представлення ймовірності реакції в смугастому тілі. Нейрон. 2002: 33: 973 – 982. [PubMed]
  23. Ботвінік М.М., Бравер Т.С., Барч Д.М., Картер Ц.С., Коен Дж. Моніторинг конфліктів та когнітивний контроль. Psychol Rev. 2001, 108: 624 – 652. [PubMed]
  24. Бредлі М.М., Грінвальд М.К., Петрі MC, Lang PJ. Згадуючи картини: задоволення і збудження в пам'яті. J Exp Psychol Вивчайте Mem Cogn. 1992: 18: 379 – 390. [PubMed]
  25. Braun DA, Mehring C, Wolpert DM. Структура навчання в дії. Поведінкові дослідження мозку. 2010: 206: 157 – 165. [PMC безкоштовна стаття] [PubMed]
  26. Brinschwitz K, Dittgen A, Madai VI, Lommel R, Geisler S, Veh RW. Глутаматергічні аксони з латерального habenula в основному закінчуються на GABAergic нейронах вентрального середнього мозку. Неврологія. 2010: 168: 463 – 476. [PubMed]
  27. Brischoux F, Chakraborty S, Brierley DI, Ungless MA. Фазове збудження дофамінових нейронів в вентральному ВТА шкідливими стимулами. Праці Національної академії наук Сполучених Штатів Америки. 2009: 106: 4894 – 4899. [PMC безкоштовна стаття] [PubMed]
  28. Бромберг-Мартін Е.С., Хікосака О. Молекулярні нейрони дофаміну сигналу віддають перевагу попередній інформації про майбутні нагороди. Нейрон. 2009: 63: 119 – 126. [PMC безкоштовна стаття] [PubMed]
  29. Бромберг-Мартін Е.С., Мацумото М., Хікосака О. Відмінна тонічна і фазова активація в бічних і дофамінових нейронах. Нейрон. 2010: 67 – 144. [PMC безкоштовна стаття] [PubMed]
  30. Бромберг-Мартін Е.С., Мацумото М., Хонг С, Хікосака О. Паллідус-хабенула-дофаміновий шлях сигналів виведених значень стимулу. J Neurophysiol. 2010: 104: 1068 – 1076. [PMC безкоштовна стаття] [PubMed]
  31. Бромберг-Мартін Е.С., Мацумото М., Накахара Х., Хікосака О. Множинні часові межі пам'яті в бічних хабеналах і нейронах дофаміну. Нейрон. 2010: 67: 499 – 510. [PMC безкоштовна стаття] [PubMed]
  32. Браун МТС, Хенні П, Болам JP, Магілл PJ. Активність нейрохімічно гетерогенних дофамінергічних нейронів в чорній субстанції під час спонтанних і керованих змін стану мозку. J Neurosci. 2009: 29: 2915 – 2925. [PubMed]
  33. Кардинал РН. Нейронні системи втягуються в уповільнене і ймовірнісне підкріплення. Нейронна мережа. 2006: 19: 1277 – 1301. [PubMed]
  34. Візьміть JF, Aragona BJ, Heien ML, Seipel AT, Carelli RM, Wightman RM. Скоординоване вивільнення допаміну і нейронна активність призводять до цілеспрямованої поведінки. Нейрон. 2007: 54: 237 – 244. [PubMed]
  35. Cheramy A, Kemel ML, Gauchy C, Desce JM, Galli T, Barbeito L, Glowinski J. Роль збудливих амінокислот у прямому та непрямому пресинаптическом регулюванні вивільнення дофаміну з нервових кінцівок нігрострітальних нейронів дофаміну. Амінокислоти. 1991: 1: 351 – 363. [PubMed]
  36. Chew SH, Ho JL. Надія: емпіричне дослідження відношення до термінів дозволу невизначеності. Журнал ризику та невизначеності. 1994: 8: 267 – 288.
  37. Chiodo LA, Antelman SM, Caggiula AR, Lineberry CG. Сенсорні стимули змінюють швидкість розряду нейронів дофаміну (DA): свідчення двох функціональних типів DA-клітин у чорній субстанції. Brain Res. 1980: 189: 544 – 549. [PubMed]
  38. Christoph GR, Leonzio RJ, Wilcox KS. Стимуляція бічного habenula пригнічує допамін-містять нейрони в субстанції нігра і вентральна тегментальная область щура. J Neurosci. 1986: 6: 613 – 619. [PubMed]
  39. Chuhma N, Choi WY, Mingote S, Rayport S. Дофамінова нейронна глутамат котрансмісія: частотно-залежна модуляція в мезовентеміальній проекції. Неврологія. 2009: 164: 1068 – 1083. [PMC безкоштовна стаття] [PubMed]
  40. Коен Дж., Бравер Т.С., Браун Дж. Обчислювальні перспективи дофамінової функції в префронтальній корі. Актуальна думка в нейробіології. 2002: 12: 223 – 229. [PubMed]
  41. Коізет В., Доммет Е. Я., Клоп Е. М., Редгрейв П, Овертон П.Г. Парабрахіальне ядро ​​є критичною ланкою в передачі короткочасної затримки ноцицептивної інформації серед дофамінергічних нейронів середнього мозку. Неврологія. 2010: 168: 263 – 272. [PMC безкоштовна стаття] [PubMed]
  42. Coizet V, Dommett EJ, Редгрейв П, Овертон П.Г. Ноцицептивні реакції дофамінергічних нейронів середнього мозку модулюються верхньою колликулой у щурів. Неврологія. 2006: 139: 1479 – 1493. [PubMed]
  43. Comoli E, Coizet V, Boyes J, Bolam JP, Canteras NS, Quirk RH, Овертон П., Редгрейв П. Пряма проекція від верхнього коллікула до субстанції nigra для виявлення помітних візуальних подій. Nat Neurosci. 2003: 6: 974 – 980. [PubMed]
  44. Corbit LH, Balleine BW. Подвійна дисоціація базолатеральних і центральних амігдалових уражень на загальні та специфічні для конкретного виду форми павлово-інструментального перенесення. J Neurosci. 2005: 25: 962 – 970. [PubMed]
  45. Даллі JW, Laane K, Теобальд DE, Армстронг HC, Corlett PR, Chudasama Y, Роббінс TW. Терміново обмежена модуляція апетитної павловської пам'яті за допомогою рецепторів D1 і NMDA в nucleus accumbens. Праці Національної академії наук Сполучених Штатів Америки. 2005: 102: 6189 – 6194. [PMC безкоштовна стаття] [PubMed]
  46. Daly HB. Перевага непередбачуваності змінюється, коли непередбачувана непередбачуваність є аверсивною: процедури, дані та теорії апетитного спостереження. В: Гормезано I, Вассерман Е.А., редактори. Навчання та пам'ять: поведінкові та біологічні субстрати. LE Associates; 1992. С. 81 – 104.
  47. Davidson MC, Horvitz JC, Тоттенхем N, Fossella JA, Watts R, Ulug AM, Кейсі BJ. Диференціальна хвороблива і цингулирующая активація, що слідує за несподіваними нерегулярними стимулами. NeuroImage. 2004: 23: 1039 – 1045. [PubMed]
  48. День JJ, Roitman MF, Wightman RM, Carelli RM. Асоціативне навчання опосередковує динамічні зрушення в сигналізації дофаміну в nucleus accumbens. Nat Neurosci. 2007: 10: 1020 – 1028. [PubMed]
  49. Даян П, Нів Ю. Підкріплення навчання: добре, погане і потворне. Актуальна думка в нейробіології. 2008: 18: 185 – 196. [PubMed]
  50. Descarries L, Berube-Carriere N, Riad M, Bo GD, Mendez JA, Trudeau LE. Глутамат у дофамінових нейронах: синаптична проти дифузної передачі. Огляди досліджень мозку. 2008: 58: 290 – 302. [PubMed]
  51. Ді Кьяра Г. Nucleus accumbens оболонка і основний допамін: диференційна роль в поведінці і залежності. Поведінкові дослідження мозку. 2002: 137: 75 – 114. [PubMed]
  52. Доммет Е, Коізет V, Блаха КД, Мартиндале J, Лефевр V, Уолтон Н, Мейхью Е., Овертон П., Редгрейв П. Як візуальні стимули активують дофамінергічні нейрони при короткому латентності. Наука. 2005: 307: 1476 – 1479. [PubMed]
  53. Дормонт Дж. Ф., Конде Г., Фарін Д. Роль педункулопонтинного тегментального ядра по відношенню до умовних рухових якостей у кішки. I. Контекстно-залежні і пов'язані з підкріпленням одиничні активності. Експериментальні дослідження мозку. Experimentelle Hirnforschung. 1998: 121: 401 – 410. [PubMed]
  54. Duzel E, Bunzeck N, Guitart-Masip M, Duzel S. Мотивація очікування та дослідження дофаміну (NOMAD), пов'язана з NOvelty: наслідки для здорового старіння. Неврологічні та біохімічні огляди. 2010: 34: 660 – 669. [PubMed]
  55. El-Amamy H, ПК Голландії. Дисоційовані ефекти від'єднання центрального ядра мигдалини від вентрального тегментального ділянки або субстанції нігр з вивченої орієнтації і стимулюючої мотивації. Європейський журнал неврології. 2007: 25: 1557 – 1567. [PMC безкоштовна стаття] [PubMed]
  56. Еттенберг А. Властивість процесу противника кокаїну. Неврологічні та біохімічні огляди. 2004: 27: 721 – 728. [PubMed]
  57. Фадок JP, Dickerson TM, Palmiter RD. Допамін необхідний для кондиції страху, що залежить від кия. J Neurosci. 2009: 29: 11089 – 11097. [PMC безкоштовна стаття] [PubMed]
  58. Fairhall AL, Lewen GD, Bialek W, де Ruyter Van Steveninck RR. Ефективність і неоднозначність в адаптивному нейронному коді. Природа. 2001: 412: 787 – 792. [PubMed]
  59. Faure A, Haberland U, Conde F, El Massioui N. Поразка нігростріатальної дофамінової системи порушує формування навички стимулу-реакції. J Neurosci. 2005: 25: 2771 – 2780. [PubMed]
  60. Faure A, Рейнольдс SM, Річард JM, Berridge KC. Мезолімбічний допамін у бажанні і страху: дозволяє мотивацію генеруватися локалізованими глутаматними порушеннями в nucleus accumbens. J Neurosci. 2008: 28: 7184 – 7192. [PMC безкоштовна стаття] [PubMed]
  61. Fiorillo CD, Newsome WT, Schultz W. Часова точність прогнозування винагороди в нейронах дофаміну. Nat Neurosci. 2008: 11: 966 – 973. [PubMed]
  62. Fiorillo CD, Тоблер П.Н., Шульц В. Дискретне кодування ймовірності винагороди і невизначеності нейронів дофаміну. Наука. 2003: 299: 1898 – 1902. [PubMed]
  63. Floresco SB, Ghods-Sharifi S, Vexelman C, Magyar O. Ролі дисоційованого ядра і оболонки nucleus accumbens в регулюванні зміщення множини. J Neurosci. 2006: 26: 2449 – 2457. [PubMed]
  64. Ford CP, Gantz SC, PE Phillips, Williams JT. Контроль позаклітинного дофаміну на дендритних і аксонних терміналах. J Neurosci. 2010: 30: 6975 – 6983. [PMC безкоштовна стаття] [PubMed]
  65. Франк МЮ. Динамічна модуляція допаміну в базальних гангліях: нейрокомп'ютерний розрахунок когнітивних дефіцитів при лікуванні і немедикаментозному паркінсонізмі. Журнал когнітивної неврології. 2005: 17: 51 – 72. [PubMed]
  66. Frank MJ, Fossella JA. Нейрогенетика та фармакологія навчання, мотивації та пізнання. Нейропсихофармакологія. 2010 [PMC безкоштовна стаття] [PubMed]
  67. Frank MJ, Seeberger LC, O'Reilly RC. Морквою чи палицею: когнітивне підкріплення навчання паркінсонізму. Наука. 2004; 306: 1940 – 1943. [PubMed]
  68. Gallistel CR, Gibbon J. Час, швидкість і кондиціонування. Psychol Rev. 2000, 107: 289 – 344. [PubMed]
  69. Gao DM, Jeaugey L, Pollak P, Benabid AL. Інтенсивно-залежні ноцицептивні відповіді від передбачуваних дофамінергічних нейронів substantia nigra, pars compacta у щурів та їх модифікація бічними входами habenula. Brain Res. 1990: 529: 315 – 319. [PubMed]
  70. Gauriau C, Бернард JF. Шляхи болю і парабрахіальні ланцюги у щурів. Експериментальна фізіологія. 2002: 87: 251 – 258. [PubMed]
  71. Geisler S, Zahm DS. Аферентні вентральні тегментальні ділянки в анатомічному субстраті для інтегративних функцій. Журнал порівняльної неврології. 2005: 490: 270 – 294. [PubMed]
  72. Gerfen CR, Engber TM, Махан Л.К., Сузель З, Чейз Т.Н., Монсма Ф.Я., Jr., Sibley DR. D1 і D2 дофамінового рецептора, регульованого експресією гена striatonigral і striatopallidal нейронів. Наука. 1990: 250: 1429 – 1432. [PubMed]
  73. Ghods-Sharifi S, Floresco SB. Диференціальний вплив на зниження зусиль, викликаний інактивацією ядра або оболонки nucleus accumbens. Поведінкова неврологія. 2010: 124: 179 – 191. [PubMed]
  74. Gonon FG. Нелінійна залежність між потоком імпульсу і дофаміном, що виділяється в дофамінергічних нейронах середнього мозку щурів, як вивчається електрохімією in vivo. Неврологія. 1988: 24: 19 – 28. [PubMed]
  75. Goto Y, Yang CR, Otani S. Функціональна і дисфункціональна синаптична пластичність префронтальної кори: роль у психічних розладах. Біологічна психіатрія. 2010: 67: 199 – 207. [PubMed]
  76. Грейс А.А. Фазовий проти тонічного вивільнення дофаміну і модуляція чутливості дофамінової системи: гіпотеза про етіологію шизофренії. Неврологія. 1991: 41: 1 – 24. [PubMed]
  77. Грейс А.А., Банні Б.С. Внутрішньоклітинна та позаклітинна електрофізіологія нігральних дофамінергічних нейронів – 1. Ідентифікація та характеристика. Неврологія. 1983; 10: 301–315. [PubMed]
  78. Грейс А.А., Флореско С.Б., Goto Y, Lodge DJ. Регулювання випалу дофамінергічних нейронів і контроль цілеспрямованої поведінки. Тенденції нейронаук. 2007: 30: 220 – 227. [PubMed]
  79. Grecksch G, Matties H. Роль дофамінергічних механізмів у гіпокампі щура для консолідації в яскраво-дискримінації. Психофармакологія (Берл) 1981, 75: 165 – 168. [PubMed]
  80. Guarraci FA, Kapp BS. Електрофізіологічна характеристика вентральної тегментальной області дофамінергічних нейронів під час диференційованого кондиціонування павловного страху у неспального кролика. Поведінкові дослідження мозку. 1999: 99: 169 – 179. [PubMed]
  81. Haber SN, Fudge JL, McFarland NR. Стриатонитростриальные шляхи у приматів утворюють висхідну спіраль від оболонки до дорсолатерального смугастого тіла. J Neurosci. 2000: 20: 2369 – 2382. [PubMed]
  82. Hall J, Parkinson JA, Connor TM, Dickinson A, Everitt BJ. Залучення центрального ядра мигдалини та ядра nucleus accumbens в опосередковуванні впливу Павлова на інструментальну поведінку. Європейський журнал неврології. 2001: 13: 1984 – 1992. [PubMed]
  83. Han JS, McMahan RW, Holland P, Gallagher M. Роль амігдало-нігростріатного шляху в асоціативному навчанні. J Neurosci. 1997: 17: 3913 – 3919. [PubMed]
  84. Гарріс ГК, Астон-Джонс Г. Збудження і винагорода: дихотомія в функції орексину. Тенденції нейронаук. 2006: 29: 571 – 577. [PubMed]
  85. Herry C, Bach DR, Esposito F, Di Salle F, Perrig WJ, Scheffler K, Luthi A, Seifritz E. Обробка тимчасової непередбачуваності в людській і тваринній мигдалині. J Neurosci. 2007: 27: 5958 – 5966. [PubMed]
  86. Хікіда Т, Кімура К., Вада Н., Фанабікі К., Наканіші С. Різні ролі синаптичної передачі в прямих і непрямих стриальних шляхах до нагороди і аверсивної поведінки. Нейрон. 2010: 66: 896 – 907. [PubMed]
  87. Хікосака О. Базальні ганглії механізми орієнтованого на нагороди руху очей. Аннали Нью-Йоркської академії наук. 2007: 1104: 229 – 249. [PubMed]
  88. Hikosaka O. Habenula: від ухилення від стресу до прийняття рішень на основі цінностей. Nat Rev Neurosci. 2010: 11: 503 – 513. [PMC безкоштовна стаття] [PubMed]
  89. Hikosaka O, Takikawa Y, Kawagoe R. Роль базальних гангліїв у контролі цілеспрямованих саккадних рухів очей. Фізіологічні огляди. 2000: 80: 953 – 978. [PubMed]
  90. Hitchcott PK, Quinn JJ, Тейлор JR. Двонаправлена ​​модуляція цілеспрямованої дії префронтальним корковим дофаміном. Цереб. 2007: 17: 2820 – 2827. [PubMed]
  91. Хнаско Т.С., Чухма Н., Чжан Х, Гой Г.Я., Сулзер Д., Палмітер Р.Д., Райпорт С., Едвардс Р.Х. Везикулярний глютаматний транспорт сприяє збереженню дофаміну і глутаматной пролонгированной in vivo. Нейрон. 2010: 65: 643 – 656. [PMC безкоштовна стаття] [PubMed]
  92. Голландський ПК, Галлахер М. Амігдала в схемах уваги і репрезентації. Тенденції в когнітивних науках. 1999: 3: 65 – 73. [PubMed]
  93. Hollerman JR, Schultz W. Нейрони дофаміну повідомляють про помилку у тимчасовому прогнозуванні винагороди під час навчання. Nat Neurosci. 1998: 1: 304 – 309. [PubMed]
  94. Holroyd CB, Coles MG. Нейронні основи обробки людських помилок: навчання підкріплення, допамін і негативність, пов'язана з помилками. Psychol Rev. 2002, 109: 679 – 709. [PubMed]
  95. Hong S, Hikosaka O. Глобус паллідус посилає сигнали, пов'язані з нагородою, до бічній habenula. Нейрон. 2008: 60: 720 – 729. [PMC безкоштовна стаття] [PubMed]
  96. Horvitz JC. Мезолімбокортикальні та нігростріатальні дофамінові відповіді на виражені нерегулярні події. Неврологія. 2000: 96: 651 – 656. [PubMed]
  97. Horvitz JC, Stewart T, Jacobs BL. Вибухова активність вентральних тегментальних нейронів дофаміну викликається сенсорними подразниками у неспалі кіт. Brain Res. 1997: 759: 251 – 258. [PubMed]
  98. Houk JC, Adams JL, Barto AG. Модель того, як базальні ганглії генерують і використовують нейронні сигнали, які передбачають підкріплення. У: Houk JC, Davis JL, Beiser DG, редактори. Моделі обробки інформації в базальних гангліях. Кембридж, Массачусетс: MIT Press; 1995. С. 249 – 274.
  99. Ikemoto S. Схеми нагородження мозку за мезолімбічної дофамінової системи: нейробіологічна теорія. Неврологічні та біохімічні огляди. 2010 [PMC безкоштовна стаття] [PubMed]
  100. Ito R, Dalley JW, Howes SR, Robbins TW, Everitt BJ. Дисоціація в кондиціонованому вивільненні дофаміну в ядрі і оболонці ядра, що відповідає кокаїновим сигналам і під час кокаїнового поведінки у щурів. J Neurosci. 2000: 20: 7489 – 7495. [PubMed]
  101. Івлієва Н.Ю., Тимофєєва Н.О. Активність нейронів в ядрі педукулопонтина під час харчового оперантного умовного рефлексу. Неврологія і фізіологія поведінки. 2003: 33 – 919. [PubMed]
  102. Івлієва Н.Ю., Тимофєєва Н.О. Нейронна активність в ядрі педункулопонтина під час оперантного умовного рефлексу. Неврологія і фізіологія поведінки. 2003: 33: 499 – 506. [PubMed]
  103. Jalabert M, Aston-Jones G, Herzog E, Manzoni O, Georges F. Роль ядра ложа stria terminalis у контролі дофамінових нейронів черевної ділянки. Прогрес у нейро-психофармакології та біологічній психіатрії. 2009; 33: 1336–1346. [PMC безкоштовна стаття] [PubMed]
  104. Jeanblanc J, Hoeltzel A, Louilot A. Дисоціація в залученні дофамінергічних нейронів, іннервуючих ядра і оболонки субрегіонів nucleus accumbens в латентному гальмуванні і афективному сприйнятті. Неврологія. 2002: 111: 315 – 323. [PubMed]
  105. Jensen J, Сміт AJ, Willeit M, Кроулі AP, Mikulis DJ, Vitcu I, Kapur S. Окремі коди мозку регіонів для salience проти валентності під час передбачення винагороди у людей. Картування людського мозку. 2007: 28: 294 – 302. [PubMed]
  106. Jhou TC, Fields HL, Baxter MG, Saper CB, Holland PC. Ростромедіальне тегментальное ядро ​​(RMTg), GABAergic афферентное до нейронів дофаміну середнього мозку, кодує аверсивні стимули і пригнічує моторні реакції. Нейрон. 2009: 61 – 786. [PMC безкоштовна стаття] [PubMed]
  107. Чжоу Чжоу, Гейслер С., Марінеллі М., Дегармо Б.А., Захм Д.С. Мезопонтинное ростромедіальне ядро ​​тегментала: Структура, націлена на бічну огорожу, яка виступає до вентральної тегментальної ділянки компаса Цай і substantia nigra. Журнал порівняльної неврології. 2009: 513: 566 – 596. [PMC безкоштовна стаття] [PubMed]
  108. Ji H, PD Shepard. Латеральна стимуляція habenula інгібує нейрони дофаміну середнього мозку щура за допомогою механізму, опосередкованого рецептором GABA (A). J Neurosci. 2007: 27: 6923 – 6930. [PubMed]
  109. Jin X, Costa RM. Початкові / стоп-сигнали виникають в нигростриатних ланцюгах під час послідовного навчання. Природа. 2010: 466: 457 – 462. [PMC безкоштовна стаття] [PubMed]
  110. Johansen JP, Fields HL. Глутаматергічна активація передньої поясної кори дає сигнал з аверсивним навчанням. Nat Neurosci. 2004: 7: 398 – 403. [PubMed]
  111. Джозеф М.Х., Датла К, Янг АМ. Інтерпретація вимірювання дофаміну nucleus accumbens шляхом діалізу in vivo: удар, потяг або пізнання? Неврологічні та біохімічні огляди. 2003: 27: 527 – 541. [PubMed]
  112. Джошуа М., Адлер А., Бергман Г. Динаміка дофаміну в контролі рухової поведінки. Актуальна думка в нейробіології. 2009: 19 – 615. [PubMed]
  113. Джошуа М, Адлер А, Мітелман Р, Ваадія Е, Бергман Х. Допамінергічні нейрони і стриатичні холінергічні інтернейрони з головним мозком кодують різницю між нагородами і аверсивними подіями в різних епохах імовірнісних класичних досліджень. J Neurosci. 2008: 28: 11673 – 11684. [PubMed]
  114. Джошуа М, Адлер А, Прут Я, Ваадія Е, Вікенс Дж., Бергман Г. Синхронізація допамінергічних нейронів середнього мозку посилюється корисними подіями. Нейрон. 2009: 62: 695 – 704. [PubMed]
  115. Kable JW, Glimcher PW. Нейробіологія рішення: консенсус і суперечки. Нейрон. 2009: 63: 733 – 745. [PMC безкоштовна стаття] [PubMed]
  116. Какаде S, Даян П. Допамін: узагальнення і бонуси. Нейронні мережі. 2002: 15: 549 – 559. [PubMed]
  117. Капур С. Психоз як стан аберантної відсторонення: основа, що зв'язує біологію, феноменологію і фармакологію при шизофренії. Американський журнал психіатрії. 2003: 160: 13 – 23. [PubMed]
  118. Kaufling J, Veinante P, Pawlowski SA, Freund-Mercier MJ, Barrot M. Afferents до ГАМКергічного хвоста вентральної тегментальної області у щура. Журнал порівняльної неврології. 2009: 513: 597 – 621. [PubMed]
  119. Kennerley SW, Wallis JD. Оцінка вибору окремими нейронами лобової частки: значення результату, закодованого по декількох змінних рішення. Європейський журнал неврології. 2009: 29: 2061 – 2073. [PMC безкоштовна стаття] [PubMed]
  120. Kim H, Sul JH, Huh N, Lee D, Jung MW. Роль стриатума в оновленні цінностей обраних дій. J Neurosci. 2009: 29: 14701 – 14712. [PubMed]
  121. Кияткін Е.А. Функціональні властивості нейронів дофаміновмісних та інших вентральних тегментальних ділянок у свідомих щурах. Int J Neurosci. 1988: 42 – 21. [PubMed]
  122. Кияткін Е.А. Морфін-індукована модифікація функціональних властивостей нейронів вентральної тегментальної області у свідомих щурах. Стажер J Neuroscience. 1988: 41: 57 – 70. [PubMed]
  123. Клінгберг Т. Навчання і пластичність робочої пам'яті. Тенденції в когнітивних науках. 2010: 14: 317 – 324. [PubMed]
  124. Кобаясі С., Номото К., Ватанабе М., Хікосака О., Шульц В., Сакагамі М. Вплив нагороджувальних та аверсивних результатів на активність у латеральній префронтальній корі макаки. Нейрон. 2006: 51: 861 – 870. [PubMed]
  125. Kobayashi S, Schultz W. Вплив затримок винагороди на реакції нейронів дофаміну. J Neurosci. 2008: 28: 7837 – 7846. [PMC безкоштовна стаття] [PubMed]
  126. Кобаясі У, Іноуе Я., Ямамото М, Іса Т, Айзава Г. Внесок перукулопонтинних нейронів ядра ядра для виконання візуально керованих саккадних завдань у мавп. J Neurophysiol. 2002: 88: 715 – 731. [PubMed]
  127. Koyama T, Tanaka YZ, Mikami A. Ноцицептивні нейрони в передньому поясі макаки активуються під час очікування болю. Нейрорепортаж. 1998: 9: 2663 – 2667. [PubMed]
  128. Кравіц А.В., Freeze BS, Parker PR, Kay K, Thwin MT, Deisseroth K, Kreitzer AC. Регулювання моторики паркінсонізму методом оптогенетичного контролю схем базальних гангліїв. Природа. 2010 [PMC безкоштовна стаття] [PubMed]
  129. Lammel S, Hetzel A, Hackel O, Jones I, Liss B, Roeper J. Унікальні властивості мезопрефронтальних нейронів в рамках подвійної мезокортиколімбічної дофамінової системи. Нейрон. 2008: 57: 760 – 773. [PubMed]
  130. Lang PJ, Davis M. Емоція, мотивація та мозок: рефлекторні основи у дослідженні тварин і людини. Прогрес у дослідженні мозку. 2006: 156: 3 – 29. [PubMed]
  131. Lapish CC, Kroener S, Durstewitz D, Лавін A, Seamans JK. Здатність мезокортикальної системи дофаміну функціонувати в різних часових режимах. Психофармакологія (Берл) 2007, 191: 609 – 625. [PubMed]
  132. Lee D, Seo H. Механізми навчання підкріплення та прийняття рішень у дорсолатеральній префронтальній корі приматів. Аннали Нью-Йоркської академії наук. 2007: 1104: 108 – 122. [PubMed]
  133. Lee HJ, Грошек F, Петрович Г.Д., Cantalini JP, Gallagher M, Holland PC. Роль амігдало-ніграль схеми в кондиціонуванні зорового стимулу спарені з їжею. J Neurosci. 2005: 25: 3881 – 3888. [PMC безкоштовна стаття] [PubMed]
  134. Левіта Л., Даллі JW, Роббінс Т.В. Nucleus accumbens допамін і навчений страх знову: огляд і деякі нові висновки. Поведінкові дослідження мозку. 2002: 137: 115 – 127. [PubMed]
  135. Лін СК, Ніколіс М.А. Нейронний ансамбль, що розривається в базальному коду переднього мозку, не залежить від валентності. Нейрон. 2008: 59: 138 – 149. [PMC безкоштовна стаття] [PubMed]
  136. Lisman JE, Грейс А.А. Цикл гіпокампу-VTA: контроль надходження інформації в довгострокову пам'ять. Нейрон. 2005: 46: 703 – 713. [PubMed]
  137. Litt A, Plassmann H, Shiv B, Rangel A. Розмежування сигналів оцінки та відмінності під час прийняття рішень. Цереб. 2010 в пресі. [PubMed]
  138. Лю З, Річмонд Б.Я., Мюррей Е.А., Сондерс Р.С., Стенрод С, Стаблфілд Б.К., Монтегю Д.М., Гіннс Е.І. ДНК-націлювання білка рецептора D2 на ретинній оболонці блокує вивчення сигналів, що передбачають винагороду. Праці Національної академії наук Сполучених Штатів Америки. 2004: 101: 12336 – 12341. [PMC безкоштовна стаття] [PubMed]
  139. Лю Ж, Шін Р, Ікемото С. Подвійна роль медіальних дофамінових нейронів A10 в афективному кодуванні. Нейропсихофармакологія. 2008: 33: 3010 – 3020. [PMC безкоштовна стаття] [PubMed]
  140. Ljungberg T, Apicella P, Schultz W. Відгуки дофамінових нейронів мавпи під час вивчення поведінкових реакцій. J Neurophysiol. 1992: 67: 145 – 163. [PubMed]
  141. Lobo MK, Covington HE, 3rd, Chaudhury D, Friedman AK, Sun H, Damez-Werno D, Dietz DM, Zaman S, Koo JW, Kennedy PJ, et al. Структурно-специфічна втрата BDNF сигналізації імітує оптогенетичний контроль за винагородою кокаїну. Наука. 2010: 330: 385 – 390. [PMC безкоштовна стаття] [PubMed]
  142. Maeda H, Mogenson GJ. Вплив периферичної стимуляції на активність нейронів в вентральній тегментальной області, substantia nigra і ретикулярної формації середнього мозку щурів. Бюлетень досліджень мозку. 1982: 8: 7 – 14. [PubMed]
  143. Mantz J, Thierry AM, Glowinski J. Вплив шкідливого хвоста хвоста на швидкість розряду мезокортикальних і мезолімбічних нейронів дофаміну: селективна активація мезокортикальної системи. Brain Res. 1989: 476: 377 – 381. [PubMed]
  144. Margolis EB, Lock H, Hjelmstad GO, поля HL. Відновлюється область вентрального тегментала: чи існує електрофізіологічний маркер для дофамінергічних нейронів? Журнал фізіології. 2006: 577: 907 – 924. [PMC безкоштовна стаття] [PubMed]
  145. Марголіс Е.Б., Мітчелл Дж.М., Ісікава Дж., Хельмстад Г.О. Нейрони дофаміну середнього мозку: проекційна мішень визначає тривалість дії потенціалу та інгібування рецептора дофаміну D (2). J Neurosci. 2008: 28: 8908 – 8913. [PubMed]
  146. Марк ГП, Бландер Д.С., Хобель Б.Г. Умовний стимул зменшує позаклітинний дофамін у ядрі accumbens після розвитку ненавмисного смаку. Brain Res. 1991: 551: 308 – 310. [PubMed]
  147. Marowsky A, Yanagawa Y, Obata K, Vogt KE. Спеціалізований підклас інтернейронів опосередковує дофамінергічне полегшення функції мигдалини. Нейрон. 2005: 48: 1025 – 1037. [PubMed]
  148. Мацумото М., Хікосака О. Латеральна хабеналу як джерело негативних сигналів нагороди в дофамінових нейронах. Природа. 2007: 447: 1111 – 1115. [PubMed]
  149. Мацумото М., Хікосака О. Представлення негативної мотиваційної цінності в приматі латеральної приналежності. Nat Neurosci. 2009: 12 – 77. [PMC безкоштовна стаття] [PubMed]
  150. Мацумото М, Хікосака О. Два типи нейронів дофаміну чітко передають позитивні і негативні мотиваційні сигнали. Природа. 2009: 459: 837 – 841. [PMC безкоштовна стаття] [PubMed]
  151. Мацумото М., Мацумото К., Абе Х, Танака К. Медіальна префронтальна активність клітинної сигналізації помилок прогнозування значень дії. Nat Neurosci. 2007: 10: 647 – 656. [PubMed]
  152. May PJ, McHaffie JG, Stanford TR, Jiang H, Costello MG, Coizet V, Hayes LM, Haber SN, Redgrave P. Tectonigral проекції в приматах: шлях до попереднього уважного сенсорного введення домінуючих нейронів середнього мозку. Європейський журнал неврології. 2009: 29: 575 – 587. [PMC безкоштовна стаття] [PubMed]
  153. Mazzoni P, Hristova A, Krakauer JW. Чому б нам не рухатися швидше? Хвороба Паркінсона, активність руху та неявна мотивація. J Невроски. 2007; 27: 7105–7116. [PubMed]
  154. Merali Z, Michaud D, McIntosh J, Kent P, Anisman H. Диференційоване залучення амігдалоїдних CRH-систем до виокремленості та валентності стимулів. Прогрес у нейро-психофармакології та біологічній психіатрії. 2003; 27: 1201–1212. [PubMed]
  155. Mirenowicz J, Schultz W. Переважна активація нейронів дофаміну середнього мозку за допомогою апетитного, а не аверсного стимулів. Природа. 1996: 379: 449 – 451. [PubMed]
  156. Molina-Luna K, Pekanovic A, Rohrich S, Hertler B, Schubring-Giese M, Rioult-Pedotti MS, Luft AR. Допамін в руховій корі необхідний для вивчення навичок і синаптичної пластичності. PLoS ONE. 2009: 4: e7082. [PMC безкоштовна стаття] [PubMed]
  157. Montague PR, Бернс Г.С. Нейронна економіка та біологічні субстрати оцінки. Нейрон. 2002: 36: 265 – 284. [PubMed]
  158. Монтегю П.Р., Даян П., Сейновський Т.Я. Структура мезенцефальних дофамінових систем, заснована на інтелектуальному навчанні Hebbian. J Neurosci. 1996: 16: 1936 – 1947. [PubMed]
  159. Морріс Г., Аркадір Д., Невет А, Ваадія Е., Бергман Г. Збігаються, але відмінні повідомлення середнього мозку дофаміну і стриатично активних нейронів. Нейрон. 2004: 43: 133 – 143. [PubMed]
  160. Морріс Г, Невет А, Аркадір Д, Ваадія Е, Бергман Х. Nat Neurosci. 2006: 9: 1057 – 1063. [PubMed]
  161. Morrison SE, Salzman CD. Конвергенція інформації про корисні та аверсивні подразники в окремих нейронах. J Neurosci. 2009: 29: 11471 – 11483. [PMC безкоштовна стаття] [PubMed]
  162. Nakahara H, Itoh H, Kawagoe R, Takikawa Y, Hikosaka O. Нейрони дофаміну можуть представляти помилку прогнозування залежно від контексту. Нейрон. 2004: 41: 269 – 280. [PubMed]
  163. Накамура К., Хікосака О. Роль дофаміну в приматів хвостатого ядра в модулюванні винагороди саккад. J Neurosci. 2006: 26: 5360 – 5369. [PubMed]
  164. Neve KA, Seamans JK, Trantham-Davidson H. Сигналізація дофамінових рецепторів. Журнал досліджень рецепторної та сигнальної трансдукції. 2004: 24: 165 – 205. [PubMed]
  165. Nishijo H, Ono T, Nishino H. Одиночні реакції нейронів в мигдалині тривожної мавпи при складній сенсорній стимуляції з афективним значенням. J Neurosci. 1988: 8: 3570 – 3583. [PubMed]
  166. Niv Y, Daw ND, Джоел Д., Дайан П. Тонічний допамін: альтернативні витрати і контроль енергії відповіді. Психофармакологія. 2007: 191: 507 – 520. [PubMed]
  167. Nomoto K, Schultz W, Watanabe T, Sakagami M. Часово розширені відповіді на допамін на сприйнятливо вимогливі стимули. J Neurosci. 2010: 30: 10692 – 10702. [PMC безкоштовна стаття] [PubMed]
  168. Окада К, Тояма К, Іноуе Y, Іса Т, Кобаясі Ю. Різні педункулопонтинські тегментальні нейрони сигналізують передбачені і реальні винагороди за завдання. J Neurosci. 2009: 29: 4858 – 4870. [PubMed]
  169. Омельченко Н., Белл Р, Сесак С.Р. Проекції бічних габеналів до дофамінових і ГАМК-нейронів у вентральній ділянці щурів. Європейський журнал неврології. 2009: 30: 1239 – 1250. [PMC безкоштовна стаття] [PubMed]
  170. Owesson-White CA, Ariansen J, Stuber GD, Cleaveland Н.А., Cheer JF, Wightman RM, Carelli RM. Нейронне кодування кокаїноподібної поведінки співпадає з фазовим вивільненням дофаміну в ядрі і оболонці accumbens. Європейський журнал неврології. 2009: 30: 1117 – 1127. [PMC безкоштовна стаття] [PubMed]
  171. Oyama K, Hernadi I, Iijima T, Tsutsui К. Помилка прогнозування винагороди кодування в дорсальних стриральних нейронах. J Neurosci. 2010: 30: 11447 – 11457. [PubMed]
  172. Packard MG, White NM. Дисоціація систем пам'яті гіппокампа і хвостатого ядра посттренінгової внутрішньомозкової ін'єкції агоністів дофаміну. Поведінкова неврологія. 1991: 105: 295 – 306. [PubMed]
  173. Падоа-Скіоппа С. Орбітофронтальна кора і обчислення економічної цінності. Аннали Нью-Йоркської академії наук. 2007: 1121: 232 – 253. [PubMed]
  174. Palmiter RD. Сигналізація дофаміну в спинному стриатуме є необхідною умовою для мотивованої поведінки: уроки з дофамінодефіцитних мишей. Аннали Нью-Йоркської академії наук. 2008: 1129: 35 – 46. [PMC безкоштовна стаття] [PubMed]
  175. Pan WX, Hyland BI. Pedunculopontine tegmental ядро ​​контролюють обумовлені реакції нейронів дофаміну середнього мозку в поведінці щурів. J Neurosci. 2005: 25: 4725 – 4732. [PubMed]
  176. Pan WX, Шмідт Р, Вікенс Ю.Р., Хайланд Б.І. Тристоронній механізм екстинкції запропонований допаміновою активністю і часовою різницею. J Neurosci. 2008: 28: 9619 – 9631. [PubMed]
  177. Паркер JG, Цвайфель Л.С., Кларк Дж. Дж., Еванс С.Б., Філліпс П.Е., Пальмітер Р.Д. Відсутність NMDA-рецепторів у дофамінових нейронах послаблює вивільнення дофаміну, але не обумовлений під час кондиціонування Павлова. Праці Національної академії наук Сполучених Штатів Америки. 2010 [PMC безкоштовна стаття] [PubMed]
  178. Pascoe JP, Kapp BS. Електрофізіологічні особливості амігдалоїдних нейронів центрального ядра при кондиціонуванні страху Павлова у кролика. Поведінкові дослідження мозку. 1985: 16: 117 – 133. [PubMed]
  179. Pascucci T, Ventura R, Latagliata EC, Cabib S, Puglisi-Allegra S. Медіальна префронтальна кора визначає реакцію допаміну на стрес через протилежні впливи норадреналіну і дофаміну. Цереб. 2007: 17: 2796 – 2804. [PubMed]
  180. Pearce JM, Hall G. Модель для вивчення Павлова: варіації ефективності обумовлених, але не безумовних стимулів. Psychol Rev. 1980, 87: 532 – 552. [PubMed]
  181. Pezze М.А., Feldon J. Мезолімбічні допамінергічні шляхи при кондиції страху. Прогрес у нейробіології. 2004: 74: 301 – 320. [PubMed]
  182. Phillips AG, Ahn S, Howland JG. Amygdalar контроль мезокортиколімбічної дофамінової системи: паралельні шляхи до мотивованої поведінки. Неврологічні та біохімічні огляди. 2003: 27 – 543. [PubMed]
  183. Phillips GD, Salussolia E, Hitchcott PK. Роль мезоамідодальної проекції дофаміну в емоційному навчанні. Психофармакологія. 2010 [PubMed]
  184. Phillips PE, Stuber GD, Heien ML, Wightman RM, Carelli RM. Повторне вивільнення допаміну сприяє пошуку кокаїну. Природа. 2003: 422: 614 – 618. [PubMed]
  185. Porrino LJ, Goldman-Rakic ​​PS. Мозкова іннервація префронтальної і передньої поясної кори головного мозку у резус-мавпи виявлена ​​ретроградним транспортом HRP. Журнал порівняльної неврології. 1982: 205: 63 – 76. [PubMed]
  186. Голова ЦБ, Кім МЮ, Мідзуморі SJ. Конюктивний кодування руху і винагороди нейронами вентральних тегментальних ділянок у вільно навігаційному гризунах. Поведінкова неврологія. 2010: 124: 234 – 247. [PMC безкоштовна стаття] [PubMed]
  187. Ravel S, Legallet E, Apicella P. Тонічно активні нейрони в стриатумі мавпи переважно не реагують на апетитні подразники. Експериментальні дослідження мозку. Experimentelle Hirnforschung. 1999: 128: 531 – 534. [PubMed]
  188. Ravel S, Legallet E, Apicella P. Відгуки тонічно активних нейронів в стриатумі мавпи розрізняють мотиваційно протилежні стимули. J Neurosci. 2003: 23: 8489 – 8497. [PubMed]
  189. Ravel S, Річмонд BJ. Нейрональні відповіді дофаміну у мавп, які виконують візуальні графіки винагороди. Європейський журнал неврології. 2006: 24: 277 – 290. [PubMed]
  190. Редгрейв П, Герні К. Сигнал дофаміну короткочасної затримки: роль у виявленні нових дій? Nat Rev Neurosci. 2006: 7: 967 – 975. [PubMed]
  191. Redgrave P, Prescott TJ, Gurney K. Чи короткочасна відповідь дофаміну занадто коротка, щоб сигналізувати про помилку винагороди? Тенденції нейронаук. 1999: 12: 146 – 151. [PubMed]
  192. Rescorla RA, Wagner AR. Теорія кондиціонування Павлова: коливання ефективності підкріплення і невсилення. У: Чорний АГ, Прокаси WF, редактори. Класична умова II: сучасні дослідження та теорія. Нью-Йорк, Нью-Йорк: Appleton Century Crofts; 1972. С. 64 – 99.
  193. Рейнольдс JNJ, Hyland BI, Wickens JR. Клітинний механізм навчання, пов'язаного з винагородою. Природа. 2001: 413: 67 – 70. [PubMed]
  194. Рейнольдс С.М., Беррідж К.С. Позитивна та негативна мотивація в оболонці nucleus accumbens: двовалентні рострокаудальні градієнти для їжі, спричиненої ГАМК, реакції «симпатії» / «антипатії» смаку, переваги / уникання місця та страх. J Невроски. 2002; 22: 7308–7320. [PubMed]
  195. Річардсон Р.Т., Делонг М.Р. Електрофізіологічні дослідження функцій nucleus basalis у приматів. Досягнення експериментальної медицини та біології. 1991: 295: 233 – 252. [PubMed]
  196. Роббінс Т.В., Арнстен А.Ф. Нейропсихофармакологія фронто-виконавчої функції: моноамінергічна модуляція. Щорічний огляд неврології. 2009: 32: 267 – 287. [PMC безкоштовна стаття] [PubMed]
  197. Робінсон Д.Л., Германс А., Сейпель А.Т., Вайтман Р.М. Моніторинг швидкої хімічної зв'язку в головному мозку. Хімічні огляди. 2008: 108: 2554 – 2584. [PMC безкоштовна стаття] [PubMed]
  198. Roesch MR, Calu DJ, Schoenbaum G. Нейрони дофаміну кодують кращий варіант у щурів, які вирішують між різними затримками або розмірами винагород. Nat Neurosci. 2007: 10: 1615 – 1624. [PMC безкоштовна стаття] [PubMed]
  199. Roesch MR, Olson CR. Нейронна активність пов'язана з винагородою за цінністю і мотивацією у примате лобової кори. Наука. 2004: 304: 307 – 310. [PubMed]
  200. Roitman MF, Wheeler RA, Wightman RM, Carelli RM. Хімічні реакції в реальному часі в ядрі accumbens диференціюють корисні та аверсивні стимули. Nat Neurosci. 2008: 11: 1376 – 1377. [PMC безкоштовна стаття] [PubMed]
  201. Rutledge RB, Lazzaro SC, Lau B, Myers CE, Gluck MA, Glimcher PW. Дофамінергічні препарати модулюють рівень навчання та персеверацію у пацієнтів з Паркінсоном у динамічному пошуку їжі. J Невроски. 2009; 29: 15104–15114. [PMC безкоштовна стаття] [PubMed]
  202. Salamone JD. Причетність дофаміну nucleus accumbens в апетитній і відхильній мотивації. Поведінкові дослідження мозку. 1994: 61: 117 – 133. [PubMed]
  203. Salamone JD, Correa M, Farrar A, Mingote SM. Функції, пов'язані з зусиллями дофаміну nucleus accumbens і пов'язаних з ним ланцюгів переднього мозку. Психофармакологія (Берл) 2007, 191: 461 – 482. [PubMed]
  204. Сато Т, Накай С, Сато Т, Кімура М. Корельоване кодування мотивації і результату рішення дофаміновими нейронами. J Neurosci. 2003: 23: 9913 – 9923. [PubMed]
  205. Savine AC, Beck SM, Edwards BG, Chiew KS, Braver TS. Посилення когнітивного контролю шляхом підходу та уникнення мотиваційних станів. Пізнання та емоції. 2010; 24: 338–356. [PMC безкоштовна стаття] [PubMed]
  206. Schoenbaum G, Roesch MR, Stalnaker TA, Такахасі YK. Нова перспектива щодо ролі орбітофронтальної кори в адаптивній поведінці. Nat Rev Neurosci. 2009: 10: 885 – 892. [PMC безкоштовна стаття] [PubMed]
  207. Шульц В. Відповіді нейронів дофаміну середнього мозку на поведінкові стимулові стимули у мавпи. J Neurophysiol. 1986: 56: 1439 – 1461. [PubMed]
  208. Шульц В. Інтелектуальний сигнал винагороди дофамінових нейронів. J Neurophysiol. 1998: 80: 1 – 27. [PubMed]
  209. Шульц В. Множинні функції дофаміну в різних часових курсах. Щорічний огляд неврології. 2007: 30: 259 – 288. [PubMed]
  210. Шульц В. Дофамінові сигнали для винагороди та ризику: основні та останні дані. Функція головного мозку. 2010: 6: 24. [PMC безкоштовна стаття] [PubMed]
  211. Шульц В., Даян П, ПР Монтегю. Нейронний субстрат передбачення і винагороди. Наука. 1997: 275: 1593 – 1599. [PubMed]
  212. Шульц В., Ромо Р. Реакції нігростріатальних дофамінових нейронів на високоінтенсивну соматосенсорну стимуляцію в анестезірованной мавпі. J Neurophysiol. 1987: 57: 201 – 217. [PubMed]
  213. Шульц W, Ромо Р. Допамінові нейрони мавпи середнього мозку: непередбачені реакції на подразники, що викликають негайні поведінкові реакції. J Neurophysiol. 1990: 63: 607 – 624. [PubMed]
  214. Seo H, Lee D. Тимчасова фільтрація сигналів винагороди в дорсальній передній корі головного мозку під час змішаної стратегії гри. J Neurosci. 2007: 27: 8366 – 8377. [PMC безкоштовна стаття] [PubMed]
  215. Shabel SJ, Janak PH. Істотне схожість амигдальной нейрональної активності під час обумовленого апетитного і аверсивного емоційного збудження. Праці Національної академії наук Сполучених Штатів Америки. 2009: 106: 15031 – 15036. [PMC безкоштовна стаття] [PubMed]
  216. Shadmehr R, Smith MA, Krakauer JW. Корекція помилок, сенсорне прогнозування та адаптація в керуванні двигуном. Щорічний огляд неврології. 2010 [PubMed]
  217. Shen W, Flajolet M, Greengard P, DJ Surmeier. Дихотомічний дофамінергічний контроль стриральної синаптичної пластичності. Наука. 2008: 321: 848 – 851. [PMC безкоштовна стаття] [PubMed]
  218. Shimo Y, Wichmann Т. Нейронна активність в субталамічному ядрі модулює вивільнення дофаміну в стриатумі мавпи. Європейський журнал неврології. 2009: 29: 104 – 113. [PMC безкоштовна стаття] [PubMed]
  219. Shippenberg TS, Bals-Kubik R, Huber A, Herz A. Нейроанатомічні субстрати, що опосередковують аверсивні ефекти антагоністів дофамінових рецепторів D-1. Психофармакологія (Берл) 1991, 103: 209 – 214. [PubMed]
  220. Shumake J, Ilango A, Scheich H, Wetzel W, Ohl FW. Диференціальна нейромодуляція придбання і вилучення уникнення уникнення з боку латерального хабеналу і вентрального тегментального ділянки. J Neurosci. 2010: 30: 5876 – 5883. [PubMed]
  221. Мала Д. М., Григорій М. Д., Мак Я. Е., Гітелман Д., Месулам М.М., Парріш Т. Дисоціація нейронної репрезентації інтенсивності і афективної оцінки в пориві людини. Нейрон. 2003: 39: 701 – 711. [PubMed]
  222. Стефані М.Р., Moghaddam B. Правила навчання та винагороди пов'язані з диссоціативними схемами активації дофаміну в префронтальній корі щурів, nucleus accumbens та дорсальному стриатуму. J Neurosci. 2006: 26: 8810 – 8818. [PMC безкоштовна стаття] [PubMed]
  223. Штейнфельс Г.Ф., Хейм Дж., Стрекер Р.Е., Якобс Б.Л. Реакція дофамінергічних нейронів у кіт на слухові подразники, представлені по циклу сну. Brain Res. 1983: 277: 150 – 154. [PubMed]
  224. Strecker RE, Jacobs BL. Активність допамінергічної одиниці Substantia nigra у поведінці кішок: вплив спонукання на спонтанне виділення та сенсорну активність. Brain Res. 1985: 361: 339 – 350. [PubMed]
  225. Stuber GD, Hnasko TS, Britt JP, Edwards RH, Bonci A. Допамінергічні термінали в nucleus accumbens, але не дорзальний стриатум, ядро ​​глутамат. Журнал Neuroscience. 2010: 30: 8229 – 8233. [PMC безкоштовна стаття] [PubMed]
  226. Stuber GD, Wightman RM, Carelli RM. Вимирання самоконтролю кокаїну виявляє функціонально і тимчасово чіткі дофамінергічні сигнали в nucleus accumbens. Нейрон. 2005: 46: 661 – 669. [PubMed]
  227. Sul JH, Kim H, Huh N, Lee D, Jung MW. Відмінні ролі орбітофронтального і медіальної префронтальної кори гризунів при прийнятті рішень. Нейрон. 2010: 66: 449 – 460. [PMC безкоштовна стаття] [PubMed]
  228. Surmeier DJ, Ding J, Day M, Wang Z, Shen W. D1 і D2 модуляція дофамінових рецепторів стриатальної глутаматергічної сигналізації в колючих нейронах стриативого середовища. Тенденції нейронаук. 2007: 30: 228 – 235. [PubMed]
  229. Surmeier DJ, Shen W, День М, Гертлер Т, Чан С, Тян Х, Плоткін JL. Роль дофаміну в модулюванні структури і функції стриатильних ланцюгів. Прогрес у дослідженні мозку. 2010; 183C: 148 – 167. [PubMed]
  230. Sutton RS, Barto AG. До сучасної теорії адаптивних мереж: очікування і прогнозування. Psychol Rev. 1981, 88: 135 – 170. [PubMed]
  231. Takahashi YK, Roesch MR, Stalnaker Т.А., Haney RZ, Calu DJ, Тейлор AR, Берк К.А., Schoenbaum G. Орбітофронтальна кора та вентральна тегментальна область необхідні для навчання від несподіваних результатів. Нейрон. 2009: 62: 269 – 280. [PMC безкоштовна стаття] [PubMed]
  232. Takikawa Y, Kawagoe R, Hikosaka O. Можлива роль нейронів дофаміну середнього мозку в коротко- та довгостроковій адаптації саккад до картографування позицій-винагород. J Neurophysiol. 2004: 92: 2520 – 2529. [PubMed]
  233. Tecuapetla F, Patel JC, Xenias H, англійська D, Tadros I, Шах F, Берлін J, Deisseroth K, Райс ME, Теппер JM, Koos Т. Glutamatergic сигналізації мезолімбічних нейронів дофаміну в nucleus accumbens. J Neurosci. 2010: 30: 7105 – 7110. [PMC безкоштовна стаття] [PubMed]
  234. Thierry AM, Tassin JP, Blanc G, Glowinski J. Селективна активація мезокортикальної системи DA при стресі. Природа. 1976: 263: 242 – 244. [PubMed]
  235. Тоблер П.Н., Дікінсон А., Шульц В. Кодування передбачуваного винагороди за винагороду за допомогою нейронів дофаміну в умовах кондиціонованої інгібування. J Neurosci. 2003: 23: 10402 – 10410. [PubMed]
  236. Тоблер П.Н., Фіорільо CD, Шульц В. Адаптивне кодування цінності винагороди нейронами дофаміну. Наука. 2005: 307: 1642 – 1645. [PubMed]
  237. Цай Х.С., Чжан Ф, Адамантідіс А, Штубер Г.Д., Бонці А, де Леке Л., Дейссерот К. Фазовий випал в дофамінергічних нейронах є достатнім для поведінкового кондиціонування. Наука. 2009 [PubMed]
  238. Ullsperger M. Вивчення генетичних асоціацій моніторингу продуктивності та вивчення зворотного зв'язку: роль дофаміну та серотоніну. Неврологічні та біохімічні огляди. 2010: 34: 649 – 659. [PubMed]
  239. Безпальовий МА. Допамін: найважливіше питання. Тенденції нейронаук. 2004: 27: 702 – 706. [PubMed]
  240. Uylings HB, Groenewegen HJ, Kolb B. Чи мають щури префронтальні кори? Поведінкові дослідження мозку. 2003: 146: 3 – 17. [PubMed]
  241. Ventura R, Cabib S, Puglisi-Allegra S. Протилежний генотип-залежний мезокортиколимбический відповідь допаміну на стрес. Неврологія. 2001: 104: 627 – 631. [PubMed]
  242. Ventura R, Latagliata EC, Morrone C, La Mela I, Puglisi-Allegra S. Префронтальний норадреналін визначає приписування “високої” мотиваційної виокремленості. PLOS ONE. 2008; 3: e3044. [PMC безкоштовна стаття] [PubMed]
  243. Ventura R, Morrone C, Puglisi-Allegra S. Система префронтального / приливного катехоламіну визначає атрибуцію мотиваційного відзначення як стимулів, пов'язаних з винагородою, так і з відхиленням. Праці Національної академії наук Сполучених Штатів Америки. 2007: 104: 5181 – 5186. [PMC безкоштовна стаття] [PubMed]
  244. Вогт Б.А. Больові та емоційні взаємодії в субрегіонах поясної звивини. Nat Rev Neurosci. 2005: 6: 533 – 544. [PMC безкоштовна стаття] [PubMed]
  245. Voon V, Pessiglione M, Брезинг C, Gallea C, Фернандес HH, Долан RJ, Hallett M. Механізми, що лежать в основі дофамінового винагороди в нав'язливому поведінці. Нейрон. 2010: 65: 135 – 142. [PMC безкоштовна стаття] [PubMed]
  246. Waelti P, Dickinson A, Schultz W. Відповіді на дофамін відповідають основним припущенням теорії формального навчання. Природа. 2001: 412: 43 – 48. [PubMed]
  247. Wallis JD, Kennerley SW. Гетерогенні сигнали винагороди в префронтальній корі. Актуальна думка в нейробіології. 2010: 20: 191 – 198. [PMC безкоштовна стаття] [PubMed]
  248. Walton ME, Behrens TE, Buckley MJ, Rudebeck PH, Rushworth MF. Розділені системи навчання в головному мозку макаки і роль орбітофронтальної кори в контингентному навчанні. Нейрон. 2010: 65: 927 – 939. [PMC безкоштовна стаття] [PubMed]
  249. Уїлер Р.А., Твінінг РК, Джонс Ю.Л., Слейтер Дж.М., Грігсон П.С., Кареллі Р.М. Поведінкові та електрофізіологічні показники негативного впливу передбачають самоуправління кокаїном. Нейрон. 2008: 57: 774 – 785. [PubMed]
  250. Wightman RM, Heien MLAV, Wassum KM, Sombers LA, Aragona BJ, Khan AS, Ariansen JL, Cheer JF, Phillips PE, Carelli RM. Виділення дофаміну неоднорідне в межах мікросередовищ ядра щурів щурів. Європейський журнал неврології. 2007: 26: 2046 – 2054. [PubMed]
  251. Williams GV, Castner SA. Під кривою: критичні питання для з'ясування функції рецептора D1 у робочій пам'яті. Неврологія. 2006: 139: 263 – 276. [PubMed]
  252. Вільямс С.М., Гольдман-Ракич П.С. Широко поширене походження мезофронтальной системи допаміну приматів. Цереб. 1998: 8: 321 – 345. [PubMed]
  253. Winn P. Як найкраще розглянути структуру і функцію педукулопонтинского тегментального ядра: докази з досліджень на тваринах. Журнал неврологічних наук. 2006: 248: 234 – 250. [PubMed]
  254. Мудрий РА. Допамін, навчання і мотивація. Nat Rev Neurosci. 2004: 5: 483 – 494. [PubMed]
  255. Мудрий РА. Субстрати нагороди і мотивації переднього мозку. Журнал порівняльної неврології. 2005: 493: 115 – 121. [PMC безкоштовна стаття] [PubMed]
  256. Wise SP. Передні фронтальні поля: філогенез і фундаментальна функція. Тенденції нейронаук. 2008: 31: 599 – 608. [PMC безкоштовна стаття] [PubMed]
  257. Ямада Н, Мацумото Н., Кімура М. Тонічно активні нейрони в примате хвостатого ядра і путамін диференційно кодують вказівки мотиваційних результатів дії. J Neurosci. 2004: 24: 3500 – 3510. [PubMed]
  258. Ямада Г., Мацумото Н., Кімура М. Історико-поточне кодування заснованих на інструкціях майбутніх результатів поведінки в стриатуме. J Neurophysiol. 2007: 98: 3557 – 3567. [PubMed]
  259. Yin HH, Knowlton BJ. Роль базальних гангліїв у формуванні звички. Nat Rev Neurosci. 2006: 7: 464 – 476. [PubMed]
  260. Я. М., Моран П.М., Джозеф М.Х. Роль дофаміну в кондиціонуванні і латентному гальмуванні: що, коли, де і як? Неврологічні та біохімічні огляди. 2005: 29: 963 – 976. [PubMed]
  261. Zaghloul KA, Бланко JA, Weidemann CT, McGill K, Jaggi JL, Baltuch GH, Kahana MJ. Нейрони людської субстанції nigra кодують несподівані фінансові нагороди. Наука. 2009: 323: 1496 – 1499. [PMC безкоштовна стаття] [PubMed]
  262. Zahniser NR, Sorkin A. Швидке регулювання транспортера допаміну: роль у стимулюючої залежності? Нейрофармакологія. 2004, 47 Додаток 1: 80 – 91. [PubMed]
  263. Чжан Л, Дойон У.М., Кларк Дж., Філіпс П.Е., Дані Я.А. Контролюють тонічну і фазову передачу допаміну в дорсальний і вентральний стриатум. Молекулярна фармакологія. 2009: 76: 396 – 404. [PMC безкоштовна стаття] [PubMed]
  264. Zink CF, Pagnoni G, Martin ME, Dhamala M, Berns GS. Людська стриатическая реакція на яскраві нерентабельні стимули. Журнал Neuroscience. 2003: 23: 8092 – 8097. [PubMed]
  265. Zweifel LS, Argilli E, Bonci A, Palmiter RD. Роль NMDA-рецепторів у дофамінових нейронах для пластичності та адиктивної поведінки. Нейрон. 2008: 59: 486 – 496. [PMC безкоштовна стаття] [PubMed]
  266. Zweifel LS, Parker JG, Lobb CJ, Rainwater A, Wall VZ, Fadok JP, Darvas M, Kim MJ, Mizumori SJ, Paladini CA, et al. Порушення NMDAR-залежної вибухової стрільби з дофамінових нейронів забезпечує селективну оцінку фазового дофамін-залежного поведінки. Праці Національної академії наук Сполучених Штатів Америки. 2009: 106: 7281 – 7288. [PMC безкоштовна стаття] [PubMed]