激励控制中的多巴胺:奖励,厌恶和警报(2010)

神经元。 作者手稿; 可在PMC Dec 9,2011中找到。

以最终编辑形式发布为:

PMCID: PMC3032992

NIHMSID: NIHMS253484

请参阅PMC中的其他文章 引用 已发表的文章。

转到:

概要

中脑多巴胺神经元以其对奖励的强烈反应及其在积极动机中的关键作用而众所周知。 然而,越来越清楚的是,多巴胺神经元还传输与显着但无益的体验相关的信号,例如厌恶和警报事件。 在这里,我们回顾了理解多巴胺的奖励和非奖励功能的最新进展。 基于这些数据,我们提出多巴胺神经元有多种类型,它们与不同的脑网络相连,在动机控制中具有不同的作用。 一些多巴胺神经元编码动机价值,支持寻求,评估和价值学习的大脑网络。 其他人编码动机显着性,支持定向,认知和一般动机的大脑网络。 两种类型的多巴胺神经元都通过涉及快速检测潜在重要感觉线索的警报信号来增​​强。 我们假设这些价值,突显和警报的多巴胺能途径合作支持适应性行为。

介绍

神经递质多巴胺(DA)在动机控制中起着至关重要的作用 - 学习世界上哪些东西是好的和坏的,以及选择行动以获得好东西并避免坏事。 大脑皮质和大多数皮质下区域DA的主要来源是腹侧中脑的DA释放神经元,位于黑质致密部(SNc)和腹侧被盖区(VTA)(Bjorklund和Dunnett,2007)。 这些神经元以两种模式传播DA,'tonic'和'phasic'(格蕾丝,1991; Grace等人,2007)。 在他们的强直模式中,DA神经元在下游神经结构中保持稳定的基线DA水平,这对于实现神经回路的正常功能至关重要(舒尔茨,2007)。 在它们的相位模式中,DA神经元急剧增加或减少其100-500毫秒的激发速率,导致下游结构中DA浓度的大幅变化持续数秒(舒尔茨,1998; 舒尔茨,2007).

这些阶段性DA反应由许多类型的奖励和奖励相关的感官线索触发(舒尔茨,1998并且理想地定位于履行DA在动机控制中的作用,包括其作为强化学习基础的教学信号的作用(Schultz等人,1997; 明智的,2005)作为促进即时奖励寻求的激励信号(Berridge和Robinson,1998)。 因此,这些阶段性DA奖励信号在关于皮层和皮质下电路功能的理论中发挥了突出作用,并已成为强烈的神经科学研究的主题。 在本综述的第一部分,我们将介绍相位DA奖励信号的传统理论,并将回顾最近在理解其性质及其对神经处理和行为的控制方面的进展。

与DA在奖励处理中所接受的作用相反,关于阶段性DA活动在处理无奖励事件中的作用存在相当大的争议。 一些理论认为DA神经元相位反应主要编码奖励相关事件(舒尔茨,1998; Ungless,2004; 舒尔茨,2007),而其他人则认为DA神经元传递与惊人,新颖,显着甚至是厌恶经历相关的额外非奖励信号(Redgrave等,1999; Horvitz,2000; Di Chiara,2002; 约瑟夫等人,2003; Pezze和Feldon,2004; Lisman和Grace,2005; Redgrave和Gurney,2006)。 在本综述的第二部分,我们将讨论一系列研究,这些研究已经对这些理论进行了测试,并揭示了DA神经元中非奖励信号的本质。 特别是,这些研究提供了DA神经元比以前认为的更多样化的证据。 DA神经元不是编码单个同质激励信号,而是以多种类型编码,以不同的方式编码奖励和非奖励事件。 这对于寻求用单一神经信号或激励机制识别多巴胺的一般理论提出了问题。

为了解决这一难题,在本综述的最后部分,我们提出了一个新的假设来解释多种类型的DA神经元的存在,它们的神经信号的性质,以及它们融入不同的脑网络以进行动机控制。 我们的基本建议如下。 一种DA神经元编码 动机价值,通过奖励事件和被厌恶事件抑制而激动。 这些神经元支持大脑系统寻求目标,评估结果和价值学习。 第二种类型的DA神经元编码 动机突显对奖励和厌恶事件感到兴奋。 这些神经元支持用于定向,认知处理和动机驱动的大脑系统。 除了它们的价值和显着性编码活动之外,两种类型的DA神经元也传递一种 警报信号由具有高度潜在重要性的意外感官线索引发。 我们一起假设这些价值,突显和警报信号协同协调下游大脑结构并控制动机行为。

奖励中的多巴胺:传统理论

多巴胺在寻求奖励行动的动机

人们早就知道多巴胺对于强化和行动动机很重要。 干扰DA传播的药物会干扰强化学习,而增强DA传播的操作,如脑刺激和成瘾药物,往往起到强化作用(明智的,2004)。 DA传播对于创造寻求奖励的动机状态至关重要(Berridge和Robinson,1998; Salamone等,2007)并建立线索奖励协会的记忆(Dalley等,2005)。 DA释放对于所有形式的奖励学习都不是必需的,并且在引起快乐的意义上可能并不总是“喜欢”,但是在激励实现它们的行动的意义上使得目标成为“被通缉”是至关重要的(Berridge和Robinson,1998; Palmiter,2008).

关于多巴胺如何支持强化学习的一个假设是它调整神经元之间突触连接的强度。 这个假设最直接的形式是多巴胺根据改良的Hebbian规则控制突触可塑性,该规则可以粗略地称为“将线连在一起的神经元,只要它们得到多巴胺爆发”。 换句话说,如果细胞A激活细胞B,并且细胞B引起导致奖赏的行为动作,那么多巴胺将被释放并且A→B连接将被加强(Montague等人,1996; 舒尔茨,1998)。 如果有足够的试错经验,这种机制将允许有机体学习获得奖励的最佳行动选择。 与此假设一致,多巴胺对许多大脑区域的突触可塑性具有强大影响(Surmeier等,2010; Goto等人,2010; Molina-Luna等,2009; Marowsky等,2005; Lisman和Grace,2005)。 在某些情况下,多巴胺能够沿着上述的Hebbian规则,以与寻求奖励行为相关的方式实现突触可塑性(Reynolds等,2001)。 除了对长期突触可塑性的影响外,多巴胺还可以通过调节神经元尖峰活动和神经元之间的突触连接来立即控制神经回路(Surmeier等,2007; Robbins和Arnsten,2009),在某些情况下这样做会促进立即的奖励寻求行动(弗兰克,2005).

多巴胺神经元奖励信号

为了激发导致奖励的行动,应该在奖励体验期间释放多巴胺。 事实上,大多数DA神经元都受到意外的主要奖励(如食物和水)的强烈激活,通常会产生阶段性的“爆发”活动(舒尔茨,1998)(包括多个尖峰的相位激励(Grace和Bunney,1983))。 然而,Wolfram Schultz的开创性研究表明,这些DA神经元反应不是由奖励消费引发的 本身。 相反,它们类似于“奖励预测错误”,报告收到的奖励与预测发生的奖励之间的差异(Schultz等人,1997)(图1A)。 因此,如果奖励大于预测,则DA神经元强烈兴奋(正预测误差, 图1E,红色); 如果奖励小于预期或未能在指定时间发生,则DA神经元被相位抑制(阴性预测误差, 图1E, 蓝色); 如果提前确定奖励以使其大小完全可预测,则DA神经元几乎没有响应(零预测误差, 图1C, 黑色)。 对于感知线索的DA响应,同样的原则也适用于提供有关未来奖励的新信息。 当提示表明未来奖励值增加时,DA神经元会兴奋(图1C,红色),当提示表示未来奖励值减少时被禁止(图1C,蓝色),并且通常对提示没有新的奖励信息的提示反应很少(图1E, 黑色)。 这些DA响应类似于称为时间差异误差或“TD误差”的特定类型的奖励预测误差,已被提议用作学习行动和环境状态值的强化信号(Houk等人,1995; Montague等人,1996; Schultz等人,1997)。 使用类似TD的强化信号的计算模型可以解释人类,动物和DA神经元本身强化学习的许多方面(Sutton和Barto,1981; Waelti等,2001; Montague和Berns,2002; Dayan和Niv,2008).

图1 

多巴胺编码的奖励预测错误和对预测信息的偏好

一系列令人印象深刻的实验表明,DA信号以一种与行为偏好密切相关的方式表示奖励预测,包括偏好小额奖励(Tobler等,2005)不可能的奖励可能的奖励(Fiorillo等,2003; Satoh等人,2003; Morris等,2004)和延迟奖励的直接奖励(Roesch等,2007; Fiorillo等,2008; Kobayashi和Schultz,2008)。 甚至有证据表明人类的DA神经元编码货币的奖励价值(Zaghloul等人,2009)。 此外,DA信号在学习期间出现,具有与奖励预测的行为测量类似的时间路径(Hollerman和Schultz,1998; Satoh等人,2003; Takikawa等,2004; Day等人,2007并且与奖励偏好的主观测量相关(Morris等,2006)。 这些发现已经确定DA神经元是大脑中奖励编码的最佳理解和最复制的例子之一。 因此,最近的研究已经对DA神经元进行了严格的审查,以发现它们如何产生奖励预测以及它们的信号如何作用于下游结构以控制行为。

奖励中的多巴胺:近期进展

多巴胺神经元奖励信号

理解DA奖励信号的最新进展来自于三个广泛的问题:DA神经元如何学习奖励预测? 他们的预测准确度如何? 他们认为什么是有益的呢?

DA神经元如何学习奖励预测? 经典理论认为,奖励预测是通过逐步强化过程来学习的,需要反复的刺激 - 奖励配对(Rescorla和Wagner,1972; Montague等人,1996)。 每次刺激A之后是意外奖励,A的估计值增加。 然而,最近的数据表明,DA神经元超越了简单的刺激 - 奖励学习,并根据对世界结构的复杂信念做出预测。 即使在非常规环境中,DA神经元也可以正确地预测奖励,其中奖励与刺激配对导致a 减少 在刺激的价值(Satoh等人,2003; Nakahara等,2004; Bromberg-Martin等,2010c)或导致完全不同的刺激值的变化(Bromberg-Martin等,2010b)。 DA神经元还可以基于奖励分布的高阶统计量来调整其奖励信号,例如基于预期方差的缩放预测误差信号(Tobler等,2005并且'自发地恢复'他们对熄灭的奖励线索的反应(Pan等人,2008)。 所有这些现象与感觉和运动适应中的类似效果形成显着平行(Braun等,2010; Fairhall等人,2001; Shadmehr等,2010),表明它们可能反映了预测性学习的一般神经机制。

DA奖励预测的准确度如何? 最近的研究表明,DA神经元忠实地调整其奖励信号,以解释预测不确定性的三个来源。 首先,人类和动物受到内部定时噪音的影响,使他们无法对长线索奖励时间间隔做出可靠的预测(Gallistel和Gibbon,2000)。 因此,如果提示 - 奖励延迟很短(1-2秒),时间预测是准确的并且奖励传递会触发很少的DA响应,但是对于更长的提示 - 奖励延迟,时间预测变得不那么可靠并且奖励引起清晰的DA突发(Kobayashi和Schultz,2008; Fiorillo等,2008)。 其次,日常生活中的许多线索都是不精确的,规定了奖励交付时间的广泛分布。 DA神经元再次反映了这种形式的时间不确定性:它们在可变奖励延迟期间逐渐被抑制,好像在每次奖励未能出现时发出越来越多的负奖励预测误差(Fiorillo等,2008; Bromberg-Martin等人,2010a; Nomoto等人,2010)。 最后,许多线索在感知上很复杂,需要进行详细检查才能得出关于其奖励价值的确切结论。 在这种情况下,DA奖励信号以长时间延迟和渐进方式发生,似乎反映了刺激值被解码时感知信息的逐渐流动(Nomoto等人,2010).

DA神经元将哪些事件视为有益的? 传统的奖励学习理论表明,DA神经元根据未来主要奖励的预期数量来分配价值(Montague等人,1996)。 然而,即使主要奖励的比率保持不变,人类和动物也经常表达对可预测性的额外偏好 - 寻求每个奖励的大小,概率和时间可提前知道的环境(戴利,1992; Chew和Ho,1994; Ahlbrecht和Weber,1996)。 猴子最近的一项研究发现DA神经元发出这种偏好的信号(Bromberg-Martin和Hikosaka,2009)。 猴子表示强烈倾向于观察信息丰富的视觉线索,这些线索可以让他们预测未来奖励的大小,而不是没有提供新信息的无信息线索。 与此同时,DA神经元有机会以与动物行为偏好相关的方式查看信息线索(图1B,D)。 这表明DA神经元不仅激励行动以获得奖励,而且还激励行动以对这些奖励做出准确的预测,以确保可以提前适当地预期和准备奖励。

总之,这些研究结果表明,DA奖励预测误差信号对于通知人类和动物奖励预测的复杂因素敏感,包括适应高阶奖励统计,奖励不确定性和预测信息偏好。

相位多巴胺奖励信号对下游结构的影响

DA奖励响应发生在同步相位突发中(Joshua等,2009b),一种在目标结构中塑造DA释放的响应模式(Gonon,1988; Zhang等人,2009; Tsai等人,2009)。 长期以来,理论上认为这些阶段性爆发以不同的方式影响学习和动机,从强直的DA活动(格蕾丝,1991; Grace等人,2007; 舒尔茨,2007; Lapish等,2007)。 最近开发的技术使得通过以精细的空间和时间精度控制DA神经元活动来证实该假设成为可能。 VTA DA神经元的光遗传学刺激诱导强烈的条件性位置偏好,仅在以爆发模式应用刺激时才发生(Tsai等人,2009)。 相反,来自DA神经元的NMDA受体的基因敲除,其损害爆发,​​同时使强直活性基本上完整,导致特定形式的奖励学习中的选择性损伤(Zweifel等,2009; Parker等,2010)(虽然注意这个敲除也会损害DA神经元突触可塑性(Zweifel等,2008))。 DA突发可以通过重新配置本地神经回路来增强奖励学习。 值得注意的是,奖励预测DA爆发被发送到伏隔核的特定区域,并且这些区域具有特别高水平的奖励预测神经活动(Cheer等,2007; Owesson-White等人,2009).

与阶段性爆发相比,对负补偿预测误差的尖峰活动中阶段性暂停的重要性知之甚少。 这些暂停导致穗率变化较小,受奖励预期调节较少(拜耳和Glimcher,2005; Joshua等人,2009a; Nomoto等人,2010),可能对学习影响较小(Rutledge等人,2009)。 但是,某些类型的负面预测错误学习需要VTA(高桥等人,2009),表明相位暂停仍可由下游结构解码。

由于爆发和暂停导致DA释放的模式非常不同,它们可能通过不同的机制影响下游结构。 在DA神经元的一个主要目标 - 背侧纹状体中最近有证据表明这一假设。 背侧纹状体投射神经元有两种表达不同DA受体的类型。 一种类型表达D1受体并投射到基底神经节的“直接通路”以促进身体运动; 第二种类型表达D2受体并投射到“间接途径”以抑制身体运动(图2)(Albin等,1989; Gerfen等,1990; Kravitz等,2010; Hikida等,2010)。 基于这些途径和受体的特性,有理论认为DA爆发产生高DA条件,激活D1受体,并导致直接途径选择高价值运动(图2A),DA暂停产生低DA条件,抑制D2受体,并导致间接途径抑制低值运动(图2B)(弗兰克,2005; Hikosaka,2007)。 与此假设一致,高DA受体激活促进皮质 - 纹状体突触增强直接通路(Shen等人,2008)并从积极成果中学习(Frank等人,2004; Voon等人,2010),纹状体D1受体阻断选择性地损害奖励目标的运动(Nakamura和Hikosaka,2006)。 以类似的方式,低DA受体激活促进皮质 - 纹状体突触增强到间接途径(Shen等人,2008并从消极结果中学习(Frank等人,2004; Voon等人,2010而纹状体D2受体阻断选择性地抑制向无奖励目标的运动(Nakamura和Hikosaka,2006)。 D1和D2受体功能在动机控制中的划分解释了DA相关基因对人类行为的许多影响(Ullsperger,2010; Frank和Fossella,2010并且可能延伸到背侧纹状体以外,因为有证据证明腹侧纹状体有类似的分工(Grace等人,2007; Lobo等,2010).

图2 

多巴胺控制背侧纹状体的阳性和阴性动机

虽然上述方案通过其对纹状体的影响描绘了相位DA控制行为的简单图像,但完整的图像要复杂得多。 DA通过作用于许多大脑区域(包括前额皮质)影响奖励相关行为(Hitchcott等人,2007),rhinal cortex(Liu等人,2004),hippocampus(Packard和White,1991; Grecksch和Matties,1981)和杏仁核(Phillips等,2010)。 由于DA神经支配密度,DA转运蛋白,代谢酶,自身受体,受体和受体与细胞内信号通路的耦合,DA对这些区域的影响可能差别很大(Neve等人,2004; Bentivoglio和Morelli,2005; Frank和Fossella,2010)。 此外,至少在VTA中,DA神经元根据其投射目标可以具有不同的细胞特性(Lammel等,2008; Margolis等,2008),有些人具有传递谷氨酸和多巴胺的显着能力(Descarries等,2008; Chuhma等,2009; Hnasko等,2010; Tecuapetla等,2010; Stuber等,2010; Birgner等人,2010)。 因此,仅开始揭示对神经处理的DA神经元控制的全部程度。

多巴胺:超越奖励

到目前为止,我们已经讨论了DA神经元在奖励相关行为中的作用,其基于类似于奖励预测错误的多巴胺反应。 然而,越来越清楚的是,DA神经元在阶段上对几种类型的事件做出反应,这些事件本质上没有回报并且不是对未来奖励的暗示,并且这些非奖励信号在激励处理中具有重要作用。 这些非奖励活动可分为两大类, 厌恶警报,我们将在下面详细讨论。 厌恶事件包括本质上不受欢迎的刺激(例如吹气,苦味,电击和其他不愉快的感觉)和通过与这些事件相关联而获得厌恶性质的感官提示。 警报事件是具有高潜在重要性的意外感觉线索,其通常触发立即反应以确定其含义。

不同的多巴胺对厌恶事件的反应

神经元对厌恶事件的反应为其在动机控制中的功能提供了至关重要的考验(舒尔茨,1998; Berridge和Robinson,1998; Redgrave等,1999; Horvitz,2000; 约瑟夫等人,2003)。 在许多方面,我们以相反的方式对待奖励和厌恶事件,反映他们的反面 动机价值。 我们寻求奖励并为其分配正面价值,同时我们避免厌恶事件并赋予它们负面价值。 在其他方面,我们以类似的方式对待奖励和厌恶事件,反映他们的相似之处 动机突显 [FOOTNOTE1]。 奖励和厌恶事件都会引发注意力,认知处理和一般动机的增加。

DA神经元支持哪些功能? 人们早就知道,压力和厌恶的经历会导致下游脑结构中DA浓度的巨大变化,并且DA激动剂,拮抗剂和病变会显着改变对这些经历的行为反应(Salamone,1994; Di Chiara,2002; Pezze和Feldon,2004; Young等,2005)。 然而,这些研究产生了惊人的多样性结果(Levita等,2002; Di Chiara,2002; Young等,2005)。 许多研究与编码动机显着性的DA神经元一致。 他们报告说,厌恶事件会增加DA水平,并且行为厌恶会受到高水平DA传播的支持(Salamone,1994; 约瑟夫等人,2003; Ventura等,2007; Barr等人,2009; Fadok等,2009)包括相位DA爆发(Zweifel等,2009)。 但其他研究更符合编码动机价值的DA神经元。 他们报告说,厌恶事件降低了DA水平,并且低水平的DA传播支持行为厌恶(Mark等人,1991; Shippenberg等,1991; Liu等人,2008; Roitman等,2008)。 在许多情况下,这些混合结果已在单一研究中发现,表明厌恶经历导致不同脑结构中不同的DA释放模式(Thierry等,1976; Besson和Louilot,1995; Ventura等,2001; Jeanblanc等,2002; Bassareo等,2002; Pascucci等,2007),与DA相关的药物可以产生类似于奖励和厌恶经历所引起的神经和行为效应的混合物(Ettenberg,2004; Wheeler等,2008).

这种DA释放模式和功能的多样性难以与DA神经元向所有大脑结构传递均匀激励信号的想法相协调。 然而,如果DA神经元本身是多样的,可以解释这些不同的反应 - 由支持厌恶处理的不同方面的多个神经群组成。 这种观点得到麻醉动物神经记录研究的支持。 这些研究表明,有害刺激会唤起某些DA神经元的激发,但会抑制其他DA神经元(Chiodo等,1980; Maeda和Mogenson,1982; Schultz和Romo,1987; Mantz等,1989; Gao等人,1990; Coizet等,2006)。 重要的是,兴奋性和抑制性反应都发生在使用近细胞标记确认为多巴胺能的神经元中(Brischoux等,2009)(图3)。 在主动行为期间发生类似的厌恶反应的多样性。 不同组的DA神经元被厌恶事件(包括对皮肤的有害刺激)进行相位兴奋或抑制(Kiyatkin,1988a; Kiyatkin,1988b),感觉线索预测厌恶冲击(Guarraci和Kapp,1999),厌恶的吹气(Matsumoto和Hikosaka,2009b)和感觉线索预测厌恶的吹气(Matsumoto和Hikosaka,2009b; Joshua等人,2009a)。 此外,当同时记录两个DA神经元时,它们的厌恶反应通常几乎没有试验相互关联(Joshua等,2009b),表明厌恶的反应不是整个DA人群的协调。

图3 

多种多巴胺神经元对厌恶事件的反应

为了理解这些不同厌恶反应的功能,我们需要知道它们如何与奖励反应相结合以产生有意义的动机信号。 最近的一项研究调查了这一主题,并揭示DA神经元被分为多个具有不同动机信号的群体(Matsumoto和Hikosaka,2009b)。 一个群体对奖励事件感到兴奋,并被厌恶事件所抑制,就像编码一样 动机价值 (图4A)。 第二个人群以类似的方式对奖励和厌恶事件感到兴奋,就像编码一样 动机突显 (图4B)。 在这两个群体中,许多神经元对奖励和厌恶预测很敏感:当奖励事件比预测事件更有价值并且厌恶事件比预测更厌恶时,它们会做出反应(Matsumoto和Hikosaka,2009b)。 这表明他们的厌恶反应确实是由对厌恶事件的预测引起的,排除了他们可能由非特定因素引起的可能性,例如原始感官输入或与奖励的广义关联(舒尔茨,2010)。 然而,这两个群体的预测代码的详细性质不同。 动机值编码DA神经元编码准确的预测误差信号,包括通过省略奖励来强烈抑制和通过省略厌恶事件的轻微激励(图4A, 对)。 相比之下,动态显着性编码DA神经元在突出事件存在时作出反应,但在不存在突发事件时则不作出反应(图4B,右),与觉醒的理论概念一致(郎和戴维斯,2006)[FOOTNOTE2]。 即使在以平均方式检查神经活动时,也观察到这两个DA神经元群体的证据。 因此,针对DA系统不同部分的研究发现相位DA信号编码具有抑制作用的厌恶事件(Roitman等,2008),类似于动机值的编码,或激励(Joshua等,2008; Anstrom等人,2009),类似于动机显着性的编码。

图4 

不同的多巴胺神经元群体编码动机价值和显着性

最近的这些发现似乎与早期的报道相矛盾,即DA神经元优先响应奖励线索而不是厌恶线索(Mirenowicz和Schultz,1996)。 但是,如果仔细检查,该研究也与DA值和显着性编码完全一致。 在该研究中,奖励线索导致奖励结果的可能性很高(> 90%),而厌恶线索则导致奖励结果的可能性很低(<10%)。 因此,对价值和显着性进行编码的DA神经元对厌恶线索的反应很小,可以准确地编码它们的厌恶程度较低。

动机价值和显着性信号的功能作用

总之,上述发现表明DA神经元被分成适合于动机控制中不同作用的多个群体。 动机值编码DA神经元符合当前多巴胺神经元和奖励处理理论(Schultz等人,1997; Berridge和Robinson,1998; 明智的,2004)。 这些神经元编码完整的预测误差信号,并编码相反方向的奖励和厌恶事件。 因此,这些神经元为寻求,评估和价值学习提供了适当的指导信号(图5)。 如果刺激导致编码DA神经元的值被激发,那么我们应该接近它,赋予它高价值,并学习将来再次寻找它的行动。 如果刺激导致编码DA神经元的值被抑制,那么我们应该避免它,将其分配低值,并学习将来再次避免它的行为。

图5 

假设的动机价值,显着性和警报信号的功能

相比之下,编码DA神经元的动机显着性与多巴胺神经元的理论和显着事件的处理非常吻合(Redgrave等,1999; Horvitz,2000; 约瑟夫等人,2003; Kapur,2003)。 这些神经元受到奖励和厌恶事件的激励,对中性事件的反应较弱,为神经回路提供了适当的指导信号,以学习检测,预测和应对高度重要的情况。 在这里我们将考虑三个这样的脑系统(图5)。 首先,校准用于视觉和注意力定向的神经回路以发现关于所有类型事件的信息,包括奖励和厌恶。 例如,奖励和厌恶线索比中性线索更有效地吸引定向反应(郎和戴维斯,2006; Matsumoto和Hikosaka,2009b; Austin和Duka,2010)。 其次,奖励性和厌恶性情境都需要神经系统进行认知控制和行动选择-我们需要投入工作记忆来牢记信息,解决冲突以决定行动方针,并需要长期记忆来记住结果(Bradley等人,1992; Botvinick等,2001; Savine等人,2010)。 第三,奖励和厌恶情况都需要增加激励行动的总体动机,并确保它们得到正确执行。 实际上,DA神经元在激励努力实现高价值目标以及将任务需求知识转化为可靠的运动性能方面至关重要(Berridge和Robinson,1998; Mazzoni等人,2007; Niv等人,2007; Salamone等,2007).

通过警告感官线索激发多巴胺

除了编码动机值和显着性的信号之外,大多数DA神经元还对几种类型的感觉事件具有突发响应,这些感觉事件与奖励或厌恶经历没有直接关联。 这些反应被理论化为依赖于许多神经和心理因素,包括直接感觉输入,惊讶,新奇,唤醒,注意力,突显性,泛化和伪条件(舒尔茨,1998; Redgrave等,1999; Horvitz,2000; Lisman和Grace,2005; Redgrave和Gurney,2006; Joshua等人,2009a; 舒尔茨,2010).

在这里,我们将尝试综合这些想法,并根据单个基础信号来解释这些DA响应 警报信号 (图5)。 Schultz使用“警报”一词(舒尔茨,1998)作为吸引注意力的事件的总称。 在这里,我们将更具体地使用它。 通过警报事件,我们指的是一种意想不到的感官提示,通过使用其位置,大小和感官形态等简单特征快速评估其潜在重要性来吸引注意力。 这种警报事件通常会引发立即的行为反应,以调查它们并确定它们的确切含义。 因此,DA警报信号通常发生在短暂的潜伏期,基于刺激的粗略特征,并且最好与即时反应相关,例如定向反应(Schultz和Romo,1990; Joshua等人,2009a; 舒尔茨,2010)。 这与DA神经元中的其他动机信号形成对比,DA信号通常出现在较长的潜伏期,考虑到刺激的精确身份,并且最好与所考虑的行为动作相关,例如接近或避免的决定(Schultz和Romo,1990; Joshua等人,2009a; 舒尔茨,2010).

DA警报响应可以通过令人惊讶的感官事件触发,例如意外的闪光和听觉点击,这会引起整个SNc和VTA中60-90%DA神经元的突然爆发激发(Strecker和Jacobs,1985; Horvitz等人,1997; Horvitz,2000)(图6A)。 这些警报反应似乎反映出刺激措施令人惊讶并引起注意的程度; 如果刺激发生在可预测的时间,如果注意力集中在其他地方或睡眠期间,它们会减少舒尔茨,1998; Takikawa等,2004; Strecker和Jacobs,1985; Steinfels等,1983)。 例如,当猫处于被动醒来的被动状态时,意外的咔哒声会引起突然的DA爆发,但是当猫从事狩猎老鼠,喂食,梳理,被宠物等注意力要求很高的活动时,它们没有任何效果。由实验者,等等(Strecker和Jacobs,1985)(图6A)。 类似地,DA爆发响应是由身体虚弱的感觉事件触发的,但由于其新颖性而发出警报(Ljungberg等,1992; 舒尔茨,1998)。 这些反应习惯于新的刺激变得熟悉,与定向反应的习惯平行(图6B)。 与这些发现一致,令人惊讶的和新颖的事件唤起下游结构中的DA释放(Lisman和Grace,2005并以一种塑造奖励处理的方式激活与DA相关的大脑回路(Zink等人,2003; Davidson等,2004; Duzel等人,2010).

图6 

多巴胺神经元对警报事件的兴奋反应

DA警报响应也由意外的感官线索触发,这些线索有可能提供关于动机显着事件的新信息。 正如预期的短潜伏期警报信号,这些反应是非选择性的:它们仅由任何刺激触发 酷似 即使相似之处非常轻微(一种称为概括的现象),也是一种动机上显着的线索(舒尔茨,1998)。 结果,DA神经元经常通过两种信号的混合来响应刺激:一种快速警报信号,编码刺激的事实。 可能 很重要,第二个信号编码它 实际 奖励或厌恶的意义(Schultz和Romo,1990; Waelti等,2001; Tobler等,2003; Day等人,2007; Kobayashi和Schultz,2008; Fiorillo等,2008; Nomoto等人,2010)(见(Kakade和Dayan,2002; Joshua等人,2009a; 舒尔茨,2010)进行审查)。 在一组动机显着性编码DA神经元中可以看到一个例子 图6C (Bromberg-Martin等人,2010a)。 这些神经元被奖励和厌恶的线索所激发,但他们也被中立线索所激发。 中性线索从未与动机结果配对,但确实与奖励和厌恶线索有一种(非常轻微的)物理相似性。

这些警报响应似乎与感官提示触发定向反应以进一步检查并发现其含义的能力密切相关。 这可以在三个值得注意的属性中看到。 首先,警报响应仅发生在必须检查以确定其含义的感官线索上,而不是针对内在奖励或厌恶事件(例如果汁或吹气球的交付)(舒尔茨,2010)。 其次,仅当提示具有潜在重要性且能够触发定向反应时才会发出警报响应,而不是当提示与手头的任务无关并且未能触发定向反应时(Schultz和Romo,1990)。 第三,当线索突然引起注意力突然转移 - 当它们出现在意外时刻或远离注视中心时,警报响应会得到增强(Bromberg-Martin等人,2010a)。 因此,当激励线索以不可预测的时间呈现时,它们会触发即时定向反应和广义的DA警报响应 - 所有线索激发,包括中性线索(图6C, 黑色)。 但是,如果他们的时间安排是可预测的 - 例如,通过预警,在提示出现前一秒钟出现“试验开始提示” - 这些提示不再引起警报响应(图6D,灰色)。 相反,警报响应转移到试验开始提示 - 试验的第一个事件具有不可预测的时间并引起定向反应(图6D, 黑色)。

生成DA神经元警报信号的基本机制是什么? 一种假设是警报响应只是在短暂延迟时发生的传统奖励预测误差信号,在完全区分之前编码刺激的预期奖励值(Kakade和Dayan,2002)。 然而,最近的证据表明,警报信号可以通过与传统DA奖励信号不同的机制产生(Satoh等人,2003; 拜耳和Glimcher,2005; Bromberg-Martin等人,2010a; Bromberg-Martin等,2010c; Nomoto等人,2010)。 最引人注目的是,对试验开始提示的警报响应不仅限于奖励任务; 在没有奖励的厌恶任务中,它可以有相同的力量(图6C,D,底部,“厌恶的任务”)。 即使相同神经元中的传统DA奖励信号正确地表明奖励任务具有比厌恶任务高得多的预期值,也会发生这种情况(Bromberg-Martin等人,2010a)。 这些警报信号不仅仅是一种价值编码形式,也不仅仅是一种显着性编码形式,因为它们出现在大多数动机值和显着性编码DA神经元中(Bromberg-Martin等人,2010a)。 DA神经元基于过去奖励结果的记忆预测未来奖励的方式可以看到第二次分离(Satoh等人,2003; 拜耳和Glimcher,2005)。 传统的DA奖励信号由针对准确的奖励预测而优化的长时间记忆轨迹控制,而对试验开始提示的警报响应由类似于即时定向反应中看到的单独记忆迹线控制(Bromberg-Martin等,2010c)。 在这些信号分布在DA神经元群体中的方式中可以看到第三种解离。 尽管常规DA奖励信号在腹内侧SNc中最强,但在整个SNc中广播响应试验开始提示(以及其他意外定时提示)的响应(Nomoto等人,2010).

与传统奖励信号的这些分离相反,DA警报信号与定向速度和接近警报事件的响应相关联(Satoh等人,2003; Bromberg-Martin等人,2010a; Bromberg-Martin等,2010c)。 这表明警报信号是由神经过程产生的,该过程激发快速反应以调查潜在的重要事件。 不幸的是,目前对于该过程究竟将哪些事件视为“重要”的了解相对较少。 例如,提醒响应对奖励和厌恶事件同样敏感吗? 已知警报响应发生在类似于奖励提示或类似于奖励和厌恶提示(例如,通过共享相同的感觉模态)的刺激上。 但目前尚不清楚是否会出现类似厌恶线索的刺激的警报响应。

多巴胺警报信号的功能作用

正如我们所看到的,警报信号很可能是由不同于激励价值和显着性信号的机制产生的。 然而,警报信号被发送到动机值和显着性编码DA神经元,因此可能以类似于价值和显着信号的方式调节大脑处理和行为(图5).

发送到动机显着性编码DA神经元的警报信号将支持将注意力引导至警报刺激,认知资源的参与以发现其意义并决定行动计划,并提高动机水平以有效实施该计划(图5)。 这些影响可能通过对神经处理的直接影响或通过加强导致检测到警报事件的动作而发生。 这种功能性作用非常适合DA警报反应与警报刺激的快速行为反应之间的相关性,以及短潜伏DA神经元反应涉及注意力定向,唤醒,认知加工增强和即时行为反应的理论(Redgrave等,1999; Horvitz,2000; 约瑟夫等人,2003; Lisman和Grace,2005; Redgrave和Gurney,2006; Joshua等人,2009a).

在动机值编码DA神经元中存在警报信号更难以解释。 这些神经元传递的动机价值信号非常适合寻求,评估结果和价值学习; 然而,他们也可以通过提醒诸如意外的咔哒声和厌恶试验的开始等事件而感到兴奋。 根据我们的假设路径(图5),这将导致警报事件被赋予正值并以类似于奖励的方式被追捧! 虽然初看起来令人惊讶,但有理由怀疑警报事件可被视为积极目标。 警报信号提供了潜在重要事件即将发生的第一个警告,因此提供了采取行动来控制该事件的第一个机会。 如果提供警报提示,则可以提前检测,预测和准备动机突出事件; 如果没有警示线索,那么动机突出的事件总是会出现意外的惊喜。 实际上,人类和动物经常表达对环境的偏好,在这种环境中,可以提前观察和预测奖励,厌恶甚至动机中立的感官事件(Badia等,1979; Herry等,2007; 戴利,1992; Chew和Ho,1994)和许多DA神经元发出行为偏好信号来查看奖励预测信息(Bromberg-Martin和Hikosaka,2009)。 DA警报信号可以通过向可以提前预测潜在重要感官提示的环境分配正值来支持这些偏好。

用于激励价值,突显和警报的神经通路

到目前为止,我们将DA神经元划分为两种类型,它们编码动机价值和动机显着性,适用于激励控制中的不同角色(图5)。 这个概念方案如何映射到大脑的神经通路? 在这里,我们提出了一个假设,关于这些神经元的解剖位置,它们对下游结构的投射,以及它们的动力信号的来源(数字6,,77).

图7 

假设的解剖位置和多巴胺动机值和突出编码神经元的预测

价值和突出编码神经元的解剖位置

最近的一项研究绘制了侧向中脑中DA奖励和厌恶信号的位置,包括SNC和VTA的最外侧部分(Matsumoto和Hikosaka,2009b)。 励志价值和动机显着性信号以解剖学梯度分布在该区域。 在腹内侧SNc和侧VTA的神经元中更常见动机值信号,而在背外侧SNc的神经元中更常见动机显着信号(图7B)。 这与在腹内侧SNc中DA奖励值编码最强的报道一致(Nomoto等人,2010虽然厌恶激励往往更强烈横向(Mirenowicz和Schultz,1996)。 其他研究探索了更多内侧中脑。 这些研究发现了兴奋性和抑制性厌恶反应的混合物,它们的位置没有显着差异,尽管厌恶性激发的趋势更多地位于腹侧(Guarraci和Kapp,1999; Brischoux等,2009)(图7C).

动机价值信号的目的地

根据我们的假设,动机值编码DA神经元应投射到参与进近和回避行为,结果评估和价值学习的大脑区域(图5)。 实际上,腹内侧SNc和VTA向腹内侧前额叶皮层投射(Williams和Goldman-Rakic,1998)包括眶额皮质(OFC)(Porrino和Goldman-Rakic,1982)(图7A)。 OFC一直与功能成像研究中的价值编码有关(Anderson等,2003; Small等,2003; Jensen等,2007; Litt等人,2010)和单神经元记录(莫里森和萨尔兹曼,2009; Roesch和Olson,2004)。 OFC被认为是评估选择方案(Padoa-Schioppa,2007; Kable和Glimcher,2009),编码结果期望(Schoenbaum等,2009),并在学习期间更新这些期望(Walton等,2010)。 此外,OFC参与了从负面奖励预测误差中学习(高桥等人,2009)价值编码DA神经元中最强的(图4).

此外,多巴胺能中脑的内侧部分突出到腹侧纹状体,包括伏隔核壳(NAc壳)(Haber等,2000)(图7A)。 最近的一项研究表明,NAc壳体接收编码味觉结果的动机值的相位DA信号(Roitman等,2008)。 这些信号可能会导致价值学习,因为将DA药物直接输注到NAc壳中是强有力的(Ikemoto,2010)减少DA输入到壳的治疗可以诱导厌食(Liu等人,2008)。 需要注意的是,NAc shell DA长时间(分钟)释放的研究产生了不同的结果,一些与值编码一致,另一些与显着性编码一致(例如(Bassareo等,2002; Ventura等,2007))。 这表明值信号可能被限制在NAc壳内的特定位置。 值得注意的是,NAc壳的不同区域专门用于控制食欲和厌恶行为(Reynolds和Berridge,2002),都需要来自DA神经元的输入(Faure等,2008).

最后,在整个SNc范围内的DA神经元向背侧纹状体发送重的投射(Haber等,2000),提示背侧纹状体可能同时接受动力值和显着性编码DA信号(图7A)。 动机值编码DA神经元将为参与价值学习的纹状体电路提供理想的指导信号,例如学习刺激 - 反应习惯(Faure等,2005; Yin和Knowlton,2006; Balleine和O'Doherty,2010)。 当这些DA神经元爆发时,他们会通过直接途径学习获得奖励结果; 当他们停下来时,他们会通过间接途径学会避免厌恶的结果(图2)。 事实上,最近有证据表明,纹状体通路恰好遵循这种分工来进行奖励和厌恶处理(Hikida等,2010)。 然而,仍然不知道这些途径中的神经元如何响应行为期间的奖励和厌恶事件。 至少在整个背侧纹状体中,一部分神经元以不同的方式响应某些奖励和厌恶事件(拉威尔等人,2003; Yamada等,2004, 2007; Joshua等,2008).

动机显着性信号的目的地

根据我们的假设,编码DA神经元的动机显着性应该投射到涉及定向,认知处理和一般动机的大脑区域(图5)。 实际上,背外侧中脑的DA神经元向背侧和侧面额叶皮层发送投射(Williams和Goldman-Rakic,1998)(图7A),一个涉及认知功能的区域,如注意力搜索,工作记忆,认知控制和动机结果之间的决策(威廉姆斯和卡斯特纳,2006; Lee和Seo,2007; 明智的,2008; Kable和Glimcher,2009; Wallis和Kennerley,2010)。 背外侧前额叶认知功能受DA水平的严格调节(Robbins和Arnsten,2009并且理论上依赖于相位DA神经元激活(科恩等人,2002; Lapish等,2007)。 值得注意的是,横向前额叶神经元的一个子集对有益的和厌恶的视觉线索做出反应,并且绝大多数在相同的方向上做出响应,类似于动机显着性的编码(Kobayashi等,2006)。 此外,这些神经元的活动与执行工作记忆任务时的行为成功相关(Kobayashi等,2006)。 虽然这种背外侧DA→背外侧额叶皮质通路似乎特异于灵长类动物(Williams和Goldman-Rakic,1998),其他物种可能存在功能相似的途径。 特别是,灵长类背外侧前额叶皮层的许多认知功能是由啮齿动物内侧前额叶皮层进行的(Uylings等,2003),并且有证据表明该地区接收DA动机显着性信号并控制与突出相关的行为(Mantz等,1989; Di Chiara,2002; 约瑟夫等人,2003; Ventura等,2007; Ventura等,2008).

鉴于证据表明VTA包含显着性和价值编码神经元,并且值编码信号被发送到NAc外壳,显着信号可能被发送到NAc核心(图7A)。 实际上,NAc核心(但不是shell)对于激发克服物理努力等响应成本的动力至关重要; 用于执行需要认知灵活性的移位任务; 并使奖励提示能够增强一般动机(Ghods-Sharifi和Floresco,2010; Floresco等,2006; Hall等,2001; 红衣主教,2006)。 与激励显着性的编码一致,NAc核心在奖励体验期间接收DA的阶段性爆发(Day等人,2007)和厌恶的经历(Anstrom等人,2009).

最后,如上所述,一些突出编码DA神经元可能会投射到背侧纹状体(图7A)。 虽然背侧纹状体的某些区域涉及与学习动作值相关的功能,但背侧纹状体也参与应该参与所有突出事件的功能,例如定向,注意力,工作记忆和一般动机(Hikosaka等,2000; Klingberg,2010; Palmiter,2008)。 事实上,背部纹状体神经元的一个子集对奖励和厌恶事件的反应比对中性事件更敏感(拉威尔等人,1999; Blazquez等人,2002; Yamada等,2004, 2007虽然他们在动机行为中的因果作用尚不清楚。

动机价值信号的来源

最近的一系列研究表明DA神经元接受来自外阴的小核,即外侧缰(LHb)的动力值信号(Hikosaka,2010)(图8)。 LHb对DA神经元发挥强有力的阴性控制:LHb刺激在短潜伏期抑制DA神经元(Christoph等人,1986并且可以以与VTA刺激相反的方式调节学习(Shumake等,2010)。 与阴性对照信号一致,许多LHb神经元对DA神经元具有镜像反转的阶段性反应:LHb神经元是 抑制 通过积极的奖励预测错误和 兴奋 通过负面回报预测误差(Matsumoto和Hikosaka,2007, 2009a; Bromberg-Martin等人,2010a; Bromberg-Martin等,2010c)。 在一些情况下,这些信号在LHb的较短延迟时出现,与LHb→DA传输一致(Matsumoto和Hikosaka,2007; Bromberg-Martin等人,2010a).

图8 

假设的动机价值,突显和警报信号来源

LHb能够控制整个中脑的DA神经元,但有几个证据表明它对编码DA神经元的动机值有优先控制作用。 首先,LHb神经元以与编码DA神经元相关的方式编码动机值 - 它们编码正面和负面的奖励预测错误,并以相反的方向响应奖励和厌恶事件(Matsumoto和Hikosaka,2009a; Bromberg-Martin等人,2010a)。 其次,LHb刺激对DA神经元具有最有效的作用,其性质与值编码一致,包括通过无内线SNc的无奖励线索和解剖位置的抑制(Matsumoto和Hikosaka,2007, 2009b)。 第三,LHb的损伤损害DA神经元对厌恶事件的抑制反应,表明LHb在产生DA值信号中的因果作用(Gao等人,1990).

LHb是更广泛的神经通路的一部分,DA神经元可以通过基底神经节控制(图8)。 LHb通过位于苍白球边界(GPb)周围的一群神经元的投射接收类似于奖励预测错误的信号(Hong和Hikosaka,2008)。 一旦这些信号到达LHb,它们很可能通过突触通路被送到DA神经元,其中LHb激发中脑GABA神经元,进而抑制DA神经元(Ji和Shepard,2007; Omelchenko等,2009; Brinschwitz等,2010)。 这可能是通过对VTA中的中间神经元的LHb预测和相邻的GABA能神经核(称为rostromedial tegmental nucleus(RMTg))进行的(Jhou等人,2009b)(也称为'VTA的尾尾'(Kaufling等,2009))。 值得注意的是,RMTg神经元具有与LHb神经元类似的响应特性,编码动机值,并且对多巴胺能中脑具有强烈的抑制性投射(Jhou等人,2009a)。 因此,向DA神经元发送动力值信号的完整基底神经节通路可能是GPb→LHb→RMTg→DA(Hikosaka,2010).

未来研究的一个重要问题是,动机价值信号是仅通过LHb引导还是由多个输入途径携带。 值得注意的是,厌恶性足部冲击引起的DA抑制受到中脑桥旁核(PBN)活动的控制(Coizet等,2010)(图8)。 这个细胞核包含从脊髓直接输入编码有害感觉的神经元,并可通过对RMTg的兴奋性投射抑制DA神经元(Coizet等,2010; Gauriau和Bernard,2002)。 这表明LHb发送DA神经元的动机值信号用于奖励和厌恶的线索和结果,而PBN提供与厌恶结果特异性相关的价值信号的组成部分。

动机显着性信号的来源

关于DA神经元中的动机显着性信号的来源知之甚少。 一个有趣的候选者是杏仁核(CeA)的核心核心,在奖励和厌恶事件期间一直牵涉到定向,注意力和一般动机反应(Holland和Gallagher,1999; Baxter和Murray,2002; Merali等,2003; Balleine和Killcross,2006)(图8)。 CeA和其他杏仁核包含许多神经元,其信号与动机显着性一致:它们表示同一方向的奖励和厌恶事件,当事件意外发生时增强,并与唤醒的行为测量相关(Nishijo等人,1988; Belova等,2007; Shabel和Janak,2009)。 这些信号可能被发送到DA神经元,因为CeA具有向脑干下降的投射,其带有有益和厌恶的信息(Lee等人,2005; Pascoe和Kapp,1985)和奖励相关事件期间发布DA的必要条件(Phillips等,2003a)。 此外,CeA参与DA神经元的途径与我们提出的解剖学和功能网络一致,以获得动机显着性。 包括CeA,SNc和背侧纹状体的途径对于学习定向食物线索是必要的(Han等人,1997; Lee等人,2005; El-Amamy和Holland,2007)。 与我们对显着性与价值信号的划分相一致,这种途径需要学习定位于食物线索,而不是学习接近食物结果(Han等人,1997)。 第二条途径,包括CeA,SNc,VTA和NAc核心,对于奖励线索来说是必要的,可以增加执行奖励寻求行动的一般动机(Hall等,2001; Corbit和Balleine,2005; El-Amamy和Holland,2007).

除了CeA,DA神经元还可以接收来自其他来源的动机显着信号,例如基底前脑中的突变编码神经元(Lin和Nicolelis,2008; Richardson和DeLong,1991)和PBN中的神经元(Coizet等,2010),虽然这些途径仍有待研究。

警报信号的来源

有几个很好的候选者为DA神经元提供警报信号。 也许最有吸引力的候选者是上丘(SC),一个中脑核,接受来自多种感觉方式的短潜伏感觉输入,并控制定向反应和注意力(Redgrave和Gurney,2006)(图8)。 SC直接投射到SNc和VTA(May等人,2009; Comoli等,2003)。 在麻醉的动物中,SC是短潜伏视觉信号到达DA神经元并触发下游结构中DA释放的重要导管(Comoli等,2003; Dommett等人,2005)。 SC-DA途径最适合传递警报信号而不是奖励和厌恶信号,因为SC神经元对奖励传递几乎没有反应,并且对DA厌恶反应只有轻微的影响(Coizet等,2006)。 这表明一系列事件,其中SC神经元(1)检测到刺激,(2)选择它作为潜在重要,(3)触发定向反应以检查刺激,并且(4)同时触发DA警报响应,这导致下游结构中的DA爆发(Redgrave和Gurney,2006).

向DA神经元发送警报信号的第二个候选者是LHb(图8)。 值得注意的是,试验开始提示的意外发作以与DA神经元警报信号相反的方式抑制许多LHb神经元,并且这种响应在LHb中的较短潜伏期发生,与LHb→DA传播方向一致(Bromberg-Martin等人,2010a; Bromberg-Martin等,2010c)。 我们还有传闻观察到LHb神经元通常被意外的视觉图像和声音以与DA激发相反的方式抑制(MM,ESB-M。和OH,未发表的观察结果),尽管这等待更系统的研究。

最后,向DA神经元发送警报信号的第三个候选者是pedunculopontine tegmental nucleus(PPTg),它投射到SNc和VTA并参与激励处理(Winn,2006)(图8)。 PPTg对于启用VTA DA神经元突发非常重要(Grace等人,2007)包括对奖励线索的突发响应(Pan和Hyland,2005)。 与警报信号一致,PPTg神经元对多种感觉方式具有短潜伏期反应,并且在定向反应期间具有活性(Winn,2006)。 有证据表明PPTg感觉反应受到奖励价值和立即行动要求的影响(Dormont等人,1998; Okada等人,2009)(但见(Pan和Hyland,2005))。 一些PPTg神经元本身也会对回报或厌恶的结果做出反应(Dormont等人,1998; Kobayashi等,2002; Ivlieva和Timofeeva,2003b, a)。 重要的是测试PPTg发送给DA神经元的信号是否与警报有关,或者它们是否包含其他动机信号,如价值和显着性。

未来研究的方向

我们已经回顾了DA神经元中奖励,厌恶和警报信号的性质,并提出了关于潜在神经通路及其在动机行为中的作用的假设。 我们认为这是一个有效的假设,是未来理论和研究的指南,将使我们更全面地理解。 在这里,我们将重点介绍需要进一步调查以揭示更深层复杂性的几个领域。

目前,我们对DA信号的神经通路的理解还处于早期阶段。 因此,我们试图推断出价值的来源和目的地以及突出编码DA信号主要基于间接测量,例如神经反应特性和不同脑区的功能角色。 重要的是将这些候选途径进行直接测试并发现它们的详细特性,在最近开发的工具的帮助下,可以监测DA传输(Robinson等,2008)和控制(Tsai等人,2009; Tecuapetla等,2010; Stuber等,2010)具有高空间和时间精度。 如上所述,这些候选结构中的一些具有地形组织,表明它们与DA神经元的通信也可能是地形的。 相位DA信号的神经源也可能比我们提出的简单前馈路径更复杂,因为与DA神经元通信的神经结构密集地相互连接(Geisler和Zahm,2005)和DA神经元可以在中脑内相互通信(福特等人,2010).

我们专注于一组选定的DA神经元连接,但DA神经元接收来自许多其他结构的功能输入,包括丘脑底核,后背侧肌核,纹状体末端的床核,前额叶皮质,腹侧苍白球和外侧下丘脑(Grace等人,2007; Shimo和Wichmann,2009; Jalabert等人,2009)。 值得注意的是,外侧下丘脑食欲素神经元投射到DA神经元,通过奖励而不是厌恶事件激活,并触发寻药行为(哈里斯和阿斯顿琼斯,2006),建议在价值相关功能中发挥可能的作用。 DA神经元还向许多其他结构发送投射,包括下丘脑,海马,杏仁核,缰核和许多皮层区域。 值得注意的是,已经提出前扣带皮层(ACC)从DA神经元接收奖励预测误差信号(Holroyd和Coles,2002并且包含具有与动机价值正相关的活动的神经元(Koyama等,1998)。 ACC激活也与厌恶处理有关(Vogt,2005; 约翰森和菲尔兹,2004)。 这些ACC功能可能由DA动机值和显着性信号的混合支持,这对于将来的研究中的测试将是重要的。 实际上,已经在包括内侧前额皮质在内的几个领域报告了与奖励预测错误相关的神经信号(Matsumoto等人,2007; Seo和Lee,2007),orbitofrontal cortex(Sul等人,2010)(但见(高桥等人,2009; Kennerley和Wallis,2009))和背侧纹状体(Kim等人,2009; Oyama等,2010),它们与DA神经元活动的因果关系仍有待发现。

我们用简单的二分法描述了动机事件,将它们归类为“奖励”或“厌恶”。 然而,这些类别包含很多种类。 厌恶疾病是由内部事件逐渐,延长和引起的; 厌恶的吹气是快速的,短暂的,并由外部世界引起。 这些情况需要非常不同的行为反应,这可能得到不同神经系统的支持。 此外,虽然我们已经集中讨论了两种类型的DA神经元,其信号类似于动机值和显着性,但仔细研究表明DA神经元不仅限于这种严格的二分法。 正如我们的解剖梯度概念所表明的,一些DA神经元传递类似于显着性和类似信号的混合物; 还有其他DA神经元响应奖励而非厌恶事件(Matsumoto和Hikosaka,2009b; Bromberg-Martin等人,2010a)。 这些考虑表明,一些DA神经元可能不会沿着我们直观的“良好”与“坏”轴线编码激励事件,而是专门用于支持特定形式的自适应行为。

即使在奖励领域,也有证据表明DA神经元将不同的奖励信号传递到不同的大脑区域(Bassareo和Di Chiara,1999; Ito等,2000; Stefani和Moghaddam,2006; Wightman等人,2007; Aragona等,2009)。 在SNc和VTA中报告的不同反应包括:仅响应试验开始的神经元(Roesch等,2007),可能编码纯警报信号; 对视觉和听觉方式的反应不同(Strecker和Jacobs,1985),也许接收来自不同SC和PPTg神经元的输入; 响应序列中的第一个或最后一个事件(拉威尔和里士满,2006; Jin和Costa,2010); 通过风险回报持续激活(Fiorillo等,2003); 或在身体运动期间被激活(舒尔茨,1986; Kiyatkin,1988a; Puryear等,2010; Jin和Costa,2010) (也可以看看 (Phillips等,2003b; Stuber等,2005))。 虽然这些反应模式中的每一种仅在少数研究或神经元中报道,但该数据表明DA神经元可能被分成更多数量的功能不同的群体。

最后一个重要的考虑因素是,目前行为动物的记录研究还没有提供DA神经元活动的完全结论性测量,因为这些研究只能使用基于神经特性的间接方法区分DA和非DA神经元。作为放电率,尖峰波形和对D2受体激动剂的敏感性(Grace和Bunney,1983; 舒尔茨,1986)。 这些技术似乎可以在SNc内可靠地识别DA神经元,由几个证据表明,包括细胞内和细胞外方法的比较,近细胞记录和DA特异性病变的影响(Grace和Bunney,1983; Grace等人,2007; Brown等人,2009)。 然而,最近的研究表明,这种技术在VTA中可能不太可靠,其中DA和非DA神经元具有更广泛的细胞特性(Margolis等,2006; Margolis等,2008; Lammel等,2008; Brischoux等,2009)。 甚至直接测量下游结构中的DA浓度也不能提供DA神经元掺加活动的确凿证据,因为DA浓度可能受其他因素控制,例如DA轴突末端的谷氨酸能激活(Cheramy等,1991)和DA转运蛋白活性的快速变化(Zahniser和Sorkin,2004)。 为了在活动行为期间对DA神经元活动进行完全确定的测量,有必要使用新的记录技术,例如将细胞外记录与光遗传学刺激相结合(Jin和Costa,2010).

结论

中脑DA神经元的一个有影响的概念是它们向所有下游结构传递均匀的激励信号。 在这里,我们已经回顾了DA信号比通常认为的更多样化的证据。 DA神经元不是编码统一信号,而是有多种类型,可以发送有关奖励和无奖励事件的不同激励信息。 甚至单个DA神经元似乎也不会传递单个激励信号。 相反,DA神经元传输由不同神经过程产生的多个信号的混合。 一些反映了有关奖励和厌恶经历的详细预测,而另一些反映了对具有高度潜在重要性的事件的快速反应。

此外,我们提出了一个关于这些不同DA信号的性质,产生它们的神经网络,以及它们对下游大脑结构和动机行为的影响的假设。 我们的建议可以看作是以前理论的综合。 许多先前的理论试图通过单一的激励过程来识别DA神经元,例如寻找有价值的目标,参与动机显着的情况,或者对提醒环境中的变化作出反应。 在我们看来,DA神经元接收与所有这三个过程相关的信号。 然而,我们不是将这些信号提取成统一的信息,而是提出DA神经元将这些信号传递给不同的大脑结构,以支持不同的神经系统以获得动机的认知和行为。 一些DA神经元支持大脑系统,其分配动机价值,促进寻求奖励事件的动作,避免厌恶事件,并确保可以提前预测和准备警报事件。 其他DA神经元支持由动机显着性参与的大脑系统,包括定向以检测潜在的重要事件,认知处理以选择响应并记住其后果,以及持续追求最佳结果的动机。 我们希望这个提议有助于我们更好地理解大脑中的DA功能,其中DA神经元定制其信号以支持在激励控制中具有不同作用的多个神经网络。

致谢

这项工作得到了国家眼科研究所的校内研究计划的支持。 我们还要感谢Amy Arnsten的宝贵讨论。

脚注

发布者的免责声明: 这是未经编辑的手稿的PDF文件,已被接受发布。 作为对我们客户的服务,我们正在提供该手稿的早期版本。 在以最终的可引用形式发布之前,稿件将进行复制,排版和审查。 请注意,在制作过程中可能会发现可能影响内容的错误,以及适用于该期刊的所有法律免责声明。

FOOTNOTE1By 动机突显 我们的意思是奖励和厌恶事件的数量都很高,而且动机中性(非奖励和非厌恶)事件的数量很少。 这类似于(给出的定义)Berridge和Robinson,1998)。 请注意,动机显着性与神经科学中使用的其他突出概念不同,例如激励显着性(仅适用于理想事件;(Berridge和Robinson,1998))和感知显着性(适用于动态中性事件,如移动物体和彩色灯光;(Bisley和Goldberg,2010))。]

FOOTNOTE2请注意,动机显着性编码DA神经元信号不同于已经提出用于调节强化学习速率的“关联性”和“关联性变化”的经典概念(例如(Pearce and Hall,1980))。 这些理论表明动物从正面和负面的预测误差中学习(并调整学习率)。 虽然这些DA神经元可能有助于从正面预测误差中学习,在此期间它们可以产生强烈的反应(例如,意外的奖励传递),但它们可能无助于从负面预测误差中学习,在此期间它们可能很少或没有响应(例如,意外的奖励遗漏)(图4B).

参考文献:

  1. Ahlbrecht M,Weber M.不确定性的解决方案:一项实验研究。 制度与​​理论经济学杂志。 1996; 152:593-607。
  2. Albin RL,Young AB,Penney JB。 基底神经节疾病的功能解剖学。 神经科学的趋势。 1989; 12:366-375。 [考研]
  3. Anderson AK,Christoff K,Stappen I,Panitz D,Ghahremani DG,Glover G,Gabrieli JD,Sobel N.在人类嗅觉中解析强度和效价的神经表示。 Nat Neurosci。 2003; 6:196-202。 [考研]
  4. Anstrom KK,Miczek KA,Budygin EA。 在大鼠社交失败期间中脑边缘通路中的相位多巴胺信号传导增加。 神经科学。 2009; 161:3-12。 [考研]
  5. Aragona BJ,Day JJ,Roitman MF,Cleaveland NA,Wightman RM,Carelli RM。 在获得大鼠中的可卡因结合期间实时发展阶段性多巴胺传播模式的区域特异性。 欧洲神经科学杂志。 2009; 30:1889-1899。 [PMC免费文章[考研]
  6. Austin AJ,Duka T.关注巴甫洛夫条件下的食欲和厌恶结果的机制。 行为脑研究。 2010; 213:19-26。 [考研]
  7. Badia P,Harsh J,Abbott B.在可预测和不可预测的冲击条件之间选择:数据和理论。 心理学公报。 1979; 86:1107-1131。
  8. Balleine BW,Killcross S.平行激励处理:杏仁核功能的综合视图。 神经科学的趋势。 2006; 29:272-279。 [考研]
  9. Balleine BW,O'Doherty JP。 动作控制中人与啮齿类动物的同源性:目标定向和习惯性动作的皮质口决定因素。 神经心理药理学。 2010; 35:48–69。 [PMC免费文章[考研]
  10. Barr GA,Moriceau S,Shionoya K,Muzny K,Gao P,Wang S,Sullivan RM。 婴儿学习的过渡由杏仁核中的多巴胺调节。 Nat Neurosci。 2009; 12:1364-1366。 [PMC免费文章[考研]
  11. Bassareo V,De Luca MA,Di Chiara G.多巴胺在伏隔核壳与核心和前额皮质中的动力刺激特性的差异表达。 J Neurosci。 2002; 22:4709-4719。 [考研]
  12. Bassareo V,Di Chiara G.多巴胺传递对伏隔核/核心室中食物刺激的差异反应。 神经科学。 1999; 89:637-641。 [考研]
  13. 巴克特MG,默里EA。 杏仁核和奖励。 Nat Rev Neurosci。 2002; 3:563-573。 [考研]
  14. 拜耳HM,Glimcher PW。 中脑多巴胺神经元编码定量奖励预测误差信号。 神经元。 2005; 47:129-141。 [PMC免费文章[考研]
  15. Belova MA,Paton JJ,Morrison SE,Salzman CD。 期望调节灵长类动物杏仁核中令人愉快和厌恶刺激的神经反应。 神经元。 2007; 55:970-984。 [PMC免费文章[考研]
  16. Bentivoglio M,Morelli M.中脑多巴胺能神经元的组织和回路以及大脑中多巴胺受体的分布。 化学神经解剖学手册。 2005:1-107。
  17. Berridge KC,Robinson TE。 多巴胺在奖励中的作用是什么:享乐效应,奖励学习或激励突显? 脑研究。 1998; 28:309-369。 [考研]
  18. Besson C,Louilot A.中脑边缘多巴胺能神经元在情感感知中的不对称参与。 神经科学。 1995; 68:963-968。 [考研]
  19. Birgner C,Nordenankar K,Lundblad M,Mendez JA,Smith C,le Greves M,Galter D,Olson L,Fredriksson A,Trudeau LE,et al。 多巴胺神经元中的VGLUT2是精神兴奋剂诱导的行为激活所必需的。 美利坚合众国国家科学院院刊。 2010; 107:389-394。 [PMC免费文章[考研]
  20. Bisley JW,Goldberg ME。 顶叶的注意力,意图和优先级。 神经科学年度回顾。 2010; 33:1-21。 [PMC免费文章[考研]
  21. Bjorklund A,Dunnett SB。 大脑中的多巴胺神经元系统:更新。 神经科学的趋势。 2007; 30:194-202。 [考研]
  22. Blazquez PM,Fujii N,Kojima J,Graybiel AM。 纹状体中反应概率的网络表示。 神经元。 2002; 33:973-982。 [考研]
  23. Botvinick MM,Braver TS,Barch DM,Carter CS,Cohen JD。 冲突监测和认知控制。 Psychol Rev. 2001; 108:624-652。 [考研]
  24. Bradley MM,Greenwald MK,Petry MC,Lang PJ。 记住图片:记忆中的快乐和唤醒。 J Exp Psychol学习记忆认知。 1992; 18:379-390。 [考研]
  25. Braun DA,Mehring C,Wolpert DM。 结构学习在行动中。 行为脑研究。 2010; 206:157-165。 [PMC免费文章[考研]
  26. Brinschwitz K,Dittgen A,Madai VI,Lommel R,Geisler S,Veh RW。 来自外侧缰核的谷氨酸能轴突主要终止于腹侧中脑的GABA能神经元。 神经科学。 2010; 168:463-476。 [考研]
  27. Brischoux F,Chakraborty S,Brierley DI,Ungless MA。 通过伤害性刺激对腹侧VTA中多巴胺神经元的相位激发。 美利坚合众国国家科学院院刊。 2009; 106:4894-4899。 [PMC免费文章[考研]
  28. Bromberg-Martin ES,Hikosaka O. Midbrain多巴胺神经元表示对即将到来的奖励的预先信息的偏好。 神经元。 2009; 63:119-126。 [PMC免费文章[考研]
  29. Bromberg-Martin ES,Matsumoto M,Hikosaka O.外侧缰核和多巴胺神经元的明显的强直和阶段性预期活动。 神经元。 2010a; 67:144-155。 [PMC免费文章[考研]
  30. Bromberg-Martin ES,Matsumoto M,Hong S,Hikosaka O.苍白球 - 缰核 - 多巴胺途径表示推断的刺激值。 J神经生理学。 2010b; 104:1068-1076。 [PMC免费文章[考研]
  31. Bromberg-Martin ES,Matsumoto M,Nakahara H,Hikosaka O.外侧缰核和多巴胺神经元的多个记忆时间尺度。 神经元。 2010c; 67:499-510。 [PMC免费文章[考研]
  32. Brown MTC,Henny P,Bolam JP,Magill PJ。 神经化学异质多巴胺能神经元在黑质自发和驱动的脑状态变化过程中的活动。 J Neurosci。 2009; 29:2915-2925。 [考研]
  33. 红衣主教RN。 涉及延迟和概率强化的神经系统。 神经网络。 2006; 19:1277-1301。 [考研]
  34. Cheer JF,Aragona BJ,Heien ML,Seipel AT,Carelli RM,Wightman RM。 协调的累积多巴胺释放和神经活动驱动目标导向的行为。 神经元。 2007; 54:237-244。 [考研]
  35. Cheramy A,Kemel ML,Gauchy C,Desce JM,Galli T,Barbeito L,Glowinski J.兴奋性氨基酸在直接和间接突触前调节多巴胺从黑质纹状体多巴胺神经元神经末梢释放中的作用。 氨基酸。 1991; 1:351-363。 [考研]
  36. Chew SH,Ho JL。 希望:对不确定性解决时机态度的实证研究。 风险与不确定性杂志。 1994; 8:267-288。
  37. Chiodo LA,Antelman SM,Caggiula AR,Lineberry CG。 感觉刺激改变多巴胺(DA)神经元的放电速率:黑质中两种功能类型的DA细胞的证据。 Brain Res。 1980; 189:544-549。 [考研]
  38. Christoph GR,Leonzio RJ,Wilcox KS。 外侧缰核的刺激抑制了大鼠黑质和腹侧被盖区域中含有多巴胺的神经元。 J Neurosci。 1986; 6:613-619。 [考研]
  39. Chuhma N,Choi WY,Mingote S,Rayport S. Dopamine neuron glutamate cotransmission:mesoventromedial projection中的频率依赖性调制。 神经科学。 2009; 164:1068-1083。 [PMC免费文章[考研]
  40. Cohen JD,Braver TS,Brown JW。 前额叶皮层多巴胺功能的计算透视。 神经生物学的当前观点。 2002; 12:223-229。 [考研]
  41. Coizet V,Dommett EJ,Klop EM,Redgrave P,Overton PG。 臂旁核是短潜伏伤害性信息向中脑多巴胺能神经元传递的关键环节。 神经科学。 2010; 168:263-272。 [PMC免费文章[考研]
  42. Coizet V,Dommett EJ,Redgrave P,Overton PG。 中脑多巴胺能神经元的伤害性反应受到大鼠上丘的调节。 神经科学。 2006; 139:1479-1493。 [考研]
  43. Comoli E,Coizet V,Boyes J,Bolam JP,Canteras NS,Quirk RH,Overton PG,Redgrave P.从上丘到黑质的直接投射,用于检测显着的视觉事件。 Nat Neurosci。 2003; 6:974-980。 [考研]
  44. Corbit LH,Balleine BW。 基底外侧和中央杏仁核病变的双重解离对pavlovian-instrumental转移的一般和结果特异性形式。 J Neurosci。 2005; 25:962-970。 [考研]
  45. Dalley JW,Laane K,Theobald DE,Armstrong HC,Corlett PR,Chudasama Y,Robbins TW。 伏核中D1和NMDA受体对食欲性巴甫洛夫记忆的时间限制性调节。 美利坚合众国国家科学院院刊。 2005; 102:6189-6194。 [PMC免费文章[考研]
  46. 戴利HB。 当不可预测的非回报是厌恶时,对不可预测性的偏好被逆转:程序,数据和食欲观察响应获取的理论。 在:Gormezano I,Wasserman EA,编辑。 学习与记忆:行为与生物基质。 LE Associates; 1992。 pp.81-104。
  47. Davidson MC,Horvitz JC,Tottenham N,Fossella JA,Watts R,Ulug AM,Casey BJ。 意外的非回报刺激后的尾状核和扣带回激活。 神经成像。 2004; 23:1039-1045。 [考研]
  48. Day JJ,Roitman MF,Wightman RM,Carelli RM。 联想学习介导伏隔核中多巴胺信号传导的动态变化。 Nat Neurosci。 2007; 10:1020-1028。 [考研]
  49. Dayan P,Niv Y.强化学习:好的,坏的和丑的。 神经生物学的当前观点。 2008; 18:185-196。 [考研]
  50. Descarries L,Berube-Carriere N,Riad M,Bo GD,Mendez JA,Trudeau LE。 多巴胺神经元中的谷氨酸:突触传播与弥散传播。 脑研究评论。 2008; 58:290-302。 [考研]
  51. Di Chiara G. Nucleus伏隔核壳和核心多巴胺:行为和成瘾的不同作用。 行为脑研究。 2002; 137:75-114。 [考研]
  52. Dommett E,Coizet V,Blaha CD,Martindale J,Lefebvre V,Walton N,Mayhew JE,Overton PG,Redgrave P.视觉刺激如何在短潜伏期激活多巴胺能神经元。 科学。 2005; 307:1476-1479。 [考研]
  53. Dormont JF,Conde H,Farin D. pedunculopontine tegmental nucleus在猫的条件运动表现中的作用。 I.与背景有关和与强化有关的单一单位活动。 实验脑研究。 Experimentelle Hirnforschung。 1998; 121:401-410。 [考研]
  54. Duzel E,Bunzeck N,Guitart-Masip M,Duzel S. NOvelty相关的多巴胺预测和探索动机(NOMAD):对健康衰老的影响。 神经科学和生物行为评论。 2010; 34:660-669。 [考研]
  55. El-Amamy H,荷兰PC。 从腹侧被盖区域或黑质断开杏仁核中央核对学习定向和激励动机的可分离影响。 欧洲神经科学杂志。 2007; 25:1557-1567。 [PMC免费文章[考研]
  56. Ettenberg A. Opponent自我管理的可卡因的过程属性。 神经科学和生物行为评论。 2004; 27:721-728。 [考研]
  57. Fadok JP,Dickerson TM,Palmiter RD。 多巴胺是线索依赖性恐惧条件反射所必需的。 J Neurosci。 2009; 29:11089-11097。 [PMC免费文章[考研]
  58. Fairhall AL,Lewen GD,Bialek W,de Ruyter Van Steveninck RR。 自适应神经代码中的效率和模糊性。 性质。 2001; 412:787-792。 [考研]
  59. Faure A,Haberland U,Conde F,El Massioui N.对黑质纹状体多巴胺系统的损伤破坏了刺激 - 反应习惯的形成。 J Neurosci。 2005; 25:2771-2780。 [考研]
  60. Faure A,Reynolds SM,Richard JM,Berridge KC。 中脑边缘多巴胺的欲望和恐惧:使伏隔核中局部谷氨酸盐破坏产生动力。 J Neurosci。 2008; 28:7184-7192。 [PMC免费文章[考研]
  61. Fiorillo CD,Newsome WT,Schultz W.多巴胺神经元中奖励预测的时间精度。 Nat Neurosci。 2008; 11:966-973。 [考研]
  62. Fiorillo CD,Tobler PN,Schultz W.多巴胺神经元对奖励概率和不确定性的离散编码。 科学。 2003; 299:1898-1902。 [考研]
  63. Floresco SB,Ghods-Sharifi S,Vexelman C,Magyar O.伏隔核和壳在调节移位中的可分离角色。 J Neurosci。 2006; 26:2449-2457。 [考研]
  64. Ford CP,Gantz SC,Phillips PE,Williams JT。 在树突和轴突末端控制细胞外多巴胺。 J Neurosci。 2010; 30:6975-6983。 [PMC免费文章[考研]
  65. 弗兰克MJ。 基底神经节中的动态多巴胺调节:对药物治疗和非药物治疗帕金森病的认知缺陷的神经计算。 认知神经科学杂志。 2005; 17:51-72。 [考研]
  66. Frank MJ,Fossella JA。 神经遗传学和学习,动机和认知的药理学。 神经精神药理学。 2010 [PMC免费文章[考研]
  67. Frank MJ,Seeberger LC,O'Reilly RC。 通过胡萝卜或坚持:帕金森症的认知强化学习。 科学。 2004; 306:1940-1943。 [考研]
  68. Gallistel CR,Gibbon J.时间,速度和条件。 Psychol Rev. 2000; 107:289-344。 [考研]
  69. Gao DM,Jeaugey L,Pollak P,Benabid AL。 来自假定的黑质多巴胺能神经元,大鼠睾丸的强度依赖性伤害性反应和它们通过侧缰输入的修饰。 Brain Res。 1990; 529:315-319。 [考研]
  70. Gauriau C,Bernard JF。 大鼠的疼痛通路和臂旁电路。 实验生理学。 2002; 87:251-258。 [考研]
  71. Geisler S,Zahm DS。 大鼠解剖学基底中腹侧被盖区域的传入用于整合功能。 比较神经病学杂志。 2005; 490:270-294。 [考研]
  72. Gerfen CR,Engber TM,Mahan LC,Susel Z,Chase TN,Monsma FJ,Jr,Sibley DR。 D1和D2多巴胺受体调节的striatonigral和striatopallidal神经元的基因表达。 科学。 1990; 250:1429-1432。 [考研]
  73. Ghods-Sharifi S,Floresco SB。 对伏核核心或壳体失活引起的努力折扣的不同影响。 行为神经科学。 2010; 124:179-191。 [考研]
  74. Gonon FG。 大鼠中脑多巴胺能神经元释放脉冲流与多巴胺的非线性关系的体内电化学研究。 神经科学。 1988; 24:19-28。 [考研]
  75. Goto Y,Yang CR,Otani S.前额叶皮质的功能和功能失调的突触可塑性:在精神疾病中的作用。 生物精神病学。 2010; 67:199-207。 [考研]
  76. 格雷斯AA。 相位与强直多巴胺释放和多巴胺系统响应度的调节:精神分裂症病因学的假设。 神经科学。 1991; 41:1-24。 [考研]
  77. 恩典AA,邦尼BS。 黑色素多巴胺能神经元的细胞内和细胞外电生理学–1。 鉴定和表征。 神经科学。 1983; 10:301-315。 [考研]
  78. Grace AA,Floresco SB,Goto Y,Lodge DJ。 调节多巴胺能神经元的放电和控制目标导向行为。 神经科学的趋势。 2007; 30:220-227。 [考研]
  79. Grecksch G,Matties H.多巴胺能机制在大鼠海马中的作用,用于巩固亮度辨别。 Psychopharmacology(Berl)1981; 75:165-168。 [考研]
  80. Guarraci FA,Kapp BS。 腹腔被盖区多巴胺能神经元在清醒兔中差别性帕夫洛病恐惧条件下的电生理特征。 行为脑研究。 1999; 99:169-179。 [考研]
  81. Haber SN,Fudge JL,McFarland NR。 灵长类动物的纹状体纹状体通路形成从壳到背外侧纹状体的上升螺旋。 J Neurosci。 2000; 20:2369-2382。 [考研]
  82. Hall J,Parkinson JA,Connor TM,Dickinson A,Everitt BJ。 杏仁核和伏隔核的中心核参与介导巴甫洛夫对器乐行为的影响。 欧洲神经科学杂志。 2001; 13:1984-1992。 [考研]
  83. Han JS,McMahan RW,Holland P,Gallagher M. amygdalo-nigrostriatal途径在联想学习中的作用。 J Neurosci。 1997; 17:3913-3919。 [考研]
  84. 哈里斯GC,阿斯顿 - 琼斯G.唤醒和奖励:食欲素功能的二分法。 神经科学的趋势。 2006; 29:571-577。 [考研]
  85. Herry C,Bach DR,Esposito F,Di Salle F,Perrig WJ,Scheffler K,Luthi A,Seifritz E.处理人类和动物杏仁核的暂时不可预测性。 J Neurosci。 2007; 27:5958-5966。 [考研]
  86. Hikida T,Kimura K,Wada N,Funabiki K,Nakanishi S.突触传递在直接和间接纹状体通路中对奖励和厌恶行为的不同作用。 神经元。 2010; 66:896-907。 [考研]
  87. Hikosaka O. Basal神经节机制以奖励为导向的眼球运动。 纽约科学院年报。 2007; 1104:229-249。 [考研]
  88. Hikosaka O. habenula:从压力逃避到基于价值的决策。 Nat Rev Neurosci。 2010; 11:503-513。 [PMC免费文章[考研]
  89. Hikosaka O,Takikawa Y,Kawagoe R.基底神经节在控制目的性眼球运动中的作用。 生理学评论。 2000; 80:953-978。 [考研]
  90. Hitchcott PK,Quinn JJ,Taylor JR。 前额皮质多巴胺双向调节目标导向动作。 Cereb Cortex。 2007; 17:2820-2827。 [考研]
  91. Hnasko TS,Chuhma N,Zhang H,Goh GY,Sulzer D,Palmiter RD,Rayport S,Edwards RH。 囊泡谷氨酸转运在体内促进多巴胺储存和谷氨酸核酸酶。 神经元。 2010; 65:643-656。 [PMC免费文章[考研]
  92. Holland PC,Gallagher M. Amygdala在注意力和代表性过程中的电路。 认知科学的趋势。 1999; 3:65-73。 [考研]
  93. Hollerman JR,Schultz W. Dopamine神经元报告学习期间奖励的时间预测中的错误。 Nat Neurosci。 1998; 1:304-309。 [考研]
  94. Holroyd CB,Coles MG。 人为错误处理的神经基础:强化学习,多巴胺和与错误相关的消极性。 Psychol Rev. 2002; 109:679-709。 [考研]
  95. Hong S,Hikosaka O.苍白苍白球向外侧缰核发送与奖赏有关的信号。 神经元。 2008; 60:720-729。 [PMC免费文章[考研]
  96. Horvitz JC。 Mesolimbocortical和nigrostriatal多巴胺对显着的非奖励事件的反应。 神经科学。 2000; 96:651-656。 [考研]
  97. Horvitz JC,Stewart T,Jacobs BL。 腹部被盖多巴胺神经元的爆发活动是由清醒猫的感觉刺激引起的。 Brain Res。 1997; 759:251-258。 [考研]
  98. Houk JC,Adams JL,Barto AG。 基底神经节如何产生和使用预测强化的神经信号的模型。 在:Houk JC,Davis JL,Beiser DG,编辑。 基底神经节中的信息处理模型。 剑桥,麻省:麻省理工学院出版社; 1995。 pp.249-274。
  99. Ikemoto S.脑超过中脑边缘多巴胺系统的回声电路:一种神经生物学理论。 神经科学和生物行为评论。 2010 [PMC免费文章[考研]
  100. Ito R,Dalley JW,Howes SR,Robbins TW,Everitt BJ。 伏隔核和壳中条件性多巴胺释放对可卡因提示和大鼠可卡因寻求行为的影响解离。 J Neurosci。 2000; 20:7489-7495。 [考研]
  101. Ivlieva NY,Timofeeva NO。 在食物相关的操作条件反射期间,在脑桥脑核中的神经元活动。 神经科学与行为生理学。 2003a; 33:919-928。 [考研]
  102. Ivlieva NY,Timofeeva NO。 在操作性条件反射期间,在脑桥脑核中的神经元活动。 神经科学与行为生理学。 2003b; 33:499-506。 [考研]
  103. 贾拉伯特M,阿斯顿·琼斯G,赫尔佐格E,曼佐尼O,乔治F。终末期纹状体床核在腹侧被盖区多巴胺神经元控制中的作用。 神经心理药理学和生物精神病学的进展。 2009; 33:1336-1346。 [PMC免费文章[考研]
  104. Jeanblanc J,Hoeltzel A,Louilot A.分离多巴胺能神经元参与神经支配核的核心和壳亚区域的潜在抑制和情感感知。 神经科学。 2002; 111:315-323。 [考研]
  105. Jensen J,Smith AJ,Willeit M,Crawley AP,Mikulis DJ,Vitcu I,Kapur S.在人类的奖励预测期间,单独的大脑区域代码为显着性与效价。 人脑映射。 2007; 28:294-302。 [考研]
  106. Jhou TC,Fields HL,Baxter MG,Saper CB,Holland PC。 念珠状内侧核(RMTg)是一种GABAergic传入中脑多巴胺神经元,编码厌恶刺激并抑制运动反应。 神经元。 2009a; 61:786-800。 [PMC免费文章[考研]
  107. Jhou TC,Geisler S,Marinelli M,Degarmo BA,Zahm DS。 中脑桥罗氏内膜肌腱核:外侧缰骨靶向的结构,向Tsai和黑质致密体的腹侧被盖区突出。 比较神经病学杂志。 2009b; 513:566-596。 [PMC免费文章[考研]
  108. Ji H,Shepard PD。 侧缰兔刺激通过GABA(A)受体介导的机制抑制大鼠中脑多巴胺神经元。 J Neurosci。 2007; 27:6923-6930。 [考研]
  109. Jin X,Costa RM。 在序列学习期间,在黑质纹状电路中出现启动/停止信号。 性质。 2010; 466:457-462。 [PMC免费文章[考研]
  110. Johansen JP,Fields HL。 前扣带皮层的谷氨酸能激活产生厌恶的教学信号。 Nat Neurosci。 2004; 7:398-403。 [考研]
  111. Joseph MH,Datla K,Young AM。 通过体内透析测量伏隔核多巴胺的解释:踢,渴望还是认知? 神经科学和生物行为评论。 2003; 27:527-541。 [考研]
  112. Joshua M,Adler A,Bergman H.多巴胺在控制运动行为方面的动力学。 神经生物学的当前观点。 2009a; 19:615-620。 [考研]
  113. Joshua M,Adler A,Mitelman R,Vaadia E,Bergman H. Midbrain多巴胺能神经元和纹状体胆碱能中间神经元编码在概率经典条件试验的不同时期的奖励和厌恶事件之间的差异。 J Neurosci。 2008; 28:11673-11684。 [考研]
  114. Joshua M,Adler A,Prut Y,Vaadia E,Wickens JR,Bergman H.中脑多巴胺能神经元的同步通过奖励事件得到增强。 神经元。 2009b; 62:695-704。 [考研]
  115. Kable JW,Glimcher PW。 决策的神经生物学:共识和争议。 神经元。 2009; 63:733-745。 [PMC免费文章[考研]
  116. Kakade S,Dayan P. Dopamine:概括和奖金。 神经网络。 2002; 15:549-559。 [考研]
  117. Kapur S. Psychosis是一种异常突显状态:一种将精神分裂症中的生物学,现象学和药理学联系起来的框架。 美国精神病学杂志。 2003; 160:13-23。 [考研]
  118. Kaufling J,Veinante P,Pawlowski SA,Freund-Mercier MJ,Barrot M.传入大鼠腹侧被盖区的GABAergic尾巴。 比较神经病学杂志。 2009; 513:597-621。 [考研]
  119. Kennerley SW,Wallis JD。 评估额叶中单个神经元的选择:在多个决策变量中编码的结果值。 欧洲神经科学杂志。 2009; 29:2061-2073。 [PMC免费文章[考研]
  120. Kim H,Sul JH,Huh N,Lee D,Jung MW。 纹状体在更新所选行动的价值中的作用。 J Neurosci。 2009; 29:14701-14712。 [考研]
  121. Kiyatkin EA。 在清醒大鼠中推测的含多巴胺和其他腹侧被盖区神经元的功能特性。 Int J Neurosci。 1988a; 42:21-43。 [考研]
  122. Kiyatkin EA。 吗啡诱导的清醒大鼠腹侧被盖区神经元功能特性的改变。 实习生J神经科学。 1988b; 41:57-70。 [考研]
  123. Klingberg T.训练和工作记忆的可塑性。 认知科学的趋势。 2010; 14:317-324。 [考研]
  124. Kobayashi S,Nomoto K,Watanabe M,Hikosaka O,Schultz W,Sakagami M.奖励和厌恶结果对猕猴侧前额叶皮层活动的影响。 神经元。 2006; 51:861-870。 [考研]
  125. Kobayashi S,Schultz W.奖励延迟对多巴胺神经元反应的影响。 J Neurosci。 2008; 28:7837-7846。 [PMC免费文章[考研]
  126. Kobayashi Y,Inoue Y,Yamamoto M,Isa T,Aizawa H. pedunculopontine tegmental nucleus nucleon in in in in in in in in in in in in in in in in in in in in in in in in in in in in in in in in J神经生理学。 2002; 88:715-731。 [考研]
  127. Koyama T,Tanaka YZ,Mikami A.猕猴前扣带的伤害性神经元在预期疼痛期间激活。 Neuroreport。 1998; 9:2663-2667。 [考研]
  128. Kravitz AV,Freeze BS,Parker PR,Kay K,Thwin MT,Deisseroth K,Kreitzer AC。 通过基底神经节电路的光遗传学控制调节帕金森病运动行为。 性质。 2010 [PMC免费文章[考研]
  129. Lammel S,Hetzel A,Hackel O,Jones I,Liss B,Roeper J.双中脑皮质边缘多巴胺系统中中脑神经元的独特性质。 神经元。 2008; 57:760-773。 [考研]
  130. Lang PJ,Davis M.情感,动机和大脑:动物和人类研究中的反射基础。 大脑研究进展。 2006; 156:3-29。 [考研]
  131. Lapish CC,Kroener S,Durstewitz D,Lavin A,Seamans JK。 中皮质多巴胺系统在不同时间模式下操作的能力。 Psychopharmacology(Berl)2007; 191:609-625。 [考研]
  132. Lee D,Seo H.在灵长类动物背外侧前额叶皮层强化学习和决策的机制。 纽约科学院年报。 2007; 1104:108-122。 [考研]
  133. Lee HJ,Groshek F,Petrovich GD,Cantalini JP,Gallagher M,Holland PC。 amygdalo-nigral电路在调节与食物搭配的视觉刺激中的作用。 J Neurosci。 2005; 25:3881-3888。 [PMC免费文章[考研]
  134. Levita L,Dalley JW,Robbins TW。 伏隔核多巴胺和学习的恐惧重新审视:审查和一些新的发现。 行为脑研究。 2002; 137:115-127。 [考研]
  135. Lin SC,Nicolelis MA。 基底前脑中的神经元集合破裂编码显着性而不是价态。 神经元。 2008; 59:138-149。 [PMC免费文章[考研]
  136. Lisman JE,Grace AA。 海马-VTA循环:控制信息进入长期记忆。 神经元。 2005; 46:703-713。 [考研]
  137. Litt A,Plassmann H,Shiv B,Rangel A.在决策过程中分离估值和显着性信号。 Cereb Cortex。 2010 在新闻。 [考研]
  138. Liu Z,Richmond BJ,Murray EA,Saunders RC,Steenrod S,Stubblefield BK,Montague DM,Ginns EI。 针对rhinal cortex D2受体蛋白的DNA靶向可逆地阻止了对预测奖赏的线索的学习。 美利坚合众国国家科学院院刊。 2004; 101:12336-12341。 [PMC免费文章[考研]
  139. Liu ZH,Shin R,Ikemoto S.内侧A10多巴胺神经元在情感编码中的双重作用。 神经精神药理学。 2008; 33:3010-3020。 [PMC免费文章[考研]
  140. Ljungberg T,Apicella P,Schultz W.在学习行为反应期间对猴多巴胺神经元的反应。 J神经生理学。 1992; 67:145-163。 [考研]
  141. Lobo MK,Covington HE,3rd,Chaudhury D,Friedman AK,Sun H,Damez-Werno D,Dietz DM,Zaman S,Koo JW,Kennedy PJ,et al。 BDNF信号传导的细胞类型特异性丧失模仿可卡因奖赏的光遗传学控制。 科学。 2010; 330:385-390。 [PMC免费文章[考研]
  142. Maeda H,Mogenson GJ。 外周刺激对大鼠腹侧被盖区,黑质和中脑网状结构神经元活动的影响。 脑研究公报。 1982; 8:7-14。 [考研]
  143. Mantz J,Thierry AM,Glowinski J.有毒尾部夹伤对中皮质和中脑边缘多巴胺神经元放电率的影响:中皮质系统的选择性激活。 Brain Res。 1989; 476:377-381。 [考研]
  144. Margolis EB,Lock H,Hjelmstad GO,Fields HL。 重访腹侧被盖区:是否有多巴胺能神经元的电生理标志物? 生理学杂志。 2006; 577:907-924。 [PMC免费文章[考研]
  145. Margolis EB,Mitchell JM,Ishikawa J,Hjelmstad GO,Fields HL。 中脑多巴胺神经元:投射目标决定动作电位持续时间和多巴胺D(2)受体抑制。 J Neurosci。 2008; 28:8908-8913。 [考研]
  146. Mark GP,Blander DS,Hoebel BG。 在学习的味觉厌恶症发展之后,条件刺激降低伏隔核中的细胞外多巴胺。 Brain Res。 1991; 551:308-310。 [考研]
  147. Marowsky A,Yanagawa Y,Obata K,Vogt KE。 中间神经元的专门亚类介导多巴胺能促进杏仁核功能。 神经元。 2005; 48:1025-1037。 [考研]
  148. Matsumoto M,Hikosaka O. Lateral habenula作为多巴胺神经元中负奖励信号的来源。 性质。 2007; 447:1111-1115。 [考研]
  149. Matsumoto M,Hikosaka O.在灵长类动物侧缰的负面动机值的表示。 Nat Neurosci。 2009a; 12:77-84。 [PMC免费文章[考研]
  150. Matsumoto M,Hikosaka O.两种类型的多巴胺神经元明显地传达正面和负面的动机信号。 性质。 2009b; 459:837-841。 [PMC免费文章[考研]
  151. Matsumoto M,Matsumoto K,Abe H,Tanaka K.内侧前额叶细胞活动信号传导预测动作值的误差。 Nat Neurosci。 2007; 10:647-656。 [考研]
  152. May PJ,McHaffie JG,Stanford TR,Jiang H,Costello MG,Coizet V,Hayes LM,Haber SN,Redgrave P.灵长类动物的Tectonigral预测:中脑多巴胺能神经元预先注意感觉输入的途径。 欧洲神经科学杂志。 2009; 29:575-587。 [PMC免费文章[考研]
  153. Mazzoni P,Hristova A,Krakauer JW。 我们为什么不加快速度? 帕金森氏病,运动活力和内在动机。 神经科学杂志。 2007; 27:7105-7116。 [考研]
  154. Merali Z,Michaud D,McIntosh J,Kent P,Anisman H.杏仁核CRH系统在刺激的显着性和价态中的差异性参与。 神经心理药理学和生物精神病学的进展。 2003; 27:1201-1212。 [考研]
  155. Mirenowicz J,Schultz W.通过食欲而不是厌恶刺激优先激活中脑多巴胺神经元。 性质。 1996; 379:449-451。 [考研]
  156. Molina-Luna K,Pekanovic A,Rohrich S,Hertler B,Schubring-Giese M,Rioult-Pedotti MS,Luft AR。 运动皮层中的多巴胺是技能学习和突触可塑性所必需的。 PLoS ONE。 2009; 4:e7082。 [PMC免费文章[考研]
  157. Montague PR,Berns GS。 神经经济学和估值的生物学基础。 神经元。 2002; 36:265-284。 [考研]
  158. Montague PR,Dayan P,Sejnowski TJ。 基于预测性Hebbian学习的中脑多巴胺系统框架。 J Neurosci。 1996; 16:1936-1947。 [考研]
  159. Morris G,Arkadir D,Nevet A,Vaadia E,Bergman H.巧合但是中脑多巴胺和纹状体活跃神经元的明显信息。 神经元。 2004; 43:133-143。 [考研]
  160. Morris G,Nevet A,Arkadir D,Vaadia E,Bergman H. Midbrain多巴胺神经元编码未来行动的决定。 Nat Neurosci。 2006; 9:1057-1063。 [考研]
  161. 莫里森SE,萨尔兹曼CD。 关于单个神经元中奖励和厌恶刺激的信息的收敛。 J Neurosci。 2009; 29:11471-11483。 [PMC免费文章[考研]
  162. Nakahara H,Itoh H,Kawagoe R,Takikawa Y,Hikosaka O.多巴胺神经元可以表示依赖于上下文的预测误差。 神经元。 2004; 41:269-280。 [考研]
  163. Nakamura K,Hikosaka O.多巴胺在灵长类动物尾状核中的作用,在奖赏调节的眼跳。 J Neurosci。 2006; 26:5360-5369。 [考研]
  164. Neve KA,Seamans JK,Trantham-Davidson H.多巴胺受体信号传导。 受体和信号转导研究杂志。 2004; 24:165-205。 [考研]
  165. Nishijo H,Ono T,Nishino H.在具有情感意义的复杂感觉刺激期间警报猴的杏仁核中的单个神经元反应。 J Neurosci。 1988; 8:3570-3583。 [考研]
  166. Niv Y,Daw ND,Joel D,dayan P. Tonic多巴胺:机会成本和对反应活力的控制。 精神药理学。 2007; 191:507-520。 [考研]
  167. Nomoto K,Schultz W,Watanabe T,Sakagami M.暂时将多巴胺反应扩展到感知要求的奖励预测刺激。 J Neurosci。 2010; 30:10692-10702。 [PMC免费文章[考研]
  168. Okada K,Toyama K,Inoue Y,Isa T,Kobayashi Y.不同的pedunculopontine tegmental神经元信号预测和实际任务奖励。 J Neurosci。 2009; 29:4858-4870。 [考研]
  169. Omelchenko N,Bell R,Sesack SR。 侧缰管投射到大鼠腹侧被盖区的多巴胺和GABA神经元。 欧洲神经科学杂志。 2009; 30:1239-1250。 [PMC免费文章[考研]
  170. Owesson-White CA,Ariansen J,Stuber GD,Cleaveland NA,Cheer JF,Wightman RM,Carelli RM。 可卡因寻求行为的神经编码与伏隔核和壳中的相位多巴胺释放一致。 欧洲神经科学杂志。 2009; 30:1117-1127。 [PMC免费文章[考研]
  171. Oyama K,Hernadi I,Iijima T,Tsutsui K.在背侧纹状体神经元中编码的预测错误编码。 J Neurosci。 2010; 30:11447-11457。 [考研]
  172. Packard MG,White NM。 通过大脑内注射多巴胺激动剂后解离海马和尾状核记忆系统。 行为神经科学。 1991; 105:295-306。 [考研]
  173. Padoa-Schioppa C. Orbitofrontal cortex和经济价值的计算。 纽约科学院年报。 2007; 1121:232-253。 [考研]
  174. Palmiter RD。 背侧纹状体中的多巴胺信号传导对于动机行为至关重要:多巴胺缺乏小鼠的教训。 纽约科学院年报。 2008; 1129:35-46。 [PMC免费文章[考研]
  175. Pan WX,Hyland BI。 Pedunculopontine tegmental nucleus控制行为大鼠中脑多巴胺神经元的条件反应。 J Neurosci。 2005; 25:4725-4732。 [考研]
  176. Pan WX,Schmidt R,Wickens JR,Hyland BI。 多巴胺神经元活动和时间差异模型提示三联消退机制。 J Neurosci。 2008; 28:9619-9631。 [考研]
  177. Parker JG,Zweifel LS,Clark JJ,Evans SB,Phillips PE,Palmiter RD。 在巴甫洛夫条件下,多巴胺神经元中缺乏NMDA受体会减弱多巴胺的释放但不会减少条件。 美利坚合众国国家科学院院刊。 2010 [PMC免费文章[考研]
  178. Pascoe JP,Kapp BS。 兔巴甫洛恐惧条件下杏仁核中央核神经元的电生理特性。 行为脑研究。 1985; 16:117-133。 [考研]
  179. Pascucci T,Ventura R,Latagliata EC,Cabib S,Puglisi-Allegra S.内侧前额叶皮层通过去甲肾上腺素和多巴胺的相反影响决定伏隔核多巴胺对压力的反应。 Cereb Cortex。 2007; 17:2796-2804。 [考研]
  180. Pearce JM,Hall G.巴甫洛夫学习的模型:条件但不是无条件刺激的有效性的变化。 Psychol Rev. 1980; 87:532-552。 [考研]
  181. Pezze MA,Feldon J. Mesolimbic多巴胺能通路在恐惧条件反射中。 神经生物学的进展。 2004; 74:301-320。 [考研]
  182. Phillips AG,​​Ahn S,Howland JG。 Amygdalar对中脑皮质边缘多巴胺系统的控制:与动机行为平行的途径。 神经科学和生物行为评论。 2003a; 27:543-554。 [考研]
  183. Phillips GD,Salussolia E,Hitchcott PK。 mesoamygdaloid多巴胺预测在情绪学习中的作用。 精神药理学。 2010 [考研]
  184. Phillips PE,Stuber GD,Heien ML,Wightman RM,Carelli RM。 亚秒多巴胺释放促进可卡因寻求。 性质。 2003b; 422:614-618。 [考研]
  185. Porrino LJ,Goldman-Rakic PS。 通过逆行运输HRP显示恒河猴前额叶和前扣带皮层的脑干神经支配。 比较神经病学杂志。 1982; 205:63-76。 [考研]
  186. Puryear CB,Kim MJ,Mizumori SJ。 在自由航行的啮齿动物中通过腹侧被盖区域神经元的运动和奖励的联合编码。 行为神经科学。 2010; 124:234-247。 [PMC免费文章[考研]
  187. Ravel S,Legallet E,Apicella P.猴纹状体中的活跃神经元不优先响应食欲刺激。 实验脑研究。 Experimentelle Hirnforschung。 1999; 128:531-534。 [考研]
  188. Ravel S,Legallet E,Apicella P.猴纹状体中活跃的神经元的反应区分动机相反的刺激。 J Neurosci。 2003; 23:8489-8497。 [考研]
  189. 拉威尔S,里士满BJ。 猴子中的多巴胺神经元反应进行视觉提示奖励计划。 欧洲神经科学杂志。 2006; 24:277-290。 [考研]
  190. Redgrave P,Gurney K.短潜伏期多巴胺信号:发现新行为的角色? Nat Rev Neurosci。 2006; 7:967-975。 [考研]
  191. Redgrave P,Prescott TJ,Gurney K.短潜伏期多巴胺反应是否太短而不能发出信号奖励错误? 神经科学的趋势。 1999; 12:146-151。 [考研]
  192. Rescorla RA,Wagner AR。 巴甫洛夫条件理论:强化和非强化的有效性的变化。 在:黑色AH,Prokasy WF,编辑。 经典条件II:当前研究和理论。 纽约,纽约:Appleton Century Crofts; 1972。 pp.64-99。
  193. Reynolds JNJ,Hyland BI,Wickens JR。 奖励相关学习的细胞机制。 性质。 2001; 413:67-70。 [考研]
  194. 雷诺SM,贝里奇KC。 伏伏核壳中的正负动机:GABA引起的进食,味觉“喜欢” /“不喜欢”反应,偏好/避免和恐惧的二价杆状尾骨梯度。 神经科学杂志。 2002; 22:7308–7320。 [考研]
  195. Richardson RT,DeLong MR。 基础核在灵长类动物中的功能的电生理学研究。 实验医学和生物学的进展。 1991; 295:233-252。 [考研]
  196. Robbins TW,Arnsten AF。 前额执行功能的神经精神药理学:单胺能调节。 神经科学年度回顾。 2009; 32:267-287。 [PMC免费文章[考研]
  197. Robinson DL,Hermans A,Seipel AT,Wightman RM。 监测大脑中的快速化学通讯。 化学评论。 2008; 108:2554-2584。 [PMC免费文章[考研]
  198. Roesch MR,Calu DJ,Schoenbaum G.多巴胺神经元在大鼠中编码更好的选择,决定不同延迟或大小的奖励。 Nat Neurosci。 2007; 10:1615-1624。 [PMC免费文章[考研]
  199. Roesch MR,Olson CR。 神经元活动与灵长类动物额叶皮层的奖励价值和动机有关。 科学。 2004; 304:307-310。 [考研]
  200. Roitman MF,Wheeler RA,Wightman RM,Carelli RM。 伏隔核中的实时化学反应区分了奖赏和厌恶刺激。 Nat Neurosci。 2008; 11:1376-1377。 [PMC免费文章[考研]
  201. Rutledge RB,Lazzaro SC,Lau B,Myers CE,Gluck MA和Glimcher PW。 多巴胺能药物在动态觅食任务中调节帕金森氏病患者的学习率和毅力。 神经科学杂志。 2009; 29:15104-15114。 [PMC免费文章[考研]
  202. Salamone JD。 伏隔核多巴胺在食欲和厌恶动机中的作用。 行为脑研究。 1994; 61:117-133。 [考研]
  203. Salamone JD,Correa M,Farrar A,Mingote SM。 伏隔核多巴胺和相关前脑回路的努力相关功能。 Psychopharmacology(Berl)2007; 191:461-482。 [考研]
  204. Satoh T,Nakai S,Sato T,Kimura M.关联多巴胺神经元决策的动机和结果编码。 J Neurosci。 2003; 23:9913-9923。 [考研]
  205. Savine AC,Beck SM,Edwards BG,Chiew KS,Braver TS。 通过方法和避免动机状态来增强认知控制。 认知与情感。 2010; 24:338–356。 [PMC免费文章[考研]
  206. Schoenbaum G,Roesch MR,Stalnaker TA,Takahashi YK。 关于眶额皮质在适应行为中作用的新观点。 Nat Rev Neurosci。 2009; 10:885-892。 [PMC免费文章[考研]
  207. Schultz W.中脑多巴胺神经元对猴子行为触发刺激的反应。 J神经生理学。 1986; 56:1439-1461。 [考研]
  208. Schultz W.多巴胺神经元的预测性奖励信号。 J神经生理学。 1998; 80:1-27。 [考研]
  209. Schultz W.多种多巴胺在不同的时间过程中起作用。 神经科学年度回顾。 2007; 30:259-288。 [考研]
  210. Schultz W. Dopamine表示奖励价值和风险:基本和近期数据。 Behav Brain Funct。 2010; 6:24。 [PMC免费文章[考研]
  211. Schultz W,Dayan P,Montague PR。 预测和奖励的神经基质。 科学。 1997; 275:1593-1599。 [考研]
  212. Schultz W,Romo R.在麻醉的猴子中,黑质纹状体多巴胺神经元对高强度躯体感觉刺激的反应。 J神经生理学。 1987; 57:201-217。 [考研]
  213. Schultz W,Romo R.猴子中脑的多巴胺神经元:对刺激的反应的偶然性引起直接的行为反应。 J神经生理学。 1990; 63:607-624。 [考研]
  214. Seo H,Lee D.在混合策略游戏中对背部前扣带皮层的奖励信号进行时间过滤。 J Neurosci。 2007; 27:8366-8377。 [PMC免费文章[考研]
  215. Shabel SJ,Janak PH。 在条件性食欲和厌恶情绪唤醒期间杏仁核神经元活动的实质相似性。 美利坚合众国国家科学院院刊。 2009; 106:15031-15036。 [PMC免费文章[考研]
  216. Shadmehr R,Smith MA,Krakauer JW。 电机控制中的误差校正,感知预测和自适应。 神经科学年度回顾。 2010 [考研]
  217. Shen W,Flajolet M,Greengard P,Surmeier DJ。 二分多巴胺能控制纹状体突触可塑性。 科学。 2008; 321:848-851。 [PMC免费文章[考研]
  218. Shimo Y,Wichmann T.丘脑底核中的神经元活动调节猴纹状体中多巴胺的释放。 欧洲神经科学杂志。 2009; 29:104-113。 [PMC免费文章[考研]
  219. Shippenberg TS,Bals-Kubik R,Huber A,Herz A.神经解剖学基质介导D-1多巴胺受体拮抗剂的厌恶作用。 Psychopharmacology(Berl)1991; 103:209-214。 [考研]
  220. Shumake J,Ilango A,Scheich H,Wetzel W,Ohl FW。 通过侧缰和腹侧被盖区获取和回收回避学习的微分神经调节。 J Neurosci。 2010; 30:5876-5883。 [考研]
  221. 小DM,Gregory MD,Mak YE,Gitelman D,Mesulam MM,Parrish T.人类味觉中强度和情感评价的神经表征的分离。 神经元。 2003; 39:701-711。 [考研]
  222. Stefani MR,Moghaddam B.规则学习和奖励意外事件与大鼠前额叶皮层,伏隔核和背侧纹状体中多巴胺激活的可分离模式有关。 J Neurosci。 2006; 26:8810-8818。 [PMC免费文章[考研]
  223. Steinfels GF,Heym J,Strecker RE,Jacobs BL。 猫中的多巴胺能神经元对睡眠 - 觉醒周期中呈现的听觉刺激的反应。 Brain Res。 1983; 277:150-154。 [考研]
  224. Strecker RE,Jacobs BL。 表现为猫的黑质多巴胺能单位活动:唤醒对自发放电和感觉诱发活动的影响。 Brain Res。 1985; 361:339-350。 [考研]
  225. Stuber GD,Hnasko TS,Britt JP,Edwards RH,Bonci A.多巴胺能末端在伏隔核中,但不是背侧纹状体核酸酶谷氨酸。 神经科学杂志。 2010; 30:8229-8233。 [PMC免费文章[考研]
  226. Stuber GD,Wightman RM,Carelli RM。 可卡因自我施用的消失揭示了伏隔核中功能上和时间上不同的多巴胺能信号。 神经元。 2005; 46:661-669。 [考研]
  227. Sul JH,Kim H,Huh N,Lee D,Jung MW。 啮齿动物眶额叶和内侧前额叶皮层在决策中的不同作用。 神经元。 2010; 66:449-460。 [PMC免费文章[考研]
  228. Surmeier DJ,Ding J,Day M,Wang Z,Shen W. D1和D2多巴胺受体调节纹状体谷氨酸能信号在纹状体中型多刺神经元中的表达。 神经科学的趋势。 2007; 30:228-235。 [考研]
  229. Surmeier DJ,Shen W,Day M,Gertler T,Chan S,Tian X,Plotkin JL。 多巴胺在调节纹状体电路结构和功能中的作用。 大脑研究进展。 2010; 183C:148-167。 [考研]
  230. Sutton RS,Barto AG。 走向现代自适应网络理论:期望和预测。 Psychol Rev. 1981; 88:135-170。 [考研]
  231. Takahashi YK,Roesch MR,Stalnaker TA,Haney RZ,Calu DJ,Taylor AR,Burke KA,Schoenbaum G.轨道前额皮质和腹侧被盖区域是学习意外结果所必需的。 神经元。 2009; 62:269-280。 [PMC免费文章[考研]
  232. Takikawa Y,Kawagoe R,Hikosaka O.中脑多巴胺神经元在眼跳的短期和长期适应中对位置 - 奖励映射的可能作用。 J神经生理学。 2004; 92:2520-2529。 [考研]
  233. Tecuapetla F,Patel JC,Xenias H,英语D,Tadros I,Shah F,Berlin J,Deisseroth K,Rice ME,Tepper JM,Koos T.谷氨酸能通过伏隔核中的中脑边缘多巴胺神经元发出信号。 J Neurosci。 2010; 30:7105-7110。 [PMC免费文章[考研]
  234. Thierry AM,Tassin JP,Blanc G,Glowinski J.通过压力选择性激活中皮质DA系统。 性质。 1976; 263:242-244。 [考研]
  235. Tobler PN,Dickinson A,Schultz W.编码多巴胺神经元在条件抑制范式中的预测奖励遗漏。 J Neurosci。 2003; 23:10402-10410。 [考研]
  236. Tobler PN,Fiorillo CD,Schultz W.多巴胺神经元的自适应编码奖励值。 科学。 2005; 307:1642-1645。 [考研]
  237. Tsai HC,Zhang F,Adamantidis A,Stuber GD,Bonci A,de Lecea L,Deisseroth K.多巴胺能神经元中的阶段性射击足以进行行为调节。 科学。 2009 [考研]
  238. Ullsperger M.遗传关联研究表现监测和反馈学习:多巴胺和5-羟色胺的作用。 神经科学和生物行为评论。 2010; 34:649-659。 [考研]
  239. Ungless MA。 多巴胺:突出的问题。 神经科学的趋势。 2004; 27:702-706。 [考研]
  240. Uylings HB,Groenewegen HJ,Kolb B.大鼠是否有前额叶皮质? 行为脑研究。 2003; 146:3-17。 [考研]
  241. Ventura R,Cabib S,Puglisi-Allegra S.相反基因型依赖于中脑皮质激素多巴胺对应激的反应。 神经科学。 2001; 104:627-631。 [考研]
  242. Ventura R,Latagliata EC,Morrone C,La Mela I,Puglisi-AllegraS。前额叶去甲肾上腺素确定“高”动机显着性的归因。 一等奖。 2008; 3:e3044。 [PMC免费文章[考研]
  243. Ventura R,Morrone C,Puglisi-Allegra S. Prefrontal / accumbal儿茶酚胺系统决定了奖励和厌恶相关刺激的动机显着性归因。 美利坚合众国国家科学院院刊。 2007; 104:5181-5186。 [PMC免费文章[考研]
  244. Vogt BA。 扣带回分区域的疼痛和情绪相互作用。 Nat Rev Neurosci。 2005; 6:533-544。 [PMC免费文章[考研]
  245. Voon V,Pessiglione M,Brezing C,Gallea C,Fernandez HH,Dolan RJ,Hallett M.强迫行为中多巴胺介导的奖励机制。 神经元。 2010; 65:135-142。 [PMC免费文章[考研]
  246. Waelti P,Dickinson A,Schultz W. Dopamine的反应符合正式学习理论的基本假设。 性质。 2001; 412:43-48。 [考研]
  247. Wallis JD,Kennerley SW。 前额皮质中的异质奖励信号。 神经生物学的当前观点。 2010; 20:191-198。 [PMC免费文章[考研]
  248. Walton ME,Behrens TE,Buckley MJ,Rudebeck PH,Rushworth MF。 猕猴大脑中可分离的学习系统以及眶额皮层在临时学习中的作用。 神经元。 2010; 65:927-939。 [PMC免费文章[考研]
  249. Wheeler RA,Twining RC,Jones JL,Slater JM,Grigson PS,Carelli RM。 负面影响的行为和电生理指标预测可卡因自我管理。 神经元。 2008; 57:774-785。 [考研]
  250. Wightman RM,Heien MLAV,Wassum KM,Sombers LA,Aragona BJ,Khan AS,Ariansen JL,Cheer JF,Phillips PE,Carelli RM。 多巴胺释放在大鼠伏隔核的微环境中是异质的。 欧洲神经科学杂志。 2007; 26:2046-2054。 [考研]
  251. Williams GV,Castner SA。 曲线下:阐明工作记忆中D1受体功能的关键问题。 神经科学。 2006; 139:263-276。 [考研]
  252. Williams SM,Goldman-Rakic PS。 灵长类中脑多巴胺系统的广泛起源。 Cereb Cortex。 1998; 8:321-345。 [考研]
  253. Winn P.如何最好地考虑pedunculopontine tegmental核的结构和功能:来自动物研究的证据。 神经科学杂志。 2006; 248:234-250。 [考研]
  254. 聪明的RA。 多巴胺,学习和动力。 Nat Rev Neurosci。 2004; 5:483-494。 [考研]
  255. 聪明的RA。 前脑基质的奖励和动机。 比较神经病学杂志。 2005; 493:115-121。 [PMC免费文章[考研]
  256. 明智的SP。 前锋领域:系统发育和基本功能。 神经科学的趋势。 2008; 31:599-608。 [PMC免费文章[考研]
  257. Yamada H,Matsumoto N,Kimura M.灵长类动物尾状核和壳核中的活跃神经元差异编码指示动作的动作结果。 J Neurosci。 2004; 24:3500-3510。 [考研]
  258. Yamada H,Matsumoto N,Kimura M.历史 - 以及当前基于指令的纹状体行为结果的编码。 J神经生理学。 2007; 98:3557-3567。 [考研]
  259. Yin HH,Knowlton BJ。 基底神经节在习惯形成中的作用。 Nat Rev Neurosci。 2006; 7:464-476。 [考研]
  260. Young AM,Moran PM,Joseph MH。 多巴胺在调理和潜在抑制中的作用:什么,何时,何地以及如何? 神经科学和生物行为评论。 2005; 29:963-976。 [考研]
  261. Zaghloul KA,Blanco JA,Weidemann CT,McGill K,Jaggi JL,Baltuch GH,Kahana MJ。 人类黑质神经元编码意外的经济回报。 科学。 2009; 323:1496-1499。 [PMC免费文章[考研]
  262. Zahniser NR,Sorkin A.多巴胺转运蛋白的快速调节:兴奋剂成瘾的作用? 神经药理学。 2004; 47 Suppl 1:80-91。 [考研]
  263. Zhang L,Doyon WM,Clark JJ,Phillips PE,Dani JA。 控制背侧和腹侧纹状体中的强直和阶段性多巴胺传递。 分子药理学。 2009; 76:396-404。 [PMC免费文章[考研]
  264. Zink CF,Pagnoni G,Martin ME,Dhamala M,Berns GS。 人类纹状体对突出的非奖励刺激的反应。 神经科学杂志。 2003; 23:8092-8097。 [考研]
  265. Zweifel LS,Argilli E,Bonci A,Palmiter RD。 NMDA受体在多巴胺神经元中的可塑性和成瘾行为的作用。 神经元。 2008; 59:486-496。 [PMC免费文章[考研]
  266. Zweifel LS,Parker JG,Lobb CJ,Rainwater A,Wall VZ,Fadok JP,Darvas M,Kim MJ,Mizumori SJ,Paladini CA,et al。 多巴胺神经元对NMDAR依赖性突发发作的破坏提供了对相位多巴胺依赖性行为的选择性评估。 美利坚合众国国家科学院院刊。 2009; 106:7281-7288。 [PMC免费文章[考研]