多巴胺是什么意思? (2018)

。 作者手稿; 可在PMC 2019 Feb 1中找到。
以最终编辑形式发布为:
PMCID: PMC6358212
NIHMSID: NIHMS987662
结论: 29760524

抽象

多巴胺是学习和动机的关键调节剂。 这提出了一个问题:靶细胞如何知道增加的多巴胺是否是学习或移动的信号? 通常认为动机涉及缓慢(“强直”)多巴胺变化,而快速(“相位”)多巴胺波动传达学习的奖励预测误差。 然而,最近的研究表明,即使在亚秒级时间尺度,多巴胺也能传达动机价值并促进运动。 在这里,我描述了多巴胺如何调节持续行为的另一种说法。 与多巴胺末端受体相关的多巴胺释放与动机相关,可快速和局部地雕刻,与多巴胺细胞的发射无关。 目标神经元突然在学习和表现模式之间切换,纹状体胆碱能中间神经元提供一种候选开关机制。 多巴胺的行为影响因子区域而异,但在每种情况下,多巴胺都能提供动态估计是否值得花费有限的内部资源,例如能量,注意力或时间。

多巴胺是学习,动机或两者的信号吗?

我们对多巴胺的理解在过去发生了变化,并且正在再次发生变化。 一个关键的区别是多巴胺效应 当前 行为(表现)和多巴胺效应 未来 行为(学习)。 两者都是真实而重要的,但在不同的时候,一个人一直赞成,另一个则没有。

当(在'70s中)有可能进行多巴胺途径的选择性完全损伤时,明显的行为后果是运动严重减少。 这符合人类多巴胺损失的动力学效应,由晚期帕金森病,毒性药物或脑炎引起。 然而,老鼠和人类病例都没有表现出根本无法移动。 多巴胺损伤的大鼠在冷水中游泳如果发出火警警报(“矛盾的”运动),运动障碍患者可能起床并跑步。 在获得奖励方面也没有基本的缺陷:多巴胺损伤的老鼠将消耗放在嘴里的食物,并显示出享受它的迹象。 相反,他们不会选择努力积极获得奖励。 这些和许多其他结果确立了多巴胺和动机之间的基本联系。 即使在不太严重的帕金森病病例中观察到的运动减慢也可以被认为是一种动机缺陷,反映出隐含的决定,即不值得花费更快的运动所需的能量.

然后(在'80s中)开始记录行为猴中的多巴胺神经元(在中脑区域向前脑投射:腹侧被盖区,VTA /黑质致密部,SNc)。 在观察到的射击模式中,刺激的活动短暂爆发,引发了直接的运动。 这种“阶段性”多巴胺射击最初被解释为支持“行为激活” 和“动机唤醒” –换句话说,是激发动物当前的行为。

'90s发生了根本性转变,重新解释了相位多巴胺爆发作为编码 奖励预测错误 (的RPE)。 这是基于一个关键的观察结果:多巴胺细胞对与未来奖励相关的意外刺激做出反应,但如果这些刺激成为预期,往往会停止响应。 RPE思想起源于早期的学习理论,特别是在当时正在发展的强化学习计算机科学领域。 RPE信号的要点是更新 价值观(对未来奖励的估计)。 稍后将使用这些值,以帮助做出最大化奖励的选择。 由于多巴胺细胞发射类似于RPE,并且RPE用于学习,因此强调多巴胺在学习中的作用变得很自然。 后来的光遗传学操作证实了RPE编码细胞的多巴胺能特性, 并表明他们确实调节了学习,.

多巴胺提供学习信号的想法与多巴胺调节纹状体(多巴胺的主要前脑靶标)的突触可塑性的文献非常吻合。 例如,纹状体树突棘的谷氨酸刺激,突触后去极化和多巴胺释放的三重符合导致脊柱生长。 长期学习机制的多巴胺能调节有助于解释成瘾药物持续的行为影响,这些药物具有增强纹状体多巴胺释放的特性。。 即使是具有多巴胺损失的深度运动不能也可以部分地通过这种学习机制来解释。 缺乏多巴胺可被视为持续消极的RPE,逐渐将行动值更新为零。 多巴胺拮抗剂可以产生类似的渐进,消退效应,.

然而,多巴胺与持续性动机密切相关的想法从未消失-相反,行为神经科学家普遍认为这是理所当然的。 鉴于有力的证据表明多巴胺在动机/运动/活力中的作用与学习是分离的,因此这是适当的,。 不太广泛地认识到将这种动机角色与DA提供RPE学习信号的理论相协调所面临的挑战。

动机“向前看”:它使用未来奖励(值)的预测来适当地激励当前的行为。 相比之下,学习“回顾”近期的状态和行动,并更新其价值观。 这些是周期的互补阶段:如果重新遇到这些状态,然后再次更新,则更新后的值可用于后续决策,等等。 但是周期的哪个阶段是多巴胺参与 - 使用价值来做出决策(表现),或更新价值观(学习)?

在某些情况下,可以直接想象多巴胺同时发挥两种作用。意想不到的奖励预测线索是唤起多巴胺细胞发射和释放的典型事件,这种线索通常既能激发行为,又能唤起学习(图。 1)。 在这种特殊情况下,奖励预测和奖励预测错误会同时增加-但并非总是如此。 仅举一个例子,即使很少或没有意外发生,人们和其他动物也常常被激励去争取奖励。 随着越来越接近奖励,他们可能会越来越努力(随着奖励的临近,价值会增加)。 关键是学习和动机在概念,计算和行为上都是不同的,而多巴胺似乎可以同时做到。

包含图片,插图等的外部文件。对象名称为nihms-987662-f0001.jpg

多巴胺:更新过去,振奋现在。

置顶带箭头的圆圈表示状态以及来自这些州的潜在行动。 箭头宽度表示执行每个动作的学习值。 随着国家/行动逐渐消失,他们逐渐没有资格获得加强。 中间,一阵多巴胺发生。 结果是从当前状态(红色)获得可用动作的活力,以及最近执行的动作(紫色)的值表示的可塑性。 半身裙/裤,作为可塑性的结果,下次遇到这些状态时,它们的相关值会增加(箭头宽度)。 通过反复的经验,强化学习可以通过状态空间“划出一条沟”,使得某些轨迹越来越可能。 除了这种学习作用之外,多巴胺的活跃,表现作用似乎加速了先前学习的轨迹的流动。

下面我批判性地评估当前关于多巴胺如何能够实现学习和激励功能的想法。 我提出了一个更新的模型,基于三个关键事实:1)从终端释放多巴胺不仅仅是由多巴胺细胞发射引起的,但也可以局部控制; 2)多巴胺影响靶细胞的突触可塑性和兴奋性,分别对学习和表现产生明显的影响; 3)多巴胺对可塑性的影响可以通过附近的电路元件打开或关闭。 总之,这些特征可以允许脑电路在两个不同的多巴胺信息之间切换,分别用于学习和激励。

是否存在具有不同含义的单独的“阶段性”和“强直性”多巴胺信号?

人们经常认为,多巴胺的学​​习和激励作用发生在不同的时间尺度上。 多巴胺细胞以每秒一些峰值持续(“音调”)射击,偶尔短暂(“阶段性”)爆发或暂停。 爆发,特别是如果人工同步跨多巴胺细胞,则会促使前脑多巴胺相应快速增加 这是非常短暂的(亚秒级持续时间)。 强直多巴胺细胞对前脑多巴胺浓度的单独贡献不太清楚。 一些证据表明这种贡献非常小。 对较高亲和力的D2受体产生近乎连续的刺激可能就足够了,使系统能够注意到多巴胺细胞发射的短暂停顿 并使用这些暂停作为负面预测错误。

微透析已被广泛用于直接测量前脑多巴胺水平,虽然时间分辨率低(通常在几分钟内平均)。 多巴胺的这种缓慢测量可能难以精确地与行为相关联。 尽管如此,伏隔核中的多巴胺微透析(NAc;腹侧/内侧纹状体)与运动活动呈正相关。 和其他动机指数。 这被广泛认为意味着多巴胺浓度存在缓慢(“强直”)变化,并且这些缓慢变化传达了激励信号。 更具体地,计算模型已经提出补品多巴胺水平跟踪长期平均回报率 –用于时间分配和觅食决策的有用的动机变量。 值得强调的是,很少有论文能清楚地定义“补品”的多巴胺水平-他们通常只是假设多胺的浓度在微透析的数分钟时间内会缓慢变化。

然而,这种“阶段性多巴胺= RPE /学习,强直多巴胺=动机”观点面临许多问题。 首先,没有直接的证据表明强直多巴胺细胞的发射通常在慢时间尺度上变化。 强直射击率不随着动机的变化而变化,。 有人认为,由于活性多巴胺细胞比例的变化,强直多巴胺水平会发生变化,。 但是,在许多关于未经处理的,未受损害的动物的研究中,多巴胺细胞从未报道过在沉默和活跃状态之间切换。

此外,微透析缓慢测量多巴胺水平的事实并不意味着多巴胺水平实际上缓慢变化。 我们最近 使用微透析和快速扫描循环伏安法检查概率奖励任务中的大鼠NAc多巴胺。 我们证实,通过微透析测量的中脑边缘多巴胺与奖励率(奖励/分钟)相关。 然而,即使改进的微透析时间分辨率(1min),多巴胺的波动速度与我们采样的速度一样快:我们没有看到固有慢速多巴胺信号的证据。

使用更精细的伏安法时间分辨率,我们观察到亚秒级多巴胺波动与动机之间的密切关系。 当大鼠进行实现奖励所需的一系列行动时,多巴胺越来越高,在获得奖励时达到峰值(并且随着它们的消耗而迅速下降)。 我们发现多巴胺与瞬时状态值强烈相关 - 定义为预期的未来奖励,并通过接收它所需的预期时间打折扣。 这些快速的多巴胺动力学也可以解释微透析结果,而不会在不同的时间尺度上调用单独的多巴胺信号。 随着动物获得更多奖励,它们会增加对试验序列中每个步骤的未来奖励的期望。 多巴胺和奖励率之间的相关性最好解释为在延长的微透析样品收集时间内,这些快速发展的状态值的平均值,而不是缓慢发展的平均奖励率信号。

对中脑边缘多巴胺释放的这种价值解释与其他研究小组的伏安法结果一致,他们反复发现多巴胺释放随着与奖励的接近度增加而增加(图。 2)。 这种激励信号本身并不“慢”,而是可以在连续的时间范围内观察到。 虽然多巴胺斜坡可以持续几秒钟,但接近行为也会持续几秒钟,这反映了行为的时间过程,而不是内在的多巴胺动力学。 中脑边缘多巴胺释放与波动值之间的关系可以与记录技术允许的一样快,即在急性伏安法电极的~100ms时标上.

包含图片,插图等的外部文件。对象名称为nihms-987662-f0002.jpg

快速的多巴胺波动表明动态演变的奖励预期。

ac)当大鼠接近预期的奖励时,中脑边缘多巴胺释放迅速增加。 d)价值,定义为对未来奖励的暂时折扣估计,随着奖励的增加而增加。 提示表明奖励比以前预期更大,更接近或更确定会导致价值跳跃。 这些从一个时刻到下一个时刻的跳跃是时间差异的RPE。 e)减去“基线”可能会混淆价值和RPE信号。 左,多巴胺与奖励预测线索对齐(在零时间),与传统的基线减法一起,似乎表明当奖励预期较少(褐色)时,多巴胺跳跃到较高水平,类似于RPE信号。 对,相同数据的替代表示,等同于多巴胺水平 after 提示,将显示预先的多巴胺水平取决于奖励期望(价值)。 其他分析确定右侧演示更接近事实(详见参考资料)。 )。 小组经许可,转载自参考 ,麦克米伦出版社有限公司....... 小组b经许可转载。 ,Elsevier; 小组在获得许可的情况下转载 ,麦克米伦出版社有限公司

快速的多巴胺波动不仅仅是反映动机,它们还能立即驱动动机行为。 多巴胺细胞对触发提示的较大阶段性反应可以预测同一试验中较短的反应时间。 VTA多巴胺细胞的光遗传学刺激使得大鼠更有可能在我们的概率奖励任务中开始工作就好像他们对奖励有更高的期望。 SNc多巴胺神经元或其背侧纹状体轴突的光遗传学刺激增加了运动的可能性,。 重要的是,这些行为效应在光遗传学刺激开始的几百毫秒内是明显的。 奖励预测线索提高动机的能力似乎是由NAc多刺神经元兴奋性的非常快速的多巴胺能调节所介导的。。 由于多巴胺的变化很快,这些多巴胺的变化会迅速影响动机,因此多巴胺的动机功能更好地描述为快速(“相位”),而不是慢速(“强直”)。

此外,调用单独的快速和慢速时间尺度本身并不能解决具有多巴胺受体的神经元所面临的解码问题。 如果多巴胺发出学习信号,则调节突触可塑性似乎是适当的细胞反应。 但是,对动机行为的直接影响意味着对尖峰的直接影响,例如,兴奋性的快速变化。 多巴胺可以同时具有这两种突触后作用(以及更多),那么给定的多巴胺浓度是否具有特定含义? 还是需要构建这种含义-例如,通过比较跨时间的多巴胺水平,或通过使用其他同时的信号来确定参与哪个细胞机制? 这种可能性将在下面进一步讨论。

多巴胺释放是否传达与多巴胺细胞发射相同的信息?

快速多巴胺波动与动机值之间的关系似乎很奇怪,因为多巴胺细胞的激发反而类似于RPE。 此外,一些研究报道了中脑边缘多巴胺释放中的RPE信号。 重要的是要注意在解释某些形式的神经数据时遇到的挑战。 值信号和RPE相互关联–不足为奇,因为RPE通常定义为从一瞬间到下一瞬间的值变化(“时差RPE”)。 由于这种相关性,因此使用能够区分RPE帐户价值的实验设计和分析至关重要。 当使用依赖于相对而非绝对信号变化的神经测量方法时,问题变得更加复杂。 伏安分析通常在每个试验中比较感兴趣的某个时间点的多巴胺与“基线”时期(以消除不依赖多巴胺的信号成分,包括每次电压扫描时的电极充电和几分钟内的漂移)。 但是减去基准线可以使值信号类似于RPE信号。 这是我们在自己的伏安数据中观察到的(图2e)。 奖励预期的变化反映在每个试验早期多巴胺浓度的变化中,如果只是在试验中假设一个恒定的基线,那么这些变化就会被忽略。 因此,应谨慎对待有关多巴胺释放和RPE编码的结论。 这种数据解释的危险不仅适用于伏安法,而且还适用于任何依赖相对变化的分析-可能包括某些功能磁共振成像和光度法.

尽管如此,我们仍然需要调和NAc核心中与价值相关的多巴胺释放与多巴胺神经元持续缺乏价值相关的尖峰甚至在向NAc核心提供多巴胺的侧向VTA区域内。 一个潜在因素是多巴胺细胞通常记录在执行经典调节任务的头部受限动物中,而多巴胺释放通常在主动移动通过其环境的无限制动物中测量。 我们提出中脑边缘多巴胺可能具体表明“工作”的价值 –它反映了投入时间和精力来获得奖励的要求。 与此相符的是,多巴胺会随着指示运动的信号而增加,而不会随着指示静止的信号而增加,即使它们指示类似的未来回报。 如果像许多传统的调理任务一样,积极的“工作”没有好处,那么表明工作价值的多巴胺能改变可能就不太明显了。

更重要的可能是多巴胺释放可以在末端本身局部控制,因此显示出独立于细胞体刺激的时空模式。 例如,即使VTA失活,基底外侧杏仁核(BLA)也会影响NAc多巴胺释放。 相反,灭活BLA可减少NAc多巴胺释放和相应的动机行为,而不会明显影响VTA发射。 多巴胺末端具有一系列神经递质的受体,包括谷氨酸,阿片类和乙酰胆碱。 烟碱型乙酰胆碱受体允许纹状体胆碱能中间神经元(CINs)快速控制多巴胺释放,。 尽管长期以来已经注意到多巴胺释放的局部控制可能是重要的,,它尚未包含在多巴胺功能的计算账户中。 我建议与价值编码相关的多巴胺释放动力学主要通过 本地 控制,即使多巴胺细胞发射提供重要的RPE样信号用于学习。

多巴胺如何在没有混淆的情况下意味着学习和动力?

原则上,值信号也足以传达RPE,因为时间差RPE只是价值的快速变化(图2B)。 例如,靶神经元中不同的细胞内途径可能对多巴胺的绝对浓度(代表值)与浓度的快速相对变化(代表RPE)不同。 考虑到棘刺神经元生理学的复杂多巴胺调节,该方案似乎是合理的 以及它们对钙浓度时间模式的敏感性。 然而,这似乎有点多余。 如果类似RPE的信号已存在于多巴胺细胞尖峰中,则应该可以使用它而不是从值信号中重新获得RPE。

为了适当地使用不同的RPE和值信号,多巴胺受体电路可以主动切换它们如何解释多巴胺。 有令人感兴趣的证据表明,乙酰胆碱也可以起到这种转换作用。 在多巴胺细胞突然发出尖峰突然暗示的同时,CIN显示短暂(~150ms) 休息 在射击中,不能与RPE一起扩展。 这些CIN暂停可由VTA GABAergic神经元驱动 以及丘脑内层的“惊奇”相关细胞,并被提议作为促进学习的联想信号。 莫里斯和伯格曼建议道 胆碱能停顿定义纹状体可塑性的时间窗口,在此期间多巴胺可用作学习信号。 多巴胺依赖性可塑性通过直接途径纹状体神经元上的毒蕈碱m4受体机制持续抑制。 细胞内信号传导的模型表明,在CIN暂停期间,m4结合的缺失可能与相位多巴胺爆发协同作用以促进PKA激活。从而促进突触改变。

因此纹状体胆碱能细胞很好地定位以动态地切换多重多巴胺能信息的含义。 在CIN暂停期间,毒蕈碱块对突触可塑性的缓解将允许多巴胺用于学习。 在其他时候,多巴胺末端的释放将被局部雕刻以影响持续的行为表现。 目前,这一建议既是推测性的,也是不完整的。 已经提出CIN整合来自许多周围多刺神经元的信息以提取有用的网络级信号,例如熵,。 但目前尚不清楚CIN活动动力学可用于产生多巴胺值信号,以及门多巴胺学习信号。

多巴胺在整个前脑中是否意味着同样的事情?

随着RPE理念的召开,人们设想多巴胺是一种全球信号,在整个纹状体和额叶皮质靶标上传播错误信息。 Schultz强调整个VTA和SNc中的猴多巴胺细胞具有非常相似的反应。 对已鉴定的多巴胺细胞的研究也发现啮齿类动物的RPE样反应非常均匀,至少对于经典调节环境中的横向VTA神经元而言。 然而,多巴胺细胞在分子和生理上是多样的 现在有很多报道说他们在表现动物时表现出不同的射击模式。 这些包括向厌恶事件开火的阶段性增加 并触发提示 与标准RPE帐户配合不佳。 许多多巴胺细胞显示出对感觉事件的初始短潜伏期响应,其反映出比特定RPE编码更多的惊喜或“警告”,。 这种警报方面在SNc中更为突出其中多巴胺细胞更多地投射到“感觉运动”背侧/外侧纹状体(DLS,)。 据报道,SNc多巴胺细胞亚群也有增加 或减少 即使没有外部暗示,也可以与自发运动一起射击。

几个小组使用纤维光度法和钙指示剂GCaMP来检查多巴胺神经元亚群的大量活动,。 投射到背侧/内侧纹状体(DMS)的多巴胺细胞显示出对意外短暂休克的短暂抑制活动,而那些投射到DLS的多巴胺细胞活动增加–与警报响应更加一致。 使用GCaMP检查多巴胺轴突和末端的活性,还观察到了不同前脑次区域的不同多巴胺能反应。,,。 在头部受限制的老鼠中使用双光子成像,Howe和Dombeck 报道了与自发运动相关的相位多巴胺活性。 这主要见于来自SNc的单个多巴胺轴突终止于背侧纹状体,而NAc中的VTA多巴胺轴突对奖励递送的反应更多。 其他人还发现NAc中与奖赏相关的多巴胺能活性,而DMS则更多地与对侧行为相关联 并且纹状体的后尾对厌恶和新的刺激有反应.

多巴胺释放的直接测量也揭示了亚区之间的异质性,。 通过微透析,我们发现多巴胺与NAc核心和腹侧内侧额叶皮层特异性相关,而不是纹状体(NAc壳,DMS)或额叶皮质的其他内侧部分。 这很有趣,因为它似乎很好地映射了人类fMRI研究中始终如一的价值编码的两个“热点”。,。 特别是NAc BOLD信号,其与多巴胺信号传导密切相关,随着奖励预期(价值)的增加–比RPE更多.

这些多巴胺释放的空间模式是否由不同的多巴胺细胞亚群的激发,多巴胺释放的局部控制或两者引起,它们挑战全球多巴胺信息的想法。 可以得出结论,存在许多不同的多巴胺功能,其中(例如)背侧纹状体中的多巴胺发出信号“运动”并且腹侧纹状体中的多巴胺发出信号“奖励”。 但是,我赞成另一种概念方法。 不同的纹状体子区域从不同的皮层区域获得输入,因此将处理不同类型的信息。 然而,每个纹状体子区域共享一个共同的微电路结构,包括单独的D1-与D2-受体结合的多刺神经元,CIN等等。 尽管通常将各种纹状体亚区域(例如DLS,DMS,NAc核心)称为离散区域,但它们之间没有明显的解剖学边界(NAc壳在神经化学上更加明显不同)。 相反,在受体密度,中间神经比例等方面只有温和的梯度,这似乎更像是对共享计算算法参数的调整。 鉴于这种共同的架构,我们能否描述一个共同的多巴胺功能,从每个子区域处理的具体信息中抽象出来?

纹状体多巴胺和有限资源的分配。

我提出,各种不同的多巴胺对正在进行的行为的影响可以被理解为调制 资源分配决策。 具体而言,多巴胺提供了估计花费有限内部资源的价值的估计,其中特定资源在纹状体子区域之间不同。 对于“运动”纹状体(~DLS),资源是运动,这是有限的,因为移动需要能量,并且因为许多动作彼此不相容。 增加多巴胺使得动物更有可能决定消耗能量来移动或移动得更快,,。 注意,编码“运动是值得的”多巴胺信号将产生多巴胺和运动之间的相关性,即使没有多巴胺编码“运动” 本身.

对于“认知”纹状体(~DMS),资源是认知过程,包括注意力(根据定义,这是有限的容量))和工作记忆。 如果没有多巴胺,通常会引起定向运动的突出外部线索就会被忽略,好像被认为不那么值得关注。 此外,故意编组认知控制过程是费力的(代价高昂)。 多巴胺 - 特别是在DMS中 –在决定是否值得付出这一努力中发挥关键作用,。 这可以包括是否采用更具认知要求,审慎(“基于模型”)的决策策略.

对于“动机”纹状体(~NAc),一个关键的有限资源可能是动物的时间。 当动物进行简单,固定的动作以快速获得奖励时,不需要中脑边缘多巴胺。 但是,许多形式的奖励只能通过长期工作来获得:扩展的无偿行动序列,如觅食。 选择参与工作意味着必须放弃其他有益的花时间方式。 高中脑边缘多巴胺表明,参与暂时延长,努力工作是值得的,但随着多巴胺被降低,动物不会打扰,而是可能只是准备睡觉.

在每个皮质 - 纹状体循环回路中,多巴胺对持续行为的贡献因此既经济(关注资源分配)和动机(无论是 合算 花费资源)。 这些电路不是完全独立的,而是具有分层的,螺旋形的组织:纹状体的更多腹侧部分影响投射到更多背部的多巴胺细胞,。 通过这种方式,从事工作的决策也可以帮助激发所需的特定,简短的动作。 但是总的来说,多巴胺会提供“激活”信号-增加做出某些决定的可能性-而不是“定向”信号指定 形成一种 应该花费资源.

多巴胺作出决定时的计算作用是什么?

思考这种激活角色的一种方式是在决策“门槛”方面。 在某些数学模型中,当系统变为行动时,决策过程会增加,直到达到阈值水平。 较高的多巴胺相当于较低的距离阈值,因此可以更快地达到决策。 这个想法很简单,但却做出了已经确认的定量预测。 降低运动阈值会引起反应时间分布形状的特定变化,正如安非他明注入感觉运动纹状体时所看到的那样.

如果阈值随着时间的推移而降低,那么行为和神经数据可能会更好地适应,而不是固定的阈值,就好像决策变得越来越紧迫。 已经提出基底神经节输出以提供动态演变的紧急信号,其激发皮质中的选择机制。 当未来的奖励更接近时,紧迫性也更大,使得这个概念类似于价值编码,多巴胺的激活作用。

这种激活作用是否足以描述纹状体多巴胺的表现调节作用? 这与基础神经节电路是否直接选择学习行为这一长期存在的问题有关 或仅仅激活其他地方做出的选择,。 至少有两种方法可以使多巴胺具有更“定向”的效果。 第一种是多巴胺在大脑子区域内起作用,处理固有的方向信息。 基底神经节回路具有重要的,部分侧向的作用,其朝向并接近潜在的奖励。 灵长类动物尾状核(~DMS)参与驱动眼睛向对侧空间场的运动。 多巴胺能信号表明对侧空间的某些东西值得指导,可能是DMS中多巴胺能活性与对侧运动之间观察到的相关性的原因,以及多巴胺操作产生的旋转行为。 当(双侧)多巴胺损伤使大鼠偏向低效/低回报选择时,多巴胺的第二个“定向”影响是明显的,而不是高效/高回报的替代方案。 这可能反映了这样一个事实,即一些决策更加连续而不是并行,老鼠(和人类)一次一个地评估选项。 在这些决策环境中,多巴胺仍然可以通过传达当前考虑的选项的价值来支付基本的激活角色,然后可以接受或不接受.

活跃的动物通常以高比率在多个层面做出决定。 除了考虑个人决策之外,考虑通过一系列状态的整体轨迹可能会有所帮助(图。 1)。 通过促进从一种状态到下一种状态的转变,多巴胺可以沿着学习的轨迹加速流动。 这可能与多巴胺对行为时间的重要影响有关,。 未来工作的一个关键前沿是通过改变单个细胞,微电路和大规模皮质 - 基底神经节环内的信息处理,更深入地了解这种多巴胺对持续行为的影响是如何机械地产生的。 此外,我已经强调多巴胺在一系列纹状体靶标上的常见计算作用,但在很大程度上忽略了皮质靶标,并且仍然有待观察两种结构中的多巴胺功能是否可以在同一框架内描述。

综上所述,对多巴胺的充分描述将解释多巴胺如何在相同的快速时间尺度上发出学习和动机的信号,而不会产生混淆。 这可以解释为什么关键目标中的多巴胺释放与奖励期望相关,即使多巴胺细胞发射没有。 它将提供整个纹状体和其他地方的多巴胺作用的统一计算帐户,这解释了对运动,认知和时间的不同行为影响。 这里介绍的一些具体想法是推测性的,但旨在激发新的讨论,建模和精辟的新实验。

致谢。

我感谢许多同事对早期的文本草稿提出了深刻的评论,包括Kent Berridge,Peter Dayan,Brian Knutson,Jeff Beeler,Peter Redgrave,John Lisman,Jesse Goldberg和匿名裁判。 我很遗憾空间限制排除了许多重要的先前研究的讨论。 国家神经疾病和中风研究所,国家精神卫生研究所和国家药物滥用研究所提供了必要的支持。

参考文献:

1. Ungerstedt U 6-羟基多巴胺诱导的黑质纹状体多巴胺系统变性后的难治性和吞咽困难. Acta Physiol Scand Suppl 367,95-122(1971)。 [考研] []
2. Sacks O. 觉醒。 觉醒 (1973)。
3. Marshall JF,Levitan D和Stricker EM 激活诱导的感觉运动功能的恢复在具有多巴胺消耗脑损伤的大鼠中. J Comp Physiol Psychol 90,536-46(1976)。 [考研] []
4. Berridge KC,Venier IL和Robinson TE 6-羟基多巴胺诱导的吞咽困难的味觉反应性分析:对多巴胺功能的觉醒和快感缺乏症的影响. Behav Neurosci 103,36-45(1989)。 [考研] []
5. Salamone J和Correa M. 中脑边缘多巴胺的神秘动力学功能. 神经元 76, 470–485 (2012).doi:10.1016/j.neuron.2012.10.021 [PMC免费文章] [考研[交叉引用] []
6. Mazzoni P,Hristova A和Krakauer JW 我们为什么不加快行动? 帕金森病,运动活力和内隐动机. 神经科学杂志 27,7105-16(2007).doi:10.1523 / JNEUROSCI.0264-07.2007 [考研[交叉引用] []
7. 舒尔茨W 中脑多巴胺神经元对猴子行为触发刺激的反应. 神经生理学杂志 56,1439-1461(1986)。 [考研] []
8. Schultz W和Romo R. 猴子中脑的多巴胺神经元:对刺激的反应的偶然性引起立即的行为反应. J神经生理学 63,607-24(1990)。 [考研] []
9. Montague PR,Dayan P和Sejnowski TJ 基于预测性Hebbian学习的中脑多巴胺系统框架. 神经科学杂志 16,1936-47(1996)。 [考研] []
10. Schultz W,Apicella P和Ljungberg T. 在学习延迟响应任务的连续步骤期间,猴多巴胺神经元对奖励和条件刺激的响应. 神经科学杂志 13,900-13(1993)。 [考研] []
11. Sutton RS和Barto AG 强化学习:介绍。 强化学习:介绍 (麻省理工学院出版社:剑桥,马萨诸塞州,1998)。 []
12. Cohen JY,Haesler S,Vong L,Lowell BB和Uchida N. 特定神经元类型的信号,用于腹侧被盖区域的奖励和惩罚. 自然 482, 85–8 (2012).doi:10.1038/nature10754 [PMC免费文章] [考研[交叉引用] []
13. Eshel N,Tian J,Bukwich M和Uchida N. 多巴胺神经元共享响应预测误差的共同响应函数. Nat Neurosci 19, 479–86 (2016).doi:10.1038/nn.4239 [PMC免费文章] [考研[交叉引用] []
14. Steinberg EE,Keiflin R,Boivin JR,Witten IB,Deisseroth K和Janak PH 预测错误,多巴胺神经元和学习之间的因果关系. Nat Neurosci (2013).doi:10.1038 / nn.3413 [PMC免费文章] [考研[交叉引用] []
15. Hamid AA,Pettibone JR,Mabrouk OS,Hetrick VL,Schmidt R,Vander Weele CM,Kennedy RT,Aragona BJ和Berke JD 中脑边缘多巴胺标志着工作的价值. Nat Neurosci 19, 117–26 (2016).doi:10.1038/nn.4173 [PMC免费文章] [考研[交叉引用] []
16. Yagishita S,Hayashi-Takagi A,Ellis-Davies GC,Urakubo H,Ishii S和Kasai H 多巴胺作用对树突棘结构可塑性的关键时间窗. 科学 345, 1616–20 (2014).doi:10.1126/science.1255514 [PMC免费文章] [考研[交叉引用] []
17. Berke JD和Hyman SE 成瘾,多巴胺和记忆的分子机制. 神经元 25,515-32(2000)。 [考研] []
18. Beeler JA,Frank MJ,McDaid J,Alexander E,Turkson S,Bernandez MS,McGehee DS和Zhuang X 多巴胺介导的学习在帕金森病的病理生理学和治疗中的作用. 细胞代表 2, 1747–61 (2012).doi:10.1016/j.celrep.2012.11.014 [PMC免费文章] [考研[交叉引用] []
19. 聪明的RA 多巴胺,学习和动力. Nat Rev Neurosci 5,483-94(2004).doi:10.1038 / nrn1406 [考研[交叉引用] []
20. Leventhal DK,Stoetzner C,Abraham R,Pettibone J,DeMarco K和Berke JD 多巴胺对感觉运动纹状体内学习和表现的可分离作用. Basal Ganglia 4, 43–54 (2014).doi:10.1016/j.baga.2013.11.001 [PMC免费文章] [考研[交叉引用] []
21. Wyvell CL和Berridge KC 伏隔内安非他明增加蔗糖奖励的条件激励显着性:增加奖励“想要”而不增强“喜欢”或反应强化. 神经科学杂志 20,8122-30。 (2000)。 [考研] []
22. Cagniard B,Beeler JA,Britt JP,McGehee DS,Marinelli M和Zhuang X. 多巴胺在没有新学习的情况下衡量表现. 神经元 51,541-7(2006).doi:10.1016 / j.neuron.2006.07.026 [考研[交叉引用] []
23. Shiner T,Seymour B,Wunderlich K,Hill C,Bhatia KP,Dayan P和Dolan RJ 多巴胺和强化学习任务中的表现:帕金森病的证据. 大脑 135,1871-1883(2012)。 [PMC免费文章] [考研] []
24. McClure SM,Daw ND和Montague PR 激励显着性的计算基础. 趋势神经科学 26,423-8(2003)。 [考研] []
25. 舒尔茨W 多种多巴胺在不同时间段起作用. Annu Rev Neurosci 30,259-88(2007).doi:10.1146 / annurev.neuro.28.061604.135722 [考研[交叉引用] []
26. Gonon F,Burie JB,Jaber M,Benoit-Marand M,Dumartin B和Bloch B 大鼠纹状体和缺乏多巴胺转运蛋白的小鼠中多巴胺能传递的几何和动力学. Prog Brain Res 125,291-302(2000)。 [考研] []
27. Aragona BJ,Cleaveland NA,Stuber GD,Day JJ,Carelli RM和Wightman RM 可卡因对伏隔核内多巴胺传递的优先增强可归因于相位多巴胺释放事件的直接增加. 神经科学杂志 28, 8821–31 (2008).doi:10.1523/JNEUROSCI.2225-08.2008 [PMC免费文章] [考研[交叉引用] []
28. Owesson-White CA,Roitman MF,Sombers LA,Belle AM,Keithley RB,Peele JL,Carelli RM和Wightman RM 有助于伏隔核中多巴胺平均细胞外浓度的来源. ĴNeurochem公司 121, 252–62 (2012).doi:10.1111/j.1471-4159.2012.07677.x [PMC免费文章] [考研[交叉引用] []
29. Yapo C,Nair AG,Clement L,Castro LR,Hellgren Kotaleski J和Vincent P 通过D1和D2纹状体中型多刺神经元检测相位多巴胺. J Physiol (2017).doi:10.1113 / JP274475 [PMC免费文章] [考研[交叉引用] []
30. Freed CR和Yamamoto BK 区域脑多巴胺代谢:移动动物的速度,方向和姿势的标记. 科学 229,62-65(1985)。 [考研] []
31. Niv Y,Daw ND,Joel D和Dayan P. 强直多巴胺:机会成本和对反应活力的控制. 精神药理学(Berl) 191, 507–20 (2007).doi:10.1007/s00213-006-0502-4 [考研[交叉引用] []
32. Strecker RE,Steinfels GF和Jacobs BL 自由移动的猫的多巴胺能单位活动:与摄食,饱腹感和葡萄糖注射无关. 脑; 260,317-21(1983)。 [考研] []
33. Cohen JY,Amoroso MW和Uchida N. 5-羟色胺能神经元在多个时间尺度上表示奖励和惩罚. 网上生活 4,(2015).doi:10.7554 / eLife.06346 [PMC免费文章] [考研[交叉引用] []
34. Floresco SB,West AR,Ash B,Moore H和Grace AA 多巴胺神经元放电的传入调节差异地调节强直和相位多巴胺传递. Nat Neurosci 6,968-73(2003).doi:10.1038 / nn1103 [考研[交叉引用] []
35. 格雷斯AA 精神分裂症和抑郁症的病理生理学中多巴胺系统的失调. 自然神经科学评论 17,524(2016).doi:10.1038 / nrn.2016.57 [PMC免费文章] [考研[交叉引用] []
36. Phillips PE,Stuber GD,Heien ML,Wightman RM和Carelli RM 亚秒多巴胺释放促进可卡因寻求. 自然 422,614-8(2003).doi:10.1038 / nature01476 [考研[交叉引用] []
37. Wassum KM,Ostlund SB和Maidment NT 相位中脑边缘多巴胺信号传导先于并预测自发起作用序列任务的表现. 生物学精神病学 71, 846–54 (2012).doi:10.1016/j.biopsych.2011.12.019 [PMC免费文章] [考研[交叉引用] []
38. Howe MW,Tierney PL,Sandberg SG,Phillips PE和Graybiel AM 纹状体中延长的多巴胺信号传导发出远距离奖赏的接近度和价值. 自然 500, 575–9 (2013).doi:10.1038/nature12475 [PMC免费文章] [考研[交叉引用] []
39. Satoh T,Nakai S,Sato T和Kimura M. 多巴胺神经元的动机和决策结果的相关编码. 神经科学杂志 23,9913-23(2003)。 [考研] []
40. Howe MW和Dombeck DA 在运动和奖励期间在不同的多巴胺能轴突中快速发出信号. 自然 535, 505–10 (2016).doi:10.1038/nature18942 [PMC免费文章] [考研[交叉引用] []
41. Silva JAD,Tecuapetla F,PaixãoV和Costa RM 动作启动前的多巴胺神经元活动可以激活并激活未来的运动. 自然 554,244(2018).doi:10.1038 / nature25457 [考研[交叉引用] []
42. du Hoffmann J和Nicola SM 多巴胺通过促进伏核中的诱发诱发激发来激发寻求奖励. 神经科学杂志 34, 14349–64 (2014).doi:10.1523/JNEUROSCI.3492-14.2014 [PMC免费文章] [考研[交叉引用] []
43. Hart AS,Rutledge RB,Glimcher PW和Phillips PE 大鼠伏核中的相位多巴胺释放对称地编码奖励预测误差项. 神经科学杂志 34, 698–704 (2014).doi:10.1523/JNEUROSCI.2489-13.2014 [PMC免费文章] [考研[交叉引用] []
44. Soares S,Atallah BV和Paton JJ 中脑多巴胺神经元控制时间的判断. 科学 354,1273-1277(2016).doi:10.1126 / science.aah5234 [考研[交叉引用] []
45. Ikemoto S. 多巴胺奖励回路:从腹侧中脑到伏隔核 - 嗅结节复合体的两个投射系统. Brain Res Rev 56, 27–78 (2007).doi:10.1016/j.brainresrev.2007.05.004 [PMC免费文章] [考研[交叉引用] []
46. Syed EC,Grima LL,Magill PJ,Bogacz R,Brown P和Walton ME 动作启动形成中脑边缘多巴胺编码的未来奖励. Nat Neurosci (2015).doi:10.1038 / nn.4187 [PMC免费文章] [考研[交叉引用] []
47. Floresco SB,Yang CR,Phillips AG和Blaha CD 基底外侧杏仁核刺激引起麻醉大鼠伏核中谷氨酸受体依赖性多巴胺外流. EUR神经科学杂志 10,1241-51(1998)。 [考研] []
48. Jones JL,Day JJ,Aragona BJ,Wheeler RA,Wightman RM和Carelli RM 基底外侧杏仁核调节伏隔核中的末端多巴胺释放并调节反应. 生物学精神病学 67, 737–44 (2010).doi:S0006–3223(09)01327–4 [pii] 10.1016/j.biopsych.2009.11.006 [PMC免费文章] [考研[交叉引用] []
49. Cachope R,Mateo Y,Mathur BN,Irving J,Wang HL,Morales M,Lovinger DM和Cheer JF 胆碱能中间神经元的选择性激活增强了累积的阶段多巴胺释放:为奖励处理设定基调. 细胞代表 2, 33–41 (2012).doi:10.1016/j.celrep.2012.05.011 [PMC免费文章] [考研[交叉引用] []
50. Threlfell S,Lalic T,Platt NJ,Jennings KA,Deisseroth K和Cragg SJ 纹状体多巴胺释放由胆碱能中间神经元中的同步活动引发. 神经元 75,58-64(2012).doi:10.1016 / j.neuron.2012.04.038 [考研[交叉引用] []
51. 格雷斯AA 阶段性与强直性多巴胺释放和多巴胺系统响应性的调节:精神分裂症病因学的假设. 神经 41,1-24(1991)。 [考研] []
52. Moyer JT,Wolf JA和Finkel LH 多巴胺能调节对腹侧纹状体多刺神经元整合特性的影响. J神经生理学 98,3731-48(2007)。 [考研] []
53. Jędrzejewska-Szmek J,Damodaran S,Dorman DB和Blackwell KT 钙动力学预测纹状体多刺投射神经元中突触可塑性的方向. EUR神经科学杂志 45, 1044–1056 (2017).doi:10.1111/ejn.13287 [PMC免费文章] [考研[交叉引用] []
54. Morris G,Arkadir D,Nevet A,Vaadia E和Bergman H. 中脑多巴胺和纹状体活跃神经元的重合但不同的信息. 神经元 43,133-43(2004)。 [考研] []
55. Brown MT,Tan KR,O'Connor EC,Nikonenko I,Muller D和LüscherC 腹侧被盖区GABA预测暂停累积胆碱能中间神经元以增强联想学习. 自然 (2012).doi:10.1038 / nature11657 [考研[交叉引用] []
56. Yamanaka K,Hori Y,Minamimoto T,Yamada H,Matsumoto N,Enomoto K,Aosaki T,Graybiel AM和Kimura M 背景纹状体中丘脑和丘脑中间神经元的中心体束旁核在环境事件联想学习中的作用. J Neural Transm(维也纳) (2017).doi:10.1007/s00702-017-1713-z [PMC免费文章] [考研[交叉引用] []
57. Shen W,Plotkin JL,Francardo V,Ko WK,Xie Z,Li Q,Fieblinger T,Wess J,Neubig RR,Lindsley CW,Conn PJ,Greengard P,Bezard E,Cenci MA和Surmeier DJ M4毒蕈碱受体信号改善L-DOPA诱导的运动障碍模型中的纹状体可塑性缺陷. 神经元 88, 762–73 (2015).doi:10.1016/j.neuron.2015.10.039 [PMC免费文章] [考研[交叉引用] []
58. Nair AG,Gutierrez-Arenas O,Eriksson O,Vincent P和Hellgren Kotaleski J 在直接和间接途径纹状体中型多刺神经元中通过腺苷酸环化酶偶联的GPCR感知阳性与阴性奖赏信号. 神经科学杂志 35, 14017–30 (2015).doi:10.1523/JNEUROSCI.0730-15.2015 [PMC免费文章] [考研[交叉引用] []
59. Stocco A. 基于乙酰胆碱的响应选择熵:纹状体中间神经元如何调节决策中的探索,利用和反应变异性的模型. 神经科学的前沿 6(2012)。 [PMC免费文章] [考研] []
60. Franklin NT和Frank MJ 一种胆碱能反馈回路,用于调节纹状体种群的不确定性并优化强化学习. e生活 4,(2015).doi:10.7554 / eLife.12029 [PMC免费文章] [考研[交叉引用] []
61. Nougaret S和Ravel S. 携带不同力量和奖励信息的事件调节猴纹状体的活跃神经元. 神经科学杂志 35,15214-26(2015).doi:10.1523 / JNEUROSCI.0039-15.2015 [考研[交叉引用] []
62. 舒尔茨W 多巴胺神经元的预测性奖励信号. J神经生理学 80,1-27(1998)。 [考研] []
63. Lammel S,Hetzel A,HäckelO,Jones I,Liss B和Roeper J. 双中脑皮质边缘多巴胺系统中中脑神经元的独特性质. 神经元 57,760-73(2008).doi:10.1016 / j.neuron.2008.01.022 [考研[交叉引用] []
64. Poulin JF,Zou J,Drouin-Ouellet J,Kim KY,Cicchetti F和Awatramani RB 通过单细胞基因表达谱定义中脑多巴胺能神经元多样性. 细胞代表 9, 930–43 (2014).doi:10.1016/j.celrep.2014.10.008 [PMC免费文章] [考研[交叉引用] []
65. Morales M和Margolis EB 腹侧被盖区:细胞异质性,连通性和行为. Nat Rev Neurosci 18,73-85(2017).doi:10.1038 / nrn.2016.165 [考研[交叉引用] []
66. Matsumoto M和Hikosaka O. 两种类型的多巴胺神经元明显地传达正面和负面的动机信号. 自然 459,837-41(2009).doi:nature08028 [pii] 10.1038 / nature08028 [PMC免费文章] [考研[交叉引用] []
67. Pasquereau B和Turner RS 多巴胺神经元编码预测运动触发发生的错误. 神经生理学杂志 113, 1110–1123 (2014).doi:10.1152/jn.00401.2014 [PMC免费文章] [考研[交叉引用] []
68. Redgrave P,Prescott TJ和Gurney K. 短潜伏期多巴胺反应是否太短而不能发出信号奖励错误? 趋势神经科学 22,146-51(1999)。 [考研] []
69. Bromberg-Martin ES,Matsumoto M和Hikosaka O. 多巴胺在激励控制中:奖励,厌恶和警觉. 神经元 68, 815–34 (2010).doi:10.1016/j.neuron.2010.11.022 [PMC免费文章] [考研[交叉引用] []
70. Dodson PD,Dreyer JK,Jennings KA,Syed EC,Wade-Martins R,Cragg SJ,Bolam JP和Magill PJ 多巴胺能神经元的自发运动的表示是细胞类型选择性的并且在帕金森病中被破坏. PROC NATL美国科学院学报 113, E2180–8 (2016).doi:10.1073/pnas.1515941113 [PMC免费文章] [考研[交叉引用] []
71. Lerner TN,Shilyansky C,Davidson TJ,Evans KE,Beier KT,Zalocusky KA,Crow AK,Malenka RC,Luo L,Tomer R和Deisseroth K 完整脑分析显示SNc多巴胺子电路携带的独特信息. 手机 162, 635–47 (2015).doi:10.1016/j.cell.2015.07.014 [PMC免费文章] [考研[交叉引用] []
72. Parker NF,Cameron CM,Taliaferro JP,Lee J,Choi JY,Davidson TJ,Daw ND和Witten IB 中脑多巴胺神经元末端的奖赏和选择编码取决于纹状体靶标. Nat Neurosci (2016).doi:10.1038 / nn.4287 [PMC免费文章] [考研[交叉引用] []
73. Kim CK,Yang SJ,Pichamoorthy N,Young NP,Kauvar I,Jennings JH,Lerner TN,Berndt A,Lee SY,Ramakrishnan C,Davidson TJ,Inoue M,Bito H和Deisseroth K 同时快速测量哺乳动物大脑多个部位的电路动态. 自然方法 13, 325–328 (2016).doi:10.1038/nmeth.3770 [PMC免费文章] [考研[交叉引用] []
74. Menegas W,Babayan BM,Uchida N和Watabe-Uchida M. 对小鼠腹侧和后侧纹状体中多巴胺信号传导的新线索进行相反的初始化. 网上生活 6,(2017).doi:10.7554 / eLife.21886 [PMC免费文章] [考研[交叉引用] []
75. Brown HD,McCutcheon JE,Cone JJ,Ragozzino ME和Roitman MF 主要食物奖励和奖励预测刺激引起整个纹状体中不同的多相多巴胺信号传导模式. 神经科学的欧洲杂志 34, 1997–2006 (2011).doi:10.1111/j.1460-9568.2011.07914.x [PMC免费文章] [考研[交叉引用] []
76. Knutson B和Greer SM 预期影响:神经相关和选择的后果. Philos Trans R Soc Lond B Biol Sci 363, 3771–86 (2008).doi:10.1098/rstb.2008.0155 [PMC免费文章] [考研[交叉引用] []
77. Bartra O,McGuire JT和Kable JW 评估系统:基于坐标的BOLD fMRI实验的荟萃分析,检查主观价值的神经相关性. 影像学 76, 412–27 (2013).doi:10.1016/j.neuroimage.2013.02.063 [PMC免费文章] [考研[交叉引用] []
78. Ferenczi EA,Zalocusky KA,Liston C,Grosenick L,Warden MR,Amatya D,Katovich K,Mehta H,Patenaude B,Ramakrishnan C,Kalanithi P,Etkin A,Knutson B,Glover GH和Deisseroth K 前额皮质调节全脑电路动态和奖励相关的行为. 科学 351,aac9698(2016).doi:10.1126 / science.aac9698 [PMC免费文章] [考研[交叉引用] []
79. Bertran-Gonzalez J,Bosch C,Maroteaux M,Matamales M,HervéD,Valjent E和Girault JA 反应可卡因和氟哌啶醇的多巴胺D1和D2受体表达纹状体神经元中信号激活的反对模式. 神经科学杂志 28,5671-85(2008).doi:10.1523 / JNEUROSCI.1039-08.2008 [考研[交叉引用] []
80. Redgrave P,Prescott TJ和Gurney K. 基底神经节:选择问题的脊椎动物解决方案? 神经 89,1009-23(1999)。 [考研] []
81. Beeler JA,Frazier CR和庄X. 将愿望放在预算上:多巴胺和能量消耗,协调奖励和资源. Front Integr Neurosci 6,49(2012).doi:10.3389 / fnint.2012.00049 [PMC免费文章] [考研[交叉引用] []
82. Anderson BA,Kuwabara H,Wong DF,Gean EG,Rahmim A,BrašićJR,George N,Frolov B,Courtney SM和Yantis S 多巴胺在基于价值的注意力取向中的作用. Curr Biol 26, 550–5 (2016).doi:10.1016/j.cub.2015.12.062 [PMC免费文章] [考研[交叉引用] []
83. Chatham CH,Frank MJ和Badre D. 从工作记忆中选择时皮质纹状体输出门控. 神经元 81, 930–42 (2014).doi:10.1016/j.neuron.2014.01.002 [PMC免费文章] [考研[交叉引用] []
84. Shenhav A,Botvinick MM和Cohen JD 控制的预期值:前扣带皮层功能的综合理论. 神经元 79, 217–40 (2013).doi:10.1016/j.neuron.2013.07.007 [PMC免费文章] [考研[交叉引用] []
85. Aarts E,Roelofs A,Franke B,Rijpkema M,FernándezG,Helmich RC和Cools R 纹状体多巴胺介导人类动机和认知控制之间的界面:来自遗传成像的证据. 神经精神药理学 35, 1943–51 (2010).doi:10.1038/npp.2010.68 [PMC免费文章] [考研[交叉引用] []
86. Westbrook A和Braver TS 多巴胺在激发认知努力方面具有双重作用. 神经元 89, 695–710 (2016).doi:10.1016/j.neuron.2015.12.029 [PMC免费文章] [考研[交叉引用] []
87. Manohar SG,Chong TT,Apps MA,Batla A,Stamelou M,Jarman PR,Bhatia KP和Husain M 奖励支付运动和认知控制中的降噪成本. Curr Biol 25, 1707–16 (2015).doi:10.1016/j.cub.2015.05.038 [PMC免费文章] [考研[交叉引用] []
88. Wunderlich K,Smittenaar P和Dolan RJ 多巴胺增强基于模型的无模型选择行为. 神经元 75, 418–24 (2012).doi:10.1016/j.neuron.2012.03.042 [PMC免费文章] [考研[交叉引用] []
89. Nicola SM 灵活的方法假设:努力的统一和对伏核多巴胺在激励寻求奖励行为中的作用的线索 - 响应假设. 神经科学杂志 30, 16585–600 (2010).doi:10.1523/JNEUROSCI.3958-10.2010 [PMC免费文章] [考研[交叉引用] []
90. Eban-Rothschild A,Rothschild G,Giardino WJ,Jones JR和de Lecea L. VTA多巴胺能神经元调节与伦理学相关的睡眠 - 觉醒行为. Nat Neurosci (2016).doi:10.1038 / nn.4377 [PMC免费文章] [考研[交叉引用] []
91. Haber SN,Fudge JL和McFarland NR 灵长类动物的纹状体纹状体通路形成从壳到背外侧纹状体的上升螺旋. 神经科学杂志 20,2369-82(2000)。 [考研] []
92. Reddi BAJ和Carpenter RHS 紧迫性对决策时间的影响. 自然神经科学 3,827(2000)。 [考研] []
93. Thura D和Cisek P. 基础神经节不会选择达到目标但控制承诺的紧迫性. 神经元 (2017).doi:10.1016 / j.neuron.2017.07.039 [考研[交叉引用] []
94. 特纳RS和Desmurget M. 基底神经节对运动控制的贡献:一个有活力的导师. Curr Opin Neurobiol 20, 704–16 (2010).doi:10.1016/j.conb.2010.08.022 [PMC免费文章] [考研[交叉引用] []
95. Hikosaka O,Nakamura K和Nakahara H. 基底神经节的眼睛要奖励. J神经生理学 95,567-84(2006).doi:10.1152 / jn.00458.2005 [考研[交叉引用] []
96. Kelly PH和Moore KE 黑质纹状体功能旋转模型中的中脑边缘多巴胺能神经元. 自然 263,695-6(1976)。 [考研] []
97. Cousins MS,Atherton A,Turner L和Salamone JD 伏隔核多巴胺消耗改变了T迷宫成本/收益任务中的相对响应分配. Behav Brain Res 74,189-97。 (1996)。 [考研] []
98. 红色广告 替代试验和错误. Nat Rev Neurosci 17, 147–59 (2016).doi:10.1038/nrn.2015.30 [PMC免费文章] [考研[交叉引用] []
99. Rabinovich MI,Huerta R,Varona P和Afraimovich VS. 瞬态认知动力学,亚稳态和决策. PLoS Comput Biol 4,e1000072(2008).doi:10.1371 / journal.pcbi.1000072 [PMC免费文章] [考研[交叉引用] []
100. 商人H,Harrington DL和Meck WH 神经基础的感知和时间估计. Annu Rev Neurosci 36,313-36(2013).doi:10.1146 / annurev-neuro-062012-170349 [考研[交叉引用] []