Dopamina no controle motivacional: gratificante, aversivo e alerta (2010)

Neurônio Manuscrito do autor; disponível no PMC Dec 9, 2011.

Publicado na forma final editada como:

PMCID: PMC3032992

NIHMSID: NIHMS253484

Veja outros artigos no PMC que citar o artigo publicado.

Ir para:

RESUMO

Os neurônios dopaminérgicos mesencefálicos são bem conhecidos por suas fortes respostas às recompensas e seu papel crítico na motivação positiva. Tornou-se cada vez mais claro, no entanto, que os neurônios da dopamina também transmitem sinais relacionados a experiências salientes, mas não recompensadoras, como eventos aversivos e de alerta. Aqui nós revisamos os recentes avanços na compreensão das funções de recompensa e não-recompensa da dopamina. Com base nesses dados, propomos que os neurônios dopaminérgicos são de vários tipos que estão conectados com redes cerebrais distintas e têm papéis distintos no controle motivacional. Alguns neurônios dopaminérgicos codificam valores motivacionais, apoiando redes cerebrais para busca, avaliação e valorização da aprendizagem. Outros codificam a saliência motivacional, apoiando redes cerebrais para orientação, cognição e motivação geral. Ambos os tipos de neurônios dopaminérgicos são aumentados por um sinal de alerta envolvido na detecção rápida de sinais sensoriais potencialmente importantes. Nossa hipótese é que essas vias dopaminérgicas de valor, saliência e alerta cooperam para apoiar o comportamento adaptativo.

Introdução

O neurotransmissor dopamina (DA) tem um papel crucial no controle motivacional - em aprender o que as coisas no mundo são boas e ruins, e na escolha de ações para ganhar as coisas boas e evitar as coisas ruins. As principais fontes de DA no córtex cerebral e na maioria das áreas subcorticais são os neurônios liberadores de DA do mesencéfalo ventral, localizados na substantia nigra pars compacta (SNc) e na área tegmentar ventral (VTA) (Bjorklund e Dunnett, 2007). Esses neurônios transmitem DA em dois modos, 'tônica' e 'fásica' (Grace, 1991; Grace et al., 2007). Em seu modo tônico, os neurônios DA mantêm um nível de linha de base estável de DA nas estruturas neurais a jusante que é vital para permitir as funções normais dos circuitos neurais (Schultz, 2007). No seu modo fásico, os neurónios DA aumentam ou diminuem drasticamente as suas taxas de disparo para 100-500 em milissegundos, causando grandes alterações nas concentrações de DA em estruturas a jusante que duram vários segundos (Schultz, 1998; Schultz, 2007).

Estas respostas DA fásicas são desencadeadas por muitos tipos de recompensas e sugestões sensoriais relacionadas à recompensa (Schultz, 1998) e estão idealmente posicionados para cumprir os papéis do DA no controle motivacional, incluindo seu papel como um sinal de ensino que fundamenta a aprendizagem por reforço (Schultz et al., 1997; Sábio, 2005) e como um sinal de incentivo que promove a busca imediata por recompensa (Berridge e Robinson, 1998). Como resultado, esses sinais de recompensa de FA fásica assumiram um papel proeminente nas teorias sobre as funções dos circuitos corticais e subcorticais e tornaram-se objeto de intensa pesquisa em neurociência. Na primeira parte desta revisão, introduziremos a teoria convencional dos sinais de recompensa de DA fásica e revisaremos os avanços recentes na compreensão de sua natureza e seu controle sobre o processamento e comportamento neural.

Em contraste com o papel aceito de DA no processamento de recompensa, tem havido considerável debate sobre o papel da atividade de DA fásica no processamento de eventos não recompensadores. Algumas teorias sugerem que as respostas fásicas de neurônios DA codificam principalmente eventos relacionados à recompensa (Schultz, 1998; Ingênuo, 2004; Schultz, 2007), enquanto outros sugerem que os neurônios DA transmitem sinais adicionais de não recompensa relacionados a experiências surpreendentes, novas, salientes e até mesmo aversivas (Redgrave e outros, 1999; Horvitz, 2000; Di Chiara, 2002; Joseph et al., 2003; Pezze e Feldon, 2004; Lisman e Grace, 2005; Redgrave e Maca, 2006). Na segunda parte desta revisão, discutiremos uma série de estudos que testaram essas teorias e revelaram muito sobre a natureza dos sinais de não recompensa nos neurônios DA. Em particular, esses estudos fornecem evidências de que os neurônios DA são mais diversos do que se pensava anteriormente. Em vez de codificar um único sinal motivacional homogêneo, os neurônios DA vêm em vários tipos que codificam eventos de recompensa e não-recompensa de diferentes maneiras. Isso representa um problema para as teorias gerais que buscam identificar a dopamina com um único sinal neural ou mecanismo motivacional.

Para remediar esse dilema, na parte final desta revisão, propomos uma nova hipótese para explicar a presença de múltiplos tipos de neurônios DA, a natureza de seus sinais neurais e sua integração em redes cerebrais distintas para o controle motivacional. Nossa proposta básica é a seguinte. Um tipo de neurônios DA codifica valor motivacional, animado por recompensar eventos e inibido por eventos aversivos. Esses neurônios suportam sistemas cerebrais para buscar objetivos, avaliar resultados e valorizar a aprendizagem. Um segundo tipo de neurônios DA codifica saliência motivacional, animado por eventos recompensadores e aversivos. Esses neurônios suportam sistemas cerebrais para orientação, processamento cognitivo e motivação. Além do valor e da atividade de codificação de saliência, ambos os tipos de neurônios DA também transmitem sinal de alerta, desencadeada por sinais sensoriais inesperados de grande importância potencial. Juntos, levantamos a hipótese de que esses sinais de valor, saliência e alerta cooperam para coordenar estruturas cerebrais a jusante e controlar o comportamento motivado.

Dopamina na recompensa: teoria convencional

Dopamina na motivação de ações de busca de recompensa

A dopamina é conhecida há muito tempo como importante para o reforço e motivação das ações. Drogas que interferem na transmissão de DA interferem na aprendizagem de reforço, enquanto manipulações que aumentam a transmissão de DA, como a estimulação cerebral e drogas que causam dependência, freqüentemente atuam como reforçadores (Sábio, 2004). A transmissão de AD é crucial para criar um estado de motivação para buscar recompensas (Berridge e Robinson, 1998; Salamone et al., 2007) e para estabelecer memórias de associações de recompensaDalley et al., 2005). O lançamento de DA não é necessário para todas as formas de aprendizado de recompensa e nem sempre pode ser "apreciado" no sentido de causar prazer, mas é fundamental para que os objetivos se tornem "desejados" no sentido de motivar ações para alcançá-los (Berridge e Robinson, 1998; Palmitador, 2008).

Uma hipótese sobre como a dopamina suporta o aprendizado por reforço é que ela ajusta a força das conexões sinápticas entre os neurônios. A versão mais direta dessa hipótese é que a dopamina controla a plasticidade sináptica de acordo com uma regra Hebbian modificada que pode ser descrita de forma grosseira como “neurônios que disparam juntos, desde que tenham uma explosão de dopamina”. Em outras palavras, se a célula A ativa a célula B e a célula B causa uma ação comportamental que resulta em uma recompensa, então a dopamina seria liberada e a conexão A → B seria reforçada (Montague et al., 1996; Schultz, 1998). Esse mecanismo permitiria que um organismo aprendesse a melhor escolha de ações para obter recompensas, considerando-se suficiente experiência de tentativa e erro. Consistente com esta hipótese, a dopamina tem uma influência potente na plasticidade sináptica em várias regiões do cérebro (Surmeier et al., 2010; Goto et al., 2010; Molina-Luna e outros, 2009; Marowsky et al., 2005; Lisman e Grace, 2005). Em alguns casos, a dopamina permite a plasticidade sináptica ao longo das linhas da regra Hebbiana descrita acima, de uma maneira que está correlacionada com o comportamento de busca de recompensa (Reynolds et al., 2001). Além de seus efeitos sobre a plasticidade sináptica de longo prazo, a dopamina também pode exercer controle imediato sobre os circuitos neurais, modulando a atividade neural de spiking e as conexões sinápticas entre os neurônios (Surmeier et al., 2007; Robbins e Arnsten, 2009), em alguns casos, de forma a promover acções imediatas de procura de recompensa (Frank, 2005).

Sinais de recompensa neurônio dopamina

Para motivar ações que conduzam a recompensas, a dopamina deve ser liberada durante experiências recompensadoras. De fato, a maioria dos neurônios DA é fortemente ativada por recompensas primárias inesperadas, como comida e água, freqüentemente produzindo 'explosões' de atividade fásica (Schultz, 1998) (excitações fásicas incluindo múltiplos picos (Grace e Bunney, 1983)). No entanto, os estudos pioneiros de Wolfram Schultz mostraram que estas respostas dos neurónios DA não são desencadeadas pelo consumo de recompensa. per se. Em vez disso, eles se assemelham a um "erro de previsão de recompensa", informando a diferença entre a recompensa recebida e a recompensa prevista (Schultz et al., 1997) (Figura 1A). Assim, se uma recompensa é maior do que o previsto, os neurônios DA são fortemente excitados (erro de previsão positivo, Figura 1E, vermelho); se uma recompensa é menor do que o previsto ou não ocorre no tempo indicado, os neurônios DA são inibidos por fases (erro de previsão negativa, Figura 1Eazul); e se uma recompensa é antecipada para que seu tamanho seja totalmente previsível, os neurônios DA têm pouca ou nenhuma resposta (erro de previsão zero, Figura 1C, Preto). O mesmo princípio vale para as respostas do DA a dicas sensoriais que fornecem novas informações sobre recompensas futuras. Os neurônios DA ficam excitados quando uma sugestão indica um aumento no valor futuro da recompensa (Figura 1C, vermelho), inibido quando uma sugestão indica uma diminuição no valor futuro da recompensa (Figura 1C, azul), e geralmente têm pouca resposta a sugestões que não transmitem nenhuma informação nova recompensa (Figura 1E, Preto). Essas respostas de TA se assemelham a um tipo específico de erro de previsão de recompensa denominado erro de diferença temporal ou “erro TD”, que foi proposto para atuar como um sinal de reforço para o aprendizado do valor de ações e estados ambientais (Houk et al., 1995; Montague et al., 1996; Schultz et al., 1997). Modelos computacionais usando um sinal de reforço tipo TD podem explicar muitos aspectos da aprendizagem de reforço em humanos, animais e os próprios neurônios DA (Sutton e Barto, 1981; Waelti et al., 2001; Montague e Berns, 2002; Dayan e Niv, 2008).

Figura 1 

Codificação de dopamina de erros de previsão de recompensa e preferência por informação preditiva

Uma série impressionante de experimentos mostrou que os sinais DA representam previsões de recompensa de uma maneira que combina com as preferências comportamentais, incluindo a preferência por grandes recompensas sobre as pequenas (Tobler e outros, 2005) prováveis ​​recompensas sobre os improváveis ​​(Fiorillo et al., 2003; Satoh et al., 2003; Morris et al., 2004) e recompensas imediatas sobre os atrasados ​​(Roesch e outros, 2007; Fiorillo et al., 2008; Kobayashi e Schultz, 2008). Existe até evidência de que os neurónios DA em humanos codificam o valor de recompensa do dinheiro (Zaghloul et al., 2009). Além disso, os sinais DA surgem durante a aprendizagem com um tempo similar às medidas comportamentais de previsão de recompensa (Hollerman e Schultz, 1998; Satoh et al., 2003; Takikawa et al., 2004; Day et al., 2007) e estão correlacionados com medidas subjetivas de preferência de recompensa (Morris et al., 2006). Essas descobertas estabeleceram os neurônios DA como um dos exemplos mais bem compreendidos e replicados de codificação de recompensa no cérebro. Como resultado, estudos recentes submeteram os neurônios da DA a um intenso escrutínio para descobrir como eles geram previsões de recompensa e como seus sinais atuam nas estruturas a jusante para controlar o comportamento.

Dopamina na recompensa: avanços recentes

Sinais de recompensa neurônio dopamina

Avanços recentes no entendimento dos sinais de recompensa da DA vêm de considerar três questões amplas: Como os neurônios DA aprendem previsões de recompensa? Quão precisas são as suas previsões? E o que eles consideram gratificante?

Como os neurônios DA aprendem previsões de recompensa? As teorias clássicas sugerem que as previsões de recompensa são aprendidas através de um processo gradual de reforço que requer pares repetitivos de estímulo-recompensa (Rescorla e Wagner, 1972; Montague et al., 1996). Cada vez que o estímulo A é seguido por uma recompensa inesperada, o valor estimado de A é aumentado. Dados recentes, no entanto, mostram que os neurônios DA vão além do simples aprendizado de recompensa-estímulo e fazem previsões baseadas em crenças sofisticadas sobre a estrutura do mundo. Os neurônios DA podem prever recompensas corretamente mesmo em ambientes não convencionais, onde recompensas emparelhadas com um estímulo causam diminuir no valor desse estímulo (Satoh et al., 2003; Nakahara et al., 2004; Bromberg-Martin et al., 2010c) ou causar uma alteração no valor de um estímulo completamente diferente (Bromberg-Martin et al., 2010b). Os neurônios DA também podem adaptar seus sinais de recompensa baseados em estatísticas de ordem mais alta da distribuição de recompensa, como sinais de erro de previsão de escala com base na variação esperada (Tobler e outros, 2005) e 'recuperar espontaneamente' suas respostas a pistas de recompensa extintas (Pan et al., 2008). Todos esses fenômenos formam um notável paralelo aos efeitos similares observados na adaptação sensorial e motora (Braun et al., 2010; Fairhall et al., 2001; Shadmehr et al., 2010), sugerindo que eles podem refletir um mecanismo neural geral para a aprendizagem preditiva.

Quão precisas são as previsões de recompensa da DA? Estudos recentes mostraram que os neurônios DA ajustam fielmente seus sinais de recompensa para responder por três fontes de incerteza de previsão. Em primeiro lugar, os seres humanos e os animais sofrem com o ruído interno de tempo que os impede de fazer previsões confiáveis ​​sobre intervalos de tempo longos de recompensa de sugestões (Gallistel e Gibbon, 2000). Assim, se os atrasos de recompensa por sugestão forem curtos (1 – 2 segundos), as previsões de tempo são precisas e a entrega de recompensa dispara pouca resposta de DA, mas para atrasos de recompensa de sugestão mais longos, as previsões de tempo se tornam menos confiáveis ​​e recompensas evocam bursts de DA claros (Kobayashi e Schultz, 2008; Fiorillo et al., 2008). Em segundo lugar, muitas sugestões na vida cotidiana são imprecisas, especificando uma ampla distribuição de prazos de entrega de recompensas. Os neurônios DA novamente refletem essa forma de incerteza de tempo: eles são progressivamente inibidos durante atrasos de recompensa variável, como se sinalizassem erros de previsão de recompensa cada vez mais negativos a cada momento em que a recompensa falha em aparecer (Fiorillo et al., 2008; Bromberg-Martin e outros, 2010a; Nomoto et al., 2010). Por fim, muitas pistas são perceptivelmente complexas, exigindo uma inspeção detalhada para se chegar a uma conclusão firme sobre seu valor de recompensa. Em tais situações, os sinais de recompensa do DA ocorrem em latências longas e de forma gradual, parecendo refletir o fluxo gradual da informação perceptiva à medida que o valor do estímulo é decodificado (Nomoto et al., 2010).

Quais são os eventos que os neurônios DA tratam como recompensadores? Teorias convencionais de aprendizagem de recompensa sugerem que os neurônios DA atribuem valor com base na quantidade esperada de recompensa primária futura (Montague et al., 1996). No entanto, mesmo quando a taxa de recompensa primária é mantida constante, os seres humanos e os animais muitas vezes expressam uma preferência adicional por ambientes de previsibilidade - em que o tamanho, a probabilidade e o tempo de cada recompensa podem ser conhecidos antecipadamente (Daly, 1992; Chew e Ho, 1994; Ahlbrecht e Weber, 1996). Um estudo recente em macacos descobriu que os neurónios DA sinalizam essa preferência (Bromberg-Martin e Hikosaka, 2009). Os macacos expressaram uma forte preferência em ver pistas visuais informativas que lhes permitissem prever o tamanho de uma recompensa futura, em vez de sugestões não informativas que não forneciam novas informações. Paralelamente, os neurônios DA ficaram excitados com a oportunidade de ver as pistas informativas de uma maneira que estava correlacionada com a preferência comportamental do animal (Figura 1B, D). Isso sugere que os neurônios DA não apenas motivam ações para ganhar recompensas, mas também motivam ações para fazer previsões precisas sobre essas recompensas, a fim de garantir que as recompensas possam ser antecipadas e preparadas com antecedência.

Em conjunto, esses resultados mostram que os sinais de erro de previsão de recompensa do DA são sensíveis a fatores sofisticados que informam as previsões de recompensas humanas e animais, incluindo a adaptação a estatísticas de recompensa de alta ordem, incerteza de recompensa e preferências por informações preditivas.

Efeitos dos sinais de recompensa de dopamina em fases nas estruturas a jusante

As respostas de recompensa DA ocorrem em rajadas fásicas síncronas (Joshua et al., 2009b), um padrão de resposta que forma a liberação DA em estruturas de destino (Gonon, 1988; Zhang et al., 2009; Tsai e outros, 2009). Há muito se teoriza que essas explosões fásicas influenciem o aprendizado e a motivação de maneira distinta da atividade tônica do DA (Grace, 1991; Grace et al., 2007; Schultz, 2007; Lapish et al., 2007). A tecnologia recentemente desenvolvida tornou possível confirmar essa hipótese controlando a atividade dos neurônios DA com precisão espacial e temporal. A estimulação optogenética dos neurónios VTA DA induz uma forte preferência de lugar condicionado que só ocorre quando a estimulação é aplicada num padrão de rebentamento (Tsai e outros, 2009). Por outro lado, o nocaute genético dos receptores NMDA dos neurônios DA, o que prejudica o estouro, ao mesmo tempo em que deixa a atividade tônica praticamente intacta, causa um prejuízo seletivo em formas específicas de aprendizagem de recompensa (Zweifel et al., 2009; Parker e outros, 2010) (embora note que este nocaute também prejudica a plasticidade sináptica dos neurónios DA (Zweifel et al., 2008)). Explosões de DA podem melhorar a aprendizagem de recompensas reconfigurando os circuitos neurais locais. Notavelmente, surtos de DA preditivos de recompensa são enviados para regiões específicas do nucleus accumbens, e essas regiões têm níveis especialmente altos de atividade neural preditiva de recompensa (Cheer et al., 2007; Owesson-White e outros, 2009).

Em comparação com as explosões fásicas, menos se sabe sobre a importância de pausas fásicas na atividade de pico para erros de previsão de recompensa negativos. Estas pausas causam mudanças menores na taxa de pico, são menos moduladas pela expectativa de recompensa (Bayer e Glimcher, 2005; Joshua et al., 2009a; Nomoto et al., 2010), e pode ter efeitos menores na aprendizagem (Rutledge et al., 2009). No entanto, certos tipos de aprendizagem de erro de previsão negativa exigem o VTA (Takahashi et al., 2009), sugerindo que pausas fásicas ainda podem ser decodificadas pelas estruturas a jusante.

Desde explosões e pausas causam padrões muito diferentes de liberação DA, eles são susceptíveis de influenciar as estruturas a jusante através de mecanismos distintos. Há evidências recentes para essa hipótese em um dos principais alvos dos neurônios DA, o estriado dorsal. Os neurônios de projeção do estriado dorsal vêm em dois tipos que expressam diferentes receptores DA. Um tipo expressa os receptores D1 e projeta-se para o caminho direto dos gânglios da base para facilitar os movimentos do corpo; o segundo tipo expressa os receptores D2 e projeta o "caminho indireto" para suprimir os movimentos do corpo (Figura 2) (Albin et al., 1989; Gerfen et al., 1990; Kravitz et al., 2010; Hikida et al., 2010). Com base nas propriedades dessas vias e receptores, teorizou-se que as explosões de DA produzem condições de DA alto, ativam os receptores D1 e fazem com que a via direta selecione movimentos de alto valor (Figura 2A), enquanto as pausas DA produzem condições de baixo DA, inibem os receptores D2 e fazem com que a via indireta suprima os movimentos de baixo valor (Figura 2B) (Frank, 2005; Hikosaka, 2007). Consistente com essa hipótese, a ativação do receptor DA promove a potencialização das sinapses córtico-estriatais na via direta (Shen et al., 2008) e aprender com resultados positivos (Frank et al., 2004; Voon et al., 2010), enquanto o bloqueio dos receptores D1 do estriado afecta selectivamente os movimentos dos alvos recompensados ​​(Nakamura e Hikosaka, 2006). De uma maneira análoga, a ativação baixa do receptor DA promove a potencialização das sinapses córtico-estriatais na via indireta (Shen et al., 2008) e aprender com resultados negativos (Frank et al., 2004; Voon et al., 2010), enquanto o bloqueio dos receptores D2 do estriado suprime seletivamente os movimentos dos alvos não recompensados ​​(Nakamura e Hikosaka, 2006). Esta divisão das funções do receptor D1 e D2 no controle motivacional explica muitos dos efeitos dos genes relacionados ao DA no comportamento humano (Ullsperger, 2010; Frank e Fossella, 2010) e pode se estender além do estriado dorsal, pois há evidências de uma divisão similar do trabalho de parto no estriado ventral (Grace et al., 2007; Lobo et al., 2010).

Figura 2 

Controle de dopamina de motivação positiva e negativa no estriado dorsal

Embora o esquema acima mostre uma imagem simples do controle de comportamento fásico por seus efeitos no estriado, o quadro completo é muito mais complexo. A DA influencia o comportamento relacionado à recompensa, agindo em muitas regiões do cérebro, incluindo o córtex pré-frontal (Hitchcott e outros, 2007), córtex do rimLiu et al., 2004), hipocampo (Packard e Branco, 1991; Grecksch e Matties, 1981) e amígdala (Phillips e outros, 2010). É provável que os efeitos de DA difiram amplamente entre essas regiões devido a variações na densidade de inervação de DA, transportadores de DA, enzimas metabólicas, autoreceptores, receptores e acoplamento de receptores a vias de sinalização intracelular (Neve et al., 2004; Bentivoglio e Morelli, 2005; Frank e Fossella, 2010). Além disso, pelo menos no VTA, os neurônios DA podem ter propriedades celulares diferentes, dependendo de suas metas de projeção (Lammel et al., 2008; Margolis e outros, 2008), e alguns têm a notável capacidade de transmitir glutamato e dopamina (Descarries et al., 2008; Chuhma et al., 2009; Hnasko et al., 2010; Tecuapetla et al., 2010; Stuber et al., 2010; Birgner e outros, 2010). Assim, a extensão total do controle de neurônios DA sobre o processamento neural está apenas começando a ser revelada.

Dopamina: além da recompensa

Até agora, discutimos o papel dos neurônios DA no comportamento relacionado à recompensa, baseado em respostas de dopamina que se assemelham a erros de previsão de recompensa. Tornou-se cada vez mais claro, no entanto, que os neurónios DA respondem de forma fasica a vários tipos de eventos que não são intrinsecamente gratificantes e não são sinais de recompensas futuras, e que esses sinais de não recompensa desempenham um papel importante no processamento motivacional. Estes eventos sem recompensa podem ser agrupados em duas grandes categorias, aversivo e alertando, que discutiremos em detalhes abaixo. Eventos aversivos incluem estímulos intrinsecamente indesejáveis ​​(como sopros de ar, sabores amargos, choques elétricos e outras sensações desagradáveis) e sinais sensoriais que ganharam propriedades aversivas através da associação com esses eventos. Eventos de alerta são sinais sensoriais inesperados de grande importância potencial, que geralmente provocam reações imediatas para determinar seu significado.

Diversas respostas de dopamina a eventos aversivos

A resposta de um neurônio a eventos aversivos fornece um teste crucial de suas funções no controle motivacional (Schultz, 1998; Berridge e Robinson, 1998; Redgrave e outros, 1999; Horvitz, 2000; Joseph et al., 2003). Em muitos aspectos, tratamos eventos recompensadores e aversivos de maneiras opostas, refletindo seu oposto valor motivacional. Buscamos recompensas e lhes atribuímos valor positivo, enquanto evitamos eventos aversivos e os atribuímos valor negativo. Em outros aspectos, tratamos eventos gratificantes e aversivos de maneiras semelhantes, refletindo saliência motivacional [FOOTNOTE1]. Ambos os eventos recompensadores e aversivos desencadeiam a orientação da atenção, o processamento cognitivo e aumentam a motivação geral.

Quais destas funções os neurônios DA suportam? Há muito se sabe que as experiências estressantes e aversivas causam grandes mudanças nas concentrações de DA nas estruturas cerebrais a jusante, e que as reações comportamentais a essas experiências são dramaticamente alteradas pelos agonistas, antagonistas e lesões de DA (Salamone, 1994; Di Chiara, 2002; Pezze e Feldon, 2004; Young et al., 2005). Esses estudos produziram uma diversidade impressionante de resultados, no entanto (Levita et al., 2002; Di Chiara, 2002; Young et al., 2005). Muitos estudos são consistentes com os neurônios DA codificando a saliência motivacional. Eles relatam que os eventos aversivos aumentam os níveis de DA e que a aversão comportamental é suportada pelos altos níveis de transmissão de DA (Salamone, 1994; Joseph et al., 2003; Ventura et al., 2007; Barr et ai., 2009; Fadok et al., 2009) incluindo explosões de DA fásicas (Zweifel et al., 2009). Mas outros estudos são mais consistentes com os neurônios DA que codificam valores motivacionais. Eles relatam que eventos aversivos reduzem os níveis de DA e que a aversão comportamental é suportada por baixos níveis de transmissão de DA (Mark et al., 1991; Shippenberg et al., 1991; Liu et al., 2008; Roitman et al., 2008). Em muitos casos, esses resultados mistos foram encontrados em estudos isolados, indicando que experiências aversivas causam diferentes padrões de liberação de DA em diferentes estruturas cerebrais (Thierry e outros, 1976; Besson e Louilot, 1995; Ventura et al., 2001; Jeanblanc et al., 2002; Bassareo et al., 2002; Pascucci et al., 2007), e que os medicamentos relacionados ao DA podem produzir uma mistura de efeitos neurais e comportamentais similares àqueles causados ​​por experiências recompensadoras e aversivas (Ettenberg, 2004; Wheeler e outros, 2008).

Essa diversidade de padrões e funções de liberação de DA é difícil de conciliar com a idéia de que os neurônios DA transmitem um sinal motivacional uniforme para todas as estruturas cerebrais. Estas respostas diversas poderiam ser explicadas, no entanto, se os neurónios DA forem eles próprios diversos - compostos por múltiplas populações neurais que suportam diferentes aspectos do processamento aversivo. Essa visão é apoiada por estudos de registro neural em animais anestesiados. Estes estudos mostraram que os estímulos nocivos evocam a excitação em alguns neurónios DA, mas a inibição em outros neurónios DA (Chiodo et al., 1980; Maeda e Mogenson, 1982; Schultz e Romo, 1987; Mantz et al., 1989; Gao e outros, 1990; Coizet e outros, 2006). É importante ressaltar que tanto as respostas excitatórias quanto as inibitórias ocorrem em neurônios confirmados como dopaminérgicos usando marcação justa-celular (Brischoux et al., 2009) (Figura 3). Uma diversidade semelhante de respostas aversivas ocorre durante o comportamento ativo. Diferentes grupos de neurônios DA são fasicamente excitados ou inibidos por eventos aversivos, incluindo estimulação nociva da pele (Kiyatkin, 1988a; Kiyatkin, 1988b), pistas sensoriais prevendo choques aversivos (Guarraci e Kapp, 1999airpuffs aversivos (Matsumoto e Hikosaka, 2009b), e pistas sensoriais prevendo airpuffs aversivos (Matsumoto e Hikosaka, 2009b; Joshua et al., 2009a). Além disso, quando dois neurônios DA são registrados simultaneamente, suas respostas aversivas geralmente têm pouca correlação de tentativa para tentativa entre si (Joshua et al., 2009b), sugerindo que as respostas aversivas não são coordenadas em toda a população do DA como um todo.

Figura 3 

Diversas respostas de neurônios dopaminérgicos a eventos aversivos

Para entender as funções dessas diversas respostas aversivas, precisamos saber como elas são combinadas com respostas de recompensa para gerar um sinal motivacional significativo. Um estudo recente investigou esse tópico e revelou que os neurônios DA são divididos em múltiplas populações com sinais motivacionais distintos (Matsumoto e Hikosaka, 2009b). Uma população é animada por eventos recompensadores e inibida por eventos aversivos, como se codificasse valor motivacional (Figura 4A). Uma segunda população é animada por eventos recompensadores e aversivos de maneiras semelhantes, como se codificassem saliência motivacional (Figura 4B). Em ambas as populações, muitos neurônios são sensíveis a recompensas e previsões aversivas: eles respondem quando os eventos de recompensa são mais recompensadores do que o previsto e quando os eventos aversivos são mais aversivos do que o previsto (Matsumoto e Hikosaka, 2009b). Isso mostra que suas respostas aversivas são realmente causadas por previsões sobre eventos aversivos, excluindo a possibilidade de que elas possam ser causadas por fatores não específicos, como informações sensoriais brutas ou associações generalizadas com recompensa (Schultz, 2010). Essas duas populações diferem, no entanto, na natureza detalhada de seu código preditivo. Codificação de valor motivacional Os neurônios DA codificam um sinal de erro de predição preciso, incluindo forte inibição por omissão de recompensas e excitação moderada por omissão de eventos aversivos (Figura 4A, certo). Em contraste, os neurônios DA de codificação de saliência motivacional respondem quando eventos salientes estão presentes, mas não quando estão ausentes (Figura 4B, à direita), consistente com noções teóricas de excitação (Lang e Davis, 2006) [FOOTNOTE2]. A evidência para estas duas populações de neurônios DA foi observada mesmo quando a atividade neural foi examinada de uma maneira média. Assim, estudos visando diferentes partes do sistema DA encontraram sinais DA fásicos que codificam eventos aversivos com inibição (Roitman et al., 2008), semelhante à codificação de valor motivacional, ou com excitação (Joshua et al., 2008; Anstrom et al., 2009), semelhante à codificação da saliência motivacional.

Figura 4 

Populações distintas de neurônios dopaminérgicos que codificam valor e saliência motivacionais

Essas descobertas recentes podem parecer contradizer um relato inicial de que os neurônios DA respondem preferencialmente a dicas de recompensa em vez de dicas aversivas (Mirenowicz e Schultz, 1996) Quando examinado de perto, no entanto, mesmo esse estudo é totalmente consistente com o valor DA e a codificação de relevância. Nesse estudo, as dicas de recompensa levaram a resultados de recompensa com alta probabilidade (> 90%), enquanto as dicas aversivas levaram a resultados aversivos com baixa probabilidade (<10%). Conseqüentemente, os neurônios DA codificadores de valor e saliência teriam pouca resposta às pistas aversivas, codificando com precisão seu baixo nível de aversividade.

Papel funcional dos sinais motivacionais de valor e saliência

Em conjunto, os resultados acima indicam que os neurônios DA são divididos em múltiplas populações adequadas para papéis distintos no controle motivacional. Os neurônios DA codificadores do valor motivacional se encaixam bem com as teorias atuais dos neurônios dopaminérgicos e o processamento de recompensas (Schultz et al., 1997; Berridge e Robinson, 1998; Sábio, 2004). Esses neurônios codificam um sinal de erro de previsão completo e codificam eventos recompensadores e aversivos em direções opostas. Assim, esses neurônios fornecem um sinal instrutivo apropriado para buscar, avaliar e valorizar a aprendizagem (Figura 5). Se um estímulo faz com que os neurônios DA codificadores de valor sejam excitados, devemos abordá-lo, atribuir-lhe valor elevado e aprender ações para buscá-lo novamente no futuro. Se um estímulo faz com que o valor que codifica os neurônios DA seja inibido, devemos evitá-lo, atribuir-lhe valor baixo e aprender ações para evitá-lo novamente no futuro.

Figura 5 

Funções hipotéticas de valor motivacional, saliência e sinais de alerta

Em contraste, os neurônios DA de codificação de saliência motivacional se encaixam bem com teorias de neurônios de dopamina e processamento de eventos salientes (Redgrave e outros, 1999; Horvitz, 2000; Joseph et al., 2003; Kapur, 2003). Esses neurônios são excitados por eventos recompensadores e aversivos e têm respostas mais fracas a eventos neutros, fornecendo um sinal instrutivo apropriado para circuitos neurais para aprender a detectar, prever e responder a situações de alta importância. Aqui vamos considerar três desses sistemas cerebrais (Figura 5). Primeiro, os circuitos neurais para orientação visual e de atenção são calibrados para descobrir informações sobre todos os tipos de eventos, tanto recompensadores quanto aversivos. Por exemplo, tanto a recompensa quanto as pistas aversivas atraem reações de orientação de forma mais eficaz do que as pistas neutras (Lang e Davis, 2006; Matsumoto e Hikosaka, 2009b; Austin e Duka, 2010) Em segundo lugar, ambas as situações gratificantes e aversivas envolvem sistemas neurais para controle cognitivo e seleção de ação - precisamos envolver a memória de trabalho para manter as informações em mente, resolução de conflitos para decidir sobre um curso de ação e memória de longo prazo para lembrar o resultado resultante (Bradley et al., 1992; Botvinick et al., 2001; Savine e outros, 2010). Terceiro, tanto situações recompensadoras quanto aversivas requerem um aumento na motivação geral para energizar as ações e garantir que elas sejam executadas adequadamente. De fato, os neurônios DA são fundamentais para motivar esforços para alcançar objetivos de alto valor e para traduzir o conhecimento das demandas de tarefas em desempenho de motor confiável (Berridge e Robinson, 1998; Mazzoni et al., 2007; Niv et al., 2007; Salamone et al., 2007).

Excitação de dopamina, alertando sugestões sensoriais

Além de seus sinais que codificam o valor motivacional e saliência, a maioria dos neurônios DA também tem respostas explodidas a vários tipos de eventos sensoriais que não estão diretamente associados a experiências recompensadoras ou aversivas. Estas respostas foram teorizadas para depender de uma série de fatores neurais e psicológicos, incluindo input sensorial direto, surpresa, novidade, excitação, atenção, saliência, generalização e pseudo-condicionamento (Schultz, 1998; Redgrave e outros, 1999; Horvitz, 2000; Lisman e Grace, 2005; Redgrave e Maca, 2006; Joshua et al., 2009a; Schultz, 2010).

Aqui, tentaremos sintetizar essas idéias e explicar essas respostas do DA em termos de um único sinal subjacente, um sinal de alerta (Figura 5). O termo «alerta» foi utilizado por Schultz (Schultz, 1998) como um termo geral para eventos que atraem a atenção. Aqui vamos usá-lo em um sentido mais específico. Por um evento de alerta, queremos dizer uma sugestão sensorial inesperada que capta a atenção com base em uma avaliação rápida de sua importância potencial, usando características simples, como sua localização, tamanho e modalidade sensorial. Tais eventos de alerta freqüentemente desencadeiam reações comportamentais imediatas para investigá-los e determinar seu significado preciso. Assim, os sinais de alerta de DA ocorrem tipicamente em latências curtas, baseiam-se nas características aproximadas de um estímulo e são melhor correlacionados com reações imediatas, como reações de orientação (Schultz e Romo, 1990; Joshua et al., 2009a; Schultz, 2010). Isto está em contraste com outros sinais motivacionais em neurônios DA que tipicamente ocorrem em latências mais longas, levam em conta a identidade precisa do estímulo, e são melhor correlacionados com ações comportamentais consideradas, tais como decisões de se aproximar ou evitar (Schultz e Romo, 1990; Joshua et al., 2009a; Schultz, 2010).

As respostas de alerta de DA podem ser desencadeadas por eventos sensoriais surpreendentes, como flashes de luz inesperados e cliques auditivos, que evocam excitações explosivas proeminentes em 60-90% de neurônios DA ao longo da SNc e VTA (Strecker e Jacobs, 1985; Horvitz et al., 1997; Horvitz, 2000) (Figura 6A). Essas respostas de alerta parecem refletir o grau em que o estímulo é surpreendente e capta a atenção; eles são reduzidos se um estímulo ocorrer em momentos previsíveis, se a atenção estiver envolvida em outro lugar ou durante o sono (Schultz, 1998; Takikawa et al., 2004; Strecker e Jacobs, 1985; Steinfels e outros, 1983). Por exemplo, um som de clique inesperado evoca uma explosão de DA proeminente quando um gato está em um estado passivo de despertar silencioso, mas não tem efeito quando o gato está envolvido em atividades que exigem atenção, como caçar um rato, alimentar-se, ser acariciado. pelo experimentador, e assim por diante (Strecker e Jacobs, 1985) (Figura 6A). Da mesma forma, as respostas de burst da DA são desencadeadas por eventos sensoriais que são fisicamente fracos, mas estão alertando devido à sua novidade (Ljungberg et al., 1992; Schultz, 1998). Estas respostas habituam-se à medida que o novo estímulo se torna familiar, paralelamente à habituação de reações orientadoras (Figura 6B). Consistente com estes resultados, eventos surpreendentes e novos evocam o lançamento de DA em estruturas a jusante (Lisman e Grace, 2005) e ativar os circuitos cerebrais relacionados ao DA de maneira a moldar o processamento de recompensas (Zink e outros, 2003; Davidson e outros, 2004; Duzel e outros, 2010).

Figura 6 

Respostas excitatórias de neurônios dopaminérgicos a eventos de alerta

As respostas de alerta de DA também são desencadeadas por sinais sensoriais inesperados que têm o potencial de fornecer novas informações sobre eventos motivacionais salientes. Como esperado para um sinal de alerta de latência curta, estas respostas são bastante não seletivas: elas são desencadeadas por qualquer estímulo que meramente se assemelha uma pista motivacionalmente saliente, mesmo que a semelhança seja muito pequena (um fenômeno chamado generalização) (Schultz, 1998). Como resultado, os neurônios DA freqüentemente respondem a um estímulo com uma mistura de dois sinais: um sinal de alerta rápido que codifica o fato de que o estímulo é potencialmente importante, e um segundo sinal codificando sua real significado gratificante ou aversivo (Schultz e Romo, 1990; Waelti et al., 2001; Tobler e outros, 2003; Day et al., 2007; Kobayashi e Schultz, 2008; Fiorillo et al., 2008; Nomoto et al., 2010) (Vejo (Kakade e Dayan, 2002; Joshua et al., 2009a; Schultz, 2010) para revisão). Um exemplo pode ser visto em um conjunto de neurônios de codificação de saliência motivacional mostrados em Figura 6C (Bromberg-Martin e outros, 2010a). Esses neurônios estavam excitados por recompensas e pistas aversivas, mas também estavam excitados por uma pista neutra. A sugestão neutra nunca tinha sido combinada com resultados motivacionais, mas tinha uma semelhança física (muito ligeira) com a recompensa e pistas aversivas.

Essas respostas de alerta parecem estar intimamente ligadas à capacidade de um estímulo sensorial desencadear reações de orientação para examiná-lo ainda mais e descobrir seu significado. Isso pode ser visto em três propriedades notáveis. Primeiro, as respostas de alerta ocorrem apenas para sugestões sensoriais que precisam ser examinadas para determinar seu significado, não para eventos intrinsecamente gratificantes ou aversivos, como a entrega de suco ou airpuffs (Schultz, 2010). Segundo, as respostas de alerta só ocorrem quando uma sugestão é potencialmente importante e tem a capacidade de desencadear reações de orientação, não quando a deixa é irrelevante para a tarefa em questão e não desencadeia reações de orientação (Schultz e Romo, 1990). Em terceiro lugar, as respostas de alerta são reforçadas em situações em que as pistas provocam uma mudança abrupta de atenção - quando aparecem em um horário inesperado ou longe do centro do olhar (Bromberg-Martin e outros, 2010a). Assim, quando as pistas motivacionais são apresentadas com um tempo imprevisível, elas desencadeiam reações orientadoras imediatas e uma resposta generalizada de alerta de DA - excitação por todas as pistas, incluindo dicas neutras (Figura 6C, Preto). Mas se o seu tempo é tornado previsível - por exemplo, avisando os participantes com uma “sugestão de início de teste” apresentada um segundo antes que as pistas apareçam - as pistas não mais evocam uma resposta de alerta (Figura 6D, cinzento). Em vez disso, a resposta de alerta muda para a dica de início do julgamento - o primeiro evento do julgamento que tem um momento imprevisível e evoca reações de orientação (Figura 6D, Preto).

Qual é o mecanismo subjacente que gera sinais de alerta de neurônios DA? Uma hipótese é que as respostas de alerta são simplesmente sinais de erro de previsão de recompensa convencionais que ocorrem em latências curtas, codificando o valor de recompensa esperado de um estímulo antes que ele seja totalmente discriminado (Kakade e Dayan, 2002). Evidências mais recentes, no entanto, sugerem que os sinais de alerta podem ser gerados por um mecanismo distinto dos sinais de recompensa de DA convencionais (Satoh et al., 2003; Bayer e Glimcher, 2005; Bromberg-Martin e outros, 2010a; Bromberg-Martin et al., 2010c; Nomoto et al., 2010). O mais impressionante é que a resposta de alerta ao início do ensaio não se restringe a tarefas recompensadoras; pode ter força igual durante uma tarefa aversiva na qual nenhuma recompensa é entregue (Figura 6C, Dinferior, “tarefa aversiva”). Isso ocorre mesmo que os sinais convencionais de recompensa de DA nos mesmos neurônios sinalizem corretamente que a tarefa de recompensa tem um valor esperado muito maior do que a tarefa aversiva (Bromberg-Martin e outros, 2010a). Estes sinais de alerta não são puramente uma forma de codificação de valor ou puramente uma forma de codificação de saliência, porque ocorrem na maioria dos valores motivacionais e saliência que codificam neurônios DA (Bromberg-Martin e outros, 2010a). Uma segunda dissociação pode ser vista no modo como os neurônios DA prevêm recompensas futuras com base na memória de resultados de recompensas passadas (Satoh et al., 2003; Bayer e Glimcher, 2005). Enquanto os sinais de recompensa DA convencionais são controlados por um traço de memória de longa duração otimizado para previsão precisa de recompensa, as respostas de alerta à sugestão inicial são controladas por um traço de memória separado que se assemelha às reações orientadoras imediatas (Bromberg-Martin et al., 2010c). Uma terceira dissociação pode ser vista na maneira como esses sinais são distribuídos pela população de neurônios DA. Enquanto os sinais de recompensa de DA convencionais são mais fortes na SNm ventromedial, as respostas de alerta para a dica de início do estudo (e para outras sugestões inesperadamente cronometradas) são transmitidas em todo o SNc (Nomoto et al., 2010).

Em contraste com estas dissociações dos sinais de recompensa convencionais, os sinais de alerta de DA estão correlacionados com a velocidade de orientação e as respostas de aproximação ao evento de alerta (Satoh et al., 2003; Bromberg-Martin e outros, 2010a; Bromberg-Martin et al., 2010c). Isso sugere que os sinais de alerta são gerados por um processo neural que motiva reações rápidas para investigar eventos potencialmente importantes. Atualmente, infelizmente, relativamente pouco se sabe exatamente sobre quais eventos este processo considera "importante". Por exemplo, estão alertando respostas igualmente sensíveis a eventos recompensadores e aversivos? Sabe-se que as respostas de alerta ocorrem para estímulos que se assemelham a sinais de recompensa ou que se assemelham a sugestões de recompensa e aversão (por exemplo, compartilhando a mesma modalidade sensorial). Mas ainda não se sabe se as respostas de alerta ocorrem para estímulos que se assemelham apenas a pistas aversivas.

Papel funcional dos sinais de alerta de dopamina

Como vimos, os sinais de alerta provavelmente serão gerados por um mecanismo distinto dos sinais motivacionais de valor e saliência. No entanto, os sinais de alerta são enviados tanto para o valor motivacional quanto para a saliência que codifica os neurônios DA e, portanto, provavelmente regulam o processamento e o comportamento do cérebro de maneira semelhante aos sinais de valor e saliência (Figura 5).

Sinais de alerta enviados para codificação de saliência motivacional Os neurônios DA apoiariam a orientação da atenção ao estímulo de alerta, o envolvimento de recursos cognitivos para descobrir seu significado e decidir sobre um plano de ação e aumentar os níveis de motivação para implementar esse plano eficientemente (Figura 5). Esses efeitos podem ocorrer por meio de efeitos imediatos no processamento neural ou pelo reforço de ações que levaram à detecção do evento de alerta. Esse papel funcional se encaixa bem com a correlação entre respostas de alerta de DA e reações comportamentais rápidas ao estímulo de alerta e com teorias de que respostas de neurônios DA de curta latência estão envolvidas na orientação de atenção, excitação, aprimoramento do processamento cognitivo e reações comportamentais imediatas (Redgrave e outros, 1999; Horvitz, 2000; Joseph et al., 2003; Lisman e Grace, 2005; Redgrave e Maca, 2006; Joshua et al., 2009a).

A presença de sinais de alerta no valor motivacional que codifica neurônios DA é mais difícil de explicar. Esses neurônios transmitem sinais de valores motivacionais que são ideais para a busca, avaliação de resultados e valorização da aprendizagem; no entanto, eles também podem ser excitados ao alertar eventos como sons de cliques inesperados e o início de testes aversivos. De acordo com o nosso caminho hipotético (Figura 5Isso faria com que os eventos de alerta tivessem valor positivo e fossem procurados de maneira semelhante às recompensas! Embora seja surpreendente à primeira vista, há motivos para suspeitar que os eventos de alerta podem ser tratados como objetivos positivos. Os sinais de alerta fornecem o primeiro aviso de que um evento potencialmente importante está prestes a ocorrer e, portanto, fornecem a primeira oportunidade de tomar medidas para controlar esse evento. Se as pistas de alerta estiverem disponíveis, os eventos motivacionais podem ser detectados, previstos e preparados com antecedência; Se as pistas de alerta estiverem ausentes, eventos motivacionalmente salientes sempre ocorrerão como uma surpresa inesperada. De fato, humanos e animais freqüentemente expressam uma preferência por ambientes onde eventos sensoriais recompensadores, aversivos e até mesmo motivacionalmente neutros podem ser observados e previstos com antecedência (Badia et al., 1979; Herry e outros, 2007; Daly, 1992; Chew e Ho, 1994) e muitos neurônios DA sinalizam a preferência comportamental para visualizar informações preditivas de recompensa (Bromberg-Martin e Hikosaka, 2009). Sinais de alerta de DA podem apoiar essas preferências atribuindo valor positivo a ambientes em que sugestões sensoriais potencialmente importantes podem ser antecipadas.

Caminhos neurais para valor motivacional, saliência e alerta

Até agora nós dividimos os neurônios DA em dois tipos que codificam valor motivacional e saliência motivacional e são adequados para papéis distintos no controle motivacional (Figura 5). Como este esquema conceitual mapeia as vias neurais no cérebro? Aqui propomos uma hipótese sobre as localizações anatômicas desses neurônios, suas projeções para estruturas a jusante e as fontes de seus sinais motivacionais (Figuras 6,77).

Figura 7 

Localização anatômica hipotética e projeções do valor motivacional da dopamina e dos neurônios codificadores de saliência

Locais anatômicos de neurônios de codificação de valor e saliência

Um estudo recente mapeou os locais de recompensa de DA e sinais aversivos no mesencéfalo lateral, incluindo SNc e parte lateral da VTA (Matsumoto e Hikosaka, 2009b). Valor motivacional e sinais de saliência motivacional foram distribuídos por essa região em um gradiente anatômico. Sinais de valores motivacionais foram encontrados mais comumente em neurônios na SN ventromedial e ATV lateral, enquanto sinais de saliência motivacional foram encontrados mais comumente em neurônios na região dorsolateral da SNc (Figura 7B). Isto é consistente com os relatos de que a codificação do valor de recompensa da DA é mais forte na SNc ventromedial (Nomoto et al., 2010) enquanto as excitações aversivas tendem a ser mais fortes mais lateralmente (Mirenowicz e Schultz, 1996). Outros estudos exploraram o mesencéfalo mais medial. Esses estudos encontraram uma mistura de respostas aversivas excitatórias e inibitórias sem diferença significativa em suas localizações, embora com uma tendência de excitações aversivas estarem localizadas mais ventralmente (Guarraci e Kapp, 1999; Brischoux et al., 2009) (Figura 7C).

Destinos de sinais de valor motivacional

De acordo com nossa hipótese, o valor motivacional que codifica os neurônios DA deve se projetar para regiões do cérebro envolvidas em ações de abordagem e prevenção, avaliação de resultados e aprendizagem de valor (Figura 5). De fato, a SN e a ATV ventromedial se projetam para o córtex pré-frontal ventromedial (Williams e Goldman-Rakic, 1998) incluindo o córtex orbitofrontal (OFC) (Porrino e Goldman-Rakic, 1982) (Figura 7A). O OFC tem sido consistentemente implicado na codificação de valor em estudos de imagem funcional (Anderson et al., 2003; Small et al., 2003; Jensen e outros, 2007; Litt et al., 2010) e gravações de neurônios individuais (Morrison e Salzman, 2009; Roesch e Olson, 2004). O OFC é pensado para avaliar as opções de escolha (Padoa-Schioppa, 2007; Kable e Glimcher, 2009), codificam as expectativas dos resultados (Schoenbaum e outros, 2009) e actualizar estas expectativas durante a aprendizagem (Walton et al., 2010). Além disso, o OFC está envolvido em aprender com erros negativos de previsão de recompensa (Takahashi et al., 2009), que são os mais fortes na codificação de neurónios DA (Figura 4).

Além disso, as porções mediais do mesencéfalo dopaminérgico projetam-se para o corpo estriado ventral, incluindo a concha do núcleo accumbens (concha de NAc) (Haber et al., 2000) (Figura 7A). Um estudo recente demonstrou que o invólucro NAc recebe sinais DA fásicos que codificam o valor motivacional dos resultados do sabor (Roitman et al., 2008). É provável que esses sinais causem aprendizado de valor, porque a infusão direta de drogas DA na camada de NAc é fortemente reforçadora (Ikemoto, 2010) enquanto os tratamentos que reduzem a entrada de DA na casca podem induzir aversões (Liu et al., 2008). Uma ressalva é que os estudos de liberação de concha NA NA em longas escalas de tempo (minutos) produziram resultados mistos, alguns consistentes com codificação de valor e outros com codificação de saliência (por exemplo,Bassareo et al., 2002; Ventura et al., 2007)). Isso sugere que os sinais de valor podem ser restritos a locais específicos dentro do shell NAc. Notavelmente, diferentes regiões da concha de NAc são especializadas para controlar o comportamento apetitivo e aversivo (Reynolds e Berridge, 2002), ambos exigem entrada de neurônios DA (Faure et al., 2008).

Finalmente, os neurônios DA ao longo da extensão do SNc enviam projeções pesadas para o estriado dorsal (Haber et al., 2000), sugerindo que o corpo estriado dorsal pode receber tanto valor motivacional quanto saliênciaFigura 7A). O valor motivacional que codifica os neurónios DA forneceria um sinal instrutivo ideal para os circuitos estriados envolvidos na aprendizagem de valor, como a aprendizagem de hábitos de estímulo-resposta (Faure et al., 2005; Yin e Knowlton, 2006; Balleine e O'Doherty, 2010). Quando esses neurônios DA estouram, eles se envolvem no caminho direto para aprender a obter resultados de recompensa; quando eles fazem uma pausa, eles se engajam no caminho indireto para aprender a evitar resultados aversivos (Figura 2). De fato, há evidências recentes de que os caminhos estriados seguem exatamente essa divisão de trabalho para recompensa e processamento aversivo (Hikida et al., 2010). Ainda é desconhecido, no entanto, como os neurônios nessas vias respondem a eventos recompensadores e aversivos durante o comportamento. Pelo menos no estriado dorsal como um todo, um subconjunto de neurônios responde a certos eventos recompensadores e aversivos de maneiras distintas (Ravel et al., 2003; Yamada et al., 2004, 2007; Joshua et al., 2008).

Destinos de sinais de saliência motivacional

De acordo com nossa hipótese, os neurônios DA de codificação de saliência motivacional devem se projetar para as regiões do cérebro envolvidas na orientação, processamento cognitivo e motivação geral (Figura 5). De fato, os neurônios DA no mesencéfalo dorsolateral enviam projeções para o córtex frontal dorsal e lateral (Williams e Goldman-Rakic, 1998) (Figura 7A), uma região que tem sido implicada em funções cognitivas, como busca de atenção, memória de trabalho, controle cognitivo e tomada de decisão entre resultados motivacionais (Williams e Castner, 2006; Lee e Seo, 2007; Sábio, 2008; Kable e Glimcher, 2009; Wallis e Kennerley, 2010). As funções cognitivas pré-frontais dorsolaterais são rigorosamente reguladas pelos níveis DA (Robbins e Arnsten, 2009) e teorizam que dependem da ativação dos neurônios fásicos DA (Cohen et al., 2002; Lapish et al., 2007). Notavelmente, um subconjunto de neurônios pré-frontais laterais responde a estímulos visuais recompensadores e aversivos, e a grande maioria responde na mesma direção, lembrando a codificação da saliência motivacional (Kobayashi et al., 2006). Além disso, a atividade desses neurônios está correlacionada com o sucesso comportamental na execução de tarefas de memória de trabalho (Kobayashi et al., 2006). Embora este DA dorsolateral → a via dorsolateral do córtex frontal pareça ser específica para os primatas (Williams e Goldman-Rakic, 1998), uma via funcionalmente semelhante pode existir em outras espécies. Em particular, muitas das funções cognitivas do córtex pré-frontal dorsolateral do primata são realizadas pelo córtex pré-frontal medial de roedores (Uylings et al., 2003), e há evidências de que esta região recebe sinais de saliência motivacional da DA e controla o comportamento relacionado à saliência (Mantz et al., 1989; Di Chiara, 2002; Joseph et al., 2003; Ventura et al., 2007; Ventura et al., 2008).

Dadas as evidências de que o VTA contém neurônios de codificação de saliência e valor e que os sinais de codificação de valor são enviados para o shell NAc, os sinais de saliência podem ser enviados para o núcleo do NAc (Figura 7A). De fato, o núcleo NAc (mas não o shell) é crucial para permitir que a motivação supere os custos de resposta, como o esforço físico; para o desempenho de tarefas de deslocamento de conjuntos que exigem flexibilidade cognitiva; e para permitir sugestões de recompensa para causar um aumento da motivação geral (Ghods-Sharifi e Floresco, 2010; Floresco e outros, 2006; Hall et al., 2001; Cardeal, 2006). Consistente com a codificação da saliência motivacional, o núcleo NAc recebe rajadas fásicas de DA durante ambas as experiências recompensadoras (Day et al., 2007) e experiências aversivas (Anstrom et al., 2009).

Finalmente, como discutido acima, alguns neurônios DA de codificação de saliência podem se projetar para o corpo estriado dorsal (Figura 7A). Enquanto algumas regiões do corpo estriado dorsal estão envolvidas em funções relacionadas aos valores de ação de aprendizagem, o estriado dorsal também está envolvido em funções que devem ser envolvidas em todos os eventos importantes, como orientação, atenção, memória de trabalho e motivação geral (Hikosaka et al., 2000; Klingberg, 2010; Palmitador, 2008). De fato, um subgrupo de neurônios dorsais do estriado é mais fortemente responsivo a eventos recompensadores e aversivos do que a eventos neutros (Ravel et al., 1999; Blazquez e outros, 2002; Yamada et al., 2004, 2007), embora seu papel causal no comportamento motivado ainda não seja conhecido.

Fontes de sinais de valor motivacional

Uma série recente de estudos sugere que os neurónios DA recebem sinais de valor motivacional de um pequeno núcleo no epitálamo, a habenula lateral (LHb) (Hikosaka, 2010) (Figura 8). A LHb exerce um potente controle negativo sobre os neurônios DA: a estimulação da LHb inibe os neurônios DA em latências curtas (Christoph et al., 1986) e pode regular a aprendizagem de maneira oposta à estimulação da ATV (Shumake e outros, 2010). Consistente com um sinal de controle negativo, muitos neurônios LHb têm respostas fásicas invertidas no espelho para os neurônios DA: os neurônios LHb são inibido por erros de previsão de recompensa positiva e animado por erros de previsão de recompensa negativa (Matsumoto e Hikosaka, 2007, 2009a; Bromberg-Martin e outros, 2010a; Bromberg-Martin et al., 2010c). Em vários casos, esses sinais ocorrem em latências mais curtas no LHb, compatíveis com a transmissão LHb → DA (Matsumoto e Hikosaka, 2007; Bromberg-Martin e outros, 2010a).

Figura 8 

Fontes hipotéticas de valor motivacional, saliência e sinais de alerta

O LHb é capaz de controlar os neurônios DA ao longo do mesencéfalo, mas várias linhas de evidência sugerem que ele exerce controle preferencial sobre o valor motivacional que codifica os neurônios DA. Primeiro, os neurônios LHb codificam o valor motivacional de uma maneira que reflete os neurônios DA de codificação de valor - eles codificam os erros de previsão de recompensa positivos e negativos e respondem em direções opostas a eventos recompensadores e aversivos (Matsumoto e Hikosaka, 2009a; Bromberg-Martin e outros, 2010a). Em segundo lugar, a estimulação da LHb tem seus efeitos mais potentes sobre os neurônios DA cujas propriedades são consistentes com a codificação de valor, incluindo a inibição por estímulos sem recompensa e localização anatômica na SN ventromedial (Matsumoto e Hikosaka, 2007, 2009b). Terceiro, lesões na LHb prejudicam as respostas inibitórias de neurônios DA a eventos aversivos, sugerindo um papel causal da LHb na geração de sinais de valor DA (Gao e outros, 1990).

O LHb é parte de uma via neural mais extensa pela qual neurônios DA podem ser controlados pelos gânglios basais (Figura 8). O LHb recebe sinais que se assemelham a erros de previsão de recompensa através de uma projeção de uma população de neurônios localizada ao redor da borda do globo pálido (GPb) (Hong e Hikosaka, 2008). Uma vez que esses sinais atinjam o LHb, é provável que eles sejam enviados para os neurônios DA através de um caminho dissináptico no qual o LHb excita os neurônios GABA mesencéfalos que, por sua vez, inibem os neurônios DA (Ji e Shepard, 2007; Omelchenko e outros, 2009; Brinschwitz et al., 2010). Isso pode ocorrer através de projeções de LHb para interneurônios na VTA e para um núcleo GABA-ergênico adjacente chamado núcleo tegmentar rostromedial (RMTg) (Jhou et al., 2009b) (também chamada de cauda caudal da ATV) (Kaufling e outros, 2009)). Notavelmente, os neurônios RMTg têm propriedades de resposta semelhantes aos neurônios LHb, codificam o valor motivacional e têm uma projeção inibitória pesada para o mesencéfalo dopaminérgico (Jhou et al., 2009a). Assim, a via completa dos gânglios da base para enviar sinais de valor motivacional para os neurónios DA pode ser GPb → LHb → RMTg → DA (Hikosaka, 2010).

Uma questão importante para pesquisas futuras é se os sinais de valor motivacional são canalizados somente através do LHb ou se são transportados por múltiplos caminhos de entrada. Notavelmente, as inibições DA por galerias aversivas são controladas pela atividade no núcleo mesopontino parabraquial (PBN) (Coizet e outros, 2010) (Figura 8). Este núcleo contém neurônios que recebem informações diretas da medula espinhal que codificam sensações nocivas e poderiam inibir os neurônios DA através de projeções excitatórias para o RMTg (Coizet e outros, 2010; Gauriau e Bernard, 2002). Isso sugere que o LHb envia sinais motivacionais de valor para os neurônios DA para sinais e resultados gratificantes e aversivos, enquanto o PBN fornece um componente do sinal de valor especificamente relacionado aos resultados aversivos.

Fontes de sinais de saliência motivacional

Menos é conhecido sobre a fonte dos sinais de saliência motivacional nos neurônios DA. Um candidato intrigante é o núcleo central da amígdala (CeA), que tem sido consistentemente implicado na orientação, atenção e respostas motivacionais gerais durante eventos de recompensa e aversão (Holanda e Gallagher, 1999; Baxter e Murray, 2002; Merali et al., 2003; Balleine e Killcross, 2006) (Figura 8). O CeA e outros núcleos da amígdala contêm muitos neurônios cujos sinais são consistentes com a saliência motivacional: eles sinalizam eventos gratificantes e aversivos na mesma direção, são intensificados quando os eventos ocorrem inesperadamente e são correlacionados com medidas comportamentais de excitação (Nishijo et al., 1988; Belova et al., 2007; Shabel e Janak, 2009). Esses sinais podem ser enviados para os neurônios DA, porque o CeA tem projeções descendentes no tronco cerebral que contêm informações gratificantes e aversivas (Lee et al., 2005; Pascoe e Kapp, 1985) e o CeA é necessário para a liberação do DA durante eventos relacionados à recompensa (Phillips et al., 2003a). Além disso, o CeA participa com neurônios DA em caminhos consistentes com nossas redes anatômicas e funcionais propostas para a saliência motivacional. Um caminho incluindo o CeA, SNc e o corpo estriado dorsal é necessário para orientação orientada para dicas de alimentos (Han et al., 1997; Lee et al., 2005; El-Amamy e Holanda, 2007). Consistente com nossa divisão dos sinais de saliência versus valor, esse caminho é necessário para aprender a orientar as sugestões de comida, mas não para aprender a abordar os resultados dos alimentos (Han et al., 1997). Um segundo caminho, incluindo o núcleo CeA, SNc, VTA e NAc, é necessário para que as pistas de recompensa causem um aumento na motivação geral para executar ações de busca de recompensa (Hall et al., 2001; Corbit e Balleine, 2005; El-Amamy e Holanda, 2007).

Além do CeA, os neurônios DA podem receber sinais de saliência motivacional de outras fontes, como os neurônios codificadores de saliência no prosencéfalo basal (Lin e Nicolelis, 2008; Richardson e DeLong, 1991) e neurónios no PBN (Coizet e outros, 2010), embora essas vias ainda devam ser investigadas.

Fontes de sinais de alerta

Existem vários bons candidatos para fornecer aos neurónios DA sinais de alerta. Talvez o candidato mais atraente seja o colículo superior (SC), um núcleo mesencefálico que recebe estímulos sensoriais de curta latência de múltiplas modalidades sensoriais e controla reações de orientação e atenção (Redgrave e Maca, 2006) (Figura 8). O SC tem uma projeção direta para o SNc e VTA (May et al., 2009; Comoli et al., 2003). Em animais anestesiados, o CS é um canal vital para que os sinais visuais de curta latência alcancem os neurónios DA e desencadeiem a libertação de DA nas estruturas a jusante (Comoli et al., 2003; Dommett et al., 2005). A via SC-DA é mais adequada para transmitir sinais de alerta em vez de sinais de recompensa e aversão, já que os neurônios SC têm pouca resposta para recompensar a entrega e têm apenas uma leve influência sobre as respostas aversivas de DA (Coizet e outros, 2006). Isso sugere uma seqüência de eventos nos quais os neurônios do SC (1) detectam um estímulo, (2) o selecionam como potencialmente importante, (3) acionam uma reação de orientação para examinar o estímulo e (4) disparam simultaneamente uma resposta de alerta que causa uma explosão de DA em estruturas a jusante (Redgrave e Maca, 2006).

Um segundo candidato para enviar sinais de alerta aos neurônios DA é o LHb (Figura 8). Notavelmente, o início inesperado de uma tentativa de início inibe muitos neurônios LHb de maneira inversa ao sinal de alerta do neurônio DA, e esta resposta ocorre em latência mais curta na LHb consistente com uma direção de transmissão LHb → DA (Bromberg-Martin e outros, 2010a; Bromberg-Martin et al., 2010c). Também observamos informalmente que os neurônios LHb são comumente inibidos por imagens visuais inesperadas e sons de maneira inversa às excitações de DA (MM, ESB-M e OH, observações não publicadas), embora isso aguarde uma investigação mais sistemática.

Finalmente, um terceiro candidato a enviar sinais de alerta aos neurônios DA é o núcleo pedunculopontino tegmentar (PPTg), que projeta tanto para SNc como para VTA e está envolvido no processamento motivacional (Winn, 2006) (Figura 8). O PPTg é importante para ativar as explosões de neurônios do VTA DA (Grace et al., 2007) incluindo respostas de burst para recompensarPan e Hyland, 2005). Consistente com um sinal de alerta, os neurônios PPTg têm respostas de latência curta a múltiplas modalidades sensoriais e são ativos durante as reações de orientação (Winn, 2006). Há evidências de que as respostas sensoriais do PPTg são influenciadas pelo valor da recompensa e pelos requisitos de ação imediata (Dormont et al., 1998; Okada et al., 2009) (mas vejaPan e Hyland, 2005)). Alguns neurônios PPTg também respondem a resultados recompensadores ou aversivos (Dormont et al., 1998; Kobayashi et al., 2002; Ivlieva e Timofeeva, 2003b, a). Será importante testar se os sinais que o PPTg envia aos neurônios DA estão relacionados especificamente ao alerta ou se contêm outros sinais motivacionais, como valor e saliência.

Direções para pesquisas futuras

Revisamos a natureza dos sinais de recompensa, aversivos e de alerta nos neurônios DA, e propusemos uma hipótese sobre as vias neurais subjacentes e seus papéis no comportamento motivado. Consideramos isso uma hipótese de trabalho, um guia para futuras teorias e pesquisas que nos levará a um entendimento mais completo. Aqui vamos destacar várias áreas onde mais investigações são necessárias para revelar complexidades mais profundas.

Atualmente, nossa compreensão das vias neurais subjacentes aos sinais DA está em um estágio inicial. Portanto, nós tentamos inferir as fontes e destinos de valor e saliência, codificando os sinais DA amplamente baseados em medidas indiretas, como as propriedades de resposta neural e funções funcionais de diferentes áreas do cérebro. Será importante colocar esses caminhos candidatos em um teste direto e descobrir suas propriedades detalhadas, auxiliados por ferramentas recentemente desenvolvidas que permitem que a transmissão de DA seja monitorada (Robinson e outros, 2008) e controlada (Tsai e outros, 2009; Tecuapetla et al., 2010; Stuber et al., 2010) com alta precisão espacial e temporal. Como observado acima, várias dessas estruturas candidatas têm uma organização topográfica, sugerindo que sua comunicação com os neurônios DA também pode ser topográfica. As fontes neurais dos sinais de DA fásicos também podem ser mais complexas do que as simples vias feedforward que propusemos, uma vez que as estruturas neurais que comunicam com os neurônios DA são densamente interconectadas (Geisler e Zahm, 2005) e os neurônios DA podem se comunicar entre si dentro do mesencéfalo (Ford et al., 2010).

Nós nos concentramos em um conjunto selecionado de conexões de neurônios DA, mas os neurônios DA recebem informações funcionais de muitas estruturas adicionais, incluindo o núcleo subtalâmico, núcleo tegmentar laterodorsal, núcleo leito da estria terminal, córtex pré-frontal, pálio ventral e hipotálamo lateral (Grace et al., 2007; Shimo e Wichmann, 2009; Jalabert e outros, 2009). Notavelmente, os neurônios do hipotálamo lateral orexina projetam-se para os neurônios DA, são ativados por eventos recompensadores em vez de aversivos, e desencadeiam o comportamento de busca por drogas (Harris e Aston-Jones, 2006), sugerindo um possível papel nas funções relacionadas ao valor. Os neurônios DA também enviam projeções para muitas estruturas adicionais, incluindo o hipotálamo, o hipocampo, a amígdala, a habenula e muitas outras áreas corticais. Notavelmente, o córtex cingulado anterior (ACC) foi proposto para receber sinais de erro de predição de recompensa dos neurônios DA (Holroyd e Coles, 2002) e contém neurônios com atividade positivamente relacionada ao valor motivacional (Koyama et al., 1998). No entanto, a ativação do ACC também está ligada ao processamento aversivo (Vogt, 2005; Johansen e Fields, 2004). Essas funções do ACC podem ser apoiadas por uma mistura de valores motivacionais e sinais de saliência do DA, que serão importantes para serem testados em estudos futuros. De fato, os sinais neurais relacionados aos erros de previsão de recompensa foram relatados em várias áreas, incluindo o córtex pré-frontal medial (Matsumoto et al., 2007; Seo e Lee, 2007), córtex orbitofrontal (Sul e outros, 2010) (mas vejaTakahashi et al., 2009; Kennerley e Wallis, 2009) e estriado dorsal (Kim et al., 2009; Oyama et al., 2010), e sua relação causal com a atividade neuronal DA ainda precisa ser descoberta.

Descrevemos eventos motivacionais com uma simples dicotomia, classificando-os como "recompensadores" ou "aversivos". No entanto, essas categorias contêm grande variedade. Uma doença aversiva é gradual, prolongada e causada por eventos internos; um airpuff aversivo é rápido, breve e causado pelo mundo externo. Essas situações exigem respostas comportamentais muito diferentes, que provavelmente serão apoiadas por diferentes sistemas neurais. Além disso, embora tenhamos focado nossa discussão em dois tipos de neurônios DA com sinais que se assemelham a valor motivacional e saliência, um exame minucioso mostra que os neurônios DA não estão limitados a essa dicotomia rígida. Como indicado pela nossa noção de um gradiente anatómico, alguns neurónios DA transmitem misturas de sinais semelhantes a saliência e semelhantes a valores; ainda outros neurônios DA respondem a eventos recompensadores, mas não aversivos (Matsumoto e Hikosaka, 2009b; Bromberg-Martin e outros, 2010a). Estas considerações sugerem que alguns neurónios DA podem não codificar eventos motivacionais ao longo do nosso eixo intuitivo de 'bom' versus 'mau' e podem, em vez disso, ser especializados para suportar formas específicas de comportamento adaptativo.

Mesmo no campo das recompensas, há evidências de que os neurônios DA transmitem diferentes sinais de recompensa para diferentes regiões do cérebro (Bassareo e Di Chiara, 1999; Ito et al., 2000; Stefani e Moghaddam, 2006; Wightman e outros, 2007; Aragona e outros, 2009). Diversas respostas relatadas no SNc e VTA incluem neurônios que: respondem apenas ao início de um teste (Roesch e outros, 2007), talvez codificando um sinal de alerta puro; responder de maneira diferente às modalidades visuais e auditivas (Strecker e Jacobs, 1985), talvez recebendo entrada de diferentes neurônios SC e PPTg; responder ao primeiro ou último evento de uma seqüência (Ravel e Richmond, 2006; Jin e Costa, 2010); ter sustentado a ativação por recompensas arriscadas (Fiorillo et al., 2003); ou são ativados durante os movimentos do corpo (Schultz, 1986; Kiyatkin, 1988a; Puryear e outros, 2010; Jin e Costa, 2010) (Veja também (Phillips et al., 2003b; Stuber et al., 2005)). Embora cada um desses padrões de resposta tenha sido relatado apenas em uma minoria de estudos ou neurônios, esses dados sugerem que os neurônios DA poderiam ser potencialmente divididos em um número muito maior de populações funcionalmente distintas.

Uma consideração final e importante é que os estudos de registro presentes em animais que se comportam ainda não fornecem medidas conclusivas completas da atividade dos neurônios DA, porque esses estudos só foram capazes de distinguir entre neurônios DA e não-DA usando métodos indiretos, baseados em propriedades neurais tais como taxa de disparo, forma de onda de pico e sensibilidade aos agonistas do receptor D2 (Grace e Bunney, 1983; Schultz, 1986). Essas técnicas parecem identificar os neurônios DA de forma confiável dentro da SNc, indicados por várias linhas de evidência, incluindo a comparação de métodos intracelulares e extracelulares, registros justacelulares e os efeitos de lesões específicas de DA (Grace e Bunney, 1983; Grace et al., 2007; Brown et al., 2009). No entanto, estudos recentes indicam que esta técnica pode ser menos confiável na VTA, onde os neurônios DA e não DA possuem uma variedade mais ampla de propriedades celulares (Margolis e outros, 2006; Margolis e outros, 2008; Lammel et al., 2008; Brischoux et al., 2009). Mesmo medições diretas das concentrações de DA em estruturas a jusante não fornecem evidências conclusivas de atividade de pico de neurônios DA, porque as concentrações de DA podem ser controladas por fatores adicionais, como a ativação glutamatérgica de terminais de axônio DA (Cheramy e outros, 1991) e mudanças rápidas na actividade dos transportadores da DA (Zahniser e Sorkin, 2004). Para realizar medições totalmente conclusivas da atividade dos neurônios DA durante o comportamento ativo, será necessário usar novas técnicas de registro, como a combinação do registro extracelular com a estimulação optogenética (Jin e Costa, 2010).

Conclusão

Um conceito influente dos neurónios do mesencéfalo DA tem sido que eles transmitem um sinal motivacional uniforme para todas as estruturas a jusante. Aqui, revisamos as evidências de que os sinais DA são mais diversos do que se pensa. Em vez de codificar um sinal uniforme, os neurônios DA vêm em vários tipos que enviam mensagens motivacionais distintas sobre eventos recompensadores e não recompensadores. Mesmo neurônios DA únicos não parecem transmitir sinais motivacionais únicos. Em vez disso, os neurônios DA transmitem misturas de múltiplos sinais gerados por processos neurais distintos. Algumas refletem previsões detalhadas sobre experiências recompensadoras e aversivas, enquanto outras refletem respostas rápidas a eventos de grande importância potencial.

Além disso, propusemos uma hipótese sobre a natureza desses diversos sinais DA, as redes neurais que os geram e sua influência nas estruturas cerebrais a jusante e no comportamento motivado. Nossa proposta pode ser vista como uma síntese de teorias anteriores. Muitas teorias anteriores tentaram identificar os neurónios DA com um único processo motivacional, como a busca de metas valorizadas, o envolvimento em situações motivacionais salientes ou a reação ao alerta de mudanças no ambiente. Em nossa opinião, os neurônios DA recebem sinais relacionados a todos esses três processos. No entanto, em vez de destilar esses sinais em uma mensagem uniforme, propusemos que os neurônios DA transmitam esses sinais para estruturas cerebrais distintas, a fim de apoiar sistemas neurais distintos para cognição e comportamento motivados. Alguns neurônios DA apoiam sistemas cerebrais que atribuem valor motivacional, promovendo ações para buscar eventos recompensadores, evitar eventos aversivos e garantir que os eventos de alerta possam ser previstos e preparados com antecedência. Outros neurônios DA apoiam sistemas cerebrais que são envolvidos por relevância motivacional, incluindo orientação para detectar eventos potencialmente importantes, processamento cognitivo para escolher uma resposta e lembrar suas conseqüências, e motivação para persistir na busca de um resultado ideal. Esperamos que esta proposta ajude a nos levar a uma compreensão mais refinada das funções DA no cérebro, na qual os neurônios DA adaptam seus sinais para suportar múltiplas redes neurais com papéis distintos no controle motivacional.

AGRADECIMENTOS

Este trabalho foi apoiado pelo programa de pesquisa intramural no National Eye Institute. Agradecemos também a Amy Arnsten por valiosas discussões.

Notas de rodapé

Isenção de responsabilidade do editor: Este é um arquivo PDF de um manuscrito não editado que foi aceito para publicação. Como um serviço aos nossos clientes, estamos fornecendo esta versão inicial do manuscrito. O manuscrito será submetido a edição de texto, formatação e revisão da prova resultante antes de ser publicado em sua forma final citável. Observe que, durante o processo de produção, podem ser descobertos erros que podem afetar o conteúdo, e todas as isenções legais que se aplicam ao periódico pertencem a ele.

FOOTNOTE1By saliência motivacional queremos dizer uma quantidade que é alta tanto para eventos recompensadores quanto aversivos e é baixa para eventos motivacionalmente neutros (não-recompensadores e não-aversivos). Isto é semelhante à definição dada por (Berridge e Robinson, 1998). Note-se que a saliência motivacional é distinta de outras noções de saliência usadas na neurociência, como a saliência de incentivo (que se aplica apenas a eventos desejáveis;Berridge e Robinson, 1998) e saliência perceptiva (que se aplica a eventos motivacionalmente neutros, como objetos em movimento e luzes coloridas;Bisley e Goldberg, 2010)].]

FOOTNOTE2Note-se que a saliência motivacional que codifica os sinais neuronais de DA distingue-se das noções clássicas de “associabilidade” e “mudança de associabilidade” que foram propostas para regular a taxa de aprendizagem de reforço (por exemplo,Pearce e Hall, 1980)). Tais teorias afirmam que os animais aprendem (e ajustam as taxas de aprendizado) de erros de previsão positivos e negativos. Embora esses neurônios DA possam contribuir para aprender com erros de predição positivos, durante os quais eles podem ter uma resposta forte (por exemplo, entrega de recompensas inesperadas), eles podem não contribuir para aprender com erros negativos de previsão, durante os quais podem ter pouca ou nenhuma resposta ( por exemplo, a omissão inesperada de recompensa) (Fig. 4B).

REFERÊNCIAS

  1. Ahlbrecht M, Weber M. A resolução da incerteza: um estudo experimental. Jornal de economia institucional e teórica. 1996; 152: 593 – 607.
  2. Albin RL, Young AB, Penney JB. A anatomia funcional dos distúrbios dos gânglios da base. Tendências em neurociências. 1989; 12: 366 – 375. [PubMed]
  3. Anderson AK, Christoff K, Stappen I, Panitz D, DG Ghahremani, Glover G, Gabrieli JD, Sobel N. Representações neurais dissociadas de intensidade e valência no olfato humano. Nat Neurosci. 2003; 6: 196 – 202. [PubMed]
  4. Anstrom KK, Miczek KA, Budygin EA. Aumento da sinalização fásica de dopamina na via mesolímbica durante a derrota social em ratos. Neurociência. 2009; 161: 3 – 12. [PubMed]
  5. Aragona BJ, JJ Day, Roitman MF, Cleaveland NA, RM Wightman, Carelli RM. Especificidade regional no desenvolvimento em tempo real de padrões de transmissão de dopamina fásica durante a aquisição de uma associação cocaína-cocaína em ratos. O jornal europeu de neurociência. 2009; 30: 1889 – 1899. [Artigo gratuito do PMC] [PubMed]
  6. Austin AJ, Duka T. Mecanismos de atenção para resultados apetitivos e aversivos no condicionamento pavloviano. Pesquisa do cérebro comportamental. 2010; 213: 19 – 26. [PubMed]
  7. Badia P, Harsh J, Abbott B. Escolhendo entre condições de choque previsíveis e imprevisíveis: dados e teoria. Boletim Psicológico. 1979; 86: 1107 – 1131.
  8. Balleine BW, Killcross S. Processamento de incentivo paralelo: uma visão integrada da função da amígdala. Tendências em neurociências. 2006; 29: 272 – 279. [PubMed]
  9. Balleine BW, O'Doherty JP. Homologias humanas e de roedores no controle da ação: determinantes corticostriatal da ação direcionada ao objetivo e habitual. Neuropsicofarmacologia. 2010; 35: 48–69. [Artigo gratuito do PMC] [PubMed]
  10. Barr GA, Moriceau S, Shionoya K, K Muzny, Gao P, Wang S, Sullivan RM. As transições na aprendizagem infantil são moduladas pela dopamina na amígdala. Nat Neurosci. 2009; 12: 1364 – 1366. [Artigo gratuito do PMC] [PubMed]
  11. Bassareo V, De Luca MA, Di Chiara G. Expressão diferencial de propriedades de estímulo motivacional por dopamina no Nucleus Accumbens Shell versus núcleo e córtex pré-frontal. J Neurosci. 2002; 22: 4709 – 4719. [PubMed]
  12. Bassareo V, Di Chiara G. Capacidade de resposta diferencial da transmissão de dopamina a estímulos alimentares em compartimentos de núcleo / núcleo accumbens. Neurociência. 1999; 89: 637 – 641. [PubMed]
  13. Baxter MG, Murray EA. A amígdala e recompensa. Nat Rev Neurosci. 2002; 3: 563 – 573. [PubMed]
  14. Bayer HM, Glimcher PW. Os neurônios dopaminérgicos mesencéfalos codificam um sinal de erro de previsão de recompensa quantitativa. Neurônio 2005; 47: 129 – 141. [Artigo gratuito do PMC] [PubMed]
  15. Belova MA, Paton JJ, Morrison SE, CD de Salzman. A expectativa modula as respostas neurais a estímulos agradáveis ​​e aversivos na amígdala primata. Neurônio 2007; 55: 970 – 984. [Artigo gratuito do PMC] [PubMed]
  16. Bentivoglio M, Morelli M. A organização e circuitos de neurônios dopaminérgicos mesencefálicos e a distribuição de receptores de dopamina no cérebro. Manual de Neuroanatomia Química. 2005: 1 – 107.
  17. Berridge KC, Robinson TE. Qual é o papel da dopamina na recompensa: impacto hedônico, aprendizado de recompensa ou saliência de incentivo? Pesquisa do cérebro. 1998; 28: 309 – 369. [PubMed]
  18. Besson C, Louilot A. Envolvimento assimétrico de neurônios dopaminérgicos mesolímbicos na percepção afetiva. Neurociência. 1995; 68: 963 – 968. [PubMed]
  19. Birgner C, Nordenankar K, Lundblad M., Mendez JA, Smith C, Greves M, Galter D, Olson L., Fredriksson A, Trudeau LE, et al. VGLUT2 em neurônios dopaminérgicos é necessário para ativação comportamental induzida por psicoestimulantes. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2010; 107: 389 – 394. [Artigo gratuito do PMC] [PubMed]
  20. Bisley JW, Goldberg ME. Atenção, intenção e prioridade no lobo parietal. Revisão anual da neurociência. 2010; 33: 1 – 21. [Artigo gratuito do PMC] [PubMed]
  21. Bjorklund A, Dunnett SB. Sistemas de neurônios dopaminérgicos no cérebro: uma atualização. Tendências em neurociências. 2007; 30: 194 – 202. [PubMed]
  22. Blazquez PM, N Fujii, Kojima J, Graybiel AM. Uma representação em rede da probabilidade de resposta no estriado. Neurônio 2002; 33: 973 – 982. [PubMed]
  23. Botvinick MM, Braver TS, Barch DM, Carter CS e Cohen JD. Monitoramento de conflitos e controle cognitivo. Psychol Rev. 2001; 108: 624 – 652. [PubMed]
  24. Bradley MM, Greenwald MK, Petry MC, Lang PJ. Lembrando fotos: prazer e excitação na memória. J Exp Psychol Aprenda Mem Cogn. 1992; 18: 379 – 390. [PubMed]
  25. Braun DA, Mehring C, Wolpert DM. Estrutura de aprendizagem em ação. Pesquisa do cérebro comportamental. 2010; 206: 157 – 165. [Artigo gratuito do PMC] [PubMed]
  26. Brinschwitz K, Dittgen A, VI Madai, Lommel R, Geisler S, Veh RW. Os axônios glutamatérgicos da habenula lateral terminam principalmente nos neurônios GABAérgicos do mesencéfalo ventral. Neurociência. 2010; 168: 463 – 476. [PubMed]
  27. Brischoux F, Chakraborty S, Brierley DI, MA inculpável. Excitação fásica de neurônios dopaminérgicos em ATVs ventral por estímulos nocivos. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2009; 106: 4894 – 4899. [Artigo gratuito do PMC] [PubMed]
  28. Os neurônios dopaminérgicos de Bromberg-Martin ES, Hikosaka O. Midbrain sinalizam a preferência por informações antecipadas sobre as recompensas futuras. Neurônio 2009; 63: 119 – 126. [Artigo gratuito do PMC] [PubMed]
  29. Bromberg-Martin ES, Matsumoto M, Hikosaka O. Atividade tônica e antecipatória fásica distinta em neurônios laterais de habenula e dopamina. Neurônio 2010a; 67: 144 – 155. [Artigo gratuito do PMC] [PubMed]
  30. Bromberg-Martin ES, Matsumoto M, Hong S, Hikosaka O. Uma via pallidus-habenula-dopamina sinaliza valores de estímulo inferidos. J Neurophysiol. 2010b; 104: 1068 – 1076. [Artigo gratuito do PMC] [PubMed]
  31. Bromberg-Martin ES, M de Matsumoto, Nakahara H, Hikosaka O. Múltiplas escalas de tempo de memória em habenula lateral e neurônios de dopamina. Neurônio 2010c; 67: 499 – 510. [Artigo gratuito do PMC] [PubMed]
  32. MTC marrom, Henny P, Bolam JP, Magill PJ. Atividade de neurônios dopaminérgicos neuroquimicamente heterogêneos na substantia nigra durante mudanças espontâneas e dirigidas no estado cerebral. J Neurosci. 2009; 29: 2915 – 2925. [PubMed]
  33. Cardeal RN. Sistemas neurais implicados no reforço tardio e probabilístico. Neural Netw. 2006; 19: 1277 – 1301. [PubMed]
  34. Elogio JF, Aragona BJ, ML Heien, Seipel AT, RM Carelli RM, Wightman RM. A liberação coordenada de dopamina em atividade e a atividade neural impulsionam o comportamento direcionado por objetivos. Neurônio 2007; 54: 237 – 244. [PubMed]
  35. Cheramy A, Kemel ML, Gauchy C, Desce JM, Galli T, Barbeito L, Glowinski J. Papel dos aminoácidos excitatórios na regulação pré-sináptica direta e indireta da liberação de dopamina dos terminais nervosos dos neurônios dopaminérgicos nigrostriatais. Aminoácidos. 1991; 1: 351 – 363. [PubMed]
  36. Chew SH, Ho JL. Esperança: um estudo empírico da atitude em relação ao momento da resolução da incerteza. Jornal de Risco e Incerteza. 1994; 8: 267 – 288.
  37. Chiodo LA, Antelman SM, Caggiula AR, Lineberry CG. Estímulos sensoriais alteram a taxa de descarga de neurônios dopaminérgicos (DA): evidência de dois tipos funcionais de células DA na substantia nigra. Cérebro Res. 1980; 189: 544 – 549. [PubMed]
  38. Christoph GR, Leonzio RJ, Wilcox KS. A estimulação da habenula lateral inibe os neurônios contendo dopamina na substância negra e na área ventral tegmentar do rato. J Neurosci. 1986; 6: 613 – 619. [PubMed]
  39. Chuhma N, Choi WY, Mingote S, Rayport S. Cotransmissão do glutamato neuronal por dopamina: modulação dependente de frequência na projeção mesoventromedial. Neurociência. 2009; 164: 1068 – 1083. [Artigo gratuito do PMC] [PubMed]
  40. Cohen JD, Braver TS, Brown JW. Perspectivas computacionais sobre a função da dopamina no córtex pré-frontal. Opinião atual em neurobiologia. 2002; 12: 223 – 229. [PubMed]
  41. Coizet V, Dommett EJ, Klop EM, Redgrave P, Overton PG. O núcleo parabraquial é um elo crítico na transmissão de informações nociceptivas de latência curta para neurônios dopaminérgicos mesencéfalos. Neurociência. 2010; 168: 263 – 272. [Artigo gratuito do PMC] [PubMed]
  42. Coizet V, Dommett EJ, Redgrave P, Overton PG. As respostas nociceptivas dos neurônios dopaminérgicos do mesencéfalo são moduladas pelo colículo superior no rato. Neurociência. 2006; 139: 1479 – 1493. [PubMed]
  43. Comoli E, Coizet V, Boyes J, Bolam JP, Canteras NS, Quirk RH, Overton PG, Redgrave P. Uma projeção direta do colículo superior para substantia nigra para detectar eventos visuais salientes. Nat Neurosci. 2003; 6: 974 – 980. [PubMed]
  44. Corbit LH, Balleine BW. Dupla dissociação das lesões basolaterais e centrais da amígdala nas formas gerais e específicas do resultado da transferência instrumental pavloviana. J Neurosci. 2005; 25: 962 – 970. [PubMed]
  45. Dalley JW, K Laane, Theobald DE, Armstrong HC, Corlett PR, Chudasama Y, Robbins TW. Modulação por tempo limitado da memória pavloviana apetitiva pelos receptores D1 e NMDA no nucleus accumbens. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2005; 102: 6189 – 6194. [Artigo gratuito do PMC] [PubMed]
  46. Daly HB. A preferência pela imprevisibilidade é invertida quando o não repensável imprevisível é aversivo: procedimentos, dados e teorias da aquisição de respostas de observação apetitiva. Em: Gormezano I, Wasserman EA, editores. Aprendizagem e Memória: Os Substratos Comportamentais e Biológicos. Associados LE; 1992. pp. 81 – 104.
  47. Davidson MC, Horvitz JC, N Tottenham, Fossella JA, Watts R, Ulug AM, Casey BJ. Ativação de caudado diferencial e cingulado após estímulos não recompensadores inesperados. NeuroImage. 2004; 23: 1039 – 1045. [PubMed]
  48. Dia JJ, Roitman MF, RM Wightman, Carelli RM. O aprendizado associativo medeia mudanças dinâmicas na sinalização da dopamina no nucleus accumbens. Nat Neurosci. 2007; 10: 1020 – 1028. [PubMed]
  49. Dayan P, Niv Y. Aprendizado de reforço: o bom, o ruim e o feio. Opinião atual em neurobiologia. 2008; 18: 185 – 196. [PubMed]
  50. Descarries L, N Berube-Carriere, Riad M, Bo GD, Mendez JA, Trudeau LE. Glutamato em neurônios dopaminérgicos: transmissão sináptica versus transmissão difusa. Revisões de pesquisa do cérebro. 2008; 58: 290 – 302. [PubMed]
  51. Di Chiara G. Núcleo accumbens shell e core dopamina: papel diferencial no comportamento e dependência. Pesquisa do cérebro comportamental. 2002; 137: 75 – 114. [PubMed]
  52. Dommett E, Coizet V, Blaha CD, Martindale J, Lefebvre V, Walton N, Mayhew JE, Overton PG, Redgrave P. Como os estímulos visuais ativam os neurônios dopaminérgicos em curta latência. Ciência. 2005; 307: 1476 – 1479. [PubMed]
  53. Dormont JF, Conde H, Farin D. O papel do núcleo tegmentar pedunculopontine em relação ao desempenho motor condicionado no gato. I. Atividade unitária unitária dependente de contexto e de reforço. Pesquisa experimental do cérebro. Experimentelle Hirnforschung. 1998; 121: 401 – 410. [PubMed]
  54. Duzel E, Bunzeck N, Guitart-Masip M., Duzel S. Motivação relacionada à antecipação e à exploração por dopamina (NOMAD): implicações para o envelhecimento saudável. Neurociência e análises bio-comportamentais. 2010; 34: 660 – 669. [PubMed]
  55. El-Amamy H, Holland PC. Efeitos dissociáveis ​​de desconectar o núcleo central da amígdala da área tegmental ventral ou substantia nigra sobre orientação orientada e motivação de incentivo. O jornal europeu de neurociência. 2007; 25: 1557 – 1567. [Artigo gratuito do PMC] [PubMed]
  56. Ettenberg A. Propriedades oponentes do processo de cocaína auto-administrada. Neurociência e análises bio-comportamentais. 2004; 27: 721 – 728. [PubMed]
  57. Fadok JP, Dickerson TM, Palmiter RD. A dopamina é necessária para o condicionamento do medo dependente do sinal. J Neurosci. 2009; 29: 11089 – 11097. [Artigo gratuito do PMC] [PubMed]
  58. Fairhall AL, Lewen GD, Bialek W, de Ruyter Van Steveninck RR. Eficiência e ambigüidade em um código neural adaptativo. Natureza. 2001; 412: 787 – 792. [PubMed]
  59. Faure A, Haberland U, Conde F. El Massioui N. A lesão do sistema dopaminérgico nigrostriatal interrompe a formação de hábitos estímulo-resposta. J Neurosci. 2005; 25: 2771 – 2780. [PubMed]
  60. Faure A, Reynolds SM, Richard JM e Berridge KC. Dopamina mesolímbica em desejo e medo: permitindo que a motivação seja gerada por rupturas localizadas de glutamato no núcleo accumbens. J Neurosci. 2008; 28: 7184 – 7192. [Artigo gratuito do PMC] [PubMed]
  61. Fiorillo CD, Newsome WT, Schultz W. A precisão temporal da previsão de recompensa em neurônios dopaminérgicos. Nat Neurosci. 2008; 11: 966 – 973. [PubMed]
  62. Fiorillo CD, Tobler PN, Schultz W. Codificação discreta da probabilidade de recompensa e incerteza pelos neurônios dopaminérgicos. Ciência. 2003; 299: 1898 – 1902. [PubMed]
  63. Floresco SB, Ghods-Sharifi S, Vexelman C, Magyar O. Funções dissociáveis ​​para o núcleo e acúmulo do núcleo accumbens na regulação do deslocamento de conjuntos. J Neurosci. 2006; 26: 2449 – 2457. [PubMed]
  64. Ford CP, Gantz SC, Phillips PE, Williams JT. Controle de dopamina extracelular nos terminais de dendrito e axônio. J Neurosci. 2010; 30: 6975 – 6983. [Artigo gratuito do PMC] [PubMed]
  65. Frank MJ. Modulação dinâmica da dopamina nos gânglios da base: uma descrição neurocomputacional dos déficits cognitivos no parkinsonismo medicamentoso e não-medicamentoso. Jornal de neurociência cognitiva. 2005; 17: 51 – 72. [PubMed]
  66. Frank MJ, Fossella JA. Neurogenética e farmacologia da aprendizagem, motivação e cognição. Neuropsicofarmacologia. 2010 [Artigo gratuito do PMC] [PubMed]
  67. Frank MJ, Seeberger LC, O'Reilly RC. Por cenoura ou por pau: aprendizado de reforço cognitivo no parkinsonismo. Ciência. 2004; 306: 1940 – 1943. [PubMed]
  68. Gallistel CR, Gibbon J. Tempo, taxa e condicionamento. Psychol Rev. 2000; 107: 289 – 344. [PubMed]
  69. Gao DM, Jeaugey L, Pollak P, Benabid AL. Respostas nociceptivas dependentes da intensidade de neurônios dopaminérgicos presumidos da substância negra, pars compacta no rato e sua modificação por entradas de habenula laterais. Cérebro Res. 1990; 529: 315 – 319. [PubMed]
  70. Gauriau C, Bernard JF. Vias de dor e circuitos parabraquiais no rato. Fisiologia Experimental. 2002; 87: 251 – 258. [PubMed]
  71. Geisler S, Zahm DS. Aferências da área tegmentar ventral no substrato anatômico do rato para funções integrativas. O Jornal de Neurologia Comparativa. 2005; 490: 270 – 294. [PubMed]
  72. Gerfen CR, Engber TM, Mahan LC, Susel Z, Chase TN, Monsma FJ, Jr., Sibley DR. D1 e D2 expressão gênica regulada por receptor de dopamina de neurônios estriatonigral e striatopalidal. Ciência. 1990; 250: 1429 – 1432. [PubMed]
  73. Ghods-Sharifi S, Floresco SB. Efeitos diferenciais sobre o desconto de esforço induzido por inativações do núcleo ou do núcleo do nucleus accumbens. Neurociência comportamental. 2010; 124: 179 – 191. [PubMed]
  74. Gonon FG. Relação não-linear entre o fluxo de impulso e a dopamina liberada pelos neurônios dopaminérgicos mesencefálicos de rato como estudado por eletroquímica in vivo. Neurociência. 1988; 24: 19 – 28. [PubMed]
  75. Goto Y, Yang CR, Otani S. Plasticidade sináptica funcional e disfuncional no córtex pré-frontal: papéis em transtornos psiquiátricos. Psiquiatria biológica. 2010; 67: 199 – 207. [PubMed]
  76. Grace AA. Liberação fásica versus tônica da dopamina e modulação da responsividade do sistema da dopamina: uma hipótese para a etiologia da esquizofrenia. Neurociência. 1991; 41: 1 – 24. [PubMed]
  77. Grace AA, Bunney BS. Eletrofisiologia intracelular e extracelular de neurônios dopaminérgicos nigral – 1. Identificação e caracterização. Neurociências. 1983; 10: 301–315. [PubMed]
  78. Grace AA, Floresco SB, Goto Y, Lodge DJ. Regulação do disparo de neurônios dopaminérgicos e controle de comportamentos direcionados a objetivos. Tendências em neurociências. 2007; 30: 220 – 227. [PubMed]
  79. Grecksch G, Matties H. O papel dos mecanismos dopaminérgicos no hipocampo de ratos para a consolidação em uma discriminação de brilho. Psicofarmacologia (Berl) 1981; 75: 165-168. [PubMed]
  80. Guarraci FA, Kapp BS. Caracterização eletrofisiológica dos neurônios dopaminérgicos da área tegmentar ventral durante o condicionamento diferencial do medo pavloviano no coelho acordado. Pesquisa do cérebro comportamental. 1999; 99: 169 – 179. [PubMed]
  81. Haber SN, Fudge JL, McFarland NR. As vias estriatontrosstraliatais em primatas formam uma espiral ascendente desde a concha até o estriado dorsolateral. J Neurosci. 2000; 20: 2369 – 2382. [PubMed]
  82. Salão J, Parkinson JA, Connor, Dickinson A, Everitt BJ. Envolvimento do núcleo central da amígdala e do núcleo accumbens na mediação das influências pavlovianas no comportamento instrumental. O jornal europeu de neurociência. 2001; 13: 1984 – 1992. [PubMed]
  83. Han JS, McMahan RW, Holanda P, Gallagher M. O papel de uma via amígdalo-nigrostriatal na aprendizagem associativa. J Neurosci. 1997; 17: 3913 – 3919. [PubMed]
  84. Harris GC, Aston-Jones G. Excitação e recompensa: uma dicotomia na função da orexina. Tendências em neurociências. 2006; 29: 571 – 577. [PubMed]
  85. Herry C, R Bach, Esposito F, F Di Salle, Perrig WJ, Scheffler K, Luthi A, Seifritz E. Processamento de imprevisibilidade temporal na amígdala humana e animal. J Neurosci. 2007; 27: 5958 – 5966. [PubMed]
  86. Hikida T, K Kimura, Wada N, K Funabiki, Nakanishi S. Diferentes papéis da transmissão sináptica em vias estriadas diretas e indiretas para recompensar e comportamento aversivo. Neurônio 2010; 66: 896 – 907. [PubMed]
  87. Hikosaka O. Mecanismos dos gânglios basais do movimento ocular orientado para a recompensa. Anais da Academia de Ciências de Nova York. 2007; 1104: 229 – 249. [PubMed]
  88. Hikosaka O. A habenula: da evasão do estresse à tomada de decisão baseada no valor. Nat Rev Neurosci. 2010; 11: 503 – 513. [Artigo gratuito do PMC] [PubMed]
  89. Hikosaka O, Takikawa Y, Kawagoe R. Papel dos gânglios da base no controle dos movimentos oculares sacádicos intencionais. Revisões fisiológicas. 2000; 80: 953 – 978. [PubMed]
  90. Hitchcott PK, Quinn JJ, Taylor JR. Modulação bidirecional de ações direcionadas a objetivos pela dopamina cortical pré-frontal. Cereb Cortex. 2007; 17: 2820 – 2827. [PubMed]
  91. Hnasko TS, N Chuhma, Zhang H, Goh GY, Sulzer D, Palmit� RD, Rayport S, Edwards RH. O transporte glutamato vesicular promove o armazenamento de dopamina e o corelease de glutamato in vivo. Neurônio 2010; 65: 643 – 656. [Artigo gratuito do PMC] [PubMed]
  92. Holland PC, circuito de Gallagher M. Amygdala em processos atencionais e representacionais. Tendências em ciências cognitivas. 1999; 3: 65 – 73. [PubMed]
  93. Hollerman JR, Schultz W. Neurônios de dopamina relatam um erro na predição temporal de recompensa durante o aprendizado. Nat Neurosci. 1998; 1: 304 – 309. [PubMed]
  94. Holroyd CB, Coles MG. A base neural do processamento de erros humanos: aprendizado por reforço, dopamina e negatividade relacionada a erros. Psychol Rev. 2002; 109: 679 – 709. [PubMed]
  95. Hong S, Hikosaka O. O globo pálido envia sinais relacionados à recompensa para a habenula lateral. Neurônio 2008; 60: 720 – 729. [Artigo gratuito do PMC] [PubMed]
  96. Horvitz JC. Respostas mesolimbocorticais e nigrostriatais de dopamina a eventos salientes de não recompensa. Neurociência. 2000; 96: 651 – 656. [PubMed]
  97. Horvitz JC, Stewart T, Jacobs BL. A atividade de explosão dos neurônios de dopamina ventral tegmentar é desencadeada por estímulos sensoriais no gato acordado. Cérebro Res. 1997; 759: 251 – 258. [PubMed]
  98. Houk JC, Adams JL, Barto AG. Um modelo de como os gânglios da base geram e usam sinais neurais que predizem o reforço. Em: Houk JC, Davis JL, Beiser DG, editores. Modelos de Processamento de Informação nos Gânglios da Base. Cambridge, MA: MIT Press; 1995. pp. 249 – 274.
  99. Ikemoto S. Circuito de recompensa cerebral além do sistema de dopamina mesolímbica: Uma teoria neurobiológica. Neurociência e análises bio-comportamentais. 2010 [Artigo gratuito do PMC] [PubMed]
  100. Ito R, Dalley JW, Howes SR, Robbins TW, Everitt BJ. Dissociação na liberação de dopamina condicionada no núcleo Núcleo Accumbens e Shell em resposta a dicas de cocaína e durante o comportamento de procura de cocaína em ratos. J Neurosci. 2000; 20: 7489 – 7495. [PubMed]
  101. Ivlieva NY, Timofeeva NO. Atividade de neurônio no núcleo pedunculopontine durante um reflexo condicionado operante relacionado a comida. Neurociência e Fisiologia Comportamental. 2003a; 33: 919 – 928. [PubMed]
  102. Ivlieva NY, Timofeeva NO. Atividade de neurônio no núcleo pedunculopontine durante um reflexo condicionado operante. Neurociência e Fisiologia Comportamental. 2003b; 33: 499 – 506. [PubMed]
  103. Jalabert M, Aston-Jones G, Herzog E, Manzoni O, Georges F. Papel do núcleo leito da estria terminal no controle dos neurônios dopaminérgicos da área tegmental ventral. Progresso em neuro-psicofarmacologia e psiquiatria biológica. 2009; 33: 1336–1346. [Artigo gratuito do PMC] [PubMed]
  104. Jeanblanc J, Hoeltzel A, Louilot A. Dissociação no envolvimento de neurônios dopaminérgicos inervando o núcleo e as sub-regiões do núcleo accumbens em inibição latente e percepção afetiva. Neurociência. 2002; 111: 315 – 323. [PubMed]
  105. Jensen J, Smith AJ, Willeit M., Crawley AP, DJ Mikulis, Vitcu I, Kapur S. Código de regiões do cérebro separado para saliência versus valência durante a predição de recompensa em humanos. Mapeamento do cérebro humano. 2007; 28: 294 – 302. [PubMed]
  106. Jhou TC, campos HL, Baxter MG, CB de Saper, PC de Holland. O núcleo rostromedial tegmental (RMTg), um aferente GABAérgico aos neurônios dopaminérgicos do mesencéfalo, codifica os estímulos aversivos e inibe as respostas motoras. Neurônio 2009a; 61: 786 – 800. [Artigo gratuito do PMC] [PubMed]
  107. Jhou TC, Geisler S, M Marinelli, Degarmo BA, Zahm DS. O núcleo tegmentar rostromedial mesopontino: Uma estrutura visada pela habenula lateral que se projeta para a área ventral tegmental de Tsai e substantia nigra compacta. O Jornal de Neurologia Comparativa. 2009b; 513: 566 – 596. [Artigo gratuito do PMC] [PubMed]
  108. Ji H, Shepard PD. A estimulação lateral da habenula inibe os neurónios de dopamina do mesencéfalo de rato através de um mecanismo mediado pelo receptor GABA (A). J Neurosci. 2007; 27: 6923 – 6930. [PubMed]
  109. Jin X, Costa RM. Sinais de início / parada emergem em circuitos nigrostriatais durante o aprendizado de seqüências. Natureza. 2010; 466: 457 – 462. [Artigo gratuito do PMC] [PubMed]
  110. Johansen JP, Fields HL. A ativação glutamatérgica do córtex cingulado anterior produz um sinal de ensino aversivo. Nat Neurosci. 2004; 7: 398 – 403. [PubMed]
  111. Joseph MH, Datla K, Jovem AM. A interpretação da medida do nucleus accumbens dopamina por diálise in vivo: o chute, o desejo ou a cognição? Neurociência e análises bio-comportamentais. 2003; 27: 527 – 541. [PubMed]
  112. Joshua M, Adler A, Bergman H. A dinâmica da dopamina no controle do comportamento motor. Opinião atual em neurobiologia. 2009a; 19: 615 – 620. [PubMed]
  113. Joshua M, Adler A, Mitelman R, Vaadia E, Bergman H. Os neurônios dopaminérgicos do mesencéfalo e os interneurônios colinérgicos do estriado codificam a diferença entre os eventos de recompensa e de aversão em diferentes épocas dos ensaios probabilísticos de condicionamento clássico. J Neurosci. 2008; 28: 11673 – 11684. [PubMed]
  114. Joshua M, Adler A, Prut Y, E Vaadia, Wickens JR, Bergman H. Sincronização de neurônios dopaminérgicos mesencéfalo é reforçada por eventos de recompensa. Neurônio 2009b; 62: 695 – 704. [PubMed]
  115. Kable JW, Glimcher PW. A neurobiologia da decisão: consenso e controvérsia. Neurônio 2009; 63: 733 – 745. [Artigo gratuito do PMC] [PubMed]
  116. Kakade S, Dayan P. Dopamine: generalização e bônus. Redes neurais. 2002; 15: 549 – 559. [PubMed]
  117. Kapur S. Psychosis como um estado de saliência aberrante: um quadro que liga biologia, fenomenologia e farmacologia na esquizofrenia. O jornal americano de psiquiatria. 2003; 160: 13 – 23. [PubMed]
  118. Kaufling J, Veinante P, Pawlowski SA, Freund-Mercier MJ, Barrot M. Aferentes à cauda GABAergic da área tegmental ventral no rato. O Jornal de Neurologia Comparativa. 2009; 513: 597 – 621. [PubMed]
  119. Kennerley SW, Wallis JD. Avaliando as escolhas de neurônios individuais no lobo frontal: valor de resultado codificado em várias variáveis ​​de decisão. O jornal europeu de neurociência. 2009; 29: 2061 – 2073. [Artigo gratuito do PMC] [PubMed]
  120. Kim H, JH Sul, Huh N, Lee D, Jung MW. Papel do estriado na atualização de valores de ações escolhidas. J Neurosci. 2009; 29: 14701 – 14712. [PubMed]
  121. Kiyatkin EA. Propriedades funcionais de neurônios presumidos contendo dopamina e outros neurônios da área tegmentar ventral em ratos conscientes. Int J Neurosci. 1988a; 42: 21 – 43. [PubMed]
  122. Kiyatkin EA. Modificação induzida pela morfina das propriedades funcionais dos neurônios da área tegmentar ventral em ratos conscientes. Estagiário J Neurociência. 1988b; 41: 57 – 70. [PubMed]
  123. Klingberg T. Treinamento e plasticidade da memória de trabalho. Tendências em ciências cognitivas. 2010; 14: 317 – 324. [PubMed]
  124. Kobayashi S, K Nomoto, Watanabe M, O Hikosaka, Schultz W, Sakagami M. Influências de resultados gratificantes e aversivos sobre a atividade no córtex pré-frontal lateral Macaco. Neurônio 2006; 51: 861 – 870. [PubMed]
  125. Kobayashi S, Schultz W. A influência de atraso de recompensa em respostas de neurônios de dopamine. J Neurosci. 2008; 28: 7837 – 7846. [Artigo gratuito do PMC] [PubMed]
  126. Kobayashi Y, Y de Inoue, Yamamoto M, Isa T, Aizawa H. Contribuição de neurônios de núcleo tegmental pedunculopontine à realização de tarefas de sacada visualmente guiadas em macacos. J Neurophysiol. 2002; 88: 715 – 731. [PubMed]
  127. Koyama T, Tanaka YZ, Mikami A. Os neurônios nociceptivos do cingulado anterior do macaco se ativam durante a antecipação da dor. Neuroreport. 1998; 9: 2663 – 2667. [PubMed]
  128. Kravitz AV, Congelar BS, Parker PR, K Kay, Thwin MT, Deisseroth K, Kreitzer AC. Regulação dos comportamentos motores parkinsonianos pelo controle optogenético dos circuitos dos gânglios da base. Natureza. 2010 [Artigo gratuito do PMC] [PubMed]
  129. Lammel S, Hetzel A, Hackel O, Jones I, Liss B., Roeper J. Propriedades únicas de neurônios mesoprefrontais dentro de um sistema duplo de dopamina mesocorticolímbica. Neurônio 2008; 57: 760 – 773. [PubMed]
  130. Lang PJ, Davis M. Emoção, motivação e cérebro: fundamentos reflexivos em pesquisas com animais e humanos. Progresso na pesquisa do cérebro. 2006; 156: 3 – 29. [PubMed]
  131. Lapish CC, Kroener S, D Durstewitz, Lavin A, Seamans JK. A capacidade do sistema de dopamina mesocortical para operar em modos temporais distintos. Psicofarmacologia (Berl) 2007; 191: 609-625. [PubMed]
  132. Lee D, Seo H. Mecanismos de aprendizagem de reforço e tomada de decisão no córtex pré-frontal dorsolateral de primatas. Anais da Academia de Ciências de Nova York. 2007; 1104: 108 – 122. [PubMed]
  133. Lee HJ, Groshek F. Petrovich GD, Cantalini JP, Gallagher M. Holland PC. Papel do circuito amígdalo-nigral no condicionamento de um estímulo visual emparelhado com comida. J Neurosci. 2005; 25: 3881 – 3888. [Artigo gratuito do PMC] [PubMed]
  134. Levita L., Dalley JW, Robbins TW. Nucleus accumbens dopamina e aprendi medo revisitado: uma revisão e algumas novas descobertas. Pesquisa do cérebro comportamental. 2002; 137: 115 – 127. [PubMed]
  135. Lin SC, Nicolelis MA. Conjunto neuronal estourando no forebrain basal codifica saliência independentemente de valência. Neurônio 2008; 59: 138 – 149. [Artigo gratuito do PMC] [PubMed]
  136. Lisman JE, Grace AA. O loop hipocampo-VTA: controla a entrada de informações na memória de longo prazo. Neurônio 2005; 46: 703 – 713. [PubMed]
  137. Litt A, Plassmann H, Shiv B, Rangel A. Dissociação dos sinais de avaliação e saliência durante a tomada de decisão. Cereb Cortex. 2010 na imprensa. [PubMed]
  138. Liu Z, Richmond BJ, Murray EA, Saunders RC, Steenrod S, Stubblefield BK, Montague DM, Ginns EI. O alvejamento de DNA do córtex rininal A proteína do receptor D2 bloqueia reversivelmente a aprendizagem de pistas que predizem a recompensa. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2004; 101: 12336 – 12341. [Artigo gratuito do PMC] [PubMed]
  139. Liu ZH, Shin R, Ikemoto S. Dupla função dos neurônios A10 medial de dopamina na codificação afetiva. Neuropsicofarmacologia. 2008; 33: 3010 – 3020. [Artigo gratuito do PMC] [PubMed]
  140. Ljungberg T, Apicella P, Schultz W. Respostas de neurônios de dopamina de macaco durante a aprendizagem de reações comportamentais. J Neurophysiol. 1992; 67: 145 – 163. [PubMed]
  141. Lobo MK, Covington HE, 3rd, Chaudhury D, Friedman AK, Sun H, Damez-Werno D, Dietz DM, Zaman S, JW Koo, Kennedy PJ, et al. A perda de sinalização de BDNF específica do tipo de célula imita o controle optogenético da recompensa de cocaína. Ciência. 2010; 330: 385 – 390. [Artigo gratuito do PMC] [PubMed]
  142. Maeda H, Mogenson GJ. Efeitos da estimulação periférica sobre a atividade de neurônios na área tegmentar ventral, substantia nigra e formação reticular mesencefálica de ratos. Boletim de pesquisa do cérebro. 1982; 8: 7 – 14. [PubMed]
  143. Mantz J, Thierry AM, Glowinski J. Efeito da pinça nociva na taxa de descarga dos neurônios dopaminérgicos mesocorticais e mesolímbicos: ativação seletiva do sistema mesocortical. Cérebro Res. 1989; 476: 377 – 381. [PubMed]
  144. Margolis EB, Lock H, Hjelmstad GO, Campos HL. A área tegmentar ventral revisitada: existe um marcador eletrofisiológico para neurônios dopaminérgicos? O jornal de fisiologia. 2006; 577: 907 – 924. [Artigo gratuito do PMC] [PubMed]
  145. Margolis EB, Mitchell JM, Ishikawa J, Hjelmstad GO, Campos HL. Neurônios dopaminérgicos mesencéfalos: o alvo da projeção determina a duração do potencial de ação e a inibição do receptor da dopamina D (2). J Neurosci. 2008; 28: 8908 – 8913. [PubMed]
  146. Mark GP, Blander DS, Hoebel BG. Um estímulo condicionado diminui a dopamina extracelular no núcleo accumbens após o desenvolvimento de uma aversão ao paladar. Cérebro Res. 1991; 551: 308 – 310. [PubMed]
  147. Marowsky A, Yanagawa Y, K Obata, Vogt KE. Uma subclasse especializada de interneurônios medeia a facilitação dopaminérgica da função da amígdala. Neurônio 2005; 48: 1025 – 1037. [PubMed]
  148. Matsumoto M, Hikosaka O. A habenula lateral é uma fonte de sinais negativos de recompensa em neurônios dopaminérgicos. Natureza. 2007; 447: 1111 – 1115. [PubMed]
  149. Matsumoto M, Hikosaka O. Representação do valor motivacional negativo na habenula lateral primata. Nat Neurosci. 2009a; 12: 77 – 84. [Artigo gratuito do PMC] [PubMed]
  150. Matsumoto M, Hikosaka O. Dois tipos de neurônios dopaminérgicos transmitem distintamente sinais motivacionais positivos e negativos. Natureza. 2009b; 459: 837 – 841. [Artigo gratuito do PMC] [PubMed]
  151. Matsumoto M, Matsumoto K. Abe H. Tanaka K. Atividade celular pré-frontal medial que sinaliza erros de predição de valores de ação. Nat Neurosci. 2007; 10: 647 – 656. [PubMed]
  152. Maio PJ, McHaffie JG, H de Stanford, H de H, Costello MG, Coizet V, Hayes LM, SN de Haber, Redgrave P. Projeções tectonigrais no primata: um caminho para entrada sensorial pre-atentiva aos neurônios dopaminérgicos do mesencéfalo. O jornal europeu de neurociência. 2009; 29: 575 – 587. [Artigo gratuito do PMC] [PubMed]
  153. Mazzoni P., Hristova A., Krakauer JW. Por que não nos movemos mais rápido? Doença de Parkinson, vigor do movimento e motivação implícita. J Neurosci. 2007; 27: 7105–7116. [PubMed]
  154. Merali Z, Michaud D, McIntosh J, Kent P, Anisman H. Envolvimento diferencial do sistema (s) CRH amigdaloide (s) na saliência e valência dos estímulos. Progresso em neuro-psicofarmacologia e psiquiatria biológica. 2003; 27: 1201–1212. [PubMed]
  155. Mirenowicz J, Schultz W. Ativação preferencial dos neurônios dopaminérgicos mesencefálicos por estímulos apetitivos, e não aversivos. Natureza. 1996; 379: 449 – 451. [PubMed]
  156. Molina-Luna K, Pekanovic A, Rohrich S, Hertler B, MS Schubring-Giese, MS Rioult-Pedotti, Luft AR. A dopamina no córtex motor é necessária para a aprendizagem de habilidades e plasticidade sináptica. PLoS ONE. 2009; 4: e7082. [Artigo gratuito do PMC] [PubMed]
  157. Montague PR, Berns GS. Economia neural e os substratos biológicos da avaliação. Neurônio 2002; 36: 265 – 284. [PubMed]
  158. Montague PR, Dayan P, Sejnowski TJ. Um quadro para sistemas de dopamina mesencefálicos baseado na aprendizagem preditiva de Hebbian. J Neurosci. 1996; 16: 1936 – 1947. [PubMed]
  159. Morris G, Arkadir D, Nevet A, E Vaadia, Bergman H. Mensagens coincidentes mas distintas de dopamina mesencéfalo e neurônios tonicamente ativos estriados. Neurônio 2004; 43: 133 – 143. [PubMed]
  160. Morris G, Nevet A, Arkadir D, Vaadia E, Bergman H. Os neurônios dopaminérgicos Midbrain codificam as decisões para ação futura. Nat Neurosci. 2006; 9: 1057 – 1063. [PubMed]
  161. Morrison SE, CD de Salzman. A convergência de informações sobre estímulos recompensadores e aversivos em neurônios individuais. J Neurosci. 2009; 29: 11471 – 11483. [Artigo gratuito do PMC] [PubMed]
  162. Os neurônios Nakahara H, Itoh H, Kawagoe R, Takikawa Y e Hikosaka O. Dopamina podem representar um erro de predição dependente do contexto. Neurônio 2004; 41: 269 – 280. [PubMed]
  163. Nakamura K, Hikosaka O. Papel da dopamina no núcleo caudado de primatas na modulação de recompensa de sacadas. J Neurosci. 2006; 26: 5360 – 5369. [PubMed]
  164. Neve KA, Seamans JK, Trantham-Davidson H. Sinalização do receptor da dopamina. Jornal de pesquisa de receptor e transdução de sinal. 2004; 24: 165 – 205. [PubMed]
  165. Nishijo H, Ono T, Nishino H. Respostas de neurônios únicos na amígdala de macaco alerta durante a estimulação sensorial complexa com significado afetivo. J Neurosci. 1988; 8: 3570 – 3583. [PubMed]
  166. Niv Y, Daw ND, Joel D, dayan P. Tonic dopamina: custos de oportunidade e controle do vigor de resposta. Psicofarmacologia. 2007; 191: 507 – 520. [PubMed]
  167. Nomoto K, Schultz W, Watanabe T, Sakagami M. Estimularam temporariamente as respostas de dopamina a estímulos de previsão de recompensa perceptivelmente exigentes. J Neurosci. 2010; 30: 10692 – 10702. [Artigo gratuito do PMC] [PubMed]
  168. Okada K, Y de Toyama, Y de Inoue, T de Isa, Kobayashi Y. Os neurônios diferentes do tegmental do pedunculopontine indicam recompensas preditas e reais da tarefa. J Neurosci. 2009; 29: 4858 – 4870. [PubMed]
  169. Omelchenko N, Bell R, Sesack SR. Projeções laterais de habenula para neurônios dopaminérgicos e GABA na área tegmentar ventral de ratos. O jornal europeu de neurociência. 2009; 30: 1239 – 1250. [Artigo gratuito do PMC] [PubMed]
  170. CA Owesson-Branco, Ariansen J, Stuber GD, Cleaveland NA, elogio JF, Wightman RM, Carelli RM. A codificação neural do comportamento de procura de cocaína é coincidente com a liberação de dopamina fásica no núcleo e na concha de accumbens. O jornal europeu de neurociência. 2009; 30: 1117 – 1127. [Artigo gratuito do PMC] [PubMed]
  171. Oyama K, Hernadi I, T Iijima, Tsutsui K. Código de erro de previsão de recompensa em neurônios dorsais do estriado. J Neurosci. 2010; 30: 11447 – 11457. [PubMed]
  172. Packard MG, White NM. Dissociação dos sistemas de memória do hipocampo e do núcleo caudado pelo pós-treino de injeção intracerebral de agonistas da dopamina. Neurociência comportamental. 1991; 105: 295 – 306. [PubMed]
  173. Padoa-Schioppa C. Córtex orbitofrontal e o cálculo do valor econômico. Anais da Academia de Ciências de Nova York. 2007; 1121: 232 – 253. [PubMed]
  174. Palmiter RD. A sinalização da dopamina no estriado dorsal é essencial para comportamentos motivados: lições de camundongos deficientes em dopamina. Anais da Academia de Ciências de Nova York. 2008; 1129: 35 – 46. [Artigo gratuito do PMC] [PubMed]
  175. Pan WX, Hyland BI. O núcleo tegmentar de pedunculopontina controla as respostas condicionadas dos neurônios dopaminérgicos do mesencéfalo em ratos que se comportam. J Neurosci. 2005; 25: 4725 – 4732. [PubMed]
  176. Pan WX, Schmidt R, Jens Wickens, Hyland BI. Mecanismo tripartido de extinção sugerido pela atividade neuronal da dopamina e modelo de diferença temporal. J Neurosci. 2008; 28: 9619 – 9631. [PubMed]
  177. Parker JG, Zweifel LS, Clark JJ, Evans SB, Phillips PE, Palmiter RD. Ausência de receptores NMDA em neurônios dopaminérgicos atenua a liberação de dopamina, mas não a abordagem condicionada durante o condicionamento pavloviano. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2010 [Artigo gratuito do PMC] [PubMed]
  178. Pascoe JP, Kapp BS. Características eletrofisiológicas dos neurônios do núcleo central da amígdala durante o condicionamento de medo pavloviano no coelho. Pesquisa do cérebro comportamental. 1985; 16: 117 – 133. [PubMed]
  179. Pascucci T, Ventura R, CE Latagliata, Cabib S, Puglisi-Allegra S. O córtex pré-frontal medial determina a resposta da accumbens dopamina ao estresse através das influências opostas de norepinefrina e dopamina. Cereb Cortex. 2007; 17: 2796 – 2804. [PubMed]
  180. Pearce JM, Hall G. Um modelo para a aprendizagem pavloviana: variações na eficácia dos estímulos condicionados, mas não incondicionados. Psychol Rev. 1980; 87: 532 – 552. [PubMed]
  181. Pezze MA, Feldon J. Caminhos dopaminérgicos mesolímbicos no condicionamento ao medo. Progresso na neurobiologia. 2004; 74: 301 – 320. [PubMed]
  182. Phillips AG, Ahn S e Howland JG. Controle amigdalar do sistema dopaminérgico mesocorticolímbico: vias paralelas ao comportamento motivado. Neurociência e análises bio-comportamentais. 2003a; 27: 543 – 554. [PubMed]
  183. Phillips GD, Salussolia E, Hitchcott PK. Papel da projeção de dopamina mesoamigálica na aprendizagem emocional. Psicofarmacologia. 2010 [PubMed]
  184. Phillips PE, Stuber GD, Heien ML, RM Wightman, Carelli RM. A liberação de dopamina de subsegundo promove a busca de cocaína. Natureza. 2003b; 422: 614 – 618. [PubMed]
  185. Porrino LJ, Goldman-Rakic ​​PS. Inervação do tronco encefálico do córtex pré-frontal e cingulado anterior no macaco rhesus revelada pelo transporte retrógrado de HRP. O Jornal de Neurologia Comparativa. 1982; 205: 63 – 76. [PubMed]
  186. Puryear CB, Kim MJ e Mizumori SJ. Codificação conjuntiva do movimento e recompensa pelos neurônios da área tegmentar ventral no roedor que navega livremente. Neurociência comportamental. 2010; 124: 234 – 247. [Artigo gratuito do PMC] [PubMed]
  187. Ravel S, Legalet E, Apicella P. Os neurônios tonicamente ativos no corpo estriado do macaco não respondem preferencialmente aos estímulos apetitivos. Pesquisa experimental do cérebro. Experimentelle Hirnforschung. 1999; 128: 531 – 534. [PubMed]
  188. Ravel S, Legallet E, Apicella P. Respostas de neurônios tonicamente ativos no corpo estriado de macaco discriminam entre estímulos motivacionalmente opostos. J Neurosci. 2003; 23: 8489 – 8497. [PubMed]
  189. Ravel S, Richmond BJ. Respostas neuronais da dopamina em macacos realizando programas de recompensa visualmente orientados. O jornal europeu de neurociência. 2006; 24: 277 – 290. [PubMed]
  190. Redgrave P, Gurney K. O sinal de dopamina de latência curta: um papel na descoberta de novas ações? Nat Rev Neurosci. 2006; 7: 967 – 975. [PubMed]
  191. Redgrave P, Prescott TJ, Gurney K. A resposta de dopamina de latência curta é muito curta para sinalizar um erro de recompensa? Tendências em neurociências. 1999; 12: 146 – 151. [PubMed]
  192. Rescorla RA, Wagner AR. Uma teoria do condicionamento pavloviano: variações na eficácia do reforçamento e não reforço. Em: Black AH, Prokasy WF, editores. Condicionamento Clássico II: Pesquisa e Teoria Atual. Nova Iorque, Nova Iorque: Appleton Century Crofts; 1972. pp. 64 – 99.
  193. Reynolds JNJ, Hyland BI, Wickens JR. Um mecanismo celular de aprendizado relacionado à recompensa. Natureza. 2001; 413: 67 – 70. [PubMed]
  194. Reynolds SM, Berridge KC. Motivação positiva e negativa na concha do nucleus accumbens: gradientes rostrocaudais bivalentes para alimentação induzida por GABA, reações de gosto de "gostar" / "não gostar", preferência / evitação de lugar e medo. J Neurosci. 2002; 22: 7308–7320. [PubMed]
  195. Richardson RT, DeLong MR. Estudos eletrofisiológicos das funções do núcleo basal em primatas. Avanços na medicina experimental e biologia. 1991; 295: 233 – 252. [PubMed]
  196. Robbins TW, Arnsten AF. A neuropsicofarmacologia da função fronto-executiva: modulação monoaminérgica. Revisão anual da neurociência. 2009; 32: 267 – 287. [Artigo gratuito do PMC] [PubMed]
  197. Robinson DL, Herman A, Seipel AT, Wightman RM. Monitoramento de comunicação química rápida no cérebro. Revisões químicas. 2008; 108: 2554 – 2584. [Artigo gratuito do PMC] [PubMed]
  198. Roesch MR, Dr. Calu DJ, Schoenbaum G. Os neurônios dopaminérgicos codificam a melhor opção em ratos que decidem entre recompensas diferentemente atrasadas ou dimensionadas. Nat Neurosci. 2007; 10: 1615 – 1624. [Artigo gratuito do PMC] [PubMed]
  199. Roesch MR, Olson CR. Atividade neuronal relacionada ao valor da recompensa e motivação no córtex frontal primata. Ciência. 2004; 304: 307 – 310. [PubMed]
  200. Roitman MF, Wheeler RA, RM Wightman, Carelli RM. Respostas químicas em tempo real no núcleo accumbens diferenciam estímulos recompensadores e aversivos. Nat Neurosci. 2008; 11: 1376 – 1377. [Artigo gratuito do PMC] [PubMed]
  201. Rutledge RB, Lazzaro SC, Lau B, Myers CE, Gluck MA, Glimcher PW. As drogas dopaminérgicas modulam as taxas de aprendizagem e perseveração em pacientes com Parkinson em uma tarefa dinâmica de forrageamento. J Neurosci. 2009; 29: 15104–15114. [Artigo gratuito do PMC] [PubMed]
  202. Salamone JD. O envolvimento do núcleo accumbens dopamina na motivação apetitiva e aversiva. Pesquisa do cérebro comportamental. 1994; 61: 117 – 133. [PubMed]
  203. Salamone JD, Correa M., Farrar A, Mingote SM. Funções relacionadas ao esforço da dopamina do nucleus accumbens e dos circuitos anteriores do prosencéfalo. Psicofarmacologia (Berl) 2007; 191: 461 – 482. [PubMed]
  204. Satoh T, Nakai S, Sato T, Kimura M. Codificação correlacionada de motivação e resultado de decisão por neurônios dopaminérgicos. J Neurosci. 2003; 23: 9913 – 9923. [PubMed]
  205. Savine AC, Beck SM, Edwards BG, Chiew KS, Braver TS. Aumento do controle cognitivo por meio de estados motivacionais de abordagem e evitação. Cognição e emoção. 2010; 24: 338–356. [Artigo gratuito do PMC] [PubMed]
  206. Schoenbaum G, Roesch MR, Stalnaker TA, Takahashi YK. Uma nova perspectiva sobre o papel do córtex orbitofrontal no comportamento adaptativo. Nat Rev Neurosci. 2009; 10: 885 – 892. [Artigo gratuito do PMC] [PubMed]
  207. Schultz W. Respostas dos neurônios dopaminérgicos do mesencéfalo aos estímulos comportamentais do macaco. J Neurophysiol. 1986; 56: 1439 – 1461. [PubMed]
  208. Schultz W. Sinal de recompensa preditivo dos neurônios dopaminérgicos. J Neurophysiol. 1998; 80: 1 – 27. [PubMed]
  209. Schultz W. Múltiplas funções da dopamina em diferentes cursos de tempo. Revisão anual da neurociência. 2007; 30: 259 – 288. [PubMed]
  210. Schultz W. Dopamine sinaliza o valor e o risco da recompensa: dados básicos e recentes. Behav Brain Funct. 2010; 6: 24. [Artigo gratuito do PMC] [PubMed]
  211. Schultz W, Dayan P, Montague PR. Um substrato neural de predição e recompensa. Ciência. 1997; 275: 1593 – 1599. [PubMed]
  212. Schultz W, Romo R. Respostas dos neurônios dopaminérgicos nigrostriatais à estimulação somatossensorial de alta intensidade no macaco anestesiado. J Neurophysiol. 1987; 57: 201 – 217. [PubMed]
  213. Schultz W, Romo R. Neurônios dopaminérgicos do mesencéfalo do macaco: contingências de respostas a estímulos que provocam reações comportamentais imediatas. J Neurophysiol. 1990; 63: 607 – 624. [PubMed]
  214. Seo H, Lee D. Filtragem temporal de sinais de recompensa no córtex cingulado anterior dorsal durante um jogo de estratégia mista. J Neurosci. 2007; 27: 8366 – 8377. [Artigo gratuito do PMC] [PubMed]
  215. Shabel SJ, Janak PH. Semelhança substancial na atividade neuronal da amígdala durante a excitação emocional apetitiva e aversiva condicionada. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2009; 106: 15031 – 15036. [Artigo gratuito do PMC] [PubMed]
  216. Shadmehr R, Smith MA, Krakauer JW. Correção de erros, previsão sensorial e adaptação no controle motor. Revisão anual da neurociência. 2010 [PubMed]
  217. Shen W, Flajolet M, Greengard P, DJ Surmeier. Controle dopaminérgico dicotômico da plasticidade sináptica do estriado. Ciência. 2008; 321: 848 – 851. [Artigo gratuito do PMC] [PubMed]
  218. Shimo Y, Wichmann T. A atividade neuronal no núcleo subtalâmico modula a liberação de dopamina no corpo estriado do macaco. O jornal europeu de neurociência. 2009; 29: 104 – 113. [Artigo gratuito do PMC] [PubMed]
  219. Shippenberg TS, Bals-Kubik R, Huber A, Herz A. Substratos neuroanatômicos que medeiam os efeitos aversivos dos antagonistas dos receptores da dopamina D-1. Psicofarmacologia (Berl) 1991; 103: 209-214. [PubMed]
  220. Shumake J, Ilango A, H Scheich, Wetzel W, Ohl FW. Neuromodulação diferencial da aquisição e recuperação da aprendizagem de esquiva pela habenula lateral e área tegmentar ventral. J Neurosci. 2010; 30: 5876 – 5883. [PubMed]
  221. DM pequeno, Gregory MD, Mak YE, Gitelman D, Mesulam MM, Parrish T. Dissociação da representação neural de intensidade e valoração afetiva na gustação humana. Neurônio 2003; 39: 701 – 711. [PubMed]
  222. Stefani MR, Moghaddam B. A aprendizagem de regras e a contingência de recompensas estão associadas a padrões dissociáveis ​​de ativação da dopamina no córtex pré-frontal de ratos, no núcleo accumbens e no estriado dorsal. J Neurosci. 2006; 26: 8810 – 8818. [Artigo gratuito do PMC] [PubMed]
  223. Steinfels GF, Heym J, Strecker RE, Jacobs BL. Resposta dos neurônios dopaminérgicos no gato aos estímulos auditivos apresentados ao longo do ciclo vigília-sono. Cérebro Res. 1983; 277: 150 – 154. [PubMed]
  224. Strecker RE, Jacobs BL. Atividade da unidade dopaminérgica de substância negra em gatos que se comportam: efeito da excitação na descarga espontânea e atividade sensorial evocada. Cérebro Res. 1985; 361: 339 – 350. [PubMed]
  225. Stuber GD, Hnasko TS, Britt JP, Edwards RH, Bonci A. Terminais dopaminérgicos no núcleo accumbens mas não no glutamato de corelease do estriado dorsal. Jornal de Neurociência. 2010; 30: 8229 – 8233. [Artigo gratuito do PMC] [PubMed]
  226. Stuber GD, Wightman RM, Carelli RM. A extinção da autoadministração de cocaína revela sinais dopaminérgicos funcionalmente e temporalmente distintos no núcleo accumbens. Neurônio 2005; 46: 661 – 669. [PubMed]
  227. Sul JH, Kim H, Huh N, Lee D, Jung MW. Papéis distintos do córtex pré-frontal orbitofrontal e medial de roedores na tomada de decisão. Neurônio 2010; 66: 449 – 460. [Artigo gratuito do PMC] [PubMed]
  228. Surmeier DJ, Ding J, Dia M, Wang Z, Shen W. D1 e D2 modulação do receptor de dopamina da sinalização glutamatérgica do estriado em neurônios espinhais do meio estriado. Tendências em neurociências. 2007; 30: 228 – 235. [PubMed]
  229. DJ Surmeier, Shen W, Dia M, T Gertler, Chan S, Tian X, Plotkin JL. O papel da dopamina na modulação da estrutura e função dos circuitos estriados. Progresso na pesquisa do cérebro. 2010; 183C: 148 – 167. [PubMed]
  230. Sutton RS, Barto AG. Em direção a uma teoria moderna de redes adaptativas: expectativa e previsão. Psychol Rev. 1981; 88: 135 – 170. [PubMed]
  231. Takahashi YK, MR de Roesch, TA de Stalnaker, Haney RZ, DJ de Calu, AR de Taylor, Burke KA, Schoenbaum G. O córtex orbitofrontal e a área tegmental ventral são necessários aprendendo de resultados inesperados. Neurônio 2009; 62: 269 – 280. [Artigo gratuito do PMC] [PubMed]
  232. Takikawa Y, Kawagoe R, Hikosaka O. Um possível papel dos neurônios dopaminérgicos mesencefálicos na adaptação de sacadas a curto e longo prazo ao mapeamento de recompensa por posição. J Neurophysiol. 2004; 92: 2520 – 2529. [PubMed]
  233. Tecuapetla F, Patel JC, Xenias H, Inglês D, Tadros I, Shah F, Berlim J, Deisseroth K, Arroz ME, Tepper JM, Koos T. Sinalização glutamatérgica por neurônios dopaminérgicos mesolímbicos no nucleus accumbens. J Neurosci. 2010; 30: 7105 – 7110. [Artigo gratuito do PMC] [PubMed]
  234. Thierry AM, Tassin JP, G Blanc, Glowinski J. Ativação seletiva do sistema DA mesocortical por estresse. Natureza. 1976; 263: 242 – 244. [PubMed]
  235. Tobler PN, Dickinson A, Schultz W. Codificação de Omissão de Recompensas Previstas por Neurônios de Dopamina em um Paradigma de Inibição Condicionado. J Neurosci. 2003; 23: 10402 – 10410. [PubMed]
  236. Tobler PN, Fiorillo CD, Schultz W. Codificação adaptativa do valor de recompensa pelos neurônios dopaminérgicos. Ciência. 2005; 307: 1642 – 1645. [PubMed]
  237. Tsai HC, Zhang F, Adamantidis A, Stuber GD, Bonci A, Lecea L, Deisseroth K. Fasic Firing em neurônios dopaminérgicos é suficiente para o condicionamento comportamental. Ciência. 2009 [PubMed]
  238. Ullsperger M. Estudos de associação genética de monitoramento de desempenho e aprendizagem a partir de feedback: o papel da dopamina e da serotonina. Neurociência e análises bio-comportamentais. 2010; 34: 649 – 659. [PubMed]
  239. MA inculpável. Dopamina: a questão saliente. Tendências em neurociências. 2004; 27: 702 – 706. [PubMed]
  240. Uylings HB, Groenewegen HJ, Kolb B. Os ratos têm um córtex pré-frontal? Pesquisa do cérebro comportamental. 2003; 146: 3 – 17. [PubMed]
  241. Ventura R, Cabib S, Puglisi-Allegra S. Em frente à resposta da dopamina mesocorticolímbica dependente do genótipo ao estresse. Neurociência. 2001; 104: 627 – 631. [PubMed]
  242. Ventura R, Latagliata EC, Morrone C, La Mela I, Puglisi-Allegra S. A norepinefrina pré-frontal determina a atribuição de “alta” saliência motivacional. PLoS ONE. 2008; 3: e3044. [Artigo gratuito do PMC] [PubMed]
  243. Ventura R, Morrone C, Puglisi-Allegra S. O sistema de catecolamina pré-frontal / accumbal determina a atribuição de saliência motivacional a estímulos relacionados à recompensa e à aversão. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2007; 104: 5181 – 5186. [Artigo gratuito do PMC] [PubMed]
  244. Vogt BA. Interações de dor e emoção em sub-regiões do giro cingulado. Nat Rev Neurosci. 2005; 6: 533 – 544. [Artigo gratuito do PMC] [PubMed]
  245. Voon V, Pessiglione M, Brezing C, Gallea C, Fernández HH, Dolan RJ, Hallett M. Mecanismos subjacentes às recompensas mediadas por dopamina em comportamentos compulsivos. Neurônio 2010; 65: 135 – 142. [Artigo gratuito do PMC] [PubMed]
  246. As respostas de Waelti P, Dickinson A, Schultz W. Dopamina cumprem as suposições básicas da teoria da aprendizagem formal. Natureza. 2001; 412: 43 – 48. [PubMed]
  247. Wallis JD, Kennerley SW. Sinais de recompensa heterogênea no córtex pré-frontal. Opinião atual em neurobiologia. 2010; 20: 191 – 198. [Artigo gratuito do PMC] [PubMed]
  248. Walton ME, Behrens TE, Buckley MJ, Rudebeck PH, Rushworth MF. Sistemas de aprendizagem separáveis ​​no cérebro de macacos e o papel do córtex orbitofrontal na aprendizagem contingente. Neurônio 2010; 65: 927 – 939. [Artigo gratuito do PMC] [PubMed]
  249. Wheeler RA, Twining RC, Jones JL, JM Slater, Grigson PS, Carelli RM. Índices comportamentais e eletrofisiológicos de afeto negativo predizem a autoadministração de cocaína. Neurônio 2008; 57: 774 – 785. [PubMed]
  250. Wightman RM, Heien MLAV, Wassum KM, LA Sombers, Aragona BJ, AS Khan, Ariansen JL, Elogio JF, Phillips PE, Carelli RM. A liberação de dopamina é heterogênea dentro dos microambientes do núcleo do rato accumbens. O jornal europeu de neurociência. 2007; 26: 2046 – 2054. [PubMed]
  251. Williams GV, Castner SA. Sob a curva: questões críticas para elucidar a função do receptor D1 na memória de trabalho. Neurociência. 2006; 139: 263 – 276. [PubMed]
  252. Williams SM, Goldman-Rakic ​​PS. Origem generalizada do sistema de dopamina primata mesofrontal. Cereb Cortex. 1998; 8: 321 – 345. [PubMed]
  253. Winn P. Qual a melhor maneira de considerar a estrutura e função do núcleo tegmentar pedunculopontina: evidências de estudos em animais. Jornal das Ciências Neurológicas. 2006; 248: 234 – 250. [PubMed]
  254. RA sábio. Dopamina, aprendizagem e motivação. Nat Rev Neurosci. 2004; 5: 483 – 494. [PubMed]
  255. RA sábio. Substratos Forebrain de recompensa e motivação. O Jornal de Neurologia Comparativa. 2005; 493: 115 – 121. [Artigo gratuito do PMC] [PubMed]
  256. Wise SP. Campos frontais avançados: filogenia e função fundamental. Tendências em neurociências. 2008; 31: 599 – 608. [Artigo gratuito do PMC] [PubMed]
  257. Yamada H, Matsumoto N, Kimura M. Neurônios tonicamente ativos no núcleo caudado de primatas e putâmen codificam diferentemente os resultados motivacionais instruídos da ação. J Neurosci. 2004; 24: 3500 – 3510. [PubMed]
  258. Yamada H, Matsumoto N, Kimura M. Codificação baseada na instrução atual e histórica dos resultados comportamentais futuros no corpo estriado. J Neurophysiol. 2007; 98: 3557 – 3567. [PubMed]
  259. Yin HH, Knowlton BJ. O papel dos gânglios da base na formação de hábitos. Nat Rev Neurosci. 2006; 7: 464 – 476. [PubMed]
  260. Jovem AM, Moran PM, Joseph MH. O papel da dopamina no condicionamento e na inibição latente: o que, quando, onde e como? Neurociência e análises bio-comportamentais. 2005; 29: 963 – 976. [PubMed]
  261. Zaghloul KA, Blanco JA, Weidemann CT, McGill K, Jaggi JL, Baltuch GH, Kahana MJ. Os neurônios humanos substantia nigra codificam recompensas financeiras inesperadas. Ciência. 2009; 323: 1496 – 1499. [Artigo gratuito do PMC] [PubMed]
  262. Zahniser NR, Sorkin A. Regulação rápida do transportador de dopamina: papel na dependência de estimulantes? Neurofarmacologia. 2004; 47 Suppl 1: 80 – 91. [PubMed]
  263. Zhang L., Doyon WM, Clark JJ, Phillips PE, Dani JA. Controles de transmissão de dopamina tônica e fásica no estriado dorsal e ventral. Farmacologia Molecular. 2009; 76: 396 – 404. [Artigo gratuito do PMC] [PubMed]
  264. Zink CF, Pagnoni G, Martin ME, Dhamala M, Berns GS. Resposta estriada humana a estímulos salientes não recompensadores. Jornal de Neurociência. 2003; 23: 8092 – 8097. [PubMed]
  265. Zweifel LS, Argilli E, Bonci A, Palmiter RD. Papel dos receptores NMDA em neurônios dopaminérgicos para plasticidade e comportamentos aditivos. Neurônio 2008; 59: 486 – 496. [Artigo gratuito do PMC] [PubMed]
  266. Zweifel LS, Parker JG, Lobb CJ, �gua da chuva A, Wall VZ, JP Fadok, Darvas M, Kim MJ, Mizumori SJ, Paladini CA, et al. O rompimento da queima de rajada dependente de NMDAR por neurônios de dopamina fornece uma avaliação seletiva do comportamento dependente de dopamina fásica. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2009; 106: 7281 – 7288. [Artigo gratuito do PMC] [PubMed]