Dopamina no controle motivacional: gratificante, aversivo e alerta (2010)

Neurônio Manuscrito do autor; disponível no PMC Dec 9, 2011.

Publicado na forma final editada como:

PMCID: PMC3032992

NIHMSID: NIHMS253484

Veja outros artigos no PMC que citam o artigo publicado.

Ir para:

RESUMO

Os neurônios dopaminérgicos mesencefálicos são bem conhecidos por suas fortes respostas às recompensas e seu papel crítico na motivação positiva. Tornou-se cada vez mais claro, no entanto, que os neurônios da dopamina também transmitem sinais relacionados a experiências salientes, mas não recompensadoras, como eventos aversivos e de alerta. Aqui nós revisamos os recentes avanços na compreensão das funções de recompensa e não-recompensa da dopamina. Com base nesses dados, propomos que os neurônios dopaminérgicos são de vários tipos que estão conectados com redes cerebrais distintas e têm papéis distintos no controle motivacional. Alguns neurônios dopaminérgicos codificam valores motivacionais, apoiando redes cerebrais para busca, avaliação e valorização da aprendizagem. Outros codificam a saliência motivacional, apoiando redes cerebrais para orientação, cognição e motivação geral. Ambos os tipos de neurônios dopaminérgicos são aumentados por um sinal de alerta envolvido na detecção rápida de sinais sensoriais potencialmente importantes. Nossa hipótese é que essas vias dopaminérgicas de valor, saliência e alerta cooperam para apoiar o comportamento adaptativo.

Introdução

O neurotransmissor dopamina (DA) desempenha um papel crucial no controle motivacional – na aprendizagem do que é bom e ruim no mundo e na escolha de ações para obter as coisas boas e evitar as ruins. As principais fontes de DA no córtex cerebral e na maioria das áreas subcorticais são os neurônios dopaminérgicos do mesencéfalo ventral, localizados na substância negra pars compacta (SNc) e na área tegmental ventral (ATV) ( Bjorklund e Dunnett, 2007 ). Esses neurônios transmitem DA em dois modos: 'tônico' e 'fásico' ( Grace, 1991 ; Grace et al., 2007 ). Em seu modo tônico, os neurônios dopaminérgicos mantêm um nível basal constante de DA nas estruturas neurais subsequentes, o que é vital para o funcionamento normal dos circuitos neurais ( Schultz, 2007 ). Em seu modo fásico, os neurônios DA aumentam ou diminuem drasticamente suas taxas de disparo por 100 a 500 milissegundos, causando grandes mudanças nas concentrações de DA em estruturas a jusante que duram vários segundos ( Schultz, 1998 ; Schultz, 2007 ).

Essas respostas dopaminérgicas fásicas são desencadeadas por muitos tipos de recompensas e estímulos sensoriais relacionados à recompensa ( Schultz, 1998 ) e estão idealmente posicionadas para desempenhar os papéis da dopamina no controle motivacional, incluindo suas funções como sinal de ensino que fundamenta a aprendizagem por reforço ( Schultz et al., 1997 ; Wise, 2005 ) e como sinal de incentivo que promove a busca imediata por recompensa ( Berridge e Robinson, 1998 ). Como resultado, esses sinais de recompensa dopaminérgicos fásicos assumiram um papel proeminente nas teorias sobre as funções dos circuitos corticais e subcorticais e se tornaram objeto de intensa pesquisa em neurociência. Na primeira parte desta revisão, apresentaremos a teoria convencional dos sinais de recompensa dopaminérgicos fásicos e revisaremos os avanços recentes na compreensão de sua natureza e seu controle sobre o processamento neural e o comportamento.

Em contraste com o papel aceito da dopamina (DA) no processamento de recompensas, tem havido um debate considerável sobre o papel da atividade dopaminérgica fásica no processamento de eventos não recompensadores. Algumas teorias sugerem que as respostas fásicas dos neurônios dopaminérgicos codificam principalmente eventos relacionados à recompensa ( Schultz, 1998 ; Ungless, 2004 ; Schultz, 2007 ), enquanto outras sugerem que os neurônios dopaminérgicos transmitem sinais adicionais não relacionados à recompensa, referentes a experiências surpreendentes, novas, salientes e até mesmo aversivas ( Redgrave et al., 1999 ; Horvitz, 2000 ; Di Chiara, 2002 ; Joseph et al., 2003 ; Pezze e Feldon, 2004 ; Lisman e Grace, 2005 ; Redgrave e Gurney, 2006 ). Na segunda parte desta revisão, discutiremos uma série de estudos que testaram essas teorias e revelaram muito sobre a natureza dos sinais não relacionados à recompensa nos neurônios dopaminérgicos. Em particular, esses estudos fornecem evidências de que os neurônios dopaminérgicos são mais diversos do que se pensava anteriormente. Em vez de codificar um único sinal motivacional homogêneo, os neurônios dopaminérgicos apresentam múltiplos tipos que codificam eventos de recompensa e não recompensa de maneiras diferentes. Isso representa um problema para as teorias gerais que buscam identificar a dopamina com um único sinal neural ou mecanismo motivacional.

Para remediar esse dilema, na parte final desta revisão, propomos uma nova hipótese para explicar a presença de múltiplos tipos de neurônios dopaminérgicos (DA), a natureza de seus sinais neurais e sua integração em distintas redes cerebrais para o controle motivacional. Nossa proposta básica é a seguinte: um tipo de neurônio DA codifica o valor motivacional , sendo excitado por eventos recompensadores e inibido por eventos aversivos. Esses neurônios dão suporte aos sistemas cerebrais responsáveis ​​pela busca de objetivos, avaliação de resultados e aprendizagem de valor. Um segundo tipo de neurônio DA codifica a saliência motivacional , sendo excitado tanto por eventos recompensadores quanto aversivos. Esses neurônios dão suporte aos sistemas cerebrais responsáveis ​​pela orientação, processamento cognitivo e impulso motivacional. Além de sua atividade de codificação de valor e saliência, ambos os tipos de neurônios DA também transmitem um sinal de alerta , desencadeado por estímulos sensoriais inesperados de alta importância potencial. Em conjunto, hipotetizamos que esses sinais de valor, saliência e alerta cooperam para coordenar estruturas cerebrais subsequentes e controlar o comportamento motivado.

Dopamina na recompensa: teoria convencional

Dopamina na motivação de ações de busca de recompensa

Há muito se sabe que a dopamina é importante para o reforço e a motivação de ações. Drogas que interferem na transmissão dopaminérgica interferem na aprendizagem por reforço, enquanto manipulações que aumentam a transmissão dopaminérgica, como a estimulação cerebral e drogas viciantes, frequentemente atuam como reforçadores ( Wise, 2004 ). A transmissão dopaminérgica é crucial para criar um estado de motivação para buscar recompensas ( Berridge e Robinson, 1998 ; Salamone et al., 2007 ) e para estabelecer memórias de associações entre estímulos e recompensas ( Dalley et al., 2005 ). A liberação de dopamina não é necessária para todas as formas de aprendizagem por recompensa e pode nem sempre ser "agradável" no sentido de causar prazer, mas é fundamental para fazer com que os objetivos se tornem "desejáveis" no sentido de motivar ações para alcançá-los ( Berridge e Robinson, 1998 ; Palmiter, 2008 ).

Uma hipótese sobre como a dopamina contribui para o aprendizado por reforço é que ela ajusta a força das conexões sinápticas entre os neurônios. A versão mais direta dessa hipótese é que a dopamina controla a plasticidade sináptica de acordo com uma regra hebbiana modificada, que pode ser resumida como "neurônios que disparam juntos se conectam, desde que recebam uma descarga de dopamina". Em outras palavras, se a célula A ativa a célula B, e a célula B provoca uma ação comportamental que resulta em uma recompensa, então a dopamina seria liberada e a conexão A→B seria reforçada ( Montague et al., 1996 ; Schultz, 1998 ). Esse mecanismo permitiria que um organismo aprendesse a escolha ideal de ações para obter recompensas, dada a experiência suficiente por meio de tentativas e erros. Em consonância com essa hipótese, a dopamina exerce uma forte influência na plasticidade sináptica em diversas regiões cerebrais ( Surmeier et al., 2010 ; Goto et al., 2010 ; Molina-Luna et al., 2009 ; Marowsky et al., 2005 ; Lisman e Grace, 2005 ). Em alguns casos, a dopamina possibilita a plasticidade sináptica de acordo com a regra hebbiana descrita anteriormente, de uma maneira que se correlaciona com o comportamento de busca por recompensa ( Reynolds et al., 2001 ). Além de seus efeitos na plasticidade sináptica de longo prazo, a dopamina também pode exercer controle imediato sobre os circuitos neurais, modulando a atividade de disparo neuronal e as conexões sinápticas entre os neurônios ( Surmeier et al., 2007 ; Robbins e Arnsten, 2009 ), em alguns casos de forma a promover ações imediatas de busca por recompensa ( Frank, 2005 ).

Sinais de recompensa neurônio dopamina

Para motivar ações que conduzam a recompensas, a dopamina deve ser liberada durante experiências recompensadoras. De fato, a maioria dos neurônios DA é fortemente ativada por recompensas primárias inesperadas, como comida e água, freqüentemente produzindo 'explosões' de atividade fásica (Schultz, 1998) (excitações fásicas incluindo múltiplos picos (Grace e Bunney, 1983)). No entanto, os estudos pioneiros de Wolfram Schultz mostraram que estas respostas dos neurónios DA não são desencadeadas pelo consumo de recompensa. per se. Em vez disso, eles se assemelham a um "erro de previsão de recompensa", informando a diferença entre a recompensa recebida e a recompensa prevista (Schultz et al., 1997) (Figura 1A). Assim, se uma recompensa é maior do que o previsto, os neurônios DA são fortemente excitados (erro de previsão positivo, Figura 1E, vermelho); se uma recompensa é menor do que o previsto ou não ocorre no tempo indicado, os neurônios DA são inibidos por fases (erro de previsão negativa, Figura 1Eazul); e se uma recompensa é antecipada para que seu tamanho seja totalmente previsível, os neurônios DA têm pouca ou nenhuma resposta (erro de previsão zero, Figura 1C, Preto). O mesmo princípio vale para as respostas do DA a dicas sensoriais que fornecem novas informações sobre recompensas futuras. Os neurônios DA ficam excitados quando uma sugestão indica um aumento no valor futuro da recompensa (Figura 1C, vermelho), inibido quando uma sugestão indica uma diminuição no valor futuro da recompensa (Figura 1C, azul), e geralmente têm pouca resposta a sugestões que não transmitem nenhuma informação nova recompensa (Figura 1E, Preto). Essas respostas de TA se assemelham a um tipo específico de erro de previsão de recompensa denominado erro de diferença temporal ou “erro TD”, que foi proposto para atuar como um sinal de reforço para o aprendizado do valor de ações e estados ambientais (Houk et al., 1995; Montague et al., 1996; Schultz et al., 1997). Modelos computacionais usando um sinal de reforço tipo TD podem explicar muitos aspectos da aprendizagem de reforço em humanos, animais e os próprios neurônios DA (Sutton e Barto, 1981; Waelti et al., 2001; Montague e Berns, 2002; Dayan e Niv, 2008).

Figura 1 

Codificação de dopamina de erros de previsão de recompensa e preferência por informação preditiva

Uma impressionante variedade de experimentos demonstrou que os sinais de DA representam previsões de recompensa de uma maneira que corresponde de perto às preferências comportamentais, incluindo a preferência por grandes recompensas em relação a pequenas ( Tobler et al., 2005 ), recompensas prováveis ​​em relação a improváveis ​​( Fiorillo et al., 2003 ; Satoh et al., 2003 ; Morris et al., 2004 ) e recompensas imediatas em relação a recompensas tardias ( Roesch et al., 2007 ; Fiorillo et al., 2008 ; Kobayashi e Schultz, 2008 ). Há até evidências de que os neurônios DA em humanos codificam o valor de recompensa do dinheiro ( Zaghloul et al., 2009 ). Além disso, os sinais de DA emergem durante a aprendizagem com uma cinética semelhante à das medidas comportamentais de previsão de recompensa ( Hollerman e Schultz, 1998 ; Satoh et al., 2003 ; Takikawa et al., 2004 ; Day et al., 2007 ) e correlacionam-se com medidas subjetivas de preferência por recompensa ( Morris et al., 2006 ). Essas descobertas estabeleceram os neurônios DA como um dos exemplos mais bem compreendidos e replicados de codificação de recompensa no cérebro. Consequentemente, estudos recentes têm submetido os neurônios DA a um escrutínio intenso para descobrir como eles geram previsões de recompensa e como seus sinais atuam em estruturas subsequentes para controlar o comportamento.

Dopamina na recompensa: avanços recentes

Sinais de recompensa neurônio dopamina

Avanços recentes no entendimento dos sinais de recompensa da DA vêm de considerar três questões amplas: Como os neurônios DA aprendem previsões de recompensa? Quão precisas são as suas previsões? E o que eles consideram gratificante?

Como os neurônios dopaminérgicos aprendem a prever recompensas? As teorias clássicas sugerem que as previsões de recompensa são aprendidas por meio de um processo de reforço gradual que requer pareamentos repetidos de estímulo-recompensa ( Rescorla e Wagner, 1972 ; Montague et al., 1996 ). Cada vez que o estímulo A é seguido por uma recompensa inesperada, o valor estimado de A aumenta. Dados recentes, no entanto, mostram que os neurônios dopaminérgicos vão além do simples aprendizado de estímulo-recompensa e fazem previsões com base em crenças sofisticadas sobre a estrutura do mundo. Os neurônios dopaminérgicos podem prever recompensas corretamente mesmo em ambientes não convencionais, onde recompensas pareadas com um estímulo causam uma diminuição no valor desse estímulo ( Satoh et al., 2003 ; Nakahara et al., 2004 ; Bromberg-Martin et al., 2010c ) ou causam uma mudança no valor de um estímulo completamente diferente ( Bromberg-Martin et al., 2010b ). Os neurônios DA também podem adaptar seus sinais de recompensa com base em estatísticas de ordem superior da distribuição de recompensa, como o ajuste dos sinais de erro de predição com base em sua variância esperada ( Tobler et al., 2005 ) e a recuperação espontânea de suas respostas a estímulos de recompensa extintos ( Pan et al., 2008 ). Todos esses fenômenos formam um paralelo notável com efeitos semelhantes observados na adaptação sensorial e motora ( Braun et al., 2010 ; Fairhall et al., 2001 ; Shadmehr et al., 2010 ), sugerindo que eles podem refletir um mecanismo neural geral para a aprendizagem preditiva.

Quão precisas são as previsões de recompensa dos neurônios dopaminérgicos? Estudos recentes demonstraram que os neurônios dopaminérgicos ajustam fielmente seus sinais de recompensa para levar em conta três fontes de incerteza na previsão. Primeiro, humanos e animais sofrem com ruído temporal interno que os impede de fazer previsões confiáveis ​​sobre longos intervalos de tempo entre o estímulo e a recompensa ( Gallistel e Gibbon, 2000 ). Assim, se os atrasos entre o estímulo e a recompensa forem curtos (1–2 segundos), as previsões temporais são precisas e a entrega da recompensa desencadeia pouca resposta dopaminérgica, mas para atrasos mais longos entre o estímulo e a recompensa, as previsões temporais tornam-se menos confiáveis ​​e as recompensas evocam picos claros de dopamina ( Kobayashi e Schultz, 2008 ; Fiorillo et al., 2008 ). Segundo, muitos estímulos no dia a dia são imprecisos, especificando uma ampla distribuição de tempos de entrega da recompensa. Os neurônios DA refletem novamente essa forma de incerteza temporal: eles são progressivamente inibidos durante atrasos variáveis ​​na recompensa, como se sinalizassem erros de previsão de recompensa cada vez mais negativos a cada momento em que a recompensa não aparece ( Fiorillo et al., 2008 ; Bromberg-Martin et al., 2010a ; Nomoto et al., 2010 ). Finalmente, muitas pistas são perceptualmente complexas, exigindo uma inspeção detalhada para se chegar a uma conclusão definitiva sobre seu valor de recompensa. Nessas situações, os sinais de recompensa DA ocorrem com longas latências e de forma gradual, parecendo refletir o fluxo gradual de informações perceptuais à medida que o valor do estímulo é decodificado ( Nomoto et al., 2010 ).

Que eventos os neurônios dopaminérgicos consideram recompensadores? As teorias convencionais de aprendizagem por recompensa sugerem que os neurônios dopaminérgicos atribuem valor com base na quantidade esperada de recompensa primária futura ( Montague et al., 1996 ). No entanto, mesmo quando a taxa de recompensa primária é mantida constante, humanos e animais frequentemente expressam uma preferência adicional por previsibilidade – buscando ambientes onde o tamanho, a probabilidade e o momento de cada recompensa possam ser conhecidos antecipadamente ( Daly, 1992 ; Chew e Ho, 1994 ; Ahlbrecht e Weber, 1996 ). Um estudo recente com macacos descobriu que os neurônios dopaminérgicos sinalizam essa preferência ( Bromberg-Martin e Hikosaka, 2009 ). Os macacos expressaram uma forte preferência por visualizar pistas visuais informativas que lhes permitissem prever o tamanho de uma recompensa futura, em vez de pistas não informativas que não forneciam novas informações. Paralelamente, os neurônios dopaminérgicos foram estimulados pela oportunidade de visualizar as pistas informativas de uma maneira que se correlacionava com a preferência comportamental do animal ( Figura 1B,D ). Isso sugere que os neurônios DA não apenas motivam ações para obter recompensas, mas também motivam ações para fazer previsões precisas sobre essas recompensas, a fim de garantir que as recompensas possam ser adequadamente antecipadas e para as quais seja possível se preparar com antecedência.

Em conjunto, esses resultados mostram que os sinais de erro de previsão de recompensa do DA são sensíveis a fatores sofisticados que informam as previsões de recompensas humanas e animais, incluindo a adaptação a estatísticas de recompensa de alta ordem, incerteza de recompensa e preferências por informações preditivas.

Efeitos dos sinais de recompensa de dopamina em fases nas estruturas a jusante

As respostas de recompensa dopaminérgicas ocorrem em rajadas fásicas síncronas ( Joshua et al., 2009b ), um padrão de resposta que molda a liberação de dopamina em estruturas-alvo ( Gonon, 1988 ; Zhang et al., 2009 ; Tsai et al., 2009 ). Há muito se teoriza que essas rajadas fásicas influenciam a aprendizagem e a motivação de maneira distinta da atividade dopaminérgica tônica ( Grace, 1991 ; Grace et al., 2007 ; Schultz, 2007 ; Lapish et al., 2007 ). Tecnologias desenvolvidas recentemente possibilitaram a confirmação dessa hipótese por meio do controle da atividade dos neurônios dopaminérgicos com alta precisão espacial e temporal. A estimulação optogenética dos neurônios dopaminérgicos da VTA induz uma forte preferência condicionada por local, que ocorre somente quando a estimulação é aplicada em um padrão de rajadas ( Tsai et al., 2009 ). Por outro lado, a eliminação genética dos receptores NMDA dos neurônios DA, que prejudica a atividade em rajadas, mas deixa a atividade tônica praticamente intacta, causa um comprometimento seletivo em formas específicas de aprendizagem por recompensa ( Zweifel et al., 2009 ; Parker et al., 2010 ) (embora seja importante notar que essa eliminação também prejudica a plasticidade sináptica dos neurônios DA ( Zweifel et al., 2008 )). As rajadas de DA podem aprimorar a aprendizagem por recompensa ao reconfigurar circuitos neurais locais. Notavelmente, as rajadas de DA preditivas de recompensa são enviadas para regiões específicas do núcleo accumbens, e essas regiões apresentam níveis especialmente altos de atividade neural preditiva de recompensa ( Cheer et al., 2007 ; Owesson-White et al., 2009 ).

Em comparação com as rajadas fásicas, sabe-se menos sobre a importância das pausas fásicas na atividade neuronal para erros de predição de recompensa negativa. Essas pausas causam alterações menores na taxa de disparo, são menos moduladas pela expectativa de recompensa ( Bayer e Glimcher, 2005 ; Joshua et al., 2009a ; Nomoto et al., 2010 ) e podem ter efeitos menores na aprendizagem ( Rutledge et al., 2009 ). No entanto, certos tipos de aprendizagem de erros de predição negativa requerem a VTA ( Takahashi et al., 2009 ), sugerindo que as pausas fásicas ainda podem ser decodificadas por estruturas a jusante.

Desde explosões e pausas causam padrões muito diferentes de liberação DA, eles são susceptíveis de influenciar as estruturas a jusante através de mecanismos distintos. Há evidências recentes para essa hipótese em um dos principais alvos dos neurônios DA, o estriado dorsal. Os neurônios de projeção do estriado dorsal vêm em dois tipos que expressam diferentes receptores DA. Um tipo expressa os receptores D1 e projeta-se para o caminho direto dos gânglios da base para facilitar os movimentos do corpo; o segundo tipo expressa os receptores D2 e projeta o "caminho indireto" para suprimir os movimentos do corpo (Figura 2) (Albin et al., 1989; Gerfen et al., 1990; Kravitz et al., 2010; Hikida et al., 2010). Com base nas propriedades dessas vias e receptores, teorizou-se que as explosões de DA produzem condições de DA alto, ativam os receptores D1 e fazem com que a via direta selecione movimentos de alto valor (Figura 2A), enquanto as pausas DA produzem condições de baixo DA, inibem os receptores D2 e fazem com que a via indireta suprima os movimentos de baixo valor (Figura 2B) (Frank, 2005; Hikosaka, 2007). Consistente com essa hipótese, a ativação do receptor DA promove a potencialização das sinapses córtico-estriatais na via direta (Shen et al., 2008) e aprender com resultados positivos (Frank et al., 2004; Voon et al., 2010), enquanto o bloqueio dos receptores D1 do estriado afecta selectivamente os movimentos dos alvos recompensados ​​(Nakamura e Hikosaka, 2006). De uma maneira análoga, a ativação baixa do receptor DA promove a potencialização das sinapses córtico-estriatais na via indireta (Shen et al., 2008) e aprender com resultados negativos (Frank et al., 2004; Voon et al., 2010), enquanto o bloqueio dos receptores D2 do estriado suprime seletivamente os movimentos dos alvos não recompensados ​​(Nakamura e Hikosaka, 2006). Esta divisão das funções do receptor D1 e D2 no controle motivacional explica muitos dos efeitos dos genes relacionados ao DA no comportamento humano (Ullsperger, 2010; Frank e Fossella, 2010) e pode se estender além do estriado dorsal, pois há evidências de uma divisão similar do trabalho de parto no estriado ventral (Grace et al., 2007; Lobo et al., 2010).

Figura 2 

Controle de dopamina de motivação positiva e negativa no estriado dorsal

Embora o esquema acima mostre uma imagem simples do controle de comportamento fásico por seus efeitos no estriado, o quadro completo é muito mais complexo. A DA influencia o comportamento relacionado à recompensa, agindo em muitas regiões do cérebro, incluindo o córtex pré-frontal (Hitchcott e outros, 2007), córtex do rimLiu et al., 2004), hipocampo (Packard e Branco, 1991; Grecksch e Matties, 1981) e amígdala (Phillips e outros, 2010). É provável que os efeitos de DA difiram amplamente entre essas regiões devido a variações na densidade de inervação de DA, transportadores de DA, enzimas metabólicas, autoreceptores, receptores e acoplamento de receptores a vias de sinalização intracelular (Neve et al., 2004; Bentivoglio e Morelli, 2005; Frank e Fossella, 2010). Além disso, pelo menos no VTA, os neurônios DA podem ter propriedades celulares diferentes, dependendo de suas metas de projeção (Lammel et al., 2008; Margolis e outros, 2008), e alguns têm a notável capacidade de transmitir glutamato e dopamina (Descarries et al., 2008; Chuhma et al., 2009; Hnasko et al., 2010; Tecuapetla et al., 2010; Stuber et al., 2010; Birgner e outros, 2010). Assim, a extensão total do controle de neurônios DA sobre o processamento neural está apenas começando a ser revelada.

Dopamina: além da recompensa

Até agora, discutimos o papel dos neurônios dopaminérgicos no comportamento relacionado à recompensa, com base em respostas de dopamina que se assemelham a erros de previsão de recompensa. No entanto, tornou-se cada vez mais claro que os neurônios dopaminérgicos respondem de forma fásica a diversos tipos de eventos que não são intrinsecamente recompensadores e não são pistas para recompensas futuras, e que esses sinais não relacionados à recompensa têm um papel importante no processamento motivacional. Esses eventos não relacionados à recompensa podem ser agrupados em duas grandes categorias: aversivos e de alerta , que discutiremos em detalhes a seguir. Eventos aversivos incluem estímulos intrinsecamente indesejáveis ​​(como rajadas de ar, sabores amargos, choques elétricos e outras sensações desagradáveis) e pistas sensoriais que adquiriram propriedades aversivas por meio da associação com esses eventos. Eventos de alerta são pistas sensoriais inesperadas de alta importância potencial, que geralmente desencadeiam reações imediatas para determinar seu significado.

Diversas respostas de dopamina a eventos aversivos

A resposta de um neurônio a eventos aversivos fornece um teste crucial de suas funções no controle motivacional ( Schultz, 1998 ; Berridge e Robinson, 1998 ; Redgrave et al., 1999 ; Horvitz, 2000 ; Joseph et al., 2003 ). Em muitos aspectos, tratamos eventos recompensadores e aversivos de maneiras opostas, refletindo seus valores motivacionais opostos . Buscamos recompensas e atribuímos a elas valor positivo, enquanto evitamos eventos aversivos e atribuímos a eles valor negativo. Em outros aspectos, tratamos eventos recompensadores e aversivos de maneiras semelhantes, refletindo sua saliência motivacional similar [ NOTA DE RODAPÉ 1 ]. Tanto eventos recompensadores quanto aversivos desencadeiam a orientação da atenção, o processamento cognitivo e aumentos na motivação geral.

Quais destas funções os neurônios DA suportam? Há muito se sabe que as experiências estressantes e aversivas causam grandes mudanças nas concentrações de DA nas estruturas cerebrais a jusante, e que as reações comportamentais a essas experiências são dramaticamente alteradas pelos agonistas, antagonistas e lesões de DA (Salamone, 1994; Di Chiara, 2002; Pezze e Feldon, 2004; Young et al., 2005). Esses estudos produziram uma diversidade impressionante de resultados, no entanto (Levita et al., 2002; Di Chiara, 2002; Young et al., 2005). Muitos estudos são consistentes com os neurônios DA codificando a saliência motivacional. Eles relatam que os eventos aversivos aumentam os níveis de DA e que a aversão comportamental é suportada pelos altos níveis de transmissão de DA (Salamone, 1994; Joseph et al., 2003; Ventura et al., 2007; Barr et ai., 2009; Fadok et al., 2009) incluindo explosões de DA fásicas (Zweifel et al., 2009). Mas outros estudos são mais consistentes com os neurônios DA que codificam valores motivacionais. Eles relatam que eventos aversivos reduzem os níveis de DA e que a aversão comportamental é suportada por baixos níveis de transmissão de DA (Mark et al., 1991; Shippenberg et al., 1991; Liu et al., 2008; Roitman et al., 2008). Em muitos casos, esses resultados mistos foram encontrados em estudos isolados, indicando que experiências aversivas causam diferentes padrões de liberação de DA em diferentes estruturas cerebrais (Thierry e outros, 1976; Besson e Louilot, 1995; Ventura et al., 2001; Jeanblanc et al., 2002; Bassareo et al., 2002; Pascucci et al., 2007), e que os medicamentos relacionados ao DA podem produzir uma mistura de efeitos neurais e comportamentais similares àqueles causados ​​por experiências recompensadoras e aversivas (Ettenberg, 2004; Wheeler e outros, 2008).

Essa diversidade de padrões e funções de liberação de DA é difícil de conciliar com a idéia de que os neurônios DA transmitem um sinal motivacional uniforme para todas as estruturas cerebrais. Estas respostas diversas poderiam ser explicadas, no entanto, se os neurónios DA forem eles próprios diversos - compostos por múltiplas populações neurais que suportam diferentes aspectos do processamento aversivo. Essa visão é apoiada por estudos de registro neural em animais anestesiados. Estes estudos mostraram que os estímulos nocivos evocam a excitação em alguns neurónios DA, mas a inibição em outros neurónios DA (Chiodo et al., 1980; Maeda e Mogenson, 1982; Schultz e Romo, 1987; Mantz et al., 1989; Gao e outros, 1990; Coizet e outros, 2006). É importante ressaltar que tanto as respostas excitatórias quanto as inibitórias ocorrem em neurônios confirmados como dopaminérgicos usando marcação justa-celular (Brischoux et al., 2009) (Figura 3). Uma diversidade semelhante de respostas aversivas ocorre durante o comportamento ativo. Diferentes grupos de neurônios DA são fasicamente excitados ou inibidos por eventos aversivos, incluindo estimulação nociva da pele (Kiyatkin, 1988a; Kiyatkin, 1988b), pistas sensoriais prevendo choques aversivos (Guarraci e Kapp, 1999airpuffs aversivos (Matsumoto e Hikosaka, 2009b), e pistas sensoriais prevendo airpuffs aversivos (Matsumoto e Hikosaka, 2009b; Joshua et al., 2009a). Além disso, quando dois neurônios DA são registrados simultaneamente, suas respostas aversivas geralmente têm pouca correlação de tentativa para tentativa entre si (Joshua et al., 2009b), sugerindo que as respostas aversivas não são coordenadas em toda a população do DA como um todo.

Figura 3 

Diversas respostas de neurônios dopaminérgicos a eventos aversivos

Para compreender as funções dessas diversas respostas aversivas, precisamos saber como elas se combinam com as respostas de recompensa para gerar um sinal motivacional significativo. Um estudo recente investigou esse tópico e revelou que os neurônios DA são divididos em múltiplas populações com sinais motivacionais distintos ( Matsumoto e Hikosaka, 2009b ). Uma população é excitada por eventos recompensadores e inibida por eventos aversivos, como se codificasse o valor motivacional ( Figura 4A ). Uma segunda população é excitada tanto por eventos recompensadores quanto por eventos aversivos de maneira semelhante, como se codificasse a saliência motivacional ( Figura 4B ). Em ambas as populações, muitos neurônios são sensíveis a previsões de recompensa e aversão: eles respondem quando os eventos recompensadores são mais recompensadores do que o previsto e quando os eventos aversivos são mais aversivos do que o previsto ( Matsumoto e Hikosaka, 2009b ). Isso demonstra que suas respostas aversivas são realmente causadas por previsões sobre eventos aversivos, descartando a possibilidade de serem causadas por fatores não específicos, como entrada sensorial bruta ou associações generalizadas com recompensa ( Schultz, 2010 ). Essas duas populações diferem, no entanto, na natureza detalhada de seu código preditivo. Os neurônios DA que codificam o valor motivacional codificam um sinal preciso de erro de previsão, incluindo forte inibição pela omissão de recompensas e leve excitação pela omissão de eventos aversivos ( Figura 4A , à direita). Em contraste, os neurônios DA que codificam a saliência motivacional respondem quando eventos salientes estão presentes, mas não quando estão ausentes ( Figura 4B , à direita), o que está de acordo com as noções teóricas de ativação ( Lang e Davis, 2006 ) [ NOTA DE RODAPÉ 2 ]. Evidências dessas duas populações de neurônios DA foram observadas mesmo quando a atividade neural foi examinada de forma média. Assim, estudos direcionados a diferentes partes do sistema DA encontraram sinais DA fásicos codificando eventos aversivos com inibição ( Roitman et al., 2008 ), semelhante à codificação do valor motivacional, ou com excitação ( Joshua et al., 2008 ; Anstrom et al., 2009 ), semelhante à codificação da saliência motivacional.

Figura 4 

Populações distintas de neurônios dopaminérgicos que codificam valor e saliência motivacionais

Essas descobertas recentes podem parecer contradizer um estudo anterior que relatava que os neurônios dopaminérgicos respondem preferencialmente a estímulos de recompensa em vez de estímulos aversivos ( Mirenowicz e Schultz, 1996 ). No entanto, ao serem examinados de perto, mesmo esse estudo se mostra totalmente consistente com a codificação de valor e saliência pelos neurônios dopaminérgicos. Nesse estudo, os estímulos de recompensa levaram a resultados de recompensa com alta probabilidade (>90%), enquanto os estímulos aversivos levaram a resultados aversivos com baixa probabilidade (<10%). Portanto, os neurônios dopaminérgicos que codificam valor e saliência teriam pouca resposta aos estímulos aversivos, codificando com precisão seu baixo nível de aversividade.

Papel funcional dos sinais motivacionais de valor e saliência

Em conjunto, as descobertas acima indicam que os neurônios DA são divididos em múltiplas populações adequadas para funções distintas no controle motivacional. Os neurônios DA que codificam o valor motivacional se encaixam bem com as teorias atuais sobre neurônios dopaminérgicos e processamento de recompensa ( Schultz et al., 1997 ; Berridge e Robinson, 1998 ; Wise, 2004 ). Esses neurônios codificam um sinal completo de erro de predição e codificam eventos recompensadores e aversivos em direções opostas. Assim, esses neurônios fornecem um sinal instrutivo apropriado para busca, avaliação e aprendizagem de valor ( Figura 5 ). Se um estímulo causa a excitação dos neurônios DA que codificam o valor, devemos nos aproximar dele, atribuir-lhe alto valor e aprender ações para buscá-lo novamente no futuro. Se um estímulo causa a inibição dos neurônios DA que codificam o valor, devemos evitá-lo, atribuir-lhe baixo valor e aprender ações para evitá-lo novamente no futuro.

Figura 5 

Funções hipotéticas de valor motivacional, saliência e sinais de alerta

Em contraste, os neurônios DA de codificação de saliência motivacional se encaixam bem com teorias de neurônios de dopamina e processamento de eventos salientes (Redgrave e outros, 1999; Horvitz, 2000; Joseph et al., 2003; Kapur, 2003). Esses neurônios são excitados por eventos recompensadores e aversivos e têm respostas mais fracas a eventos neutros, fornecendo um sinal instrutivo apropriado para circuitos neurais para aprender a detectar, prever e responder a situações de alta importância. Aqui vamos considerar três desses sistemas cerebrais (Figura 5). Primeiro, os circuitos neurais para orientação visual e de atenção são calibrados para descobrir informações sobre todos os tipos de eventos, tanto recompensadores quanto aversivos. Por exemplo, tanto a recompensa quanto as pistas aversivas atraem reações de orientação de forma mais eficaz do que as pistas neutras (Lang e Davis, 2006; Matsumoto e Hikosaka, 2009b; Austin e Duka, 2010) Em segundo lugar, ambas as situações gratificantes e aversivas envolvem sistemas neurais para controle cognitivo e seleção de ação - precisamos envolver a memória de trabalho para manter as informações em mente, resolução de conflitos para decidir sobre um curso de ação e memória de longo prazo para lembrar o resultado resultante (Bradley et al., 1992; Botvinick et al., 2001; Savine e outros, 2010). Terceiro, tanto situações recompensadoras quanto aversivas requerem um aumento na motivação geral para energizar as ações e garantir que elas sejam executadas adequadamente. De fato, os neurônios DA são fundamentais para motivar esforços para alcançar objetivos de alto valor e para traduzir o conhecimento das demandas de tarefas em desempenho de motor confiável (Berridge e Robinson, 1998; Mazzoni et al., 2007; Niv et al., 2007; Salamone et al., 2007).

Excitação de dopamina, alertando sugestões sensoriais

Além de seus sinais que codificam valor motivacional e saliência, a maioria dos neurônios DA também apresenta respostas em rajadas a diversos tipos de eventos sensoriais que não estão diretamente associados a experiências recompensadoras ou aversivas. Teoriza-se que essas respostas dependem de uma série de fatores neurais e psicológicos, incluindo entrada sensorial direta, surpresa, novidade, excitação, atenção, saliência, generalização e pseudocondicionamento ( Schultz, 1998 ; Redgrave et al., 1999 ; Horvitz, 2000 ; Lisman e Grace, 2005 ; Redgrave e Gurney, 2006 ; Joshua et al., 2009a ; Schultz, 2010 ).

Aqui, tentaremos sintetizar essas ideias e explicar essas respostas DA em termos de um único sinal subjacente, um sinal de alerta ( Figura 5 ). O termo "alerta" foi usado por Schultz ( Schultz, 1998 ) como um termo geral para eventos que atraem a atenção. Aqui, o usaremos em um sentido mais específico. Por evento de alerta, entendemos uma pista sensorial inesperada que captura a atenção com base em uma avaliação rápida de sua importância potencial, usando características simples como sua localização, tamanho e modalidade sensorial. Tais eventos de alerta frequentemente desencadeiam reações comportamentais imediatas para investigá-los e determinar seu significado preciso. Assim, os sinais de alerta DA tipicamente ocorrem em latências curtas, são baseados nas características gerais de um estímulo e são melhor correlacionados com reações imediatas, como reações de orientação ( Schultz e Romo, 1990 ; Joshua et al., 2009a ; Schultz, 2010 ). Isso contrasta com outros sinais motivacionais em neurônios DA que normalmente ocorrem em latências mais longas, levam em consideração a identidade precisa do estímulo e são melhor correlacionados com ações comportamentais consideradas, como decisões de se aproximar ou evitar ( Schultz e Romo, 1990 ; Joshua et al., 2009a ; Schultz, 2010 ).

As respostas de alerta de DA podem ser desencadeadas por eventos sensoriais surpreendentes, como flashes de luz inesperados e cliques auditivos, que evocam excitações explosivas proeminentes em 60-90% de neurônios DA ao longo da SNc e VTA (Strecker e Jacobs, 1985; Horvitz et al., 1997; Horvitz, 2000) (Figura 6A). Essas respostas de alerta parecem refletir o grau em que o estímulo é surpreendente e capta a atenção; eles são reduzidos se um estímulo ocorrer em momentos previsíveis, se a atenção estiver envolvida em outro lugar ou durante o sono (Schultz, 1998; Takikawa et al., 2004; Strecker e Jacobs, 1985; Steinfels e outros, 1983). Por exemplo, um som de clique inesperado evoca uma explosão de DA proeminente quando um gato está em um estado passivo de despertar silencioso, mas não tem efeito quando o gato está envolvido em atividades que exigem atenção, como caçar um rato, alimentar-se, ser acariciado. pelo experimentador, e assim por diante (Strecker e Jacobs, 1985) (Figura 6A). Da mesma forma, as respostas de burst da DA são desencadeadas por eventos sensoriais que são fisicamente fracos, mas estão alertando devido à sua novidade (Ljungberg et al., 1992; Schultz, 1998). Estas respostas habituam-se à medida que o novo estímulo se torna familiar, paralelamente à habituação de reações orientadoras (Figura 6B). Consistente com estes resultados, eventos surpreendentes e novos evocam o lançamento de DA em estruturas a jusante (Lisman e Grace, 2005) e ativar os circuitos cerebrais relacionados ao DA de maneira a moldar o processamento de recompensas (Zink e outros, 2003; Davidson e outros, 2004; Duzel e outros, 2010).

Figura 6 

Respostas excitatórias de neurônios dopaminérgicos a eventos de alerta

As respostas de alerta de DA também são desencadeadas por sinais sensoriais inesperados que têm o potencial de fornecer novas informações sobre eventos motivacionais salientes. Como esperado para um sinal de alerta de latência curta, estas respostas são bastante não seletivas: elas são desencadeadas por qualquer estímulo que meramente se assemelha uma pista motivacionalmente saliente, mesmo que a semelhança seja muito pequena (um fenômeno chamado generalização) (Schultz, 1998). Como resultado, os neurônios DA freqüentemente respondem a um estímulo com uma mistura de dois sinais: um sinal de alerta rápido que codifica o fato de que o estímulo é potencialmente importante, e um segundo sinal codificando sua real significado gratificante ou aversivo (Schultz e Romo, 1990; Waelti et al., 2001; Tobler e outros, 2003; Day et al., 2007; Kobayashi e Schultz, 2008; Fiorillo et al., 2008; Nomoto et al., 2010) (Vejo (Kakade e Dayan, 2002; Joshua et al., 2009a; Schultz, 2010) para revisão). Um exemplo pode ser visto em um conjunto de neurônios de codificação de saliência motivacional mostrados em Figura 6C (Bromberg-Martin e outros, 2010a). Esses neurônios estavam excitados por recompensas e pistas aversivas, mas também estavam excitados por uma pista neutra. A sugestão neutra nunca tinha sido combinada com resultados motivacionais, mas tinha uma semelhança física (muito ligeira) com a recompensa e pistas aversivas.

Essas respostas de alerta parecem estar intimamente ligadas à capacidade de um estímulo sensorial desencadear reações de orientação para examiná-lo mais a fundo e descobrir seu significado. Isso pode ser observado em três propriedades notáveis. Primeiro, as respostas de alerta ocorrem apenas para estímulos sensoriais que precisam ser examinados para determinar seu significado, e não para eventos intrinsecamente recompensadores ou aversivos, como a distribuição de suco ou jatos de ar ( Schultz, 2010 ). Segundo, as respostas de alerta ocorrem apenas quando um estímulo é potencialmente importante e tem a capacidade de desencadear reações de orientação, e não quando o estímulo é irrelevante para a tarefa em questão e não consegue desencadear tais reações ( Schultz e Romo, 1990 ). Terceiro, as respostas de alerta são intensificadas em situações em que os estímulos provocariam uma mudança abrupta de atenção – quando aparecem em um momento inesperado ou longe do centro do olhar ( Bromberg-Martin et al., 2010a ). Assim, quando estímulos motivacionais são apresentados com uma temporização imprevisível, eles desencadeiam reações de orientação imediatas e uma resposta de alerta dopaminérgica generalizada – excitação por todos os estímulos, incluindo os neutros ( Figura 6C , preto). Mas se a temporização for tornada previsível – por exemplo, avisando os participantes com um “sinal de início do ensaio” apresentado um segundo antes do aparecimento dos estímulos – os estímulos deixam de evocar uma resposta de alerta ( Figura 6D , cinza). Em vez disso, a resposta de alerta passa a ser direcionada ao sinal de início do ensaio – o primeiro evento do ensaio que tem uma temporização imprevisível e evoca reações de orientação ( Figura 6D , preto).

Qual é o mecanismo subjacente que gera os sinais de alerta dos neurônios DA? Uma hipótese é que as respostas de alerta sejam simplesmente sinais convencionais de erro de predição de recompensa que ocorrem em latências curtas, codificando o valor de recompensa esperado de um estímulo antes que ele tenha sido totalmente discriminado ( Kakade e Dayan, 2002 ). Evidências mais recentes, no entanto, sugerem que os sinais de alerta podem ser gerados por um mecanismo distinto dos sinais convencionais de recompensa DA ( Satoh et al., 2003 ; Bayer e Glimcher, 2005 ; Bromberg-Martin et al., 2010a ; Bromberg-Martin et al., 2010c ; Nomoto et al., 2010 ). Mais surpreendentemente, a resposta de alerta ao sinal de início do ensaio não se restringe a tarefas recompensadoras; ela pode ter a mesma intensidade durante uma tarefa aversiva na qual nenhuma recompensa é oferecida ( Figura 6C,D , parte inferior, “tarefa aversiva”). Isso ocorre mesmo que os sinais convencionais de recompensa dopaminérgica (DA) nos mesmos neurônios sinalizem corretamente que a tarefa recompensadora tem um valor esperado muito maior do que a tarefa aversiva ( Bromberg-Martin et al., 2010a ). Esses sinais de alerta não são puramente uma forma de codificação de valor ou puramente uma forma de codificação de saliência, porque ocorrem na maioria dos neurônios DA que codificam tanto valor motivacional quanto saliência ( Bromberg-Martin et al., 2010a ). Uma segunda dissociação pode ser observada na forma como os neurônios DA predizem recompensas futuras com base na memória de resultados de recompensas passadas ( Satoh et al., 2003 ; Bayer e Glimcher, 2005 ). Enquanto os sinais convencionais de recompensa DA são controlados por um traço de memória de longo prazo otimizado para a predição precisa de recompensas, as respostas de alerta ao sinal de início do ensaio são controladas por um traço de memória separado, semelhante ao observado em reações de orientação imediata ( Bromberg-Martin et al., 2010c ). Uma terceira dissociação pode ser observada na forma como esses sinais são distribuídos pela população de neurônios DA. Enquanto os sinais convencionais de recompensa DA são mais fortes na SNc ventromedial, as respostas de alerta ao sinal de início do ensaio (e a outros sinais com temporização inesperada) são transmitidas por toda a SNc ( Nomoto et al., 2010 ).

Em contraste com essas dissociações dos sinais de recompensa convencionais, os sinais de alerta dopaminérgicos correlacionam-se com a velocidade das respostas de orientação e aproximação ao evento de alerta ( Satoh et al., 2003 ; Bromberg-Martin et al., 2010a ; Bromberg-Martin et al., 2010c ). Isso sugere que os sinais de alerta são gerados por um processo neural que motiva reações rápidas para investigar eventos potencialmente importantes. Atualmente, infelizmente, pouco se sabe sobre quais eventos esse processo considera "importantes". Por exemplo, as respostas de alerta são igualmente sensíveis a eventos recompensadores e aversivos? Sabe-se que as respostas de alerta ocorrem para estímulos que se assemelham a pistas de recompensa ou que se assemelham tanto a pistas de recompensa quanto a pistas aversivas (por exemplo, compartilhando a mesma modalidade sensorial). Mas ainda não se sabe se as respostas de alerta ocorrem para estímulos que se assemelham exclusivamente a pistas aversivas.

Papel funcional dos sinais de alerta de dopamina

Como vimos, os sinais de alerta provavelmente são gerados por um mecanismo distinto dos sinais de valor motivacional e de saliência. No entanto, os sinais de alerta são enviados tanto para os neurônios DA que codificam valor motivacional quanto para os que codificam saliência e, portanto, provavelmente regulam o processamento cerebral e o comportamento de maneira semelhante aos sinais de valor e saliência ( Figura 5 ).

Os sinais de alerta enviados aos neurônios dopaminérgicos (DA) responsáveis ​​pela codificação da saliência motivacional auxiliariam na orientação da atenção para o estímulo de alerta, no engajamento de recursos cognitivos para descobrir seu significado e decidir sobre um plano de ação, e no aumento dos níveis de motivação para implementar esse plano de forma eficiente ( Figura 5 ). Esses efeitos poderiam ocorrer por meio de impactos imediatos no processamento neural ou pelo reforço de ações que levaram à detecção do evento de alerta. Essa função se encaixa bem com a correlação entre as respostas de alerta dos neurônios DA e as reações comportamentais rápidas ao estímulo de alerta, e com as teorias de que as respostas de curta latência dos neurônios DA estão envolvidas na orientação da atenção, na ativação, no aprimoramento do processamento cognitivo e nas reações comportamentais imediatas ( Redgrave et al., 1999 ; Horvitz, 2000 ; Joseph et al., 2003 ; Lisman e Grace, 2005 ; Redgrave e Gurney, 2006 ; Joshua et al., 2009a ).

A presença de sinais de alerta em neurônios dopaminérgicos que codificam o valor motivacional é mais difícil de explicar. Esses neurônios transmitem sinais de valor motivacional ideais para busca, avaliação de resultados e aprendizado de valor; contudo, eles também podem ser excitados por eventos de alerta, como sons de cliques inesperados e o início de testes aversivos. De acordo com a via hipotética que propusemos ( Figura 5 ), ​​isso faria com que os eventos de alerta recebessem valor positivo e fossem buscados de maneira semelhante a recompensas! Embora surpreendente à primeira vista, há motivos para suspeitar que eventos de alerta possam ser tratados como objetivos positivos. Os sinais de alerta fornecem o primeiro aviso de que um evento potencialmente importante está prestes a ocorrer e, portanto, oferecem a primeira oportunidade de agir para controlar esse evento. Se houver sinais de alerta disponíveis, eventos motivacionalmente relevantes podem ser detectados, previstos e para os quais é possível se preparar com antecedência; se os sinais de alerta estiverem ausentes, os eventos motivacionalmente relevantes sempre ocorrem como uma surpresa inesperada. De fato, humanos e animais frequentemente expressam uma preferência por ambientes onde eventos sensoriais recompensadores, aversivos e até mesmo motivacionalmente neutros podem ser observados e previstos antecipadamente ( Badia et al., 1979 ; Herry et al., 2007 ; Daly, 1992 ; Chew e Ho, 1994 ), e muitos neurônios dopaminérgicos sinalizam a preferência comportamental por visualizar informações preditivas de recompensa ( Bromberg-Martin e Hikosaka, 2009 ). Os sinais de alerta dopaminérgicos podem sustentar essas preferências, atribuindo valor positivo a ambientes onde pistas sensoriais potencialmente importantes podem ser antecipadas.

Caminhos neurais para valor motivacional, saliência e alerta

Até agora, dividimos os neurônios DA em dois tipos que codificam o valor motivacional e a saliência motivacional e são adequados para funções distintas no controle motivacional ( Figura 5 ). Como esse esquema conceitual se relaciona com as vias neurais no cérebro? Aqui, propomos uma hipótese sobre as localizações anatômicas desses neurônios, suas projeções para estruturas subsequentes e as fontes de seus sinais motivacionais ( Figuras 6 , 77 ).

Figura 7 

Localização anatômica hipotética e projeções do valor motivacional da dopamina e dos neurônios codificadores de saliência

Locais anatômicos de neurônios de codificação de valor e saliência

Um estudo recente mapeou a localização dos sinais de recompensa e aversão da dopamina (DA) no mesencéfalo lateral, incluindo a substância negra compacta (SNc) e a porção mais lateral da área tegmental ventral (VTA) ( Matsumoto e Hikosaka, 2009b ). Os sinais de valor motivacional e saliência motivacional foram distribuídos por essa região em um gradiente anatômico. Os sinais de valor motivacional foram encontrados com mais frequência em neurônios da SNc ventromedial e da VTA lateral, enquanto os sinais de saliência motivacional foram encontrados com mais frequência em neurônios da SNc dorsolateral ( Figura 7B ). Isso está de acordo com relatos de que a codificação do valor de recompensa da DA é mais forte na SNc ventromedial ( Nomoto et al., 2010 ), enquanto as excitações aversivas tendem a ser mais fortes lateralmente ( Mirenowicz e Schultz, 1996 ). Outros estudos exploraram a porção mais medial do mesencéfalo. Esses estudos encontraram uma mistura de respostas aversivas excitatórias e inibitórias sem diferença significativa em suas localizações, embora com uma tendência de excitações aversivas estarem localizadas mais ventralmente ( Guarraci e Kapp, 1999 ; Brischoux et al., 2009 ) ( Figura 7C ).

Destinos de sinais de valor motivacional

De acordo com nossa hipótese, o valor motivacional que codifica os neurônios DA deve se projetar para regiões do cérebro envolvidas em ações de abordagem e prevenção, avaliação de resultados e aprendizagem de valor (Figura 5). De fato, a SN e a ATV ventromedial se projetam para o córtex pré-frontal ventromedial (Williams e Goldman-Rakic, 1998) incluindo o córtex orbitofrontal (OFC) (Porrino e Goldman-Rakic, 1982) (Figura 7A). O OFC tem sido consistentemente implicado na codificação de valor em estudos de imagem funcional (Anderson et al., 2003; Small et al., 2003; Jensen e outros, 2007; Litt et al., 2010) e gravações de neurônios individuais (Morrison e Salzman, 2009; Roesch e Olson, 2004). O OFC é pensado para avaliar as opções de escolha (Padoa-Schioppa, 2007; Kable e Glimcher, 2009), codificam as expectativas dos resultados (Schoenbaum e outros, 2009) e actualizar estas expectativas durante a aprendizagem (Walton et al., 2010). Além disso, o OFC está envolvido em aprender com erros negativos de previsão de recompensa (Takahashi et al., 2009), que são os mais fortes na codificação de neurónios DA (Figura 4).

Além disso, as porções mediais do mesencéfalo dopaminérgico projetam-se para o estriado ventral, incluindo o núcleo accumbens shell (NAc shell) ( Haber et al., 2000 ) ( Figura 7A ). Um estudo recente demonstrou que o NAc shell recebe sinais dopaminérgicos fásicos que codificam o valor motivacional dos resultados gustativos ( Roitman et al., 2008 ). É provável que esses sinais causem aprendizagem de valor, pois a infusão direta de fármacos dopaminérgicos no NAc shell é fortemente reforçadora ( Ikemoto, 2010 ), enquanto tratamentos que reduzem a entrada de dopamina no shell podem induzir aversões ( Liu et al., 2008 ). Uma ressalva é que estudos sobre a liberação de dopamina no NAc shell em longos períodos (minutos) produziram resultados mistos, alguns consistentes com a codificação de valor e outros com a codificação de saliência (por exemplo, Bassareo et al., 2002 ; Ventura et al., 2007 ). Isso sugere que os sinais de valor podem estar restritos a locais específicos dentro da região shell do NAc. Notavelmente, diferentes regiões da região shell do NAc são especializadas no controle do comportamento apetitivo e aversivo ( Reynolds e Berridge, 2002 ), ambos os quais requerem entrada de neurônios DA ( Faure et al., 2008 ).

Finalmente, os neurônios DA em toda a extensão da SNc enviam projeções robustas para o estriado dorsal ( Haber et al., 2000 ), sugerindo que o estriado dorsal pode receber sinais DA que codificam tanto valor motivacional quanto saliência ( Figura 7A ). Os neurônios DA que codificam valor motivacional forneceriam um sinal instrutivo ideal para os circuitos estriatais envolvidos na aprendizagem de valor, como a aprendizagem de hábitos de estímulo-resposta ( Faure et al., 2005 ; Yin e Knowlton, 2006 ; Balleine e O'Doherty, 2010 ). Quando esses neurônios DA disparam, eles ativam a via direta para aprender a obter recompensas; quando pausam, ativam a via indireta para aprender a evitar resultados aversivos ( Figura 2 ). De fato, há evidências recentes de que as vias estriatais seguem exatamente essa divisão de trabalho para o processamento de recompensa e aversão ( Hikida et al., 2010 ). Contudo, ainda não se sabe como os neurônios nessas vias respondem a eventos recompensadores e aversivos durante o comportamento. Pelo menos no estriado dorsal como um todo, um subconjunto de neurônios responde a certos eventos recompensadores e aversivos de maneiras distintas ( Ravel et al., 2003 ; Yamada et al., 2004 , 2007 ; Joshua et al., 2008 ).

Destinos de sinais de saliência motivacional

De acordo com nossa hipótese, os neurônios DA de codificação de saliência motivacional devem se projetar para as regiões do cérebro envolvidas na orientação, processamento cognitivo e motivação geral (Figura 5). De fato, os neurônios DA no mesencéfalo dorsolateral enviam projeções para o córtex frontal dorsal e lateral (Williams e Goldman-Rakic, 1998) (Figura 7A), uma região que tem sido implicada em funções cognitivas, como busca de atenção, memória de trabalho, controle cognitivo e tomada de decisão entre resultados motivacionais (Williams e Castner, 2006; Lee e Seo, 2007; Sábio, 2008; Kable e Glimcher, 2009; Wallis e Kennerley, 2010). As funções cognitivas pré-frontais dorsolaterais são rigorosamente reguladas pelos níveis DA (Robbins e Arnsten, 2009) e teorizam que dependem da ativação dos neurônios fásicos DA (Cohen et al., 2002; Lapish et al., 2007). Notavelmente, um subconjunto de neurônios pré-frontais laterais responde a estímulos visuais recompensadores e aversivos, e a grande maioria responde na mesma direção, lembrando a codificação da saliência motivacional (Kobayashi et al., 2006). Além disso, a atividade desses neurônios está correlacionada com o sucesso comportamental na execução de tarefas de memória de trabalho (Kobayashi et al., 2006). Embora este DA dorsolateral → a via dorsolateral do córtex frontal pareça ser específica para os primatas (Williams e Goldman-Rakic, 1998), uma via funcionalmente semelhante pode existir em outras espécies. Em particular, muitas das funções cognitivas do córtex pré-frontal dorsolateral do primata são realizadas pelo córtex pré-frontal medial de roedores (Uylings et al., 2003), e há evidências de que esta região recebe sinais de saliência motivacional da DA e controla o comportamento relacionado à saliência (Mantz et al., 1989; Di Chiara, 2002; Joseph et al., 2003; Ventura et al., 2007; Ventura et al., 2008).

Considerando as evidências de que a VTA contém neurônios de codificação tanto de saliência quanto de valor, e que os sinais de codificação de valor são enviados para a região shell do NAc, os sinais de saliência podem ser enviados para o núcleo do NAc ( Figura 7A ). De fato, o núcleo do NAc (mas não a shell) é crucial para permitir que a motivação supere os custos de resposta, como o esforço físico; para o desempenho de tarefas de mudança de conjunto que exigem flexibilidade cognitiva; e para permitir que estímulos de recompensa causem um aumento da motivação geral ( Ghods-Sharifi e Floresco, 2010 ; Floresco et al., 2006 ; Hall et al., 2001 ; Cardinal, 2006 ). Consistente com a codificação da saliência motivacional, o núcleo do NAc recebe rajadas fásicas de DA durante experiências recompensadoras ( Day et al., 2007 ) e aversivas ( Anstrom et al., 2009 ).

Finalmente, como discutido acima, alguns neurônios DA que codificam a saliência podem projetar-se para o estriado dorsal ( Figura 7A ). Embora algumas regiões do estriado dorsal estejam envolvidas em funções relacionadas à aprendizagem de valores de ação, o estriado dorsal também está envolvido em funções que devem ser ativadas para todos os eventos salientes, como orientação, atenção, memória de trabalho e motivação geral ( Hikosaka et al., 2000 ; Klingberg, 2010 ; Palmiter, 2008 ). De fato, um subconjunto de neurônios do estriado dorsal responde mais fortemente a eventos recompensadores e aversivos do que a eventos neutros ( Ravel et al., 1999 ; Blazquez et al., 2002 ; Yamada et al., 2004 , 2007 ), embora seu papel causal no comportamento motivado ainda não seja conhecido.

Fontes de sinais de valor motivacional

Uma série recente de estudos sugere que os neurônios DA recebem sinais de valor motivacional de um pequeno núcleo no epitálamo, a habenula lateral (LHb) ( Hikosaka, 2010 ) ( Figura 8 ). A LHb exerce um potente controle negativo sobre os neurônios DA: a estimulação da LHb inibe os neurônios DA em latências curtas ( Christoph et al., 1986 ) e pode regular a aprendizagem de maneira oposta à estimulação da VTA ( Shumake et al., 2010 ). Consistente com um sinal de controle negativo, muitos neurônios da LHb apresentam respostas fásicas invertidas em relação aos neurônios DA: os neurônios da LHb são inibidos por erros de previsão de recompensa positiva e excitados por erros de previsão de recompensa negativa ( Matsumoto e Hikosaka, 2007 , 2009a ; Bromberg-Martin et al., 2010a ; Bromberg-Martin et al., 2010c ). Em vários casos, esses sinais ocorrem em latências mais curtas no LHb, consistentes com a transmissão LHb → DA ( Matsumoto e Hikosaka, 2007 ; Bromberg-Martin et al., 2010a ).

Figura 8 

Fontes hipotéticas de valor motivacional, saliência e sinais de alerta

O LHb é capaz de controlar neurônios DA em todo o mesencéfalo, mas diversas evidências sugerem que ele exerce controle preferencial sobre os neurônios DA que codificam o valor motivacional. Primeiro, os neurônios do LHb codificam o valor motivacional de maneira muito semelhante aos neurônios DA que codificam o valor – eles codificam erros de previsão de recompensa tanto positivos quanto negativos e respondem em direções opostas a eventos recompensadores e aversivos ( Matsumoto e Hikosaka, 2009a ; Bromberg-Martin et al., 2010a ). Segundo, a estimulação do LHb tem seus efeitos mais potentes sobre os neurônios DA cujas propriedades são consistentes com a codificação de valor, incluindo a inibição por estímulos de não recompensa e a localização anatômica na SNc ventromedial ( Matsumoto e Hikosaka, 2007 , 2009b ). Terceiro, lesões no LHb prejudicam as respostas inibitórias dos neurônios DA a eventos aversivos, sugerindo um papel causal do LHb na geração de sinais de valor DA ( Gao et al., 1990 ).

O LHb faz parte de uma via neural mais extensa pela qual os neurônios DA podem ser controlados pelos gânglios da base ( Figura 8 ). O LHb recebe sinais semelhantes a erros de previsão de recompensa por meio de uma projeção de uma população de neurônios localizados ao redor da borda do globo pálido (GPb) ( Hong e Hikosaka, 2008 ). Uma vez que esses sinais chegam ao LHb, é provável que sejam enviados aos neurônios DA por meio de uma via dissynaptic, na qual o LHb excita os neurônios GABA do mesencéfalo, que por sua vez inibem os neurônios DA ( Ji e Shepard, 2007 ; Omelchenko et al., 2009 ; Brinschwitz et al., 2010 ). Isso pode ocorrer por meio de projeções do LHb para interneurônios na VTA e para um núcleo GABAérgico adjacente chamado núcleo tegmental rostromedial (RMTg) ( Jhou et al., 2009b ) (também chamado de 'cauda caudal da VTA' ( Kaufling et al., 2009 )). Notavelmente, os neurônios do RMTg têm propriedades de resposta semelhantes aos neurônios do LHb, codificam valor motivacional e possuem uma forte projeção inibitória para o mesencéfalo dopaminérgico ( Jhou et al., 2009a ). Assim, a via completa dos gânglios da base para enviar sinais de valor motivacional aos neurônios DA pode ser GPb→LHb→RMTg→DA ( Hikosaka, 2010 ).

Uma questão importante para pesquisas futuras é se os sinais de valor motivacional são canalizados exclusivamente pelo LHb ou se são transmitidos por múltiplas vias de entrada. Notavelmente, as inibições de DA por choques elétricos aversivos são controladas pela atividade no núcleo parabraquial mesopontino (PBN) ( Coizet et al., 2010 ) ( Figura 8 ). Este núcleo contém neurônios que recebem entrada direta da medula espinhal, codificando sensações nocivas, e que podem inibir neurônios DA por meio de projeções excitatórias para o RMTg ( Coizet et al., 2010 ; Gauriau e Bernard, 2002 ). Isso sugere que o LHb envia aos neurônios DA sinais de valor motivacional tanto para estímulos e resultados recompensadores quanto aversivos, enquanto o PBN fornece um componente do sinal de valor especificamente relacionado a resultados aversivos.

Fontes de sinais de saliência motivacional

Menos é conhecido sobre a fonte dos sinais de saliência motivacional nos neurônios DA. Um candidato intrigante é o núcleo central da amígdala (CeA), que tem sido consistentemente implicado na orientação, atenção e respostas motivacionais gerais durante eventos de recompensa e aversão (Holanda e Gallagher, 1999; Baxter e Murray, 2002; Merali et al., 2003; Balleine e Killcross, 2006) (Figura 8). O CeA e outros núcleos da amígdala contêm muitos neurônios cujos sinais são consistentes com a saliência motivacional: eles sinalizam eventos gratificantes e aversivos na mesma direção, são intensificados quando os eventos ocorrem inesperadamente e são correlacionados com medidas comportamentais de excitação (Nishijo et al., 1988; Belova et al., 2007; Shabel e Janak, 2009). Esses sinais podem ser enviados para os neurônios DA, porque o CeA tem projeções descendentes no tronco cerebral que contêm informações gratificantes e aversivas (Lee et al., 2005; Pascoe e Kapp, 1985) e o CeA é necessário para a liberação do DA durante eventos relacionados à recompensa (Phillips et al., 2003a). Além disso, o CeA participa com neurônios DA em caminhos consistentes com nossas redes anatômicas e funcionais propostas para a saliência motivacional. Um caminho incluindo o CeA, SNc e o corpo estriado dorsal é necessário para orientação orientada para dicas de alimentos (Han et al., 1997; Lee et al., 2005; El-Amamy e Holanda, 2007). Consistente com nossa divisão dos sinais de saliência versus valor, esse caminho é necessário para aprender a orientar as sugestões de comida, mas não para aprender a abordar os resultados dos alimentos (Han et al., 1997). Um segundo caminho, incluindo o núcleo CeA, SNc, VTA e NAc, é necessário para que as pistas de recompensa causem um aumento na motivação geral para executar ações de busca de recompensa (Hall et al., 2001; Corbit e Balleine, 2005; El-Amamy e Holanda, 2007).

Além da CeA, os neurônios DA podem receber sinais de saliência motivacional de outras fontes, como neurônios de codificação de saliência no prosencéfalo basal ( Lin e Nicolelis, 2008 ; Richardson e DeLong, 1991 ) e neurônios no PBN ( Coizet et al., 2010 ), embora essas vias ainda precisem ser investigadas.

Fontes de sinais de alerta

Existem vários bons candidatos para fornecer sinais de alerta aos neurônios dopaminérgicos. Talvez o candidato mais atraente seja o colículo superior (CS), um núcleo do mesencéfalo que recebe informações sensoriais de curta latência de múltiplas modalidades sensoriais e controla as reações de orientação e a atenção ( Redgrave e Gurney, 2006 ) ( Figura 8 ). O CS possui uma projeção direta para a substância negra pars compacta (SNc) e a área tegmental ventral (ATV) ( May et al., 2009 ; Comoli et al., 2003 ). Em animais anestesiados, o CS é um conduto vital para que sinais visuais de curta latência alcancem os neurônios dopaminérgicos e desencadeiem a liberação de dopamina em estruturas subsequentes ( Comoli et al., 2003 ; Dommett et al., 2005 ). A via CS-dopamina é mais adequada para transmitir sinais de alerta do que sinais de recompensa e aversão, visto que os neurônios do CS apresentam pouca resposta à administração de recompensa e têm apenas uma leve influência sobre as respostas aversivas dopaminérgicas ( Coizet et al., 2006 ). Isso sugere uma sequência de eventos em que os neurônios SC (1) detectam um estímulo, (2) o selecionam como potencialmente importante, (3) desencadeiam uma reação de orientação para examinar o estímulo e (4) simultaneamente desencadeiam uma resposta de alerta DA que causa uma explosão de DA em estruturas a jusante ( Redgrave e Gurney, 2006 ).

Um segundo candidato para enviar sinais de alerta aos neurônios DA é o LHb ( Figura 8 ). Notavelmente, o início inesperado de um estímulo de início de ensaio inibe muitos neurônios do LHb de maneira inversa ao sinal de alerta do neurônio DA, e essa resposta ocorre com menor latência no LHb, consistente com uma direção de transmissão LHb→DA ( Bromberg-Martin et al., 2010a ; Bromberg-Martin et al., 2010c ). Também observamos, de forma anedótica, que os neurônios do LHb são comumente inibidos por imagens e sons visuais inesperados de maneira inversa às excitações DA (MM, ESB-M. e OH, observações não publicadas), embora isso ainda necessite de uma investigação mais sistemática.

Finalmente, um terceiro candidato para enviar sinais de alerta aos neurônios DA é o núcleo tegmental pedunculopontino (PPTg), que projeta tanto para a SNc quanto para a VTA e está envolvido no processamento motivacional ( Winn, 2006 ) ( Figura 8 ). O PPTg é importante para permitir as descargas de neurônios DA da VTA ( Grace et al., 2007 ), incluindo respostas em rajadas a estímulos de recompensa ( Pan e Hyland, 2005 ). De acordo com um sinal de alerta, os neurônios do PPTg têm respostas de curta latência a múltiplas modalidades sensoriais e estão ativos durante reações de orientação ( Winn, 2006 ). Há evidências de que as respostas sensoriais do PPTg são influenciadas pelo valor da recompensa e pela necessidade de ação imediata ( Dormont et al., 1998 ; Okada et al., 2009 ) (mas veja ( Pan e Hyland, 2005 )). Alguns neurônios PPTg também respondem a resultados recompensadores ou aversivos ( Dormont et al., 1998 ; Kobayashi et al., 2002 ; Ivlieva e Timofeeva, 2003b , a ). Será importante testar se os sinais que o PPTg envia aos neurônios DA estão relacionados especificamente ao alerta ou se contêm outros sinais motivacionais, como valor e saliência.

Direções para pesquisas futuras

Revisamos a natureza dos sinais de recompensa, aversivos e de alerta nos neurônios DA, e propusemos uma hipótese sobre as vias neurais subjacentes e seus papéis no comportamento motivado. Consideramos isso uma hipótese de trabalho, um guia para futuras teorias e pesquisas que nos levará a um entendimento mais completo. Aqui vamos destacar várias áreas onde mais investigações são necessárias para revelar complexidades mais profundas.

Atualmente, nossa compreensão das vias neurais subjacentes aos sinais de dopamina (DA) ainda está em estágio inicial. Portanto, tentamos inferir as fontes e os destinos dos sinais de DA que codificam valor e saliência, baseando-nos principalmente em medidas indiretas, como as propriedades de resposta neural e os papéis funcionais de diferentes áreas cerebrais. Será importante submeter essas vias candidatas a um teste direto e descobrir suas propriedades detalhadas, com o auxílio de ferramentas recentemente desenvolvidas que permitem o monitoramento ( Robinson et al., 2008 ) e o controle ( Tsai et al., 2009 ; Tecuapetla et al., 2010 ; Stuber et al., 2010 ) da transmissão de DA com alta precisão espacial e temporal. Como mencionado anteriormente, várias dessas estruturas candidatas apresentam uma organização topográfica, sugerindo que sua comunicação com os neurônios dopaminérgicos também possa ser topográfica. As fontes neurais dos sinais DA fásicos também podem ser mais complexas do que as vias feedforward simples que propusemos, uma vez que as estruturas neurais que se comunicam com os neurônios DA são densamente interconectadas ( Geisler e Zahm, 2005 ) e os neurônios DA podem se comunicar uns com os outros dentro do mesencéfalo ( Ford et al., 2010 ).

Nós nos concentramos em um conjunto selecionado de conexões de neurônios DA, mas os neurônios DA recebem informações funcionais de muitas estruturas adicionais, incluindo o núcleo subtalâmico, núcleo tegmentar laterodorsal, núcleo leito da estria terminal, córtex pré-frontal, pálio ventral e hipotálamo lateral (Grace et al., 2007; Shimo e Wichmann, 2009; Jalabert e outros, 2009). Notavelmente, os neurônios do hipotálamo lateral orexina projetam-se para os neurônios DA, são ativados por eventos recompensadores em vez de aversivos, e desencadeiam o comportamento de busca por drogas (Harris e Aston-Jones, 2006), sugerindo um possível papel nas funções relacionadas ao valor. Os neurônios DA também enviam projeções para muitas estruturas adicionais, incluindo o hipotálamo, o hipocampo, a amígdala, a habenula e muitas outras áreas corticais. Notavelmente, o córtex cingulado anterior (ACC) foi proposto para receber sinais de erro de predição de recompensa dos neurônios DA (Holroyd e Coles, 2002) e contém neurônios com atividade positivamente relacionada ao valor motivacional (Koyama et al., 1998). No entanto, a ativação do ACC também está ligada ao processamento aversivo (Vogt, 2005; Johansen e Fields, 2004). Essas funções do ACC podem ser apoiadas por uma mistura de valores motivacionais e sinais de saliência do DA, que serão importantes para serem testados em estudos futuros. De fato, os sinais neurais relacionados aos erros de previsão de recompensa foram relatados em várias áreas, incluindo o córtex pré-frontal medial (Matsumoto et al., 2007; Seo e Lee, 2007), córtex orbitofrontal (Sul e outros, 2010) (mas vejaTakahashi et al., 2009; Kennerley e Wallis, 2009) e estriado dorsal (Kim et al., 2009; Oyama et al., 2010), e sua relação causal com a atividade neuronal DA ainda precisa ser descoberta.

Descrevemos eventos motivacionais com uma dicotomia simples, classificando-os como 'recompensadores' ou 'aversivos'. No entanto, essas categorias contêm grande variedade. Uma doença aversiva é gradual, prolongada e causada por eventos internos; um sopro de ar aversivo é rápido, breve e causado pelo mundo externo. Essas situações exigem respostas comportamentais muito diferentes, que provavelmente são mediadas por diferentes sistemas neurais. Além disso, embora tenhamos focado nossa discussão em dois tipos de neurônios dopaminérgicos com sinais que lembram valor motivacional e saliência, uma análise mais detalhada mostra que os neurônios dopaminérgicos não se limitam a essa dicotomia estrita. Como indicado por nossa noção de gradiente anatômico, alguns neurônios dopaminérgicos transmitem misturas de sinais semelhantes à saliência e ao valor; outros neurônios dopaminérgicos respondem a eventos recompensadores, mas não a eventos aversivos ( Matsumoto e Hikosaka, 2009b ; Bromberg-Martin et al., 2010a ). Essas considerações sugerem que alguns neurônios DA podem não codificar eventos motivacionais de acordo com nosso eixo intuitivo de 'bom' versus 'mau' e, em vez disso, podem ser especializados em dar suporte a formas específicas de comportamento adaptativo.

Mesmo no campo das recompensas, há evidências de que os neurônios DA transmitem diferentes sinais de recompensa para diferentes regiões do cérebro (Bassareo e Di Chiara, 1999; Ito et al., 2000; Stefani e Moghaddam, 2006; Wightman e outros, 2007; Aragona e outros, 2009). Diversas respostas relatadas no SNc e VTA incluem neurônios que: respondem apenas ao início de um teste (Roesch e outros, 2007), talvez codificando um sinal de alerta puro; responder de maneira diferente às modalidades visuais e auditivas (Strecker e Jacobs, 1985), talvez recebendo entrada de diferentes neurônios SC e PPTg; responder ao primeiro ou último evento de uma seqüência (Ravel e Richmond, 2006; Jin e Costa, 2010); ter sustentado a ativação por recompensas arriscadas (Fiorillo et al., 2003); ou são ativados durante os movimentos do corpo (Schultz, 1986; Kiyatkin, 1988a; Puryear e outros, 2010; Jin e Costa, 2010) (Veja também (Phillips et al., 2003b; Stuber et al., 2005)). Embora cada um desses padrões de resposta tenha sido relatado apenas em uma minoria de estudos ou neurônios, esses dados sugerem que os neurônios DA poderiam ser potencialmente divididos em um número muito maior de populações funcionalmente distintas.

Uma consideração final e importante é que os estudos de registro atuais em animais em comportamento ainda não fornecem medidas totalmente conclusivas da atividade dos neurônios DA, pois esses estudos só conseguiram distinguir entre neurônios DA e não-DA usando métodos indiretos, baseados em propriedades neurais como taxa de disparo, forma de onda do potencial de ação e sensibilidade a agonistas do receptor D2 ( Grace e Bunney, 1983 ; Schultz, 1986 ). Essas técnicas parecem identificar neurônios DA de forma confiável dentro da SNc, conforme indicado por diversas evidências, incluindo a comparação de métodos intracelulares e extracelulares, registros justacelulares e os efeitos de lesões específicas de DA ( Grace e Bunney, 1983 ; Grace et al., 2007 ; Brown et al., 2009 ). No entanto, estudos recentes indicam que essa técnica pode ser menos confiável na VTA, onde os neurônios DA e não-DA apresentam uma variedade maior de propriedades celulares ( Margolis et al., 2006 ; Margolis et al., 2008 ; Lammel et al., 2008 ; Brischoux et al., 2009 ). Mesmo as medições diretas das concentrações de DA em estruturas a jusante não fornecem evidências conclusivas da atividade de disparo dos neurônios DA, pois as concentrações de DA podem ser controladas por fatores adicionais, como a ativação glutamatérgica dos terminais axonais DA ( Cheramy et al., 1991 ) e mudanças rápidas na atividade dos transportadores de DA ( Zahniser e Sorkin, 2004 ). Para realizar medições totalmente conclusivas da atividade dos neurônios DA durante o comportamento ativo, será necessário utilizar novas técnicas de registro, como a combinação de registro extracelular com estimulação optogenética ( Jin e Costa, 2010 ).

Conclusão

Um conceito influente dos neurónios do mesencéfalo DA tem sido que eles transmitem um sinal motivacional uniforme para todas as estruturas a jusante. Aqui, revisamos as evidências de que os sinais DA são mais diversos do que se pensa. Em vez de codificar um sinal uniforme, os neurônios DA vêm em vários tipos que enviam mensagens motivacionais distintas sobre eventos recompensadores e não recompensadores. Mesmo neurônios DA únicos não parecem transmitir sinais motivacionais únicos. Em vez disso, os neurônios DA transmitem misturas de múltiplos sinais gerados por processos neurais distintos. Algumas refletem previsões detalhadas sobre experiências recompensadoras e aversivas, enquanto outras refletem respostas rápidas a eventos de grande importância potencial.

Além disso, propusemos uma hipótese sobre a natureza desses diversos sinais DA, as redes neurais que os geram e sua influência nas estruturas cerebrais a jusante e no comportamento motivado. Nossa proposta pode ser vista como uma síntese de teorias anteriores. Muitas teorias anteriores tentaram identificar os neurónios DA com um único processo motivacional, como a busca de metas valorizadas, o envolvimento em situações motivacionais salientes ou a reação ao alerta de mudanças no ambiente. Em nossa opinião, os neurônios DA recebem sinais relacionados a todos esses três processos. No entanto, em vez de destilar esses sinais em uma mensagem uniforme, propusemos que os neurônios DA transmitam esses sinais para estruturas cerebrais distintas, a fim de apoiar sistemas neurais distintos para cognição e comportamento motivados. Alguns neurônios DA apoiam sistemas cerebrais que atribuem valor motivacional, promovendo ações para buscar eventos recompensadores, evitar eventos aversivos e garantir que os eventos de alerta possam ser previstos e preparados com antecedência. Outros neurônios DA apoiam sistemas cerebrais que são envolvidos por relevância motivacional, incluindo orientação para detectar eventos potencialmente importantes, processamento cognitivo para escolher uma resposta e lembrar suas conseqüências, e motivação para persistir na busca de um resultado ideal. Esperamos que esta proposta ajude a nos levar a uma compreensão mais refinada das funções DA no cérebro, na qual os neurônios DA adaptam seus sinais para suportar múltiplas redes neurais com papéis distintos no controle motivacional.

AGRADECIMENTOS

Este trabalho foi apoiado pelo programa de pesquisa intramural no National Eye Institute. Agradecemos também a Amy Arnsten por valiosas discussões.

Notas de rodapé

Aviso do Editor: Este é um arquivo PDF de um manuscrito não editado que foi aceito para publicação. Como um serviço aos nossos clientes, estamos disponibilizando esta versão preliminar do manuscrito. O manuscrito passará por revisão ortográfica e gramatical, formatação e revisão da prova resultante antes de ser publicado em sua forma final e citável. Observe que, durante o processo de produção, erros podem ser descobertos, o que pode afetar o conteúdo, e todas as isenções de responsabilidade legais aplicáveis ​​à revista permanecem válidas.

[NOTA DE RODAPÉ 1] Por saliência motivacional, entendemos uma quantidade que é alta tanto para eventos recompensadores quanto para eventos aversivos e baixa para eventos motivacionalmente neutros (não recompensadores e não aversivos). Isso é semelhante à definição dada por ( Berridge e Robinson, 1998 ). Observe que a saliência motivacional é distinta de outras noções de saliência usadas em neurociência, como a saliência de incentivo (que se aplica apenas a eventos desejáveis; ( Berridge e Robinson, 1998 )) e a saliência perceptual (que se aplica a eventos motivacionalmente neutros, como objetos em movimento e luzes coloridas; ( Bisley e Goldberg, 2010 )).

NOTA DE RODAPÉ 2 Observe que os sinais dos neurônios DA que codificam a saliência motivacional são distintos das noções clássicas de “associabilidade” e “mudança na associabilidade” que foram propostas para regular a taxa de aprendizagem por reforço (por exemplo, ( Pearce e Hall, 1980 )). Tais teorias afirmam que os animais aprendem (e ajustam as taxas de aprendizagem) tanto com erros de previsão positivos quanto negativos. Embora esses neurônios DA possam contribuir para a aprendizagem a partir de erros de previsão positivos, durante os quais podem ter uma resposta forte (por exemplo, à entrega inesperada de recompensa), eles podem não contribuir para a aprendizagem a partir de erros de previsão negativos, durante os quais podem ter pouca ou nenhuma resposta (por exemplo, à omissão inesperada de recompensa) ( Fig. 4B ).

REFERÊNCIAS

  1. Ahlbrecht M, Weber M. A resolução da incerteza: um estudo experimental. Jornal de economia institucional e teórica. 1996; 152: 593 – 607.
  2. Albin RL, Young AB, Penney JB. A anatomia funcional dos distúrbios dos gânglios da base. Tendências em neurociências. 1989; 12: 366 – 375. [PubMed]
  3. Anderson AK, Christoff K, Stappen I, Panitz D, DG Ghahremani, Glover G, Gabrieli JD, Sobel N. Representações neurais dissociadas de intensidade e valência no olfato humano. Nat Neurosci. 2003; 6: 196 – 202. [PubMed]
  4. Anstrom KK, Miczek KA, Budygin EA. Aumento da sinalização fásica de dopamina na via mesolímbica durante a derrota social em ratos. Neurociência. 2009; 161: 3 – 12. [PubMed]
  5. Aragona BJ, JJ Day, Roitman MF, Cleaveland NA, RM Wightman, Carelli RM. Especificidade regional no desenvolvimento em tempo real de padrões de transmissão de dopamina fásica durante a aquisição de uma associação cocaína-cocaína em ratos. O jornal europeu de neurociência. 2009; 30: 1889 – 1899. [Artigo gratuito do PMC] [PubMed]
  6. Austin AJ, Duka T. Mecanismos de atenção para resultados apetitivos e aversivos no condicionamento pavloviano. Pesquisa do cérebro comportamental. 2010; 213: 19 – 26. [PubMed]
  7. Badia P, Harsh J, Abbott B. Escolhendo entre condições de choque previsíveis e imprevisíveis: dados e teoria. Boletim Psicológico. 1979; 86: 1107 – 1131.
  8. Balleine BW, Killcross S. Processamento de incentivo paralelo: uma visão integrada da função da amígdala. Tendências em neurociências. 2006; 29: 272 – 279. [PubMed]
  9. Balleine BW, O'Doherty JP. Homologias humanas e de roedores no controle da ação: determinantes corticostriatal da ação direcionada ao objetivo e habitual. Neuropsicofarmacologia. 2010; 35: 48–69. [Artigo gratuito do PMC] [PubMed]
  10. Barr GA, Moriceau S, Shionoya K, K Muzny, Gao P, Wang S, Sullivan RM. As transições na aprendizagem infantil são moduladas pela dopamina na amígdala. Nat Neurosci. 2009; 12: 1364 – 1366. [Artigo gratuito do PMC] [PubMed]
  11. Bassareo V, De Luca MA, Di Chiara G. Expressão diferencial de propriedades de estímulo motivacional por dopamina no Nucleus Accumbens Shell versus núcleo e córtex pré-frontal. J Neurosci. 2002; 22: 4709 – 4719. [PubMed]
  12. Bassareo V, Di Chiara G. Capacidade de resposta diferencial da transmissão de dopamina a estímulos alimentares em compartimentos de núcleo / núcleo accumbens. Neurociência. 1999; 89: 637 – 641. [PubMed]
  13. Baxter MG, Murray EA. A amígdala e recompensa. Nat Rev Neurosci. 2002; 3: 563 – 573. [PubMed]
  14. Bayer HM, Glimcher PW. Os neurônios dopaminérgicos mesencéfalos codificam um sinal de erro de previsão de recompensa quantitativa. Neurônio 2005; 47: 129 – 141. [Artigo gratuito do PMC] [PubMed]
  15. Belova MA, Paton JJ, Morrison SE, CD de Salzman. A expectativa modula as respostas neurais a estímulos agradáveis ​​e aversivos na amígdala primata. Neurônio 2007; 55: 970 – 984. [Artigo gratuito do PMC] [PubMed]
  16. Bentivoglio M, Morelli M. A organização e circuitos de neurônios dopaminérgicos mesencefálicos e a distribuição de receptores de dopamina no cérebro. Manual de Neuroanatomia Química. 2005: 1 – 107.
  17. Berridge KC, Robinson TE. Qual é o papel da dopamina na recompensa: impacto hedônico, aprendizado de recompensa ou saliência de incentivo? Pesquisa do cérebro. 1998; 28: 309 – 369. [PubMed]
  18. Besson C, Louilot A. Envolvimento assimétrico de neurônios dopaminérgicos mesolímbicos na percepção afetiva. Neurociência. 1995; 68: 963 – 968. [PubMed]
  19. Birgner C, Nordenankar K, Lundblad M., Mendez JA, Smith C, Greves M, Galter D, Olson L., Fredriksson A, Trudeau LE, et al. VGLUT2 em neurônios dopaminérgicos é necessário para ativação comportamental induzida por psicoestimulantes. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2010; 107: 389 – 394. [Artigo gratuito do PMC] [PubMed]
  20. Bisley JW, Goldberg ME. Atenção, intenção e prioridade no lobo parietal. Revisão anual da neurociência. 2010; 33: 1 – 21. [Artigo gratuito do PMC] [PubMed]
  21. Bjorklund A, Dunnett SB. Sistemas de neurônios dopaminérgicos no cérebro: uma atualização. Tendências em neurociências. 2007; 30: 194 – 202. [PubMed]
  22. Blazquez PM, N Fujii, Kojima J, Graybiel AM. Uma representação em rede da probabilidade de resposta no estriado. Neurônio 2002; 33: 973 – 982. [PubMed]
  23. Botvinick MM, Braver TS, Barch DM, Carter CS e Cohen JD. Monitoramento de conflitos e controle cognitivo. Psychol Rev. 2001; 108: 624 – 652. [PubMed]
  24. Bradley MM, Greenwald MK, Petry MC, Lang PJ. Lembrando fotos: prazer e excitação na memória. J Exp Psychol Aprenda Mem Cogn. 1992; 18: 379 – 390. [PubMed]
  25. Braun DA, Mehring C, Wolpert DM. Estrutura de aprendizagem em ação. Pesquisa do cérebro comportamental. 2010; 206: 157 – 165. [Artigo gratuito do PMC] [PubMed]
  26. Brinschwitz K, Dittgen A, VI Madai, Lommel R, Geisler S, Veh RW. Os axônios glutamatérgicos da habenula lateral terminam principalmente nos neurônios GABAérgicos do mesencéfalo ventral. Neurociência. 2010; 168: 463 – 476. [PubMed]
  27. Brischoux F, Chakraborty S, Brierley DI, MA inculpável. Excitação fásica de neurônios dopaminérgicos em ATVs ventral por estímulos nocivos. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2009; 106: 4894 – 4899. [Artigo gratuito do PMC] [PubMed]
  28. Os neurônios dopaminérgicos de Bromberg-Martin ES, Hikosaka O. Midbrain sinalizam a preferência por informações antecipadas sobre as recompensas futuras. Neurônio 2009; 63: 119 – 126. [Artigo gratuito do PMC] [PubMed]
  29. Bromberg-Martin ES, Matsumoto M, Hikosaka O. Atividade tônica e antecipatória fásica distinta em neurônios laterais de habenula e dopamina. Neurônio 2010a; 67: 144 – 155. [Artigo gratuito do PMC] [PubMed]
  30. Bromberg-Martin ES, Matsumoto M, Hong S, Hikosaka O. Uma via pallidus-habenula-dopamina sinaliza valores de estímulo inferidos. J Neurophysiol. 2010b; 104: 1068 – 1076. [Artigo gratuito do PMC] [PubMed]
  31. Bromberg-Martin ES, M de Matsumoto, Nakahara H, Hikosaka O. Múltiplas escalas de tempo de memória em habenula lateral e neurônios de dopamina. Neurônio 2010c; 67: 499 – 510. [Artigo gratuito do PMC] [PubMed]
  32. MTC marrom, Henny P, Bolam JP, Magill PJ. Atividade de neurônios dopaminérgicos neuroquimicamente heterogêneos na substantia nigra durante mudanças espontâneas e dirigidas no estado cerebral. J Neurosci. 2009; 29: 2915 – 2925. [PubMed]
  33. Cardeal RN. Sistemas neurais implicados no reforço tardio e probabilístico. Neural Netw. 2006; 19: 1277 – 1301. [PubMed]
  34. Elogio JF, Aragona BJ, ML Heien, Seipel AT, RM Carelli RM, Wightman RM. A liberação coordenada de dopamina em atividade e a atividade neural impulsionam o comportamento direcionado por objetivos. Neurônio 2007; 54: 237 – 244. [PubMed]
  35. Cheramy A, Kemel ML, Gauchy C, Desce JM, Galli T, Barbeito L, Glowinski J. Papel dos aminoácidos excitatórios na regulação pré-sináptica direta e indireta da liberação de dopamina dos terminais nervosos dos neurônios dopaminérgicos nigrostriatais. Aminoácidos. 1991; 1: 351 – 363. [PubMed]
  36. Chew SH, Ho JL. Esperança: um estudo empírico da atitude em relação ao momento da resolução da incerteza. Jornal de Risco e Incerteza. 1994; 8: 267 – 288.
  37. Chiodo LA, Antelman SM, Caggiula AR, Lineberry CG. Estímulos sensoriais alteram a taxa de descarga de neurônios dopaminérgicos (DA): evidência de dois tipos funcionais de células DA na substantia nigra. Cérebro Res. 1980; 189: 544 – 549. [PubMed]
  38. Christoph GR, Leonzio RJ, Wilcox KS. A estimulação da habenula lateral inibe os neurônios contendo dopamina na substância negra e na área ventral tegmentar do rato. J Neurosci. 1986; 6: 613 – 619. [PubMed]
  39. Chuhma N, Choi WY, Mingote S, Rayport S. Cotransmissão do glutamato neuronal por dopamina: modulação dependente de frequência na projeção mesoventromedial. Neurociência. 2009; 164: 1068 – 1083. [Artigo gratuito do PMC] [PubMed]
  40. Cohen JD, Braver TS, Brown JW. Perspectivas computacionais sobre a função da dopamina no córtex pré-frontal. Opinião atual em neurobiologia. 2002; 12: 223 – 229. [PubMed]
  41. Coizet V, Dommett EJ, Klop EM, Redgrave P, Overton PG. O núcleo parabraquial é um elo crítico na transmissão de informações nociceptivas de latência curta para neurônios dopaminérgicos mesencéfalos. Neurociência. 2010; 168: 263 – 272. [Artigo gratuito do PMC] [PubMed]
  42. Coizet V, Dommett EJ, Redgrave P, Overton PG. As respostas nociceptivas dos neurônios dopaminérgicos do mesencéfalo são moduladas pelo colículo superior no rato. Neurociência. 2006; 139: 1479 – 1493. [PubMed]
  43. Comoli E, Coizet V, Boyes J, Bolam JP, Canteras NS, Quirk RH, Overton PG, Redgrave P. Uma projeção direta do colículo superior para substantia nigra para detectar eventos visuais salientes. Nat Neurosci. 2003; 6: 974 – 980. [PubMed]
  44. Corbit LH, Balleine BW. Dupla dissociação das lesões basolaterais e centrais da amígdala nas formas gerais e específicas do resultado da transferência instrumental pavloviana. J Neurosci. 2005; 25: 962 – 970. [PubMed]
  45. Dalley JW, K Laane, Theobald DE, Armstrong HC, Corlett PR, Chudasama Y, Robbins TW. Modulação por tempo limitado da memória pavloviana apetitiva pelos receptores D1 e NMDA no nucleus accumbens. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2005; 102: 6189 – 6194. [Artigo gratuito do PMC] [PubMed]
  46. Daly HB. A preferência pela imprevisibilidade é invertida quando o não repensável imprevisível é aversivo: procedimentos, dados e teorias da aquisição de respostas de observação apetitiva. Em: Gormezano I, Wasserman EA, editores. Aprendizagem e Memória: Os Substratos Comportamentais e Biológicos. Associados LE; 1992. pp. 81 – 104.
  47. Davidson MC, Horvitz JC, N Tottenham, Fossella JA, Watts R, Ulug AM, Casey BJ. Ativação de caudado diferencial e cingulado após estímulos não recompensadores inesperados. NeuroImage. 2004; 23: 1039 – 1045. [PubMed]
  48. Dia JJ, Roitman MF, RM Wightman, Carelli RM. O aprendizado associativo medeia mudanças dinâmicas na sinalização da dopamina no nucleus accumbens. Nat Neurosci. 2007; 10: 1020 – 1028. [PubMed]
  49. Dayan P, Niv Y. Aprendizado de reforço: o bom, o ruim e o feio. Opinião atual em neurobiologia. 2008; 18: 185 – 196. [PubMed]
  50. Descarries L, N Berube-Carriere, Riad M, Bo GD, Mendez JA, Trudeau LE. Glutamato em neurônios dopaminérgicos: transmissão sináptica versus transmissão difusa. Revisões de pesquisa do cérebro. 2008; 58: 290 – 302. [PubMed]
  51. Di Chiara G. Núcleo accumbens shell e core dopamina: papel diferencial no comportamento e dependência. Pesquisa do cérebro comportamental. 2002; 137: 75 – 114. [PubMed]
  52. Dommett E, Coizet V, Blaha CD, Martindale J, Lefebvre V, Walton N, Mayhew JE, Overton PG, Redgrave P. Como os estímulos visuais ativam os neurônios dopaminérgicos em curta latência. Ciência. 2005; 307: 1476 – 1479. [PubMed]
  53. Dormont JF, Conde H, Farin D. O papel do núcleo tegmentar pedunculopontine em relação ao desempenho motor condicionado no gato. I. Atividade unitária unitária dependente de contexto e de reforço. Pesquisa experimental do cérebro. Experimentelle Hirnforschung. 1998; 121: 401 – 410. [PubMed]
  54. Duzel E, Bunzeck N, Guitart-Masip M., Duzel S. Motivação relacionada à antecipação e à exploração por dopamina (NOMAD): implicações para o envelhecimento saudável. Neurociência e análises bio-comportamentais. 2010; 34: 660 – 669. [PubMed]
  55. El-Amamy H, Holland PC. Efeitos dissociáveis ​​de desconectar o núcleo central da amígdala da área tegmental ventral ou substantia nigra sobre orientação orientada e motivação de incentivo. O jornal europeu de neurociência. 2007; 25: 1557 – 1567. [Artigo gratuito do PMC] [PubMed]
  56. Ettenberg A. Propriedades oponentes do processo de cocaína auto-administrada. Neurociência e análises bio-comportamentais. 2004; 27: 721 – 728. [PubMed]
  57. Fadok JP, Dickerson TM, Palmiter RD. A dopamina é necessária para o condicionamento do medo dependente do sinal. J Neurosci. 2009; 29: 11089 – 11097. [Artigo gratuito do PMC] [PubMed]
  58. Fairhall AL, Lewen GD, Bialek W, de Ruyter Van Steveninck RR. Eficiência e ambigüidade em um código neural adaptativo. Natureza. 2001; 412: 787 – 792. [PubMed]
  59. Faure A, Haberland U, Conde F. El Massioui N. A lesão do sistema dopaminérgico nigrostriatal interrompe a formação de hábitos estímulo-resposta. J Neurosci. 2005; 25: 2771 – 2780. [PubMed]
  60. Faure A, Reynolds SM, Richard JM e Berridge KC. Dopamina mesolímbica em desejo e medo: permitindo que a motivação seja gerada por rupturas localizadas de glutamato no núcleo accumbens. J Neurosci. 2008; 28: 7184 – 7192. [Artigo gratuito do PMC] [PubMed]
  61. Fiorillo CD, Newsome WT, Schultz W. A precisão temporal da previsão de recompensa em neurônios dopaminérgicos. Nat Neurosci. 2008; 11: 966 – 973. [PubMed]
  62. Fiorillo CD, Tobler PN, Schultz W. Codificação discreta da probabilidade de recompensa e incerteza pelos neurônios dopaminérgicos. Ciência. 2003; 299: 1898 – 1902. [PubMed]
  63. Floresco SB, Ghods-Sharifi S, Vexelman C, Magyar O. Funções dissociáveis ​​para o núcleo e acúmulo do núcleo accumbens na regulação do deslocamento de conjuntos. J Neurosci. 2006; 26: 2449 – 2457. [PubMed]
  64. Ford CP, Gantz SC, Phillips PE, Williams JT. Controle de dopamina extracelular nos terminais de dendrito e axônio. J Neurosci. 2010; 30: 6975 – 6983. [Artigo gratuito do PMC] [PubMed]
  65. Frank MJ. Modulação dinâmica da dopamina nos gânglios da base: uma descrição neurocomputacional dos déficits cognitivos no parkinsonismo medicamentoso e não-medicamentoso. Jornal de neurociência cognitiva. 2005; 17: 51 – 72. [PubMed]
  66. Frank MJ, Fossella JA. Neurogenética e farmacologia da aprendizagem, motivação e cognição. Neuropsicofarmacologia. 2010 [Artigo gratuito do PMC] [PubMed]
  67. Frank MJ, Seeberger LC, O'Reilly RC. Por cenoura ou por pau: aprendizado de reforço cognitivo no parkinsonismo. Ciência. 2004; 306: 1940 – 1943. [PubMed]
  68. Gallistel CR, Gibbon J. Tempo, taxa e condicionamento. Psychol Rev. 2000; 107: 289 – 344. [PubMed]
  69. Gao DM, Jeaugey L, Pollak P, Benabid AL. Respostas nociceptivas dependentes da intensidade de neurônios dopaminérgicos presumidos da substância negra, pars compacta no rato e sua modificação por entradas de habenula laterais. Cérebro Res. 1990; 529: 315 – 319. [PubMed]
  70. Gauriau C, Bernard JF. Vias de dor e circuitos parabraquiais no rato. Fisiologia Experimental. 2002; 87: 251 – 258. [PubMed]
  71. Geisler S, Zahm DS. Aferências da área tegmentar ventral no substrato anatômico do rato para funções integrativas. O Jornal de Neurologia Comparativa. 2005; 490: 270 – 294. [PubMed]
  72. Gerfen CR, Engber TM, Mahan LC, Susel Z, Chase TN, Monsma FJ, Jr., Sibley DR. D1 e D2 expressão gênica regulada por receptor de dopamina de neurônios estriatonigral e striatopalidal. Ciência. 1990; 250: 1429 – 1432. [PubMed]
  73. Ghods-Sharifi S, Floresco SB. Efeitos diferenciais sobre o desconto de esforço induzido por inativações do núcleo ou do núcleo do nucleus accumbens. Neurociência comportamental. 2010; 124: 179 – 191. [PubMed]
  74. Gonon FG. Relação não-linear entre o fluxo de impulso e a dopamina liberada pelos neurônios dopaminérgicos mesencefálicos de rato como estudado por eletroquímica in vivo. Neurociência. 1988; 24: 19 – 28. [PubMed]
  75. Goto Y, Yang CR, Otani S. Plasticidade sináptica funcional e disfuncional no córtex pré-frontal: papéis em transtornos psiquiátricos. Psiquiatria biológica. 2010; 67: 199 – 207. [PubMed]
  76. Grace AA. Liberação fásica versus tônica da dopamina e modulação da responsividade do sistema da dopamina: uma hipótese para a etiologia da esquizofrenia. Neurociência. 1991; 41: 1 – 24. [PubMed]
  77. Grace AA, Bunney BS. Eletrofisiologia intracelular e extracelular de neurônios dopaminérgicos nigral – 1. Identificação e caracterização. Neurociências. 1983; 10: 301–315. [PubMed]
  78. Grace AA, Floresco SB, Goto Y, Lodge DJ. Regulação do disparo de neurônios dopaminérgicos e controle de comportamentos direcionados a objetivos. Tendências em neurociências. 2007; 30: 220 – 227. [PubMed]
  79. Grecksch G, Matties H. O papel dos mecanismos dopaminérgicos no hipocampo de ratos para a consolidação em uma discriminação de brilho. Psicofarmacologia (Berl) 1981; 75: 165-168. [PubMed]
  80. Guarraci FA, Kapp BS. Caracterização eletrofisiológica dos neurônios dopaminérgicos da área tegmentar ventral durante o condicionamento diferencial do medo pavloviano no coelho acordado. Pesquisa do cérebro comportamental. 1999; 99: 169 – 179. [PubMed]
  81. Haber SN, Fudge JL, McFarland NR. As vias estriatontrosstraliatais em primatas formam uma espiral ascendente desde a concha até o estriado dorsolateral. J Neurosci. 2000; 20: 2369 – 2382. [PubMed]
  82. Salão J, Parkinson JA, Connor, Dickinson A, Everitt BJ. Envolvimento do núcleo central da amígdala e do núcleo accumbens na mediação das influências pavlovianas no comportamento instrumental. O jornal europeu de neurociência. 2001; 13: 1984 – 1992. [PubMed]
  83. Han JS, McMahan RW, Holanda P, Gallagher M. O papel de uma via amígdalo-nigrostriatal na aprendizagem associativa. J Neurosci. 1997; 17: 3913 – 3919. [PubMed]
  84. Harris GC, Aston-Jones G. Excitação e recompensa: uma dicotomia na função da orexina. Tendências em neurociências. 2006; 29: 571 – 577. [PubMed]
  85. Herry C, R Bach, Esposito F, F Di Salle, Perrig WJ, Scheffler K, Luthi A, Seifritz E. Processamento de imprevisibilidade temporal na amígdala humana e animal. J Neurosci. 2007; 27: 5958 – 5966. [PubMed]
  86. Hikida T, K Kimura, Wada N, K Funabiki, Nakanishi S. Diferentes papéis da transmissão sináptica em vias estriadas diretas e indiretas para recompensar e comportamento aversivo. Neurônio 2010; 66: 896 – 907. [PubMed]
  87. Hikosaka O. Mecanismos dos gânglios basais do movimento ocular orientado para a recompensa. Anais da Academia de Ciências de Nova York. 2007; 1104: 229 – 249. [PubMed]
  88. Hikosaka O. A habenula: da evasão do estresse à tomada de decisão baseada no valor. Nat Rev Neurosci. 2010; 11: 503 – 513. [Artigo gratuito do PMC] [PubMed]
  89. Hikosaka O, Takikawa Y, Kawagoe R. Papel dos gânglios da base no controle dos movimentos oculares sacádicos intencionais. Revisões fisiológicas. 2000; 80: 953 – 978. [PubMed]
  90. Hitchcott PK, Quinn JJ, Taylor JR. Modulação bidirecional de ações direcionadas a objetivos pela dopamina cortical pré-frontal. Cereb Cortex. 2007; 17: 2820 – 2827. [PubMed]
  91. Hnasko TS, N Chuhma, Zhang H, Goh GY, Sulzer D, Palmit� RD, Rayport S, Edwards RH. O transporte glutamato vesicular promove o armazenamento de dopamina e o corelease de glutamato in vivo. Neurônio 2010; 65: 643 – 656. [Artigo gratuito do PMC] [PubMed]
  92. Holland PC, circuito de Gallagher M. Amygdala em processos atencionais e representacionais. Tendências em ciências cognitivas. 1999; 3: 65 – 73. [PubMed]
  93. Hollerman JR, Schultz W. Neurônios de dopamina relatam um erro na predição temporal de recompensa durante o aprendizado. Nat Neurosci. 1998; 1: 304 – 309. [PubMed]
  94. Holroyd CB, Coles MG. A base neural do processamento de erros humanos: aprendizado por reforço, dopamina e negatividade relacionada a erros. Psychol Rev. 2002; 109: 679 – 709. [PubMed]
  95. Hong S, Hikosaka O. O globo pálido envia sinais relacionados à recompensa para a habenula lateral. Neurônio 2008; 60: 720 – 729. [Artigo gratuito do PMC] [PubMed]
  96. Horvitz JC. Respostas mesolimbocorticais e nigrostriatais de dopamina a eventos salientes de não recompensa. Neurociência. 2000; 96: 651 – 656. [PubMed]
  97. Horvitz JC, Stewart T, Jacobs BL. A atividade de explosão dos neurônios de dopamina ventral tegmentar é desencadeada por estímulos sensoriais no gato acordado. Cérebro Res. 1997; 759: 251 – 258. [PubMed]
  98. Houk JC, Adams JL, Barto AG. Um modelo de como os gânglios da base geram e usam sinais neurais que predizem o reforço. Em: Houk JC, Davis JL, Beiser DG, editores. Modelos de Processamento de Informação nos Gânglios da Base. Cambridge, MA: MIT Press; 1995. pp. 249 – 274.
  99. Ikemoto S. Circuito de recompensa cerebral além do sistema de dopamina mesolímbica: Uma teoria neurobiológica. Neurociência e análises bio-comportamentais. 2010 [Artigo gratuito do PMC] [PubMed]
  100. Ito R, Dalley JW, Howes SR, Robbins TW, Everitt BJ. Dissociação na liberação de dopamina condicionada no núcleo Núcleo Accumbens e Shell em resposta a dicas de cocaína e durante o comportamento de procura de cocaína em ratos. J Neurosci. 2000; 20: 7489 – 7495. [PubMed]
  101. Ivlieva NY, Timofeeva NO. Atividade de neurônio no núcleo pedunculopontine durante um reflexo condicionado operante relacionado a comida. Neurociência e Fisiologia Comportamental. 2003a; 33: 919 – 928. [PubMed]
  102. Ivlieva NY, Timofeeva NO. Atividade de neurônio no núcleo pedunculopontine durante um reflexo condicionado operante. Neurociência e Fisiologia Comportamental. 2003b; 33: 499 – 506. [PubMed]
  103. Jalabert M, Aston-Jones G, Herzog E, Manzoni O, Georges F. Papel do núcleo leito da estria terminal no controle dos neurônios dopaminérgicos da área tegmental ventral. Progresso em neuro-psicofarmacologia e psiquiatria biológica. 2009; 33: 1336–1346. [Artigo gratuito do PMC] [PubMed]
  104. Jeanblanc J, Hoeltzel A, Louilot A. Dissociação no envolvimento de neurônios dopaminérgicos inervando o núcleo e as sub-regiões do núcleo accumbens em inibição latente e percepção afetiva. Neurociência. 2002; 111: 315 – 323. [PubMed]
  105. Jensen J, Smith AJ, Willeit M., Crawley AP, DJ Mikulis, Vitcu I, Kapur S. Código de regiões do cérebro separado para saliência versus valência durante a predição de recompensa em humanos. Mapeamento do cérebro humano. 2007; 28: 294 – 302. [PubMed]
  106. Jhou TC, campos HL, Baxter MG, CB de Saper, PC de Holland. O núcleo rostromedial tegmental (RMTg), um aferente GABAérgico aos neurônios dopaminérgicos do mesencéfalo, codifica os estímulos aversivos e inibe as respostas motoras. Neurônio 2009a; 61: 786 – 800. [Artigo gratuito do PMC] [PubMed]
  107. Jhou TC, Geisler S, M Marinelli, Degarmo BA, Zahm DS. O núcleo tegmentar rostromedial mesopontino: Uma estrutura visada pela habenula lateral que se projeta para a área ventral tegmental de Tsai e substantia nigra compacta. O Jornal de Neurologia Comparativa. 2009b; 513: 566 – 596. [Artigo gratuito do PMC] [PubMed]
  108. Ji H, Shepard PD. A estimulação lateral da habenula inibe os neurónios de dopamina do mesencéfalo de rato através de um mecanismo mediado pelo receptor GABA (A). J Neurosci. 2007; 27: 6923 – 6930. [PubMed]
  109. Jin X, Costa RM. Sinais de início / parada emergem em circuitos nigrostriatais durante o aprendizado de seqüências. Natureza. 2010; 466: 457 – 462. [Artigo gratuito do PMC] [PubMed]
  110. Johansen JP, Fields HL. A ativação glutamatérgica do córtex cingulado anterior produz um sinal de ensino aversivo. Nat Neurosci. 2004; 7: 398 – 403. [PubMed]
  111. Joseph MH, Datla K, Jovem AM. A interpretação da medida do nucleus accumbens dopamina por diálise in vivo: o chute, o desejo ou a cognição? Neurociência e análises bio-comportamentais. 2003; 27: 527 – 541. [PubMed]
  112. Joshua M, Adler A, Bergman H. A dinâmica da dopamina no controle do comportamento motor. Opinião atual em neurobiologia. 2009a; 19: 615 – 620. [PubMed]
  113. Joshua M, Adler A, Mitelman R, Vaadia E, Bergman H. Os neurônios dopaminérgicos do mesencéfalo e os interneurônios colinérgicos do estriado codificam a diferença entre os eventos de recompensa e de aversão em diferentes épocas dos ensaios probabilísticos de condicionamento clássico. J Neurosci. 2008; 28: 11673 – 11684. [PubMed]
  114. Joshua M, Adler A, Prut Y, E Vaadia, Wickens JR, Bergman H. Sincronização de neurônios dopaminérgicos mesencéfalo é reforçada por eventos de recompensa. Neurônio 2009b; 62: 695 – 704. [PubMed]
  115. Kable JW, Glimcher PW. A neurobiologia da decisão: consenso e controvérsia. Neurônio 2009; 63: 733 – 745. [Artigo gratuito do PMC] [PubMed]
  116. Kakade S, Dayan P. Dopamine: generalização e bônus. Redes neurais. 2002; 15: 549 – 559. [PubMed]
  117. Kapur S. Psychosis como um estado de saliência aberrante: um quadro que liga biologia, fenomenologia e farmacologia na esquizofrenia. O jornal americano de psiquiatria. 2003; 160: 13 – 23. [PubMed]
  118. Kaufling J, Veinante P, Pawlowski SA, Freund-Mercier MJ, Barrot M. Aferentes à cauda GABAergic da área tegmental ventral no rato. O Jornal de Neurologia Comparativa. 2009; 513: 597 – 621. [PubMed]
  119. Kennerley SW, Wallis JD. Avaliando as escolhas de neurônios individuais no lobo frontal: valor de resultado codificado em várias variáveis ​​de decisão. O jornal europeu de neurociência. 2009; 29: 2061 – 2073. [Artigo gratuito do PMC] [PubMed]
  120. Kim H, JH Sul, Huh N, Lee D, Jung MW. Papel do estriado na atualização de valores de ações escolhidas. J Neurosci. 2009; 29: 14701 – 14712. [PubMed]
  121. Kiyatkin EA. Propriedades funcionais de neurônios presumidos contendo dopamina e outros neurônios da área tegmentar ventral em ratos conscientes. Int J Neurosci. 1988a; 42: 21 – 43. [PubMed]
  122. Kiyatkin EA. Modificação induzida pela morfina das propriedades funcionais dos neurônios da área tegmentar ventral em ratos conscientes. Estagiário J Neurociência. 1988b; 41: 57 – 70. [PubMed]
  123. Klingberg T. Treinamento e plasticidade da memória de trabalho. Tendências em ciências cognitivas. 2010; 14: 317 – 324. [PubMed]
  124. Kobayashi S, K Nomoto, Watanabe M, O Hikosaka, Schultz W, Sakagami M. Influências de resultados gratificantes e aversivos sobre a atividade no córtex pré-frontal lateral Macaco. Neurônio 2006; 51: 861 – 870. [PubMed]
  125. Kobayashi S, Schultz W. A influência de atraso de recompensa em respostas de neurônios de dopamine. J Neurosci. 2008; 28: 7837 – 7846. [Artigo gratuito do PMC] [PubMed]
  126. Kobayashi Y, Y de Inoue, Yamamoto M, Isa T, Aizawa H. Contribuição de neurônios de núcleo tegmental pedunculopontine à realização de tarefas de sacada visualmente guiadas em macacos. J Neurophysiol. 2002; 88: 715 – 731. [PubMed]
  127. Koyama T, Tanaka YZ, Mikami A. Os neurônios nociceptivos do cingulado anterior do macaco se ativam durante a antecipação da dor. Neuroreport. 1998; 9: 2663 – 2667. [PubMed]
  128. Kravitz AV, Congelar BS, Parker PR, K Kay, Thwin MT, Deisseroth K, Kreitzer AC. Regulação dos comportamentos motores parkinsonianos pelo controle optogenético dos circuitos dos gânglios da base. Natureza. 2010 [Artigo gratuito do PMC] [PubMed]
  129. Lammel S, Hetzel A, Hackel O, Jones I, Liss B., Roeper J. Propriedades únicas de neurônios mesoprefrontais dentro de um sistema duplo de dopamina mesocorticolímbica. Neurônio 2008; 57: 760 – 773. [PubMed]
  130. Lang PJ, Davis M. Emoção, motivação e cérebro: fundamentos reflexivos em pesquisas com animais e humanos. Progresso na pesquisa do cérebro. 2006; 156: 3 – 29. [PubMed]
  131. Lapish CC, Kroener S, D Durstewitz, Lavin A, Seamans JK. A capacidade do sistema de dopamina mesocortical para operar em modos temporais distintos. Psicofarmacologia (Berl) 2007; 191: 609-625. [PubMed]
  132. Lee D, Seo H. Mecanismos de aprendizagem de reforço e tomada de decisão no córtex pré-frontal dorsolateral de primatas. Anais da Academia de Ciências de Nova York. 2007; 1104: 108 – 122. [PubMed]
  133. Lee HJ, Groshek F. Petrovich GD, Cantalini JP, Gallagher M. Holland PC. Papel do circuito amígdalo-nigral no condicionamento de um estímulo visual emparelhado com comida. J Neurosci. 2005; 25: 3881 – 3888. [Artigo gratuito do PMC] [PubMed]
  134. Levita L., Dalley JW, Robbins TW. Nucleus accumbens dopamina e aprendi medo revisitado: uma revisão e algumas novas descobertas. Pesquisa do cérebro comportamental. 2002; 137: 115 – 127. [PubMed]
  135. Lin SC, Nicolelis MA. Conjunto neuronal estourando no forebrain basal codifica saliência independentemente de valência. Neurônio 2008; 59: 138 – 149. [Artigo gratuito do PMC] [PubMed]
  136. Lisman JE, Grace AA. O loop hipocampo-VTA: controla a entrada de informações na memória de longo prazo. Neurônio 2005; 46: 703 – 713. [PubMed]
  137. Litt A, Plassmann H, Shiv B, Rangel A. Dissociação dos sinais de avaliação e saliência durante a tomada de decisão. Cereb Cortex. 2010 na imprensa. [PubMed]
  138. Liu Z, Richmond BJ, Murray EA, Saunders RC, Steenrod S, Stubblefield BK, Montague DM, Ginns EI. O alvejamento de DNA do córtex rininal A proteína do receptor D2 bloqueia reversivelmente a aprendizagem de pistas que predizem a recompensa. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2004; 101: 12336 – 12341. [Artigo gratuito do PMC] [PubMed]
  139. Liu ZH, Shin R, Ikemoto S. Dupla função dos neurônios A10 medial de dopamina na codificação afetiva. Neuropsicofarmacologia. 2008; 33: 3010 – 3020. [Artigo gratuito do PMC] [PubMed]
  140. Ljungberg T, Apicella P, Schultz W. Respostas de neurônios de dopamina de macaco durante a aprendizagem de reações comportamentais. J Neurophysiol. 1992; 67: 145 – 163. [PubMed]
  141. Lobo MK, Covington HE, 3rd, Chaudhury D, Friedman AK, Sun H, Damez-Werno D, Dietz DM, Zaman S, JW Koo, Kennedy PJ, et al. A perda de sinalização de BDNF específica do tipo de célula imita o controle optogenético da recompensa de cocaína. Ciência. 2010; 330: 385 – 390. [Artigo gratuito do PMC] [PubMed]
  142. Maeda H, Mogenson GJ. Efeitos da estimulação periférica sobre a atividade de neurônios na área tegmentar ventral, substantia nigra e formação reticular mesencefálica de ratos. Boletim de pesquisa do cérebro. 1982; 8: 7 – 14. [PubMed]
  143. Mantz J, Thierry AM, Glowinski J. Efeito da pinça nociva na taxa de descarga dos neurônios dopaminérgicos mesocorticais e mesolímbicos: ativação seletiva do sistema mesocortical. Cérebro Res. 1989; 476: 377 – 381. [PubMed]
  144. Margolis EB, Lock H, Hjelmstad GO, Campos HL. A área tegmentar ventral revisitada: existe um marcador eletrofisiológico para neurônios dopaminérgicos? O jornal de fisiologia. 2006; 577: 907 – 924. [Artigo gratuito do PMC] [PubMed]
  145. Margolis EB, Mitchell JM, Ishikawa J, Hjelmstad GO, Campos HL. Neurônios dopaminérgicos mesencéfalos: o alvo da projeção determina a duração do potencial de ação e a inibição do receptor da dopamina D (2). J Neurosci. 2008; 28: 8908 – 8913. [PubMed]
  146. Mark GP, Blander DS, Hoebel BG. Um estímulo condicionado diminui a dopamina extracelular no núcleo accumbens após o desenvolvimento de uma aversão ao paladar. Cérebro Res. 1991; 551: 308 – 310. [PubMed]
  147. Marowsky A, Yanagawa Y, K Obata, Vogt KE. Uma subclasse especializada de interneurônios medeia a facilitação dopaminérgica da função da amígdala. Neurônio 2005; 48: 1025 – 1037. [PubMed]
  148. Matsumoto M, Hikosaka O. A habenula lateral é uma fonte de sinais negativos de recompensa em neurônios dopaminérgicos. Natureza. 2007; 447: 1111 – 1115. [PubMed]
  149. Matsumoto M, Hikosaka O. Representação do valor motivacional negativo na habenula lateral primata. Nat Neurosci. 2009a; 12: 77 – 84. [Artigo gratuito do PMC] [PubMed]
  150. Matsumoto M, Hikosaka O. Dois tipos de neurônios dopaminérgicos transmitem distintamente sinais motivacionais positivos e negativos. Natureza. 2009b; 459: 837 – 841. [Artigo gratuito do PMC] [PubMed]
  151. Matsumoto M, Matsumoto K. Abe H. Tanaka K. Atividade celular pré-frontal medial que sinaliza erros de predição de valores de ação. Nat Neurosci. 2007; 10: 647 – 656. [PubMed]
  152. Maio PJ, McHaffie JG, H de Stanford, H de H, Costello MG, Coizet V, Hayes LM, SN de Haber, Redgrave P. Projeções tectonigrais no primata: um caminho para entrada sensorial pre-atentiva aos neurônios dopaminérgicos do mesencéfalo. O jornal europeu de neurociência. 2009; 29: 575 – 587. [Artigo gratuito do PMC] [PubMed]
  153. Mazzoni P., Hristova A., Krakauer JW. Por que não nos movemos mais rápido? Doença de Parkinson, vigor do movimento e motivação implícita. J Neurosci. 2007; 27: 7105–7116. [PubMed]
  154. Merali Z, Michaud D, McIntosh J, Kent P, Anisman H. Envolvimento diferencial do sistema (s) CRH amigdaloide (s) na saliência e valência dos estímulos. Progresso em neuro-psicofarmacologia e psiquiatria biológica. 2003; 27: 1201–1212. [PubMed]
  155. Mirenowicz J, Schultz W. Ativação preferencial dos neurônios dopaminérgicos mesencefálicos por estímulos apetitivos, e não aversivos. Natureza. 1996; 379: 449 – 451. [PubMed]
  156. Molina-Luna K, Pekanovic A, Rohrich S, Hertler B, MS Schubring-Giese, MS Rioult-Pedotti, Luft AR. A dopamina no córtex motor é necessária para a aprendizagem de habilidades e plasticidade sináptica. PLoS ONE. 2009; 4: e7082. [Artigo gratuito do PMC] [PubMed]
  157. Montague PR, Berns GS. Economia neural e os substratos biológicos da avaliação. Neurônio 2002; 36: 265 – 284. [PubMed]
  158. Montague PR, Dayan P, Sejnowski TJ. Um quadro para sistemas de dopamina mesencefálicos baseado na aprendizagem preditiva de Hebbian. J Neurosci. 1996; 16: 1936 – 1947. [PubMed]
  159. Morris G, Arkadir D, Nevet A, E Vaadia, Bergman H. Mensagens coincidentes mas distintas de dopamina mesencéfalo e neurônios tonicamente ativos estriados. Neurônio 2004; 43: 133 – 143. [PubMed]
  160. Morris G, Nevet A, Arkadir D, Vaadia E, Bergman H. Os neurônios dopaminérgicos Midbrain codificam as decisões para ação futura. Nat Neurosci. 2006; 9: 1057 – 1063. [PubMed]
  161. Morrison SE, CD de Salzman. A convergência de informações sobre estímulos recompensadores e aversivos em neurônios individuais. J Neurosci. 2009; 29: 11471 – 11483. [Artigo gratuito do PMC] [PubMed]
  162. Os neurônios Nakahara H, Itoh H, Kawagoe R, Takikawa Y e Hikosaka O. Dopamina podem representar um erro de predição dependente do contexto. Neurônio 2004; 41: 269 – 280. [PubMed]
  163. Nakamura K, Hikosaka O. Papel da dopamina no núcleo caudado de primatas na modulação de recompensa de sacadas. J Neurosci. 2006; 26: 5360 – 5369. [PubMed]
  164. Neve KA, Seamans JK, Trantham-Davidson H. Sinalização do receptor da dopamina. Jornal de pesquisa de receptor e transdução de sinal. 2004; 24: 165 – 205. [PubMed]
  165. Nishijo H, Ono T, Nishino H. Respostas de neurônios únicos na amígdala de macaco alerta durante a estimulação sensorial complexa com significado afetivo. J Neurosci. 1988; 8: 3570 – 3583. [PubMed]
  166. Niv Y, Daw ND, Joel D, dayan P. Tonic dopamina: custos de oportunidade e controle do vigor de resposta. Psicofarmacologia. 2007; 191: 507 – 520. [PubMed]
  167. Nomoto K, Schultz W, Watanabe T, Sakagami M. Estimularam temporariamente as respostas de dopamina a estímulos de previsão de recompensa perceptivelmente exigentes. J Neurosci. 2010; 30: 10692 – 10702. [Artigo gratuito do PMC] [PubMed]
  168. Okada K, Y de Toyama, Y de Inoue, T de Isa, Kobayashi Y. Os neurônios diferentes do tegmental do pedunculopontine indicam recompensas preditas e reais da tarefa. J Neurosci. 2009; 29: 4858 – 4870. [PubMed]
  169. Omelchenko N, Bell R, Sesack SR. Projeções laterais de habenula para neurônios dopaminérgicos e GABA na área tegmentar ventral de ratos. O jornal europeu de neurociência. 2009; 30: 1239 – 1250. [Artigo gratuito do PMC] [PubMed]
  170. CA Owesson-Branco, Ariansen J, Stuber GD, Cleaveland NA, elogio JF, Wightman RM, Carelli RM. A codificação neural do comportamento de procura de cocaína é coincidente com a liberação de dopamina fásica no núcleo e na concha de accumbens. O jornal europeu de neurociência. 2009; 30: 1117 – 1127. [Artigo gratuito do PMC] [PubMed]
  171. Oyama K, Hernadi I, T Iijima, Tsutsui K. Código de erro de previsão de recompensa em neurônios dorsais do estriado. J Neurosci. 2010; 30: 11447 – 11457. [PubMed]
  172. Packard MG, White NM. Dissociação dos sistemas de memória do hipocampo e do núcleo caudado pelo pós-treino de injeção intracerebral de agonistas da dopamina. Neurociência comportamental. 1991; 105: 295 – 306. [PubMed]
  173. Padoa-Schioppa C. Córtex orbitofrontal e o cálculo do valor econômico. Anais da Academia de Ciências de Nova York. 2007; 1121: 232 – 253. [PubMed]
  174. Palmiter RD. A sinalização da dopamina no estriado dorsal é essencial para comportamentos motivados: lições de camundongos deficientes em dopamina. Anais da Academia de Ciências de Nova York. 2008; 1129: 35 – 46. [Artigo gratuito do PMC] [PubMed]
  175. Pan WX, Hyland BI. O núcleo tegmentar de pedunculopontina controla as respostas condicionadas dos neurônios dopaminérgicos do mesencéfalo em ratos que se comportam. J Neurosci. 2005; 25: 4725 – 4732. [PubMed]
  176. Pan WX, Schmidt R, Jens Wickens, Hyland BI. Mecanismo tripartido de extinção sugerido pela atividade neuronal da dopamina e modelo de diferença temporal. J Neurosci. 2008; 28: 9619 – 9631. [PubMed]
  177. Parker JG, Zweifel LS, Clark JJ, Evans SB, Phillips PE, Palmiter RD. Ausência de receptores NMDA em neurônios dopaminérgicos atenua a liberação de dopamina, mas não a abordagem condicionada durante o condicionamento pavloviano. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2010 [Artigo gratuito do PMC] [PubMed]
  178. Pascoe JP, Kapp BS. Características eletrofisiológicas dos neurônios do núcleo central da amígdala durante o condicionamento de medo pavloviano no coelho. Pesquisa do cérebro comportamental. 1985; 16: 117 – 133. [PubMed]
  179. Pascucci T, Ventura R, CE Latagliata, Cabib S, Puglisi-Allegra S. O córtex pré-frontal medial determina a resposta da accumbens dopamina ao estresse através das influências opostas de norepinefrina e dopamina. Cereb Cortex. 2007; 17: 2796 – 2804. [PubMed]
  180. Pearce JM, Hall G. Um modelo para a aprendizagem pavloviana: variações na eficácia dos estímulos condicionados, mas não incondicionados. Psychol Rev. 1980; 87: 532 – 552. [PubMed]
  181. Pezze MA, Feldon J. Caminhos dopaminérgicos mesolímbicos no condicionamento ao medo. Progresso na neurobiologia. 2004; 74: 301 – 320. [PubMed]
  182. Phillips AG, Ahn S e Howland JG. Controle amigdalar do sistema dopaminérgico mesocorticolímbico: vias paralelas ao comportamento motivado. Neurociência e análises bio-comportamentais. 2003a; 27: 543 – 554. [PubMed]
  183. Phillips GD, Salussolia E, Hitchcott PK. Papel da projeção de dopamina mesoamigálica na aprendizagem emocional. Psicofarmacologia. 2010 [PubMed]
  184. Phillips PE, Stuber GD, Heien ML, RM Wightman, Carelli RM. A liberação de dopamina de subsegundo promove a busca de cocaína. Natureza. 2003b; 422: 614 – 618. [PubMed]
  185. Porrino LJ, Goldman-Rakic ​​PS. Inervação do tronco encefálico do córtex pré-frontal e cingulado anterior no macaco rhesus revelada pelo transporte retrógrado de HRP. O Jornal de Neurologia Comparativa. 1982; 205: 63 – 76. [PubMed]
  186. Puryear CB, Kim MJ e Mizumori SJ. Codificação conjuntiva do movimento e recompensa pelos neurônios da área tegmentar ventral no roedor que navega livremente. Neurociência comportamental. 2010; 124: 234 – 247. [Artigo gratuito do PMC] [PubMed]
  187. Ravel S, Legalet E, Apicella P. Os neurônios tonicamente ativos no corpo estriado do macaco não respondem preferencialmente aos estímulos apetitivos. Pesquisa experimental do cérebro. Experimentelle Hirnforschung. 1999; 128: 531 – 534. [PubMed]
  188. Ravel S, Legallet E, Apicella P. Respostas de neurônios tonicamente ativos no corpo estriado de macaco discriminam entre estímulos motivacionalmente opostos. J Neurosci. 2003; 23: 8489 – 8497. [PubMed]
  189. Ravel S, Richmond BJ. Respostas neuronais da dopamina em macacos realizando programas de recompensa visualmente orientados. O jornal europeu de neurociência. 2006; 24: 277 – 290. [PubMed]
  190. Redgrave P, Gurney K. O sinal de dopamina de latência curta: um papel na descoberta de novas ações? Nat Rev Neurosci. 2006; 7: 967 – 975. [PubMed]
  191. Redgrave P, Prescott TJ, Gurney K. A resposta de dopamina de latência curta é muito curta para sinalizar um erro de recompensa? Tendências em neurociências. 1999; 12: 146 – 151. [PubMed]
  192. Rescorla RA, Wagner AR. Uma teoria do condicionamento pavloviano: variações na eficácia do reforçamento e não reforço. Em: Black AH, Prokasy WF, editores. Condicionamento Clássico II: Pesquisa e Teoria Atual. Nova Iorque, Nova Iorque: Appleton Century Crofts; 1972. pp. 64 – 99.
  193. Reynolds JNJ, Hyland BI, Wickens JR. Um mecanismo celular de aprendizado relacionado à recompensa. Natureza. 2001; 413: 67 – 70. [PubMed]
  194. Reynolds SM, Berridge KC. Motivação positiva e negativa na concha do nucleus accumbens: gradientes rostrocaudais bivalentes para alimentação induzida por GABA, reações de gosto de "gostar" / "não gostar", preferência / evitação de lugar e medo. J Neurosci. 2002; 22: 7308–7320. [PubMed]
  195. Richardson RT, DeLong MR. Estudos eletrofisiológicos das funções do núcleo basal em primatas. Avanços na medicina experimental e biologia. 1991; 295: 233 – 252. [PubMed]
  196. Robbins TW, Arnsten AF. A neuropsicofarmacologia da função fronto-executiva: modulação monoaminérgica. Revisão anual da neurociência. 2009; 32: 267 – 287. [Artigo gratuito do PMC] [PubMed]
  197. Robinson DL, Herman A, Seipel AT, Wightman RM. Monitoramento de comunicação química rápida no cérebro. Revisões químicas. 2008; 108: 2554 – 2584. [Artigo gratuito do PMC] [PubMed]
  198. Roesch MR, Dr. Calu DJ, Schoenbaum G. Os neurônios dopaminérgicos codificam a melhor opção em ratos que decidem entre recompensas diferentemente atrasadas ou dimensionadas. Nat Neurosci. 2007; 10: 1615 – 1624. [Artigo gratuito do PMC] [PubMed]
  199. Roesch MR, Olson CR. Atividade neuronal relacionada ao valor da recompensa e motivação no córtex frontal primata. Ciência. 2004; 304: 307 – 310. [PubMed]
  200. Roitman MF, Wheeler RA, RM Wightman, Carelli RM. Respostas químicas em tempo real no núcleo accumbens diferenciam estímulos recompensadores e aversivos. Nat Neurosci. 2008; 11: 1376 – 1377. [Artigo gratuito do PMC] [PubMed]
  201. Rutledge RB, Lazzaro SC, Lau B, Myers CE, Gluck MA, Glimcher PW. As drogas dopaminérgicas modulam as taxas de aprendizagem e perseveração em pacientes com Parkinson em uma tarefa dinâmica de forrageamento. J Neurosci. 2009; 29: 15104–15114. [Artigo gratuito do PMC] [PubMed]
  202. Salamone JD. O envolvimento do núcleo accumbens dopamina na motivação apetitiva e aversiva. Pesquisa do cérebro comportamental. 1994; 61: 117 – 133. [PubMed]
  203. Salamone JD, Correa M., Farrar A, Mingote SM. Funções relacionadas ao esforço da dopamina do nucleus accumbens e dos circuitos anteriores do prosencéfalo. Psicofarmacologia (Berl) 2007; 191: 461 – 482. [PubMed]
  204. Satoh T, Nakai S, Sato T, Kimura M. Codificação correlacionada de motivação e resultado de decisão por neurônios dopaminérgicos. J Neurosci. 2003; 23: 9913 – 9923. [PubMed]
  205. Savine AC, Beck SM, Edwards BG, Chiew KS, Braver TS. Aumento do controle cognitivo por meio de estados motivacionais de abordagem e evitação. Cognição e emoção. 2010; 24: 338–356. [Artigo gratuito do PMC] [PubMed]
  206. Schoenbaum G, Roesch MR, Stalnaker TA, Takahashi YK. Uma nova perspectiva sobre o papel do córtex orbitofrontal no comportamento adaptativo. Nat Rev Neurosci. 2009; 10: 885 – 892. [Artigo gratuito do PMC] [PubMed]
  207. Schultz W. Respostas dos neurônios dopaminérgicos do mesencéfalo aos estímulos comportamentais do macaco. J Neurophysiol. 1986; 56: 1439 – 1461. [PubMed]
  208. Schultz W. Sinal de recompensa preditivo dos neurônios dopaminérgicos. J Neurophysiol. 1998; 80: 1 – 27. [PubMed]
  209. Schultz W. Múltiplas funções da dopamina em diferentes cursos de tempo. Revisão anual da neurociência. 2007; 30: 259 – 288. [PubMed]
  210. Schultz W. Dopamine sinaliza o valor e o risco da recompensa: dados básicos e recentes. Behav Brain Funct. 2010; 6: 24. [Artigo gratuito do PMC] [PubMed]
  211. Schultz W, Dayan P, Montague PR. Um substrato neural de predição e recompensa. Ciência. 1997; 275: 1593 – 1599. [PubMed]
  212. Schultz W, Romo R. Respostas dos neurônios dopaminérgicos nigrostriatais à estimulação somatossensorial de alta intensidade no macaco anestesiado. J Neurophysiol. 1987; 57: 201 – 217. [PubMed]
  213. Schultz W, Romo R. Neurônios dopaminérgicos do mesencéfalo do macaco: contingências de respostas a estímulos que provocam reações comportamentais imediatas. J Neurophysiol. 1990; 63: 607 – 624. [PubMed]
  214. Seo H, Lee D. Filtragem temporal de sinais de recompensa no córtex cingulado anterior dorsal durante um jogo de estratégia mista. J Neurosci. 2007; 27: 8366 – 8377. [Artigo gratuito do PMC] [PubMed]
  215. Shabel SJ, Janak PH. Semelhança substancial na atividade neuronal da amígdala durante a excitação emocional apetitiva e aversiva condicionada. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2009; 106: 15031 – 15036. [Artigo gratuito do PMC] [PubMed]
  216. Shadmehr R, Smith MA, Krakauer JW. Correção de erros, previsão sensorial e adaptação no controle motor. Revisão anual da neurociência. 2010 [PubMed]
  217. Shen W, Flajolet M, Greengard P, DJ Surmeier. Controle dopaminérgico dicotômico da plasticidade sináptica do estriado. Ciência. 2008; 321: 848 – 851. [Artigo gratuito do PMC] [PubMed]
  218. Shimo Y, Wichmann T. A atividade neuronal no núcleo subtalâmico modula a liberação de dopamina no corpo estriado do macaco. O jornal europeu de neurociência. 2009; 29: 104 – 113. [Artigo gratuito do PMC] [PubMed]
  219. Shippenberg TS, Bals-Kubik R, Huber A, Herz A. Substratos neuroanatômicos que medeiam os efeitos aversivos dos antagonistas dos receptores da dopamina D-1. Psicofarmacologia (Berl) 1991; 103: 209-214. [PubMed]
  220. Shumake J, Ilango A, H Scheich, Wetzel W, Ohl FW. Neuromodulação diferencial da aquisição e recuperação da aprendizagem de esquiva pela habenula lateral e área tegmentar ventral. J Neurosci. 2010; 30: 5876 – 5883. [PubMed]
  221. DM pequeno, Gregory MD, Mak YE, Gitelman D, Mesulam MM, Parrish T. Dissociação da representação neural de intensidade e valoração afetiva na gustação humana. Neurônio 2003; 39: 701 – 711. [PubMed]
  222. Stefani MR, Moghaddam B. A aprendizagem de regras e a contingência de recompensas estão associadas a padrões dissociáveis ​​de ativação da dopamina no córtex pré-frontal de ratos, no núcleo accumbens e no estriado dorsal. J Neurosci. 2006; 26: 8810 – 8818. [Artigo gratuito do PMC] [PubMed]
  223. Steinfels GF, Heym J, Strecker RE, Jacobs BL. Resposta dos neurônios dopaminérgicos no gato aos estímulos auditivos apresentados ao longo do ciclo vigília-sono. Cérebro Res. 1983; 277: 150 – 154. [PubMed]
  224. Strecker RE, Jacobs BL. Atividade da unidade dopaminérgica de substância negra em gatos que se comportam: efeito da excitação na descarga espontânea e atividade sensorial evocada. Cérebro Res. 1985; 361: 339 – 350. [PubMed]
  225. Stuber GD, Hnasko TS, Britt JP, Edwards RH, Bonci A. Terminais dopaminérgicos no núcleo accumbens mas não no glutamato de corelease do estriado dorsal. Jornal de Neurociência. 2010; 30: 8229 – 8233. [Artigo gratuito do PMC] [PubMed]
  226. Stuber GD, Wightman RM, Carelli RM. A extinção da autoadministração de cocaína revela sinais dopaminérgicos funcionalmente e temporalmente distintos no núcleo accumbens. Neurônio 2005; 46: 661 – 669. [PubMed]
  227. Sul JH, Kim H, Huh N, Lee D, Jung MW. Papéis distintos do córtex pré-frontal orbitofrontal e medial de roedores na tomada de decisão. Neurônio 2010; 66: 449 – 460. [Artigo gratuito do PMC] [PubMed]
  228. Surmeier DJ, Ding J, Dia M, Wang Z, Shen W. D1 e D2 modulação do receptor de dopamina da sinalização glutamatérgica do estriado em neurônios espinhais do meio estriado. Tendências em neurociências. 2007; 30: 228 – 235. [PubMed]
  229. DJ Surmeier, Shen W, Dia M, T Gertler, Chan S, Tian X, Plotkin JL. O papel da dopamina na modulação da estrutura e função dos circuitos estriados. Progresso na pesquisa do cérebro. 2010; 183C: 148 – 167. [PubMed]
  230. Sutton RS, Barto AG. Em direção a uma teoria moderna de redes adaptativas: expectativa e previsão. Psychol Rev. 1981; 88: 135 – 170. [PubMed]
  231. Takahashi YK, MR de Roesch, TA de Stalnaker, Haney RZ, DJ de Calu, AR de Taylor, Burke KA, Schoenbaum G. O córtex orbitofrontal e a área tegmental ventral são necessários aprendendo de resultados inesperados. Neurônio 2009; 62: 269 – 280. [Artigo gratuito do PMC] [PubMed]
  232. Takikawa Y, Kawagoe R, Hikosaka O. Um possível papel dos neurônios dopaminérgicos mesencefálicos na adaptação de sacadas a curto e longo prazo ao mapeamento de recompensa por posição. J Neurophysiol. 2004; 92: 2520 – 2529. [PubMed]
  233. Tecuapetla F, Patel JC, Xenias H, Inglês D, Tadros I, Shah F, Berlim J, Deisseroth K, Arroz ME, Tepper JM, Koos T. Sinalização glutamatérgica por neurônios dopaminérgicos mesolímbicos no nucleus accumbens. J Neurosci. 2010; 30: 7105 – 7110. [Artigo gratuito do PMC] [PubMed]
  234. Thierry AM, Tassin JP, G Blanc, Glowinski J. Ativação seletiva do sistema DA mesocortical por estresse. Natureza. 1976; 263: 242 – 244. [PubMed]
  235. Tobler PN, Dickinson A, Schultz W. Codificação de Omissão de Recompensas Previstas por Neurônios de Dopamina em um Paradigma de Inibição Condicionado. J Neurosci. 2003; 23: 10402 – 10410. [PubMed]
  236. Tobler PN, Fiorillo CD, Schultz W. Codificação adaptativa do valor de recompensa pelos neurônios dopaminérgicos. Ciência. 2005; 307: 1642 – 1645. [PubMed]
  237. Tsai HC, Zhang F, Adamantidis A, Stuber GD, Bonci A, Lecea L, Deisseroth K. Fasic Firing em neurônios dopaminérgicos é suficiente para o condicionamento comportamental. Ciência. 2009 [PubMed]
  238. Ullsperger M. Estudos de associação genética de monitoramento de desempenho e aprendizagem a partir de feedback: o papel da dopamina e da serotonina. Neurociência e análises bio-comportamentais. 2010; 34: 649 – 659. [PubMed]
  239. MA inculpável. Dopamina: a questão saliente. Tendências em neurociências. 2004; 27: 702 – 706. [PubMed]
  240. Uylings HB, Groenewegen HJ, Kolb B. Os ratos têm um córtex pré-frontal? Pesquisa do cérebro comportamental. 2003; 146: 3 – 17. [PubMed]
  241. Ventura R, Cabib S, Puglisi-Allegra S. Em frente à resposta da dopamina mesocorticolímbica dependente do genótipo ao estresse. Neurociência. 2001; 104: 627 – 631. [PubMed]
  242. Ventura R, Latagliata EC, Morrone C, La Mela I, Puglisi-Allegra S. A norepinefrina pré-frontal determina a atribuição de “alta” saliência motivacional. PLoS ONE. 2008; 3: e3044. [Artigo gratuito do PMC] [PubMed]
  243. Ventura R, Morrone C, Puglisi-Allegra S. O sistema de catecolamina pré-frontal / accumbal determina a atribuição de saliência motivacional a estímulos relacionados à recompensa e à aversão. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2007; 104: 5181 – 5186. [Artigo gratuito do PMC] [PubMed]
  244. Vogt BA. Interações de dor e emoção em sub-regiões do giro cingulado. Nat Rev Neurosci. 2005; 6: 533 – 544. [Artigo gratuito do PMC] [PubMed]
  245. Voon V, Pessiglione M, Brezing C, Gallea C, Fernández HH, Dolan RJ, Hallett M. Mecanismos subjacentes às recompensas mediadas por dopamina em comportamentos compulsivos. Neurônio 2010; 65: 135 – 142. [Artigo gratuito do PMC] [PubMed]
  246. As respostas de Waelti P, Dickinson A, Schultz W. Dopamina cumprem as suposições básicas da teoria da aprendizagem formal. Natureza. 2001; 412: 43 – 48. [PubMed]
  247. Wallis JD, Kennerley SW. Sinais de recompensa heterogênea no córtex pré-frontal. Opinião atual em neurobiologia. 2010; 20: 191 – 198. [Artigo gratuito do PMC] [PubMed]
  248. Walton ME, Behrens TE, Buckley MJ, Rudebeck PH, Rushworth MF. Sistemas de aprendizagem separáveis ​​no cérebro de macacos e o papel do córtex orbitofrontal na aprendizagem contingente. Neurônio 2010; 65: 927 – 939. [Artigo gratuito do PMC] [PubMed]
  249. Wheeler RA, Twining RC, Jones JL, JM Slater, Grigson PS, Carelli RM. Índices comportamentais e eletrofisiológicos de afeto negativo predizem a autoadministração de cocaína. Neurônio 2008; 57: 774 – 785. [PubMed]
  250. Wightman RM, Heien MLAV, Wassum KM, LA Sombers, Aragona BJ, AS Khan, Ariansen JL, Elogio JF, Phillips PE, Carelli RM. A liberação de dopamina é heterogênea dentro dos microambientes do núcleo do rato accumbens. O jornal europeu de neurociência. 2007; 26: 2046 – 2054. [PubMed]
  251. Williams GV, Castner SA. Sob a curva: questões críticas para elucidar a função do receptor D1 na memória de trabalho. Neurociência. 2006; 139: 263 – 276. [PubMed]
  252. Williams SM, Goldman-Rakic ​​PS. Origem generalizada do sistema de dopamina primata mesofrontal. Cereb Cortex. 1998; 8: 321 – 345. [PubMed]
  253. Winn P. Qual a melhor maneira de considerar a estrutura e função do núcleo tegmentar pedunculopontina: evidências de estudos em animais. Jornal das Ciências Neurológicas. 2006; 248: 234 – 250. [PubMed]
  254. RA sábio. Dopamina, aprendizagem e motivação. Nat Rev Neurosci. 2004; 5: 483 – 494. [PubMed]
  255. RA sábio. Substratos Forebrain de recompensa e motivação. O Jornal de Neurologia Comparativa. 2005; 493: 115 – 121. [Artigo gratuito do PMC] [PubMed]
  256. Wise SP. Campos frontais avançados: filogenia e função fundamental. Tendências em neurociências. 2008; 31: 599 – 608. [Artigo gratuito do PMC] [PubMed]
  257. Yamada H, Matsumoto N, Kimura M. Neurônios tonicamente ativos no núcleo caudado de primatas e putâmen codificam diferentemente os resultados motivacionais instruídos da ação. J Neurosci. 2004; 24: 3500 – 3510. [PubMed]
  258. Yamada H, Matsumoto N, Kimura M. Codificação baseada na instrução atual e histórica dos resultados comportamentais futuros no corpo estriado. J Neurophysiol. 2007; 98: 3557 – 3567. [PubMed]
  259. Yin HH, Knowlton BJ. O papel dos gânglios da base na formação de hábitos. Nat Rev Neurosci. 2006; 7: 464 – 476. [PubMed]
  260. Jovem AM, Moran PM, Joseph MH. O papel da dopamina no condicionamento e na inibição latente: o que, quando, onde e como? Neurociência e análises bio-comportamentais. 2005; 29: 963 – 976. [PubMed]
  261. Zaghloul KA, Blanco JA, Weidemann CT, McGill K, Jaggi JL, Baltuch GH, Kahana MJ. Os neurônios humanos substantia nigra codificam recompensas financeiras inesperadas. Ciência. 2009; 323: 1496 – 1499. [Artigo gratuito do PMC] [PubMed]
  262. Zahniser NR, Sorkin A. Regulação rápida do transportador de dopamina: papel na dependência de estimulantes? Neurofarmacologia. 2004; 47 Suppl 1: 80 – 91. [PubMed]
  263. Zhang L., Doyon WM, Clark JJ, Phillips PE, Dani JA. Controles de transmissão de dopamina tônica e fásica no estriado dorsal e ventral. Farmacologia Molecular. 2009; 76: 396 – 404. [Artigo gratuito do PMC] [PubMed]
  264. Zink CF, Pagnoni G, Martin ME, Dhamala M, Berns GS. Resposta estriada humana a estímulos salientes não recompensadores. Jornal de Neurociência. 2003; 23: 8092 – 8097. [PubMed]
  265. Zweifel LS, Argilli E, Bonci A, Palmiter RD. Papel dos receptores NMDA em neurônios dopaminérgicos para plasticidade e comportamentos aditivos. Neurônio 2008; 59: 486 – 496. [Artigo gratuito do PMC] [PubMed]
  266. Zweifel LS, Parker JG, Lobb CJ, �gua da chuva A, Wall VZ, JP Fadok, Darvas M, Kim MJ, Mizumori SJ, Paladini CA, et al. O rompimento da queima de rajada dependente de NMDAR por neurônios de dopamina fornece uma avaliação seletiva do comportamento dependente de dopamina fásica. Anais da Academia Nacional de Ciências dos Estados Unidos da América. 2009; 106: 7281 – 7288. [Artigo gratuito do PMC] [PubMed]