Uamuzi usio na usawa Utawala wa Uongozi katika Madawa Kuondoka kutoka kwa Madawa ya Madawa ya Drugamu ya Dopamine (2013)

 

  • Mehdi Keramati mail,
     
  • Boris Gutkin

 

abstract

Licha ya dhahiri kutaka kuacha, walevi wa muda mrefu hujikuta hawana nguvu ya kupinga dawa za kulevya, licha ya kujua kuwa utumiaji wa dawa za kulevya inaweza kuwa hatua mbaya. Kutofautiana huko kati ya maarifa dhahiri ya athari mbaya na mifumo ya tabia ya kulazimisha inawakilisha mzozo wa utambuzi / tabia ambao ni tabia kuu ya ulevi. Shughuli ya Neurobiologically, tofauti inayosababishwa na cue katika sehemu tofauti za uzazi, pamoja na uunganisho wa dopamine unaozunguka kutoka mikoa ya kizazi hadi maeneo ya dorsal, hucheza majukumu muhimu katika utaftaji wa madawa ya kulevya. Walakini, utaratibu wa utendaji ambao unajumuisha uchunguzi huu wa neuropharmacological na mzozo uliotajwa hapo juu wa utambuzi / tabia haujulikani. Hapa tunatoa ufafanuzi rasmi wa hesabu kwa kutofautiana kwa utambuzi wa madawa ya kulevya ambayo inaonekana katika "makosa ya kibinafsi" ya walevi. Tunaonyesha kuwa dawa za kulevya polepole huzaa upendeleo wa kushawishi kwa utaftaji wa madawa ya kulevya kwa michakato ya uamuzi wa kiwango cha chini, licha ya uthamini mdogo wa kitabia wa tabia hii. Ugonjwa huu hujitokeza ndani ya mfumo wa ujifunzaji wa hierarchical wakati mfiduo sugu wa dawa ya dawa unazalisha dalili zinazoendelea za dalili za kimapopasi. Kwa hivyo dawa hunyakua spirals za dopaminergic ambazo hupunguza ishara za kuimarisha chini ya uongozi wa ventro-dorsal cortico-striatal. Neurobiologically, nadharia yetu inaleta maendeleo ya haraka ya dawa inayotokana na madawa ya kulevya iliyotokana na dawa ya kulevya kwenye dutu ya mwendo na jibu la kucheleweshwa kwenye sehemu ya nyuma ya dorsal. Nadharia yetu pia inaonyesha jinsi muundo huu wa majibu unategemea sana mzunguko wa kuzunguka kwa dopamine. Kwa tabia, mfumo wetu unaelezea kutokujali polepole kwa utaftaji wa madawa ya kulevya kwa adhabu zinazohusiana na dawa za kulevya, hali ya kuzuia matokeo ya dawa, na upendeleo unaoendelea wa dawa juu ya thawabu za asili na walevi. Mfano huo unaonyesha utabiri unaoweza kujaribiwa na zaidi ya hapo, huweka hatua kwa mtazamo wa uraibu kama ugonjwa wa michakato ya uamuzi wa kihierarkia. Maoni haya ni ya ziada kwa tafsiri ya jadi ya ulevi kama mwingiliano kati ya mifumo ya uamuzi wa kawaida na inayoelekezwa kwa malengo.

kuanzishwa

"Tulikubali hatuna nguvu juu ya ulevi wetu - kwamba maisha yetu yameshindwa kudhibitiwa" inasema mpango wa kwanza wa mpango wa hatua ya hatua wa Narcotic Anonymous 12 [1]. Hii inaangazia jinsi waraibu wasio na nguvu hujikuta wanapokuja kupinga madawa, licha ya kujua kuwa kutumia dawa za kulevya ni kozi mbaya ya hatua. [2]-[4]. Kwa kweli, ishara ya ulevi ni kutafuta kwa nguvu kwa dawa hizo hata kwa gharama ya athari mbaya [5]. Saini ya tabia kama hiyo ya kisaikolojia inadhihirika katika majaribio yaliyodhibitiwa ambapo watalaamu huonyesha tabia ya "kujielezea mwenyewe": kutokubaliana baina ya tabia ya tabia kuelekea uchaguzi unaohusiana na dawa na dhamira ndogo ya chini ambayo mhusika hurejea kwa dawa hiyo. [4], [6], [7]. Wakati unapojumuishwa na upotezaji wa udhibiti wa utambuzi wa kizuizi juu ya tabia, baada ya kufichuliwa kwa muda mrefu kwa madawa ya kulevya, mzozo huu kati ya mipango ya utambuzi na tabia iliyojumuishwa inaweza kusababisha mabadiliko kutoka kwa tabia ya kawaida na ya kulazimika ya kutafuta dawa. [8].

Kupotea kwa udhibiti wa utambuzi na makosa yaliyojielezea mwenyewe hadi sasa kumepitisha maelezo ya msingi na mifano rasmi ya ulevi [9]-[13]. Nadharia za kitabia za hapo awali za ulevi wa dawa za kulevya, nyingi zilizowekwa ndani ya mfumo wa ujifunzaji wa nguvu, tazama madawa ya kulevya kama hali ya mfumo wa kujifunza tabia (kichocheo cha majibu) [9]-[13]. Dhana kuu kati ya mifano hiyo yote ni kwamba athari ya kifamasia ya dawa kwenye ishara ya dopamini, inayodhaniwa kuwa imebeba ishara ya kufundisha-majibu ya kichocheo, inasababisha kuimarishwa polepole kwa vyama hivyo. Athari hii husababisha tabia ya kulazimisha kutafuta dawa. Wakati mtazamo huu uliopunguzwa wa ulevi umechukua hali kadhaa, uzushi unaokua katika fasihi ya dawa za kulevya unaonyesha kuwa mifumo mingi ya ujifunzaji inahusika katika ugonjwa huo. Picha ngumu zaidi tu ambayo inajumuisha utambuzi wa ubongo, pamoja na michakato ya kiwango cha chini, inaweza kuelezea anuwai ya tabia kama za ulevi. [8], [14].

Katika karatasi hii, tunapitisha mbinu ya ujifunzaji wa hali ya juu ya uboreshaji [15] ambapo maamuzi yanawakilishwa katika viwango tofauti vya kujiondoa, katika nafasi ya utambuzi-kwa-gari. Tunadhani kwamba kasumba ya ishara za kujifunza zinazotegemea dopamini huunganisha viwango vya uongozi wakati wa pamoja [16]. Tunadhani zaidi kuwa dawa za dhuluma za dawa zinaiba mfumo wa mawasiliano kati ya viwango vya kujiondoa. Kwa msingi wa mawazo haya, tunaonyesha kwamba hali ya utambuzi iliyoripotiwa katika madawa ya kulevya hujitokeza ndani ya mfumo wa ujifunzaji wa hali ya juu ya uongozi wakati udhihirisho sugu wa utaftaji wa dawa za kulevya unasumbua ujifunzaji wa thamani katika uongozi wa uamuzi. Usumbufu huu unasababisha uvumbuzi wa juu zaidi wa uchaguzi wa dawa kwa michakato ya kawaida ya kiwango cha chini na kwa hivyo anatoa tabia ya kutafuta dawa za kawaida. Kisha tunaonyesha kuwa "hatupendi" lakini utaftaji wa madawa ya kulevya wenye nguvu unaweza kuelezewa kama michakato ya kawaida ya utekaji nyara wa dawa inayoongoza tabia, wakati mifumo mizuri ya utambuzi katika viwango vya juu vya uwakilishi inapoteza udhibiti wa tabia. Kwa kuongezea, tunaonyesha kuwa mfano uliopendekezwa unaweza kutoa ushahidi wa hivi karibuni juu ya ucheleweshaji wa haraka wa madawa ya kulevya-dari iliyoinuliwa katika hali ya hewa dhidi ya dorsal striatum, kwa mtiririko huo, na vile vile utegemezi wa muundo huu juu ya mzunguko wa dopamine.

Vifaa na mbinu

Vipindi vya awali

Katika concordance na fasihi taaluma ya saikolojia ya utambuzi, mafunzo yetu ya uimarishaji wa hali ya juu [15], [18] mfumo unadhania kuwa mpango wa utambuzi wa kawaida kama "chai ya pombe" unaweza kuvunjika katika mlolongo wa hatua za kiwango cha chini: maji ya kuchemsha, kuweka chai kwenye sufuria, nk. Utengano kama huo unaendelea hadi majibu ya kiwango cha dereva chini katika kiwango cha chini cha uongoziKielelezo 1A). Neurobiologically, viwango tofauti vya uongozi wa ngazi kutoka kwa utambuzi hadi viwango vya gari vinawakilishwa kando ya mhimili wa rostro-caudal wa mzunguko wa cortico-basal ganglia (BG) [19]-[21]. Mzunguko huu unaundwa na loops kadhaa zilizofanana zilizofungwa kati ya gamba la mbele na ganglia ya basal [22], [23] (Kielelezo 1B). Wakati loops za nje zinaonyesha uwasilishaji zaidi wa vitendo, vitanzi vya caudal, vyenye muundo wa kihemko-kiwatu na hali ya dorsolateral, fanya tabia ya kiwango cha chini. [19]-[21].

thumbnail

Kielelezo 1. Hierarchical shirika la tabia na mzunguko wa cortico-BG.

A, Mfano wa uongozi wa uamuzi kwa chaguzi mbili mbadala: dawa dhidi ya chakula. Kila mwendo wa vitendo unawakilishwa katika viwango tofauti vya kujiondoa, inavyodai kuwa imezikwa katika vitanzi tofauti vya cortico-BG. Kutafuta kila moja ya aina mbili za tuzo inaweza kufuata adhabu kubwa ya 16. B, Viunganisho vya Glutamatergic kutoka mradi tofauti wa maeneo ya mapema kwenda kwa subri ndogo ya sriari kisha kurudisha kwa PFC kupitia pallidum na thalamus, kutengeneza vitanzi kadhaa sambamba. Kupitia mtandao wa dopamine ya striato-nigro-striatal, mikoa ya mashariki ya striatum inashawishi mikoa ya dorsal zaidi. vmPFC, cortex ya medial preal ya kitabia; OFC, orbital frontort cortex; dACC, dortal anterior cingate cortex; SMC, sensor-motor cortex; VTA, eneo la kuvuta kwa mzunguko; SNc, kikubwa compacta. Kielelezo 1B Imebadilishwa kutoka Ref 21.

toa: 10.1371 / journal.pone.0061489.g001

Ndani ya mzunguko huu, shughuli za phasic za dermatini ya tumbo (DA) zinazounda kwa dalili zinaonyesha kosa kati ya utabiri na kupokea thawabu, na hivyo kubeba habari ya kichocheo-kichocheo. [24]. Makadirio haya ya DAergic huunda kuunganishwa kwa serial kuunganisha maeneo ya ndani zaidi ya striatum ili kuendelea na maeneo ya ndani kupitia unganisho unaojulikana kama "spiraling" [25]-[27] (Kielelezo 1B). Kwa kazi, shirika la mbele la kulisha linalounganisha rostral na loops ya cortico-BG inaruhusu kuelekezwa kutoka kwa coarse hadi uwakilishi mzuri. Ipasavyo, spirali za DA zimeorodheshwa ili kutoa muundo mdogo wa neurobiolojia kwa maendeleo ya kosa la utabiri wa malipo na viwango vya juu vya uongozi (encoding maarifa ya ajabu juu ya thamani ya chaguzi za tabia). Kosa hili hutumika kwa kusasisha maadili ya hatua kwa viwango vya kina zaidi [16]. Kwa maneno mengine, spirals za DA huruhusu viwango vya utambuzi vilivyo dhahiri vya kuongoza ujifunzaji katika michakato ya ukadiriaji wa vitendo zaidi.

Mchoro wa nadharia

Kwa upande wa nadharia inayojumuisha ya ujifunzaji wa kuimarisha [28] (RL), wakala (kwa upande wetu mtu au mnyama) hujifunza kufanya maamuzi sahihi ya hatua kwa kusasisha thamani yake iliyokadiriwa ya awali, , kwa kila jozi ya hatua ya serikali, , wakati malipo hupokelewa na wakala kwa wakati kama matokeo ya kufanya kitendo katika hali ya kichocheo (kichocheo) . Thamani inasasishwa kwa kompyuta ishara ya kosa la utabiri wa malipo. Ishara hii haitegemei tu thawabu iliyopokea mara moja (), lakini pia juu ya thamani ya hali mpya wakala anaishia, baada ya hatua hiyo kufanywa. Imetajwa na , kazi hii ya juu ya muda mfupi ya muda inawakilisha jumla ya thawabu za baadaye ambazo mnyama anatarajia kupokea kutoka kwa matokeo. , kuendelea. Makosa ya utabiri yanaweza kusambazwa na hesabu ifuatayo:


(1)

Intuitively, ishara ya makosa ya utabiri hulinganisha utofauti kati ya inayotarajiwa na yenye thawabu ya malipo ya hatua. Katika muundo wa uamuzi wa hali ya juu, hata hivyo, badala ya kujifunza -Ushauri kwa kujitegemea katika viwango tofauti, viwango vya juu zaidi vinaweza kuionyesha ishara ya kufundisha kwa viwango vya chini. Kwa kuwa viwango vya juu vya uongozi huwakilisha uwasilishaji zaidi wa dharura za mazingira, kujifunza hufanyika haraka katika viwango hivyo. Hii ni kwa sababu ya upeo mdogo wa uwakilishi wa tabia ya kufikirika: mpango wa hatua unaweza kuwakilishwa kama hatua moja (mwelekeo mmoja) katika kiwango cha juu cha uongozi na kama hatua nyingi za kina (vipimo vingi) katika viwango vya chini. ya uongozi. Thamani ya kiwango cha juu cha mpango huu wa hatua ingeweza kujifunza haraka ikilinganishwa na viwango vilivyo na undani ambapo makosa ya thawabu yangehitaji kutangaza hatua zote za hatua zilizoelezewa. Kwa hivyo, kuweka viwango vya chini vya chini na habari ya thamani kutoka viwango vya juu kunaweza kuharakisha kuunganishwa kwa maadili haya. Njia moja ya ufanisi ya kihesabu kufanya hivyo ni kudhani kwamba kwa kompyuta ishara ya makosa ya utabiri huko kiwango cha kutengwa, , kazi ya thamani ya juu ya muda, , hutoka kwa kiwango kimoja cha juu cha kujiondoa, [16]:


(2)

Ili kuhifadhi usawa, 2 ya hesabu inaweza kutumika kwa kulinganisha kosa la utabiri tu wakati hatua ya mwisho ya chaguo la kufikirika inafanywa (angalia Mchoro S1 katika Funga S1). Katika hali nyingine, kujifunza kwa thamani katika viwango tofauti hufanyika kwa kujitegemea, kama ilivyo kwa equation 1. Katika visa vyote viwili, ishara ya kufundisha hutumika kwa kusasisha maadili ya hapo awali katika kiwango kinacholingana:


(3)
ambapo kiwango cha kujifunza. Njia hii ya kugawana habari kwa kiwango cha kati inaelezewa bayolojia kwani inaonyesha muundo wa spraling wa safu ya DA, ukibeba habari chini ya uongozi katika mwelekeo wa ventro-dorsal. Wakati huo huo, kuongozwa na viwango vya kufikiria zaidi huharakisha kujifunza, kupunguza hali ya juu ya ujifunzaji wa thamani katika viwango vya kina. [16].

Katika karatasi hii tunaonyesha kwamba mwingiliano kati ya toleo lililobadilishwa la mfano umeandaliwa ndani [16] na athari maalum za kifamasia za dawa za kulevya kwa mfumo wa dopaminergic zinaweza kuchukua data inayohusiana na madawa ya kulevya katika mizani tofauti ya uchambuzi: tabia na kiwango cha mzunguko wa neurobiolojia. Kwanza, mtindo mpya huleta maelezo mafungamano ya tabia kadhaa za kuvutia zinazohusiana na ulevi wa madawa ya kulevya (kwa mfano kosa lililojielezea mwenyewe) [4], [6], [7]). Pili, tunaweza kutoa hesabu kwa ushahidi anuwai kuhusu mienendo ya kutolewa kwa dopamini iliyosababishwa na dawa [17].

Tunabadilisha mfano unaowasilishwa [16] kama ifuatavyo. Tunafanya mfano kuwa mzuri zaidi katika hali ya kumbukumbu ya kufanya kazi kwa kuchukua nafasi na , kwa hesabu 2, kwa kuwa maadili mawili hubadilika kwa kiwango sawa (angalia Mchoro S2 katika Funga S1, kwa msingi wa kiakili na kiurolojia):


(4)

Hapa, ni chaguo la kufikirika na ni hatua ya mwisho katika mlolongo wa tabia ambao unajaza chaguo hili kamili. Vivyo hivyo, ni dhamana ya kuridhisha ya , Ambayo ni pamoja na (Thamani ya thawabu ya ).

Kikabila, dawa hizo tofauti zinazodhulumiwa na wanadamu hushiriki mali ya msingi ya mkusanyiko wa dawa unaokuza dokamini ndani ya striatum [29]. Ipasavyo, tunajumuisha athari hii ya dawa ya dawa kwa kuongeza upendeleo mzuri, , (Angalia pia [9]-[12]) kwa ishara ya utabiri wa makosa ya utabiri uliofanywa na neuropu ya dopamine (angalia Mchoro S3 in Funga S1, kwa msingi wa kiakili na kiurolojia):


(5)

Huu inachukua athari ya moja kwa moja ya dawa juu ya mfumo wa DA, na ni dhamana yake ya utiaji nguvu kwa sababu ya athari za euphorigenic (tazama Funga S1 kwa habari ya ziada).

Wakati viwango vya 3 na 5 kwa pamoja vinafafanua utaratibu wa usasishaji wa kusasisha maadili katika mfano wetu, tunasisitiza pia kuwa utaratibu wa ushindani usio na msingi unaamua kiwango cha utaftaji unaodhibiti tabia. Hii imehimizwa na utaratibu uliopendekezwa ndani [29] kwa usuluhishi kati ya mifumo ya kawaida na iliyoelekezwa kwa malengo. Kwa hali hii, katika kila hatua ya uamuzi, kiwango tu cha kutengwa kwa uhakika wa hali ya juu katika kukadiria thamani ya tabia ya udhibiti wa uchaguzi. Mara tu kiwango hiki kinapofanya uamuzi wa kuchukua hatua, viwango vyote vya chini vya uongozi vitatumwa na kiwango hiki kubwa kutekeleza hatua iliyochaguliwa kama mlolongo wa majibu ya gari la kwanza (angalia Funga S1 kwa habari ya ziada; Kielelezo S4 ndani Funga S1; Kielelezo S5 ndani Funga S1). Baada ya kupokea majibu ya thawabu kutoka kwa mazingira, maadili katika viwango vyote husasishwa. Utaratibu huu wa usuluhishi wenye msingi wa kutabiri unatabiri kuwa kama michakato ya kufikirika inabadilika zaidi, ina uwezo wa kukadiria thamani wakati wa hatua za mwanzo za kujifunza na kwa hivyo, inadhibiti tabia katika hatua hizi. Walakini, kwa kuwa viwango vya kufikirika hutumia uwasilishaji wa mazingira (kwa mfano kwa kuwa na idadi ndogo ya majukumu ya msingi), uwezo wao wa kukadiria thamani sio sawa na ile ya viwango vya kina. Kwa maneno mengine, baada ya mafunzo ya kina uhakikisho unaohusishwa na maadili yaliyokadiriwa ni ya chini kwa viwango vya chini vya uhodhi ikilinganishwa na viwango vya juu. Kwa hivyo, kwa kujifunza kwa maendeleo, viwango vya chini vya uongozi huchukua udhibiti wa uchaguzi wa hatua, kwani kutokuwa na uhakika kunapungua polepole. Hii inakubaliana na mistari kadhaa ya ushahidi unaoonyesha kutawala kwa dorsal juu ya hali ya ndani katika udhibiti wa utaftaji wa dawa za kulevya (na vile vile kutafuta thawabu asili) [8], [30], [31].

Matokeo

Upungufu wa hesabu ya uhasibu unaibuka chini ya dawa lakini sio tuzo za asili

Kinyume na mifano ya awali ya usimamiajiji wa msingi wa uingizwaji wa ulevi [9]-[13] ambayo inategemea mfumo wa uamuzi-mmoja, akaunti yetu imejengwa juu ya mfumo wa mifumo-inayoingiliana-mingi. Kama matokeo, ingawa aina ya uundaji wa athari za dawa kwenye ishara ya makosa ya utabiri katika modeli yetu ni sawa na zile za awali [9]-[12], husababisha athari tofauti za kimsingi. Dopamine iliyosababishwa na dawa ya muda mfupi huongeza kosa la utabiri wa haraka katika kila ngazi ya uongozi na matokeo yake, inajumuisha upendeleo, , juu ya uhamishaji wa maarifa kutoka ngazi moja ya kujiondoa kwenda kwa ijayo, kando na mwelekeo mzuri wa laini ya uongozi. Upendeleo huu husababisha thamani ya asymptotic ya utaftaji wa madawa ya kulevya kwa kiwango fulani kuwa vitengo vya juu kuliko ile ya safu moja zaidi ya kuvutia (Kielelezo 2B). Mkusanyiko wa tofauti hizi kando ya mhimili wa rostro-caudal hatua kwa hatua huleta tofauti kubwa katika thamani ya tabia ya utaftaji wa dawa kati ya hali ya juu na chini ya uongozi. Kwa hivyo, hata ikifuatiwa na adhabu kali, thamani ya tabia inayohusishwa na dawa hubaki chanya katika viwango vya chini vya gari, wakati inakuwa hasi kwa viwango vya utambuzi. Kwa maneno mengine, mfano unatabiri kwamba mkusanyiko wa athari za dawa juu ya ond za DA huongeza thamani ya utaftaji wa dawa kwa tabia ya kiwango cha magari hadi kiwango cha juu kiasi kwamba hata adhabu kali ya asili haitaweza kuipunguza vya kutosha. Tunashauri kwamba hii inaelezea kutokubaliana kati ya tathmini inayotambua na ya kiwango cha chini cha tabia inayohusiana na madawa ya kulevya katika madawa ya kulevya. Kwa maneno mengine, tunapendekeza kwamba utaftaji wa madawa ya kulazimisha na kupungua kwa kasi kwa gharama zinazohusiana kunatokana na athari ya kifurushi ya dawa ya utekaji nyara njia ya utegemezi wa dopamine ambayo huhamisha habari kati ya viwango vya uongozi wa uamuzi.

thumbnail

Kielelezo 2. Kuhamasisha kwa chakula dhidi ya madawa ya kulevya katika viwango tofauti vya kufutwa (matokeo ya simulizi).

Katika majaribio ya kwanza ya 150 ambapo hakuna adhabu inayofuata thawabu, thamani ya kutafuta thawabu asili katika viwango vyote hubadilika hadi 10 (A). Kwa kesi ya madawa ya kulevya, hata hivyo, athari ya moja kwa moja ya dawa, iliyowekwa kwa) husababisha thamani ya asymptotic katika kila ngazi kuwa vitengo vya juu kuliko ile ya kiwango cha juu zaidi cha kujiondoa (B). Kwa hivyo, ikifuatiwa na adhabu, wakati vitanzi vya utambuzi hupeana kwa usahihi dhamana hasi kwa chaguo la utaftaji-wa dawa, vitanzi vya kiwango cha gari hupata utaftaji wa utaftaji wa madawa ya kulevya (dhamana chanya). Jalada kwenye takwimu hii linaonyesha mabadiliko ya maadili katika mnyama "mmoja" na kwa hivyo, hakuna uchambuzi wa takwimu uliotumika.

toa: 10.1371 / journal.pone.0061489.g002

Wakati madawa ya kulevya, kwa mfano wetu, husababisha hesabu isiyo na usawa katika viwango vyote, thamani ya thawabu asili hubadilika kuwa thamani sawa kwa viwango vyote, kwa sababu ya kukosekana kwa athari ya moja kwa moja ya maduka ya dawa kwa utaratibu wa saini wa DA (). Kwa hivyo, sio upatanifu au uboreshaji katika viwango vilivyojaa hautazingatiwa kwa kesi ya thawabu asili (Kielelezo 2A). Kupindukia kwa majibu ya utaftaji wa madawa ya kulevya katika viwango vya chini vya uongozi inapaswa kusababisha upendeleo usio wa kawaida wa dawa juu ya tuzo za asili, na kujihusisha zaidi katika shughuli zinazohusiana na dawa.

Tofauti dopamine ya kujibu kwa njia ya ndani dhidi ya dorsal dorsal kwa cues-zinazohusiana na madawa

Neurobiologically, majukumu tofauti ya subriari ya kijeshi katika upatikanaji na usemi wa tabia ya kutafuta madawa ya kulevya imechukua hatua ya katikati katika utafiti wa madawa ya kulevya. Kubadilisha ushahidi kutoka kwa mistari tofauti ya utafiti unaonyesha kuwa mabadiliko ya kitabia kutoka kwa burudani hadi matumizi ya dawa ya kulazimisha yanaonyesha mabadiliko ya hesabu kutoka kwa ventral kwenda kwa dorsolateral striatum [8], [33], [34], sambamba na mabadiliko kutoka kwa utambuzi hadi viwango vya kina katika mfano wetu. Sanjari na mfano wetu, mtandao wa spiraling wa DA unaunganisha eneo la ndani na kwa polepole zaidi maeneo ya ndani ya striatum inaonyeshwa kuchukua jukumu muhimu katika mabadiliko haya [25].

Katika utafiti muhimu wa hivi karibuni Willuhn et al. [17] iligundua muundo wa kutolewa kwa dopamine ili kujibu athari zinazohusiana na madawa ya kulevya kwenye hali ya hewa ya ndani na ya katikati ya panya wakati wa wiki tatu za kukabiliwa na cocaine. Kutumia kasi ya volclic voltlic, uchunguzi muhimu ni kwamba cue-iliyosababisha ufanisi wa DA kwenye stralatum ya nje hujitokeza hata baada ya mafunzo kidogo. Kwa kulinganisha, mashtaka ya dorsolateral yalionyesha dhahiri ya kuchochea DA tu baada ya mafunzo ya kina, na maendeleo ya muundo huu wa kutoweka yalipotea wakati striatum ya ventral ilionyeshwa kwenye eneo la ipsilateral.

Kwa kuwa azimio la muda la mabadiliko ya kasi ya voltammetry huteka kushuka kwa kasi kwa mkusanyiko, muundo uliotazamwa wa ufanisi wa DA unapaswa kuhusishwa na ishara ya "phasic" DA na kwa hivyo, kwa ishara ya utabiri wa makosa, kulingana na nadharia ya RL ya dopamine. [24]. Kulingana na nadharia ya RL, ishara ya utabiri wa kuangalia kichocheo kisicho tarajiwa ni sawa na dhamana ya thawabu ambayo kichocheo kinatabiri. Kwa hivyo, kutolewa kwa cue-ikiwa kwa DA ni sawa na dhamana iliyotabiriwa na urafiki huo.

Kwa maana hii, mfumo wetu wa uongozi hutoa maelezo rasmi ya muundo tofauti wa ndani na dhidi ya duru ya duru ya ufundi ya DA iliyoripotiwa katika [17]. Thamani iliyotabiriwa na cue inayohusishwa na madawa ya kulevya katika viwango vya utambuzi wa kawaida wa uongozi huongezeka haraka katika hatua za mapema sana za mafunzo (Kielelezo 2B), kwa sababu ya upungufu mdogo wa shida ya kusoma katika viwango vya juu vya kufutwa. Kama matokeo, mfano wetu unaonesha kwamba utaftaji ulioinua wa DA unaofaa unapaswa kuzingatiwa katika hali ya ndani hata baada ya mafunzo kidogo (Kielelezo 3). Katika viwango vilivyoelezewa vya uwakilishi, hata hivyo, mchakato wa kujifunza ni mwepesi (Kielelezo 2B), kwa sababu ya upeo wa juu wa nafasi ya shida, na vile vile utegemezi wa kujifunza juu ya viwango vya juu zaidi kupitia spirali za DA. Kwa hivyo, cue-ikiwa ikiwa na nguvu ya DA katika maenezi ya dorsolateral inapaswa kukuza polepole na kujulikana baada ya mafunzo ya kina (Kielelezo 3).

thumbnail

Kielelezo 3. Dopamine efflux katika subervions tofauti za kitabia kwa kujibu dalili zinazohusiana na dawa (matokeo ya simulizi).

Sambamba na data ya majaribio [17], mfano unaonyesha (safu ya kushoto) kwamba kwa kukabiliana na athari zinazohusiana na madawa ya kulevya, kutakuwa na dopamine efflux kwenye striatum ya ventral, baada ya mafunzo mdogo na ya kina. Katika subervions zaidi za dorsolateral, hata hivyo, cue-elicised DA efflux itakua hatua kwa hatua wakati wa masomo. Mfano unatabiri (safu ya pili kutoka kulia) kwamba ucheleweshaji huu wa kucheleweshaji wa maelezo ya DA yaliyosisitishwa katika hali ya chini ya dorsal hutegemea kuunganishwa kwa seri-tegemeo kwa DA ambayo inashirikisha ventral na dorsal striatum. Hiyo ni, kama matokeo ya kukatika spirals za DA, wakati majibu ya DA-yaliyosisitizwa yanabaki kuwa sawa katika hali ya hewa, hupungua sana katika dorsolateral striatum. Kwa kuongezea, mfano unatabiri (safu ya tatu kutoka kulia) matokeo sawa ya cue-ikiwa ya efflux ya DA katika dorsolateral striatum kwa kesi ya striatum ya ventral. Mwishowe, ikiwa baada ya kueneza kwa duka kubwa la dawa za kulevya kwa wanyama walio ndani, adhabu inafuata dawa, mfano unatabiri (safu ya kulia) kwamba cue inayohusiana na dawa husababisha kizuizi cha mguu wa hewa wa spirali za DA, hata baada ya mafunzo kidogo. Katika mikoa zaidi ya dorsal, hata hivyo, ufanisi wa DA hupungua polepole wakati wa kujifunza, lakini itabaki chanya, hata baada ya utengenezaji wa kina wa adhabu ya dawa za kulevya. Data iliyowasilishwa katika takwimu hii hupatikana kutoka kwa mnyama "mmoja" na kwa hivyo, hakuna uchambuzi wa takwimu uliotumika.

toa: 10.1371 / journal.pone.0061489.g003

Kwa kuongezea, mfano wetu unaelezea ushahidi ndani [17] kwamba ucheleweshaji kama huo wa kuchelewesha kwa kufafanua kwa ufanisi wa DA ya kufafanua kwenye hali ya dorsolateral inategemea hali ya hewa ya ndani (Kielelezo 3). Katika mfano wetu, lesion isiyo ya kawaida ya moja kwa moja ya hali ya hewa ya ndani (kiwango cha hesabu ya kufikirika katika mfano) hupunguza sana kiwango cha utabiri wa cue ya madawa ya kulevya kwa viwango vya kina katika hemisphere ya ipsilateral na kwa hivyo, kwa kiasi kikubwa hupungua kiwango cha udadisi wa DAWA. Ili kuelekeza lesion ya mashtaka ya ndani, sisi hurekebisha tu dhamana ya ushawishi wote katika kiwango cha juu cha uongozi hadi sifuri.

Vivyo hivyo, mfano wetu unatabiri kwamba maendeleo ya ishara ya upendeleo wa DA katika dorsolateral striatum inategemea uadilifu wa mzunguko wa spiraling wa DA (Kielelezo 3). Kwa kweli, unganisho katika mzunguko wa spiraling wa DA katika mfano wetu hupunguza mawasiliano katika ngazi zote za kujiondoa, ambayo, inazuia mkusanyiko wa upendeleo wa madawa ya kulevya kwenye ishara ya kuimarisha, pamoja na viwango vya uongozi wa uamuzi. Kuiga mfano wa uunganisho katika mzunguko unaotegemea wa DA-wa ndani hadi wa ndani, tunashinikiza kila kiwango cha kujiondoa ili kutekeleza ishara ya kosa la utabiri ndani ya nchi (kama ilivyo kwa equation 3), bila kupokea thamani ya hali ya juu ya muda kutoka juu mara moja kiwango cha kufutwa.

Kwa kuongezea, mfano unatabiri kwamba muundo wa uchunguzi mzuri wa DA utabadilika ikiwa baada ya mazoezi ya kina na kozi za cocaine na cocaine, kama ilivyo kwenye jaribio la hapo juu, mtu anaanza jozi ya utoaji wa cocaine na adhabu kali. Tunatabiri kwamba ufanisi wa DA kwa kujibu cue inayohusiana na cocaine inapaswa kupungua haraka chini ya msingi katika hali ya ndani. Katika mashtaka ya dorsolateral, hata hivyo, kutolewa kwa cue-ikiwa kwa DA kunapaswa kukaa juu ya msingi (Kielelezo 3) na kupungua kwa kuchelewa kwa sehemu. Hii inaonyesha kupeana dhamana chanya ya kichocheo cha dawa katika viwango vya kina, licha ya maadili hasi (chini ya msingi) katika viwango vya utambuzi. Ni muhimu kujua kwamba utabiri huu unategemea wazo kwamba adhabu inatibiwa na ubongo tu kama tuzo hasi. Dhana hii ni ya ubishani: inaungwa mkono wazi na masomo ya majaribio [35], bado pia ilijadiliwa vingine na wengine [14], [36]. Isipokuwa utabiri huu, mambo mengine ya mfano hayategemei ikiwa adhabu imefunikwa na dopamine au na mfumo mwingine wa kuashiria.

Usajili wa mafunzo uliotumiwa na Willuhn et al. [34] haijaenezwa vya kutosha kutoa tabia ya lazima ya kutafuta madawa ya kulevya, inayoonyeshwa na kutojali kwa adhabu zinazohusiana na madawa ya kulevya [37], [38]. Kwa hivyo, swali la muhimu kujibiwa ni uhusiano gani kati ya kucheleweshwa kwa majibu ya DA-centi-ikiwa kwa DLS, na maendeleo ya marehemu ya kujibu. Kulingana na mfano wetu, tabia ya kulazimisha inahitaji sio tu hesabu kubwa ya uchaguzi wa dawa katika viwango vya chini vya uongozi, lakini pia uhamishaji wa udhibiti wa tabia kutoka kwa utambuzi wa kawaida hadi kwa taratibu za kawaida za kawaida. Kiwango cha wakati wa michakato hii miwili hutegemea tu kwa kila mmoja: mchakato wa kuthamini sana inategemea ishara ya utabiri, wakati uhamishaji wa udhibiti wa tabia pia unategemea kutokuwa na hakika kwa ukadiriaji wa hesabu. Kwa hivyo, uthibitisho kupita kiasi wa vitu vinavyohusiana na dawa katika viwango vya chini vya uongozi unaweza kutangulia mabadiliko ya udhibiti juu ya tabia kutoka juu hadi chini ya uongozi. Upeo wa wakati wa michakato miwili hutegemea kiwango cha kusoma na kelele katika viwango tofauti, kwa mtiririko huo (ona Funga S1 kwa habari ya ziada). Kwa maneno mengine, kuna uwezekano kwamba cue-ikiwa ikiwa dopamine efflux katika DLS inaweza kukuza sana kabla ya utaftaji wa madawa ya kulevya ulio dhahiri hauonyeshwa.

Athari za mwenendo wa hesabu zisizo sawa kwa madawa dhidi ya thawabu asili

Kwa mwenendo, katika mfano wetu, ikiwa adhabu imewekwa pamoja na dawa katika hatua za mwanzo za matumizi ya dawa za hiari, dhamana ya kujibu majibu ya kutafuta dawa inakuwa hasi haraka. Kwa kudhani kuwa utaftaji wa dawa za kulevya unadhibitiwa na viwango vya kufikirika wakati wa hatua hizi za mapema, tathmini hasi ya uchaguzi wa dawa hufanya mtu anayependa kutazama hatua hiyo tena. Hii itazuia ujumuishaji wa upendeleo wa kiwango cha chini kwa madawa kwa muda. Kwa hivyo, mfano unaelezea usawa wa uchaguzi wa dawa hadi gharama wakati wa hatua za mwanzo za matumizi ya dawa, lakini sio baada ya matumizi sugu. Mara kwa mara, mifano ya wanyama ya ulevi huonyesha kuwa kutojali majibu ya utaftaji wa madawa ya kulevya kwa athari mbaya zinazohusiana na dawa za kulevya hujitokeza tu baada ya kujiendesha kwa muda mrefu wa dawa za kulevya, lakini sio kutumia madawa [37], [38]. Kinyume na nadharia yetu, mifano ya mapema ya ushirika [9], [10] zinapingana moja kwa moja na kikundi hiki cha ushahidi, kwa kuwa wanabashiri kuwa matokeo mabaya ya tabia ambayo hufuata utumiaji wa dawa mara moja, hayana athari ya motisha hata katika hatua za mapema za kupatwa na dawa za kulevya (tazama. Funga S1 kwa habari ya ziada).

Mfano wetu unasababisha kutokea kwa athari ya kuzuia kwa matokeo ya dawa [39]. Kuzuia ni hali ya hali ambapo pairing ya kichocheo A na matokeo ya kuzuia malezi ya ushirika kati ya kichocheo B na matokeo hayo katika awamu ya mafunzo inayofuata, ambapo wote A na B huwasilishwa kabla ya matokeo. [40]. Matokeo ya kuiga mfano wetu katika muundo wa majaribio wa Pavlovian (tazama Funga S1 kwa habari ya ziada juu ya toleo la Pavlovian la mfano) inaonyesha kwamba kwa kesi zote mbili za thawabu asili na dawa za kulevya, wakati thamani inayokadiriwa katika kiwango fulani cha uongozi hufikia hali yake thabiti (badala ya kukua bila kuzidishwa), hakuna kujifunza zaidi kwa hiyo. kiwango, kwa kuwa ishara ya makosa ya utabiri imepungua hadi sifuri (Kielelezo 4). Kwa hivyo, kuhusisha kichocheo kipya na thawabu iliyotabiriwa mapema itazuiwa. Ushuhuda wa tabia inayoonyesha athari ya kuzuia inayohusishwa na viboreshaji vya dawa na wa asili [39] imetumika kama hoja kuu ya kukosoa mtindo wa awali wa dopamine uliopendekezwa wa ulevi [9]. Hapa tumeonyesha kwamba kuzingatia asili ya hali ya uwakilishi na shirika la dopal-ventral ond dopamine linaweza kuweka akaunti kwa data ya kuzuia, na hivyo kuzuia ukosoaji huu (ona Funga S1 kwa habari ya ziada).

thumbnail

Kielelezo 4. Athari ya kuzuia kwa thawabu ya asili dhidi ya dawa.

Mfano unatabiri kwamba kuzuia hufanyika kwa thawabu asili (A) na dawa za kulevya (B), tu ikiwa kipindi cha mafunzo cha kwanza ni "kina", kwamba kichocheo cha kwanza kinatabiri kikamilifu thamani ya matokeo. Baada ya mafunzo "wastani", viwango vya utambuzi ambavyo vinabadilika zaidi kutabiri maadili na kwa hivyo ,zuia kujifunza zaidi. Walakini, kujifunza bado ni kazi katika michakato ya kiwango cha chini wakati awamu ya pili ya mafunzo (uwasilishaji wa wakati huo huo wa uchochezi) inapoanza. Kwa hivyo, mtindo wetu unatabiri kuwa mafunzo ya wastani ya wastani katika majaribio ya kuzuia na thawabu za asili pia yatasababisha utambuzi / tabia ya kutokubaliana. Data iliyowasilishwa katika takwimu hii hupatikana kutoka kwa mnyama "mmoja" na kwa hivyo, hakuna uchambuzi wa takwimu uliotumika.

toa: 10.1371 / journal.pone.0061489.g004

Kama tulivyosema hapo awali, safu kadhaa za ushahidi zinaonyesha kutawala kwa dorsal juu ya hali ya ndani katika udhibiti wa tabia wakati wa masomo. [8], [31], [32]. Ikitafsiriwa kwa msingi wa ushahidi huo, hesabu isiyo sawa ya utaftaji dawa katika uongozi pia inaelezea juhudi za walevi kutofanikiwa kupunguza matumizi ya dawa za kulevya baada ya uzoefu wa muda mrefu na dawa za kulevya, wakati udhibiti wa chaguzi zinazohusiana na dawa za kulevya umebadilika kutoka kwa utambuzi hadi chini- michakato ya kiwango cha mazoea. Ukuu huu wa michakato inayotawaliwa na dawa asili husababisha hali ya kutokuwa na tabia kwa gharama zinazohusiana na dawa za kulevya (utaftaji wa madawa ya lazima), labda ikiambatana na makosa ya kibinafsi. Kwa upande wa thawabu za asili, hata hivyo, mtindo wetu unatabiri kwamba ingawa kutokuwa na tabia huongezeka wakati wa masomo, kwani hakuna kutofautisha kwa hesabu kunakoendelea katika ngazi zote za uongozi, adhabu zinazohusiana na tuzo mwishowe zitazuia utaftaji wa tuzo.

Mfano wetu unazingatia tathmini ya vitendo katika uongozi "wa uamuzi uliyopewa", na huacha kando jinsi chaguzi za kufikirika na subroutines zao za kiwango cha chini zinagunduliwa mwanzoni wakati wa maendeleo. Kugundua uongozi wa uamuzi unapendekezwa kuwa mchakato wa chini, unakamilishwa kwa kukomesha pamoja mlolongo wa vitendo vya kiwango cha chini na kujenga chaguzi zaidi za kufikirika. [41]. Utaratibu huu, ambao unadaiwa kuwa unabadilika kutoka dorsal hadi striatum ya ventral, uko katika upande mwingine wa utaratibu wa ushindani uliopendekezwa hapa, kwa kuchukua udhibiti wa tabia.

Majadiliano

Umati unaokua wa ushahidi juu ya jukumu la kutofautisha la kujishughulisha kwa tabia mbaya katika tabia ya kulevya kawaida hufasiriwa katika mfumo wa dichotomy ya kawaida iliyoelekezwa kwa lengo. [8], [14], [34]. Mbinu ya uongozi wa uongozi ambao tunatumia hapa ni nyongeza kwa akaunti kama mbili za mfumo. Wakati njia mbili-mchakato unashughulika na algorithms tofauti (mfano-bure dhidi ya mfano-msingi [30]) kwa ajili ya kutatua shida moja, mfumo wa mfumo wa uongozi wa RL unazingatia uwasilishaji tofauti wa shida moja katika viwango tofauti vya kujiondoa kwa wakati. Kwa nadharia, ama algorithm ya kawaida au iliyoelekezwa kwa lengo inaweza kutatua kila moja ya maonyesho haya tofauti ya shida. Katika mfano wetu, mkusanyiko wa upendeleo unaosababishwa na dawa juu ya ond za DA hufanyika katika mpangilio ambapo algorithm ya makadirio ya thamani sio ya mfano (kujifunza tabia). Walakini, hii haitoi adabu uwepo wa mifumo ya msingi-mfano inayofanya kazi katika viwango vya juu vya uongozi. Mtu anaweza kuingiza tu hesabu iliyoelekezwa kwa malengo na mfumo wa uamuzi wa PFC kwa mfano kwa kudhani kuwa vitendo katika viwango vya juu vya kutengwa vinatathminiwa na mfumo ulioelekezwa kwa malengo. Wakati shida kama hii haibadilishi asili ya matokeo yaliyowasilishwa katika nakala hii, mabadiliko yake ya ziada katika kuelezea hali nyingine ya ulevi huachwa kwa masomo ya siku zijazo. Kwa kweli, katika mfano wetu, bila kujali kama mfumo wa moja kwa moja wa malengo unapatikana au la, utofauti katika hesabu ya utaftaji wa madawa ya kulevya kati ya viwango viwili vya uongozi unakua na idadi ya viwango vya uamuzi vinavyosimamiwa na mchakato wa "kawaida" .

Kwa kuzingatia nadharia yetu, kurudi tena kunaweza kutazamwa kama uamsho wa tabia mbaya ya kiwango cha motor, baada ya kipindi cha kutawala kwa viwango vya utambuzi. Kwa kweli, mtu anaweza kufikiria kuwa kama matokeo ya tiba ya utambuzi (kwa wanadamu madawa ya kulevya) au kutoweka kwa kulazimishwa (kwa mifano ya wanyama wa kujiondoa), dhamana kubwa ya utaftaji wa dawa za kulevya kwa kiwango cha kina cha uongozi haujazimishwa, lakini inabadilika kwa sababu kuhama kwa kudhibiti kurudi kwa viwango vya utambuzi. Kwa kuwa tabia inayohusiana na madawa ya kulevya ni nyeti kwa athari mbaya katika viwango vya kawaida, kwa hivyo utaftaji wa madawa ya kulevya unaweza kuepukwa kwa muda mrefu kama michakato ya utambuzi ya kiwango cha juu inatawala tabia. Mtu anaweza hata kubashiri kuwa mipango maarufu ya hatua ya 12 (mfano Alcoholics An bila kujua, jina la Narcotic Analog, n.k) inafanya kazi kwa sehemu kwa kuhitaji kwa wazi washiriki kukubali kutokubali kwa mtindo wao wa maisha unaohusiana na dawa, na hivyo kuwawezesha viwango vya utambuzi vya nje kutoa nguvu ya wazi juu ya tabia. Hali zenye mkazo au mfiduo tena kwa madawa ya kulevya (priming) inaweza kuzingatiwa kama sababu za hatari ambazo zinadhoofisha utawala wa viwango vya juu juu ya tabia, ambayo inaweza kusababisha kutokea tena kwa majibu ya utaftaji wa dawa za kulevya (kwa sababu ya maadili ya juu yasiyotambulika ).

Kwa muhtasari, tunapendekeza akaunti madhubuti ya anuwai, inayoonekana kutofautisha tabia ya ulevi wa dawa za kulevya. Mfano wetu hutoa akaunti ya kawaida ya data juu ya majukumu ya kutofautisha dhidi ya mizunguko ya kizazi katika utaftaji wa utaftaji wa dawa na utendaji wa tabia, na pia jukumu la kuchagua la muunganisho wa DA wa kulisha kwa athari za dawa dhidi ya viboreshaji asili. Jambo la muhimu zaidi, tunaonyesha jinsi ugonjwa unaosababishwa na dawa za kulevya katika ishara ya DA inayoonyesha ishara ya kusisimua chini ya uongozi wa uwakilishi wa utambuzi inaweza kusababisha kutokuelewana kati ya mitizamo ya walevi juu ya utaftaji wa dawa za kulevya na kile wanachofanya kweli. Kwa wazi, mtindo wetu haufanyi, na haukusudiwa kutoa akaunti kamili ya uraibu wa dawa za kulevya. Kuelezea mambo mengine ambayo hayaelezeki ya ulevi inahitaji kuingiza mifumo mingine mingi ya ubongo ambayo imeonyeshwa kuathiriwa na dawa za dhuluma. [42]. Jinsi ya kuingiza mifumo kama hii ndani ya mtandao rasmi wa kitabia bado ni mada kwa uchunguzi zaidi.

Kusaidia Taarifa

File_S1.pdf
 

Kielelezo S1,Sampuli ya uamuzi wa mfano na viwango vitano vya kufutwa. Kielelezo S2, Mzunguko unaofanana wa neural kwa algorithms tatu zinazojadiliwa za kujifunza ni muundo wa uamuzi wa hierarchical. A, Kutumia algorithm rahisi ya kujifunza TD (equation S7), ishara ya kosa la utabiri katika kila kiwango cha kutengwa hutolewa kwa uhuru kutoka kwa viwango vingine. B, Katika mfano uliopendekezwa na Haruno na Kawato (4) (equation S8), thamani ya hali ya juu ya muda inatoka kwa kiwango kimoja cha juu. C, kwa mfano wetu (equation S9) Thamani ya hali ya hali ya juu ya muda inabadilishwa na mchanganyiko wa thawabu na Thamini ya Q ya kitendo kilichofanywa kwa kiwango cha juu cha kufutwa. Kielelezo S3, Mfano wetu unatabiri tovuti tofauti za madawa ya kulevya kwenye mzunguko wa kujifunza ujira: tovuti 1 hadi 3. Dawa za kulevya zinazoathiri tovuti 4 hadi 6, kwa kulinganisha, hazitasababisha mwenendo na tabia ya kibaolojia inayoletwa na simulizi la mfano wa dawa, lakini italeta matokeo sawa na kesi ya thawabu asili. Kielelezo S4, Kazi inayotumiwa kuiga utaratibu wa ushindani usio na msingi kati ya viwango vya uongozi kwa kuchukua udhibiti wa tabia. Kielelezo S5, Matokeo ya simulation, kuonyesha mabadiliko ya taratibu ya udhibiti wa tabia kutoka viwango vya juu hadi vya chini vya uongozi. Q (s, a) na Marekani) onyesha thamani inayokadiriwa na kutokuwa na uhakika wa jozi za hatua za serikali, mtawaliwa.

Funga S1.

Kielelezo S1,Sampuli ya uamuzi wa mfano na viwango vitano vya kufutwa. Kielelezo S2, Mzunguko unaofanana wa neural kwa algorithms tatu zinazojadiliwa za kujifunza ni muundo wa uamuzi wa hierarchical. A, Kutumia algorithm rahisi ya kujifunza TD (equation S7), ishara ya kosa la utabiri katika kila kiwango cha kutengwa hutolewa kwa uhuru kutoka kwa viwango vingine. B, Katika mfano uliopendekezwa na Haruno na Kawato (4) (equation S8), thamani ya hali ya juu ya muda inatoka kwa kiwango kimoja cha juu. C, kwa mfano wetu (equation S9) Thamani ya hali ya hali ya juu ya muda inabadilishwa na mchanganyiko wa thawabu na Thamini ya Q ya kitendo kilichofanywa kwa kiwango cha juu cha kufutwa. Kielelezo S3, Mfano wetu unatabiri tovuti tofauti za madawa ya kulevya kwenye mzunguko wa kujifunza ujira: tovuti 1 hadi 3. Dawa za kulevya zinazoathiri tovuti 4 hadi 6, kwa kulinganisha, hazitasababisha mwenendo na tabia ya kibaolojia inayoletwa na simulizi la mfano wa dawa, lakini italeta matokeo sawa na kesi ya thawabu asili. Kielelezo S4, Kazi inayotumiwa kuiga utaratibu wa ushindani usio na msingi kati ya viwango vya uongozi kwa kuchukua udhibiti wa tabia. Kielelezo S5, Matokeo ya simulation, kuonyesha mabadiliko ya taratibu ya udhibiti wa tabia kutoka viwango vya juu hadi vya chini vya uongozi. Q (s, a) na Marekani) onyesha thamani inayokadiriwa na kutokuwa na uhakika wa jozi za hatua za serikali, mtawaliwa.

toa: 10.1371 / journal.pone.0061489.s001

(PDF)

Shukrani

Tunawashukuru S. Ahmed na P. Dayan kwa majadiliano mazito, na M. Reinoud, D. Redish, N. Daw, E. Koechlin, na A. Dezfouli kwa kutoa maoni juu ya maandishi hayo.

Msaada wa Mwandishi

Iliyotokana na iliyoundwa majaribio: MK. Alifanya majaribio: MK. Alichambua data: MK BG. Zabuni / vifaa vya uchangiaji vilivyochangiwa: MK. Aliandika karatasi: MK BG.

Marejeo

  1. 1. Narcotic haijulikani (2008). 6th ed. Ofisi ya Huduma Duniani.
  2. 2. Dawa ya Goldstein A (2001): Kutoka kwa Baiolojia hadi kwa Sera ya Dawa. Oxford University Press, USA.
  3. 3. Volkow ND, Fowler JS, Wang GJ, Swanson JM (2004) Dopamine katika matumizi mabaya ya dawa za kulevya na madawa ya kulevya: matokeo ya masomo ya kufikiria na athari za matibabu. Saikolojia ya Masi ya 9: 557-569. Doi: 10.1038 / sj.mp.4001507. Pata makala hii mtandaoni
  4. 4. Stacy AW, WWW WW (2010) Utambuzi kamili na ulevi: zana ya kuelezea tabia ya kitoweo. Mapitio ya kila mwaka ya saikolojia ya kliniki 6: 551-575. Doi: 10.1146 / annurev.clinpsy.121208.131444. Pata makala hii mtandaoni
  5. 5. Utambuzi na mwongozo wa takwimu wa shida za akili (DSM-IV) (2000). 4th ed. Washington, DC: Chama cha Wanasaikolojia wa Amerika.
  6. 6. Mwana-Kondoo RJ, Preston KL, Schindler CW, Meisch RA, Davis F, et al. (1991) athari za utiaji nguvu na zinazohusika za morphine katika nyongeza za nyuma: uchunguzi wa majibu ya kipimo. Jarida la maduka ya dawa na matibabu ya majaribio 259: 1165-1173. Pata makala hii mtandaoni
  7. 7. Goldstein RZ, Woicik PA, Moeller SJ, Telang F, Jayne M, et al. (2010) Kuipenda na utashi wa tuzo za dawa za kulevya na zisizo za dawa kwa watumiaji wa cocaine wanaohusika: dodoso la STRAP-R. Jarida la psychopharmacology 24: 257-266. Doi: 10.1177/0269881108096982. Pata makala hii mtandaoni
  8. 8. Mifumo ya Neural ya everitt, Robbins TW (2005) ya utiaji nguvu kwa madawa ya kulevya: kutoka kwa vitendo hadi tabia hadi kulazimishwa. Asili Neuroscience 8: 1481-1489. Doi: 10.1038 / nn1579. Pata makala hii mtandaoni
  9. 9. Redish AD (2004) Addiction kama mchakato wa computational umekwisha. Sayansi 306: 1944-1947. Doi: 10.1126 / sayansi.1102384. Pata makala hii mtandaoni
  10. 10. Dezfouli A, Piray P, Keramati MM, Ekhtiari H, Lucas C, et al. (2009) Mfano wa usumbufu wa madawa ya kulevya kwa cocaine. Ushirikiano wa Neural 21: 2869-2893. Doi: 10.1162 / neco.2009.10-08-882. Pata makala hii mtandaoni
  11. 11. Piray P, Keramati MM, Dezfouli A, Lucas C, Mokri A (2010) Tofauti za kibinafsi za nukta za kukusanya viwango vya dopamine zinatabiri maendeleo ya tabia kama ya adha: mbinu ya ujumuishaji. Ushirikiano wa Neural 22: 2334-2368. Doi: 10.1162 / NECO_a_00009. Pata makala hii mtandaoni
  12. 12. Dayan P (2009) Dopamine, kujifunza kuimarisha, na ulevi. Pharmacopsychiatry 42: 56-65. Doi: 10.1055 / s-0028-1124107. Pata makala hii mtandaoni
  13. 13. Takahashi Y, Schoenbaum G, Niv Y (2008) Kutuliza utulivu wa wakosoaji: kuelewa athari za uhamishaji wa cocaine kwenye dorsolateral na striatum ya ventral katika muktadha wa muigizaji / mfano wa mkosoaji. Frontiers katika Neuroscience 2: 86-99. Doi: 10.3389 / neuro.01.014.2008. Pata makala hii mtandaoni
  14. 14. Fanya upya AD, Jensen S, Johnson A (2008) Mfumo wa umoja wa ulevi: udhaifu katika mchakato wa uamuzi. Sayansi ya Behaisheral na Brain 31: 415-487. Doi: 10.1017 / S0140525X0800472X. Pata makala hii mtandaoni
  15. 15. Botvinick MM (2008) Aina ya tabia na utendaji wa utangulizi. Mwenendo katika sayansi ya utambuzi 12: 201-208. Doi: 10.1016 / j.tics.2008.02.009. Pata makala hii mtandaoni
  16. 16. Haruno M, Kawato M (2006) Mfano wa kuimarisha-ukuzaji wa kiinolojia kwa ujumuishaji wa loops nyingi za cortico-striatal: Uchunguzi wa fMRI katika ujifunzaji wa ushirika wa kichocheo. Mitandao ya Neural 19: 1242-1254. Doi: 10.1016 / j.neunet.2006.06.007. Pata makala hii mtandaoni
  17. 17. Willuhn I, Burgeno LM, Everitt BJ, Phillips PEM (2012) Utaratibu wa kuajiri watu wa phasic dopamine kuashiria katika striatum wakati wa kuendelea kwa matumizi ya cocaine. Utaratibu wa Chuo cha kitaifa cha Sayansi 109: 20703-20708. Doi: 10.1073 / pnas.1213460109. Pata makala hii mtandaoni
  18. 18. Botvinick MM, Niv Y, Barto AC (2009) Tabia ya utaratibu ulioandaliwa na misingi yake ya asili: mtazamo wa ujifunzaji wa kuimarisha. Utambuzi 113: 262-280. Doi: 10.1016 / j.cognition.2008.08.011. Pata makala hii mtandaoni
  19. 19. Badre D, D'Esposito M (2009) Je! Mhimili wa rostro-caudal wa safu ya mbele ya lobe? Mapitio ya Asili Sayansi ya Sayansi 10: 659-669. doi: 10.1038 / nrn2667. Pata makala hii mtandaoni
  20. 20. Koechlin E, Ody C, Kouneiher F (2003) Usanifu wa udhibiti wa utambuzi katika gamba la mbele la mwanadamu. Sayansi 302: 1181-1185. Doi: 10.1126 / sayansi.1088545. Pata makala hii mtandaoni
  21. 21. Badre D, Hoffman J, Cooney JW, D'Esposito M (2009) Upungufu wa udhibiti wa utambuzi kufuatia uharibifu wa tundu la mbele la mwanadamu. Neuroscience ya asili 12: 515-522. doi: 10.1038 / nn.2277. Pata makala hii mtandaoni
  22. 22. Alexander GE, DeLong MR, Strick PL (1986) Sambamba ya mizunguko inayoendana vizuri inayounganisha gangal ya basal na cortex. Mapitio ya kila mwaka ya Neuroscience 9: 357-381. Doi: 10.1146 / annurev.neuro.9.1.357. Pata makala hii mtandaoni
  23. 23. Alexander GE, Crutcher MD, DeLong MR (1990) Mzunguko wa basal ganglia-thalamocortical: Sehemu ndogo za sehemu za gari, oculomotor, kazi za mbele na za mikono. Maendeleo katika Utafiti wa Ubongo 85: 119-146. Pata makala hii mtandaoni
  24. 24. Schultz W, Dayan P, Montague PR (1997) Sehemu ndogo ya utabiri na thawabu. Sayansi 275: 1593-1599. Doi: 10.1126 / sayansi.275.5306.1593. Pata makala hii mtandaoni
  25. 25. Belin D, Everitt BJ (2008) Tabia za kutafuta cocaine hutegemea muunganisho wa serial unaotegemea dopamine unaounganisha ventral na striatum ya dorsal. Neuron 57: 432-441. Doi: 10.1016 / j.neuron.2007.12.019. Pata makala hii mtandaoni
  26. 26. Haber SN, Fudge JL, McFarland NR (2000) Njia za Striatonigrostriatal katika Primates huunda Spiral kutoka kwa Shell hadi Striatum ya Dorsolateral. Jarida la Neuroscience 20: 2369-2382. Pata makala hii mtandaoni
  27. 27. Haber SN (2003) gangal ya chini ya wastani: mitandao sanjari na inayounganisha. Jarida la Chemical Neuroanatomy 26: 317-330. Doi: 10.1016 / j.jchemneu.2003.10.003. Pata makala hii mtandaoni
  28. 28. Sutton RS, Barto AG (1998) Kujifunza Kuimarisha: Utangulizi. Cambridge: Vyombo vya habari vya MIT.
  29. 29. Di Chiara G, Imperato A (1988) Dawa za kulevya zinazodhulumiwa na wanadamu kimapenzi huongeza viwango vya dopamine ya synaptic katika mfumo wa mesolimbic wa panya unaosonga kwa uhuru. Utaratibu wa Chuo cha kitaifa cha Sayansi ya Merika ya Amerika 85: 5274-5278. Doi: 10.1073 / pnas.85.14.5274. Pata makala hii mtandaoni
  30. 30. Daw ND, Niv Y, Dayan P (2005) Mashindano ya kutokuwa na uhakika kati ya mifumo ya dalati za mwanzo na dorsolateral kwa udhibiti wa tabia. Asili Neuroscience 8: 1704-1711. Doi: 10.1038 / nn1560. Pata makala hii mtandaoni
  31. 31. Vanderschuren LJMJ, Ciano PD, Everitt BJ (2005) Kuhusika kwa drials dorsal katika kutafuta cocaine iliyodhibitiwa na kafe. Jarida la Neuroscience 25: 8665-8670. Doi: 10.1523 / JNEUROSCI.0925-05.2005. Pata makala hii mtandaoni
  32. 32. Volkow ND, Wang GJ, Telang F, Fowler JS, Logan J, et al. (2006) Mazao ya Cocaine na dopamine katika hali ya dorsal: utaratibu wa kutamani katika madawa ya kulevya ya cocaine. Jarida la Neuroscience 26: 6583-6588. Doi: 10.1523 / JNEUROSCI.1544-06.2006. Pata makala hii mtandaoni
  33. 33. Kalivas PW, Volkow ND (2005) msingi wa neural wa madawa ya kulevya: ugonjwa wa motisha na uchaguzi. Jarida la Amerika la Psychiatry 162: 1403-1413. Doi: 10.1176 / appi.ajp.162.8.1403. Pata makala hii mtandaoni
  34. 34. Belin D, Jonkman S, Dickinson A, Robbins TW, Everitt BJ (2009) Sambamba na maingiliano ya michakato ya kujifunza ndani ya gangal ya basal: umuhimu kwa uelewa wa ulevi. Utafiti wa Ubongo wa Tabia ya 199: 89-102. Doi: 10.1016 / j.bbr.2008.09.027. Pata makala hii mtandaoni
  35. 35. Matsumoto M, Hikosaka O (2009) Aina mbili za dopamine neuron zinaonyesha wazi ishara chanya na hasi za motisha. Asili 459: 837-841. Doi: 10.1038 / nature08028. Pata makala hii mtandaoni
  36. 36. Frank MJ, Surmeier DJ (2009) Je! Athari za nigra dopaminergic neurons zinatofautisha kati ya malipo na adhabu? Jarida la Biolojia ya Kiini cha Masi 1: 15-16. Doi: 10.1093 / jmcb / mjp010. Pata makala hii mtandaoni
  37. 37. Vanderschuren LJMJ, Everitt BJ (2004) Utaftaji wa dawa za kulevya unakuwa wa kulazimisha baada ya utawala wa muda mrefu wa kahawa. Sayansi 305: 1017-1019. Doi: 10.1126 / sayansi.1098975. Pata makala hii mtandaoni
  38. 38. Ushuhuda wa Deroche-Gamonet V, Belin D, Piazza PV (2004) Ushuhuda wa tabia kama ya adha katika panya. Sayansi 305: 1014-1017. Doi: 10.1126 / sayansi.1099020. Pata makala hii mtandaoni
  39. 39. Panlilio LV, Thorndike EB, Schindler CW (2007) Uzuiaji wa hali ya kichocheo-kilicho na jozi ya kahawa: Upimaji wa nadharia kwamba kahawa ya daima inazalisha ishara ya ujira mkubwa kuliko uliotarajiwa. Dawa ya dawa, Sayansi ya Biolojia, na Tabia ya 86: 774-777. Doi: 10.1016 / j.pbb.2007.03.005. Pata makala hii mtandaoni
  40. 40. Kamin L (1969) Utabiri, mshangao, umakini, na hali. Katika: Campbell BA, Kanisa RM, wahariri. Adhabu na tabia ya kupindukia. New York: Appleton-Century-Crofts. pp. 279-296.
  41. 41. Tabia za Dezfouli A, Balleine BW (2012), mlolongo wa hatua na kujifunza kwa kuimarisha. Jarida la Uropa la neuroscience 35: 1036-1051. Doi: 10.1111 / j.1460-9568.2012.08050.x. Pata makala hii mtandaoni
  42. 42. Koob GF, Le Moal M (2005) Neurobiolojia ya madawa ya kulevya. San Diego: Magazeti ya kitaaluma