Beslissingstheorie

2023 Auteur: Noah Black | [email protected]. Laatst gewijzigd: 2023-06-02 21:16

Toegang navigatie

Inhoud van het item
Bibliografie
Academische hulpmiddelen
Vrienden PDF-voorbeeld
Info over auteur en citaat
Terug naar boven

Voor het eerst gepubliceerd op woensdag 16 december 2015

De beslissingstheorie houdt zich bezig met de redenering die ten grondslag ligt aan de keuzes van een agent, of dit nu een alledaagse keuze is tussen het nemen van de bus of het nemen van een taxi, of een verdergaande keuze over het al dan niet nastreven van een veeleisende politieke carrière. (Merk op dat "agent" hier staat voor een entiteit, gewoonlijk een individuele persoon, die in staat is tot beraadslaging en actie.) Het standaarddenken is dat wat een agent bij een bepaalde gelegenheid doet, volledig wordt bepaald door haar overtuigingen en verlangens / waarden, maar dit is niet onomstreden, zoals hieronder zal worden opgemerkt. Beslissingstheorie is in ieder geval evenzeer een theorie van overtuigingen, verlangens en andere relevante houdingen als een theorie van keuze; het gaat erom hoe deze verschillende houdingen (noem ze "voorkeurshoudingen") met elkaar samenhangen.

De focus van deze inzending is de normatieve beslissingstheorie. Dat wil zeggen, de belangrijkste vraag is aan welke criteria de voorkeurshoudingen van een agent moeten voldoen in generieke omstandigheden. Dit komt neer op een minimale weergave van rationaliteit, een die meer substantiële vragen over gepaste waarden en voorkeuren en redelijke overtuigingen opzij zet, gezien de situatie in kwestie. Centraal hierbij staat de behandeling van onzekerheid. De orthodoxe normatieve besluitvormingstheorie, de theorie van het verwachte nut (EU), stelt in wezen dat men in situaties van onzekerheid de voorkeur moet geven aan de optie met de hoogste verwachte wenselijkheid of waarde. Deze eenvoudige stelregel zal het grootste deel van onze discussie zijn.

De structuur van deze inzending is als volgt: Hoofdstuk 1 bespreekt het basisbegrip 'preferenties boven prospects', dat de kern vormt van de beslissingstheorie. Paragraaf 2 beschrijft de ontwikkeling van normatieve besluitvormingstheorie in termen van steeds krachtigere en flexibelere maten van voorkeuren. Hoofdstuk 3 bespreekt de twee bekendste versies van de EU-theorie. Paragraaf 4 gaat in op de bredere betekenis van de EU-theorie voor praktische actie, gevolgtrekking en waardering. Sectie 5 gaat over prominente uitdagingen voor de EU-theorie, terwijl sectie 6 opeenvolgende beslissingen behandelt en hoe deze rijkere setting de debatten over rationele voorkeuren beïnvloedt.

1. Wat zijn voorkeuren boven prospects?
2. Maatregelen van voorkeur
- 2.1 Normale hulpprogramma's
- 2.2 Cardinaliserend nut
- 2.3 De representatiestelling van von Neumann en Morgenstern (vNM)
3. Echte beslissingen nemen
- 3.1 Savage's theorie
- 3.2 Jeffrey's theorie
4. Bredere betekenis van de theorie van het verwachte nut (EU)
- 4.1 Grenzen van de EU-theorie
- 4.2 Op rationeel geloof
- 4.3 Over rationeel verlangen
5. Uitdagingen voor de EU-theorie
- 5.1 Causale afwijkingen
- 5.2 Over scheidbaarheid: attitudes van risico en spijt
- 5.3 Over volledigheid: Vage overtuigingen en verlangens
6. Opeenvolgende beslissingen
- 6.1 Was Ulysses rationeel?
- 6.2 De axioma's van de EU opnieuw bekeken
7. Slotopmerkingen
Bibliografie
Academische hulpmiddelen
Andere internetbronnen
Gerelateerde vermeldingen

1. Wat zijn voorkeuren boven prospects?

De twee centrale concepten in de beslissingstheorie zijn voorkeuren en vooruitzichten (of equivalent opties). Grofweg zeggen we dat een agent de "optie" (A) "verkiest" boven (B) voor het geval dat de eerste voor de betreffende agent wenselijker of meer waard is dan de tweede. Deze ruwe definitie maakt duidelijk dat voorkeur een vergelijkende houding is; het is een van de opties vergelijken in termen van hoe wenselijk / keuzewaardig ze zijn. Afgezien daarvan is er ruimte voor discussie over welke voorkeuren boven opties eigenlijk neerkomen, of met andere woorden, wat het is over een agent (misschien zelf) die ons zorgen baart als we praten over zijn / haar voorkeuren over opties. Deze sectie behandelt enkele elementaire interpretatiekwesties die de weg hebben geëffend voor het introduceren (in de volgende sectie) van de beslissingstabellen en de verwachte gebruiksregel die voor velen het bekende onderwerp van de beslissingstheorie is. Verdere interpretatieve vragen over voorkeuren en vooruitzichten zullen later worden behandeld, zodra deze zich voordoen.

Laten we toch doorgaan door eerst de basale kandidaat-eigenschappen van (rationele) voorkeur boven opties te introduceren en pas daarna naar interpretatiekwesties te gaan. Zoals hierboven opgemerkt, betreft de voorkeur de vergelijking van opties; het is een relatie tussen opties. Voor een domein met opties spreken we van de voorkeurvolgorde van een agent, dit is de volgorde van opties die wordt gegenereerd door de voorkeur van de agent tussen twee opties in dat domein.

In wat volgt, vertegenwoordigt (preceq) een zwakke voorkeursrelatie, dwz de relatie "… heeft niet de voorkeur boven …". Dus (A \ preceq B) geeft aan dat de agent waarin we geïnteresseerd zijn optie (B) minstens zo prefereert als optie (A). Uit de zwakke voorkeursrelatie kunnen we de strikte voorkeursrelatie (prec) als volgt definiëren: (A \ prec B \ Leftrightarrow A \ preceq B & \ \ neg (B \ preceq A)), waarbij (neg X) betekent "het is niet zo dat (X)". De onverschilligheidsrelatie, (sim), wordt gedefinieerd als: (A \ sim B \ Leftrightarrow A \ preceq B & \ B \ preceq A). Dit betekent dat de agent waarin we geïnteresseerd zijn, (A) en (B) evenveel voorkeur heeft.

We zeggen dat (preceq) zwak een set (S) opties rangschikt wanneer het aan de volgende twee voorwaarden voldoet:

Axioma 1 (volledigheid)

Voor elke (A, B \ in S): ofwel (A \ preceq B) of (B \ preceq A).

Axioma 2 (Overgang)

Voor elke (A, B, C \ in S): if (A \ preceq B) en (B \ preceq C) then (A \ preceq C).

Het bovenstaande kan worden opgevat als een voorlopige karakterisering van rationele voorkeur boven opties. Zelfs deze beperkte karakterisering is echter omstreden en wijst op uiteenlopende interpretaties van "voorkeuren boven prospects / opties".

Begin met het Compleetheid-axioma, dat zegt dat een agent, in termen van de zwakke voorkeursrelatie, alle paren van opties in (S) kan vergelijken. Of volledigheid al dan niet een plausibele rationaliteitsbeperking is, hangt zowel af van het soort opties dat wordt overwogen als van de manier waarop we voorkeuren over deze opties interpreteren. Als de optieset allerlei stand van zaken omvat, dan is volledigheid niet direct overtuigend. Het is bijvoorbeeld de vraag of een agent de optie waarmee twee extra mensen in de wereld worden geletterd, moet kunnen vergelijken met de optie waarbij twee extra mensen de zestig worden. Als aan de andere kant alle opties in de set behoorlijk op elkaar lijken, bijvoorbeeld alle opties zijn beleggingsportefeuilles, dan is volledigheid aantrekkelijker. Maar zelfs als we het soort opties dat wordt overwogen niet beperken, wordt de vraag of al dan niet moet worden voldaan aan de betekenis van voorkeur. Als voorkeuren bijvoorbeeld louter keuzegedrag of keuze-disposities vertegenwoordigen, zoals ze doen volgens de 'geopenbaarde voorkeurstheorie' die populair is bij economen (zie Sen 1973), dan wordt volledigheid automatisch bevredigd, in de veronderstelling dat een keuze onvermijdelijk moet worden gemaakt. Als daarentegen voorkeuren eerder worden begrepen als mentale attitudes, dat wil zeggen als overwogen oordelen over de vraag of een optie beter of wenselijker is dan een andere, dan zijn de twijfels over de hierboven genoemde volledigheid relevant (voor verdere bespreking, zie Mandler 2001).de vraag of aan volledigheid moet worden voldaan, hangt af van de betekenis van voorkeur. Als voorkeuren bijvoorbeeld louter keuzegedrag of keuze-disposities vertegenwoordigen, zoals ze doen volgens de 'geopenbaarde voorkeurstheorie' die populair is bij economen (zie Sen 1973), dan wordt volledigheid automatisch bevredigd, in de veronderstelling dat een keuze onvermijdelijk moet worden gemaakt. Als daarentegen voorkeuren eerder worden begrepen als mentale attitudes, dat wil zeggen als overwogen oordelen over de vraag of een optie beter of wenselijker is dan een andere, dan zijn de twijfels over de hierboven genoemde volledigheid relevant (voor verdere bespreking, zie Mandler 2001).de vraag of aan volledigheid moet worden voldaan, hangt af van de betekenis van voorkeur. Als voorkeuren bijvoorbeeld louter keuzegedrag of keuze-disposities vertegenwoordigen, zoals ze doen volgens de 'geopenbaarde voorkeurstheorie' die populair is bij economen (zie Sen 1973), dan wordt volledigheid automatisch bevredigd, in de veronderstelling dat een keuze onvermijdelijk moet worden gemaakt. Als daarentegen voorkeuren eerder worden begrepen als mentale attitudes, dat wil zeggen als overwogen oordelen over de vraag of een optie beter of wenselijker is dan een andere, dan zijn de twijfels over de hierboven genoemde volledigheid relevant (voor verdere bespreking, zie Mandler 2001).dan is de volledigheid automatisch vervuld, ervan uitgaande dat een keuze onvermijdelijk moet worden gemaakt. Als voorkeuren daarentegen eerder worden begrepen als mentale attitudes, dat wil zeggen als overwogen oordelen over de vraag of een optie beter of wenselijker is dan een andere, dan zijn de twijfels over de hierboven genoemde volledigheid relevant (voor verdere bespreking, zie Mandler 2001).dan is de volledigheid automatisch vervuld, ervan uitgaande dat een keuze onvermijdelijk moet worden gemaakt. Als voorkeuren daarentegen eerder worden begrepen als mentale attitudes, dat wil zeggen als overwogen oordelen over de vraag of een optie beter of wenselijker is dan een andere, dan zijn de twijfels over de hierboven genoemde volledigheid relevant (voor verdere bespreking, zie Mandler 2001).

De meeste filosofen en beslissingstheoretici onderschrijven de laatste interpretatie van voorkeur als een soort oordeel dat, in tegenstelling tot het feit dat het identiek is aan, keuzebepalingen en resulterend keuzegedrag verklaart (zie bv. Dietrich en List, 2015). Velen zijn bovendien van mening dat volledigheid niet rationeel vereist is; dat rationaliteit alleen eisen stelt aan de oordelen die een agent feitelijk heeft, maar zegt niets over de vraag of er überhaupt een oordeel moet worden uitgesproken. Niettemin, volgens Richard Jeffrey (1983), suggereren de meeste beslissingstheoretici dat rationaliteit vereist dat voorkeuren coherent uitbreidbaar zijn. Dit betekent dat zelfs als uw voorkeuren niet volledig zijn, het mogelijk zou moeten zijn om ze te voltooien zonder een van de voorwaarden te schenden die rationeel vereist zijn, met name Transitiviteit.

Dit brengt ons bij het Transitiviteits axioma, dat zegt dat als een optie (B) minstens zo de voorkeur heeft als (A), en (C) minstens zo de voorkeur heeft als (B), dan (A) kan niet strikt de voorkeur hebben boven (C). Een recente uitdaging voor transitiviteit zet heterogene sets opties aan, zoals blijkt uit de bespreking van volledigheid hierboven. Maar hier wordt een andere interpretatie van voorkeur toegepast op de vergelijking van opties. Het idee is dat voorkeuren, of oordelen over wenselijkheid, mogelijk reageren op een salience-aandoening. Stel bijvoorbeeld dat de meest opvallende eigenschap bij het vergelijken van auto's (A) en (B) is hoe snel ze kunnen rijden, en (B) is in dit opzicht niet slechter dan (A), toch is het meest opvallende kenmerk bij het vergelijken van auto's (B) en (C) hoe veilig ze zijn, en dat (C) in dit opzicht niet erger is dan (B). Bovendienbij het vergelijken van (A) en (C) is hun schoonheid het meest in het oog springende kenmerk. In een dergelijk geval beweren sommigen (bijv. Temkin 2012) dat er geen reden is waarom aan Transitivity zou moeten worden voldaan met betrekking tot de voorkeuren met betrekking tot (A), (B) en (C). Anderen (bijv. Broome 1991a) beweren dat overgankelijkheid deel uitmaakt van de betekenis van de relatie van betterniteit (of objectieve vergelijkende wenselijkheid); als rationele voorkeur een oordeel is over beterschap of wenselijkheid, dan is over overgevoeligheid niet te onderhandelen. Met betrekking tot het autovoorbeeld zou Broome betogen dat de wenselijkheid van een volledig gespecificeerde optie niet mag variëren, simpelweg vanwege de andere opties waarmee het wordt vergeleken. Ofwel de keuzecontext beïnvloedt hoe de agent de optie waarneemt, in welk geval de beschrijving van de optie dit moet weerspiegelen,anders heeft de keuzecontext geen invloed op de optie. Hoe dan ook, aan transitiviteit moet worden voldaan.

Er is een meer rechttoe rechtaan verdediging van Transitiviteit bij voorkeur; een verdediging die afhangt van de zekere verliezen die iedereen kan overkomen die het axioma schendt. Dit is het zogenaamde geldpomp-argument (voor recente bespreking en herziening van dit argument, zie Gustafsson 2010 & 2013). Het is gebaseerd op de veronderstelling dat als u (X) minstens zo wenselijk vindt als (Y), u de laatste graag voor de eerste wilt ruilen. Stel dat u de Overdraagbaarheid schendt, dat wil zeggen voor u: (A \ preceq B), (B \ preceq C) maar (C \ prec A). Stel bovendien dat u momenteel (A) heeft. Dan zou u bereid moeten zijn om (A) te ruilen voor (B). Hetzelfde geldt voor (B) en (C): je zou bereid moeten zijn om (B) te ruilen voor (C). U geeft absoluut de voorkeur aan (A) boven (C), dus u zou bereid moeten zijn om (C) plus wat ($ x) in te ruilen voor (A). Maar nu bevind je je in dezelfde situatie als waarin je begon, met (A) maar niet (B) noch (C), behalve dat je ($ x) kwijt bent! Dus in een paar stappen, die allemaal in overeenstemming waren met je voorkeuren, bevind je je in een situatie die duidelijk slechter is, door je eigen lichten, dan je oorspronkelijke situatie. Het beeld wordt dramatischer gemaakt als we ons voorstellen dat het proces zich zou kunnen herhalen, waardoor u een 'geldpomp' zou worden. Vandaar dat het argument luidt, er is iets (instrumenteel) irrationeel aan je intransitieve voorkeuren. Als uw voorkeuren transitief zouden zijn, zou u niet kwetsbaar zijn om een gedomineerde optie te kiezen en als geldpomp te dienen. Daarom moeten uw voorkeuren transitief zijn.elk kwam overeen met je voorkeuren, je bevindt je in een situatie die duidelijk slechter is, door je eigen lichten, dan je oorspronkelijke situatie. Het beeld wordt dramatischer gemaakt als we ons voorstellen dat het proces zich zou kunnen herhalen, waardoor u een 'geldpomp' zou worden. Vandaar dat het argument luidt, er is iets (instrumenteel) irrationeel aan je intransitieve voorkeuren. Als uw voorkeuren transitief zouden zijn, zou u niet kwetsbaar zijn om een gedomineerde optie te kiezen en als geldpomp te dienen. Daarom moeten uw voorkeuren transitief zijn.elk kwam overeen met je voorkeuren, je bevindt je in een situatie die duidelijk slechter is, door je eigen lichten, dan je oorspronkelijke situatie. Het beeld wordt dramatischer gemaakt als we ons voorstellen dat het proces zich zou kunnen herhalen, waardoor u een 'geldpomp' zou worden. Vandaar dat het argument luidt, er is iets (instrumenteel) irrationeel aan je intransitieve voorkeuren. Als uw voorkeuren transitief zouden zijn, zou u niet kwetsbaar zijn om een gedomineerde optie te kiezen en als geldpomp te dienen. Daarom moeten uw voorkeuren transitief zijn.er is iets (instrumenteel) irrationeels aan je intransitieve voorkeuren. Als uw voorkeuren transitief zouden zijn, zou u niet kwetsbaar zijn om een gedomineerde optie te kiezen en als geldpomp te dienen. Daarom moeten uw voorkeuren transitief zijn.er is iets (instrumenteel) irrationeels aan je intransitieve voorkeuren. Als uw voorkeuren transitief zouden zijn, zou u niet kwetsbaar zijn om een gedomineerde optie te kiezen en als geldpomp te dienen. Daarom moeten uw voorkeuren transitief zijn.

Hoewel de bovengenoemde controversen niet zijn opgelost, zullen de volgende aannames worden gedaan in de rest van deze inzending: i) de voorkeursobjecten kunnen heterogene vooruitzichten zijn, met een rijk en gevarieerd domein van eigenschappen, ii) voorkeur tussen opties is een oordeel van vergelijkende wenselijkheid of keuzewaardigheid, en iii) voorkeuren voldoen aan zowel Transitiviteit als Volledigheid (hoewel de laatste voorwaarde zal worden herzien in Sectie 5). De vraag die nu rijst is of er nog meer algemene beperkingen zijn op rationele voorkeur boven opties.

2. Maatregelen van voorkeur

In ons voortdurend onderzoek naar rationele voorkeuren boven prospects, zal de numerieke representatie (of meting) van preferente ordeningen belangrijk worden. De numerieke metingen in kwestie staan bekend als nutsfuncties. De twee belangrijkste typen nutsfuncties die een rol zullen spelen, zijn de ordinale nutsfunctie en de meer informatierijke intervalwaarde (of kardinale) nutsfunctie.

2.1 Normale hulpprogramma's

Het blijkt dat zolang de verzameling prospects / opties, (S), eindig is, elke zwakke volgorde van de opties in (S) kan worden weergegeven door een ordinale nutsfunctie. Om precies te zijn, laten we zeggen dat (u) een hulpprogramma is met domein (S). We zeggen dat de functie (u) de voorkeur (preceq) vertegenwoordigt tussen de opties in (S) voor het geval dat:

(tag {1} text {For any} A, B \ in S: u (A) leq u (B) Leftrightarrow A \ preceq B)

Een andere manier om dit te zeggen is dat, wanneer het bovenstaande geldt, de voorkeursrelatie kan worden weergegeven als maximaliserend nut, aangezien het altijd de voorkeur geeft aan de optie met het hoogste nut.

De enige informatie in een ordinale utility-weergave is hoe de agent wiens voorkeuren worden weergegeven, opties bestelt, van de minste tot de meeste voorkeur. Dit betekent dat als (u) een ordinale nutsfunctie is die de ordening (preceq) vertegenwoordigt, dan is elke nutsfunctie (u ') een ordinale transformatie van (u) - dat wil zeggen, elke transformatie van (u) die ook voldoet aan de biconditionele in (1) -representeert (preceq) net zo goed als (u) doet. Daarom zeggen we dat een ordinale nutsfunctie alleen uniek is tot aan ordinale transformaties.

Het hierboven genoemde resultaat kan als volgt worden samengevat:

Stelling 1 (gewone weergave). Laat (S) een eindige verzameling zijn en (preceq) een zwakke voorkeursrelatie op (S). Dan is er een ordinale nutsfunctie die (preceq) vertegenwoordigt voor het geval dat (preceq) compleet en transitief is.

Deze stelling mag niet zo verrassend zijn. Als (preceq) compleet en transitief is over (S), dan kunnen de opties in (S) in een volgorde worden geplaatst, van de meest naar de minst geprefereerde, waarbij sommige opties in dezelfde kunnen vallen positie (als ze even wenselijk worden geacht) maar waar er geen cycli of lussen zijn. Stelling 1 zegt alleen dat we nummers aan de opties in (S) kunnen toewijzen op een manier die deze volgorde vertegenwoordigt. (Raadpleeg Peterson 2009: 95 voor een eenvoudig bewijs van Stelling 1, behalve voor een strikte in plaats van een zwakke voorkeurrelatie.)

Merk op dat ordinale hulpprogramma's bij wijze van spreken niet erg wiskundig "krachtig" zijn. Het heeft bijvoorbeeld geen zin om de probabilistische verwachtingen van verschillende sets van ordinale voorzieningen te vergelijken. Beschouw bijvoorbeeld de volgende twee paar prospects: aan de elementen van het eerste paar zijn ordinale hulpprogramma's van 2 en 4 toegewezen, terwijl aan die van het tweede paar ordinale hulpprogramma's van 0 en 5 zijn toegewezen. Laten we een "vlakke" kansverdeling specificeren in elk geval zodanig dat elk element in de twee paren overeenkomt met een waarschijnlijkheid van 0,5. Ten opzichte van deze kanstoewijzing is de verwachting van het eerste paar ordinale voorzieningen 3, wat groter is dan 2,5, de verwachting van het tweede paar. Maar wanneer we de ordinale voorzieningen op een toegestane manier transformeren - bijvoorbeeld door het hoogste nut in het tweede paar te verhogen van 5 naar 10 - keert de volgorde van verwachtingen om; nu is de vergelijking tussen 3 en 5. De betekenis van dit punt zal in het hiernavolgende duidelijker worden wanneer we ons wenden tot de vergelijkende evaluatie van loterijen en risicovolle keuzes. Een intervalwaarde of hoofdfunctie is nodig om loterijen / risicovolle vooruitzichten op een consistente manier te evalueren. Op dezelfde manier doet men, om een hoofdfunctie te construeren of te conceptualiseren, typisch een beroep op voorkeuren boven loterijen. Een intervalwaarde of hoofdfunctie is nodig om loterijen / risicovolle vooruitzichten op een consistente manier te evalueren. Op dezelfde manier doet men, om een hoofdfunctie te construeren of te conceptualiseren, typisch een beroep op voorkeuren boven loterijen. Een intervalwaarde of hoofdfunctie is nodig om loterijen / risicovolle vooruitzichten op een consistente manier te evalueren. Op dezelfde manier doet men, om een hoofdfunctie te construeren of te conceptualiseren, typisch een beroep op voorkeuren boven loterijen.

2.2 Cardinaliserend nut

Om een kardinale (intervalwaarde) utility-weergave van een voorkeursvolgorde te krijgen, dat wil zeggen een maat die niet alleen representeert hoe een agent de opties bestelt, maar ook iets zegt over de wenselijke "afstand" tussen opties, hebben we een rijkere instelling nodig; de optieset en de bijbehorende voorkeursvolgorde moeten meer structuur hebben dan voor een ordinale nutsmaatregel. Een dergelijke rekening, dankzij John von Neumann en Oskar Morgenstern (1944), wordt hieronder in detail uitbetaald. Voorlopig is het nuttig om ons te concentreren op het soort optie dat essentieel is voor het begrijpen en construeren van een hoofdfunctie: loterijen. ^[1]

Overweeg eerst een bestelling over drie reguliere opties, bijvoorbeeld de drie vakantiebestemmingen Amsterdam, Bangkok en Cardiff, respectievelijk aangeduid met (A), (B) en (C). Stel dat uw voorkeurvolgorde (A \ prec B \ prec C) is. Deze informatie is voldoende om uw oordeel normaal te vertegenwoordigen; Bedenk dat elke toewijzing van hulpprogramma's dan acceptabel is, zolang (C) een hogere waarde krijgt dan (B), die een hogere waarde krijgt dan (A). Maar misschien willen we meer weten dan kan worden afgeleid uit een dergelijke hulpprogramma-functie - we willen weten hoeveel (C) de voorkeur heeft boven (B), vergeleken met hoeveel (B) de voorkeur heeft boven (EEN). Het kan bijvoorbeeld zijn dat Bangkok bijna net zo wenselijk wordt geacht als Cardiff, maar Amsterdam ligt relatief ver achter Bangkok. Of misschien is Bangkok slechts marginaal beter dan Amsterdam,vergeleken met de mate waarin Cardiff beter is dan Bangkok. Dit soort informatie over de relatieve afstand tussen opties, in termen van voorkeur of wenselijkheid, is precies wat wordt gegeven door een intervalgewaardeerde nutsfunctie. Het probleem is hoe deze informatie te achterhalen.

Om dit probleem op te lossen, deden Ramsey (1926) en later von Neumann en Morgenstern (hierna vNM) de volgende suggestie: we construeren een nieuwe optie, een loterij, (L), die (A) en (C heeft) als mogelijke "prijzen", en we bedenken welke kans de loterij u (C) moet geven om onverschillig te zijn tussen deze loterij en een vakantie in Bangkok. Het basisidee is dat je oordeel over Bangkok, ten opzichte van Cardiff enerzijds en Amsterdam anderzijds, kan worden gemeten aan de risico's van de loterij (L) waarbij Cardiff en Amsterdam betrokken zijn en die je even wenselijk acht als Bangkok. Als je bijvoorbeeld onverschillig bent tussen Bangkok en een loterij die een zeer lage kans op het winnen van een reis naar Cardiff biedt, dan beschouw je Bangkok blijkbaar niet veel beter dan Amsterdam, ten opzichte van Cardiff; voor jou,zelfs een kleine verbetering ten opzichte van Amsterdam, dat wil zeggen een loterij met een kleine kans op Cardiff in plaats van Amsterdam, is voldoende om Bangkok te evenaren.

Bovenstaande analyse veronderstelt dat loterijen worden beoordeeld op hun verwachte keuzewaarde of wenselijkheid. Dat wil zeggen, de wenselijkheid van een loterij is in feite de som van de kansen van elke prijs vermenigvuldigd met de wenselijkheid van die prijs. Beschouw het volgende voorbeeld: Stel dat je onverschillig bent tussen de loterij, (L) en de vakantie in Bangkok, (B), wanneer de kans dat de loterij resulteert in een vakantie in Cardiff (3/4). Noem deze specifieke loterij (L '). Het idee is dat Bangkok dus driekwart van de gewenste schaal is, met Amsterdam onderaan en Cardiff bovenaan. Als we bepalen dat (u (A) = 0) en (u (C) = 1), dan (u (B) = u (L ') = 3/4)). Dit komt overeen met de verwachte wenselijkheid - of, zoals het gewoonlijk wordt genoemd, het verwachte nut - van de loterij, aangezien (u (L ') = 1/4 \ cdot 0 + 3/4 \ cdot 1 = 3/4). Dat wil zeggen, de waarde van de loterij is een waarschijnlijkheidsgewogen som van de hulpprogramma's van haar prijzen, waarbij het gewicht op elke prijs wordt bepaald door de waarschijnlijkheid dat de loterij tot die prijs leidt.

We zien dus dat een intervalgewaardeerde nutsmeting over opties kan worden geconstrueerd door loterijopties te introduceren. Zoals de naam al doet vermoeden, geeft de intervalwaarde-utility-maatstaf informatie over de relatieve grootte van de intervallen tussen de opties volgens een bepaalde wenselijkheidsschaal. Dat wil zeggen, de hulpprogramma's zijn uniek nadat we het startpunt van onze meting en de eenheidsschaal van wenselijkheid hebben vastgesteld. In het bovenstaande voorbeeld hadden we bijvoorbeeld een nutswaarde van 1 aan (A) en 5 aan (C) kunnen toewijzen, in welk geval we een nutswaarde van 4 aan (B), aangezien 4 3/4 van de weg tussen 1 en 5 is. Met andere woorden, zodra we gebruikswaarden hebben toegewezen aan (A) en (C), is het hulpprogramma van (L ') en dus is (B) bepaald. Laten we deze tweede utility-functie (u ') noemen. Het is als volgt gerelateerd aan onze oorspronkelijke functie: (u '= 4 \ cdot u +1). Deze relatie bestaat altijd tussen twee van dergelijke functies: Als (u) een hulpprogramma met intervalwaarde is dat de voorkeursvolgorde vertegenwoordigt, is (preceq) en (u ') een andere hulpprogramma-functie die ook staat voor deze volgorde, dan zijn er constanten (a) en (b), waar (a) positief moet zijn, zodat (u '= a \ cdot u + b). Dit wil zeggen dat hulpprogramma's met intervalwaarde alleen uniek zijn tot aan positieve lineaire transformatie.dan zijn er constanten (a) en (b), waar (a) positief moet zijn, zodat (u '= a \ cdot u + b). Dit wil zeggen dat hulpprogramma's met intervalwaarde alleen uniek zijn tot aan positieve lineaire transformatie.dan zijn er constanten (a) en (b), waarbij (a) positief moet zijn, zodat (u '= a \ cdot u + b). Dit wil zeggen dat hulpprogramma's met intervalwaarde alleen uniek zijn tot aan positieve lineaire transformatie.

Voordat we deze discussie over het meten van nut beëindigen, moeten twee gerelateerde beperkingen worden genoemd met betrekking tot de informatie die dergelijke maatregelen overbrengen. Ten eerste, aangezien de hulpprogramma's van opties, of ze nu ordinaal of intervalgeteld zijn, alleen kunnen worden bepaald in verhouding tot de hulpprogramma's van andere opties, bestaat er niet zoiets als het absolute nut van een optie, althans niet zonder verdere aannames. ^[2]Ten tweede zijn door dezelfde redenering noch intervalgewaardeerde, noch ordinale nutsmaatregelen, zoals hier besproken, interpersoonlijk evenredig met betrekking tot niveaus en eenheden van nut. Veronderstel, als een snelle illustratie, dat zowel jij als ik de voorkeurvolgorde hebben die hierboven is beschreven boven de vakantieopties: (A \ prec B \ prec C). Stel ook dat we, zoals hierboven beschreven, allebei onverschillig zijn tussen (B) en de loterij (L ') met een (3/4) kans om (C) en a (1/4) kans op opbrengst (A). Kunnen we dan zeggen dat het verlenen van Cardiff en mij aan Bangkok evenveel "totale wenselijkheid" zou betekenen als het verlenen van Cardiff en mij aan Bangkok? We mogen dit niet zeggen. Onze gedeelde voorkeursvolgorde is bijvoorbeeldconsistent met het vinden van een vakantie in Cardiff is een droom die uitkomt terwijl je het gewoon het beste van een slechte partij vindt. Bovendien hebben we niet eens het recht om te zeggen dat het verschil in wenselijkheid tussen Bangkok en Amsterdam voor jou hetzelfde is als voor mij. Volgens mij kan de wenselijkheid van de drie opties variëren van een hel tot een droom die uitkomt, en volgens jou van slecht tot behoorlijk slecht; beide evaluaties komen overeen met de bovenstaande volgorde van voorkeur. In feite zou hetzelfde kunnen gelden voor onze voorkeuren over alle mogelijke opties, inclusief loterijen: zelfs als we dezelfde totale voorkeurvolgorde deelden, kan het zijn dat je gewoon een negatieve instelling hebt en geen optie vindt die zo geweldig is, terwijl ik ben erg extreem en vind sommige opties uitstekend, maar andere een pure marteling. Vandaar hulpprogramma functies,of het nu intervalwaarde of ordinaal is, laat geen zinvolle interpersoonlijke vergelijkingen toe. (Elster en Roemer 1993 bevat een aantal artikelen waarin deze kwesties worden besproken; zie ook de SEP-vermelding over de sociale-keuzetheorie.)

2.3 De representatiestelling van von Neumann en Morgenstern (vNM)

De laatste sectie gaf een intervalgewaardeerde representatie van de voorkeuren van een persoon boven loterijen, in de veronderstelling dat loterijen worden geëvalueerd in termen van verwachte bruikbaarheid. Sommigen vinden dit misschien een beetje snel. Waarom moeten we aannemen dat mensen loterijen beoordelen in termen van hun verwachte nut? De vNM-stelling versterkt effectief de hiaten in redenering door de aandacht terug te verleggen naar de voorkeursrelatie. Naast Transitiviteit en Volledigheid introduceert vNM verdere principes die rationele voorkeuren boven loterijen beheersen, en laat ze zien dat de voorkeuren van een agent kunnen worden weergegeven als het maximaliseren van het verwachte nut wanneer haar voorkeuren aan deze principes voldoen.

Laten we eerst formeel het verwachte nut van een loterij definiëren: laat (L_i) een loterij zijn uit de reeks (bL) loterijen, en (O_ {ik}) de uitkomst, of prijs, van loterij (L_i) die met waarschijnlijkheid ontstaat (p_ {ik}). Het verwachte nut van (L_i) wordt dan gedefinieerd als:

De vNM-vergelijking

[EU (L_i) dot = \ sum_k u (O_ {ik}) cdot p_ {ik})

De eerder gemaakte veronderstelling kan nu formeel worden vermeld:

\ begin {vergelijking} tag {2} tekst {Voor elke} L_i, L_j \ in \ bL: L_i \ preceq L_j \ Leftrightarrow EU (L_i) leq EU (L_j) end {vergelijking}

Wanneer het bovenstaande geldt, zeggen we dat er een verwachte hulpprogramma-functie is die de voorkeuren van de agent vertegenwoordigt; met andere woorden, de agent kan worden weergegeven als het maximaliseren van het verwachte nut.

De vraag die vNM-adres is: wat voor soort voorkeuren kunnen zo worden weergegeven? Om deze vraag te beantwoorden, moeten we terugkeren naar de onderliggende voorkeursrelatie (preceq) over de reeks opties, in dit geval met loterijen. De vNM-stelling vereist dat de set (bL) van loterijen vrij uitgebreid is: deze wordt gesloten onder "waarschijnlijkheidsmengeling", dat wil zeggen, als (L_i, L_j \ in \ bL), dan samengestelde loterijen die (L_i) en (L_j) als mogelijke prijzen zijn ook in (bL). (Een andere technische aanname, die niet in detail zal worden besproken, is dat samengestelde loterijen altijd, in overeenstemming met de waarschijnlijkheidswetten, kunnen worden teruggebracht tot eenvoudige loterijen die alleen basisprijzen omvatten.)

Een fundamentele rationaliteitsbeperking op de preferentierelatie is al besproken - dat het de opties zwak rangschikt (dat wil zeggen, voldoet aan transitiviteit en volledigheid). De volgende notatie zal worden gebruikt om de twee aanvullende vNM-axioma's van voorkeur te introduceren: ({pA, (1-p) B }) duidt een loterij aan die resulteert in (A), met waarschijnlijkheid (p) of (B), met waarschijnlijkheid (1-p).

Axioma 3 (continuïteit)

Stel (A \ preceq B \ preceq C). Dan is er een (p \ in [0,1]) zodat:

({pA, (1-p) C } sim B)

Axioma 4 (onafhankelijkheid)

Stel (A \ preceq B). Dan voor elke (C) en elke (p \ in [0,1]):

({pA, (1-p) C } preceq {pB, (1-p) C })

Continuïteit houdt in dat geen enkele uitkomst zo slecht is dat u niet bereid bent om een gok te wagen die ertoe zou kunnen leiden dat u met die uitkomst belandt, maar anders zou kunnen resulteren in een gunstiger uitkomst, door uw huidige licht, mits de de kans op een beter resultaat is goed genoeg. Intuïtief garandeert Continuity dat de beoordeling van loterijen door een agent op de juiste manier gevoelig is voor de waarschijnlijkheid van de prijzen van de loterijen. Het zorgt er ook voor, zoals de naam al doet vermoeden, dat een voldoende rijke voorkeursvolgorde boven loterijen kan worden weergegeven door een continue kardinale functie.

Onafhankelijkheid houdt in dat wanneer twee alternatieven dezelfde waarschijnlijkheid hebben voor een bepaalde uitkomst, onze evaluatie van de twee alternatieven onafhankelijk moet zijn van onze mening over die specifieke uitkomst. Dit betekent intuïtief dat voorkeuren tussen loterijen alleen mogen worden beheerst door de kenmerken van de loterijen die verschillen; de overeenkomsten tussen de loterijen moeten effectief worden genegeerd. Een voorkeursvolgorde moet aan een of andere versie van het Independence-axioma voldoen om het te kunnen representeren als het maximaliseren van wat een additief te scheiden functie wordt genoemd; in het bijzonder een functie volgens welke de waarde (dwz verwachte bruikbaarheid) van een optie een (waarschijnlijkheidsgewogen) som is van de waarden van de mogelijke uitkomsten.

Sommige mensen vinden het Continuïteit-axioma een onredelijke beperking van rationele voorkeur. Is er een kans (p) dat u bereid bent een gok te accepteren die de kans heeft dat u uw leven verliest en de kans ((1-p)) dat u $ 10 wint? Veel mensen denken van niet. Dezelfde mensen zouden echter vermoedelijk de straat oversteken om een rekening van $ 10 op te halen die ze hadden laten vallen. Maar dat is gewoon een gok wagen die een zeer kleine kans heeft om door een auto te worden gedood, maar een veel grotere kans om $ 10 te verdienen! Meer in het algemeen, hoewel mensen er zelden zo over denken, nemen ze constant gokken die minuscule kansen hebben om tot een immanente dood te leiden, en dienovereenkomstig zeer grote kansen op een bescheiden beloning. Elke keer dat we een wandeling maken, met onze auto rijden, ergens heen vliegen, enzovoort,er is een kans dat we een dodelijk ongeval krijgen. Maar omdat de kans op deze ongevallen klein genoeg is, besluiten we onze risico's te nemen.

Onafhankelijkheid lijkt een dwingende vereiste van rationaliteit, in abstracto bezien. Desalniettemin zijn er bekende voorbeelden waarbij mensen de onafhankelijkheid vaak schenden zonder irrationeel over te komen. Deze voorbeelden hebben betrekking op complementariteit tussen de mogelijke loterijuitkomsten. Een bijzonder bekend voorbeeld is de zogenaamde Allais Paradox, die de Franse econoom Maurice Allais (1953) begin jaren vijftig voor het eerst introduceerde. De paradox draait om het vergelijken van de voorkeuren van mensen over twee paar loterijen die vergelijkbaar zijn met die in tabel 1. De loterijen worden beschreven in termen van de prijzen die horen bij bepaalde genummerde loten, waarbij één lot willekeurig wordt getrokken (bijvoorbeeld (L_1) levert een prijs van $ 2500 op als een van de tickets met nummer 2–34 wordt getrokken).

	1	2–34	35–100
(L_1)	$ 0	$ 2500	$ 2400
(L_2)	$ 2400	$ 2400	$ 2400

	1	2–34	35–100
(L_3)	$ 0	$ 2500	$ 0
(L_4)	$ 2400	$ 2400	$ 0

Tabel 1. Allais 'paradox

In deze situatie geven veel mensen strikt de voorkeur aan (L_2) boven (L_1) maar ook (L_3) boven (L_4) (zoals blijkt uit hun keuzegedrag, evenals hun getuigenis), een paar van voorkeuren waarnaar wordt verwezen als de voorkeuren van Allais. ^[3] Een veel voorkomende manier om de voorkeuren van Allais te rationaliseren, is dat in de situatie van de eerste keuze het risico om met niets te eindigen terwijl men zeker $ 2400 had kunnen hebben, de verhoogde kans op een hogere prijs niet rechtvaardigt. In de tweede keuzesituatie is de minimale winst echter $ 0, ongeacht welke keuze men maakt. Daarom denken veel mensen in dat geval dat het kleine extra risico van $ 0 de kans op een betere prijs waard is.

Hoewel de bovenstaande redenering misschien overtuigend lijkt, zijn de voorkeuren van Allais in strijd met het axioma van de onafhankelijkheid. Voor beide keuzesituaties geldt het volgende: welke keuze je ook maakt, je krijgt dezelfde prijs als een van de tickets in de laatste kolom wordt getrokken. Daarom houdt Independence in dat zowel jouw voorkeur tussen (L_1) en (L_2) als je voorkeur tussen (L_3) en (L_4) onafhankelijk moet zijn van de prijzen in die kolom. Maar als je de laatste kolom negeert, wordt (L_1) identiek aan (L_3) en (L_2) tot (L_4). Dus als u de voorkeur geeft aan (L_2) boven (L_1) maar (L_3) boven (L_4), lijkt er een inconsistentie te zijn in uw voorkeursvolgorde. En er is absoluut een schending van de onafhankelijkheid. Als gevolg hiervan kan het paar voorkeuren dat wordt besproken niet worden weergegeven als het maximaliseren van het verwachte nut. (Dus de "paradox":veel mensen denken dat onafhankelijkheid een vereiste van rationaliteit is, maar willen niettemin beweren dat er niets irrationeels is aan de voorkeuren van Allais.)

Beslissingstheoretici hebben op verschillende manieren gereageerd op Allais 'Paradox. Deze kwestie zal opnieuw worden besproken in paragraaf 5.2, wanneer de uitdagingen voor de EU-theorie zullen worden besproken. Het huidige doel is simpelweg om te laten zien dat continuïteit en onafhankelijkheid dwingende beperkingen opleggen aan rationele voorkeur, hoewel niet zonder hun tegenstanders. Het resultaat dat vNM heeft bewezen, kan als volgt worden samengevat:

Stelling 2 (von Neumann-Morgenstern)

Laten (bO) een eindige reeks resultaten zijn, (bL) een reeks overeenkomstige loterijen die wordt gesloten onder een waarschijnlijkheidsmix en (preceq) een zwakke voorkeursrelatie op (bL). Dan voldoet (preceq) aan axioma's 1-4 als en alleen als er een functie (u) bestaat, van (bO) in de verzameling reële getallen, die uniek is tot positieve lineaire transformatie, en relatief ten opzichte waarvan (preceq) kan worden weergegeven als het maximaliseren van het verwachte nut.

David Kreps (1988) geeft een toegankelijke illustratie van het bewijs van deze stelling. Het bewijs verloopt in twee stappen: eerst wordt het bestaan bewezen van een intervalgerelateerde nutsfunctie die voldoet aan de voorkeursaxioma's (dit is een nutsfunctie die loterijen evalueert in termen van hun verwachte bruikbaarheid, zoals eerder beschreven). Vervolgens wordt het unieke karakter van deze utiliteitsmaat (tot positieve lineaire transformatie) bewezen.

3. Echte beslissingen nemen

De vNM-stelling is een zeer belangrijk resultaat voor het meten van de sterkte van de voorkeuren van een rationele agent ten opzichte van bepaalde opties (de loterijen vergemakkelijken effectief een kardinale meting ten opzichte van bepaalde opties). Maar dit brengt ons niet helemaal tot het nemen van rationele beslissingen in de echte wereld; we hebben nog niet echt een beslissingstheorie. De stelling beperkt zich tot het evalueren van opties die gepaard gaan met een objectieve kansverdeling over de uitkomsten - een situatie die beslissingstheoretici en economen vaak omschrijven als 'keuze onder risico' (Knight 1921).

In de meeste gewone keuzesituaties zijn de objecten van keuze, waarover we voorkeuren moeten hebben of vormen, niet zo. Besluitvormers moeten veeleer hun eigen overtuigingen raadplegen over de waarschijnlijkheid dat de ene of de andere uitkomst het gevolg is van een bepaalde optie. Beslissingen in dergelijke omstandigheden worden vaak omschreven als "keuzes onder onzekerheid" (Knight 1921). Overweeg bijvoorbeeld de hachelijke situatie van een bergbeklimmer die besluit al dan niet een gevaarlijke beklimming van de top te proberen, waarbij de belangrijkste factor voor haar het weer is. Als ze geluk heeft, heeft ze mogelijk toegang tot uitgebreide weerstatistieken voor de regio. Desalniettemin verschillen de weerstatistieken van de loterijopstelling doordat ze niet de waarschijnlijkheid bepalen van de mogelijke resultaten van een poging om de top op een bepaalde dag niet te proberen. Niet in het minstde bergbeklimmer moet bedenken hoe zeker ze is in het alt ="

Figuur 1. Ulysses 'beslissingsprobleem

Er wordt ons verteld dat Ulysses, voordat ze aan boord gaan, het liefst de sirenes vrijelijk hoort en naar huis terugkeert naar Ithaca. Het probleem is dat Ulysses voorspelt dat zijn toekomstige zelf niet zal voldoen: als hij ongeremd vaart, wordt hij later verleid door de sirenes en zal hij in feite niet naar Ithaca blijven, maar zal hij voor onbepaalde tijd op het eiland blijven. Ulysses redeneert daarom dat het beter zou zijn om aan de mast te worden vastgemaakt, omdat hij liever de schaamte en het ongemak zou hebben om aan de mast te worden vastgemaakt en ervoor te zorgen dat hij voor altijd thuis blijft op het eiland van de sirenes.

Men kan niet ontkennen dat Ulysses een verstandige keuze maakt om aan de mast vastgebonden te worden. Sommigen zijn echter van mening dat Ulysses nauwelijks een voorbeeldige agent is - hij moet tenslotte spelen tegen zijn toekomstige zelf, dat ongewild verleid wordt door de sirenes. Hoewel Ulysses rationeel is door statische beslissingsnormen, kunnen we hem irrationeel vinden door opeenvolgende beslissingsnormen. Om in rationele of dynamische zin rationeel te zijn, zou Ulysses gedurende de langere periode continue rationaliteit moeten aantonen: hij zou bijvoorbeeld op alle keuzepunten als EU-maximalisator moeten optreden en verder geen grillige veranderingen van overtuiging of wens, dat wil zeggen veranderingen die niet in overeenstemming zijn met de standaardleerregel van Bayesiaanse conditionalisatie (die stelt dat, na het leren van een of andere stelling, overtuigingen worden bijgewerkt naar de relevante voorwaardelijke kansen). Met andere woorden, men zou kunnen stellen dat het sequentiële beslissingsmodel problemen van rationaliteit in de tijd aanpakt.

Hoewel rationaliteit in de tijd enige betekenis kan hebben (bijvoorbeeld door ons in staat te stellen serieel gedrag te identificeren), is het echt belangrijk hoe een agent op een bepaald moment moet handelen. Daartoe wordt het sequentiële beslissingsmodel vruchtbaarder beschouwd als een hulpmiddel om rationele keuzes op een bepaald moment te helpen bepalen, net als het statische beslissingsmodel. De sequentiële beslissingsboom is in feite een manier om de temporele reeks keuzes en leergebeurtenissen te visualiseren die een agent denkt dat hij / zij in de toekomst zal tegenkomen, afhankelijk van welk deel van de beslissingsboom hij / zij zelf zal vinden. De hamvraag is dan: hoe moet een agent kiezen tussen zijn / haar initiële opties in het licht van zijn / haar geprojecteerde beslissingsboom? Deze vraag heeft tot verrassend veel controverse geleid. In de literatuur zijn drie belangrijke benaderingen voor het onderhandelen over opeenvolgende beslissingsbomen verschenen. Dit zijn de naïeve of bijziendheid, de uitgekiende aanpak en de vastberadenheid. Deze zullen achtereenvolgens worden besproken en er wordt gesuggereerd dat de geschillen mogelijk niet substantieel zijn, maar eerder subtiele verschillen aangeven in de interpretatie van opeenvolgende beslissingsmodellen.

De zogenaamde naïeve benadering van het onderhandelen over opeenvolgende beslissingen vormt een nuttig contrast met de andere twee benaderingen. De naïeve agent gaat ervan uit dat elk pad door de beslissingsboom mogelijk is, en gaat daarom op pad naar het pad dat optimaal is, gegeven zijn / haar huidige houding. Een naïeve Ulysses zou bijvoorbeeld eenvoudigweg aannemen dat hij uit drie algemene strategieën kan kiezen: ofwel de bemanning opdracht geven hem aan de mast te binden, of een dergelijke instructie niet uitgeven en later stoppen bij het eiland van de sirene, of een dergelijke instructie niet geven en later vast te houden aan zijn koers. Ulysses geeft de voorkeur aan het resultaat van de laatste combinatie en daarom initieert hij deze strategie door de bemanning niet op te dragen hem in bedwang te houden. Tabel 5 geeft de statische tegenhanger weer van het naïeve Ulysses-beslissingsprobleem. In werkelijkheid,dit beslissingsmodel houdt geen rekening met Ulysses 'huidige kennis van zijn toekomstige voorkeuren en adviseert daarom dat hij een optie nastreeft die naar verwachting onmogelijk zal zijn.

handelen	Resultaat
opdracht koppelverkoop aan mast	thuiskomen, enige vernedering
zeil ongedwongen en blijf dan bij sirenes	leven met sirenes
zeil ongedwongen dan naar huis naar Ithaca	thuiskomen, geen vernedering

Tabel 5. Naïve Ulysses 'beslissingsprobleem

Het is niet nodig om het punt uit te werken dat de naïeve benadering van sequentiële keuze toepasselijk wordt genoemd. Het kenmerk van de uitgekiende aanpak is daarentegen de nadruk op achterwaartse planning: de uitgekiende kiezer gaat er niet van uit dat alle paden door de beslissingsboom, of met andere woorden alle mogelijke combinaties van keuzes op de verschillende keuzeknooppunten mogelijk zullen zijn. De agent overweegt eerder wat hij / zij geneigd zal zijn te kiezen bij latere keuzeknooppunten wanneer hij / zij in de betreffende tijdelijke positie komt. Verfijnde Odysseus zou opmerken dat als hij het eiland van de sirenes ongeremd bereikt, hij daar voor onbepaalde tijd wil stoppen vanwege het transformerende effect van het sirenenlied op zijn voorkeuren. Dit wordt dan weerspiegeld in de statische weergave van het beslissingsprobleem, zoals in tabel 6. De staten hier hebben betrekking op de toekomstige voorkeuren van Ulysses, zodra hij het eiland bereikt. Aangezien de tweede staat kans nul heeft, worden de handelingen beslist op basis van de eerste staat, dus kiest Ulysses er wijselijk voor om aan de mast te worden vastgemaakt.

handelen	kies later sirenes ((p = 1))	kies later Ithaca ((p = 0))
opdracht koppelverkoop aan mast	thuis, wat vernedering	thuis, wat vernedering
zeil onbeperkt	leven met sirenes	thuis, geen vernedering

Tabel 6. Verfijnd beslissingsprobleem van Ulysses

Vastberaden keuze wijkt alleen af van verfijnde keuze onder bepaalde voorwaarden waaraan Ulysses niet voldoet, gezien zijn onverklaarbare verandering in houding. Verdedigers van een vastberaden keuze verdedigen doorgaans beslistheorieën die in strijd zijn met het principe van onafhankelijkheid axioma / zeker-ding (met name McClennen 1990 en Machina 1989; zie ook Rabinowicz 1995 voor discussie), en doen een beroep op een vastberaden keuze om hun beslissingstheorie beter verteerbaar te maken in de sequentiële context. Volgens een vastberaden keuze moet de agent in gepaste contexten (met voorkeuren die stabiel zijn maar die de onafhankelijkheid schenden) erop blijven rekenen dat hij vasthoudt aan de strategie die aanvankelijk op alle toekomstige keuzeknopen als beste werd beschouwd. Het is de vraag of de vastberaden benadering logisch is, gegeven de standaardinterpretatie van een sequentieel beslissingsmodel. Kan een agent er echt op rekenen om op een bepaald moment tegen haar voorkeuren te kiezen om een oud plan te vervullen? Dit lijkt een geval van vallen voor de verzonken denkfout. Natuurlijk kan een agent veel belang hechten aan het nakomen van eerdere verplichtingen. Dergelijke integriteitsproblemen moeten echter aantoonbaar worden weerspiegeld in de feitelijke voorkeuren van de agent op het moment in kwestie. Dit is heel iets anders dan uit de pas kiezen met iemands weloverwogen voorkeuren tegelijk.op het moment in kwestie. Dit is heel iets anders dan uit de pas kiezen met iemands weloverwogen voorkeuren tegelijk.op het moment in kwestie. Dit is heel iets anders dan uit de pas kiezen met iemands weloverwogen voorkeuren tegelijk.

Ongetwijfeld hebben verdedigers van een vastberaden keuze eigenlijk een andere interpretatie van sequentiële beslissingsmodellen in gedachten, waarbij toekomstige "keuzepunten" niet echt punten zijn waarop een agent op dat moment vrij is om te kiezen volgens haar voorkeuren. Als dit juist is, komt dit neer op het veranderen van de vraag of het probleem van interesse. In wat volgt, wordt uitgegaan van deze standaardinterpretatie van sequentiële beslismodellen, en bovendien wordt aangenomen dat rationele agenten op een verfijnde manier over dergelijke beslissingen redeneren (zoals onder andere Levi 1991, Maher 1992, Seidenfeld 1994).

6.2 De axioma's van de EU opnieuw bekeken

We hebben gezien dat opeenvolgende beslissingsbomen een agent als Ulysses kunnen helpen de balans op te maken van de gevolgen van zijn huidige keuze, zodat hij beter kan nadenken over wat hij nu moet doen. De literatuur over sequentiële keuze gaat echter vooral over ambitieuzere vragen. In feite biedt de sequentiële setting effectief nieuwe manieren om theorieën over rationele voorkeur te 'testen', evenals rationele overtuiging / verlangenverandering. Dit zijn gecontroleerde tests omdat wordt aangenomen dat de agent stabiele voorkeuren in de loop van de tijd voorspelt, dat wil zeggen dat ze niet verwacht dat haar volgorde van voorkeur boven uiteindelijke resultaten zal veranderen, behalve op manieren die in overeenstemming zijn met haar regel voor verandering van overtuiging / verlangen. Strikt genomen wordt het hele pakket van beslisregel plus leerregel op de proef gesteld. In de praktijk worden de twee afzonderlijk behandeld:verschillende beslisregels worden vergeleken in de veronderstelling dat leren door Bayesiaanse conditionalisatie plaatsvindt, of anders worden verschillende leerregels vergeleken in de veronderstelling dat de agent het verwachte nut maximaliseert. De vraag is of de beslissing of leerregel van de agent in de sequentiële setting in zekere zin zelfvernietigend is (of met andere woorden dynamisch inconsistent).

Laten we eerst het sequentieel-beslissingsargument voor leren bekijken als reactie op nieuw bewijs door Bayesiaanse conditionalisatie, aangezien het dient als een nuttige vergelijking voor andere sequentiële argumenten. Skyrms (1993) presenteert een dergelijk argument; het is misschien wel de meest verfijnde versie van het zogenaamde "diachrone Nederlandse boek" -argument dat conditionering de enige rationele leerregel is. De agent wordt verondersteld een verwachte maximalisator van hulpprogramma's te zijn die een geavanceerde (achterwaartse redenering) benadering hanteert voor opeenvolgende beslissingsproblemen. Skyrms laat zien dat een dergelijke agent die van plan is op een manier te leren die op gespannen voet staat met conditionalisatie, zelfvernietigende keuzes zal maken in een aantal speciaal gekunstelde opeenvolgende beslissingssituaties. Een goede conditioneringsmiddel zal daarentegen nooit keuzes maken die op deze manier zichzelf verslaan. Het soort 'zelfvernietigende keuzes' waar het hier om gaat, zijn keuzes die een zeker verlies opleveren. Dat wil zeggen, de agent kiest een strategie die door haar eigen licht zeker slechter is dan een andere strategie die ze anders zou hebben gekozen, als haar leerregel maar zodanig was dat ze anders zou kiezen op een of meer toekomstige keuzeknooppunten.

Een soortgelijk argument kan worden gebruikt om de voorkeuren van de EU te verdedigen. In dit geval gaan we ervan uit dat de leerregel van de agent conditionalisatie is; bovendien gaan we er, zoals eerder, van uit dat de agent stabiele voorkeuren heeft en een uitgekiende aanpak van opeenvolgende beslissingsproblemen. Hammond (1976, 1977, 1988b, c) geeft een "dynamische consistentie" -argument voor de EU-theorie dat vergelijkbaar is met het bovenstaande voor conditionalisatie; hij laat zien dat alleen voorkeuren met een EU-structuur van dien aard zijn dat de agent kan plannen om elk pad te volgen in een sequentiële beslissingsboom die door de agent als optimaal wordt beschouwd vanaf het initiële keuzeknooppunt. In tegenstelling tot andere voorkeursstructuren (beslisregels), leiden EU-voorkeuren nooit tot "zelfvernietigende keuzes",in die zin dat de agent gedwongen wordt om een strategie te kiezen die door haar eigen licht slechter is dan een andere strategie die ze anders zou hebben gekozen, als haar voorkeuren maar zodanig waren dat ze bij toekomstige keuzeknopen anders zou kiezen.

Hammond's argument voor de EU-theorie, en het idee van dynamische consistentie dat het oproept, is vanuit verschillende hoeken bekritiseerd, zowel door degenen die theorieën verdedigen die het axioma van de onafhankelijkheid schenden, maar de volledigheid en doorgankelijkheid (dwz ordening) axioma's van de EU-theorie behouden, en degenen die theorieën verdedigen die de laatste schenden (zie voor discussie Steele 2010). Op de benadering van sommige verdedigers van theorieën die de onafhankelijkheid schenden (met name Machina 1989 en McClennen 1990) is al gezinspeeld: zij verwerpen de veronderstelling van een verfijnde keuze die de argumenten voor dynamische consistentie aanstuurt. Seidenfeld (1988a, b, 1994, 2000a, b) verwerpt Hammond's idee van dynamische consistentie eerder ten gunste van een subtieler begrip dat onderscheid maakt tussen theorieën die Orden schenden en die welke alleen de Onafhankelijkheid schenden; de voormalige,slaag, in tegenstelling tot de laatste, voor de test van Seidenfeld. Ook dit argument is niet zonder kritiek (zie McClennen 1988, Hammond 1988a, Rabinowicz 2000). Merk op dat de kosten van elke afwijking van de EU-theorie goed worden benadrukt door Al-Najjar en Weinstein (2009) en Kadane et al. (2008), met name de mogelijkheid van afkeer van vrije informatie en afkeer van mogelijkheden voor meer keuze in de toekomst.

7. Slotopmerkingen

Laten we besluiten met een samenvatting van de belangrijkste redenen waarom de besluitvormingstheorie, zoals hierboven beschreven, van filosofisch belang is. Ten eerste is de normatieve beslissingstheorie duidelijk een (minimale) theorie van praktische rationaliteit. Het doel is om de attitudes van agenten die praktisch rationeel zijn te karakteriseren, en er worden typisch verschillende (statische en sequentiële) argumenten aangevoerd om aan te tonen dat bepaalde praktische catastrofes agenten overkomen die niet voldoen aan de standaard beslis-theoretische beperkingen. Ten tweede hebben veel van deze beperkingen betrekking op de overtuigingen van de agenten. In het bijzonder vereist de normatieve besluitvormingstheorie dat de graden van overtuigingen van agenten voldoen aan de waarschijnlijkheids axioma's en dat ze reageren op nieuwe informatie door conditionalisatie. Daarom heeft de beslissingstheorie grote implicaties voor debatten in epistemologie en wetenschapsfilosofie; dat is,voor theorieën over epistemische rationaliteit.

Ten slotte zou de beslissingstheorie van groot belang moeten zijn voor filosofen van geest en psychologie, en anderen die geïnteresseerd zijn in hoe mensen het gedrag en de intenties van anderen kunnen begrijpen; en, meer in het algemeen, hoe we kunnen interpreteren wat er in de hoofden van anderen gebeurt. Beslissingstheoretici gaan er doorgaans van uit dat iemands gedrag volledig kan worden verklaard in termen van haar overtuigingen en verlangens. Maar misschien nog interessanter is dat enkele van de belangrijkste resultaten van de beslissingstheorie - de verschillende representatiestellingen, waarvan sommige hier zijn besproken - suggereren dat als een persoon aan bepaalde rationaliteitsvereisten voldoet, we haar overtuigingen en verlangens kunnen lezen, en hoe sterk deze overtuigingen en verlangens zijn, vanuit haar keuze, disposities (of voorkeuren). Hoeveel deze stellingen ons echt vertellen, is een kwestie van discussie, zoals hierboven besproken. Maar bij een optimistische lezing van deze resultaten verzekeren ze ons dat we zinvol kunnen praten over wat er in de hoofden van andere mensen gebeurt zonder veel bewijs, behalve informatie over hun wil om te kiezen.

Bibliografie

Al-Najjar, Nabil I. en Jonathan Weinstein, 2009, "The Ambiguity Aversion Literature: A Critical Assessment", Economics and Philosophy, 25: 249–284. [al-Najjar en Weinstein 2009 online beschikbaar (pdf)]
Allais, Maurice, 1953, 'Le Comportement de l'Homme Rationnel devant le Risque: Critique des Postulats et Axiomes de l'Ecole Américaine', Econometrica, 21: 503–546.
Anscombe, FJ, 1963, "Sequential Medical Trials", Journal of the American Statistical Association, 58: 365–383.
Anscombe, FJ en Robert J. Aumann, 1963, 'A Definition of Subjective Probability', Annals of Mathematical Statistics, 34: 199–204.
Ben-Haim, Yakov, 2001, Theorie van informatiekloof: beslissingen onder ernstige onzekerheid, Londen: Academic Press.
Bermúdez, José Luis, 2009, Uitdagingen voor de beslissingstheorie, Oxford: Oxford University Press.
Binmore, Ken, 2009, Rational Decisions, Princeton, NJ: Princeton University Press.
Bolker, Ethan D., 1966, 'Functies die lijken op quotiënten van maatregelen', Transactions of the American Mathematical Society, 124: 292–312.
–––, 1967, "A Simultaneous Axiomatisation of Utility and Subjective Probability", Wetenschapsfilosofie, 34: 333–340.
Bradley, Richard, 1998, "Een representatiestelling voor een beslistheorie met voorwaardelijke bepalingen", Synthese, 116: 187–222
–––, 2004, "Stelling van Ramsey", Dialectica, 4: 484–497.
–––, 2007, “A Unified Bayesian Decision Theory”, Theory and Decision, 63: 233–263.
Bradley, Richard en H. Orri Stefánsson, 2016, "Counterfactual Desirability", British Journal for the Philosophy of Science, in pers.
–––, 2016, "Desire, Expectation and Invariance", Mind, in druk.
Broome, John, 1991a, Weighing Goods: Equality, Uncertainty and Time, Oxford: Blackwell.
–––, 1991b, "The Structure of Good: Decision Theory and Ethics", in Foundations of Decision Theory, Michael Bacharach en Susan Hurley (red.), Oxford: Blackwell, pp. 123–146.
–––, 1991c, “Verlangen, Geloof en Verwachting”, Mind, 100: 265–267.
–––, 1993, "Kan een Humean gematigd zijn?", In Value, Welfare and Morality, GR Frey en Christopher W. Morris (red.), Cambridge: Cambridge University Press. pp. 51-73.
Buchak, Lara, 2013, Risk and Rationality, Oxford: Oxford University Press.
–––, te verschijnen, “Decision Theory”, in Oxford Handbook of Probability and Philosophy, Christopher Hitchcock en Alan Hájek (red.), Oxford: Oxford University Press.
Byrne, Alex en Alan Hájek, 1997, 'David Hume, David Lewis en Beslissingstheorie', Mind, 106: 411–728.
Chang, Ruth, 2002, 'The Possibility of Parity', Ethics, 112: 659–688.
Colyvan, Mark, Damian Cox en Katie Steele, 2010, 'Modelling the Moral Dimension of Decisions', Noûs, 44: 503–529.
Dietrich, Franz en Christian List, 2013, "A Reason-Based Theory of Rational Choice", Noûs, 47: 104–134.
–––, 2015, “Reason-based choice and Context Dependence: An Explanatory Framework”, Economics and Philosophy, in pers.
–––, 2015, "Mentalism Versus Behaviourism in Economics: a Philosophy-of-Science Perspective", Economics and Philosophy, in pers.
Dreier, James, 1996, "Rational Preference: Decision Theory as a Theory of Practical Rationality", Theory and Decision, 40: 249–276.
Elster, Jon en John E. Roemer (red.), 1993, Interpersoonlijke vergelijkingen van welzijn, Cambridge: Cambridge University Press.
Gärdenfors, Peter en Nils-Eric Sahlin, 1982, "Onbetrouwbaarheidskansen, het nemen van risico's en besluitvorming", herdrukt in P. Gärdenfors en N.-E. Sahlin (redactie), 1988, Decision, Probability and Utility, Cambridge: Cambridge University Press, 313-334.
Gilboa, Itzhak en David Schmeidler, 1989, "Maxmin verwacht nut met niet-unieke prioriteit", Journal of Mathematical Economics, 18: 141–153.
Goed, IJ, 1967, "On the Principle of Total Evidence", British Journal for the Philosophy of Science, 17: 319–321.
Guala, Francesco, 2006, "Is de speltheorie weerlegd?", Journal of Philosophy, 103: 239–263.
–––, 2008, “Paradigmatic Experiments: The Ultimatum Game from Testing to Measurement Device”, Philosophy of Science, 75: 658–669.
Gustafsson, Johan E., 2010, "A Money-Pump for Acyclic Intransitive Preferences", Dialectica, 64: 251–257.
–––, 2013, “The Irrelevance of the Diachronic Money-Pump Argument for Acyclicity”, The Journal of Philosophy, 110: 460–464.
Hájek, Alan en Philip Pettit, 2004, 'Desire Beyond Belief', Australasian Journal of Philosophy, 82: 77–92.
Halpern, Joseph Y., 2003, Reasoning About Uncertainty, Cambridge, MA: MIT Press.
Hammond, Peter J., 1976, 'Changing Tastes and Coherent Dynamic Choice', The Review of Economic Studies, 43: 159–173.
–––, 1977, “Dynamic Restrictions on Metastatic Choice”, Economica 44: 337–350.
–––, 1988a, “Orderly Decision Theory: A Comment on Professor Seidenfeld”, Economics and Philosophy, 4: 292–297.
–––, 1988b, “Consequentialism and the Independence Axiom”, in Risk, Decision and Rationality, BR Munier (red.), Dordrecht: D. Reidel.
–––, 1988c, “Consequentialist Foundations for Expected Utility Theory”, Theory and Decision, 25: 25–78.
Hausman, Daniel M., 2011, 'Fouten over voorkeuren in de sociale wetenschappen', Filosofie van de sociale wetenschappen, 41: 3–25.
Heap, Shaun Hargreaves, Martin Hollis, Bruce Lyons, Robert Sugden en Albert Weale, 1992, The Theory of Choice: A Critical Introduction, Oxford: Blackwell Publishers.
Hill, Brian, 2013, "Confidence and Decision", Games and Economic Behavior, 82: 675–692.
Jackson, Frank en Michael Smith, 2006, 'Absolutist Moral Theories and Uncertainty', The Journal of Philosophy, 103: 267–283.
Jeffrey, Richard C., 1965, The Logic of Decision, New York: McGraw-Hill.
–––, 1974, "Voorkeuren tussen voorkeuren", The Journal of Philosophy, 71: 377–391.
–––, 1983, "Bayesianism With a Human Face", in Testing Scientific Theories, John Earman (red.), Minneapolis: University of Minnesota Press, pp 133–156.
Joyce, James M., 1998, "A Non-Pragmatic Rechtvaardiging van probabilisme", Wetenschapsfilosofie 65: 575–603.
–––, 1999, The Foundations of Causal Decision Theory, New York: Cambridge University Press.
–––, 2002, “Levi over causale besluitvormingstheorie en de mogelijkheid om eigen acties te voorspellen”, Philosophical Studies, 110: 69–102.
–––, 2010, “A Defense of Imprecise Credences in Inference and Decision Making”, Philosophical Perspectives, 24: 281–323.
Kadane, Joseph B., Mark J. Schervish en Teddy Seidenfeld, 2008, "Is Ignorance Bliss?", The Journal of Philosophy, 105: 5–36.
Keeney, Ralph L. en Howard Raiffa, 1993, Besluiten met meerdere doelstellingen: voorkeuren en waarde-afwegingen, Cambridge: Cambridge University Press.
Klibanoff, Peter, Massimo Marinacci en Sujoy Mukerji, 2005, 'A Smooth Model of Decision Making Under Ambiguity', Econometrica, 73: 1849–1892.
Knight, Frank, 1921, Risk, Uncertainty, and Profit, Boston, MA: Houghton Mifflin Company.
Kreps, David M., 1988, Notes on the Theory of Choice, Boulder, Colorado: Westview Press.
Levi, Isaac, 1986, Harde keuzes: besluitvorming onder onopgeloste conflicten, Cambridge: Cambridge University Press.
–––, 1991, “Consequentialism and Sequential Choice”, in Foundations of Decision Theory, M. Bacharach en S. Hurley (red.), Oxford: Basil Blackwell, blz. 70–101.
Lewis, David, 1988, "Desire as Belief", Mind, 97: 323–332.
–––, 1996, “Desire as Belief II”, Mind, 105: 303–313.
Loomes, Graham en Robert Sugden, 1982, “Regret Theory: An Alternative Theory of Rational Choice Under Uncertainty”, The Economic Journal, 92: 805–824.
Machina, Mark J., 1989, "Dynamische consistentie en niet-verwachte gebruiksmodellen naar keuze onder onzekerheid", Journal of Economic Literature, 27: 1622–1668.
Maher, Patrick, 1992, 'Diachronic Rationality', Philosophy of Science, 59: 120–141.
Mandler, Michael, 2001, "Een moeilijke keuze in voorkeurstheorie: rationaliteit impliceert volledigheid of transitiviteit maar niet beide", in Variety of Practical Reasoning, Elijah Millgram (red.), Cambridge, MA: MIT Press, pp. 373–402.
McClennen, Edward F., 1988, "Ordening en onafhankelijkheid: een commentaar op professor Seidenfeld", Economie en filosofie, 4: 298–308.
–––, 1990, Rationaliteit en dynamische keuze: fundamentele verkenningen. Cambridge: Cambridge University Press.
Peterson, Martin, 2009, An Introduction to Decision Theory, Cambridge: Cambridge University Press.
Pettit, Philip, 1993, "Decision Theory and Folk Psychology", in Foundations of Decision Theory: Issues and Advances, Michael Bacharach en Susan Hurley (red.), Oxford: Blackwell, pp. 147–175.
Rabinowicz, Wlodek, 1995, 'Cake eten en ook eten: opeenvolgende keuze en verwachte schendingen van het nut', Journal of Philosophy, 92: 586–620.
–––, 2000, "Voorkeurstabiliteit en vervanging van indifferenten: een repliek naar Seidenfeld", Theorie en besluit, 48: 311–318.
–––, 2002: “Verdringt praktische beraadslaging zelfvoorspelling?”, Erkenntnis, 57: 91–122.
Ramsey, Frank P., 1926/1931, "Truth and Probability", in The Foundations of Mathematics and other Logical Essays, RB Braithwaite (ed.), London: Kegan, Paul, Trench, Trubner & Co., pp. 156– 198.
–––, 1990, "Weight of the Value of Knowledge", British Journal for the Philosophy of Science, 41: 1–4.
Resnik, Michael D., 1987, Choices: An Introduction to Decision Theory, Minneapolis: University of Minnesota Press.
Savage, Leonard J., 1954, The Foundations of Statistics, New York: John Wiley and Sons.
Schervish, Mark J., Teddy Seidenfeld, Joseph B. Kadane, en Isaac Levi, 2003, "Extensions of Expected Utility Theory and Some Beperkingen of Pairwise Comparisons", Proceedings of the Third ISIPTA (JM), 496–510.
Seidenfeld, Teddy, 1988a, 'Beslissingstheorie zonder' onafhankelijkheid 'of zonder' ordening ', economie en filosofie, 4: 309–315.
–––, 1988b, “Rejoinder [to Hammond and McClennen]”, Economics and Philosophy, 4: 309–315.
–––, 1994, “Wanneer normale en uitgebreide vormbeslissingen verschillen”, Logica, methodologie en wetenschapsfilosofie, IX: 451–463.
–––, 2000a, “Vervanging van onverschillige opties bij keuzeknooppunten en ontvankelijkheid: een antwoord op Rabinowicz”, Theorie en besluit, 48: 305–310.
–––, 2000b, “The Independence Postulate, Hypothetic and Called-off Acts: A Further Reply to Rabinowicz”, Theory and Decision, 48: 319–322.
Sen, Amartya, 1973, 'Gedrag en het concept van voorkeur', Economica, 40: 241–259.
–––, 1977, “Rational Fools: A Critique of the Behavioral Foundations of Economic Theory”, Philosophy and Public Affairs, 6: 317–344.
Skyrms, Brian, 1993, "A Mistake in Dynamic Coherence Arguments?", Wetenschapsfilosofie, 60: 320–328.
Stalnaker, Robert C., 1987, Onderzoek, Cambridge, MA: MIT Press.
Steele, Katie S., 2010, "Wat zijn de minimale vereisten van rationele keuze?: Argumenten uit de sequentiële besluitvorming", Theorie en beslissing, 68: 463–487.
Stefánsson, H. Orri, 2014, "Verlangens, overtuigingen en voorwaardelijke wenselijkheid", Synthese, 191: 4019–4035.
Suppes, Patrick, 2002, Representation and Invariance of Scientific Structures, Stanford, CA: CSLI Publications.
Temkin, Larry, 2012, Rethinking the Good: Moral Ideals and the Nature of Practical Reasoning, Oxford: Oxford University Press.
Tversky, Amos, 1975, "A Critique of Expected Utility Theory: Descriptive and Normative Considerations", Erkenntnis, 9: 163–173.
Villegas, C., 1964, "On Qualitative Probability (sigma) - Algebras", Annals of Mathematical Statistics, 35: 1787–1796.
von Neumann, John en Oskar Morgenstern, 1944, Theory of Games and Economic Behavior, Princeton: Princeton University Press.
Walley, Peter, 1991, Statistisch redeneren met onnauwkeurige kansen, New York: Chapman en Hall.
Zynda, Lyle, 2000, 'Representatiestellingen en realisme over graden van geloof', Wetenschapsfilosofie, 67: 45–69.

Academische hulpmiddelen

sep man pictogram	Hoe deze vermelding te citeren.
sep man pictogram	Bekijk een voorbeeld van de PDF-versie van dit item bij de Vrienden van de SEP Society.
inpho icoon	Zoek dit itemonderwerp op bij het Internet Philosophy Ontology Project (InPhO).
phil papieren pictogram	Verbeterde bibliografie voor dit item op PhilPapers, met links naar de database.