Fri vilja. Igen.

Sitter och tänker på fri vilja, determinism, kompatibilism, moraliskt klander och juridiskt ansvar. (Både Dennett och Sapolsky har ju argumenterat för olika perspektiv den senaste tiden.)

Normalt är jag icke-kompatibilist. Jag gillar det argument jag hittade i en bok av två tyska filosofer för flera år sedan:

”Antingen är världen deterministisk och då finns ingen fri vilja, eftersom allt du gör avgörs av bakomliggande faktorer bortom din kontroll. Eller så är världen icke-deterministisk och då har du ingen ”fri” vilja eftersom de handlingar du gör är *oberoende* av bakomliggande faktorer - vilket innebär att de är slumpmässiga och att du inte kan ta åt dig äran av processen som ledde fram till dem.”

Välvilligt kan man säga att Sapolskys bok resonerar i linje med detta.

Och Dennetts kompatibilism uppfattar jag normalt som lite ad hoc, motivated reasoning. Typiskt de där försökspersonerna som får mer pengar i Monopol och efteråt säger sig vara värda segern på grund av egna insatser.

För mig är det viktigt att ta avstånd från retributiv rättvisa och från vulgära varianter av meritokrati. Som en anständig vänster.

Därför har jag länge även av ideologiska skäl varit allergisk mot resonemang av typen ”bara ta dig i kragen”, ”grit” m.fl.

Och det är uppenbart för mig att människor är produkter av konstitutiv, miljömässig och situationell ”tur” och därför inte kan eller bör vara föremål för moraliskt klander.

Jag är förstås plågsamt medveten om att det svårligen går att leva upp till dessa satser - vare sig psykologiskt eller sociologiskt.

Nåväl, jag tror att jag drabbades av ett litet genombrott nyss. Jag läser Sapolsky och känner att hans encyklopediska redogörelse för alla omedvetna influenser som genererar våra beteenden räcker långt som ammunition för en uppgörelse med många förlegade synsätt och samhällsinstitutioner - men inte riktigt hela vägen för att överbrygga klyftan mellan empiri och filosofi…

Dennett sa en sak i Michael Schermers podd nyligen som fastnade och som jag minns ungefär så här:

Människor har olika grader av fri vilja, i olika situationer och vid olika tidpunkter. Om man har *tur* (är ”frisk”, ”vid sunda vätskor”, etc.) så är man i stånd att (i en viss situation) överblicka och utvärdera olika handlingsalternativ och välja ett lämpligt sådant (som inte bryter mot lagar, normer och överenskommelser; som minimerar negativa konsekvenser). Framförallt är man i stånd att *välja bort* alternativ som gynnar en själv men som av olika anledningar har negativa konsekvenser för andra (samhället, sig själv).

Denna förmåga är vad jag tidigare kallat för ”programmerbarhet”. Det är mitt sätt att balansera mellan förlamande, relativistisk determinism och flummig kompatibilism. Om du har förmågan att lära dig vad som gäller och om du visar att ditt beteende kan påverkas av piskor och morötter - ja, då kan du ”programmeras” att bete dig gynnsamt och förutsägbart och är därmed att lita på.

När Dennett sa ”tur” (om han nu gjorde det) så öppnade han vägen för en syntes. Ja, vi kan uppvisa förmågan till ”programmerbarhet” (vissa, ibland). Nej, vi kan inte berömmas för den tur som (tillfälligt) försätter oss i detta tillstånd.

Hur blir det då med juridiskt ansvar? Det är här jag tyckte att det ”klickade till” lite i skallen…

Rättssystemet försöker faktiskt operera enligt ovan: Filtrera ut dem som faktiskt är (var) programmerbara (men handlade lagvidrigt i eget intresse,  trots att de kunde gjort annorlunda, insåg konsekvenserna, och tog en chans) och straffa dem. Brottslingar som inte betraktas som helt ansvariga får mildare domar (brottsrubriceringar) och straff.

Varför ska de tursamma straffas? Inte för att lida retributiv skada, utan för att signalera till andra med turen att vara ”programmerbara” att de löper en stor risk att straffas själva om de begår brott och hävdar att de inte kunde gjort annat.

(Och eventuellt också för att skydda andra. Men det blir ju lite paradoxalt. Det är ju just de med tur - de som *kan* hållas ansvariga, de ”programmerbara” - som samhället *inte* behöver skyddas mot. Nej, straffet kan endast tjäna som ”omprogrammering”. Omvänt, bland dem som släpps fria p.g.a. förmildrande omständigheter finns de som samhället bör skydda sig från. Återigen utan klander.)

Det är ju det som är problemet, vilket blev tydligt när Schermer intervjuade Sapolsky:

”En professor åker på konferens. Han uppfyller Dennetts kriterier för moraliskt och juridiskt ansvar, är ”vid sunda vätskor”. Under tjugo års äktenskap har han aldrig varit otrogen, men denna kväll - under speciella omständigheter utanför hans kontroll - är han det. Han åker hem och berättar för sin fru, och tillägger  genast att det som skedde var determinerat, förutbestämt av faktorer bortom hans kontroll [och här följer ett utdrag ur en av Sam Harris böcker som poetiskt redogör för omöjligheten att ta ansvar för något]”

Schermer frågar ironiskt hur Sapolsky tror (tycker) att frun reagerar. För Schermer (och Dennett) är det uppenbart att hon kommer (och bör, ska) ge professorn en fet örfil. Men Sapolsky säger: ”Hon måste ta honom på orden.” Och that’s it!

Medan Schermer och Sapolsky pratar vidare är jag mest förvånad över att Schermer *inte* genast kontrar med: ”Jaha, men i så fall, vad hindrar mig - som mycket väl *är* i stånd att motstå frestelsen att bedra min fru (i ”samma”, motsvarande situation; även om det är aldrig så lockande) - från att både äta kakan och ha den kvar: Att vara otrogen och sedan hävda att jag inte kunde låta bli?

Det är för att förhindra människor med självkontroll att agera som om de bar Gyges ring som vi straffar människor som har, eller snarare *skulle kunna ha* självkontroll.

För om man nu *hade kunnat* hållas ansvarig - om man *kunde* gjort annorlunda, överblickade konsekvenserna, kände till regler, lagar och normer, kunde välja bort egenintresset, etc.… - varför *gjorde* man inte det då?

Det var inte av ”fri vilja”. Det determinerades av faktorer bortom ens kontroll. Ja, även uppkomsten av tanken ”Jag måste inte göra detta. Jag vet att det är fel. Jag skadar andra och jag kan låta bli. Men jag gör det ändå och låtsas sedan att jag inte kunde låta bli.” ligger ju utanför ens kontroll!

Alltså kan man *inte* hållas ansvarig.

Men kanske: Man bedöms vara i stånd att (om-)programmeras för att (åter) *uppnå* ett tillstånd av pålitlighet och förutsägbarhet.

Och sen har vi meta-nivån: Att yrka på ansvarshållande (och straff) - även om det sker på skakiga grunder och kanske framförallt om det sker i termer av moraliskt klander och klentroget avståndstagande - är i sig ett sätt att (omedvetet) signalera sin pålitlighet som allierad (inte nödvändigtvis som kontrollerad regelföljare, men som någon som åtminstone inte är otrogen mot *dig*).

Leave the World Behind

 Nu har jag sett ”Leave the World Behind”. Sämre än jag befarade. Onödigt dåligt manus, regi och skådespeleri. Fjantigt och pretentiöst filmad.

Julia Roberts är en plågsamt dålig skådis. Obegripligt att hon får jobb. Hon är urtypen för den talanglösa kändisen som lever endast på själva sitt kändisskap.

En film som borde kunnat bli så mycket bättre. Faktum är att goda grundidéer lyser igenom, trots all stolpighet.

Musiken och ljudeffekterna får bära ett alldeles för tungt lass. Om musiken inte hade varit så överdrivet dramatisk och tagit så stor plats så hade många scener framstått som ännu mer pinsamma och tunna på innehåll och kvalitet. 

Typiskt amerikanskt: att försöka göra något seriöst genom att imitera europeisk och skandinavisk film - i det här fallet von Triers ”Melancholia” - men misslyckas kapitalt genom att tondövt kopiera fel saker och missa allt som är viktigt. (Nu är inte ”Melancholia” särskilt bra heller, men trots att den är medvetet hallucinatorisk, metaforisk och tvetydig så är scenerna, dialogerna och karaktärerna i den så löjligt mycket mer och självklart rimliga, trovärdiga och övertygande.)

Tystnadskulturer och incitamentsstrukturer

 ”Olika slags ’tystnadskulturer’ har blivit vanligare i svensk förvaltning på ett sätt som hindrar tjänstemän och andra offentliganställda att genomföra sina uppdrag … Dynamiken känns igen. Först etableras ett antal normer i värdegrundsdokument, white papers, och styrdokument som motiveras av lovvärda motiv - såsom att öka integration, minska diskriminering och utanförskap. Därefter upprättas strukturer som ska utvärdera och följa upp efterlevnaden av de nya normstyrningsmålen som kan gå mycket långt vad gäller detaljstyrningen. Och i den processen, när HR-avdelningar, likavillkorsspecialister och olika slags normstyrningskontrollanter får omfattande makt och befogenheter så tycks det ge upphov till samma effekt. Det uppstår en rädsla för att göra fel, att kalla saker vid fel namn, att bryta mot uppställda normer så att tjänstemännen själva blir just den del av problemet som de så ofta slentrianmässigt antas vara. De som ska kontrollera efterlevnaden av nya principer och normer måste dessutom kunna visa varför de ska få behålla sina jobb. Sammantaget leder det till att viktiga incitamentsstrukturer förvrids och stoppar den som vill handla i enlighet med verksamheters egentliga huvudsyften. Och det blir inte bättre av att mycket hård normstyrning motiveras av antaganden om att ett diskriminerande tankesätt genomsyrar hela verksamheter. … Den som pekar ut ett problem riskerar själv att betraktas som en del av det. Då är det säkrast att vara tyst.”

— Widmalm & Persson (red.), Skör demokrati, s. 34-35

Bay Area house party

Scott Alexander: Bay Area House Party, part 5

”You spot someone you vaguely know, Nishin, and see that he’s started wearing a crucifix. You are briefly concerned that the figure on the Cross will be Sam Altman, but on closer inspection it (mercifully) appears to be the Christ.

“Hi Nishin,” you say. “You look different.” Specifically, he’s clean-shaven, and has covered up his arm tattoo.

“Yeah,” says Nishin. “I finally took the plunge and converted to Catholicism last month.”

“Why? When I knew you a few years ago you were a Dawkins-reading atheist.”

“Dawkins makes some good points,” says Nishin. “But I’ve been reading Ayaan Hirsi Ali, and I think I agree with her more pragmatic perspective. Religion isn’t about who created the world when. It’s about what kind of ethical and social commitments are necessary to run a flourishing society.”

“I don’t know if religion always leads to a flourishing society. Sometimes it can make things worse. Like, what about the Israel-Palestine conflict?”

“Oh, I don’t believe in that.”

“You don’t believe in the Israel-Palestine conflict?”

“Like I said, I’m a pragmatist now. If the Israel-Palestine conflict existed, it would be a strong argument against religion, and make lots of people become atheists. But religion is necessary to hold society together. So for the good of society, I choose not to believe in it.”

“I think you’re doing pragmatism wrong. That’s not how it’s supposed to work.”

“If I was doing pragmatism wrong, then I would have switch to doing it right. And by your supposition, then I would have to believe in the Israel-Palestine conflict. And that would make me less religious, which would be bad for society. So from a pragmatic point of view, I’m doing pragmatism exactly right, no matter what the philosophers say.”

“But - “ You grope for words, but realize you are unlikely to convince him on his own terms. You end up just sputtering in disbelief. “You - you can’t just deny the Israel-Palestine conflict! And there are religious aspects to almost every conflict! Are you going to deny the Ukraine war?”

“I deny the Ukraine war”, says a woman sitting next to you, who introduces herself as Irina.

“How can you deny it? You can just watch the news! Or go to Kiev!”

“I live in Kiev,” says Irina.”

—

”You head into the kitchen and take a potato chip from the bowl. It’s completely tasteless. You almost spit it out in surprise.

“What is this?” you ask Hans and Jonathan, the caterers. “Is this another one of your weird food startup schemes?”

“Well we were thinking . . . “ says Hans.

“People say that modern food is addictive,” interrupts Jonathan. “But it really isn’t. It’s shocking how little work people put into optimizing the addictiveness of food. Like, the one thing you learn in every Intro Psychology class . . . “

“ . . . is that intermittent reward is the most addictive reinforcement schedule,” interrupts Jonathan. “It’s what drives gacha games and slot machines. So we invented . . . . “

“ . . . the intermittent reinforcement potato chip!” concludes Hans. “Four out of every five are just plain potato slices. But the fifth has more salt and oil than any of the other leading brands.”

You take another potato chip. Tasteless again. Another. Still tasteless. A fourth. Your mouth explodes with a sudden shock of flavor, even stronger for its unexpectedness.

“So, you’re, like, trying to make even worse, more addictive food than everyone else? Isn’t that a little, you know, unethical?”

“On contraire!” says Jonathan. “A bag of these potato chips only has a fifth as much salt and oil as the normal brand. But they’re more addictive! You’ll replace those ones with ours, and cut your sodium and fat intake 80%!”

You do find yourself oddly driven to keep munching on the potato chips. Before you become a hopeless addict, you bid Hans and Jonathan good-bye.”

The social dilemma

Rausch and Haidt on social media reform

”What forces can possibly incentivize or force Meta, TikTok, and the rest to make changes that would benefit adolescent mental health or the stability of and viability of liberal democracy? Market forces are not working because, as Tristan Harris and other experts explained in The Social Dilemma, social media has put us all into a social dilemma, also known as a collective action problem: it’s hard for anyone to quit as long as everyone else is on a platform. It’s hard for any parent to say no as long as a child says that “everyone else” in her class is on Instagram. But if we could all coordinate, we could escape from the trap.

”The main tool that modern societies use to solve collective action problems—especially when children are being harmed—is the law. Laws set boundaries and minimum standards, creating a fair, safe, level playing field on which companies can innovate and compete. We simply don’t allow harmful products to be sold to minors. We don’t allow companies to expose children to danger, especially without the knowledge and consent of their parents.”

Må Gud förlåta min hybris

Scott Alexander: God Help Us, Let's Try To Understand AI Monosemanticity 

Må Gud förlåta min hybris, men vissa saker i den här texten uppfattar jag faktiskt som uppenbara. (Se den ironiska uppmaningen i slutet av texten.)

Samtidigt passar jag mig för att titta för noga på detaljerna. Då skulle jag snart bli förvirrad. Och kanske ljuger jag för mig själv, men nog finns det en trade-off mellan (förmågan till) översikt och noggrannhet?

En sak jag retar mig på är utgångspunkten ”en neuron per begrepp”. Det kan väl aldrig ha varit en gångbar hypotes, vare sig inom neuropsykologi eller maskinlärande? Tre neuroner kan ju anta minst 2^3 olika konfigurationer.

Att utöka resonemanget till antalet olika aktivationstillstånd per neuron kan väl inte heller vara särskilt revolutionerande? Även det borde väl rimligen vara standard sedan länge, i studiet av både biologiska och teknologiska neuronnät. (Ofta hör man ju att mänsklig intelligens inte kan förklaras utan att dessutom tillgripa kvantfluktuationer m.m. inom och mellan neuroner.)

Så, det där med ”virtuella” topografier är väl så gott som självklart.

Men, om man nu låter en större AI katalogisera en mindre AI:s virtuella topografi - varför förvänta sig att *denna* skulle följa regeln ”en virtuell neuron per begrepp”?

För att förstå ett system krävs ett mycket större system som kan observera det första utifrån (alternativt innefatta det.) Det är ett problem som leder till en oändlig regress. Varför låter det i texten som om detta *inte* är ett oöverstigligt problem med ansatsen?

Och slutligen, vilken blir nyttan med ”monosemanticitet”? Skulle det få en (avgörande) betydelse för förmågan att förutsäga, bedöma och kontrollera en modell? Som jag förstår det så kan det leda till mycket större förståelse men samtidigt skjuts de ursprungliga problemen bara ett steg längre bort.

Why not jump into the experience machine?

 Paul Bloom: Some thoughts on the experience machine

For me, it’s seems arbitrary to assume any “real” experiences at all, in the sense of (a) representing ground zero in an otherwise potentially endless regress, and (b) being imbued with some “extra” quality (authenticity) to be valued in itself.

The only reason I can see for preferring one “reality” (source of sensory input and output) over another is how the choice impacts other experiencers. I would like my choice to be compatible with as many positive experiences as possible, for as many experiencers as possible. I suspect one reason many people distrust the EM is that it is perceived as an egoistic and/or lonely choice.

But as Chalmers argues in “Reality+” it could, at least in principle, be the more altruistic and sociable choice.

Vi kan inte vilja vad vi vill

Och DÄR, på sidorna 42-44, kommer Sapolskys käftsmäll på Dennett. ”Det här är enda gången jag medvetet gör ett personangrepp.”

Sapolsky har valt ut några citat som karaktäriserar Dennetts skrivande om fri vilja under många år, bl.a. detta:

”a good runner who starts at the back of the pack, if he is really good enough to DESERVE winning, will probably have plenty of opportunity to overcome the initial disadvantage”

- vilket Sapolsky kommenterar sålunda:

”This is one step above believing that God invented poverty to punish sinners.”

—

Efter att nyss ha läst Dennetts självbiografi associerar jag direkt till en för mig tidigare oanad aristokratisk hållning hos honom. Mannen har levt ett extraordinärt och synnerligen välsignat liv. Efter att klädsamt ha konstaterat att han förstås haft en hel del tur på vägen så är han emellertid (just därför) genomgående mycket noga med att berömma sig själv över sina bedrifter.

Jag har alltid tyckt att Dennetts kompatibilism är märkligt inkongruent med hans övriga tankar. Han har utropat sig själv till ”captain of the A-team” och jag har i drygt trettio år nu stolt räknat mig som medlem i detta. Dualism är en styggelse; medvetande och subjektivitet är inte vad vi tror; syften och mål är externa beskrivningar, inte interna tillstånd som kräver någon särskild förklaring; mänsklig kognition förklaras med samma krafter som allt annat (evolution) och ligger på samma kontinuum som de enklaste organismerna.

Men på senare år har jag också tyckt att det smugit sig in ett spöklikt glapp mellan hans ”popperska” och ”gregorianska” varelser.

I backspegeln associerar jag nu till Kant och hans potentiellt universella men ledsamt ofullgångna deontologi - baserad på vad jag vill kalla ”epistemisk nödvändighet” men beskuren av politisk nödvändighet: I praktiken är det bäst att göra som överheten säger.

—

För övrigt levererar Sapolsky (hittills) exakt vad jag trodde och ville. Nej, hårklyverier om hur och huruvida medvetna beslut kan fattas eller inhiberas är inte relevanta - *vi kan inte vilja vad vi vill*. En relativt självklar grej som fortfarande genererar en massiv förnekelseindustri, à la tobaks- och fossilbolag i maskopi med bekväma och opportunistiska politiker och medborgare.

Breaking the Spell

Dennett om religion. Ur hans nya självbiografi, ”I’ve Been Thinking” (s. 296-297) om hans bok ”Breaking the Spell”.

Religion was born … out of the chance juxtaposition of two important human adaptations with genetic bases: our agent-alarm systems and language. When something startles us, we tend to go into a state of heightened alert, and the question that naturally arises in our anxiety is not “What’s that?” but “Who’s there?” Is some predator or enemy approaching me? Maybe it’s just a dead branch falling in the woods … but just in case, I should be on the lookout for an animate being who is taking an interest in me for one reason or another. This “orientation response” is a common instinct in vertebrates, well investigated in many species; in our species alone, it sets off a churning group inquiry - that’s where language and information-sharing come in - that creates, in every human community ever studied, a menagerie of elusive ghosts … and other creatures of superstition. Only the most vivid and unforgettable fantasies survive in the evolutionary process that ensues. This is protoreligion, populated by synanthropic memes, which evolve to thrive in human company, just the way … barn swallows … do. Over time, some of these synanthropic species become domesticated. This happens .. when we human beings gain some control over their reproduction. These domesticated fantasies can then become our political beasts of burden, harnessed to control populations, keep the peace, and create loyalties that can survive great temptations. Organized religions, then, are the culturally evolved systems of memes that arose naturally out of our innate vigilance and sociality … and we are now in a position to reverse engineer them. With scientific understanding, we have some hope of cleaning them up … Constructive critics of religion have been trying to do this for centuries … but their efforts have been hampered by one of the key adaptions of religion: the taboo against looking too closely at how religions work and why. That is the spell that needs breaking if we are to avoid making terrible mistakes in the near future.