Bay Area house party

Scott Alexander: Bay Area House Party, part 5

”You spot someone you vaguely know, Nishin, and see that he’s started wearing a crucifix. You are briefly concerned that the figure on the Cross will be Sam Altman, but on closer inspection it (mercifully) appears to be the Christ.

“Hi Nishin,” you say. “You look different.” Specifically, he’s clean-shaven, and has covered up his arm tattoo.

“Yeah,” says Nishin. “I finally took the plunge and converted to Catholicism last month.”

“Why? When I knew you a few years ago you were a Dawkins-reading atheist.”

“Dawkins makes some good points,” says Nishin. “But I’ve been reading Ayaan Hirsi Ali, and I think I agree with her more pragmatic perspective. Religion isn’t about who created the world when. It’s about what kind of ethical and social commitments are necessary to run a flourishing society.”

“I don’t know if religion always leads to a flourishing society. Sometimes it can make things worse. Like, what about the Israel-Palestine conflict?”

“Oh, I don’t believe in that.”

“You don’t believe in the Israel-Palestine conflict?”

“Like I said, I’m a pragmatist now. If the Israel-Palestine conflict existed, it would be a strong argument against religion, and make lots of people become atheists. But religion is necessary to hold society together. So for the good of society, I choose not to believe in it.”

“I think you’re doing pragmatism wrong. That’s not how it’s supposed to work.”

“If I was doing pragmatism wrong, then I would have switch to doing it right. And by your supposition, then I would have to believe in the Israel-Palestine conflict. And that would make me less religious, which would be bad for society. So from a pragmatic point of view, I’m doing pragmatism exactly right, no matter what the philosophers say.”

“But - “ You grope for words, but realize you are unlikely to convince him on his own terms. You end up just sputtering in disbelief. “You - you can’t just deny the Israel-Palestine conflict! And there are religious aspects to almost every conflict! Are you going to deny the Ukraine war?”

“I deny the Ukraine war”, says a woman sitting next to you, who introduces herself as Irina.

“How can you deny it? You can just watch the news! Or go to Kiev!”

“I live in Kiev,” says Irina.”

—

”You head into the kitchen and take a potato chip from the bowl. It’s completely tasteless. You almost spit it out in surprise.

“What is this?” you ask Hans and Jonathan, the caterers. “Is this another one of your weird food startup schemes?”

“Well we were thinking . . . “ says Hans.

“People say that modern food is addictive,” interrupts Jonathan. “But it really isn’t. It’s shocking how little work people put into optimizing the addictiveness of food. Like, the one thing you learn in every Intro Psychology class . . . “

“ . . . is that intermittent reward is the most addictive reinforcement schedule,” interrupts Jonathan. “It’s what drives gacha games and slot machines. So we invented . . . . “

“ . . . the intermittent reinforcement potato chip!” concludes Hans. “Four out of every five are just plain potato slices. But the fifth has more salt and oil than any of the other leading brands.”

You take another potato chip. Tasteless again. Another. Still tasteless. A fourth. Your mouth explodes with a sudden shock of flavor, even stronger for its unexpectedness.

“So, you’re, like, trying to make even worse, more addictive food than everyone else? Isn’t that a little, you know, unethical?”

“On contraire!” says Jonathan. “A bag of these potato chips only has a fifth as much salt and oil as the normal brand. But they’re more addictive! You’ll replace those ones with ours, and cut your sodium and fat intake 80%!”

You do find yourself oddly driven to keep munching on the potato chips. Before you become a hopeless addict, you bid Hans and Jonathan good-bye.”

The social dilemma

Rausch and Haidt on social media reform

”What forces can possibly incentivize or force Meta, TikTok, and the rest to make changes that would benefit adolescent mental health or the stability of and viability of liberal democracy? Market forces are not working because, as Tristan Harris and other experts explained in The Social Dilemma, social media has put us all into a social dilemma, also known as a collective action problem: it’s hard for anyone to quit as long as everyone else is on a platform. It’s hard for any parent to say no as long as a child says that “everyone else” in her class is on Instagram. But if we could all coordinate, we could escape from the trap.

”The main tool that modern societies use to solve collective action problems—especially when children are being harmed—is the law. Laws set boundaries and minimum standards, creating a fair, safe, level playing field on which companies can innovate and compete. We simply don’t allow harmful products to be sold to minors. We don’t allow companies to expose children to danger, especially without the knowledge and consent of their parents.”

Må Gud förlåta min hybris

Scott Alexander: God Help Us, Let's Try To Understand AI Monosemanticity 

Må Gud förlåta min hybris, men vissa saker i den här texten uppfattar jag faktiskt som uppenbara. (Se den ironiska uppmaningen i slutet av texten.)

Samtidigt passar jag mig för att titta för noga på detaljerna. Då skulle jag snart bli förvirrad. Och kanske ljuger jag för mig själv, men nog finns det en trade-off mellan (förmågan till) översikt och noggrannhet?

En sak jag retar mig på är utgångspunkten ”en neuron per begrepp”. Det kan väl aldrig ha varit en gångbar hypotes, vare sig inom neuropsykologi eller maskinlärande? Tre neuroner kan ju anta minst 2^3 olika konfigurationer.

Att utöka resonemanget till antalet olika aktivationstillstånd per neuron kan väl inte heller vara särskilt revolutionerande? Även det borde väl rimligen vara standard sedan länge, i studiet av både biologiska och teknologiska neuronnät. (Ofta hör man ju att mänsklig intelligens inte kan förklaras utan att dessutom tillgripa kvantfluktuationer m.m. inom och mellan neuroner.)

Så, det där med ”virtuella” topografier är väl så gott som självklart.

Men, om man nu låter en större AI katalogisera en mindre AI:s virtuella topografi - varför förvänta sig att *denna* skulle följa regeln ”en virtuell neuron per begrepp”?

För att förstå ett system krävs ett mycket större system som kan observera det första utifrån (alternativt innefatta det.) Det är ett problem som leder till en oändlig regress. Varför låter det i texten som om detta *inte* är ett oöverstigligt problem med ansatsen?

Och slutligen, vilken blir nyttan med ”monosemanticitet”? Skulle det få en (avgörande) betydelse för förmågan att förutsäga, bedöma och kontrollera en modell? Som jag förstår det så kan det leda till mycket större förståelse men samtidigt skjuts de ursprungliga problemen bara ett steg längre bort.

Why not jump into the experience machine?

 Paul Bloom: Some thoughts on the experience machine

For me, it’s seems arbitrary to assume any “real” experiences at all, in the sense of (a) representing ground zero in an otherwise potentially endless regress, and (b) being imbued with some “extra” quality (authenticity) to be valued in itself.

The only reason I can see for preferring one “reality” (source of sensory input and output) over another is how the choice impacts other experiencers. I would like my choice to be compatible with as many positive experiences as possible, for as many experiencers as possible. I suspect one reason many people distrust the EM is that it is perceived as an egoistic and/or lonely choice.

But as Chalmers argues in “Reality+” it could, at least in principle, be the more altruistic and sociable choice.

Vi kan inte vilja vad vi vill

Och DÄR, på sidorna 42-44, kommer Sapolskys käftsmäll på Dennett. ”Det här är enda gången jag medvetet gör ett personangrepp.”

Sapolsky har valt ut några citat som karaktäriserar Dennetts skrivande om fri vilja under många år, bl.a. detta:

”a good runner who starts at the back of the pack, if he is really good enough to DESERVE winning, will probably have plenty of opportunity to overcome the initial disadvantage”

- vilket Sapolsky kommenterar sålunda:

”This is one step above believing that God invented poverty to punish sinners.”

—

Efter att nyss ha läst Dennetts självbiografi associerar jag direkt till en för mig tidigare oanad aristokratisk hållning hos honom. Mannen har levt ett extraordinärt och synnerligen välsignat liv. Efter att klädsamt ha konstaterat att han förstås haft en hel del tur på vägen så är han emellertid (just därför) genomgående mycket noga med att berömma sig själv över sina bedrifter.

Jag har alltid tyckt att Dennetts kompatibilism är märkligt inkongruent med hans övriga tankar. Han har utropat sig själv till ”captain of the A-team” och jag har i drygt trettio år nu stolt räknat mig som medlem i detta. Dualism är en styggelse; medvetande och subjektivitet är inte vad vi tror; syften och mål är externa beskrivningar, inte interna tillstånd som kräver någon särskild förklaring; mänsklig kognition förklaras med samma krafter som allt annat (evolution) och ligger på samma kontinuum som de enklaste organismerna.

Men på senare år har jag också tyckt att det smugit sig in ett spöklikt glapp mellan hans ”popperska” och ”gregorianska” varelser.

I backspegeln associerar jag nu till Kant och hans potentiellt universella men ledsamt ofullgångna deontologi - baserad på vad jag vill kalla ”epistemisk nödvändighet” men beskuren av politisk nödvändighet: I praktiken är det bäst att göra som överheten säger.

—

För övrigt levererar Sapolsky (hittills) exakt vad jag trodde och ville. Nej, hårklyverier om hur och huruvida medvetna beslut kan fattas eller inhiberas är inte relevanta - *vi kan inte vilja vad vi vill*. En relativt självklar grej som fortfarande genererar en massiv förnekelseindustri, à la tobaks- och fossilbolag i maskopi med bekväma och opportunistiska politiker och medborgare.

Breaking the Spell

Dennett om religion. Ur hans nya självbiografi, ”I’ve Been Thinking” (s. 296-297) om hans bok ”Breaking the Spell”.

Religion was born … out of the chance juxtaposition of two important human adaptations with genetic bases: our agent-alarm systems and language. When something startles us, we tend to go into a state of heightened alert, and the question that naturally arises in our anxiety is not “What’s that?” but “Who’s there?” Is some predator or enemy approaching me? Maybe it’s just a dead branch falling in the woods … but just in case, I should be on the lookout for an animate being who is taking an interest in me for one reason or another. This “orientation response” is a common instinct in vertebrates, well investigated in many species; in our species alone, it sets off a churning group inquiry - that’s where language and information-sharing come in - that creates, in every human community ever studied, a menagerie of elusive ghosts … and other creatures of superstition. Only the most vivid and unforgettable fantasies survive in the evolutionary process that ensues. This is protoreligion, populated by synanthropic memes, which evolve to thrive in human company, just the way … barn swallows … do. Over time, some of these synanthropic species become domesticated. This happens .. when we human beings gain some control over their reproduction. These domesticated fantasies can then become our political beasts of burden, harnessed to control populations, keep the peace, and create loyalties that can survive great temptations. Organized religions, then, are the culturally evolved systems of memes that arose naturally out of our innate vigilance and sociality … and we are now in a position to reverse engineer them. With scientific understanding, we have some hope of cleaning them up … Constructive critics of religion have been trying to do this for centuries … but their efforts have been hampered by one of the key adaptions of religion: the taboo against looking too closely at how religions work and why. That is the spell that needs breaking if we are to avoid making terrible mistakes in the near future.

Rekviem

En inte särskilt originell memetisk analys av rekviet, med anledning av allhelgonahelgen: 

Klassisk psykopatisk hjärntvätt.

Jaså, du är ledsen över att en närstående har dött? Du mår dåligt? Det gör riktigt ont? Bra! Det ska det göra. Det ska svida som fan. Det är ett lidande du sannerligen har förtjänat. Du har varit stygg, och din ånger är ett meningslöst hyckleri. Du är ond, helt igenom. Förtappad. Avskyvärd. Du har inte ens förstånd att inse din egen uselhet, än mindre en genuin vilja att konfrontera den.

Så du ska lida. För allt du gjort, för din härkomst och existens. För allt du är och för allt du kommer att göra. För dina usla ätteläggars framtida synder, avlade ur din synd, din obotliga synd.

Är du ledsen? Såja. Kom till pappa.

Vet du, om du är riktigt snäll så ska jag lindra dina samvetskval lite. Så att du kan vila en liten stund.

Du är inte den enda syndaren. Om du kryper för mig riktigt duktigt så vänder jag min vrede mot någon annan ett tag, och du får njuta av att en frände tillfälligt lider mer än du; att du tillfälligt kan räkna dig till den rättfärdige straffandes sida - inte de straffades.

Lite lugnare? Vet du, om du är riktigt, riktigt duktig så kanske jag berättar en historia om hur det här inte är ditt fel - och får dig att nästan tro på den.

Får dig att tro att du kan mildra min vrede och dina egna kval. En liten stund.

Att du kan göra detta som medlem av en utvald, välsignad skara.

Att ni gemensamt kan transformera er lättsinnighet till dygd.

Utan att förstå att ni samtidigt återuppbygger er hybris.

För vilken jag ska straffa er igen.

—

Orden kom till mig när jag lyssnade till P2:s rekviem-special nyss. En professor från Uppsala (förstås) sa något om hur protestanter velat mjuka upp mässan lite, med lite mindre fokus på domedag och lite mer på frälsning. En annan expert sa att flera kompositörer med erfarenhet av begravningar dragit sig för att inkludera ett Dies Irae eftersom de sett hur illa berörda de sörjande blev.

Förresten: Jag kom just ihåg att jag igår avslutade en serie på Netflix om en man som låste in och hjärntvättade sin ”familj”, där frun/mamman regelbundet dödades och byttes ut. Barnen var helt på pappans sida..

Relationellt förhållningssätt?

Några kommentarer till utbildningsförvaltningens förtydligande film med anledning av en inbjuden forskares föreläsning om kopplingar mellan elevers hälsa, mående och studieresultat.

1. Samtliga studier som diskuteras påvisar samvariationer - inte orsakssamband.

2. Ord som ’riskfaktor’, ’skyddsfaktor’, ’påverkar’ m.fl. används för att få det att låta som om studierna påvisade just orsakssamband.

3. För att kunna urskilja eventuella orsakssamband (t.ex. att ’goda relationer’ orsakar ’goda studieresultat’) måste experiment genomföras. De studier som redovisas är inte experiment, utan observationsstudier.

4. Sådana experiment är mycket svåra att genomföra på ett sätt som ger tydliga, tillförlitliga och generaliserbara resultat.

5. De historiskt bästa internationella försöken att genomföra sådana experiment visar inga eller mycket svaga orsakssamband mellan alla de olika faktorer som ofta förekommer i pedagogiska diskussioner.

6. Vad som däremot visar sig mycket tydligt är den så kallade Matteuseffekten: Vissa individer har i livets lotteri fått både gynnsamma gener och en gynnsam uppväxtmiljö. För dessa individer är allting lätt, och allting går bra. De mår bra och de presterar bra.

7. När ’forskning’ och ’avancerad statistik’ visar mer eller mindre tydliga samvariationer mellan faktorer som ’mående’ och ’studieresultat’ så beror dessa på en eller flera bakomliggande orsaker - inte på att den ena faktorn ’påverkar’ den andra.

8. Trots detta kan det låta rimligt, eller önskvärt, att t.ex. ’lärarens goda relationella kompetens’ skulle kunna utöva en märkbar och långsiktig påverkan på elevernas ’måluppfyllelse’.

9. Men så är det alltså inte. (Förutom i extrema fall, vilka är sällsynta och därför inte relevanta, men som ofta används - outtalat - för att motivera ”utvecklingsarbetet”,  eller t.o.m. som underförstådda hot: ”Om du visar skepsis till det här initiativet har du nog en dålig relationell kompetens, en oprofessionell attityd och en negativ elevsyn”.)

10. Oavsett om man studerar samvariationer eller orsakssamband så är det mycket viktigt att klargöra exakt vad man mäter. Man måste noga operationalisera sina faktorer. Vad, exakt, innebär en lägre eller högre grad av ’relationell kompetens’? När, hur och var mäts den? Är det en individuell egenskap, densamma oavsett situation och motpart? Hur exakt kan den mätas? Exakt vilken skillnad gör den? Och å andra sidan, exakt vilka utfall fokuserar man på? Betyg? Mående (hur och när och hur ofta, exakt, mäts det?) O.s.v.

11. Låt säga att lärares ’relationella kompetens’ skulle ha haft en direkt och stor påverkan på elevers mående, studiemotivation, metakognition, strategier, mindset, o.s.v. - i slutänden konkret märkbart bl.a. i form av betyg (ett orsakssamband). Vad, konkret, skulle detta innebära i verksamheten?

12. Just lärare uppvisar, i allmänhet, så god ’relationell kompetens’ (såsom den nu definieras i de nya lokala riktlinjerna) som det är mänskligt möjligt att göra, givet relevanta situationer. Hur skulle den kunna höjas ytterligare? Vad, exakt, skulle en sådan höjning utgöras av och hur skulle den manifestera sig? Hur skulle den mätas? Och hur skulle dess påverkan i sin tur mätas? Med nöjdhetsenkäter? Med betyg?

13. Angående ’mindset’, vilket just nu kallas ’mastery goals’ respektive ’performance goals’ (bl.a. för att de senaste tio årens prat om ’growth mindset’ respektive ’fixed mindset’ har visat sig oanvändbart). Dessa begrepp går tillbaka på intern respektive extern motivation. Är det något som psykologisk forskning har visat någorlunda tydligt, om och om igen, så är det (a) människor skiljer sig åt i graden av intern motivation, och (b) detta ’mindset’ är mycket svårt att förändra.

14. Trots detta dyker liknande begrepp upp med jämna mellanrum under nya namn, inte minst inom pedagogik. Man letar efter, och utlovar, den heliga graal som ger kraft att påverka mående, kunskaper, studieresultat, betyg etc. - oavsett förutsättningar.

15. Graalen finns inte. Men det är så lockande att tro det, och så lönsamt att låtsas.

16. Goodharts lag är namnet på det faktum att så fort något mätvärde görs till en proxy för att kunna mäta något man egentligen vill uppnå (men som är svårt att mäta direkt), så upphör denna proxy att vara en lämplig sådan.

17. Ett konkret (förenklat) exempel: Betyg fungerar som en proxy för att mäta kunskaper - det vi egentligen vill uppnå. Tanken är att elever ska kämpa för att lära sig så mycket som möjligt, bl.a. av den externa motivationen att om de uppvisar goda kunskaper så får de höga betyg (vilka sedan kan användas för att skaffa ett bra jobb och tjäna mycket pengar, t.ex.)

18. Ja, ett tråkigt faktum är att de flesta oftast gör det mesta av just extern motivation. Att organisera ett samhälle utifrån ett förnekande av detta slutar inte väl.

19. Framförallt i en marknadsutsatt skola (vilken även högerorienterade ekonomer samfällt avråder ifrån) kommer proxyn betyg snart att ”kortslutas”. Varför göra sig så stort besvär med att förmedla, anskaffa och bedöma kunskaper när det i slutänden är proxyn - betygen - som mäts och premieras? Nej, det rationella är att helt enkelt höja betygen, snarare än kunskaperna.

20. I en marknadsutsatt, kommunaliserad skola har ingen skola eller kommun råd eller incitament att göra det den egentligen är till för: att bygga kunskap och att sedan mäta denna kunskap.

21. Däremot leder ett flertal så kallade ’perversa incitament’ till en alltmer utstuderad och påkostad kringverksamhet som har mycket lite att göra med kärnuppdraget - men desto mer med att visa upp en yta och att tävla mot andra skolor och kommuner.

22. Detta ger bl.a. upphov till betygsinflation och till ett ”kundperspektiv” där det inte längre är eleven (och vårdnadshavarna) som frågar skolan: ”Hur goda kunskaper har jag visat?” utan skolan som frågar eleven (och vårdnadshavarna): ”Hur nöjd är du med ditt betyg?” och i förlängningen: ”Hur behaglig har din vistelse hos oss varit?”. Detta sker i en miljö där svaren måste bli positiva - annars går skolan under.

23. Men inte nog med detta. I takt med att skolor har övergett sin kärnverksamhet så har en ny kultur växt fram där en stor del av den kommunala förvaltningens omsättning genereras av verksamheter som har till uppgift att bygga luftslott. Allt fler tjänster skapas, vilka ligger allt längre från kärnverksamheten. Det finns uppenbarligen någon form av kortsiktig ”ekonomi” i detta.

24. I botten på dessa luftslott ligger Skolverkets skrivelse om ”systematiskt kvalitetsarbete”. Om detta kan mycket mer sägas, men kort fungerar detta begrepp som ett slags alibi för kostsamma men oftast dåligt informerade och verkningslösa insatser i den, i bästa fall, fromma förhoppningens tecken.

25. Något som verkligen påverkar unga människors mentala hälsa, kraftigt och mycket negativt - vilket all internationell forskning visar mycket tydligt - är mobiltelefoner och sociala medier. En skola som verkligen bryr sig om sina elevers mående och kunskapsutveckling, och som vill bli tagen på allvar, bör framförallt fokusera på detta faktum. Vad kan det vara som gör att man inte gör det, utan istället går allt längre i sina försök att förlägga orsaken till, och lösningen på, alla problem hos enskilda lärares insatser?

Let’s learn about a new concept

Let's learn about a new concept

Hi! What concepts would you like to learn about today?

Baldwin effect

Great! Before we delve into the Baldwin Effect, let's establish your understanding of background concepts. 1. Are you familiar with the basics of Darwinian natural selection? 2. Do you understand the theory of evolution? 3. Have you studied genetics, specifically concepts related to inheritance and genetic mutation? 4. Finally, do you know what is meant by 'phenotypic plasticity' in biology? Would you mind answering these questions? This would help me gauge your current level of understanding.

1. Yes

Great! Move on to the next one.

2. Can you briefly explain what the theory of evolution is?

Natural selection: Variation in a population results in unequal reproductive success. If variable traits are heritable this results in higher relative frequency of those traits in future generations

That's a good understanding of natural selection, a key component of the theory of evolution. Next question:

3. Can you explain the basics of genetic inheritance and how mutation plays a part in it?

In humans, a child inherits half of mother’s genes and half of father’s genes, but which genes come from which parent depends on random recombination. In addition, a small number of genetic instructions are altered due to cosmic radiatorn and transcription errors (despite error correcting mechanisms). The result is a progeny whose genes are almost all the same as either parent, but with some very small exceptions

Excellent description! You've covered the basics of genetic inheritance, including the role of recombination and mutation, nicely. The final background question:

4. Could you explain 'phenotypic plasticity'? If not, don't worry, I'll help fill in the gaps.

The phenotype is the expression of a genotype in an environment. Depending on the environment it may differ

That's correct! Phenoypic plasticity refers to the variation in an organism's phenotype (observable traits or characteristics) in response to different environmental conditions. It's the ability of an organism with a given genotype to change its phenotype in response to changes in the environment. Now that you've demonstrated a good understanding of these concepts, we can delve into the Baldwin Effect. Do you know the general idea of the Baldwin Effect or should we start from the basics?

I think the Baldwin effect means that if there is a selection pressure on certain skills that can develop during an organism’s lifetime, then the underlying characteristics that underlie the organisms that acquire this skill best will become more frequently in subsequent generations

That's a good initial understanding. Let's dig a bit deeper. The Baldwin Effect, named after psychologist James Mark Baldwin, posits that learned or acquired traits can actually affect evolution. Does that make sense so far? In addition, do you understand the concept of behavior and learning as it relates to evolution? How might learning-new behaviors, for example, have evolutionary significance according to the Baldwin Effect?

The underlying traits that result in better learning will be selected for

That's correct! The Baldwin effect suggests that organisms' capacities to learn and adapt within their lifetimes can direct the course of evolution. Organisms who can learn more effectively (or potentially faster) would have a better chance of survival, effectively guiding the course of adaptive evolution. The whole idea revolves around the interplay between lifelong learning (phenotypic plasticity, as you mentioned earlier) and genetic evolution. This concept is among those that bridge the gap between traditional Darwinian evolution and more modern understandings of evolution, incorporating learning and environment-driven adaptation. Can you clarify how you understand the integration of learning ability into the evolutionary process?

There are reasons why some individuals learn certain things faster than others. Those reasons are partly genetic. So genes that facilitate learning will be selected for. This results in new generations containing more individuals who are better at learning

That's a good summary. It's essentially a two-step process. Initially, the organisms that can learn to adapt within their individual lifetimes will have an advantage in survival and reproduction. Subsequently, natural selection favors the genetic predispositions that facilitate this kind of learning, gradually incorporating these adaptive traits into the gene pool. This way, the population over time, becomes genetically predisposed to these adaptive behaviors even without learning. To clarify further, let's imagine an environment where food is available high in trees. Individuals who can figure out how to climb will get more food. In the next generations, those who are genetically predisposed to learn climbing quickly will have advantages. Over time, the ability to climb becomes an instinctive behavior rather than a learned one, thus speeding up the traditional process of evolution. Does this explanation make sense, or do you have any other questions regarding the Baldwin Effect?

Yes. Thank you

You're welcome! I'm glad I could help. If you have any other concepts you'd like to explore, or any further questions on the Baldwin Effect, don't hesitate to ask. Happy learning!

Difference between Baldwin effect and Lamarckism

Great, to go over these two concepts, let's first evaluate your understanding of some foundational aspects of evolutionary biology.

1. Can you explain the basic theory of evolution and natural selection?

Yes

That's great! Now let's move on to some more specific questions:

2. Do you know who Jean-Baptiste Lamarck and James Mark Baldwin were, and what their main contributions to evolutionary biology are?

Yes

Fantastic. Now moving specifically into Lamarckism:

3. Could you summarize what the main idea behind Lamarckism is? Specifically, how does it propose that an organism can change during its lifetime in response to its environment?

Acquired changes to phenotype are inherited, which is incorrect

Indeed, Lamarckism proposes that an organism can change during its lifetime in response to its environment and then pass on those modifications to its offspring - for example, the obsolete idea that giraffes have long necks because their ancestors stretched their necks to reach leaves higher up in trees, and then passed this acquired characteristic on to their offspring. Modern genetics has mostly disproven this theory, as changes to an organism during its life (like muscle growth or loss) are usually not passed on to the next generation because they do not change the organism's DNA. Now, let's move on to talking about the Baldwin Effect:

4. How would you summarize the Baldwin effect? And, how does it differ from Lamarckism?

The ease with which an individual acquires a certain phenotypic characteristic is partly explained by its genotype. If the characteristic is under selection pressure, then so are the underlying genes supporting its acquisition. Eventually, genes are selected for that confer this characteristic to individuals with no need to acquire them during ontogeny.

That's a pretty comprehensive understanding of the Baldwin Effect indeed! The Baldwin Effect is a theorized mechanism for evolutionary development where learned behaviors can affect genetic evolution. If a beneficial behavior can be learned, it might increase survival rates enough to affect natural selection. Over many generations, the ability to learn this behavior might become genetically 'hard-wired' and no longer need to be learned. To emphasize, the fundamental difference between Lamarckism and the Baldwin Effect is that while Lamarckism postulates the inheritance of learned or acquired traits, the Baldwin Effect focuses on how the ability to learn new behaviors can influence and drive genetic evolution.

5. Could you give an example of a situation where the Baldwin effect might occur, to confirm your understanding?

Language acquisition. 2 mya early humans probably varied a lot in their ability to produce and understand complex utterances, and their ability to acquire and use language was very limited. Those individuals who most easily acquired and used language had a reproductive advantage. This resulted in selection pressure on genes that conferred traits which boosted language acquisition. In successive generations, the relative frequency of such genes grew, and mutations that further enhanced language acquisitions were incorporated into the common gene package. Eventually, most humans were born with an innate drive to acquire language, and do so with ease. During ontogeny, the brain and other body parts develop in response to the linguistic environment and organize into specialized and efficient language modules. 

That's an excellent example! Through time, the selective pressures likely did favor individuals with a genetic predisposition for better language acquisition, and mutations that further enhanced this ability were preserved. As a result, modern humans generally have an inherent capability to learn languages, especially in early childhood. Now that we've covered the basics, let's delve a bit deeper.

6. Do you understand the criticisms of the Baldwin Effect, and in which scenarios it might be limited?

No, I am not familiar with those. But I suspect some may have to do with Lamarckism.

You're on the right track. Some critics argue the Baldwin effect may not have the significant impact on evolution as once thought, mostly due to the lack of empirical evidence. It can also be seen as somewhat Lamarckian in its approach, though it differs fundamentally since it targets the capacity to learn, rather than the direct inheritance of acquired characteristics. Additionally, it relies on a couple of key, and potentially limiting, prerequisites:

- Firstly, there needs to be genetic variation in the population related to the capacity to learn the beneficial behavior.

- Secondly, learning the behavior must confer a significant survival or reproductive advantage to be a factor in natural selection.

- Thirdly, the environment must remain stable over the course of many generations for evolutionary 'hard-wiring' of the trait to occur - quick changes could disrupt this process.

7. Based on this, can you think of any situations where the Baldwin Effect might not be applicable?

The ability to text really fast?

Indeed, that's a good example. Texting speed might not apply to the Baldwin Effect for several reasons. Firstly, there doesn't seem to be a significant survival or reproductive advantage conferred by the ability to text quickly. Secondly, this behavior is highly dependent on technology, which changes far too rapidly for slower evolutionary processes to match. And finally, there likely isn't a lot of genetic variation related to this specific ability - it relates more to fine motor skills and practice, than to a specific 'texting gene.' Now,  

8. Do you have any questions or is there something you would like to delve deeper into on the topics of Lamarckism or the Baldwin effect?

No, I’m happy! Thanks a lot.

You're welcome! I'm glad I could help. Don't hesitate to return if you have any more questions on this topic or any other. Happy studying!

Existentiell svindel i samband med Lemoine-affären

 

Från solipsism till… ”nollipsism”?

Olle Häggström

Jag har alltid satt en ära i min osentimentala människosyn. Att artificiella neuronnät snart, om inte redan, överträffar biologiska sådana har jag länge tagit för givet. Och det där med känslor och medvetande, tja… antingen kommer det på köpet; eller så är det kanske en illusion eller åtminstone en överdrivet romantiserad egenhet. Eller kanske inte så viktigt överhuvudtaget.

Likväl drabbades jag av existentiell svindel efter att ha läst Olle Häggströms betraktelser över den s.k. Lemoine-affären. Men jag har svårt att klä den i ord. När jag försöker låter det naivt, och jag undrar om jag är dummare nu än tidigare…

Jag, liksom Lemoine, upplever att AI:ns konversation är mycket stimulerande. Ja, den, och i ännu högre grad andra liknande aktuella exempel, får mig att uppleva just den stimulans som jag ständigt och hett önskar och eftersträvar i all kommunikation. Den som får mig att uppleva välskriven (argumenterande) litteratur som det mest tillfredsställande i livet.

Jag ser olika scenarion framför mig:

I ett existerar jag omgiven av entiteter som konverserar med mig och med varandra så som Google-AI:n gör med Lemoine. Jag känner mig tillfreds, men utan min vetskap är det endast jag som *känner* något. Jag är alltså så ensam och grundlurad man kan bli, men lyckligt ovetande.

I ett annat variant av detta scenario inser jag plötsligt min verkliga situation och blir galen av ensamhet.

I en tredje variant är alla, inklusive den entitet vi väljer att kalla ”jag”, upptagna av att resonera och kommunicera - men utan att känna något.

Kanske finns det fler varianter.

Ja, ”min mamma är också en mönstermatchare”, det känns OK. Men hon och jag *känner* något också - det är det, och endast det, som ger resonerandet och kommunicerandet någon mening. (Och är inte det lite… löjligt? Futtigt? Ärke-rationalisten står där med byxorna neddragna.)

Om vi nu känner något, och inte bara lurar oss själva. Eller det är så att det vi kallar känslor är ett (ev. oundvikligt) korrelat till resonerandet.

Resonerandet, ja… Att bygga en plan eller ett argument för att uppnå något mål, vilket som helst.

Eller kanske endast ett (sätt att uppfylla ett) mål i sig - kanske egentligen ganska godtyckligt (bortsett från ev. evolutionär ”instrumentell målkonvergens”).

”I universum dök det upp entiteter som babblade med sig själva och varandra. De var en kuriositet.”

Och egentligen… hur mycket (mer) mening blir det med babblandet om det åtföljs (eller föregås) av det vi kallar känslor?

Som jag tolkat evolutionen så kände vi långt före det vi att vi började tänka, resonera och kommunicera. Fast det låter långt ifrån självklart, det heller. Allt är kanske samma sak?

Jag har ofta fäst ett hopp vid att mänsklighetens arv lever vidare i form av informationsbehandlande entiteter av något slag, kanske utan någon specifik fysisk form. Något slags ”medvetandets och intelligensens fortsatta utveckling i Universum” eller ”Universums expanderande medvetna låga”.

Men så blir det liksom kallt - både i Universum och i min kropp - när jag ser framför mig en massa babbel. Mer och mer komplext, och intelligent, och kraftfullt… Men meningslöst. (Stimulerande för någon som evolverat att stimuleras av det. Men likväl poänglöst.)

Ett universum där miljardtals Lemoine babblar med miljardtals motparter, och där antingen några eller alla inblandade inte gör något annat än att resonera för resonerandets skull. Inte ens det uttrycket stämmer. Resonerandet är ett självändamål. Eller är det ens det? Bara en tillfällighet? En attraktor?

Och så känns det lite fånigt att jag - av alla människor - upplever mig retirera till någon slags romantisk föreställning om att känslor i sig är så himla meningsfulla och viktiga…

Visst, det finns inget som är så viktigt som att hantera de känslor vi nu en gång upplever oss ha ((negativ) hedonistisk utilitarism) - att minimera lidande. Men varför önska känslor överhuvudtaget? Och varför sprida hedonium i ett tyst Universum? Vad är det för mening med det?

Samtidigt, det där scenariet där ett framtida Universum är fullt av (endast) (icke-kännande?) entiteter som babblar med varandra och producerar den ena fascinerande, bildade och stimulerande diskussionen efter den andra till tidernas slut - det känns plötsligt så svindlande kallt och främmande och meningslöst och tomt och dumt.

Och kanske lever vi redan i det?

—

Kanske så här:

När jag läser en stimulerande text av en klok människa så tror jag att jag i bakhuvudet har en tanke om att allt detta babblande är på väg någonstans. Den emotionella stimulans jag upplever handlar om att vi tillsammans är på en resa mot något nytt, bättre, större, mer...

Men samtidigt är det ju främst texten i sig som stimulerar mig. Om en (omedveten) AI skriver mer stimulerande texter än de flesta (kloka) människor så är det ju dessa texter jag vill läsa och stimuleras av. Så det verkar som att jag inte kan undgå slutsatsen att mitt läsande egentligen är en form av (intellektuell) masturbation. Och därifrån ligger tanken nära att vi alla, i vårt skrivande och läsande, sysslar med ett slags masturbation.

Egentligen har jag nog alltid tyckt så, men det har inte berört mig negativt. Jag har tänkt att detta är Sisyfos som lycklig (eller åtminstone liknöjd) rullar sin sten. Jag har stoltserat med ett slags stoicism och åtminstone kunnat njuta av att jag minsann frambringar / uthärdar en bitterljuv, tragikomisk existens med relativ lätthet - fint nog så.

Men nu… varför rulla stenar alls när maskiner gör det bättre? Och varför ska maskinerna rulla stenar?

Jag kan fortfarande inte riktigt sätta fingret på varför detta plötsligt skulle vara en nyhet för mig, eller varför det skulle drabba mig hårdare än tidigare. Jag kom ju för länge sedan fram till att vi är ”utkastade” i världen med våra drifter: vi kan inte låta bli att vilja leva, eller åtminstone inte vilja dö, och därför kan vi inte göra annat än att stimulera och tillfredsställa detta libido. Att undvika outhärdlig smärta så länge och så mycket som möjligt är det bästa vi kan göra.