Dagens ord

Ansvar väger tyngre än frihet - Responsibility trumps liberty

10 juli 2019

Metzinger's dangerous idea

Metzinger verkar vara orolig för vad som skulle hända om folk i allmänhet insåg att de inte har fri vilja. Han kan nog ha rätt i att illusionen är tätt sammankopplad med utvecklingen av samarbete och moraliska intuitioner; och också i att självbild och kulturell kontext påverkar varandra; men jag tror och hoppas likväl att vi nu är mogna att lämna retributivism och andra stenåldersidéer bakom oss, och att detta kan göras utan att samhället regredierar -- snarare tvärtom!

Imagine that we have created a society of robots. They would lack freedom of the will in the traditional sense, because they are causally determined automata. But they would have conscious models of themselves and of other automata in their environment, and these models would let them interact with others and control their own behavior. Imagine that we now add two features to their internal self- and other-person models: first, the erroneous belief that they (and everybody else) are responsible for their own actions; second, an "ideal observer" representing group interests, such as rules of fairness for reciprocal, altruistic interactions. What would this change? Would our robots develop new causal properties just by falsely believing in their own freedom of the will? The answer is yes: moral aggression would become possible, because an entirely new level of competition would emerge -- competition about who fulfills the interests of the group best, who gains moral merit, and so on. You could now raise your own social status by accusing others of being immoral or by being an effective hypocrite. A whole new level of optimizing behavior would emerge. Given the right boundary conditions, the complexity of our experimental robot society would suddenly explode, though its internal coherence would remain. It could now begin to evolve on a new level. The practice of ascribing moral responsibility -- even if based on delusional PSMs [Phenomenal Self Models] -- would create a decisive, and very real, functional property: Group interests would become more effective in each robot's behavior. The price for egotism would rise. What would happen to our experimental robot society if we then downgraded its members' self-models to the previous version -- perhaps by bestowing insight?
 Neuroscientists like to speak of "action goals", processes of "motor selection", and the the "specification of movements" in the brain. As a philosopher (and with all due respect), I must say that this, too, is conceptual nonsense. If one takes the scientific worldview seriously, no such things as goals exist, and there is nobody who selects or specifies an action. There is no process of "selection" at all; all we really have is dynamic self-organization. Moreover, the information-processing taking place in the human brain is not even a rule-based kind of processing. Ultimately, it follows the laws of physics. The brain is best described as a complex system continuously trying to settle into a stable state, generating order out of chaos.
 According to the purely physical background assumptions of science, nothing in the universe possesses an inherent value or is a goal in itself; physical objects and processes are all there is. That seems to be the point of the rigorous reductionist approach -- and exactly what beings with self-models like ours cannot bring themselves to believe. Of course, there can be goal representations in the brains of biological organisms, but ultimately -- if neuroscience is to take its own background assumptions seriously -- they refer to nothing. Survival, fitness, well-being, and security as such are not values or goals in the true sense of either word; obviously only those organisms that internally represented them as goals survived. But the tendency to speak about the "goals" of an organism or a brain makes neuroscientists overlook how strong their very own background assumptions are. We can now begin to see that even hardheaded scientists sometimes underestimate how radical a naturalistic combination of neuroscience and evolutionary theory could be: It could turn us into beings that maximized their overall fitness by beginning to hallucinate goals.
I am not claiming that this is the true story, the whole story, or the final story. I am only pointing out what seems to follow from the discovery of neuroscience, and how these discoveries conflict with our conscious self-model. Sub personal self-organization in the brain simply has nothing to do with what we mean by "selection". Of course, complex and flexible behaviors caused by inner images of "goals" still exist, and we may also continue to call these behaviors "actions". But even if actions, in this sense, continue to be a part of the picture, we may learn that agents do not -- that is, there is no entity doing the acting. 

Thomas Metzinger, The Ego Tunnel, 2009, p. 129-131

30 juni 2019

Intentional agents as leaky abstractions

I have spent the day reading Kaj Sotala's sequence "Multiagent Models of Mind" on LessWrong. Six posts are published so far. At least three more are planned; they look really interesting, and I hope that they will answer my main question so far:

What does this actually mean, and what is the motivation for saying it?

Agent-ness being a leaky abstraction is not exactly a novel concept for Less Wrong; it has been touched upon several times, such as in Scott Alexander’s Blue-Minimizing Robot Sequence. At the same time, I do not think that it has been quite fully internalized yet, and that many foundational posts on LW go wrong due to being premised on the assumption of humans being agents. In fact, I would go as far as to claim that this is the biggest flaw of the original Sequences: they were attempting to explain many failures of rationality as being due to cognitive biases, when in retrospect it looks like understanding cognitive biases doesn’t actually make you substantially more effective. But if you are implicitly modeling humans as goal-directed agents, then cognitive biases is the most natural place for irrationality to emerge from, so it makes sense to focus the most on there.

This was what piqued my interest in reading, and what kept me going for five hours straight (!) But I didn't find what I was looking for. I did get a lot of other useful information, though: All in all, this is a wonderful, brilliant, deep and highly thought-provoking text. A lot of work and thought has gone into it. Kaj is surely one of the brightest minds around.

Now, I have no problem whatsoever with the first part of the passage quoted above. Of course intentional agents are an abstraction, and as such of course it is leaky. My concern lies with the second part: It seems to suggest that viewing people as intentional agents is mistaken; to coarse a model; misleading. Which seems to lead to the conclusion that cognitive biases are the wrong way to characterize human thinking and behavior. Which suggests that they are not even real...

I may be overly trigger-happy here. I am not out to criticize Sotala himself, nor - as it turns out - any major part of what he actually has written in this sequence so far. It is just that I am currently (yet again) in a process of investigation and possible re-orientation of what I believe is best characterized as the latest round of the "rationality wars". I am currently reading Gerd Gigerenzer's book "Risk Savvy", in a long stretch of similar stuff (e.g. Mercier & Sperber), with the aim of trying to reconcile the seemingly opposing sides in an ever ongoing battle for the right to define "rationality".

I am a long-time fan of Kahneman (and Dennett). It may be self-delusion on my part, but much of the criticism leveled at him and others seem to me either plain wrong, ideologically motivated or mistaken. The more I read, the more I get the feeling that my intuitive interpretation of Kahneman and others does not need updating; rather, it is his critics who either straw-man him or just do not have the whole picture.

Sotala promises to tell me why the biases and fallacies school of thought is lacking. But I just don't see it.

I would go as far as to claim that this is the biggest flaw of the original Sequences: they were attempting to explain many failures of rationality as being due to cognitive biases, when in retrospect it looks like understanding cognitive biases doesn’t actually make you substantially more effective. But if you are implicitly modeling humans as goal-directed agents, then cognitive biases is the most natural place for irrationality to emerge from, so it makes sense to focus the most on there. 
Just knowing that an abstraction leaks isn’t enough to improve your thinking, however. To do better, you need to know about the actual underlying details to get a better model. In this sequence, I will aim to elaborate on various tools for thinking about minds which look at humans in more granular detail than the classical agent model does. Hopefully, this will help us better get past the old paradigm.

There is a sense in which I get this: Higher-level abstractions trade accuracy for expediency, yes. And sometimes you need to go down an explanatory level or two, depending on your goals. But when it comes to explaining human decision making, or how humans view themselves and others and the society that emerges from their interaction, or why this is the case, or how and when problems and contradictions occur, or what to do about it... Well, I just don't see the need to shed the intentional stance or to deconstruct it. (Apart from convincing people that they are usually MoreWrong than they think.)

My main question when reading the above was - and still is: Are we talking descriptively, prescriptively, or normatively?

Mercier & Sperber, for instance, accuse Kahneman of assuming a logical, but flawed, human psyche. Rationality to them seems to mean a description of what people are, what they have evolved into - even if the process is incomplete. They then go on to sarcastically point out that there is no evolutionary reason to expect people to be logical inference machines. At the same time they redefine rationality to mean "socially flexible and pragmatic" rather than logical, and to contend that that is exactly what people are - so stop shaming them for not being able to solve logical puzzles. Also, they and Gigerenzer and others go on to say: "Oh, and by the way, people are quite adept at logic, statistics and probabilities - if you just stop tricking them!"

To me, this is highly confused. Man is not the measure of everything. Rationality, meaning logic, statistical thinking, utility maximizing etc, is a cultural invention, a norm, a standard to which we aspire - and should aspire. The fact that we have a hard time living up to those ideals is an observation of facts, and there are plenty of good reasons why this is the case. But it is equally obvious that we should do whatever we can to get beter at it. We can't (yet) re-engineer ourselves, so we need to work on education, societal structures, political systems etc.

Gigerenzer thinks Sunstein is an autocrat who doesn't trust people to know their own good. I think that Sunstein is way to libertarian.


One line of evidence for this are subliminal priming experiments, not to be confused with the controversial “social priming” effects in social psychology; unlike those effects, these kinds of priming experiments are well-defined and have been replicated many times.

Is there a difference? Sotala never uses the term, but I constantly think of associative networks (and perceptrons). Priming is potential for spreading activation. Priming is priming, however mixed results and exaggerated results from sloppy social-psychology experiments.


First, in order for the robot to take physical actions, the intent to do so has to be in its consciousness for a long enough time for the action to be taken. If there are any subagents that wish to prevent this from happening, they must muster enough votes to bring into consciousness some other mental object replacing that intention before it’s been around for enough time-steps to be executed by the motor system. (This is analogous to the concept of the final veto in humans, where consciousness is the last place to block pre-consciously initiated actions before they are taken.)

Oh, oh, oh! Veto without a libertarian prime mover. Yes! This resolves the tension I experienced when reading Patrik Lindenfors' speculations on free will in his new book "The Cultural Animal". Libet-experiments should measure several different signals simultaneously.


Second, the different subagents do not see each other directly: they only see the consequences of each other’s actions, as that’s what’s reflected in the contents of the workspace. In particular, the self-narrative agent has no access to information about which subagents were responsible for generating which physical action. It only sees the intentions which preceded the various actions, and the actions themselves. Thus it might easily end up constructing a narrative which creates the internal appearance of a single agent, even though the system is actually composed of multiple subagents.

Oh! Self-serving bias, confabulation, FAE, myside bias... But what is the difference in practice? It is still a case of self-deception.


Third, even if the subagents can’t directly see each other, they might still end up forming alliances. For example, if the robot is standing near the stove, a curiosity-driven subagent might propose poking at the stove (“I want to see if this causes us to burn ourselves again!”), while the default planning system might propose cooking dinner, since that’s what it predicts will please the human owner. Now, a manager trying to prevent a fear model agent from being activated, will eventually learn that if it votes for the default planning system’s intentions to cook dinner (which it saw earlier), then the curiosity-driven agent is less likely to get its intentions into consciousness. Thus, no poking at the stove, and the manager’s and the default planning system’s goals end up aligned. 
Fourth, this design can make it really difficult for the robot to even become aware of the existence of some managers. A manager may learn to support any other mental processes which block the robot from taking specific actions. It does it by voting in favor of mental objects which orient behavior towards anything else. This might manifest as something subtle, such as a mysterious lack of interest towards something that sounds like a good idea in principle, or just repeatedly forgetting to do something, as the robot always seems to get distracted by something else. The self-narrative agent, not having any idea of what’s going on, might just explain this as “Robby the Robot is forgetful sometimes” in its internal narrative.

Ah! Dunning-Kruger, ignorance, witness psychology, unwarranted self-assurance... But what is the difference from intentional agents and the bias and fallacies perspective?


Fifth, the default planning subagent here is doing something like rational planning, but given its weak voting power, it’s likely to be overruled if other subagents disagree with it (unless some subagents also agree with it). If some actions seem worth doing, but there are managers which are blocking it and the default planning subagent doesn’t have an explicit representation of them, this can manifest as all kinds of procrastinating behaviors and numerous failed attempts for the default planning system to “try to get itself to do something”, using various strategies. But as long as the managers keep blocking those actions, the system is likely to remain stuc

Aha! Akrasia, ”irrationality” in the sense of not living up to the homo economics template etc...


Sixth, the purpose of both managers and firefighters is to keep the robot out of a situation that has been previously designated as dangerous. Managers do this by trying to pre-emptively block actions that would cause the fear model agent to activate; firefighters do this by trying to take actions which shut down the fear model agent after it has activated. But the fear model agent activating is not actually the same thing as being in a dangerous situation. Thus, both managers and firefighters may fall victim to Goodhart’s law, doing things which block the fear model while being irrelevant for escaping catastrophic situations.”

But this is missing an evolutionary perspective (which Sotala brings up much later) outside of the individual agent. Systems that are reasonably well adjusted beget offspring with pre-installed settings that also work reasonably well (as long as the environment doesn't change too much).

Goodhart! Yes! Isn't that the perfect summation of every bias in the book!?

It's a (too) tall order to get people to change their evolved picture of themselves and others, from intentional agents to more or less coordinated subsystems.

Normatively, also we want to act, judge and be judged as intentional agents.


Exiles are said to be parts of the mind which hold the memory of past traumatic events, which the person did not have the resources to handle. They are parts of the psyche which have been split off from the rest and are frozen in time of the traumatic event. When something causes them to surface, they tend to flood the mind with pain. For example, someone may have an exile associated with times when they were romantically rejected in the past. 

IFS further claims that you can treat these parts as something like independent subpersonalities. You can communicate with them, consider their worries, and gradually persuade managers and firefighters to give you access to the exiles that have been kept away from consciousness. When you do this, you can show them that you are no longer in the situation which was catastrophic before, and now have the resources to handle it if something similar was to happen again. This heals the exile, and also lets the managers and firefighters assume better, healthier roles.

Very Freudian! Both in a good sense and in a bad one. (And I suspect that the IFS crowd really longs for a true Self - which is exactly what there isn't!)


In my earlier post, I remarked that you could view language as a way of joining two people’s brains together. A subagent in your brain outputs something that appears in your consciousness, you communicate it to a friend, it appears in their consciousness, subagents in your friend’s brain manipulate the information somehow, and then they send it back to your consciousness. 
If you are telling your friend about your trauma, you are in a sense joining your workspaces together, and letting some subagents in your workspace, communicate with the “sympathetic listener” subagents in your friend’s workspace. So why not let a “sympathetic listener” subagent in your workspace, hook up directly with the traumatized subagents that are also in your own workspace?

Yeah... This is what Mercier & Sperber get right - social cognition. But a bit too idealized on communication with others. There is a lot of "pollution" in those exchanges... Even internal monologues are polluted by irrelevant concerns and noise.


Instead of remaining blended, you then use various unblending / cognitive defusion techniques that highlight the way by which these thoughts and emotions are coming from a specific part of your mind. You could think of this as wrapping extra content around the thoughts and emotions, and then seeing them through the wrapper (which is obviously not-you), rather than experiencing the thoughts and emotions directly (which you might experience as your own). 
...when I became aware of how much time I spent on useless rumination while on walks, I got frustrated. And this seems to have contributed to making me ruminate less: as the system’s actions and their overall effect were metacognitively represented and made available for the system’s decision-making, this had the effect of the system adjusting its behavior to tune down activity that was deemed useless.

Creativity? Heureka moments? Openness to new impressions? (This is discussed later.)


Similarly, several of the experiments which get people to exhibit incoherent behavior rely on showing different groups of people different formulations of the same question, and then indicating that different framings of the same question get different answers from people. It doesn’t work quite as well if you show the different formulations to the same people, because then many of them will realize that differing answers would be inconsistent.

This is the point of contention in the rationality wars!


The original question which motivated this section was: why are we sometimes incapable of adopting a new habit or abandoning an old one, despite knowing that to be a good idea? And the answer is: because we don’t know that such a change would be a good idea. Rather, some subsystems think that it would be a good idea, but other subsystems remain unconvinced. Thus the system’s overall judgment is that the old behavior should be maintained.

Yees! But normatively, we can know that something is better, while emotionally we do not experience it that way. This is what a bias is!


Nevertheless, a fundamental problem remains: at any point in time, which mode should be allowed to control which component of a task? Daw et al. have used a computational approach to address this problem. Their analysis was based on the recognition that goal-directed responding is flexible but slow and carries comparatively high computational costs as opposed to the fast but inflexible habitual mode. They proposed a model in which the relative uncertainty of predictions made by each control system is tracked. In any situation, the control system with the most accurate predictions comes to direct behavioural output. 
Note those last sentences: besides the subsystems making their own predictions, there might also be a meta-learning system keeping track of which other subsystems tend to make the most accurate predictions in each situation, giving extra weight to the bids of the subsystem which has tended to perform the best in that situation. We’ll come back to that in future posts.

Automatic vs controlled processes (system 1 and 2). Again, a tall order to transition from the former to the latter. Energy conservation. But also, built-in inertia to avoid paralysis (see Minsky quote):

”Human self-control is no simple skill, but an ever-growing world of expertise that reaches into everything we do. Why is it that, in the end, so few of our self-incentive tricks work well? Because, as we have seen, directness is too dangerous. If self-control were easy to obtain, we'd end up accomplishing nothing at all.”


When there is significant uncertainty, the brain seems to fall back to those responses which have worked the best in the past - which seems like a reasonable approach, given that intelligence involves hitting tiny targets in a huge search space, so most novel responses are likely to be wrong.

Also over evolutionary time, over generations. Bias as hard-coded patterns which have previously comprised the best compromise.


...positive or negative moods tend to be related to whether things are going better or worse than expected, and suggest that mood is a computational representation of momentum, acting as a sort of global update to our reward expectations.



So to repeat the summary that I had in the beginning: we are capable of changing our behaviors on occasions when the mind-system as a whole puts sufficiently high probability on the new behavior being better, when the new behavior is not being blocked by a particular highly weighted subagent (such as an IFS protector whose bids get a lot of weight) that puts high probability on it being bad, and when we have enough slack in our lives for any new behaviors to be evaluated in the first place. Akrasia is subagent disagreement about what to do.

This is perfectly in line with the bias perspective.


Likewise, the subagent frame seems most useful when a person’s goals interact in such a way that applying the intentional stance - thinking in terms of the beliefs and goals of the individual subagents - is useful for modeling the overall interactions of the subagents.

Confusing. Wasn't the whole point to question the intentional agent, the system as a whole, the unmoved mover, the green man at the center of it all?


More generally, subagents may be incentivized to resist belief updating for at least three different reasons (this list is not intended to be exhaustive): 
1 The subagent is trying to pursue or maintain a goal, and predicts that revising some particular belief would make the person less motivated to pursue or maintain the goal. 
2 The subagent is trying to safeguard the person’s social standing, and predicts that not understanding or integrating something will be safer, give the person an advantage in negotiation, or be otherwise socially beneficial. For instance, different subagents holding conflicting beliefs allows a person to verbally believe in one thing while still not acting accordingly - even actively changing their verbal model so as to avoid falsifying the invisible dragon in the garage. 
3 Evaluating a belief would require activating a memory of a traumatic event that the belief is related to, and the subagent is trying to keep that memory suppressed as part of an exile-protector dynamic.

Reminds me of Omohundro's thesis on goal-preservation. (And Olle's problematization of the same...)


Suppose that a disease, or a monster, or a war, or something, is killing people. And suppose you only have enough resources to implement one of the following two options:
1. Save 400 lives, with certainty.
2. Save 500 lives, with 90% probability; save no lives, 10% probability.
Most people choose option 1. [...] If you present the options this way:
1. 100 people die, with certainty.
2. 90% chance no one dies; 10% chance 500 people die.
Then a majority choose option 2. Even though it's the same gamble. You see, just as a certainty of saving 400 lives seems to feel so much more comfortable than an unsure gain, so too, a certain loss feels worse than an uncertain one. 
In my previous post, I presented a model where subagents which are most strongly activated by the situation are the ones that get access to the motor system. If you are hungry and have a meal in front of you, the possibility of eating is the most salient and valuable feature of the situation. As a result, subagents which want you to eat get the most decision-making power. On the other hand, if this is a restaurant in Jurassic Park and a velociraptor suddenly charges through the window, then the dangerous aspects of the situation become most salient. That lets the subagents which want you to flee to get the most decision-making power. 
Eliezer’s explanation of the saving lives dilemma is that in the first framing, the certainty of saving 400 lives is salient, whereas in the second explanation the certainty of losing 100 lives is salient. We can interpret this in similar terms as the “eat or run” dilemma: the action which gets chosen, depends on which features are the most salient and how those features activate different subagents (or how those features highlight different priorities, if we are not using the subagent frame). 
Suppose that you are someone who was tempted to choose option 1 when you were presented with the first framing, and option 2 when you were presented with the second framing. It is now pointed out to you that these are actually exactly equivalent. You realize that it would be inconsistent to prefer one option over the other just depending on the framing. Furthermore, and maybe even more crucially, realizing this makes both the “certainty of saving 400 lives” and “certainty of losing 100 lives” features become equally salient. That puts the relevant subagents (priorities) on more equal terms, as they are both activated to the same extent. 
What happens next depends on what the relative strengths of those subagents (priorities) are otherwise, and whether you happen to know about expected value. Maybe you consider the situation and one of the two subagents (priorities) happens to be stronger, so you decide to consistently save 400 or consistently lose 100 lives in both situations. Alternatively, the conflicting priorities may be resolved by introducing the rule that “when detecting this kind of a dilemma, convert both options into an expected value of lives saved, and pick the option with the higher value”. 
By converting the options to an expected value, one can get a basis by which two otherwise equal options can be evaluated and chosen between. Another way of looking at it is that this is bringing in a third kind of consideration/subagent (knowledge of the decision-theoretically optimal decision) in order to resolve the tie.

1. 400 survivors is not interpreted as 100 deaths, but rather as "at most 100 deaths".

2. This is Gigerenxer's schtick: "We don't really have any biases. It's just a question of presenting or rephrasing situations so that it becomes obvious how to deal with them." But it is precisely the fact that this is not done which comprises the bias! (That, and the fact that we don't even experience any need to rephrase the situation.)

3. What is the rationale for preferring expected utility over, say, a sure positive? How does one resolve that conflict, before and after the choice? To oneself? To others?


The structure of the “parking ticket” and “cheque” scenarios are equivalent, in that both cases you can take an action to be $90 better off after 30 days. If you notice this, then it may be possible for you to re-interpret the action of paying off the parking ticket as something that gains you money, maybe by something like literally looking at it and imagining it as a cheque that you can cash in, until cashing it in starts feeling actively pleasant.

No. In one case, you lose something, or end up owing something that you may not even have. You wouldn't survive if you had to give away your food. In the other case, you go from surviving as usual to receiving a windfall, an extra bonus. This is exactly the kind of ill-conceived homo economicus rationality that even the economists have abandoned.


Reading through my notes, I am starting to wonder if what you're really saying is this: "There is no man in the middle, no unmoved mover, no central control to which we can ascribe beliefs and desires, or hold accountable; who is the author of our destiny, the locus of our (free) will."

And of course I agree.

Maybe your point is that viewing ourselves and others as intentional agents create or reinforce these misconceptions; that we need to understand that we *don't* actually have good reasons for thinking, feeling and doing what we do. That to humble ourselves, we need to understand that the self, the agent, is a figment of our imagination, an illusion to explain our subconscious elephant to our translucent rider...

And I agree.

But still: The best way to summarize the totality is the intentional agent. Maybe this is the reason why I am confused: I have always, ever since childhood, been perfectly onboard with a super-cynical view of people as biological contraptions, recently endowed with (an experience of) (self-)awareness; trying to make sense of the (apparent) voices inside our heads.

The intentional agent is a big improvement over many previous centuries of an over-inflated sense of importance. It is a description of how we have evolved to navigate in the world and coordinate with other moving objects. It is an "as if"-model. Nothing more. This is blatantly obvious to me.

The biases-and-fallacies paradigm serves as an educational device in the service of convincing people who think that we know what we (and others around us) are doing, that we don't. Or at least, that our guesses are just that: shortcuts that try to minimize catastrophic failures in a maximum number of (familiar) situations.

21 juni 2019

Gigerenzer: Risk Savvy

It is sometimes said that for Kahneman, the glass of rationality is half-empty, and for Gigerenzer, the glass is half-full. One is a pessimist, the other an optimist. That characterization misses the point. We differ in what the glass of rationality is in the first place. Kahneman and followers take logic or probability theory as a general, ”content-blind” norm of rationality. In their thinking, heuristics can necer be more accurate, only faster. That, however, is true only in a world of known risk. In an uncertain world, simple heuristics often can do better. The real research question is to understand why and when. The answers we know today are based on the bias-variance dilemma ... and the general study of ecological rationality ...

Den här boken är både sämre och bättre än jag förväntade mig. Den innehåller flera intressanta och användbara begrepp. Men de är inpackade i en lätt raljerande, rättshaveristisk, libertariansk och anekdotisk förpackning.

Det är fascinerande att få en inblick i Gigerenzers huvud. Han är en uppenbart intelligent, noggrann och effektiv människa och hans ambition är åtminstone på pappret vällovlig: Att minska mängden onödig dumhet i världen. Flera av hans råd är vettiga och pragmatiska.

Men på något sätt förmedlar han samtidigt ett budskap om att världen skulle fungera bättre om människor *inte* avkrävdes skäl för sina handlingar; om individuell och samhällelig intuition ges större utrymme, samtidigt som enskilda individer, genom att ta sig i kragen och tillägna sig några enkla tumregler, reste sig över mänskliga svagheter och danade sig till Nietcheanska herrar över sina egna öden.

Han säger t.ex. angående Sunstein och Thaler att mjuk (libertariansk) paternalism är *mer* radikal än traditionell ”hård” dito eftersom den förra utgår från att människor inte ens i teorin vet sitt eget (och andras) bästa. Att förekomsten av kognitiva snedvridningar *inte* fordrar paternalism av något slag; att de *inte* är genetiskt betingade utan resultatet av en alltför utarmad miljö och utbildning.

Detta vore ju ett positivt budskap, och nästan i linje med mina egna tankar och förhoppningar - om det inte vore för att alla observationer, inte minst hans egna, pekar åt ett helt annat håll. Dessutom undrar man ju hur utbildningsväsende och politiskt beslutsfattande och ansvarsutkrävande m.m. skulle fungera i den Hobbeska värld han verkar se framför sig.

Det är en kluvenhet som jag känner igen från andra håll, och som jag nog aldrig kommer att begripa mig på.

Det här är ju en flygplatsbok, och inte ett av Gigerenzers tyngre verk. Men jag hade trott att han ändå skulle vara mer stringent och neutral. I jämförelse framstår Hanson, Yudkowski, Mercier m.fl. som betydligt mer balanserade och socialt ansvarstagande.

Just den där tankefiguren: Bara ta dig i kragen! Å ena sidan är den häpnadsväckande naiv. Å andra sidan avspeglar den nog egentligen en känsla av att ”Ha, jag är så smart. Bara gör som jag. (Och kan du inte det, så desto bättre för mig.)”

Sunstein: Why Change Happens

80,000 Hours: Sunstein on how change happens, and why it's so often abrupt & unpredictable

Intressant och bra föredrag av Sunstein. Användbara begrepp och föredömligt tydligt och välstrukturerat.

Men är det inte lite Kejsarens nya kläder - i nya kläder?

Och framför allt: Gapar inte ett stort svart hål i mitten av hela resonemanget? Sociologin är där, men hur är det med psykologin. Och med filosofin?

Det handlar om hur vi människor påverkar och påverkas av varandra, och om hur sociala rörelser får fart. Rent deskriptivt verkar det mycket rimligt. (Men samtidigt självklart och välbekant.)

Sunstein säger att man kan kontrollera förutsättningarna för att sociala rörelser ska ta fart, och på så sätt begränsa eller främja dem. Men jag frågar mig *vilka* rörelser som bör begränsas eller främjas, och varför. Det skrämmer mig att dessa frågor inte ens verkar föresväva Sunstein.

Fall, or Dodge in Hell

900 sidor på fyra dagar. Rekord? Å ena sidan: tveksamt om det var värt tiden. Å andra sidan: perfekt tidsfördriv vid irriterande sjukdom.

Skum, svårrecenserad och lätt ångestframkallande bok. Jag har ingen aning om huruvida jag bör rekommendera den. Innehåller förvisso en hel del intressanta grejor, men känns onödigt lång. Fast kanske måste den vara det för att förmedla sitt budskap? Eller?

Jag kan instämma i recensionerna i NYT och WIRED, men det säger egentligen inte så mycket.

Framförallt andra halvan är som en feberdröm. Känns som något man själv skulle kunna skriva ner efter ett dilerium men aldrig skulle komma på tanken att faktiskt göra... Man vill helst bara glömma. Samtidigt... Idéerna runtomkring är ju bra... nästan självklara på något vis...

I efterordet namedroppas David Deutch (vilken jag själv kom att tänka på), Jaron Lanier och George Dyson. Jag har bara så jävla svårt att förstå vad den absurda detaljrikedomen tillför. Känner mig lurad, utnyttjad, att engagera mig i helt godtyckliga utsvävningar. Barnsligt på något vis.

Dr. List är en märklig figur

Dr. List är en märklig figur, både klar och förrvirrad på samma gång.

Science Salon: Why Free Will is Real: A response to Sam Harris, Jerry Coyne, and Other Determinists

1) Fri vilja har inte med determinism att göra.

2) Att växla förklaringsnivå köper dig inget annat än just bekvämlighet. Och kausalitet föreligger förstås på varje användbar nivå, även den intentionala. (Det fattar inte Schermer heller.)

3) Komplexitet, i bemärkelsen kaotiska input-outputrelationer, är inte icke-deterministisk.

4) Om kompatibilism handlar om något så är det huruvida moraliskt/juridiskt ansvar är förenligt med det faktum att fri vilja inte existerar. (Mitt svar på det är "nja".)

Kommentator 1:

Menar du att kaosalitet är förenlig med kausalitet?

Ja, definitivt! ;)

Kommentator 1:

Men hur är det med fri vilja och determinism, går de ihop? Och vad är fri vilja?

Fri vilja - i den enda bemärkelse jag accepterar - är en viss tolkning av Dennetts kompatibilistiska defintion: ”att du hade kunnat agera annorlunda”. Min tolkning är möjligen ännu något snävare än Dennetts egen, nämligen denna: att du är konfigurerad så att om du hade påverkats av andra faktorer än de som nu förelåg så hade du kunnat agera annorlunda. Ungefär.

I praktiken innebär detta att om vi ”spolar tillbaka bandet” så skulle du INTE agera annorlunda, eftersom exakt samma faktorer föreligger (determinism). MEN du är *påverkbar* på ett sätt som gör det rimligt att tro att du skulle kunna agera annorlunda i en framtida (mer eller mindre identisk) situation.

Du kan då hållas moraliskt/juridiskt ansvarig, åtminstone delvis eller i andra hand, för att inte följa lagar och regler, eftersom du skulle kunna/ha kunnat följa dem. Ungefär.

Retributiv rättvisa, upprördhet, skam och skuld är folkpsykologiska proxies för *försök till påverkan* av framtida beteende, både ditt och andras. Eller för eliminering av dig och/eller ditt beteende.
Du kan, enligt mig, vara skyldig till ett brott men aldrig vara ”värd” ett ”rättvist” straff. Antingen går du att påverka, och då ska det göras (rehabilitering). Eller kan du inte påverkas, men andra kan påverkas av ditt straff (avskräckning) och du bör eventuellt förhindras (frihetsberövande) från att agera felaktigt igen. Ungefär.

Notera att även om världen och/eller ditt eget handlande vore icke-deterministiskt så skulle detta inte innebära någon ”fri” vilja. Tvärtom, det skulle bara göra saken värre. För om det är slumpen som avgör vad du väljer att göra, så är det inte *du* som väljer och du är då *mindre fri* än i en (praktiskt taget) deterministisk värld/situation. Och då kan du heller inte påverkas på ett pålitligt sätt.

Kommentator 2:

Så om det inte är fallet att allt är fullt deterministiskt, vilka är det som ”hade kunnat agera annorlunda?” Människor? Växter? Mineraler? Molekyler? Elektroner? Kvantpartiklar? Vilka faktorer använde de för att välja sitt agerande?

Jag anar att du har en invändning mot mitt resonemang ovan, men jag är osäker på vad den är. Icke-determinism, ”val” och subjektivitet är termer som inte går bra ihop. Det är vi väl överens om?

Kommentator 2:

Nej det är vi nog inte. För det låter som om du säger det finns definitioner av de termerna som alla är överens om, och det vet jag inte om det är sant?

Men min fråga var mer om nån tror på "fri vilja" (vad än det betyder), var någonstans börjar fri vilja? För vem eller vad? Varför då, och varför där och inte någon annanstans?

Det jag i första hand vänder mig emot är den naiva och utbredda "folkliga" och oreflekterade libertarianska idén om fri vilja som - om man skrapar på den - är helt ohållbar. Den bygger på slump, dualism och på tanken på jaget som den orörda röraren. Den leder i sin tur till en felaktig uppfattning av moral och rättvisa som retributiv, och till allsköns vidskeplighet. Enligt List rapporterar uppemot 50% av "vanligt" folk en sådan uppfattning om man ber dem beskriva vad de tror.

I andra hand vänder jag mig emot den form av kompatibilism som verkar smuggla in något liknande, trots att den utgår från determinism, genom att vädja till vetomöjlighet på högre förklarings/abstraktions/intentionalitetsnivå.

Alla borde tvingas läsa Thomas Nagels "Moral Luck". Det är hög tid att vi lämnar primitiva idéer om skuld. Vi kan utmäta ansvar utan att lura oss själva.

Windup Girl: En skarp betraktelse

Ur romanen The Windup Girl av Paulo Bacigalupi:

Chaiyanuchit understood what was at stake, and what had to be done. When the borders needed closing, when ministries needed isolating, when Phuket and Chiang Mai needed razing, he did not hesitate. When jungle blooms exploded in the north, he burned and burned and burned, and when he took to the sky in His Majesty the Kings dirigible, Jaidee was blessed to ride with him.

By then, they were only mopping up. AgriGen and PurCal and the rest were shipping their plague-resistant seeds and demanding exorbitant profit, and patriotic gene rippers were already working to crack the code of the calorie companies' products, fighting to keep the Kingdom fed as Burma and the Vietnamese and the Khmer all fell. AgriGen and its ilk were threatening embargo over intellectual property infringement, but the Thai Kingdom was still alive. As others were crushed under the calorie companies' heels, the Kingdom stood strong.

Embargo! Chaiyanuchit had laughed. Embargo is precisely what we want! We do not wish to interact with the outside world at all.

And so the walls had gone up -- those that the oil collapse had not already created, those that had not been raised against civil war and starving refugees -- a final set of barriers to protect the Kingdom from the onslaughts of the outside world.

As a young inductee Jaidee had been astounded at the hive of activity that was the Environment Ministry. White shirts rushing from office to street as they tried to maintain tabs on thousands of hazards. In no other ministry was the sense of urgency so acute. Plagues waited for no one. A single gxnehack weevil found in an outlying district meant a response time counted in hours, white shirts on a kink-spring train rushing across the countryside to the epicenter.

And at every turn the Ministry's purview was expanding. The plagues were but the latest insult to the Kingdom's survival. First came the rising sea levels, the need to construct the dikes and levees. And then came the oversight of power contracts and trading in pollution credits and climate infractions. The white shirts took over the licensing of methane capture and production. Then there was the monitoring of fishery health and toxin accumulation in the Kingdom's final bastion of calorie support (a blessing that the farang calorie companies thought as land-locked people and had only desultorily attacked fishing stocks). And there was the tracking of human health and viruses and bacteria: H7V9; cibiscosis111b, c, d; fa' gan fringe; bitter water mussels, and their viral mutations that jumped so easily from saltwater to dry land; blister rust. . . There was no end to the duties of the Ministry.

Jaides passes a woman selling bananas. He can't resist hopping off his bike to buy one. It's a new varietal from the Ministry's rapid prototyping unit. Fast growing, resistant to makmak mites with their tiny black eggs that sicken banana flowers before they can hope to grow. He peels the banana and eats it greedily as he pushes his bike along, wishing he could take the time to have a real snack. He discards the peel beside the bulk of a rain tree.

All life produces waste. The act of living produces costs, hazards and disposal questions, and so the Ministry has found itself in the center of all life, mitigating, guiding and policing the detritus of the average person along with investigating the infractions of the greedy and short-sighted, the ones who wish to make quick profits and trade on other's lives for it.

The symbol for the Environment Ministry is the eye of a tortoise, for the long view -- the understanding that nothing comes cheap or quickly without a hidden cost. And if others call them the Turtle Ministry, and if the Chaouzhou Chinese now curse white shirts as turtle's eggs because they are not allowed to manufacture as many kink-spring scooters as they would like, so be it. If the farang make fun of the tortoise for its slow pace, so be it. The Environment Ministry has ensured that the Kingdom endures, and Jaidee can only stand in awe of its past glories.

And yet, when Jaidee climbs off his bicycle outside the Ministry gate, a man glares at him and a woman turns away. Even just outside their own compound -- or perhaps particularly there -- the people he protects turn away from him.

Jaidee grimaces and wheel his cycle past the guards.

The compound is still a hive of activity, and yet it is so different from when he first joined. There is mold on the walls and chunks of the edifice are cracking under the pressure of vines. An old bo tree leans against a wall, rotting, underlining their failures. It has lain so for ten years, rotting. Unremarked amongst the other things that have also died. There is an air of wreckage to the place, of jungle attempting to reclaim what was carved from it. If the vines were not cleared from the paths, the Ministry would disappear entirely. In a different time, when the Ministry was a hero of the people, it was different. Then, the people genuflected before Ministry officers, three times khrabbed to the ground as though they were monks themselves, their white uniforms inspiring respect and adoration. Now Jaidee watches civilians flinch as he walks past. Flinch and run.

He is a bully, he thinks sourly. Nothing but a bully walking amongst water buffalo, and though he tries to herd them with kindness, again and again, he finds himself using the whip of fear. The whole Ministry is the same -- at least, those who still understand the dangers that they face, who still believe in the bright white line of protection that must be maintained.

I am a bully.

He sighs and parks the cycle in front of the administrative offices, which are desperately in need of a whitewashing that the shrinking budget cannot finance. Jaidee eyes the building, wondering if the Ministry has come to crisis thanks to overreaching, or because of its phenomenal success. People have lost their fear of the outside world. Environment's budget shrinks yearly wjule that of Trade increases.

(s. 172-175)

7 juni 2019

Handmaid's Tale är ett pekoral av guds nåde!

Nu måste det sägas: Handmaid's Tale är ett pekoral av guds nåde!

Jag är nog inte den ende som avvaktat in i det längsta med att framstå som vanvördig mot realiseringen av det i grunden högst relevanta stoffet, och de snygga litterära idéerna i förlagan.

Men nu har vi genomlidit drygt tjugo timmar av oändligt långsamt berättande och måste konstatera att de utdragna scenerna inte tillför något till vare sig handling, insikt eller känslomässigt engagemang. I stället får vi nog dra slutsatsen att seriens producenter cyniskt maximerar antalet tittartimmar.

Detta leder till andra, mer generella, slutsatser och spekulationer.

Folk tittar uppenbarligen fortfarande. Det kan bero på att folk i allmänhet - liksom jag - känner sig skyldiga att ha överseende med longörerna. Kanske t.o.m. att klandra sig själva för att störas av dem, men att av respekt undantränga sådant; skylla det på personliga tillkortakommanden och istället "uppfostra" sig själv till en disciplinerad konsument av högkulturella produkter.

Det kan också bero på att publiken i allmänhet inte förmår göra skillnad på bra drama och mycket drama. I någon mening... I det här fallet - p.g.a. uttröttningseffekter (vi har ju sedan länge sugit åt oss allt det som faktisk är bra i produktionen) - kvarstår egentligen endast tidsutsträckning).

Man kanske tror sig titta på god/viktig konst (för inte fan är det underhållande), och detta kan i sin tur delvis bero på att man inte har eller fått chansen att jämföra med bättre alternativ.

Detsamma gäller producenterna. De behöver förstås inte hålla högre klass än konkurrenterna, eller den lägsta nivå som krävs för att fylla TV-sofforna. Och när en sådan situation föreligger under en längre tid så får de själva inga förebilder att eftersträva.

Och nu kommer vi till min egentliga misstanke (vilken kanske är naiv): Jag tror inte att producenterna själva förmår att göra skillnad på drama och (bra) drama.

Och jag tror att detta i sin tur beror på att amerikaner i allmänhet inte äger en bråkdel av det djup och den sofistikation som krävs, vare sig för att skapa eller uppskatta bra drama.

Vad som är hönan och vad som är ägget, det vet jag inte. Men jag har i princip aldrig sett någon amerikansk filmproduktion, om än aldrig så pretentiös, som kommer i närheten av vad exempelvis danskar producerar och konsumerar -- till vardags!

Senaste exemplet var tredje säsongen av Follow the Money. Visst, om jag höjer ribban ordentligt så skulle jag kunna beskriva den som ingenjörsmässig, för att inte säga manipulativ och populistisk, löpande band-underhållning. Men i jämförelse med Handmaid's Tale skulle jag snarare karaktärisera den som kirurgiskt finkänslig och med gravitas i nivå med en rejäl käftsmäll!

(Och skådespeleriet!!!!)

Och detta är ändå bara ett exempel på just dansk rutinmässighet! Vi vet ju alla vad de producerar, regelbundet, utöver detta.

När jag efter att ha sett sista avsnittet av (tredje säsongen av) Follow the Money tittade på de tre första avsnitten av (tredje säsongen av) Handmaid's Tale så kände jag starkt:

Producenterna av den senare har aldrig sett något så bra som danskt "rutin-drama".

Och hade de gjort det så skulle de inte förmå att uppskatta det!

Jag tror verkligen detta.

Jag tror att kulturproduktionen i USA (inklusive populärkultur) utgör ett självbegränsande kretslopp, där grunda känslor och tankar föder grunda alster vilka i sin tur göder grunda känslor och tankar. De har inte en chans. Har aldrig haft. Kommer aldrig att få.

Jag skäms inte över all tid jag lägger och har lagt på att konsumera amerikanskt drama. Men jag skäms - och skräms - över hur ofta och hur snabbt jag förlorar förmågan att sätta ribban tillräckligt högt, och ens ha vett att sakna allt det som inte uppnås.

Om jag bara hade tillgång till amerikanskt drama så skulle jag krympa till en intellektuell pygmé på nolltid. Jag skulle aldrig få chansen att växa till något mer. Och det har nog inte producenterna av Handmaid's Tale gjort heller.

1 juni 2019

Why They Can't Write

John Warner: Why They Can't Write

De inledande åtta sidorna går rakt på pudelns kärna. Här har vi problemet; hela problemet och inget annat än problemet. Med dagens skola, men också med det samhälle som skapat den och som skapas av den.

Min indignation och mitt raseri väcks igen. (Jag har varit tvungen att dämpa och förtränga för att stå ut.)

Diagnosen är kristallklar. Likaså analysen av orsakerna. Men frågan är om den föreslagna boten räcker...

Jag har inte kommit längre än till första kapitlet, men det verkar finnas en tendens att lägga fokus enbart på bättre undervisning och ignorera det uppenbara faktum - vilket korrekt identifierats som en stor del av problemet - att ALLA ÄR INTE, OCH KAN/VILL INTE BLI AKADEMIKER. Åtminstone inte inom ramen för ett standardiserat utbildningssystem.

Vad Warner säger, egentligen, är att vi inte kan tillåta oss att låtsas att mekaniskt regelföljande duger som bevis på - eller ersättning för - gediget tänkande. Men samtidigt kan jag inte se hur dagens skola ska kunna komma till en punkt där vi faktiskt får bedöma och sortera elever efter deras faktiska intellektuella kapacitet eller motivation. Det är ju helt tabu.

Heck, nuförtiden är det ju nästan tabu att ens bedöma faktakunskaper!


Mycket av det Warner säger när han beskriver hur krävande skrivprocessen egentligen är stämmer också in på programmering. Men skrivande är MER krävande än programmering. Trots det upplevs programmering som svårare, eftersom där kommer du ingenstans utan att först ha gjort grundarbetet. I vanligt ”skrivande” kan du däremot ordbajsa UTAN att ha gjort vare sig grundarbetet eller det ytterligare arbete som krävs för att både innehåll och form ska vara värt något. Här finns också en parallell till ”svår” matte, naturvetenskap och experimentella GA å ena sidan, och ”lätta” litteraturstudier, öppna frågor, kvalitativa undersökningar etc. å den andra.


Del två är mycket tillfredsställande, eftersom den artikulerar alla lärares frustrationer så väl. Jag ska just börja på tredje delen. Det ska verkligen bli intressant att läsa den modiga konkretiseringen, ty jag undrar om och hur problemen kan lösas...

Betygsättning och sortering verkar inte passa in i Warners bild av en god lärmiljö, men jag har svårt att se ett utbildningsväsen utan sådant. Jag har också svårt att se hur högkvalitativ och högkvalificerad undervisning kan bedrivas i annat än relativt homogena, välförberedda och välmotiverade elevgrupper.


Inledningen till del tre gör mig frustrerad. Som jag misstänkte blir det mycket Rousseau och Dewey. Jag är inte säker på att jag skriver under på Warners målsättning, men i den mån jag gör det så är den så radikal att det är omöjligt att behålla nuvarande strukturer - det måste till fullständigt genomgripande samhällsförändringar. Och jag undrar om Warner verkligen är sååå radikal.

Visst, i en socialistisk utopi där ingen behöver arbeta eller bekymra sig om livets nödvändigheter - där skulle vi kunna erbjuda alla obegränsade möjligheter att utveckla sina egna styrkor och intressen - utan betyg, krav eller sortering.

Och visst skulle vi kunna dumpa över all form av sortering och yrkesutbildning på näringslivet. Det är ju faktiskt slutsatsen av "Against Education" - varför ska samhället betala för en ineffektiv och onödig "meritering" som endast tjänar till att sålla fram nyttiga idioter åt företagen, i det fåfänga hoppet stt detta också ska ge oss bildade och upplysta demokratiska medborgare?

Men vi behöver också människor som förvaltar och utvecklar vetenskap, filosofi, sociologi etc. Genuina akademiker, intellektuella och vetenskapare. Där krävs sortering, disciplin och standardisering. 

För övrigt är det inte sömnbrist och hunger som plågar svenska elever. Det är apati, lättja, ignorans och arrogans. Visst är de socioekonomiska förutsättningarna viktigare än pedagogiska fixar, men även de som har goda förutsättningar saknar ofta något...


Jag instämmer helt i "Increasing rigor" och "Making writing meaningful". Detta strävar jag själv efter. Nästa års S+kurs kommer att bygga just på detta. Men det är långt ifrån oproblematiskt.

Jag håller med om allt i del fyra, och tycker nog att jag gör så gott jag kan där. Kapitlet "What about academics" sammanfattar egentligen vad vi vet att vi borde göra för att förbereda elever för sina GA, men verkligheten slår ju till...

Slutet av boken är en plan för hur vi skulle kunna jobba strukturerat med språkutveckling och programmål i år 1-3 inför och under GA. Typ Aranäs. Fokus på "tänk först, skriv sen". Warners lösning på att vi måste sätta betyg trots att det bara sabbar möjligheten till äkta engagemang, är att betygsätta kvantitet snarare än kvalitet - det ger också bäst progression, enligt honom.

18 maj 2019

Harris, Christakis, Damore and the Ladies

Sam Harris talks to Nicholas Christakis about his new book, Blueprint. (I read the book. It is very ambitious. The first half did not convince me but I liked the second half.)

At the end, Harris nudges Christakis to comment on the Damore case,  which Harris feels is connected to what Christakis writes about the failed attempt in Israeli communes to raise children separate from their mothers.

Listen closely when Damore comes up. To me, it sounds like Harris is hearing Christakis saying things he doesn't actually say.

The more choice and opportunities people have, the more impact individual interests will have on the distribution of careers etc. This is analogous to the somewhat counterintuitive conclusion of heritability studies. Once you accept it, it is obvious and inescapable.

BUT what influences individual interests? Christakis talks about founder effects in astrophysics and the fact that pink isn't a girly colour in India. But Harris only seems to hear that if biological Women get to choose really really freely, they will choose being stay-at-home moms and not programming.

Alternativa fakta

Wikforss Alternativa fakta mycket bra. Imponerande välstrukturerad och koncis. Fantastisk som syntes och sammanfattning av många viktiga områden. Jag ska försöka använda den i undervisningen. Några skönhetsfläckar (språkliga detaljer, Mercier & Sperber kommer undan lite väl enkelt, en viss kantighet...)

När Wikforss kritiserar skolans ”konstruktivism” så upplever jag henne lite kantig när hon diskuterar fakta, förståelse, kunskap, sanning, och begrepp:

”Tanken verkar vara den som jag kritiserade i kapitel 2, att eftersom kunskap kräver begrepp och alla begrepp är mänskliga konstruktioner finns det ingen objektiv kunskap. Vi vet nu varför detta resonemang inte håller streck: Även om vi accepterar att begrepp i någon mening är mänskliga konstruktioner (vilket inte är uppenbart) följer det inte att fakta är mänskliga konstruktioner. Vi använder våra begrepp för att kategorisera och tillskriva objekt egenskaper, men det är inte upp till oss huruvida dessa objekt verkligen har dessa egenskaper. Att valar är däggdjur och hajar inte är det, är inte fakta som på något sätt är vår konstruktion...” (s. 190-191)

Jag håller med om allt utom sista meningen.

Om Wikforss istället hade skrivit ex. ”Att valfoster skiljs från sina mödrar utan ett skyddande hölje (ägg) medan hajfoster skiljs från sina mödrar med ett sådant, är inte ... vår konstruktion” eller något liknande, så hade jag haft lättare att köpa det.

Visst bör vi utgå från en objektiv Verklighet (vilket inte är självklart) som är oberoende av både vår uppfattning av den och av våra kategoriseringar av dessa intryck. Och nog är däggdjur ett relativt ”naturligt” (ofrånkomligt, universellt) begrepp.

Men ironiskt nog är det samtidigt onödigt svårdefinierat för att tjäna som exempel just här: Är pungdjur däggdjur? Definitionsgränserna är luddiga, både psykologiskt och taxonomiskt. Och även om varje djurarts egenskaper är desamma oavsett om och hur vi uppfattar och kategoriserar dem, så är ju min konkreta biologiska ”kunskap” eller expertis avhängig de just nu vedertagna gränsdragningarna.

Detta kan till stor del handla om nödvändiga förenklingar. Syftet är ju gott, och i stort håller jag helt med om Wikforss analys och kritik av läroplanerna och deras konsekvenser.

Poängen är ju bl.a. att elever först ska lära sig att namnge och känna igen en stor mängd däggdjur och icke-däggdjur; därefter lära sig vilka de defintionsmässiga taxonomiska egenskaperna (just nu) är; och först därefter eventuellt ta del av diskussioner om eventuella problem eller alternativa gränsdragningar.

Kritiken av Sjøberg (s. 194-196) känns lite tandlös. Han har ju, i princip, rätt - även om Wikforss med rätta kritiserar hans formulering om vad som ”blir fakta”. Inte heller vederläggningen av Sapir-Whorff känns övertygande, inte minst som ett radikalt förnekande av den skulle gå på tvärs med det mesta som Wikforss själv framhåller tidigare i boken, om hur begrepp står i förhållande till varandra, hur de styr handling och förståelse, och hur viktigt ett utvecklat språk är för ett nyanserat tänkande.

Å andra sidan har Wikforss rätt i att man måste vara försiktig och noggrann när (om) man pratar om observationens teoriberoende.

Intressant att jämföra William James epistemologi (och trollkarlarnas) med Wikforss d:o.

13 maj 2019

Förnuftets enigma

Snabbt nedklottrade tankar under och efter läsning av Mercier & Sperbers "Förnuft & fördom" ("The Enigma of Reason").

Efter de första sidorna:

Redan innan läsning är jag på min vakt. Inledningen får mig att stegra. Författarna verkar vilja lösa ett problem som inte finns. ”Varför skulle evolutionen gynna utvecklingen av ett defekt system?” (Ur Wikforss förord.) Det är en dum fråga. Men det finns flera bra svar på den. Och de är inte dem som författarna utvecklar. (Inte helt korrekt antagande från min sida, men fortsatt läsning ger mig ändå delvis rätt.)

Men det finns mycket intressant och tankeväckande här. Att flytta fokus åt det kulturella hållet är nog inte fel.

Jag tänker att författarna är konservativa hegelianer som jobbar baklänges från den hållningen. Samtidigt inkonsekventa: En långsam, organisk, oscillatorisk utveckling kan ju lika gärna tillämpas på evolution av vilken egenskap som helst, på vilken nivå som helst.

Men i hegelianismen ingår också en transcendent teleologi, och det är nog den som snärjer författarna - det är åtminstone den jag stegrar mig mot. De verkar anta att det finns ett visst mål, eller åtminstone en viss riktning, och att det är en metafysisk nödvändighet att vi dras mot det, oavsett hur stora omvägarna blir. (Men sakta i backarna, och ingen toppstyrning! Vi känner igen det från ex. Jordan Peterson.)

”En biologisk mekanism som beskrivs som en dåligt anpassad adaption är förmodligen en felaktigt beskriven mekanism.” (Ur inledningen.) — Fel, fel, fel! Varför skulle en anpassning vara ”färdig” eller optimal? Det är ju inte ens amatörmässigt evolutionärt resonemang. (OK, nu i efterhand förstår jag vad författarna menar. De har - delvis - redovisat och tagit hänsyn till andra alternativ: bieffekter, kompromisser etc.)

Och det handlar ju inte om huruvida vi har ”missförstått” vad förnuftet ska användas till. Det handlar om vad vi vill kalla ”förnuft”! Ett kategorimisstag. (Vilket delvis korrigeras efter hand, men min invändning kvarstår till stor del.)

En vän kommenterar och jag svarar:

Jag undrar hur det ser ut med det ideologiska användandet av ordet "förnuft". Har det blivit en konservativ darling?

Spontant tänker jag att "the rationality wars" har pågått i minst 30 år. Eller 300. Eller 2300. Jämför också "sunt förnuft". (Och efter avslutad läsning tänker jag att det knappt går att hålla isär alla olika användningar av orden "förnuft", "logiskt tänkande", "rationalitet" m.fl. i den här boken. De känns knappast konsekventa. Trots att just dessa författare borde vara extra noga med just det, och med att inte luddifiera ordet "förnuft" eller, ännu värre, "sunt förnuft".)

Efter två kapitel:

Jag har läst de första kapitlen nu. De är mycket bra och intressanta. (Tydligt om logik, ekonomisk beteendevetenskap.)

Efter halva boken:

Nu har jag läst halva boken, 8 kapitel. Det mesta är bra. En del är mycket bra. Jag håller med om det mesta, men tycker fortfarande att författarna överdriver det unika i sin tes, och strawmannar mycket annat.

Vem har påstått att system 1 tänker logiskt, eller system 2, för den delen? Inte jag iallafall.
Bayesianska neurala nätverk verkar vara en rimlig implementation av deras moduler, men de dissar dem i inledningen.

Jag gillar inte hur de hanterar begreppet ”implicita motiv”: Vem har påstått att orsaker måste representeras eller genomgå (medveten, symbolisk) manipulation?

Sedan är det det där med förnuft och rationalitet... Enligt författarna handlar det om ”effektiv kognition” som har varit evolutionärt framgångsrik och därför gör starkast anspråk på epitet som ”korrekt”, ”sann, ”objektiv”, ” med Verkligheten överensstämmande”...

Jag håller med, men inte helt. Å ena sidan: finns det någon skillnad mellan våra intuitioner och den rationella statusen för induktivt tänkande, och d:o för deduktivt sådant? Kanske inte, och isåfall är modus ponens inte en ”logisk nödvändighet” så mycket som en mycket pålitlig regelbundenhet (som därför känns intuitivt ofrånkomlig).

Å andra sidan: Klassisk logik är preskriptiv/normativ. Inte deskriptiv. Författarna gör stor affär av att beslå alla andra tänkare på området - även i modern tid - med en naiv bild av mental logik. Det är ju bara nys.

Slutligen: Den inledande berättelsen om Unabombaren m.m. säger inget om logikens status, utan inskärper endast Humes observation om ”skit in-skit ut”. Det är löjligt att blanda ihop kvaliten på premisserna med kvaliten på slutledningsproceduren. Författarna uppvisar stort skarpsinne på andra håll, så jag förmodar att detta är en retorisk figur som de tyvärr inte kunnat avstå, men som är under deras och läsarens värdighet.

Men annars: Det mesta är mycket insiktsfullt; dock inte lika unikt som författarna hävdar. Berättelsen kompletterar, snarare än ersätter eller motsäger, tvåprocessmodellen, så som jag tolkar den.
Inför andra halvan är jag på vakt mot den krypande relativism som hotar att komma fram när den normativa logiken nedgraderas till fördel för evolutionära processer, inklusive framtida samhällsliv och -debatt.

Efter avslutad läsning:

De har helt fel om Kahneman! För det första har han ägnat ett halvt århundrade åt att visa just att vi *inte* är logiska/rationella. För det andra, när han 2011 sammanfattar allt detta sägs det (än idag, t.ex. i Filosofiska rummet nyligen) att han "ställer allt vi trodde oss veta på huvudet", vilket inte stämmer eftersom vi för länge sedan övergav homo economicus etc., och som *om* det hade stämt hade gjort det ännu tydligare att han *inte* är en "intellektualist". För det tredje, och viktigast, han säger mycket tydligt i inledningen till "Tänka snabbt..." att system 1 och 2 är grova förenklingar som han - mot bättre vetande! - valt för att tydliggöra och förenkla framställningen. Han varnar läsaren för att ta dem bokstavligt! Är det ingen som faktiskt har läst boken!?

Halmgubbar om Johnson, Lakoff, m.fl. Scripts scheman, modeller, mekanismer för att förklara hur människor emulerar - eller inte! - logiskt/symboliskt tänkande etc... De är kognitionsvetenskapliga *modeller* - Herrejisses! Kognitionsvetenskapens viktigaste arbetsredskap är ju olika förklaringsnivåer och hanterandet av sådana. Ingen skulle komma på att skälla på Bohr för hans atommodell.

Trubbig kritik av biases och fallacies - men delvis förståelig. Det är knappast revolutionerande att fallacies oftast handlar om (ibland vinklade) listor av "misstag" som är kontextberoende. För många fallacies finns en diametral motsats - som också är en fallacy. Och för många andra handlar det - igen - om "skit in - skit ut". När är en kompromiss möjlig resp. omöjlig? Vilka auktoriteter är lämpliga att luta sig mot o.s.v.

Bäst i boken är idén om en metarepresenterande modul, som ev. föregår språk o tanke; en rimlig tillämpning av "intuitionsspåret".

Människor har en reptilhjärna. Ovanpå den en däggdjurshjärna. Ovanpå den en primathjärna. Och ovanpå den en neocortex som utvecklats för maximal flexibilitet, efter att först ha utvecklats för upprätt gång, löpning, verktygshantering, eld, kommunikation, socialt lärande.... Och det yttersta lagret, inbäddat i allt detta, består av kulturella moduler som byggs upp under individens levnad.

Kritiken mot Heyes är felaktig, hon förespråkar visst modularitet, och nyare moduler byggs under organismens livstid via social kulturell instruktion. Kritiken är märklig - hon, om någon, pratar om moduler - i samband med kulturell evolution. Moduler som vidmakthålls medelst kulturell överföring och som byggs med genetiskt betingade "starter kits" och assimilerade benägenheter.

Författarna missar helt genuin, snabb kulturell evolution och gen/kulturutveckling av  sådana benägenheter att forma "moduler" (Heyes "mills" eller mekanismer) under levnad. Sapolsky m.fl. betonar evolution av evolverbarhet - den mesta utvecklingen på senare tid (10000-100000 år) handlar om att ge maximal flexibilitet - inte rigida enheter. M&S framstår som konservativa evolutionspsykologer: "det går inte att önsketänka fram rationalitet ur naturgivna och oföränderliga egenskaper".

Den metarepresenterande modulen är en rimlig idé.

Toby & Cosmides ignorerar också kulturell evolution. (Många gamla referenser, för övrigt.)

Lite motsägelsefullt om Grice och kapprustning. Är vi godtrogna eller inte, och är det effektivt? Och varför inte mer om Grices maximer? (De motsäger ju till stor del författarnas kontradiktoriska scenario.)

Varför är den metakognition som modulerar vår tillit till egna övertygelser inte bättre? Och om den nu inte är pålitlig, varför skulle vi då inte vara mer epistemiskt vaksamma mot oss själva? (s. 239)

Inte övertygande om att självkritik vare sig förekommer eller skulle vara fördelaktigt. (s. 240)

Jag håller med om resonemanget om havssköldpaddorna, funktioner och sidoeffekter, s. 248-249. Det är precis så jag ser på Förnuftet.

Första citatet i min inledande drapa är Wikforss. Det kan vi bortse ifrån. Det andra är Sperber. Om man tolkar det som på s. 248-249 så OK. Men det är missvisande. Kanske översättning?

Konflikt mellan överraskning och backfire effect... OK att vi inte aktivt letar efter falsifiering, samtidigt som vi tillmäter sensationer stor vikt (”man bet hund”). Så confirmation bias är en slags lathet, brist på fantasi, evolutionärt rimlig. Men borde inte tydlig påtalad invändning fungera som överraskning? Varför motarbetas den också? Backfire effect undviks som pesten i hela boken.

Författarna glömmer konsekvent mismatch-diskussionen. (Tas upp kort i slutet av kap. 13.) Och det handlar inte om ”hundratals miljoner år” om vi faktiskt pratar om människor och språklig kommunikation.

Bekräftelsebias är ingen evolutionär gåta om vi ser den som relevansheuristik i reptilhjärnan. Men om nu djur inte har en sådan bias så är det endast de senaste 100000 åren som förklarar. Här har miljön ändrats snabbt, så den evolutionära logiken är mindre säker.

Nej, Förnuftet har inte utvecklats för ensam intellektuell, men idén om Förnuftet är en kulturell bieffekt.

Problemet är inte att psykologer m.fl. tror att det sitter en logikmodul i skallen som bara vill komma ut - utan att människor i allmänhet tror att de resonerar ”logiskt” när de egentligen är partiska, blinda och ologiska. Det är kognitiv ödmjukhet jag är ute efter. Och ännu större vaksamhet mot retorik och propaganda. Ofta är folk inte part i målet utan endast offer för övertalning och påverkan.

Tveksamt: att interaktionsmodellen förutsäger att vi är dåliga på att generera argument om vi inte får mothugg. Varför skulle vi vara bättre på att respondera på ”nej, så här är det” istället för ”nej, det köper jag inte”? Om vi vill övertyga andra så borde vi väl vara minst lika bra på att övertyga dem som *inte* är de mest svårövertalade?

Dialog är nog knappast den mest fruktsamma miljön för utvecklandet av starka argument, med tanke på psykosociala skäl, Interpersonal Deception Theory (Burgoon), stress, rädsla, oro, prestige, tidsbrist, fysiologiska responser, ångest, hot etc. Introverta göre sig icke besvär. Dessutom publik...

Ironiskt nog menar Sperber att vi är *mer* logiska när det passar oss än vad biases och fallacies antyder... ”Vi måste vara beredda att ändra uppfattning när vi konfronteras med tillräckligt starka skäl...” Men det gör vi ju inte - det är det som är problemet. Förnekelse, pseudovetenskap, konspiration, debunking, backfire......

Paul och Linda... lätt att acceptera rätt svar i efterhand. Men inte lika lätt i Wasons kortspel (egen erfarenhet från klassrummet) och ännu svårare i kombinatorik (lätt att övertyga om flera olika lösningar och svar) eller Gintis Tre damer.

Framhärdande av övertygelse + grupptänk = backfire effect... Det är ju inte bara bristen på oenighet utan också motsatsen som leder till dumheter (se där, en Bertillon i miniatyr)

Polarisering gäller minst lika mycket i kontradiktoriska grupper (jfr idealet med rättegången eller den offentliga diskussionen, dialogen).

M&S begränsar sig till gen-kultursamevolution och ser inte att kulturell evolution , för att inte tala om dess påverkan på individers uppbyggnad av moduler under sin livstid (benägenheter, evolution av evolution), drastiskt utökar den potentiella repertoaren (Heyes).

Bertillon ändrade sig aldrig... Antingen är den kontradiktoriska modellen evolutionärt framgångsrik, men isåfall för gruppen (vilket leder till jobbiga frågor om gruppselektion) och inte för individen - om det inte uteslutande handlar om övertalning snarare än sanningssökande, och isåfall måste övertalning vara viktigare för överlevnad än sanning. Eller så är mysidebias gynnsam för individen i en naturalistisk social grupp - men det kräver en ödmjukhet som sällan uppvisas.

Tveksam diskussion om att det beslut som är lättast att rättfärdiga inte också är (kan vara) det bästa beslutet, och att detta inte heller går ihop med en intellektualistisk syn på förnuftet. Förnuftet räddar ju dig - och oss - från godtycke, flummighet och relativism.

Att "köpa ett motiv" i efterhand kan lika gärna handla om att invänta en intuition.

Väldigt ambivalent om motiv för rationalitet: för att det ska se bra ut, vara lätt att rättfärdiga... Ja, det är väl just det som vi vill ha. Jag lurar inte mig själv om jag röstar på det parti som jag kan rättfärdiga - för mig själv likväl som för andra - snarare än det jag intuitivt, i förstone, dras till.

M&S föreslår att jag med mina elever gör Wason och Paul/Linda både individuellt och i grupp. Grupper har mycket högre lösningsfrekvens, vilket illustrerar Sperbers interaktionistiska tes om förnuftet, s. 324. Men om man jämför p för enskild lösning (≈0,2) med p för att *någon* i gruppen... (≈0,8)... 1 - (1-0,2)^n -> n = 5-7. Alltså: I en grupp med 5 medlemmar så bör det finnas åtminstone en som svarar rätt (och sedan övertalar de andra). Så det enda som krävs är att det korrekta svaret övertygar. Kanske stöd för författarnas resonemang men inte särskilt tungt. (I en fotnot på slutet nämner de vissa uppgifter och grupper där lösningarna blir bättre än någon av medlemmarnas individuella lösningar. Då blir det riktigt intressant. Men speciella omständigheter krävs.)

Ironiskt att de först avfärdar mental logik etc. men sedan menar att vi faktiskt *är* logiska när vi måste... Överhuvudtaget stor begreppsförvirring.

Kopplingarna till Tetlock och Fishkin är övertygande.

Vad är "tillräckligt starka argument"? Sådana som andra skulle acceptera att du lät dig styras av. Var finns ankaret? Risk för godtycklig drift, trots ett förment evolutionärt tryck mot överensstämmelse med Verkligheten... I så fall den sociala!

Både ha kakan och äta den... Förnuftet är passionernas slav - except when it isn't... Vad säger Bloom och Greene?

Filosofiska rummet... Wikforss och Gärdenfors om boken. Rodins tänkare är en förvanskning. Jo, tjena!

Relativistiskt om moral. (Missbruk av Hume.) OK om abolitionism och om vetenskap och det ensamma geniet. Men Kahneman sa ju detta för länge sedan: att vi kan och bör utvärdera andras argument.

Hur kan de påstå att Kahneman har bidragit till en individualistisk syn på logiskt tänkande?

Ja, vi är för bekväma och egenkära för att vara logiska. Det visste vi redan. Ingen bestrider detta! M&S påstår att andra hävdar att 1) vi är och bör vara inherent logiska, och 2) att alla tecken på motsatsen är "problem" för detta hävdande. Men ingen hävdar ju detta! Tvärtom: vi har (med en "extra hjärncell") lyckats extrahera logiska principer att mäta våra intuitioner mot, och när vi gör det - i grupp, över tid, eller inte - så har vi ett sätt att komma rätt (överens). Det är ironiskt att M&S både raljerar över "logik" som ett idealiserat fantasifoster (och potentiellt förtryckarvapen, försvarsadvokat för lustar och laster) och å andra sidan rättfärdigar intuitivt tänkande och långsiktig debatt med att slutresultatet (när är det slut?) faktiskt blir -- logiskt, förnuftigt....

På slutet kovänder de och tillstår att det ofta kan vara tvärtom... ensamma tänkare kan sikta mot och nå "universell giltighet"

Och angående matematik (och logik!) säger de att det funkar precis som avsett (bortsett från Gödel och påståendet att "inom logiken är de formella och de sociologiska tolkningarna av 'bevis' ganska lika".............!)

Så tillbaka till början: skit in - skit ut, visst. Men skäll inte på logiska resonemang, processen, för att premisserna är tveksamma.

"Från ett evolutionära perspektiv framstår idén om en superkraft behäftad med brister inte som särskilt logisk."


En modul för att göra intuitiva värderingar (slutledningar) om motiv. Vettigt. Med språk och tanke också (reflektera) generera medvetna slutsatser och motivkedjor.

Nej just det: Ingen logikmotor men väl en bas att kulturellt bygga logik - och sedan följa den.

Virtuell domänallmängiltighet OK - men inte generalitet? - och inte bred användning? Varför är det rimligt att intuitioner om motiv kan generaliseras till "förnuft" men inte till generella resonemang och logik?

Jämförelse med synen... Jag fattar inte... Det är klart att den är generell såtillvida att man kan betrakta både stolar och bord, men än sen, då?

De hade mått bra av att utgå från Dennetts "free floating rationales". En orsak behöver inte representeras i en individ - än mindre vara föremål för medvetet övervägande.

Dubbelprocessteorin säger bara att system 2 - i bästa fall - kan förstå (eller acceptera) logik - inte att den använder eller skapar logik.

M&S är förvånade över att andra forskare både kan säga att "förnuftet bör vara objektivt och krävande" och på samma gång acceptera (roas av) dess uppenbara brister... Jamen det är väl ingen motsägelse! Endast om man gör kategorimisstaget att "stoppa in" Förnuftet i hjärnan som en gudagiven, separat, "superkraft" (som modul eller distribuerad eller helhet). Men vem gör det?

På samma sätt gör de en halmgubbe av "det intellektualistiska synsättet" (vilket de själva mjukar upp på slutet): Det är ju just i relation till externa ramar och krav - regler, axiom, såväl som mothugg i debatt - som den enskilde förfinar sina tankegångar. Det ensamma geniet har inget att göra med hur man ser på förnuftets status, utveckling eller säte.

En "genuin anpassning [ska vara] adaptiv"... men vem har sagt att den är färdig, perfekt, kan operera utan störningar, restprodukter? Men visst, många av de intuitioner som vi på senare tid har utgått från i framtagandet av en preskriptiv logik kommer säkert från anpassningar som frambringats för att bedöma motiv.

Att säga att biaser m.m. är funktionella (!) är att bjuda in motsatt resonemang: Att Förnuftet (logiken) inte kan eller ska sträva efter objektivitet. Det är illa. Detta har ingenting att göra med vad man tror om mänsklig psykologi, eller om hur och varför den har utvecklats som den har gjort. Samarbete och socialt samspel i grupp kan mycket väl vara den nisch som frambringat de intuitioner om motiv som författarna beskriver, och kan mycket väl förklara en del av dessa biases, och ur vilken de kan ses som (goda, funktionella) anpassningar - för övertalning! Men det har inget att göra med hur modern politisk debatt m.m. bör se ut!

Tveksam översättning överlag. (Eller är det originaltexten?)

"Naturligtvis blir människor ibland förda bakom ljuset av ett argument. Den enda anledningen till att det händer är emellertid att de flesta argument inte är vilseledande och är lättare att bedöma än förment auktoritativa uttalanden."


"Varför skulle man någonsin ta ett argument på allvar om man inte hade möjlighet att objektivt bedöma argument?"

Hahaha! Vilken sten bor ni under?

"Om man frågar en psykolog som studerar det logiska tänkandet utifrån ett intellektualistiskt perspektiv huruvida människor är bättre på att ta fram eller på att bedöma argument är chansen stor att att denne inte förutsäger någon skillnad eller ens förstår logiken i frågan"


(Alternativt: Det finns inga "intellektualistiska psykologer".)

"Om det vore sant att vi är både godtrogna och tjurskalliga skulle det vara väldigt enkelt att sprida felaktiga nya idéer och väldigt svårt att förjaga gamla oriktiga uppfattningar."

Hahahaha! Duh! En jävligt stooor sten!

Och dessutom, plötsligt är vi uppenbarligen inte ens "partiska" längre.

Men gruppdiskussioner kan fungera bra.

Angående gruppselektion... "...fördelarna uppnås i ett socialt samspel, men trots det är de individuella fördelar." Jaha, men den övertalning som sker och de beslut som tas i gruppen - påverkar de inte hela gruppens vidare öden?

Väldigt flummig diskussion om gruppselektion och tillit. Inte ens författarna verkar övertygade. (troligen delvis ett resultat av översättningen, kanske dessutom i två led, franska-engelska-svenska?)

Varför inte ett ord om retorik och propaganda, i samband med övertalning och argumentation?

Ideologiskt motiverat (förstås!)


Jävligt svårläst, bitvis. Jag önskar att jag hade läst den engelska versionen, för jag undrar hur mycket som är författarnas fel och om det isåfall är språket eller resonemangen, begreppsförvirringen, som är knepiga.


Thore Husfeldt recenserar boken, och skriver bl.a.:

If reason sucks (as we know it does) how and why can it be used to overcome even worse intuitions? From a Darwinian perspective, there is even more of a puzzle: Reason clearly is maladaptive (leading humans to rationalise obviously unfit behaviour)—so how can it have evolved? For instance, is Reason just it a byproduct of a cognitive module that is actually useful? And if, with Kahneman–Tversky, we grant positive truth-finding powers to Reason, then why is this (allegedly fitness-increasing) module effortful?

Det gäller att skilja på "reason" - i bemärkelsen intuitioner - och "Reason" - de normativa regler vi har extrapolerat/uppfunnit/upptäckt. (Reason med stort R innebär alltså inte någon övertro på en platonisk himmel eller tillgång därtill. Ej heller någon ersättning eller kamouflage för bristfälliga, tveksamma eller godtyckliga utgångspunkter.)

reason - med litet r, alltså intuitioner, impulser, reflexer, instinkter - är inte maladaptive utan adaptive. Åtminstone för de ändamål de anpassats till, och i den tid och på den plats de utvecklats. Men vem har sagt att dessa ändamål, tider och platser någonsin varit tillräckligt stabila, eller att olika selektionstryck inte har gått på kollisionskurs? (kompromisser, bieffekter, nödlösningar, återanvändning, spandrels...

Mismatch, någon?

Låt oss för diskussionens skull säga att vi köper M&S redogörelse: Den innebär att reason är adaptivt. Det innebär *inte* att det är maladaptive i bemärkelsen att det lägger krokben för det sanna Reason. De är två olika saker.

Däremot har Reason säkert fått delar av sin inspiration från delar av reason.

Och varför skulle motivated reasoning producera eller stödja "obviously unfit behaviour"? Det är ju en contradiction in terms. Om vi är konsekventa med vilket reason vi talar om, och vilken tid och plats vi talar om.

Var hävdar Kahneman att reason har truth-finding powers? Är det isåfall truth eller Truth han pratar om?

Allegedly fitness-increasing... Vems fitness? När? Says who?

Om vi inte ens tror på det ensamma vetenskapliga geniet *nu* (eller tänk på Heinrichs exempel på människor som inte överlever en vecka utan sin grupp och ackumulerade kulturmönster) så har vi väl aldrig trott på den ensamma stenåldersmänniskan som en Robinson Crusoe?

Och även om vi *nu* hade varit solitära Truth-finders; om vi nu hade fått superkrafter - skulle det då ge oss - som enskilda individer - ökad fitness? I think not! Jag tänker på filmen "Idiocracy": Vem får mest avkomma? Inte är det geniet!

5 maj 2019

Machines Like Me: anteckningar under läsning

Följande är korthuggna anteckningar om tankar som dök upp under min läsning av Ian McEwans nyutkomna bok "Machines Like Me". Jag har nyss avslutat boken, och flera av mina funderingar har efterhand besvarats och upplösts, åtminstone delvis.

Om du inte har läst boken men funderar på att göra det, så ska du ABSOLUT INTE läsa nedanstående, eftersom innehållet skulle spoliera din läsupplevelse totalt. Men om du redan HAR LÄST boken så kanske det kan vara intressant att jämföra dina intryck med mina.

(extra blankrader följer....)

(......här börjar det)

Hur visste Adam att Charlie hade bjudit Miranda på middag när han precis laddats upp för första gången?

(De flesta frågor av denna typ kan förklaras med att Adam är påslagen även när Charlie tror att han inte är det.)

Varför säger Charlie att Adam varnade honom för hjärtesorg, när han endast varnade för möjligheten att Miranda inte var pålitlig?

Varför har Adam tillgång till konfidentiella register och databaser?

Hur och varför lyckades Adam koppla Miranda till våldtäktsfallet?

Miranda är inte älskvärd.

Miranda är ett endast ett objekt i ett klassiskt triangeldrama, typ Arthur och Lancelot. Inte trovärdig. Ytligt beskriven. Typiskt manliga författare?

Kul att Thatcher gillar tåg.

Skillnad mellan PSPACE och NP?

I början oklart om Turing visat att NP = P och vad det innebär.

Charlies egen redogörelse för detta är luddig. Medvetet från författarens sida?

Timingen av verklighetstrogen android vs AI... borde inte AI fått större genomslag långt tidigare? Hur kan den första underhållningsroboten vara så bra, medan världen omkring är relativt lik nutiden i övrigt?

Ganska uppenbart att Miranda också är en robot / "robot", eller åtminstone liknar eller t.o.m. förlorar gentemot en sådan... och kanske Turing också...

Turing säger att spädbarn är överlägsna androiderna, att deras lek och utforskande är extremt bra på att forma generaliteter utifrån ”ingenting”... Varför skulle androider ha så svårt för öppen lek? Och stämmer det verkligen att barn är så blanka tavlor?

Turing säger att P/NP ger omedelbara svar...

Oklart hur detta möjliggör framsteg och självmedvetande när maskininlärningen frikopplats från symbolism...

Och varför skulle nätverk ha en rationalistisk tendens som gör dem Spocklikt autistiska så att de hellre begår självmord än lever med verklighetens absurditeter?

Turing/Tesla... träffades väl aldrig. Svårt att skilja dikt och verklighet gällande Tesla.

"Consciousness is the highest value..." Verkligen? Varför? Androiderna känner uppenbarligen redan.... Avses målet att fortsätta utforska?

Tanken att AI-ångest kan få oss att äntligen bli mer moraliskt konsekventa är fin.

Vet Adam att Charlie har talat med Turing?

Lite krystat att Adams plan för Gorringe och Melinda inte ifrågasätts.

Intressant med depression, frivilligt förslöande och hjärndöd hos androider. Vissa fenomen liknar människor, biologi. Andra trovärdiga endast i maskiner. Medveten (eller inte) manipulation av källkod - känslor/tankar. Placebo. Hjärtesorg. Dö av brustet hjärta. Annat medvetet självförslöande?

Eve med självinducerad Alzheimer otroligt gripande. Först sorgen, sen omsorgen om ägaren och lidandet, sen ångern vid mötet med Adam.

Varför säger Mirandas pappa om Adam: "He'll do!"?

Aha! Har Miranda lurat honom medvetet? Varför?

Gorringe uppträdande märkligt. Inte trovärdigt.

Adams välgörenhet löjlig. Bättre förmera kapitalet. Han har ju inte tänkt lämna dem. Och vad händer med backupen?

Charlie tjänar inget på att döda Adam....

Inte rimligt att Mark får stanna om Mirandas brott och straff uppdagas...

Är Adams rättrådighet ett exempel på alignment, och är det isåfall lyckat?

Känsel... sexuell kontra slag i huvudet...

Varför inget om vart Adams medvetande och minnen tar vägen? Varför ingen eftersökning, återträff?