Inför den här reflektionen har jag läst kapitel 6 i Elements of AI samt kapitel 6 i boken AI i skolan (Nygren, 2023). Jag bygger vidare på det jag läst och skrivit hittills under kursernas gång, och hänvisar till mina tidigare reflektioner (Bengtsson, 2024a-b).
Det område jag vill uppehålla mig vid är den yrvakna, naiva och överdrivet optimistiska behandling som den nuvarande teknikutvecklingen ges.
Boken ”AI i skolan” är den bästa allmänpedagogiska bok jag har läst. Den varnar helt korrekt (men alltför sent) för att låta barns och ungdomars liv genomsyras av digital teknik, skärmar och sociala medier, och den förespråkar ett pedagogiskt ”back to basics”. Författaren uppmanar också skolan att ”vara lite långsam och försiktig i utvecklingen” (s. 229). Så långt, så väl.
Boken är å andra sidan alltför teknikoptimistisk, samtidigt som den kategoriskt och grundlöst underskattar teknikens verkligt revolutionerande kraft. Inte minst kapitel 6, ”Fördel människa”, är en lång uppräkning av lugnande påståenden om att AI inte utgör något existentiellt hot mot oss - vare sig rent praktiskt eller när det gäller vår självuppfattning som unikt intelligenta, kloka, empatiska etc.
I boken heter det t.ex.: ”AI har emellertid ingen inbyggd förståelse för världen eller en underliggande botten av meningsfullhet” (s. 226); ”Att förstå andra människor på djupet är så klart omöjligt” (s. 231); ”AI har varken sunt förnuft eller omdöme” (s. 232); ”algoritmer saknar förmåga att förstå eller värdera den kulturella, historiska och sociala kontexten i vilken data genereras eller används. AI kan inte själv sätta upp mål eller reflektera över sig själv” (s. 232).
Jag undrar hur författaren motiverar dessa påståenden. Jag undrar också vad det är för hemlig ingrediens som författaren (och alla vi andra människor) har tillgång till som gör att vårt tänkande (m.m.) skiljer sig så självklart, radikalt och kvalitativt från konstgjorda mekanismer. Är det magi?
Här vill jag understryka att jag har en lång bakgrund inom data- och kognitionsvetenskap, och att jag sedan länge har följt forskningen inom AI, och specifikt den om existentiella risker med AI. Till skillnad från de många tvärsäkra uttalanden om AI:s fundamentala begränsningar som så ofta kastas fram utan underbyggnad - som om de vore självklart sanna och motsatsen otänkbar - så visar en växande litteratur allt tydligare hur svårt det är att skilja artificiellt från mänskligt tänkande. Framförallt visar denna litteratur på möjligheten att vi mycket snart helt förlorar kontrollen och att AI tar över - och att detta utgör ett mycket allvarligt hot mot mänskligheten. Detta hot kan om möjligt bli ännu större i den mån AI skiljer sig från mänskligt tänkande och värderingar.
Nygren konstaterar korrekt att vi måste försöka ”komma överens med AI” (s. 233). Jag önskar förstås att det är möjligt, men det faktum att vi vill samexistera med AI - på våra villkor - innebär inte att vi kommer att kunna göra det.
Prompt-skapande (prompt-engineering) är ett konkret exempel på hur traditionell pedagogik kan överföras till en digital miljö. Samma kunskaper och färdigheter används här som inom all form av intellektuellt arbete och bildning, sedan tusentals år. Men att det är ”rimligt att anta att prompt-engineering kommer att vara en viktig kompetens på arbetsmarknaden” (s. 235) låter naivt och kortsiktigt i mina öron. Jag tänker t.ex. på hur det för inte länge sedan hette att alla nu måste lära sig grunderna i datorkunskap och, lite senare, programmering - projekt som snabbt övergavs och vars misslyckande och irrelevans tystades ner.
Jag uppskattar Nygrens betoning av ämneskunskaper, öppenhet, intellektuell ödmjukhet och kritiskt tänkande. Däremot är jag inte säker på vikten av mänskliga relationer framöver.
Kursen ”Elements of AI” - och många, många fler, varnar återkommande för ”jordnära” problem med AI, såsom manipulation, hallucination, fake news, deepfakes, algoritmisk diskriminering och bias, brist på transparens, ökad konkurrens på arbetsmarknaden, integritetskränkningar och övervakning, polarisering och dolda intressen. När det däremot gäller existentiella hot (se ovan) säger man: ”Ganska många förutsägelser kan vi redan på förhand klassa som strunt.”
De argument som framförs för att någon risk för existentiella hot inte föreligger är:
a) att tidigare tekniker varit begränsade och att vågor av entusiasm har dött ut;
b) att ”smal AI” inte kan övergå i ”bred AI” (en distinktion som inte längre håller);
c) att ”superintelligens” inte kan uppstå ur ”automatiserade slutsatser”;
d) att (ett ondskefullt) medvetande krävs för att en AI ska utgöra ett hot
e) att ”terminators” är science-fiction och därmed något man kan skratta åt (som om mördar-robotar är den enda form av hotfull AI man kan tänka sig)
f) att en singularitet inte kan uppnås genom exponentiell självförbättring eftersom de marginella vinsterna krymper
Det sista argumentet är det enda som är värt att ta på allvar - och det görs också bland dem som arbetar med dessa frågor på ett seriöst sätt. Men även om det vore sant (vilket är långt ifrån klart) så är det inte mycket till tröst. Utvecklingen går redan så snabbt att även om takten minskar så riskerar vi mycket snart att tappa kontrollen.
—
Elements of AI tar även upp omvälvningar på arbetsmarknaden, och här låter man fortfarande ungefär som den klassiske ekonomen David Autor (2015), vilken för snart tio år sedan hävdade att den pågående revolutionen på arbetsmarknaden är ytterligare en i raden av liknande omvälvningar, och att dess konsekvenser i stort kommer att bli hanterbara. Man menar att tekniken förvisso skakar om samhället rejält men att en ny jämvikt snart kommer att infinna sig, där människor hittar nya tjänster och produkter att utbyta mellan varandra, medan AI och robotar gör ”grovarbetet”.
Jag tror att både Elements of AI och Autor grovt underskattar effekterna av den nuvarande utvecklingen och luras av sina egna liknelser med exempelvis elektricitetens införande. Autor utgår från att människor alltid kan hitta unika sätt att underhålla varandra och därför kan utbyta tjänster även då tekniken tar över allt fler områden. Vad Autor inte verkar kunna föreställa sig är att maskiner blir bättre på att tillfredsställa mänskliga behov än vad andra människor är - trots att detta delvis varit fallet ganska länge redan (ex. datorspel). Redan idag kan vi se hur människor föredrar och påverkas mer av digitala system än av sina fysiska och sociala omgivningar.
—
Om vi överlever och samhället inte kollapsar - vilket jag tror är mindre sannolikt än motsatsen - så skulle vi alla kunna arbeta mindre och njuta mer av livet och varandra. Men det kommer inte att hända, av samma orsaker som gör att det inte redan har hänt: främst egenintresse, kortsiktighet, koordinationsproblem och kapplöpningsmekanismer.
Jag tror inte att det är rimligt att utgå från att vi ska kunna styra oss igenom den här utvecklingen med befintliga samhällssystem och rutiner inom exempelvis utbildning. Vi måste inse att en bildlig komet är på väg att slå ner på jorden. Om vi ska ha en möjlighet att hantera den så måste vi alla genast ta hotet på större allvar och kraftsamla. Framförallt måste vi utgå från tydliga och starka visioner om hur vi vill leva tillsammans, och styra (hårt) efter dem, istället för att låta tekniken styra utvecklingen och därmed oss. Det innebär att vi mycket snabbt och radikalt måste omstöpa våra nuvarande politiska, ekonomiska och samhälleliga institutioner och rutiner. Vad jag ser istället är en styvmoderlig inställning baserad på tröghet, önsketänkande och undertryckt rädsla.
Referenser
Autor, D. (2015). Why Are There Still So Many Jobs? The History and Future of Workplace Automation. Journal of Economic Perspectives, vol. 29, nr. 3, s. 3-30. https://pubs.aeaweb.org/doi/pdf/10.1257/jep.29.3.3?mod=article_inline
Bengtsson, B. (2024a, 13 oktober). UNESCO:s AI competency framework for students. https://bjornbengtsson.blogspot.com/2024/10/unescos-ai-competency-framework-for.html
Bengtsson, B. (2024b, 13 oktober). Reflektion över AI i utbildning och arbete. https://bjornbengtsson.blogspot.com/2024/10/reflektion-over-ai-i-utbildning-och.html
Nygren, T. (2023). AI i skolan: Utmaningar och möjligheter i undervisningen. Natur & Kultur.
Inga kommentarer:
Skicka en kommentar