Experten som människa eller programvara
För 55 år sedan påpekade Hannah Arendt att auktoriteterna hade försvunnit. Är det ett av vår tids största misstag att tro att vi har slutat tro på auktoriteter? Vi kanske tror mindre på kungen, kyrkan och adeln men dagens auktoriteter är expertisen.
I ett modernt välfärdssamhälle antas ansvarstagande människor lyssna på experter och följa deras råd. Politiker vill gärna hänvisa till oberoende rapporter, eller deras politiks faktabaserade underlag. Experternas makt kan komma rätt nära individen och individens rättigheter, vi behöver inte tala om tvångssterliseringar så mycket som att Socialstyrelsen rekommenderade 6-8 brödskivor om dagen.
Veckans skifte handlar om experten i samhället hur vi fattar beslut.
Traditionella experter har ännu stort inflytande, men ett nytt skifte verkar vara på väg?
Johan Bahlenberg och tidskriften Fokus kommer med en uppseendeväckande artikel efter de finansiella beslutsmodellernas krascher; Glöm doktorn fråga datorn. Det är smarta system som tas upp, statistiska modeller gör bättre förutsägelser än människor.
Ett alternativ till det smarta systemet verkar vara det distribuerade beslutsfattandet.
Vi kan se det i Juliagruppen, i den strukturomvandling av partierna som att dricka liberalt beskriver (kolla deras intressanta prognos av valet 2010), i den roll som intellektuell agregator som Joakim Jardenberg uppfyller, eller i Our Visby Agenda av bland annat Joakim Lundblad.
Expert brukade betyda någon som har erfarenhet, rör det sig nu mot att det inte ens är en person? Mot att en datormodell eller ett nätverk tar över beslutsfattandet?
Vilka risker och fördelar kan vi se med utvecklingen?
Mitt föredrag på Ars Electronica handlade lite om detta, eller snarare vad ”moln-intelligenser” kan och inte kan uppnå. Kan inte säga att jag har en generell slutsats, men för vissa sorters problem verkar den individuelle experten inte nödvändig. Har man tillräckligt en tillräckligt stor kunskapsbas, feedback, felkorrektion, och kanske stöd av ”superkunskap” från stora databaser så utklassar man lätt experten.
Experten har ett annat problem också: ökande kompetens har avtagande marginalnytta. Scott Armstrong argumenterar i sin fortfarande läsbara bok Long Range Forecasting att man ska hyra en billig expert, i varje fall när man ska fundera på framtiden. Ju mer expertis någon har desto bättre förutsägelser får man, men kurvan är kraftigt konvex. Skillnaden mellan Nobelpristagaren och medelexperten är mindre än mellan medelexperten och amatören – och medelexperten är mycket billigare än Nobelpristagaren. Kanske är nyttan av stor expertis större på vissa områden, men Robin Hanson har påpekat att experter kanske inte anstränger sig så mycket att producera de bästa tänkbara svaren (pdf). Om avnämarna inte kan avgöra hur bra analysen är (de är ju inte experter) och det kostar för experten att ge ett bra svar är det lätt för experten att slacka.
Kanske är lösningen ”scientific connoisseurship” – förmågan att avgöra vilken sorts uttalanden och källor man kan lita på, utan att för den skull försöka bli expert själv. Ju fler som har denna förmåga, desto mer kan man dra nytta både av de distribuerade kunskapskällorna och de specifika experterna.
Det är ett skifte som har två sidor. Den politiserade experten som dominerade det senaste årtiondet, och kunskapsmarknader och boken Super Crunchers beskrivning av matematiska modeller.
En trevlig introduktion till vad grupper kan och inte kan uppnå som jag råkade läsa idag är Cass Sunsteins bok Infotopia. Han oroar sig en hel del över gruppkognitionens dåliga sidor, från grupptänk till omedveten polarisering (han kritiserar Habermas deliberativa demokrati, eftersom inte all diskussion producerar bra demokrati eller bra beslut) men är stor fan av wikis och informationsmarknader.
Det finns väl många saker att säga om det här ämnet. Det första är Clay Shirkys argument att experten anlitas eftersom det finns en infrastruktur för att hitta experter (typ universitet) även om det finns amatörer som har samma kunskap. http://infontology.typepad.com/infontology/2007/06/varfr-anlita-en.html
Jag har liksom Bahlenberg i Fokus förläst mig lite på Ayres Supercrunchers. En riktigt bra bok, fast lite otäck. Men när jag tycker att vi ska överlämna beslut åt beslutssystem så tänker jag att det finns vissa saker som vi ska ha människor att bestämma över — kanske för att vi själva är just människor.
@Simon Winter
Intressant, det första punkten tar Joakim Lundblad upp i sitt svar.
Den andra punkten om boken Super Crunchers får mig att fundera över hur lätt människor tar till sig autonoma system? Jag har några svar på gång.
Simon har en bra poäng. Om det faktiskt visar sig att en etikprofessor eller ett kort program gör ett bättre jobb att tala om vad man ska göra än vad man själv funderar ut (mätt med ens egen måttstock), borde man då inte automatiskt följa denna professor/detta program? Men de flestas intuition – även hos de annars benhårda nyttoetikerna här på fakulteten – är att man bara ska ta dessa instruktioner som råd. Vi värderar vår autonomi väldigt högt, eller så känner vi en misstanke om att korrektheten i råden inte kan vara komplett (vilket nog ofta är fallet i verkligheten). Kanske är det lite som hur femåringen inom en surt vägrar följa andras välmenande och uppenbart korrekta instruktioner eftersom man inte vill erkänna att man har fel.
Samma sak sker ofta med expertis. Mitt favoritexempel är hur kriminologers och drogforskares resultat ignoreras av beslutsfattare (vi har haft en del närmast parodiska fall här i England) – slutsatsen kanske är korrekt, men man vill inte ta den implicerade policyändringen. Här kan det finnas politiskt rationella skäl (väljarna kanske faktiskt inte vill ha en ändrad drogpolitik, även om den skulle göra saker bättre för dem – beslutsfattaren ser som sin uppgift att bli omvald, inte att göra saker bra). Men jag undrar om inte en del beslut faktiskt är mycket signalering av egen eller institutionell autonomi. Här ska det inte komma några experter och säga att vi har fel!
Det är inte bästa timingen att behandla Super Crunchers från 2007 av Ian Ayres. Finanskrisen har varit ett enormt bakslag för statistiken som vetenskap. Vilket kan vara orättvist mot statistiken, för det var ju trots allt människor som satte sin tilltro till en viss typ av användning.
Tyvärr verkar debatten kring statistik antingen hamna i tron på att statistik löser alla problem eller landa i det överanvända citatet av Mark Twain om statistiken som förbannad lögn. Ingen av extremerna ser till förutsättningarna. Statistiken har sin roll i den praktiska tillämpningen av teori, inte i att utveckla teori.
Så är Ian Ayers, i en annars tänkvärd bok, väl optimistisk i Super Cruncher om vilken roll data analys spelar. Främst då Ayers inte går ut på fältet och ser vad som sker på lokal nivå. Förvånansvärt lite sjukvård är evidensbaserad…
Ja, efter finanskrisen är det väl snarare The black swan man ska läsa. Fascinerande hur saker blir mer ”sannolika” just eftersom de är oväntade/osannolika, enligt den bokens resonemang, men svårt att bygga in ”det oväntade” i ett expertsystem.