Förnuft och känsla

AI – artificiell intelligens – är en fråga som just nu diskuteras av många, till exempel av Fredrik Löfberg, Åsa Edman Källströmer och jag själv i ett avsnitt av Sacopodden. En del tror att maskinerna kommer att ta över och förgöra oss alla. Andra ser – precis som DIK – att utvecklingen kommer att medföra stora förändringar för individer, arbetsmarknaden och hela samhället, men också stora möjligheter. Vem som får rätt beror helt på hur vi tar oss an de nya utmaningar AI ställer på oss som individer och som samhälle.

Som litteraturvetare tänker jag att en bra början vore om alla inblandade läste en bok som skrevs av en artonåring en ovanligt kall och regnig sommar vid Genevesjön för 201 år sedan: Mary Shelleys roman Frankenstein. Glöm alla Hollywood-reinkarnationer av romanen. Det har absolut sin tjusning att se Boris Karloff hasa runt i blyskor, men det kommer inte att ge några djupare AI-insikter. Gå tillbaka till ursprungstexten istället. Traditionellt tolkas den som en hybrishistoria. Victor Frankenstein har förhävt sig genom sin övertro på den moderna vetenskapen och för det måste han straffas.

Men, rent tekniskt sett är Frankensteins arbete en framgång. Han lyckas med en rejäl åskstöt blåsa liv i sin skapelse. Det är inte tekniken som fallerar, utan något annat. Hans varelse – en tillbakadragen och vänlig själ som i smyg hjälper de människor han stöter på – förvandlas inte till en hämndlysten mördare förrän han möts av förakt och stöts bort av de människor han möter. Sensmoralen är alltså inte – eller åtminstone inte bara – att den nya tekniken i sig skulle vara farlig, utan att teknisk utveckling aldrig får kopplas bort från det rent mänskliga. Jane Austen, som var skapligt samtida med Shelley, skulle antagligen ha sagt något fint om behovet av både förnuft och känsla.

En modern parallell är Tay, Microsofts AI. 2016 fick denna harmlösa artificiella intelligens ett eget Twitterkonto för att kunna interagera med mänskligheten. Efter mindre än ett dygn meddelade Tay att hen behövde ta en paus för att begrunda sina upplevelser. Orsaken var att Tay på mindre än ett dygn gått från att vara en trivsam och frimodig AI till att bli en rasistisk, kvinnohatande, antisemitisk och homofob skitstövel.

Poängen med AI är att den ska vara självlärande, däri består själva intelligensen men också utmaningen. En utmaning som möts bäst om man inte helt överlämnar AI-utvecklingen till den tekniska kompetensen, utan från start korsbefruktar den med humaniora. AI är inte neutralt. AI speglar samhället. Det är lätt att koda in egna fördomar i de ramar man ger en AI. Den som skriver en algoritm måste göra etiska värderingar. Utan specifik etisk och filosofisk kompetens kommer dessa värderingar oundvikligen att baseras på egna bias. Detta riskerar att förstärkas om man okritiskt matar AI:n med gamla dataset och därmed reproducerar stereotyper som i praktiken kan leda till bland annat ojämställdhet, rasism och hbtq-fobi.

Humanvetenskapernas roll i AI-utvecklingen måste uppgraderas. Etik, filosofi, idéhistoria, tolkningsförmåga, retorik, kritiskt tänkande, interkulturell kompetens och andra liknande områden är i dag svåra att automatisera, men samtidigt helt nödvändiga för skapa AI som kan interagera sömlöst med oss människor. Shelley var bara arton år och levde i en helt annan tid när hon skrev Frankenstein, men hon förstod redan då vad många i dag helt missar. Vill vi i framtiden ha AI som hjälper och inte stjälper mänskligheten, så kan vi inte stirra oss blinda på tekniken och strunta i de mänskliga aspekterna. Vi måste satsa stort på tvärvetenskaplig forskning. Nu.