Varför mänskligheten måste förbereda sig för övermänsklig AI

Vi har i en rad inlägg de senaste åren beskrivit varför det är så viktigt att sätta in sig i utvecklingen av Artificiell Intelligens (AI). Det handlar om att förstå ett av de tre största samhällsutmaningar som vi identifierade i måndags när vi skrev om Peak Oil och gapet mellan hur mycket olja vi upptäcker och hur mycket vi tar upp. Det inlägget handlade i grunden om resursbrist, dvs oljetoppen är ett av många exempel som visar att vi nu nått en punkt där vi passerat eller är nära att passera högsta-nivån för uttaget av resurser (varefter uttaget måste minska år för år).

Ökat resursuttag och inte minskat hänger ihop med dagens samhällsbygge som är skapat med premissen om ekonomiskt tillväxt för en växande befolkning med ett ökat materiellt välstånd. Det planetära resursuttaget i form av olja och övriga fossila energikällor samt bortfallet av produktiv matjord, skogsskövling, insektsdöd mm sätter dock gränser för denna tillväxtmodell. När inte tillväxt genom materiell konsumtion/resursuttag funkar längre måste det ersättas av ett helt nytt sätt se på resurshushållning med begränsade resurser som ekonomi egentligen handlar om.

Det är en utmaning i sig men inte föremålet för detta inlägg. Det är dock viktigt att hålla resursuttömningen i minnet när vi talar om utvecklingen av artificiell intelligens då de hänger ihop. För det är inte bara de tekniska framstegen inom hård- och mjukvara som banat vägen för en AI-explosion bara de senaste 5-6 åren som tex gjort det möjligt för algortimer att tillsammans med ackumlerade egna erfarenheter i det som kallas deep learning, eller en ny form av maskininlärning, nu på många områden kan utföra uppgifter i paritet eller bättre än människor. Denna AI-utveckling  är även de pådrivna av en accelerande brådska och kapplöpning att nå en AI med generell övermänsklig intelligens, innan resursbegränsningar dikterar världsekonomins och människans villkor åt oss.

Många ser inte det större sammanhanget och de krafter som i okontrollerat tempo och utan eftertanke om dess potentiella oåterkalleliga följder driver på AI-utveckling. Många tänker därför att det vore toppen om vi lät någon supersmart AI hitta lösningar på klimatförändringar eller resursbegränsningar i synnerhet Peak Oil. Andra likt antroprologen Joseph Tainter har i sin bok "Collapse of complex socities" och även senare tillsammans med petroleum-ingenjören och en av världens ledande forskare på fossil energi, Tad Patzek i "Drilling Down: The Gulf Oil Debacle and Our Energy Dilemma" -varnat för att klimatförändringar och resursbegränsningar är det slutgiltiga beviset för att människans globala civilisation likt mayaindianernas högkultur (och många andra genom historiens lopp), inte kan lösas med ökade lager av komplexitet. Att även vår superteknologiska civilisation går mot en oundviklig kollaps om inte fundamentala förändringar görs i vårt förhållningssätt till planeten och naturen.   

Men sedan finns det en annan sida av myntet, nämligen att varken resursbegränsningar klimatförändringar är det största hotet mot vår planet eller snarare människans hieariska position som herren på den jordiska täppan. Vi syftar förstås på att en AI som ligger bortom människans kontroll och av till synes triviala skäl, likt människan utrotat tusentalts andra arter på planeten de flesta gånger helt oavsikligt, gör människan till en historisk parentes på den här planeten när den nått övermänsklig nivå.

Att få grepp om artificiell intelligens och varför det är ett större potentiellt hot för mänskligheten de närmaste 100 åren än något annat är för de flesta svårt att förstå. AI betraktas än så länge bara som häftig högteknologisk utveckling och även bland många av de forskare och företagsledare som har insyn i den senaste AI-utvecklingen i Silicon Valley är det mest coolt och alla kritiska röster drunknar snabbt i drömmar om att skapa världens genom tidernas bästa sätt att tjäna kopiösa mängder pengar. För den/de med den första AI:n som uppnår övermänsklig intelligens raderar all annan konkurrens inom loppet av veckor. För politiker eller företagsledare är det förstås det ultimata maktmedlet.

Men det här låter förstås som science fiction och många brukar snabbt lägga till "ja, men om det sker är det först om 50-100 år och då får vi ta det då".

Nej, AI-utvecklingen påverkar redan många människor och kommer bara öka i användning och accelerera i utberedningstakt. I Dagens Nyheter kan vi idag tex läsa om att 12 av 16 socialarbetare   
sagt upp sig i Kungsbacka kommun sedan kommunen beslutat att en AI ska ta över ansökningar till försörjningsstöd

I Kungsbacka sade 12 av 16 socialsekreterare upp sig när kommunen beslutade att en robot ska ta hand om ansökningar till försörjningsstöd. Kommunen motiverar det hela med resurseffektiviseringar som ska komma samhället till nytta genom att hjälpa invånarna att komma i arbete på ett lika framgångsrikt sätt som gjorts i Trelleborg där en AI redan frigjort många arbetsuppgifter för kommunen. Socialarbetarna som nu slutar pekar på att Trelleborg har en arbetslöshet på endast 3 % och att Kungsbacka kommuns utgångspunkt att 85 procent av de som har försörsjningsstöd ska kunna arbeta inte är någon naturlag och kan därför inte appliceras i Kungsbacka där många lider av psykisk ohälsa och neuropsykiatiska diagnoser tex.

Exemplet är bara början på en utveckling som vi kan vänta oss öka såväl bland kommuner som företag som både sparar resurser och dessvärre öppnar dörrar för att undgå mänskligt ansvar om felbeslut eller försämrad service kan skyllas på AI-omställningen eller rent av styrelsebeslut av en AI. "Vår styrelsemedlem Mr Wiseman 1 kom fram till att det var bästa beslutet, hur kunde vi veta att det skulle gå fel?, den är ju intelligentare än vi").

Redan för ett år sedan ersattes 34 anställda på ett försäkringsbolag i Japan av en AI och det finns redan minst ett riskkapitalbolag som har en AI i sin styrelse...

Men vad kan vi då göra? För det första måste vi förstå riskerna och vad som sker just nu för att kunna skapa vägar framåt som minskar riskerna för att AI-utnyttjas av ett fåtal människor för sin egen vinning som resulterar i att övriga människor far illa. Vi måste även vara på det klara med att de mesta talar för att det inte är en fråga om utan när en övermänsklig AI utvecklas och att detta är det potentiellt största genombrottet och existensiella hotet människan någonsin stått inför och måste därför behandlas som sådant och inte som världens bästa och snällaste bamsebjörn.  

En av världens ledande experter på artificiell intelligens är svensken Nick Böström, professor i filosofi vid Oxford University och grundare av Future of Humanity Institute. Är det någon bok man ska läsa för att sätta in sig i AI är det Boströms bok Superintelligens- Vägar, faror och strategier
som nyligen översatts och getts ut av Fri Tanke förla som även gav ut vår bok Olja för Blåbär-Energi, Makt och Hållbarhet.

I Superintelligens som är lika omskakande som insiktsfull och lärorik visar Boström att världen står inför en omställning som de flesta av världens ledande AI-forskare troddev var omökligt eller låg 100 år framåt i tiden men enligt Boström sannolikt kommer förändra alla människors liv inom år och årtionden. Det finns många citat och resonemang att hämta från boken. I början av boken citeras matematikern I. J. Good som arbetade som kodknäckare tillsammans med Alan Turing under andra världskriget (Turing som allmänt beskrivs som geniet bakom den första fungerande datorn) från 1965:

"Låt oss definiera en utraintelligent maskin som en maskin som vida kan överträffa alla intellektuella aktiviteter hos en människa hur smart hon än är. Eftersom konstruktion av maskiner är en av dessa intellektuella aktiviteter skulle en utraintelligent maskin kunna konstruera ännu bättre maskiner; utan tvivel skulle en "intelligensexplosion" då inträffa och människans intelligens skulle hamna långt efter. Den första ultraintelligenta maskinen är alltså den sista uppfinning som människan någonsin behöver göra, förutsatt att maskinen är foglig nog att tala om för oss hur man håller den under kontroll" (vår fetmarkering och understrykning).

Boström tar upp många exempel där AI redan passerat människan och nått övermänsklig nivå. Det är därför noterbart att Boström i boken som alltså gavs ut 2014, uppskattade att en AI skulle uppnå en nivå för att kunna slå de bästa mänskliga spelarna i det avancerade kinesiska brädspelet GO inom lopppet av ett årtionde. Men detta skedde redan tre år senare, 2017, när företaget DeepMind (numera under Google) med sin AlphaGO AI.  På endast 7 dagar från att AI:n fick börja lära sig detta brädspel som är mångfaldigt mer komplicerat än tex schack, kunde AI:n genom att spela själv bli bättre och bättre för varje minut och dag. Den nivå som AI:n nu nått har utvecklat lett till att nya revolutionerande spelstrategier utvecklats som nu studeras av världens ledande GO-spelare. 

Vi vill därför understryka att när DN i artikeln om socialarbetare som ersätts av en AI-algoritm, pekar på Stiftelsen för strategisk forskning som i en rapport bedömmer att hälften av alla jobb i Sverige kommer ersättas av digital teknik (läs huvudsakligen AI) de närmaste 20 åren, är detta sannolikt lågt räknat och kan ske snabbare än så. För varje nytt jobb en AI ersätter går det snabbare att ersätta nya och fler områden i takt med AI-robotar och mjukvara blir tillämpbara för nya applikationer/användningsområden. Det blir dessutom svårt att inte använda AI när konkurrenter gör det vilket ytterligare accelerar användningen.

Läs Nick Boströms bok Superintelligens-Vägar, faror och strategier.

Kika gärna även med fördel på Nick Boströms presentation nedan.