Nej, AI är inte ett mindre hot än klimatet och inte "långt bort i framtiden"

Igår var en av bloggens läsare på plats i Almedalen på Gotland för att för bloggens räkning bevaka ett seminarie anordnat av Vattenfall på temat Artificiell Intelligens (AI) med titeln: "AI – lättare liv men svårare val".  Panelen skulle diskutera:

"Nya teknologier som maskininlärning och AI, Artificiell Intelligens, är redan här. För energikunder kan det ge nya möjligheter till bekvämlighet, miljönytta och kostnadsbesparing. Vilka legala och etiska frågor finns?"

Panelen bestod av Anna Felländer -medlem i regeringens digitaliseringsråd och senior rådgivare, Boston Consulting Group, Darja Isaksson -medlem i regeringens innovationsråd, entreprenör, nyutnämnd GD, Vinnova och Karl Bergman -chef forskning och utveckling, Vattenfall. Moderator var Sofia Mankert, Vattenfall.

Paneldiskussionenerna bjöd på en del intressanta perspektiv och vi rekommenderar att ni kikar på den (se slutet av inlägget) men fokus låg på AI:s enorma affärsmöjligheter såsom tidsoptimering, resursbesparing, individanpassade tjänster osv och tyvärr blev samtalen väldigt obalanserade. För även om en del av riskerna med AI berördes tonades de ner eller avfärdades som något vi möjligen får hantera långt in i framtiden, rent av att de var "teoretiska hot". Det är förstås rent nonsens för den som är insatt i utvecklingen inom AI och tänker ett par vändor något vi ska göra i detta inlägg.

Vi var inte på plats rent fysiskt men följde sändningen live och hade alltså en tentakel på plats, en av bloggens läsare som fick ställa nedanstående fråga åt oss (24.04 in i videon):

"Nick Boström har ju varnat för att vi kan nå generell AI mycket snabbare än de flesta tror. Kanske inom 15-20 år. Innan dess måste AI demokratiseras. Hur får vi som kunder i Vattenfall insyn i hur AI används så det ej missbrukas?" 

Karl Bergman från Vattenfall svarade att det är lite därför de har sådana här seminarier och att det krävs transparens för att undvika situationer likt Cambridge Analytica som skadar företag samtidigt menade han att det inte går i detalj att låta kunderna "bocka för" vilken data som de vill eller inte vill ska användas för olika tjänster.

Vad vi slås av när vi hör beskrivningar av AI likt i den här paneldebatten är avsaknaden av djupare insikter om farorna. Det är förvisso jättebra att de lyfter en del av de etiska frågorna som hur enorma datamängder kan bilda beslutsunderlag för AI där endast kostnadsreduceringar och vinstoptimering blir det som styr en AI:s riktning/beslut för att algoritmen utformats så eller för att större delen av datan går i den riktningen, till nackdel för individer, vissa grupper eller den personliga integriteten. Men det räcker inte att vi bara "utbildar" de som programmerar alogritmerna när de flesta människor inte ens känner till hur AI kan och kommer att användas och hur det faktiskt kommer att förändra samhället och därmed människors politiska och ekonomiska möjligheter.

Det går förstås inte att stoppa AI-utvecklingen men påverka den gör det om det görs tidigt. Kanske accelerar AI-satsningen inte bara för att företag och nationer vill bli först med att skapa sig den ultimata konkurrensfördelen med att nå en AI-Singleton, en AI som är vida överlägsen alla andra AI-verktyg och kan dra ifrån i en ointaglig ledning, kanske drivs AI- utvecklingen även på av människor som ser det som enda möjligheten att möta klimathotet och andra systemkriser som vi människor som kollektiv till synes inte klarar att lösa själva. Men vi får aldrig glömma att det glimrande guldet på utsidan av pandoras ask kan vara förädiskt.

Sedan är det självklart också vikigt att belysa de möjligheter som AI redan skapar inom tex vården för att screena ovanliga typer av cancer. En vän till Johan vi Karolinska Sjukhuset i Stockholm har nyligen berättat hur det som för bara 4-5 åren sedan tog 1-2 månader och involverade olika kluster av skilda expertgrupper nu koordineras och granskas med AI-verktyg där interdiciplinära sökvägar och metoder snabbsöks av en AI som nu kan ge behandlingsunderlag inom loppet av ett par dygn.

En stor del av den forskning som sker vid Karolinska Institutetoch inom sjukvården generellt nu, involverar AI för att hitta praktiska medicinska tillämpningar. Det är inte teori utan hands on. Det finns många andra positiva exempel att lyfta inom sjukvården där AI-verktyg för tex röntgen-analys redan är i paritet eller bättre än många läkare. Med andra ord kan AI-verktyg kan redan nu rädda liv.

Detsamma gäller förstås inom utvecklingen av självkörande fordon och inom många andra områden där AI kan bidra till sollra data och ge beslutsunderlag som kan underlätta för människors liv och spara resurser.

Men alla tre i panelen faller platt för det kanske vanligaste antagandet och okunskapen, att ett potentiellt existenstiellt eller om så bara djupt skadligt AI-mot mänskligheten ligger "långt bort i framtiden". Ingen vet förstås med säkerhet exakt när AI-nivån når generell övermänsklig nivå, en del tvivlar på att det ens är möjligt dvs när en AI når en nivå som överstiger hela mänsklighetens kollektiva intelligens. Men när Elon Musk, Max Tegmark, Nick Boström och Sam Harris, personer i spetsen av AI-forskningen varnar för att allt inte bara talar för att vi kommer nå dit, utan att vi når det dit mycket snabbare än de flesta tror, dvs inom ett par årtionden (eller tidigare) och inte 50-100 in år i framtiden -bör vi stanna upp ett ögonblick och fundera vad det innebär.

För nästa gång någon säger att vi inte behöver oroa oss för existensiella AI-hot eller som hävdar att AI-hot möjligen ligger långt in i framtiden, bör vi påminna om en bra liknelse som Sam Harris ofta tar upp när han bemöter sådana uppånedvända och ologiska påståenden: 

Om mänskligheten visste att en övermänsklig intelligens skulle anlända till jorden om 50-100 år in i framtiden, skulle vi då vänta till sista minuten för att förbereda oss för dess ankomst? Eller skulle vi inleda ett Manhattan-liknande projekt där mänskligheten på bästa möjliga sätt förbereder sig och minimerar riskerna med ankomsten av en övermänsklig AI och dess potentiella följder för människan? 

Vi vill verkligen varna för uttalanden av så kallade experter på AI som påstår att "eventuella AI-hot kan vi fixa sen" då vi menar precis som Sam Harris och många andra att det är en fundamental tankevurpa och ett dåraktigt resonemang helt taget ur luften, utan insikt om AI-utveckling idag och vad den är på väg. För vi kan inte fixa AI-hotet sen. När vi väl når generell AI-nivå finns det inga "quick fixes" (enkla lösningar) eller ens någon kontrollerbar väg tillbaka som mänskligheten styr över. Det skulle kunna bli fantastiskt men också helt...ja ni hajar.

Men det är bara ena sidan av problemet med den snabba utveckling av AI just nu. Långt innan vi når ett potentiellt existensiellt AI-hot kan AI-verktyg missbrukas av enskilda företag och nationer som ett sätt att styra utvecklingen i en för dem fördelaktig riktning utan att andra varken kan påverka eller se vad som sker. Vi talar inte bara om att skapa smarta appar, läsa av och styra människors energianvändning, skapa självkörande fordon mm utan hela beteendespannet: Kontroll av människors vanor, politiska åskådning och ekonomiska möjligheter. Det kommer nämligen gå att manipulera människor och företag genom AI-beslut som i allt större utsträckning kommer tas av AI:n själv men under en övergående period styrs av de algoritmer ett fåtal människor utformat för att sortera och hantera data utifrån ett begränsat antal uppsatta kriterier.

Riskerna med detta är uppenbara. Några få människor eller företag skulle som Nick Boström beskriver i sin bok Superintelligens - vägar, faror och strategier, få ett aldrig tidigare skådat inflytande på ekonomi och politik som får allt annat att blekna i jämförelse. Något som även beskrivs i det inledande kapitlet av Max Tegmarks mycket läsvärda bok "Liv 3.0" om det så kallade Omegagänget som genom att bli först med att utveckla en superintelligent AI kör ifrån alla andra och snabbt blir världens rikaste och mest inflytanderika gäng i mänsklighetens historia...          

I kapitlet om Omegagänget i Max Tegmarks bok Liv 3.0 nämns ett citat från matematikern Irving Good från 1965 som är värt att fundera lite kring:

"Låt en ultraintelligent maskin definieras som en maskin som vida kan överträffa människans alla intellektuella aktiviteter oavsett hur begåvad hon är. Eftersom skapandet av maskiner är en av dessa intellektuella aktiviteter kan en ultraintelligent maskin konstuera ännu bättre maskiner; det skulle då odiskutabelt uppstå en "intelligensexplosion", och människans intelligens skulle hamna på efterkälken. Den första ultraintelligenta maskinen är således den sista uppfinning som människan någonsin behöver åstadakomma, förutsatt att maskinen är tillräckligt foglig för att säga åt oss hur vi ska kontrellera den". 

Frågan kring hotet om AI tycks bestå av två centrala delar, dels hur långt in i framtiden det tar innan vi når en utltraintelligent AI-nivå/generell AI och hur snabbt den sedan kan bli ett existensiellt hot för människan. Vi tror att problemet till att vaför de flesta människor inte reagerar när det kommer till AI (och andra hot som klimathotet, Peak Oil osv) är att de flesta människor inte kan skilja på exponentiell utveckling och vanliga S-kurvor. Med andra ord skilja mellan utveckling som först knappt märks sedan plötsligt är noterbar och sedan utvecklas explosionsartat bortom vår kontroll "i oändlighet"(AI-explosion) . Detta alltså jämfört med traditionell, människodriven utveckling som sker i gradvisa stadier.

Det mesta vi uppfattar i vårt samhälle går ju sakta och sker stegvis, det vi tar för givet kanske urholkas men ofta under många års tid och ofta har vi glömt varför en förändring kom till långt efter vi har möjlighet att påverka dess riktning och slutmål.

Men på det sättet kan vi inte förhålla oss till AI om vi vill minimera existensiella risker som kan hota oss i en nära framtid. För AI kan bli ett existensiellt hot mot människan i paritet eller rent av långt före klimathotet eller ekosystemkollapser, det är den första utgångspunkten vi behöver ha. Det är just för att de flesta inte sett AI-utvecklingen som den här diskussionen inte tagits och för att många företag drivs av en kapplöpning att hitta den ultimata AI-guldgruvan. Detta trots att AI-guldgruvan omgärdas av en giftig orm som kan bli okontrollerbar. Den är varken ond eller god bara potentiellt farlig för oss människor.

För att förstå AI måste man alltså förstå exponentiell utveckling. Vi tipsar därför om att se de numera bortgångne professor Albert A. Bartletts numera klassiska video som förklarar exponentiell utveckling på ett pedagogiskt sätt. Bartlett höll över 1000 föreläsningar om detta under sitt liv och uttalade den berömda frasen:

"Människan största tillkortakommande är hennes oförmåga att förstå exponenetialfunktionen".  

Några av tidigare inlägg på AI-temat finner ni länkar till i detta inlägg.

Ni kan se seminariet "AI – lättare liv men svårare val" i sin helhet nedan:

Automatisering, teknikoptimism eller bara utveckling?

Allt fler talar om digitaliseringen och automatiseringens snabba utveckling. Snabb är förstås inte den rätta beskrivningnen för något som nästan varje månad bryter tidigare till synes omöjliga barriärer. Exponentiell utveckling är svår för människan att uppfatta och förstå men när vi nu är på andra delen av schackbrädet blir genombrottet inom tex artificiell intelligens svår att ignorera eller missa. Den tekniska utvecklingen är helt enkelt på väg in i ett paradigmskifte.  

Vare sig det gäller automatiseringen inom bilindustrin eller tillverkningsindustrin, digitaliseringen, drönare för hemleverans, flygande persontransporter med drönare eller en dator som ställer diagnoser världens skickligaste läkare inte klarar tillsammans är det svårt att inte förvånas och många gånger imponeras.

I en artikel av Veckans Affärer kan vi tex läsa om att några av Sveriges ledande experter på automatisering och robotar i dagarna diskuterade dess framtid och det går inte att missta på framtidsoptimismen. En av paneldeltagarna var Anders Gustafsson, professor i företagsekonomi vid Karlstad Universitet tillika internationell föredragshållare om "Människa och Maskin". Gustafsson menar att "allt som går att automatisera kommer att automatiseras. Och allt som går att koppla upp kommer att kopplas upp".

Anna Felländer, Swedbanks framtids- och digitaliseringsekonom var en av de övriga paneldeltagarna och pekar förvisso på utmaningar med integritet, lagstiftning och säkerhet men menade ändå att fördelarna och möjligheterna digitaliserings- och automatiseringsvågen skapar, väger över. Felländer talade om den så kallade tredje digitaliseringsvågen Internet of Things och menar att jobb som försvinner inte är ett problem utan snarare ska ses som att uppgifter förändras...    

Precis som Alexander Bard talade om "dividen" i sitt sommartal nyligen framhäver hon att framtidens entreprenörer och företagare behöver ha förmågor som empati, storytelling och vara bra på teamwork för att människan är bättre på detta än robotar.

Men medan lovorden om en nära framtid där teknologin ska lösa snart sagt alla problem dominerar samtalen där för och nackdelar med automatiseringen diskuteras, påminner intelligenta och insatta personer med insyn i den tekniska spjutspetsteknologin för automatisering om farorna att överlåta hoppet och lösningarna till "maskinen".

Personer som Elon Musk, Stephen Hawkins, Bill Gates och svenska Max Tegmark tex varnar för att utvecklingen inom AI är en global mänsklig angelägenhet och inte något som kan lämnas över åt styrelserummen på några få gigantiska företag med ett egenintresse av att teknologin landsätts så fort som möjligt eller har en viss utformning och spridning.

En del tänker här i stil med "vadå, Artificiell Intelligens är väl väl bara mjukvara för att utföra uppgifter där data ska sorlas och en dator programerats utifrån ett antal parametrar som den sedan utför under kontroll av en människa?". Nej, som vi skrivit om tidigare finns tex redan nu algoritmer där maskiner inom ramen för dessa agerar själva, utan att människan är involverad. Tex om ett militärt drönarebombplan förlorar kontakten med sin "förare" kan den utföra sitt uppdrag ändå och försvara sig mot en angripare. Detta är inte självtänkande robotar som vi tänker oss en självtänkade människa men redan här uppstår problem om vem som ansvarar för robotens handlande när den skadar andra människor.

Vi frågar oss dock hur lågutbildade människor och/eller de som inte besitter de efterfrågade sociala förmågorna som kan komplettera/finnas kvar inom ramen för det automatiserade framtidsyrket, ska få någon meningsfull sysselsättning när maskiner fortsätter att ta över arbetsuppgifter. Här kommer vi osökt in på medborgarlön. För om människor inte kan arbeta och få lön kan de inte konsumera och då stannar tillväxtsamhället upp. Ja maskiner kan förstås skapa ekonomisk tillväxt även utan de arbetare de ersätter men sysslolösa människor utan del i konsumtionssamhället har "ingen mening" och då finns inte längre något behov av ekonomisk tillväxt.

I Finland som vi skrev om i föregående inlägg på temat krisberedskap, kommer regeringen denna månad ta beslut om ett försök att införa en medborgarlön, detta kunde vi läsa om i ETC i torsdags.

Medborgarlönen som i försöket ligger på 5500 kronor i månaden benämns i Finland basinkomst och ska om förslaget genomförs omfatta 2000 slumpvis utvalda arbetslösa personer i Finland. Det rör sig här om personer i åldrarna 25-58 som redan får arbetslöshetsersättning eller något annan form av ekonomiskt stöd.  
 
Givetvis räcker inte 5500 kronor för de flesta att leva på i månaden men i Finland med en arbetslöshet på 9,1 %, en BNP-tillväxt på 0,5 % i fjol och en dyster prognos även för i år, är finska regeringen nu villig att pröva alla möjliga åtgärder för att få igång konsumtionen. Medborgarlön eller basinkomst bör här inte bara ses som en symtom på att finsk ekonomi (likt många andra) inte hänger med i den snabbrörliga internationella ekonomin och den ökade automatisering. Snarare bör det ses som ett försök att med "helikopterpengar" se hur konsumtionen kan skapas artificiellt.

Men som vanligt i diskussioner om automatisering och medborgarlön är det få som reflekterar över vad som gör det möjligt. Utan tillgång till billig fossil energi (tänk billig olja) blir det inte lönsamt att skeppa de flesta prylar kors och tvärs över jordklotet eller bryta de råvaror som krävs för att tillverka maskinerna. Eftersom världens konventionella oljeproduktion planat ut och väntas börja minska inom detta årtionde, kan vi inte vänta oss automatiseringen ska lösa resursbristen åt oss. Däremot kan den innebära enorma effektiviseringar och energibesparingar inom tex transportsektorn.

En annan minst lika viktig fråga är hur ägandet och kontrollen över maskinerna ska hanteras. Blir det ett fåtal personer som äger och driver dessa undergrävs hela tanken om vad som är demokrati.
För om hela samhället automatiseras, digitaliseras och robotiseras men kontrollen och utvecklingen styrs av några få aktörer kommer det vara tämligen svårt, för att inte säga omöjligt för den vanliga medborgarna att ha någon som helst påverkan på den tekniska utvecklingen eller med politiska beslut vara med och påverka samhällsutvecklingen.

Vi måste hela tiden hålla i minnet att maskiner inte ersätter vårt behov av mening och återkoppling till naturen. Den tekniska utvecklingen kan vara fantastisk men likväl fullständigt ödesstiger om vi förlitar oss på den för att lösa problem som handlar om resursanvändning och krisberedskap för att hantera vad som riskerar bli eskalernade klimatförändringar tex.

För tankar om maskin och människa samt medborgarlön rekommenderar vi nedanstående presentation av Alf Hornborg, professor i Human Ekologi vid Lunds Universitet och författare till boken "Myten om maskinen". Videon bör ses som en tankeväckare, vi håller inte med om alla förslag på lösningar som Hornborg lägger fram.

Maskin, människa och medborgarlön?