Nej, AI är inte ett mindre hot än klimatet och inte "långt bort i framtiden"

Igår var en av bloggens läsare på plats i Almedalen på Gotland för att för bloggens räkning bevaka ett seminarie anordnat av Vattenfall på temat Artificiell Intelligens (AI) med titeln: "AI – lättare liv men svårare val".  Panelen skulle diskutera:

"Nya teknologier som maskininlärning och AI, Artificiell Intelligens, är redan här. För energikunder kan det ge nya möjligheter till bekvämlighet, miljönytta och kostnadsbesparing. Vilka legala och etiska frågor finns?"

Panelen bestod av Anna Felländer -medlem i regeringens digitaliseringsråd och senior rådgivare, Boston Consulting Group, Darja Isaksson -medlem i regeringens innovationsråd, entreprenör, nyutnämnd GD, Vinnova och Karl Bergman -chef forskning och utveckling, Vattenfall. Moderator var Sofia Mankert, Vattenfall.

Paneldiskussionenerna bjöd på en del intressanta perspektiv och vi rekommenderar att ni kikar på den (se slutet av inlägget) men fokus låg på AI:s enorma affärsmöjligheter såsom tidsoptimering, resursbesparing, individanpassade tjänster osv och tyvärr blev samtalen väldigt obalanserade. För även om en del av riskerna med AI berördes tonades de ner eller avfärdades som något vi möjligen får hantera långt in i framtiden, rent av att de var "teoretiska hot". Det är förstås rent nonsens för den som är insatt i utvecklingen inom AI och tänker ett par vändor något vi ska göra i detta inlägg.

Vi var inte på plats rent fysiskt men följde sändningen live och hade alltså en tentakel på plats, en av bloggens läsare som fick ställa nedanstående fråga åt oss (24.04 in i videon):

"Nick Boström har ju varnat för att vi kan nå generell AI mycket snabbare än de flesta tror. Kanske inom 15-20 år. Innan dess måste AI demokratiseras. Hur får vi som kunder i Vattenfall insyn i hur AI används så det ej missbrukas?" 

Karl Bergman från Vattenfall svarade att det är lite därför de har sådana här seminarier och att det krävs transparens för att undvika situationer likt Cambridge Analytica som skadar företag samtidigt menade han att det inte går i detalj att låta kunderna "bocka för" vilken data som de vill eller inte vill ska användas för olika tjänster.

Vad vi slås av när vi hör beskrivningar av AI likt i den här paneldebatten är avsaknaden av djupare insikter om farorna. Det är förvisso jättebra att de lyfter en del av de etiska frågorna som hur enorma datamängder kan bilda beslutsunderlag för AI där endast kostnadsreduceringar och vinstoptimering blir det som styr en AI:s riktning/beslut för att algoritmen utformats så eller för att större delen av datan går i den riktningen, till nackdel för individer, vissa grupper eller den personliga integriteten. Men det räcker inte att vi bara "utbildar" de som programmerar alogritmerna när de flesta människor inte ens känner till hur AI kan och kommer att användas och hur det faktiskt kommer att förändra samhället och därmed människors politiska och ekonomiska möjligheter.

Det går förstås inte att stoppa AI-utvecklingen men påverka den gör det om det görs tidigt. Kanske accelerar AI-satsningen inte bara för att företag och nationer vill bli först med att skapa sig den ultimata konkurrensfördelen med att nå en AI-Singleton, en AI som är vida överlägsen alla andra AI-verktyg och kan dra ifrån i en ointaglig ledning, kanske drivs AI- utvecklingen även på av människor som ser det som enda möjligheten att möta klimathotet och andra systemkriser som vi människor som kollektiv till synes inte klarar att lösa själva. Men vi får aldrig glömma att det glimrande guldet på utsidan av pandoras ask kan vara förädiskt.

Sedan är det självklart också vikigt att belysa de möjligheter som AI redan skapar inom tex vården för att screena ovanliga typer av cancer. En vän till Johan vi Karolinska Sjukhuset i Stockholm har nyligen berättat hur det som för bara 4-5 åren sedan tog 1-2 månader och involverade olika kluster av skilda expertgrupper nu koordineras och granskas med AI-verktyg där interdiciplinära sökvägar och metoder snabbsöks av en AI som nu kan ge behandlingsunderlag inom loppet av ett par dygn.

En stor del av den forskning som sker vid Karolinska Institutetoch inom sjukvården generellt nu, involverar AI för att hitta praktiska medicinska tillämpningar. Det är inte teori utan hands on. Det finns många andra positiva exempel att lyfta inom sjukvården där AI-verktyg för tex röntgen-analys redan är i paritet eller bättre än många läkare. Med andra ord kan AI-verktyg kan redan nu rädda liv.

Detsamma gäller förstås inom utvecklingen av självkörande fordon och inom många andra områden där AI kan bidra till sollra data och ge beslutsunderlag som kan underlätta för människors liv och spara resurser.

Men alla tre i panelen faller platt för det kanske vanligaste antagandet och okunskapen, att ett potentiellt existenstiellt eller om så bara djupt skadligt AI-mot mänskligheten ligger "långt bort i framtiden". Ingen vet förstås med säkerhet exakt när AI-nivån når generell övermänsklig nivå, en del tvivlar på att det ens är möjligt dvs när en AI når en nivå som överstiger hela mänsklighetens kollektiva intelligens. Men när Elon Musk, Max Tegmark, Nick Boström och Sam Harris, personer i spetsen av AI-forskningen varnar för att allt inte bara talar för att vi kommer nå dit, utan att vi når det dit mycket snabbare än de flesta tror, dvs inom ett par årtionden (eller tidigare) och inte 50-100 in år i framtiden -bör vi stanna upp ett ögonblick och fundera vad det innebär.

För nästa gång någon säger att vi inte behöver oroa oss för existensiella AI-hot eller som hävdar att AI-hot möjligen ligger långt in i framtiden, bör vi påminna om en bra liknelse som Sam Harris ofta tar upp när han bemöter sådana uppånedvända och ologiska påståenden: 

Om mänskligheten visste att en övermänsklig intelligens skulle anlända till jorden om 50-100 år in i framtiden, skulle vi då vänta till sista minuten för att förbereda oss för dess ankomst? Eller skulle vi inleda ett Manhattan-liknande projekt där mänskligheten på bästa möjliga sätt förbereder sig och minimerar riskerna med ankomsten av en övermänsklig AI och dess potentiella följder för människan? 

Vi vill verkligen varna för uttalanden av så kallade experter på AI som påstår att "eventuella AI-hot kan vi fixa sen" då vi menar precis som Sam Harris och många andra att det är en fundamental tankevurpa och ett dåraktigt resonemang helt taget ur luften, utan insikt om AI-utveckling idag och vad den är på väg. För vi kan inte fixa AI-hotet sen. När vi väl når generell AI-nivå finns det inga "quick fixes" (enkla lösningar) eller ens någon kontrollerbar väg tillbaka som mänskligheten styr över. Det skulle kunna bli fantastiskt men också helt...ja ni hajar.

Men det är bara ena sidan av problemet med den snabba utveckling av AI just nu. Långt innan vi når ett potentiellt existensiellt AI-hot kan AI-verktyg missbrukas av enskilda företag och nationer som ett sätt att styra utvecklingen i en för dem fördelaktig riktning utan att andra varken kan påverka eller se vad som sker. Vi talar inte bara om att skapa smarta appar, läsa av och styra människors energianvändning, skapa självkörande fordon mm utan hela beteendespannet: Kontroll av människors vanor, politiska åskådning och ekonomiska möjligheter. Det kommer nämligen gå att manipulera människor och företag genom AI-beslut som i allt större utsträckning kommer tas av AI:n själv men under en övergående period styrs av de algoritmer ett fåtal människor utformat för att sortera och hantera data utifrån ett begränsat antal uppsatta kriterier.

Riskerna med detta är uppenbara. Några få människor eller företag skulle som Nick Boström beskriver i sin bok Superintelligens - vägar, faror och strategier, få ett aldrig tidigare skådat inflytande på ekonomi och politik som får allt annat att blekna i jämförelse. Något som även beskrivs i det inledande kapitlet av Max Tegmarks mycket läsvärda bok "Liv 3.0" om det så kallade Omegagänget som genom att bli först med att utveckla en superintelligent AI kör ifrån alla andra och snabbt blir världens rikaste och mest inflytanderika gäng i mänsklighetens historia...          

I kapitlet om Omegagänget i Max Tegmarks bok Liv 3.0 nämns ett citat från matematikern Irving Good från 1965 som är värt att fundera lite kring:

"Låt en ultraintelligent maskin definieras som en maskin som vida kan överträffa människans alla intellektuella aktiviteter oavsett hur begåvad hon är. Eftersom skapandet av maskiner är en av dessa intellektuella aktiviteter kan en ultraintelligent maskin konstuera ännu bättre maskiner; det skulle då odiskutabelt uppstå en "intelligensexplosion", och människans intelligens skulle hamna på efterkälken. Den första ultraintelligenta maskinen är således den sista uppfinning som människan någonsin behöver åstadakomma, förutsatt att maskinen är tillräckligt foglig för att säga åt oss hur vi ska kontrellera den". 

Frågan kring hotet om AI tycks bestå av två centrala delar, dels hur långt in i framtiden det tar innan vi når en utltraintelligent AI-nivå/generell AI och hur snabbt den sedan kan bli ett existensiellt hot för människan. Vi tror att problemet till att vaför de flesta människor inte reagerar när det kommer till AI (och andra hot som klimathotet, Peak Oil osv) är att de flesta människor inte kan skilja på exponentiell utveckling och vanliga S-kurvor. Med andra ord skilja mellan utveckling som först knappt märks sedan plötsligt är noterbar och sedan utvecklas explosionsartat bortom vår kontroll "i oändlighet"(AI-explosion) . Detta alltså jämfört med traditionell, människodriven utveckling som sker i gradvisa stadier.

Det mesta vi uppfattar i vårt samhälle går ju sakta och sker stegvis, det vi tar för givet kanske urholkas men ofta under många års tid och ofta har vi glömt varför en förändring kom till långt efter vi har möjlighet att påverka dess riktning och slutmål.

Men på det sättet kan vi inte förhålla oss till AI om vi vill minimera existensiella risker som kan hota oss i en nära framtid. För AI kan bli ett existensiellt hot mot människan i paritet eller rent av långt före klimathotet eller ekosystemkollapser, det är den första utgångspunkten vi behöver ha. Det är just för att de flesta inte sett AI-utvecklingen som den här diskussionen inte tagits och för att många företag drivs av en kapplöpning att hitta den ultimata AI-guldgruvan. Detta trots att AI-guldgruvan omgärdas av en giftig orm som kan bli okontrollerbar. Den är varken ond eller god bara potentiellt farlig för oss människor.

För att förstå AI måste man alltså förstå exponentiell utveckling. Vi tipsar därför om att se de numera bortgångne professor Albert A. Bartletts numera klassiska video som förklarar exponentiell utveckling på ett pedagogiskt sätt. Bartlett höll över 1000 föreläsningar om detta under sitt liv och uttalade den berömda frasen:

"Människan största tillkortakommande är hennes oförmåga att förstå exponenetialfunktionen".  

Några av tidigare inlägg på AI-temat finner ni länkar till i detta inlägg.

Ni kan se seminariet "AI – lättare liv men svårare val" i sin helhet nedan:

Oljeprisfallets vinnare och förlorare och vart det barkar framöver

Nyligen gjorde vi en analys av BP:s årliga energirapport och kunde då bland annat konstatera att:

"Den huvudsakliga trenden håller i sig även för 2014. Nästan all ökad oljeproduktion i världen kommer från två länder, USA och Kanada. Under 2014 stod USA ensamt för drygt 75 % av världens ökade oljeproduktion medan Kanada stod för cirka 15 %, tillsammans stod de två länderna alltså för 90 % av ökningen. Resten av ökningen kom i princip bara från Brasilien. De flesta övriga oljeproducenter i världen har inte ökat sin produktion utan legat kvar på ungefär samma nivå."

Med ett oljepris som fortsatt att sjunka mycket på grund av oron för Grekland, Shanghai-börsens fall och inprisade förhoppningar om att ett avtal om Irans kärnenergiprogram snabbt ska förse marknaden med ytterligare olja, är det få analytiker som tror att oljepriset ska kunna återhämta sig nämnvärt under året eller för den delen de närmaste åren.

Snabbt har media och oljeanalytiker sedan dragit slutsatsen att även oljepriset på medellång och lång sikt antingen ska falla ytterligare eller ligga kvar på nivåer kring 50-60 dollar fatet (Brent crude i skrivande stund 58,7 dollar/fat). Men ett oljepris på dessa nivåer på längre sikt är i själva verket mycket osannolikt av många skäl.

De flesta oljeproducenter kan inte täcka sina kostnader vid ett sådant lågt oljepris, allra helst amerikanska skifferoljebolag eller kanadensisk oljesand.

I Kanada har flera planerade jätteprojekt för oljesandsutvinning lagts på is. Bland annat 11-miljarder-projektet (amerikanska dollar) -Josolyn North oil. Total E&P Canada (en del av det franska oljebolaget Total), Suncor Energy , Occidental Petroleum och japanska Inpex som ligger bakom projektet har helt inte kunnat få någon lönsamhet med dagens oljepriser. Som vi skrivit tidigare kräver den kanadensiska oljesandsutvinningen ett oljepris på över 110 för att bli lönsam.

När det gäller Irans olja innebär eventuellt lättade sanktioner mot landet inte att att oljeexporten kommer dubbleras eller tredubblas på några månader (dvs flera miljoner fat till per dag i produktion). Dåligt underhållen infrastruktur måste återställas och även byggas ut vilket troligtvis tar flera år.
Under den tiden kan hela världens produktionsöverskott på ca 2,5 miljoner fat olja från USA och Kanada vara utraderat för att det låga oljepriset sätter stopp för vidare satsningar och för att produktionen i flera av de största skifferformationerna i USA når sin högsta nivå och sedan faller snabbt.

Kanske vill USA få ut Irans relativt billiga konventionella olja på världsmarknaden för att man vet att den egna produktionen kommer toppa innan 2020.

På kortare sikt finns det tecken på att oljepriset kan nå tillbaka till 75 dollar-strecket redan i slutet av året. Aktiebubblan i Kina är förstås det stora frågetecknet som är svårt att sia om. Kommer fallet att fortsätta och sprida sig till övriga kinesiska ekonomin och därmed minska efterfrågan på olja för företag över hela brädet i landet? Kan en aktie- och fastighetsbubbla i Kina förlösa en ny global recession, ja då kan oljepriset förstås ligga kvar på dessa nivåer i flera år.

Men inte ens det kommer kunna hålla tillbaka en prisuppgång på oljepriset bortom 2020. Den enkla anledningen är att oljan fortfarande är den enskilt viktigaste energikällan för att få världens ekonomiska hjul att snurra. Då allt mer av oljeutvinningen ersätts av dyrare och mer energikrävande utvinningen måste priset upp i längden, annars förblir oljan i backen och då stannar ekonomin i praktiken helt. Vi har helt enkelt plockat det lågt hängande frukterna först i hopp om att de inte ska ta slut eller att nya lågt hängande frukter från icke fossila bränslen plötsligt ska dyka upp i samma omfattning som ersättning.

Man får heller inte glömma att medan vi gärna lovordar minskat bilkörande i Europa och nya bränslestandarder på amerikanska bilar, behöver inte bara Kina mer tillgång till olja. Även Indien, växande afrikanska länder samt de oljeproducerande länderna i Mellanöstern kräver en allt större del av den olja som finns att tillgå på exportmarknaden. Alltså viktigt att skilja på oljeproduktion och tillgänglig olja på marknaden, vilket avgör priset.

Det är rent löjligt att påstå att utvecklingsländer ska hoppa över den fossila energiskjutsen och ändå nå samma välståndsnivå som oss. För var hamnar tex lastbilar som inte duger på Europeiska vägar längre för att de drar för mycket bränsle eller inte uppnår nya miljö och bullerkrav? Jo, de rullar vidare i Indien eller Afrika. Annorlunda uttryckt, när oljekakan ska fördelas på fler kommer priset gå upp för att konsumtionsnedgången av olja i väst helt enkelt inte kan matcha energibehovet i betydligt folkrikare och energitörstigare länder som måste växa snabbt för att statsapparaten ska hålla ihop.  

CNBC intervjuade i onsdags Mark Lewis, chief energy economist vid Kepler Cheuvreux om oljepriset framöver. Lewis tog bland annat upp att Bakken Shale i North Dakota (ett av USA:s två största skifferformationer) i senaste mätningarna minskar i produktion och ställer sig frågan varför andra formationer inte skulle göra detsamma. Detta, menar Lewis vet vi med säkerhet i slutet av tredje kvartalet i år när mer data kommer släppas från amerikanska energimyndigheten EIA som visar produktionen från samtliga skifferformationer.

Intervju med Mark Lewis om oljepriset framåt
  

Nu till det sista seminariet Johan filmade under Almedalsveckan som diskuterade just oljeprisfallets vinnare och förlorare. Seminariet hade titeln "Prisraset på olja - vinnare och förlorare" och anordnades av Sveriges Natur/Naturskyddsföreningen. Medverkande var Ylva Johnson, Chefredaktör, Sveriges Natur. Per Jönsson, Associerad redaktör, Utrikespolitiska institutet. Ulf Svahn, VD, Svenska Petroleum & Biodrivmedel Institutet. Magnus Thorstensson, Elmarknadsanalytiker, Svensk Energi.

De uppenbara förlorarna rent ekonomiskt är förstås Ryssland och Iran som fått se intäkterna från sin viktigaste inkomstkälla -oljan, halveras under ett år. Men oljeindustrin överlag har drabbats hårt med bland annat konsekvensen att många oljeriggar nu tagits ur bruk och tusentals arbetare fått gå.

Många drar slutsatsen att Putins/Rysslands supermaktsambitioner satts ur spel på grund av detta men som vi ska återkomma till i ett senare inlägg är så inte fallet, Ryssland har många fler kort att spela.  

Som ni kommer märka dominerar bilden hos panelen att USA:s skifferolja även långsiktigt kommer vara av stor betydelse för oljepriset. Per Jönsson verkar ha rätt bra kolla på Mellanöstern men dålig koll på oljemarknaden och olika typer oljeutvinning. Jönsson talar till och med om dolda reserver i Israel i paritet med de i Saudiarabien...och detta skulle då världens ledande geologer ha missat? Om det ens var sant rör det sig om oljeskiffer (ej att bland ihop med skifferolja) som kräver ännu högre energiinsatser och därmed MYCKET högre oljepriser för att vara lönsamt. Att ta ett sådant exempel för att underbygga ett argument för fortsatt låga oljepriser visar på stora okunskaper i ämnet.

Som vi skrivit om tidigare handlar oljeprisfallet om att Saudiarabien spelar oljespelet mot investmentbanker och dåliga investeringar. Ulf Svahn gjorde överlag en korrekt analys med några viktiga undantag. Skifferoljan i USA är kortsiktig och USA:s flexibilitet på arbetsmarknaden och inom industrin hänger mycket på skifferindustrins snabba tillväxt de senaste åren men även mycket på den snabba automatiseringen inom tillverkningsindustrin som möjliggjort för amerikanska företag att flytta hem eller utöka tillverkningen inom USA. Men all industriell produktion är avhängig tillgång till billig energi och idag och många år framöver stavas den framförallt olja.

Vinnare på oljeprisfallet är alla oljeimportörer som kan köpa olja för kanske halva priset, däribland Sverige (oljebolag/bensinbolag verkande i Sverige). Länder som Kina med ett växande energibehov utnyttjar säkert läget till att skriva nya bilaterala avtal där de förhandlar till sig oljeleveranser för lång tid framöver till lägre priser. Kanske bunkrar Kina även olja då man räknar med dyrare olja längre fram. Detta kommer innebära mindre tillgång till olja för övriga köpare längre fram, när priset är högre och exportmarknaden krympt ytterligare.

All industri som är direkt beroende av oljeprodukter får se sina produktions/inköpskostnader sänkas. Konsumenter kan få se lägre priser inte bara vid pumpen utan överlag då oljan är central inom jordbruket, livsmedelsindustrin, transportsektorn ja i princip överallt finns den med som en viktig ingrediens. Men i rådande ekonomiska läge är det många som håller i sina pengar så det återstår att se hur stor effekten av oljeprisfallet blir.    

Fler fördjupade analyser i ämnet kommer framöver, till dess får ni gärna kika på seminariet och fundera själva. Ni kan förstås även läsa mer i vår bok Olja för blåbär -Energi, Makt och Hållbarhet.
 

Almedalen "KAN SJÖFARTEN MINSKA BILKÖERNA?

Här kommer vårt första inslag från första dagen under Almedalsveckan.
Seminariet nedan har titeln "Kan sjöfarten minska bilköerna" och arrangerades av
Ostkusthamnar i Samverkan.

I beskrivningen av seminariet står det:

"Det är trångt på väg och järnväg. Något behöver göras NU för att Sverige ska kunna hantera det ökande godsflödet samtidigt som miljömålen ska uppnås. Ett medelstort fartyg motsvarar 14 kombitåg. Trots detta har politikerna svårt att rikta blicken mot kusten. Hur ska vi hantera det ökade godsflödet? Vilken roll ska sjöfarten ha i ett framtida transportsystem? Ostkusthamnar i Samverkan (OHS) är en sammanslutning av elva hamnar längs ostkusten som arbetar för att öka sjöfarten andel av det nationella transportarbetet. Som ett led i detta vil OHS undersöka hur sjöfarten kan avlasta landinfrastrukturen".

Seminariet innehöll bland annat en presentation av Per Kågeson, fil. dr i miljö- och energisystemanalys och författare till ett antal böcker om bland annat kärnkraften samt en presentation av Jessica Rosenkrantz (M), vice ordförande i Trafikutskottet.

Under seminariets paneldebatt deltog Per Kågeson och Jessica Rosencrantz även Suzanne Svensson (S) sjöfartspolitisk talesperson för Socialdemokraterna. Moderator var Carolina Neurath, ekonomijournalist på SvD. Nedan kan ni se paneldebatten i sin helhet, inklusive frågestunden efteråt.

Paneldebatt


Sjöfarten glöms ofta bort i diskussionerna om Sveriges oljeberoende då mest fokus ligger på landbaserade transporter. Fördelat på trafikslag utgör vägtrafiken drygt 50 % av alla godstransporter, bantrafiken cirka 35 % och sjöfarten cirka 11 %. Under paneldebatten diskuteras bland annat hur sjöfarten kan ersätta delar av lastbilstransporterna och kombineras mer med järnväg. Framförallt pekas det på att sjöfarten är energieffektivare per ton mot lastbilstransporterna.

Trots att sjöfarten kunnat sänka sin bränslekostnader med ett nästan halverat oljepris på ett år tvingas man nu till höjda driftskostnader på grund av det nya svaveldirektivet som infördes vid årsskiftet. Svaveldirektivet innebär att svavelhalten i fartygsbränsle får vara högst 0,1 % eller en tiondel av tidigare och omfattar Östersjön, Nordsjön och Engelska kanalen. Detta är 35 gånger lägre svavelhalt än vad som krävs i övriga Europa och världen.

Detta innebär att sjöfarten kommer få rikta in sig på LSMGO- lågsvavel marin dielelbrännolja från att tidigare ha kunnat gå på vanlig bunkerolja som har högre svavelhalt. Frågan är om Svaveldirektivet kommer efterlevas då böterna är relativt små mot hur mycket rederierna kan spara på att köra med smutsigare bränslen. Inverkan på dieselpriserna på land blir även intressant att följa.

Bloggrannen Cornucopia/Wilderäng varnade redan 2013http://cornucopia.cornubot.se/2013/11/fredagsmys-svaveldirektivet-hojer.html för att Svaveldirektivet kan leda till en tredubbling av bränslepriserna för sjöfarten. Trafikanalys talar om en ökning på 50-75 %.

Nedan får ni höra en intervju Johan fick med Per Kågeson efter seminariet som ger sin syn på saken.

Intervju med Per Kågeson