2018-08-01

Mer än ett vanligt sommarprat: AI med Max Tegmark

Under Almedalsveckan hölls många seminarier på temat artificiell intelligens (AI) och efter ett av dessa skrev vi ett inlägg där vi underströk att det vore ett misstag att tro att det potentiella hotet från generell artificiell intelligens är mindre än andra existensiella hot för mänskligheten som klimatförändringar.

Med anledning av Max Tegmarks eminenta sommarprat på Sveriges Radio får vi anledning att återkomma till detta. För om en bara ska lyssna på ett av årets sommarpratare på Sveriges Radio är det ett som vi tycker sticker ut och är ett av de absolut det viktigaste en kan lyssna på för att förstå vårt tids största utmaning -Max Tegmark om riskerna och möjligheterna med utvecklingen av Artificiell Intelligens (AI).

Max Tegmark, är den mycket erkända svenska MIT professorn i fysik, grundaren av Future of Life Institute och författaren bakom den mycket läsvärda boken Liv 3.0 - Att vara människa i den artificiella intelligensens tid som direkt kvalar in på Olja för Blåbärs julklappslista 2018. Precis som i sitt sommarprat beskriver Max Tegmark på ett pedagogiskt och inspirerande sätt hur artificiell intelligens håller på att vända ut och in på människans värld i en fart och omfattning som de flesta inte kan föreställa sig.

Framförallt går Tegmark på djupet med riskerna på ett sakligt sätt och låter sig inte likt de flesta forskare och företag helt förtrollas av AI-utvecklingen till synes obegränsade affärsmöjligheter. Detta för att samtidigt på ett lika sakligt sätt lyfta möjligheterna och varför vi bör lägga lika mycket krut på att försöka styra utvecklingen av AI i en för mänskligheten som helhet positiv riktining och inte som nu överlämna i praktiken all insyn och kontroll till ett fåtal stater, företag och individer.

I sitt sommarprat finns det det mycket att läsa mellan raderna om hur allvarligt Max Tegmark ser på nuvarande till större delen ohämmade satsning på AI som han beskriver som på tok för naiv. En parallell som understryker detta är när Tegmark berättar om sitt engagemang som ungdom för en nedrustning av kärnvapen och tar upp ett exempel på hur vår iver att att utveckla ny teknik som kontrolleras av några få kan leda till förödande konsekvenser när händelseförlopp styrs av nyckfullhet och okunskap.

Tegmark pekar speciellt på en händelse från kubakrisens hetaste stunder där numera icke säkerhetsklassade dokument avsvlöjar att om det inte vore för en rysk ubåtsmans vägran att lyda order under fyra avgörande minuter så kunde en kärnvapenbestyckad robot inlett tredje världskriget på grund av ett missförstånd om att USA redan inlett ett anfall mot dåvarande Sovjetunionen. Det har förstås förekommit fler liknande händelser under kalla kriget som kanske framkommer senare men poängen är att AI-racet just nu nästan helt kör på i tron att det går att fixa till obalanser eller misstag senare, i sista minuten. Ännu värre är de som dåraktigt, med samma logik tror att generell AI kommer nås om många årtionden och att "vi därför inte behöva oroa oss för det", något vi varit inne på i tidigare inlägg med Sam Harris. 

För det första skiljer sig det som kallas superintelligens eller generell artificell intelligens från allt annat människan varit med och skapat på teknisk väg. Långt innan vi når en punkt då AI klarar att utföra allt en människa kan, och kort därefter många många gånger bättre än vi klarar, bör vi enligt Tegmark (Nick Boström, Elon Musk, Stephen Hawking mfl) försöka styra utvecklingen så att denna superintelligens förstår vad vi som människor önskar bevara (tex vi som biologiska mänskliga varelser) och efterkommande AI fortsätter att bevara det även när den springer ifrån oss fullständigt.

Det finns förstås ingen garanti för att en framtida AI kommer bry sig ett skvatt om oss då kanske i jämförelse till synes ytterst intelligensbegränsade varelser men om vi inte sätter våra bästa hjärnor på detta samt sätter press på företag och politiker att göra detta redan nu kommer vi helt utelämnas åt slumpen. Vill vi att endast några generaler, politiker, konsekvensblinda företag och forskare styr utvecklingen i en i deras ögon gynnsam utveckling eller försöka undvika militär och ekonomisk AI-kapprustning där resurserna snedvrids, måste vi börja nu. Annars kommer det faktum att Bill Gates (en av Microsoft:s grundare), Jeff Besos (Amazons grundare) och Warren Buffet redan äger ungefär lika mycket som hälften av USA:s befolkning gör tillsammans (ett annat exempel Tegmark tar upp i sitt sommarprat)- inte bara framstå som normalt i vart och varannat land. Det kan rent av bli så att några få individer/företag med AI-verktyg i praktiken kommer ha fullständig kontroll över större delen av jordens befolkning på ett sätt som få ens kan föreställa sig idag.

Max Tegmarks sommarprat och bok väcker många frågor som vi alla måste ställas oss nu medan det fortfarande går.

Se gärna även några av tidigare inlägg på temat AI:
Max Tegmark
 Bildkälla: Wikimedia commons, användare Bengt Oberger

8 kommentarer:

  1. Här något relaterat som jag skrev häromdagen:

    Det krävs nytt politiskt tänkande

    Flertalet människor torde vid det här laget begripa att människan är en svår belastning på jordklotet. Särskilt lätt att göra något åt faktumet att vi är för många och konsumerar för mycket är det inte. Att mena att det är de fattiga eller de rika som utgör problemet förefaller inte särskilt konstruktivt. Många gör sedan lång tid tillbaka för många barn, medan andra konsumerar för ymnigt. Bägge bitarna är ungefär lika problematiska. Gör man för många barn blir det ekologiska trycket stort även om man är fattiga. Konsumerar man som dårar räcker planeten inte till ens för en miljard människor.

    Våra politiker försöker allt som oftast låtsas att ekonomisk tillväxt kommer lösa problemen och ignorerar därvid att det i mycket hög grad är den ekonomiska tillväxten som utgör problemet. Vi måste sluta drömma om flott välstånd för alla. Vissa menar att vi måste omfördela rikedom från de rika till de fattiga, men det löser inte nödvändigtvis några problem. Viktigare än att fördela resurserna annorlunda är att de högkonsumerande framverkar grönare teknik, vilket de framförallt kommer göra för att försöka bevara sina mer eller mindre intressanta, roliga och angenäma vanor. Kommunism har aldrig varit bra för en hållbar utveckling. Människan arbetar helst för sig själv. Att istället arbeta för världens fattiga passar blott ett fåtal.

    Politikerna bör en gång för alla fatta att det är omöjligt att skapa meningsfulla arbeten åt många miljarder människor när såväl företagare som myndigheter glatt ersätter arbetare med robotar och artificiell intelligens. Människan klarar inte av att konkurrera med modern teknik. Och Jorden pallar inte med ytterligare enormt mycket ekonomisk tillväxt i ett futilt försök att trots den accellererande automatiseringen skapa meningsfulla arbeten åt alla.

    Därför måste medborgarinkomst införas, på nationell nivå, på europeisk nivå och på global nivå. Enda alternativet är att på något sätt ta bort de många miljarder människor som inte behövs. Det finns säkert mångmiljardärer och oligarker som gärna eliminerar större delen av världsbefolkningen. En del av dem kommer kämpa mot införandet av medborgarinkomster. De vill hellre se dig och mig döda. Vilket du och jag högst sannolikt är lite mindre intresserade av.

    Ett försök att skapa en värld blott för en liten ekonomisk elit och deras betjänter kommer med största sannolikhet sluta med ett tredje världskrig, så vi behöver istället försöka skapa en värld som har något för alla. Med medborgarinkomster och bostäder och fordon som inte använder sig av fossil energi kan vi komma långt. Därtill behöver vi politisk ideologi som är kompatibel med en grön omställning. Det är inte vad våra politiker levererar.

    facebook.com/story.php?story_fbid=1781813278570497&id=358506554234517

    SvaraRadera
    Svar
    1. Hej Kuckeliku! Det ligger mkt i ditt resonemang. I grunden o botten handlar det förstås inte bara om att automatiseringen ersätter människors arbete. När människors arbeten ersätts med robotar/AI/effektiviseing ersätter det även många människors mening i livet, för det är trots allt så många ser på sitt på arbete direkt eller indirekt. Ett tidsfördriv som håller människor igång och ja tyvärr håller de flesta borta från att tänka själva, för det krävs nämligen tid för att kunna tänka fritt och genunint kreativt. Det sägs tex att om inte Einstein arbetat på Patent och Registreringsverket där han hade mkt tid över att tänka på fysikens stora frågor skulle tankar utanförboxen inte fått möjligheten att ventileras och gro- kanske hade då några av fysikens mest revolutionerande tankar då fått vänta eller rent av skjutits på framtiden i många år från nu.

      Så länge människor inte tänker själva ifragasätter de heller inte systemet de själva är en del av och ser heller ingen alternativ verklighet/väg in i framtiden.

      I förlängningen kommer sannolikt AI kunna ersätta allt vi människor gör. Långt innan dess måste en genomtänkt plan utarbetas för att människor fortfarande ska känna att de har en meningsfull sysselsättning. Där kan någon form av medborgarlön vara en liten del av en övergående lösning men systemet är byggt för att skapa växande konsumtion av människor som har en egen inkomst med produktion som kontrolleras av ett fåtal kapitalägare.

      Redan Karl Marx såg att det fanns en inneboende konflikt mellan ökad effektivisering/koncentration av kapitalägandet och ökad automatisering där det hela skulle sluta med att systemet faller när arbetarnas löner inte längre räcker för att köpa de prylar som fabrikerna producerar. AI fanns förstås inte med i den bilden men det hela hänger ihop och lägger bara till en ny dimension. Men det kan bli en dimension som kan vägleda oss bättre än vi själva kollektivt som art förmår eller genom oförutsedda, kanske rent av bagatellartade missar leder oss i fördärv.

      Tycker du träffar rätt på målet med "ed medborgarinkomster och bostäder och fordon som inte använder sig av fossil energi kan vi komma långt. Därtill behöver vi politisk ideologi som är kompatibel med en grön omställning. Det är inte vad våra politiker levererar."

      -Men med förändrad verklighet kommer anpassning även för valet av politiker/AI-rådgivare, låt oss hoppas och försöka bidra till att den rör sig åt rätt håll!

      Mvh
      Johan

      Radera
    2. Mycket imponerad Johan. Du formulerar strålande.

      Arbete som ett tidsfördriv som håller människor borta från att tänka själv. Farligaste året för en svensk är första året som pensionär. Ligger djupt det här med arbetet.

      Förändrad verklighet är vad vi behöver. De flesta tycks se framtiden som mycket lik det som nyss gällde eller möjligen sämre. I mycket ser jag delar som sämre på kortare sikt tex klimatet eller det Max nämnde om den sovjetiska ubåten. Samtidigt ser jag möjligheterna med den nyaste teknologin och nya kunskaper. För några år sedan var jag mycket bekymrad över befolkningstillväxten, men nu vet jag att när människor når en viss materiell nivå minskar antalet barn man skaffar dramatiskt. Denna nivå är främst att man inte ser svältperioder i närmaste omgivningen och att barnen till stor del överlever småbarnstiden.

      "-Men med förändrad verklighet kommer anpassning även för valet av politiker/AI-rådgivare" Betyder idag mer för mig att försöka främja avskaffande av fossil energi snarast. Min metod nu är att leta efter företag som verkar vara på väg åt rätt håll. Känner inte för att bli medlem i något parti, men förstår de som engagerar sig där. Ser inte valet i höst som det viktigaste.

      Vänliga hälsningar

      Nanotec

      Radera
    3. Att sysselsätta folk är knappast något jätteproblem. Dels kommer det finnas tämligen gott om arbete att utföra åtminstone resten av det här århundradet och dels finns det hur mycket saker som helst man kan roa sig med som inte belastar vår miljö och våra naturresurser särdeles. Man kunde ha tråkigt ibland på sjuttiotalet, men det är knappast möjligt att ha det nuförtiden, skulle jag vilja påstå. Åtminstone om man inte är utfattig eller svårt handikappad.

      Radera
    4. Vilka arbeten tänker du på, för att våga skriva detta århundrade? Robotar blir allt mer kapabla.

      Gissar att du med det tråkiga 70-talet menar att internet inte fanns annat än som drömmar hos några.

      Antalet riktigt fattiga, dvs som lever på under 2$ per dag har minskat kraftigt och halverades de senaste 20 åren. Vi borde kunna göra det än sällsyntare.

      Gillar fortfarande "arbete som tidsfördriv".

      Vänliga hälsningar

      Nanotec

      Radera
    5. När jag pratar om "tämligen gott om arbete resten av århundradet" så räknar jag med att det finns enormt mycket vi måste förändra på planeten, med att massor med människor fortfarande lever ganska miserabla liv, med att singulariteten inte nödvändigtvis innebär att en artificiell superintelligens bestämmer sig för att automatisera allt åt oss och med att den inte automatiskt ger alla människor möjlighet att köpa sig robotar som gör allt jobb åt dem. Tvärtom kan man tänka sig att många människor fortsätter vara för fattiga för att kunna automatisera hela sina liv. En multikompetent robot är verkligen inte nödvändigtvis något som alla har råd med.

      Radera
    6. Grovt sett lever en miljard ganska miserabla liv. Dvs under 2$/dag. För 20 år sedan var de 2 miljarder. När det gäller resurser har de flesta fått det bättre. Vi som har över 32$/dag är också en miljard. De flesta lever med möjligheter däremellan.

      Långt innan singulariteten har vi fått tex självkörande farkoster som tar över alla företagstransporter i alla länder. Samtidigt ökar alla privata köp via nätet med leverans hem och taxiresor. Taxiresorna blir snabbt billiga då de tre stora kostnaderna för detta minskar. Största idag är lön till föraren, sedan bränsle och därefter underhåll.

      Oj nu har börsen öppnat. Blir lite upptagen en stund, känner behov av robotservice.

      Vänliga hälsningar

      Nanotec

      Radera
  2. Håller med Max. Förstår Kuckelikus oro men är tveksam till en hel del. K.s syn att vi ska försöka skapa en värld för alla delar jag helt. Kan bli så att det inte går att skapa jobb till de som friställs av effektiva robotar och då kan medborgarlön vara en lösning.

    Vänliga hälsningar

    Nanotec

    SvaraRadera

Kommentarer bör hållas till bloggartikelns ämne. Håll god ton.