Kommer Artificiell Intelligens utplåna mänskligheten inom 7 år?

Genom årtusenden har mänskligheten stått inför en rad hot och risker som hotat allt från mindre grupper och nationer till civilisationer. En genomgång av civilisationer som kollapsat får en tex genom att läsa Joseph Tainters numera klassiska verk "Collapse of Complex societes" där antroprologen och historikern observerar en tydlig gemensam nämnare: 

För varje lager med ökad komplexitet en civilisation utvecklar och lägger på tidigare utveckling avtar marginalavkastningen. Detta gäller allt från Majaindianernas matproduktion och tempelbyggande till Romarikets förmåga att kontrollera avlägsna byar och städer från ett avlägset maktcentrum i Rom. 

Förr kunde flera civilisationer existera samtidigt och befinna sig i olika oberoende stadier på olika kontinenter tex medeltida Europa och högutvecklade Kina under samma period. Idag betraktas oftast mänskligheten som en civilisation vilket blivit mycket tydligt med handel, tillverkning av varor och produktion av mat. Senaste +20 åren framförallt kommunikationen via Internet. Så hur skulle en kollaps av dagens globala civilisation kunna se ut? 

Många tänker sig kanske ett kärnvapenkrig mellan tex USA och Ryssland följt av en nukleär vinter där runt 90-95 % av jordens befolkning dör av svält när i praktiken allt norr om ekvatorn skulle kunna bli täckt av mörka moln högt uppe i atmosfären som sänker temperaturen så till den grad att det blir snart sagt omöjligt att odla någonting åtminstone i Nordamerika, Europa och större delen av Asien. Men även i ett sådant fruktansvärt scenario skulle mänskligheten kunna resa sig ur askan och komma tillbaka och långsamt kanske kunna bygga upp en ny högteknologisk civilisation igen. Vilka som skulle överleva vore såklart ett lotteri av rang samtidigt som överlevnad sannolikt skulle bli oerhört utmanande och ett långt lidande för de flesta innan något stabilt och hållbart byggts upp igen.

Andra kanske tänker kanske på varningarna från en av världens ledande petroleumgeologer, Arthur Berman som i två samtal nyligen i Evolution Show varnade för en nedgång i världens produktion av olja och naturgas innan 2030. Detta skulle naturligtvis få förödande konsekvenser för världsekonomi och matproduktion som idag är mer eller mindre helt beroende av olja men även naturgas för tex framställning av konstgödsel. Särskilt illa då det kortsiktigt inte finns några alternativ, inklusive fossilfria energilösningar i en omfattning för att täcka behoven till hela världens befolkning.  

Men mänskligheten idag står inför flera hot som är så allvarliga och omfattande att det utgör existentiella hot för vår fortlevnad. Med andra ord där ingen idag levande människa överlever och där ingen människa därefter någonsin utvecklas på den här planeten till sin nuvarande form igen. 

Många tänker då här kanske på klimatkrisen som är djupt sammanflätad med ekosystem-kollaps- och artkollapsen men trots att dessa är djupt allvarliga och hotar civilisationen i sin nuvarande form finns där ännu rätt stora möjligheter för människan att överleva om än i ett fåtal grupper/mindre samhällen och utsprida, kanske isolerade från varandra. Framförallt är detta något som troligen utspelar sig över ett tidsspann om 50 år från idag och framåt och något som kanske peakar runt 2100 innan klimatet sakta börjar stabilisera sig igen (i bästa fall).    

Nej, jag syftar här istället på den TOTALA utrotningen av mänskligheten och är numera helt övertygad om att vi inom ett årtionde kan stå inför ett existentiellt hot av denna oerhörda grad, nämligen Artificiell Superintelligens. Jag bjöd därför in en av Sveriges ledande tänkare och forskare inom Artificiell Intelligens till Evolution Show, professor Olle Häggström. Samtalet är kanske det viktigaste jag haft i mitt liv och det är nog väldigt svårt för de flesta människor att ta in detta men Olle Häggström varnar för att om nuvarande utveckling fortsätter kan människan stå inför ett hot om att bli totalt utplånad redan inom 7 år! 

Det här är något att ta på högsta allvar. Olle Häggström är inte vem som helst utan statistisk matematiker vid Chalmers och har skrivit flera djupdykande böcker om AI-risker, inklusive "Tänkande Maskiner" och många vetenskapliga artiklar om den exponentiella utvecklingen inom artificiell intelligens och har följt AI-utvecklingen nära i årtionden. 

Observera att Olle Häggström INTE säger att detta oundvikligen kommer ske, vi kan fortfarande vända på utvecklingen men då krävs en totalsvängning och fokus på att minimera AI-riskerna jämfört med dagens "fullfart framåt vi fixar eventuella problem när de uppstår". 

Lyssna gärna på del 1 av vårt samtal i Evolution nedan där vi bland annat pratar om varför så många, inklusive AI-forskare och ledande AI-bolag underskattar riskerna och tenderar att fokuserar på fel typ av risker eller förminska riskerna vilket kan få fullständigt förödande konsekvenser inom mycket kort tid, år inte årtionden.

Del 2 kommer på lördag nästa vecka, då går vi igenom OPEN AI:s egen riskanalys "OPEN AI Preparedness Framework", missa inte det! 

Kommande gäster i Evolution Show är bland andra Absolicons VD och grundare Joakim Byström om deras världsledande solvärmefångare, Heart Aerospace VD och grundare Anders Forslund och ledaren för Oceanbird som världens största segelfartyg för frakt.  

Med detta mindre mysiga inlägg önskar jag bloggens läsare en trevlig söndag och en fin start på kommande vecka!