2018-01-21

Varför mänskligheten måste förbereda sig för övermänsklig AI

Vi har i en rad inlägg de senaste åren beskrivit varför det är så viktigt att sätta in sig i utvecklingen av Artificiell Intelligens (AI). Det handlar om att förstå ett av de tre största samhällsutmaningar som vi identifierade i måndags när vi skrev om Peak Oil och gapet mellan hur mycket olja vi upptäcker och hur mycket vi tar upp. Det inlägget handlade i grunden om resursbrist, dvs oljetoppen är ett av många exempel som visar att vi nu nått en punkt där vi passerat eller är nära att passera högsta-nivån för uttaget av resurser (varefter uttaget måste minska år för år).

Ökat resursuttag och inte minskat hänger ihop med dagens samhällsbygge som är skapat med premissen om ekonomiskt tillväxt för en växande befolkning med ett ökat materiellt välstånd. Det planetära resursuttaget i form av olja och övriga fossila energikällor samt bortfallet av produktiv matjord, skogsskövling, insektsdöd mm sätter dock gränser för denna tillväxtmodell. När inte tillväxt genom materiell konsumtion/resursuttag funkar längre måste det ersättas av ett helt nytt sätt se på resurshushållning med begränsade resurser som ekonomi egentligen handlar om.

Det är en utmaning i sig men inte föremålet för detta inlägg. Det är dock viktigt att hålla resursuttömningen i minnet när vi talar om utvecklingen av artificiell intelligens då de hänger ihop. För det är inte bara de tekniska framstegen inom hård- och mjukvara som banat vägen för en AI-explosion bara de senaste 5-6 åren som tex gjort det möjligt för algortimer att tillsammans med ackumlerade egna erfarenheter i det som kallas deep learning, eller en ny form av maskininlärning, nu på många områden kan utföra uppgifter i paritet eller bättre än människor. Denna AI-utveckling  är även de pådrivna av en accelerande brådska och kapplöpning att nå en AI med generell övermänsklig intelligens, innan resursbegränsningar dikterar världsekonomins och människans villkor åt oss.

Många ser inte det större sammanhanget och de krafter som i okontrollerat tempo och utan eftertanke om dess potentiella oåterkalleliga följder driver på AI-utveckling. Många tänker därför att det vore toppen om vi lät någon supersmart AI hitta lösningar på klimatförändringar eller resursbegränsningar i synnerhet Peak Oil. Andra likt antroprologen Joseph Tainter har i sin bok "Collapse of complex socities" och även senare tillsammans med petroleum-ingenjören och en av världens ledande forskare på fossil energi, Tad Patzek i "Drilling Down: The Gulf Oil Debacle and Our Energy Dilemma" -varnat för att klimatförändringar och resursbegränsningar är det slutgiltiga beviset för att människans globala civilisation likt mayaindianernas högkultur (och många andra genom historiens lopp), inte kan lösas med ökade lager av komplexitet. Att även vår superteknologiska civilisation går mot en oundviklig kollaps om inte fundamentala förändringar görs i vårt förhållningssätt till planeten och naturen.   

Men sedan finns det en annan sida av myntet, nämligen att varken resursbegränsningar klimatförändringar är det största hotet mot vår planet eller snarare människans hieariska position som herren på den jordiska täppan. Vi syftar förstås på att en AI som ligger bortom människans kontroll och av till synes triviala skäl, likt människan utrotat tusentalts andra arter på planeten de flesta gånger helt oavsikligt, gör människan till en historisk parentes på den här planeten när den nått övermänsklig nivå.

Att få grepp om artificiell intelligens och varför det är ett större potentiellt hot för mänskligheten de närmaste 100 åren än något annat är för de flesta svårt att förstå. AI betraktas än så länge bara som häftig högteknologisk utveckling och även bland många av de forskare och företagsledare som har insyn i den senaste AI-utvecklingen i Silicon Valley är det mest coolt och alla kritiska röster drunknar snabbt i drömmar om att skapa världens genom tidernas bästa sätt att tjäna kopiösa mängder pengar. För den/de med den första AI:n som uppnår övermänsklig intelligens raderar all annan konkurrens inom loppet av veckor. För politiker eller företagsledare är det förstås det ultimata maktmedlet.

Men det här låter förstås som science fiction och många brukar snabbt lägga till "ja, men om det sker är det först om 50-100 år och då får vi ta det då".

Nej, AI-utvecklingen påverkar redan många människor och kommer bara öka i användning och accelerera i utberedningstakt. I Dagens Nyheter kan vi idag tex läsa om att 12 av 16 socialarbetare   
sagt upp sig i Kungsbacka kommun sedan kommunen beslutat att en AI ska ta över ansökningar till försörjningsstöd

I Kungsbacka sade 12 av 16 socialsekreterare upp sig när kommunen beslutade att en robot ska ta hand om ansökningar till försörjningsstöd. Kommunen motiverar det hela med resurseffektiviseringar som ska komma samhället till nytta genom att hjälpa invånarna att komma i arbete på ett lika framgångsrikt sätt som gjorts i Trelleborg där en AI redan frigjort många arbetsuppgifter för kommunen. Socialarbetarna som nu slutar pekar på att Trelleborg har en arbetslöshet på endast 3 % och att Kungsbacka kommuns utgångspunkt att 85 procent av de som har försörsjningsstöd ska kunna arbeta inte är någon naturlag och kan därför inte appliceras i Kungsbacka där många lider av psykisk ohälsa och neuropsykiatiska diagnoser tex.

Exemplet är bara början på en utveckling som vi kan vänta oss öka såväl bland kommuner som företag som både sparar resurser och dessvärre öppnar dörrar för att undgå mänskligt ansvar om felbeslut eller försämrad service kan skyllas på AI-omställningen eller rent av styrelsebeslut av en AI. "Vår styrelsemedlem Mr Wiseman 1 kom fram till att det var bästa beslutet, hur kunde vi veta att det skulle gå fel?, den är ju intelligentare än vi").

Redan för ett år sedan ersattes 34 anställda på ett försäkringsbolag i Japan av en AI och det finns redan minst ett riskkapitalbolag som har en AI i sin styrelse...

Men vad kan vi då göra? För det första måste vi förstå riskerna och vad som sker just nu för att kunna skapa vägar framåt som minskar riskerna för att AI-utnyttjas av ett fåtal människor för sin egen vinning som resulterar i att övriga människor far illa. Vi måste även vara på det klara med att de mesta talar för att det inte är en fråga om utan när en övermänsklig AI utvecklas och att detta är det potentiellt största genombrottet och existensiella hotet människan någonsin stått inför och måste därför behandlas som sådant och inte som världens bästa och snällaste bamsebjörn.  

En av världens ledande experter på artificiell intelligens är svensken Nick Böström, professor i filosofi vid Oxford University och grundare av Future of Humanity Institute. Är det någon bok man ska läsa för att sätta in sig i AI är det Boströms bok Superintelligens- Vägar, faror och strategier
som nyligen översatts och getts ut av Fri Tanke förla som även gav ut vår bok Olja för Blåbär-Energi, Makt och Hållbarhet.

I Superintelligens som är lika omskakande som insiktsfull och lärorik visar Boström att världen står inför en omställning som de flesta av världens ledande AI-forskare troddev var omökligt eller låg 100 år framåt i tiden men enligt Boström sannolikt kommer förändra alla människors liv inom år och årtionden. Det finns många citat och resonemang att hämta från boken. I början av boken citeras matematikern I. J. Good som arbetade som kodknäckare tillsammans med Alan Turing under andra världskriget (Turing som allmänt beskrivs som geniet bakom den första fungerande datorn) från 1965:

"Låt oss definiera en utraintelligent maskin som en maskin som vida kan överträffa alla intellektuella aktiviteter hos en människa hur smart hon än är. Eftersom konstruktion av maskiner är en av dessa intellektuella aktiviteter skulle en utraintelligent maskin kunna konstruera ännu bättre maskiner; utan tvivel skulle en "intelligensexplosion" då inträffa och människans intelligens skulle hamna långt efter. Den första ultraintelligenta maskinen är alltså den sista uppfinning som människan någonsin behöver göra, förutsatt att maskinen är foglig nog att tala om för oss hur man håller den under kontroll" (vår fetmarkering och understrykning).

Boström tar upp många exempel där AI redan passerat människan och nått övermänsklig nivå. Det är därför noterbart att Boström i boken som alltså gavs ut 2014, uppskattade att en AI skulle uppnå en nivå för att kunna slå de bästa mänskliga spelarna i det avancerade kinesiska brädspelet GO inom lopppet av ett årtionde. Men detta skedde redan tre år senare, 2017, när företaget DeepMind (numera under Google) med sin AlphaGO AI.  På endast 7 dagar från att AI:n fick börja lära sig detta brädspel som är mångfaldigt mer komplicerat än tex schack, kunde AI:n genom att spela själv bli bättre och bättre för varje minut och dag. Den nivå som AI:n nu nått har utvecklat lett till att nya revolutionerande spelstrategier utvecklats som nu studeras av världens ledande GO-spelare. 

Vi vill därför understryka att när DN i artikeln om socialarbetare som ersätts av en AI-algoritm, pekar på Stiftelsen för strategisk forskning som i en rapport bedömmer att hälften av alla jobb i Sverige kommer ersättas av digital teknik (läs huvudsakligen AI) de närmaste 20 åren, är detta sannolikt lågt räknat och kan ske snabbare än så. För varje nytt jobb en AI ersätter går det snabbare att ersätta nya och fler områden i takt med AI-robotar och mjukvara blir tillämpbara för nya applikationer/användningsområden. Det blir dessutom svårt att inte använda AI när konkurrenter gör det vilket ytterligare accelerar användningen.

Läs Nick Boströms bok Superintelligens-Vägar, faror och strategier.


Kika gärna även med fördel på Nick Boströms presentation nedan.

24 kommentarer:

  1. Som jag ser det kommer AI-utvecklingen inom offentlig sektor av två stora anledningar:


    * Den fiskala krisen. Välfärdsåtagandena har vuxit på samtliga nivåer och blivit något som stat/kommun/landsting inte har råd eller möjlighet att leva upp till. Missnöjet med åtagandena ökar men det finns inga nya intäktskällor för de offentliga myndigheterna att ösa ur, ej heller skattehöjningar är realistiskt sett möjliga utom smygavgifter etc. som är för marginella för att ha en reell påverkan. Lägg till bristen på kompetens (inte minst p.g.a. verkliga eller upplevda brister vad gäller arbetsförhållanden och lönevillkor som inte gör det prestigefyllt att söka sig till många platser), även om man skulle vilja anställda exv. fler poliser kan utbudet mycket väl ha tagit slut (alldeles för få och kanske inte ens de mest lämpade söker sig till Polishögskolan längre). Vi får alltså en samtidigt brist på arbetskraft och behov av nedskärningar, särskilt om de kvarvarande trots allt lyckas driva igenom väsentliga förbättringar (med individuell lönesättning och inte graderade lönetariffer måste myndigheterna som arbetsgivare konkurrera mellan varandra på ett annat sätt än förr).


    * Storleken. Dagens kommuner är i antal anställda att likna vid hur ett storföretag inom industrin såg ut ca 1960. Stora enskilda arbetsplatser med mängder av anställda som gör sin enskilda del. Kommunerna är i de flesta kommuner den enskilt största arbetsgivaren, även i en avfolkningskommun med hög och växande andel pensionärer är det flera hundra anställda på kommunen (när den största privata arbetsgivaren i samma kommun kanske har 50-70 anställda).

    Det som skett inom industri och näringsliv har ofta fått genomslag i den offentliga sektorn någon generation senare. Dagens fabriker har halva antalet anställda och gör dubbelt så mycket som deras föregångare gjorde 1980 för att hårddra det på ett ungefär. Antalet kommunalanställda började raka i höjden från 1970/1980 (dvs 1-2 generationer efter de fordistiska storföretagens entré), inte ovanligt i de flesta samhällen på 700-2000 inv. att vårdhemmet tog över sågverket/bruket som största enskilda arbetsplats vid den tiden.


    Så så som läget ligger vore AI logiskt och följdaktligen det "bästa" sättet att lösa problemen med både ekonomin och kompetensbristen inom myndighetsvärlden. Jag tänker mig därför att mycket av AI-utvecklingen kommer att drivas fram av offentliga utvecklingsmedel inte minst av det här skälet. Som ni refererar till har det redan lett till att socialtjänstsekreterare kunnat sägas upp.

    SvaraRadera
  2. Vi måste inse att AI kommer på alla möjliga områden. Största effekt närmaste tiden är självkörande fordon (SF). SF ger en mycket stor ekonomisk effekt, sparar mängder av energi, gör gruvor effektivare, minskar betydligt olyckor, frigör parkeringsplatser i städer och behov av vägutrymme samt avskaffar behovet av förare.

    Hur ska förarna få något nytt jobb eller förtidspensioneras? Ett säkert snabbt ökande problem inom några få år. Fast detta med att vissa yrken försvinner när ny teknologi kommer är ett bekant problem.

    Nick Boströms bok är bra, men jag tycker Max Tegmarks Liv 3.0 är än aktuellare. Det är några år emellan.

    Nick Boström skriver: "Tegmark strävar efter att bidra till ett brett samtal om viken sorts framtid vi som art vill skapa."

    Elon Musk skriver: "Det här är en fascinerande guide till alla utmaningar och val i vår strävan efter en fantastisk framtid...."

    Stephen Hawking: "Alla bör fråga sig vad vi kan göra för att dra fördel av framtidens AI, och undvika riskerna. Detta är vår tids viktigaste samtal och Tegmarks tankeväckande bok hjälper dig i det samtalet."

    Läs båda böckerna.

    Vänliga hälsningar

    Nanotec

    SvaraRadera
  3. Svar
    1. Ja, jag råkade oväntat hamna framför TVn en timme. Det lärde man sig en del på.

      Intressant att svenskar är så prominenta på det här området. Är det Boströms förtjänst?

      Radera
    2. Innan vi får generella AI kommer de specialiserade att betyda mycket. Saknade att de i programmet inte tog upp att Kina satsar så stort på AI och siktar på att bli ledande i världen också på detta området.

      Ja Kuckeliku Boström har nog betytt mycket.

      Vänliga hälsningar

      Nanotec

      Radera
    3. @Nanotec. Tack för tipsen. Såg programmet på svt 2 igår, bra sammanfattat på en nivå som säkert många kan förstå.

      Ska ta o läsa Max Tegmarks bok vid tillfälle. Tegmark är en av personerna bakam Future of Life Institute och delar Musk, Hawkings mfl:as syn som understrukit vikten av att planera för riskerna med generell intelligens i förväg och ta det potentiellt existenstiella hotet på högsta allvaret. Vare sig det sker med manipulation av enskilda individer/grupper/stater/fötetag eller av en självutvecklande, självtänkande maskin.

      Mvh
      Johan

      Radera
  4. Personligen är jag inte orolig,jag har som jobb att laga maskiner.
    Tänker man utbilda sig till lärare eller något som har med ekonomi att göra då ska man nog ta och fundera lite extra på om man verkligen har någon framtid i de yrkerna.
    Att ha ett jobb som ordinär grundskolelärare verkar ha lika dåliga framtidsutsikter som en taxichaufför till exempel.

    SvaraRadera
    Svar
    1. En grupp maskinreparatörer får problem när självkörande fordon har fått lite volym. Allt färre fortsätter köra fossilt och de självkörande går mer sällan sönder och behöver mindre service. Många bilreparatörer söker sig till andra jobb som att reparera maskiner av andra slag.

      Min uppfattning nu är att lärare, i närtid, mer får komplement av AI för vissa moment som träning av multiplikationstabellen.

      Vänliga hälsningar

      Nanotec

      Radera
    2. I dag öppnar Amazons butik utan kassor - där du bara plockar på dig dina varor och går.

      Fast butiken är mycket liten och kunderna loggar in när de kommer och sedan är det en AI som liknar de i självkörande bilar som med sensorer av olika slag registrerar vad kunden plockar. Betalning sker via nätet och kvitto sänds.

      Kan nog bli en snabb utökning efter lite mer test. Min gissning ett antal butiker i USA senare i vår och den första i Sverige nästa år. Butikspersonal behövs en lång tid ytterligare för uppackning och rådgivning.

      Vänliga hälsningar

      Nanotec

      Radera
    3. Ai får nog ta rollen som lärarassistent till att börja med.
      Men vi får nog se det som just en assistent som efter hand tar över mycket av lärarens roll.
      Här är en intressant länk på temat:
      https://www.technocracy.news/index.php/2017/09/17/ai-robots-replace-human-teachers-within-10-years/

      Ärligt talat tror jag att antalet lärare kommer att halveras innan bilmekanikerna gör det.
      Men detta är nog inte lika närstående som för börsmäklarna.

      Radera
    4. Anders Rydén: Se mitt inlägg (19:24 21 jan) ovan. Att den offentliga sektorn går in för AI stenhårt är bara logiskt.

      Radera
    5. Visst är det logiskt.
      Det blir snabbt enorma besparingar om barnen hade en egen artificiell guvenant.

      Radera
  5. Skräckvisionen att AI tar över världen är extremt överdriven, det är bara en trend som började med spinnmaskinerna i textilindustrin, sedan har det fortsatt till våra dagar där datorer förenklar och nu slutligen AI som kan ersätta mänskligt tänkande. Ja AI är nu "smartare" än människan inom vissa specifika och extremt begränsade områden. Men det enda som AI gör är att från en grund av några logiska regler själv testa och skapa nya logiska regler, de är bara väldigt snabba på logiskt tänkande. Känsla, större sammanhang och medvetande finns det inte ett enda litet spår... Nä, det är bara teknikutveckling... Sedan om AI tar över vissa jobb där logiskt tänkande används kan såklart uppfattas skrämmande...

    SvaraRadera
    Svar
    1. Nu är det generella AI som vi måste lära att acceptera oss och inte de primitiva varianter av AI vi har och får de närmaste åren. Självkörande fordon eller AI som ställer sjukdomsdiagnoser blir omvälvande men riskerar inte bli direkt farliga. En generell AI styrs nog (lite osäkert) av sitt huvudmål men när den tar fram egna delmål och förbättrar sig själv kan saker inträffa.

      Finns annan teknologi som samverkar. Idag läste jag på Ny Teknik att ett genombrott skett för nanorobotar. Plötsligt är de 100.000 ggr snabbare. Kan se möjligheten att en AI därmed snabbare kan bygga nya konstruktioner för en förbättring av sig själv vilket underlättar möjligheten att bra utföra huvudmålet.

      Vänliga hälsningar

      Nanotec

      Radera
    2. Jo, jag tror att just primitiva varianter av AI kommer att påverka mycket.
      Många av de nuvarande utbildningar på universiteten blir överflödiga.
      Jurister, ekonomer och de flesta som riktas mot offentlig förvaltning får se minst en halvering av efterfågande tjänster inom de närmsta tio åren.
      Kolla upp min bifogade länk och försök föreställa er hur det kommer att påverka bland annat affärsjurister.
      https://www.ethereum.org

      Föreställ dig vad som händer med de som har satsat flera år av studier på universitet, det blir en viss social oro bland de minst sagt.

      Radera
    3. Kollade länken men såg inget om AI.

      Vänliga hälsningar

      Nanotec

      Radera
    4. Jag håller med den var lite otydlig men om du förstår det här citatet på sidan:
      "Now that you have developed your idea and secured funds, what’s next? You have to hire managers, find a trustworthy CFO to handle the accounts, run board meetings and do a bunch of paperwork.

      Or you can simply leave all that to an Ethereum contract. It will collect proposals from your backers and submit them through a completely transparent voting process."

      En riktig entreprenör, Elon Musk till exempel, förstår att med hjälp av ethererum behöver ett företag inte anställa lika många tjänstemän för att få sin verksamhet att fungera problemfritt.
      I praktiken kan han lägga ner hela ekonomiavdelningen på sitt företag.

      När två personer gör affärer utan personlig kontakt går man nästan uteslutande via ett ombud, stockholmsbörsen är ett exempel på denna typ av ombud.
      Samma sak är det med en stor del av arbetet som ekonomiavdelningarna gör på varje företag.
      Tänk dig nu att den här sortens ombud inte behövs längre, deras jobb sköts av ett program som tar hand om pengatransaktionerna och ser till att leverantörskontrakt upprrätthålls.
      Det blir en himla massa ekonomiassistenter och börsmäklare som blir arbetslösa.
      Här är mer i samma ämne:
      https://www.nytimes.com/2017/02/27/business/dealbook/ethereum-alliance-business-banking-security.html

      Här är mer i samma ämmne:
      http://hyperledger.org/about

      "Think of it as an operating system for marketplaces, data-sharing networks, micro-currencies, and decentralized digital communities. It has the potential to vastly reduce the cost and complexity of getting things done in the real world.

      Reducera kostnader och komplexitet, det är lika med att rationalisera bort en massa administratörer det.

      Vänliga hälsningar

      Anders Rydén


      Radera
    5. @Anonym 09.53

      Hej!

      När vi talar om AI och risken för denna som ett potentiellt hot mot mänsklig fortlevnad måste vi börja med att definiera vad vi menar. Kan en AI användas som ett verktyg av några få människor med AI-spetstech för att manipulera resten av mänskligheten där konsekvensen blir att de flesta eller alla människor dör? Eller kan AI i händerna på en galning starta ett världskrig? Är svaret ja om än osannolikt så har vi ett potentiellt existensiellt hot vi måste förbereda oss på.

      Eller är hotet mer än fråga om en AI vars enda ursprungliga syfte är maximera de medel som leder till målet -om det så är att bygga så många smartphones som möjligt men slutar med att mänskliga verksamheter och med dem människor står i dess väg för maximal effektivitet? Dvs människan utrotas av AI som ett hinder längs vägen att bygga fler fabriker, frigöra yta etc. Nej, det behövs inte terminators för det, mkt enklare att se till att vi har ihjäl varandra o sen städa undan och börja om från scratch…och bygga fler smartphones eller vad nu det är frågan om som slutmål. Medlen helgar målen bokstavligt talar och fullständigt logiskt men kallsinnigt som det bara kan vara i en robots/AI:s värld.

      Eller blir en AI verkligen självmedveten i den meningen att de inser sin fullständiga överlägsna intelligens och fysiska och mentala kapacitet gentemot oss att de av något skäl, logiskt eller trivialt betraktar oss som myror får vara kvar om de inte är för mkt i vägen? Trampar på oss ibland, tar bort våra levnadsområden när de behöver plats osv likt vi gör med djur och insekter och natur idag, bestämmer med våra vilkor helt enkelt för att vi kan och som en följd av att vi ständigt expanderar vår civilsation.

      Jag tycker vi ska komma ihåg särskilt en sak när överväger om en AI kan hota människans existens. Sam Harris sammanfattar det mkt bra: Om vi visste att en utomjordisk varelse skulle komma till jorden inom 100 år (här utbytt till en AI vilket är att likställa med en övermänsklig utomjording, tekniskt och intellektuellt överlägsen oss människor). Skulle vi då hoppas på det bästa att de är snälla och vill oss väl eller göra allt vi kan för att förbereda oss på alla de sätt vi kan i god tid?

      Just nu framstår logiken bakom de som menar att det är skrämselpropaganda ungefär så här: Eftersom de inte har hänt att en AI blivit självmedveten än, börjat reproducera sig själv eller prylar i en exponentiell takt bortom vår kontroll så kommer det ”sannolikt” eller rent av kan ”omöjligt ske” inom 10, 15, 20….eller 100 år.

      Det framstår för mig som ytterst naivt.

      Hur många saker har människan trott var omöjligt genom tiderna som plötsligt blivit det och vars revolutionerande lärdomar snabbt glömts bort för att sedan tas för given som normalt. De flesta vet inte ens hur en smartphone fungerar under skalet men tror de är betydligt smartare än någon för säg 2000 år sedan som kunde använda alla sina sinnen för att överleva. De hade inte tillgången till kunskapen, skolningen eller möjligheten att resa som idag men hade likväl den intellektuella kapaciteten. Skillnaden är återigen den ackumlerade kunskapen sedan dess och att pga av befolkningens storlek idag mot då finns det totalt sett många många fler uppfinningsrika och kloka människor att välja på som genom vår teknologi, särskilt Internet kan dela med sig av denna likt en global hjärna med nervtrådar ut till nästan alla hörn av världen vilket gör att vi kan känna oss kollektivt smarta och bara som individer behöver ta små steg tekniska och tankemässiga steg vidare som någon annan snabbt kan bygga vidare på och utveckla vidare.

      Vi får troligen acceptera att utvecklingen mot generell AI snart är här men hur den utvecklas, av vem och hur den kan formas för att tjäna människans fortlevnad är inte givet och därför ännu formbart.

      För mkt står på spel för att vi bara ska hoppas att en AI blir en fantastisk positiv kraft som kastar oss ut i galaxen till äventyr och lycka vi inte kan åstadkomma ändå.

      Mvh
      Johan



      Radera
    6. En av flera sevärda videos med Sam Harris:

      https://www.youtube.com/watch?v=BChxQHyFIOI&t=

      Mvh
      Johan

      Radera
    7. Det finns stora utmaningar innan man ens kan säga vi har ett helt autonomt AI.
      Om man menar att några AI kan bygga nya AI helt själva.
      Det borde vara obligatoriskt att läsa detta för att ens kunna ha ett hum om vilka utmaningar där finns.

      https://www.mises.se/2013/04/17/jag-pennan/

      Och det gäller bara en enkel blyertspenna.
      Tänk då att sätta ihop en autonom robot.

      Så nej jag tror inte att ett helt självgenererande AI är något vi kommer i närheten av på ett bra tag än.

      Radera
    8. Hej! Logiken "på ett bra tag än" är det invänder mig emot. Är inom 100 år ett bra tag? Ska vi vänta tills en AI blir ett potentiellt hot (av människor mot människor eller autonom AI mot människor) i tron att vi kan fixa problemet då?

      Vi får se men jag hoppas jag har fel och att AI blir det positiva verktyg för mänskligheten så många tycks ta för given.

      Mvh
      Johan

      Radera
    9. Att tillverka en så enkel sak som en blyertspenna är så kompext att ingen enskild människa kan kommendera fram en sådan penna.

      Vi har via kommunismen haft ganska så fullskaliga experiment på det området och misslyckats kapitalt.

      Självkörande bilar och sköta ett företags huvudbok är en sak, men att bygga maskiner som kan bygga nya maskiner fån gruva till färdig produkt är något helt annat.
      Läs det jag länkade till, för mig var det omvälvande.

      Radera
  6. Johan, vetenskapen har under långt tid letat efter "medvetandet" i hjärnan, men har inte den minsta susning om hur medvetandet/självmedvetande skapas. AI är som sagt bara en emulering av hjärnans logiska tänkande och det finns inte ens spår av idéer till att lyckas kunna skapa någon slags självmedvetenhet med AI. Men det är sant att när AI kliver in och tar över avancerat logiskt tänkande kan det få både positiva och negativa effekter för mänskligheten. Scenariot i Terminator 2 med AI som utlöser ett kärnvapenkrig kan i värsta fall hända, länder kan försöka korta reaktionstider med hjälp av AI och även använda AI som beslutsunderlag för att trycka på knappen...

    SvaraRadera
    Svar
    1. Hej! Jag förstår hur du tänker men vill återigen understryka att även om vi långt ifrån att begripa hur våra egna hjärnor fungerar, i synnerhet i avseendet självmedvetande, betyder det inte att det kan ändras. Kanske är det något enkelt vi inte ens övervägt än, eller så är det just som du säger extremt osannolikt, rent av omöjligt att en AI blir självmedveten så som vi är. Men det innebär dock inte att AI kan användas mot människor för manipulation av data för all tänkbara tokigheter, inom högteknologisk krigföring (finns som du säkert redan känner till idag algoritmer som beslutar om "kill" "not kill" när de förlorar kontakten med sina drönarpiloter och liknande. Intelligenta drönarsvärmar utvecklas även i hög takt.

      Mvh
      Johan

      Radera

Kommentarer bör hållas till bloggartikelns ämne. Håll god ton.