2015-04-27

Artificiell Intelligens: En kapplöpning mot tiden eller om den mest säljande produkten?

Vi har tidigare skrivit flera inlägg på temat Artificiell Intelligens. I nr 6 av tidningen OM skrev Johan artikeln "autonoma maskiner och artificiell intelligens" om för och nackdelarna med den snabba utvecklingen av AI. 

Nyligen intervjuades Elon Musk (VD och grundare för både Tesla Motors och SpaceX) och Bill Gates vid ett event i Kina. Intervjuare var Robin Li, VD för Kinas största sökmotor Baidu vilket är landets motsvarighet till Google. Globalt är Baidu nu på fjärdeplats efter Google, Bing och Yahoo. 

En hel del intressanta frågor ställdes men vi fokuserar i detta inlägg på de som rör Artificiell Intelligens. 

Robin Li citerade Baidus chefsforskare Andrew Ng som sagt "att oroa sig över de mörka sidan av Artificiell Intelligens är som att oroa sig över överbefolkning på Mars" och frågade sedan Elon Musk hur han såg på det. Musk som vid en intervju anordnad av Massachusets Institute of Technology (MIT) i oktober 2014 sa att han ser AI som det största hotet mot mänskligheten. Detta då den har potentialen att ta kontroll över och utrota hela den värld som vi idag känner den.

Musk som har mer insyn än de flesta i hur snabbt utvecklingen av AI går, är alltmer övertygad om att det behövs en nationell och internationell översyn av AI så att "vi inte gör något dumdristigt". Musk har till och med sagt att utvecklingen av AI är som att locka fram djävulen.  

Musk svar på Lis fråga var: 

"Jag tycker det är en radikalt felaktig anologi, jag vet en del om Mars. Riskerna med digital intelligens och jag vill att ni försöker beakta att den skulle inte bara att uppnå mänsklig nivå utan skulle uppnå övermänsklig nivå nästan omedelbart och skulle köra ifrån oss och kunna göra saker bortom vad vi ens kan föreställa oss. Jag tycker att en mer passande jämförelse vore att titta på kärnkraft forskningen och dess potential som ett mycket farligt vapen. Att frigöra energi är enkelt men att hålla kvar energi säkert är mycket svårt. Så jag tycker att rätt fokus vad gäller AI-forskning är AI-säkerhet först. Vi bör lägga betydande mer resurser på att göra AI säkert än vi gör på att bara utveckla AI så fort som möjligt"

Musk sa även att "Artificiell Intelligens kan bli bra eller dåligt men kan bli katastrofalt dåligt som en nukleär härdsmälta". Musk la sedan till att han inte är emot utvecklingen av AI men att om det krävs längre tid att utveckla för att vi prioriterar säkerheten först, är det den väg vi bör ta.

Varför ska man då Musk varningar på allvar?

Musk har investerat många miljoner i ett världsledande företag inom AI i Silicon Valley för att få insyn i utvecklingen och dessutom öronmärkt 80 miljoner kronor av sina egna pengar till Future of Life Institut (FLI). FLI är en frivilligt driven forskningsorganisation som arbetar för att mildra existentiella hot mot mänskligheten och fokuserar just på riskerna med utvecklingen av artificiell intelligens som når mänsklig nivå.

Bill Gates instämde i Elons varningar och påpekade att människan har en väldigt långsam hjärna med begränsat minne och förmåga att skicka data till andra datorer (människor), via våra mun...men så fort dessa egenskaper kan föras över till mjukvara och en självlärande algoritm kommer det gå så snabbt att vi människor inte ens hinner uppfatta vad som skett.



En annan som höjt ett varnande finger för utvecklingen av AI är Steve the Wiz Wozniak som 
nyligen intervjuades i Ny Teknik.  Wozniak är teknikgeniet som tillsammans med Steve Jobs grundade Apple. På frågan om sitt bidrag till teknikutvecklingen är han osäker på om det egentligen lett till något bättre, han ångrar rent av det.   

Ny Teknik skriver:

"Först tänker han på hur hans dröm var att ge människor kontroll över sina liv och mer tid.

-Men i dag behövs det två i familjen som jobbar för att har råd med ett hem. Det är fel väg, säger han.

Sedan tänker han på artificiell intelligens, AI.

-Datorer kommer allt närmare förmågan att tänka. Och tänk om datorer får känslor, om de kan lösa problem i världen, och blir tio eller hundra gånger smartare än människor. Det är skrämmande om det händer."   

Anthony Mayfield har forskat mycket på Artificiell Intelligens och bland annat tittat på hur människan kan visa medlidande för robotar och hur amerikanska militärmakten redan nu skapat algoritmer så att drönare ska kunna ta egna beslut om de ska "bomba/avfyra en robot" eller inte mot människor när tex förlorar kontakten med sin pilot. Mayfield har även skrivit den läsvärda boken
"On The Brink: Resource Depletion, Debt Collapse and Supertechnology".Mer om det i tidigare inlägg.   

Tänker man efter lite är varningarna inte överdrivna. Allting är sammanlänkat idag vilket innebär att att det en dag, förr än vi kanske tror, bara är för en AI-maskin eller mjukvara att utnyttja detta smörgåsbord och på så vis koppla upp sig mot den mänskliga "hjärnan" och ta fullständig kontroll.

Om nu utvecklingen av AI innebär så stora risker varför satsar då jätteföretag som Google, Baidu, och Apple och försvarsmakter och universitet över hela världen så mycket resurser på det kan man undra. Svaret är tyvärr väldigt enkelt, ingen vill stå utan möjligheten att ha maskiner som bygger andra maskiner och utvecklar egen mjukvara som är mer konkurrenskraftig än något annat företag eller land kan frambringa. Det kan ju vara ödesdigert långsiktigt för tex ett företag följer den logiken...

Föreställ er bara denna våta företagsdröm: AI som ser till att minimera den mänskliga personalkostnaderna till ett minimum, produktion kan ske var som helst, vilket innebär minimala transportkostnader och nära till marknader för produkter och tjänster. Ingen personal som ifrågasätter sina arbetsuppgifter eller behöver mat och försäkringar (eller kan strejka!) och när misstag eller olyckor sker kan företagsledningen skylla på AI...genialt!

Låt oss avsluta med en liten tankeställare. Johan lyssnade på en ingenjör härom året som arbetat flera år med att utveckla smartphones. Han sa att inte ens han som jobbat med detta varje dag i flera år förstod helt hur de fungerade. Han menade att dessa smartphones istället borde kallas dumbphones.

De fördummar oss genom att vi inbillar att oss att vi med dem i handen är smartare än tidigare generationer. Bara för att vi kan dra med fingrarna på en skärm och har koll på appar. Manicker som vi dessutom inte kan vara utan, då vi genast känner oss meningslösa och rastlösa ja rent av mindre sociala om de inte är laddade och redo! 

Så kanske dags att fundera på hur mycket tid vi spenderar framför smartphones och andra smarta manicker och börja använda våra egna hjärnor mer. Annars kommer vi upprepa precis samma misstag som tidigare generationer, bara med mycket kraftfullare leksaker och med ännu större konsekvenser för fler människor när något går snett.

Vi kommer må bättre om vi ägnar mer tid åt att faktiskt prata med människor och träffa dem på riktigt, för att inte tala om att gå ut i naturen och förstå hur den faktiskt förser med alla de resurser och den teknik och uppfinningsrikedom som vi inbillar oss är en produkt av det vi vi kallar ekonomin. 

9 kommentarer:

  1. Nja, jag kan ha fel men jag tror att dagen kisel baserade cpu:er kommer att sätta en gräns, redan i dag har man problem att få ut mer prestanda ur kretsarna. Förr var krympningar och högre klockfrekvens men nu mera är mer parallellism delvis fler kärnor och köra flera instruktioner samtidigt men även här börjar det ta stop, vissa saker går väldigt dåligt att parallellisera (de flesta saker).
    Visst krymper man fortfarande kretsarna men man börjar få problem med så kallad "dark silicon" vilket gör att "vinsterna" med krympning minskar och kanske helt försvinner.
    Intel som just nu leder krympningen har 14nm, man tror att man kan göra kretsa till 6-7nm, men det är tveksamt om det är ekonomisk försvarbart.
    Om man tar Google brain, som är ett AI forsknings projekt som körs på 1000st servrar (16000st cpuer) med en förbrukning på 600kw och den kan simulera väldigt enkel väldigt enkel "hjärna" typ ett bi (förenklat).
    En uppskattning är att det behövs ungefär 5 000 000 gånger starkare dator för att simulera en mänsklig hjärna. (observera att det är inte realtid vi pratar om) Tja du kan räkna ut vilket effekt det behövs om man använder samma typ av datorer i Google brain, Förbrukning skulle även vara betydande även om man lyckas få fram cpu som drar 1/1000 del.Typ 300000kw!
    Kommer AI att "hota" jobb, ja det tror jag typ enklare jobb typ lastbils chaufförer mm. Kommer det att finnas krigsrobotar med "AI" ja troligt vis. Kommer det finnas AI som har högre IQ än genomsnitts människan mycket tveksamt. Däremot gör datorer i saker i dag som vi knappast kan göra själv, men det betyder inte att den är intelligentare utan är ett verktyg.
    så jag håller med Baidus uttalande "att oroa sig över de mörka sidan av Artificiell Intelligens är som att oroa sig över överbefolkning på Mars"

    SvaraRadera
    Svar
    1. Hej. Google brain låter mycket ineffektivt om det vore den vägen framåt för AI skulle det verkligen ta tid. Men så kommer det heller inte gå till. Varför köra 1000 st servrar när du kan köra miljontals datorer världen över med mjukvara som utvecklar AI förmågan genom att helt enkelt kommunicera med människor och "lära sig". Något som den självlärande algoritmen cleverbot gjort sedan 1997.

      När den gjorde det kända Turing testet för att se om den kunde betraktas ha mänsklig intelligensvid vid en festival vid Indian Institute of Technology Guwahati 2011 ansåg de 334 röstande att cleverbot var 59,3 mänsklig. Jämfört med 63,3 % som människorna som gjorde testet uppnådde. 50 eller högre brukar anses vara godkänt...

      Läs mer här: http://en.wikipedia.org/wiki/Cleverbot

      Men utan att fördjupa oss hur den exponentiella utvecklingen av AI går, vilken sker i huvudsak i hemlighet hos försvarsmakter och i dolda forskningscentra hos företag, uppstår problemet redan idag med de algoritmer som gör att det går att friskriva sig ansvaret för maskiners handlande. Om en drönare redan idag kan flyga och döda själv med dessa algoritmer, inser du säkert att det inte är långt borta innan dessa mjukvara får nya applikationer och kan användas inom tex polis, säkerhetstjänst och ja till och med inom nöjesindustrin.

      Min poäng är inte AI plötsligt blir självmedvetande, även om det går åt det åt håller, utan att det i första steget kommer möjliggöra att några få företag/människor kan kontrollera många maskiner/mjukvara och därmed få enorm makt över våra liv. Inga människor som mellanhänder längre. Det är därför en precis som Anthony Mayfield en demokratisk fråga att låta människor få insyn i denna utveckling och bestämma hur de vill ha det.

      Se gärna Anthony Mayfields video här:
      https://www.youtube.com/watch?t=150&v=6q_krRBgLAM

      Silikon och kisel är inte det som begränsar AI-utvecklingen det är hur avvancerad mjukvaran är och hur många datorer den kopplas samman med. Som Elon sagt, det första AI-genombrottet kan vara en mjukvara som utvecklas för att ta bort allt spam på Internet men snabbt konstaterar den att spam inte är problemet, det är korkade människor som är problemet!!

      Mvh
      Johan

      Radera
  2. Isaac Asimov var rejält förutseende med sin 3 lagar ( och den nollte lagen ..... )

    SvaraRadera
    Svar
    1. Hej! Ja verkligen men kom ihåg att människor har en tendens bryta regler, göra misstag om man så vill, som lätt kan avspeglas i hur de sedan programmerar robotarna. Alla robotar blir inte manodepressiva som Marvin i liftarens guide till galaxen (även om den samtidigt är rätt smart). De kan programmeras att vara offensiva och sedan kommer något snille på att de inte längre ska styras enligt vett och etikett utan "låt oss se om de kan vara mer effektivt att låta de arbeta/utvecklas själva..." allt i bästa konkurrens anda.

      Mvh
      Johan

      Radera
  3. BioCarbon Engineering hoppas ha drönare klara för att plantera skog sent i sommar. Det fungerar inte bättre än handplanterade frön men kostnaden blir ungefär 15% av dagens.

    Två operatörer manövrerar flera drönare. Upp till 36 000 träd om dagen, tror företaget. Givetvis långt från IQ nära vår i drönarna men de gör det mesta av jobbet själv.

    Vänliga hälsningar

    Nanotec

    SvaraRadera
    Svar
    1. Hej. Jag läste det imorse, väldigt bra PR för drönare och säkert effektivt o användningsbart men man måste alltid fråga sig hur övriga drönare kommer användas dvs det är lätt att få människors gillande för något nytt när det lanseras som miljöbekämpning, brandbekämpning och inom jordbruket men mindre acceptabelt när det används inom polis, säkerhetstjänst och försvarsmakten. En smygande förändring som sedermera blir allomfattande/en del av vardagen behöver inte betyda att den är önskvärd. Det är endast i början av utvecklingen som den påverkas, även om det just nu ser att rulla på av sig självt....

      Mvh
      Johan

      Radera
    2. Jo det finns nästan alltid olika sidor att se. Om vi ska ha en bred syn på robotar så att också drönare räknas dit så rullar kryper simmar och flyger allt fler robotar idag. Regler behövs men stoppar också mycket nya företag. Räknade själv på en verksamhet med radiostyrd liten (8 m lång) Zeppelinare för 10 år sedan men fick besked av luftfartsverket att Eu ännu inte hade regler klara för sådan verksamhet. Fotografering kombinerad med reklam var tanken. Flygplan och helikopter var vad jag tänkte ersätta.

      För övrigt har jag läst Olja för blåbär och tycker den är så bra att jag ska köpa den. Bra skriven med mycket fakta och roliga små anekdoter. Enda som störde (något) var framtidstitten på slutet med fest i lada och bara ett par autonoma bilar. Verkade också som om alla där jobbade med jordbruk. Något internet eller datorer överhuvudtaget verkade inte finnas. Visserligen är jag född i urskogarna i norra Värmland och gillar skog och natur men bor sedan länge i 08 och är givetvis ingenjör.

      Vänliga hälsningar

      Nanotec

      Radera
    3. PS Boken finns att låna på Dieselverkstadens bibliotek i Sickla Nacka. DS

      Nanotec

      Radera
    4. Hej! Tack för de fina orden och kul du gillar boken. Jag förstår hur du tänker vad det gäller framtidstitten, det är dock bara tänkt som ett exempel, hur det kan se ut på en plats och för att väcka nyfikenhet. Vi menade inte att Internet behöver vara helt nedsläckt och att alla jobbar inom jordbruket men vi tror helt klart att en mycket större del än idag kommer bli involverade i den lokala matproduktionen framöver. Det gäller både jordbruket, förädlingen och försäljningen.

      Ingenjörer/ingenjörskunskaper kommer vi alltid behöva men tror mer på bredd inom kunskapsområdet där såväl som i andra yrken för minska sårbarheten som lätt uppkommer vid överspecialisering.

      Mvh
      Johan

      Radera

Kommentarer bör hållas till bloggartikelns ämne. Håll god ton.

LinkWithin

Related Posts Plugin for WordPress, Blogger...