Kan vi tämja datorerna?

En amerikansk börsmäklare som vid halv tretiden den 6 maj 2010 lämnade sin skärm för att gå till lattemaskinen och hälla upp en kopp kaffe missade allt. Plötsligt störtdök Dow Jones index med 9 procent, ett extremt stort fall för en så stor börs, och inom loppet av några minuter utraderades hundratals miljarder dollar i aktievärde. Bara för att återhämta sig lagom till lattekoppen ställdes på skrivbordet.

De automatiska sälj- och köpalgoritmer som dygnet runt bevakar kursrörelser och köper och säljer i väl kalkylerade kvantiteter, däremot, går aldrig och hämtar kaffe.

Enligt amerikanska finansinspektionen, SEC, så inleddes den så kallade mikrokraschen med att en algoritm från en aktieandelsfond påbörjade säsongens dittills största aktieförsäljning. De redan kraftiga kursrörelserna förstärktes av de automatiska handelsprogrammen som reagerade blixtsnabbt – det är ju själva poängen med dem – på varje nytt pris. Problemet var att de antog att varje tillfällig notering var det rätta värdet på aktien, vilket fick kurserna för multinationella bolag som Procter & Gamble och General Electric att svaja från 100 000 dollar styck ner till 1 cent.

Börsen, och kanske världsekonomin, som precis börjat hämta sig från finanskrisen 2008, räddades till sist av inbyggda säkerhetsbromsar i systemet.
Vi är bara i lindan av utvecklingen av artificiell intelligens, bokstavligen. Efter att 1900-talets AI-forskning stött i taket med sina förprogrammerade räknemaskiner började man om. I maj 1997 stod de på någon sorts topp när IBM:s schackdator, Deep Blue, besegrade världsmästaren Garri Kasparov. Det var ett historiskt ögonblick, men ändå inte ett genombrott. Deep Blue vann inte genom att tänka. Datorns 256 processorer räknade fram det bästa draget i en takt av 200 miljoner möjliga drag per sekund, och direkt efter segern skrotades den.

Datorgeniet Alan Turing hade redan 1950 föreslagit att man i stället för att försöka programmera en »vuxen« maskin, förutbestämd för sin uppgift, borde programmera en »barnmaskin«, liksom en nyfödd bebis ett vitt blad, med förmågan att lära sig av erfarenheter. Bara på så vis kan datorsystemet bli smartare än sin skapare.

Idén har således funnits länge, men det är först på senare år som AI-forskarna med hjälp av neuronnätverk och djupinlärning har börjat lära sig hur man gör.

I fjol lyckades Googles AI--dator Alpha Go besegra världsmästaren Lee Sedol i det kinesiska spelet Go, ett spel som betraktas som närmast gudomligt i sin komplexitet. Och den gjorde det på ett sätt som liknar människans sätt att tänka, genom att se mönster, analysera dem och lära sig av misstag. AI-experterna själva togs på sängen av hur snabbt Alpha Go blev bäst i världen, hela tio år tidigare än vad de hade gissat.

På flera håll gör AI-tekniken liknande landvinningar. I USA kör Google runt sina självstyrande bilar. Googles översättningar lär sig hela tiden ny grammatik och nyanser i orden och slår de flesta amatöröversättare. Taltjänster som Apples Siri och Google Now gör sitt bästa för att svara på frågor. FN har utvecklat ett sätt att förutse sjukdomsutbrott i världen med stöd av sitt AI-system Global Pulse, som gör big data-analyser av statusuppdateringar i sociala medier. Och inom tre år spås uppemot 50 miljarder saker – kylskåp, fläktar, bilar, övervakningskameror  … – vara uppkopplade på nätet för att kommunicera med oss och varandra.

Den artificiella intelligensen växer fram med religiösa övertoner. Maskinerna kan lösa klimatkrisen genom smartare beräkningar, effektivare resursanvändning och nya uppfinningar. De kan rädda liv, genom säkrare bilkörning eller genom att dagens brutalmekaniska industrirobotar som orsakat många dödsfall ersätts av intelligenta robotar, som förstår att röra sig försiktigt när människor är i närheten.

Och den dag vi har en självlärande maskin, som på alla områden har lyckats bli intelligentare än människan, då väntas en intelligensexplosion i världen. Den outtröttliga maskinen, som inte blir sjuk, inte behöver sova, som använder helgen till att läsa in en universitetskurs kan dessutom klona sig själv i önskad mängd lika begåvade maskiner. Om alla dessa samtidigt ger sig på att lösa cancerns gåta är det svårt att se att de inte skulle ha framgång.

Vi kan gå en underbar framtid till mötes, där vi med hjälp av våra artificiellt intelligenta vänner skapar en värld med perfekt resurshushållning, inget spill, ingen svält, inga orättvisor, där sjukdomar kartläggs och behandlingar tas fram i rasande tempo. I maj i år satsade innovationsmyndigheten Vinnova miljonbelopp på utveckling av AI-projekt i vården för beslutsstöd »som vilar på en större mängd data än någon läkare skulle kunna samla ihop under ett helt yrkesliv«.

Är det Messias som äntligen kommer tillbaka med sin frälsning?

[caption id="attachment_454414" align="alignnone" width="500"] Svenske Max Tegmark, professor på MIT[/caption]

Som tonåring låg Max Tegmark ofta i hängmattan i trädgården hemma i Bromma och funderade över universum, eller över hjärnans mysterier. Efter dubbelexamen från KTH och Handelshögskolan flyttade han till USA där han disputerade vid Kaliforniens universitet. Han blev kvar, bildade familj och gjorde sig känd med teorier om parallella universum och kvantfysik, som professor i kosmologi på Massachusetts Institute of Technology, MIT. Tills den snabba utvecklingen inom AI fick honom att inse att det är här han behövs bäst.

– Det här området är så spännande och det finns så mycket man kan bidra med. Men den andra anledningen är att det är otroligt viktigt för mänsklighetens framtid, säger han och berättar att det bekymrar honom att se med vilken frenesi allt från privata bolag till universitet och stater kastar sig över forskningen, med målet att göra AI så smart som möjligt. Samtidigt är forskningen om hur det här teknikskiftet kommer att påverka oss, vad vi riskerar och hur vi ska hantera dessa risker snudd på obefintlig.

Mikrokraschen på Dow Jones-börsen var den första i sitt slag, och blev en väckarklocka. Vid ungefär samma tid började Max Tegmark på allvar att fundera över det hot som artificiell intelligens har kapaciteten att bli, mot hela mänskligheten.

Under 2010-talet har minst en halv miljon jobb, bara i Sverige, försvunnit på grund av automatiseringen, enligt nationalekonomen Stefan Fölsters uppskattningar i boken »Robotrevolutionen«. Hittills mest jobb som är enkla att systematisera, men mer kvalificerade jobb som läkare, journalist, lärare och psykologer är inte längre fredade när minsta persondator har kapaciteten att besegra världsmästaren i schack och AI-systemen blir allt mer analytiska. Inom 20 år tror Fölster att vartannat jobb har försvunnit och ersatts av algoritmer, robotar och digitala assistenter. Regeringen tar i sin nya digitaliseringsstrategi särskilt upp vikten av kompetensutveckling för att klara de förändringar av olika yrkesroller som en AI-revolution innebär.

– Vi behöver utbilda oss flera gånger under livet. Så att vi inte hamnar i den här situationen som på -Ericsson, att ha duktiga 40-åriga ingenjörer som måste avskedas för att man inte har sett till att de följer med i utvecklingen, säger digitaliseringsminister Peter Eriksson.

I EU är debatten om att beskatta robotar i stället för arbetskraft i full gång. Microsoftmiljardären Bill Gates är för. EU-parlamentet sa i februari nej, men efterlyser en reglering av robotanvändningen och ett tydligt juridiskt ansvar för robotars handlingar, inklusive självkörande bilar.

I dag är det inte konstigare i världen att vara robot än att vara svensk. Det finns lika många av oss. Ett tag till. Sveriges befolkning växer snabbt. Men så snabbt växer den inte.

Tillsammans med bland andra den estniske programmeraren Jaan Tallinn, en av grundarna bakom Skype och Kazaa, startade Max Tegmark 2014 Future of Life- institutet, dit han knutit några av världens främsta hjärnor som rådgivare, såsom fysikprofessorerna Stephen Hawking och Nick Boström, samt Elon Musk, grundare av den självkörande bilen Tesla.

Syftet är att få till en debatt om AI, och redan nu börja forska, medan tid är, på hur vi ska kunna garantera att den AI vi utvecklar inte vänder sig mot oss. Av samma skäl har han skrivit en bok, »Liv 3.0: Att vara människa i den artificiella intelligensens tidsålder«, som kommer på svenska i oktober.

Ända sedan människan greppade verktyg och började tala så har hon dominerat världen. Inte för att vi är starkast, för en människa står sig naturligtvis slätt mot en gorilla, utan för att vi är smartast. Och vi har alltid varit helt ohotade. Tills nu.

AI-forskningen går knappast att bromsa eller stoppa eftersom äpplet redan hänger på trädet, och Eva kommer att ta det. Varje gång.

– Vårt hopp är att det här blir början på en mycket större satsning som finansieras av USA, Sverige och andra regeringar. Vi måste definiera om hela målet för AI-forskning, från att bygga AI till att bygga välvillig AI, säger Max Tegmark.

Och mest akut, som han ser det, är frågan om autonoma vapen. Tillsammans med professorerna Stuart Russell och Toby Walsh har Max Tegmark skrivit på ett upprop för ett globalt förbud. Han hoppas att svenska politiker ska vara villiga att ta på ledartröjan för att få till stånd ett sådant avtal, som tidigare i kampen för avveckling av kärnvapen och förbud mot kemiska vapen.

– Om det blir en AI-kapprustning så kommer de autonoma vapnen att massproduceras. Det kommer att bli lika svårt att få bukt med som att få bort alla världens kalashnikovs, säger Max Tegmark och påminner om hur lätt det är för kriminella gäng och terrorister att få tag på vapen på svarta marknaden.

Han tar Kubakrisen 1962 som varnande exempel, där amerikanska krigsskepp skickade sjunkbomber mot en sovjetisk ubåt för att tvinga den upp till ytan. De visste inte att ubåten hade en kärnvapenladdad torped. Tre officerare var tvungna att godkänna beslutet att avfyra den. En sa nej.

Ibland är mänsklig tvekan, osäkerhet, känslosamhet, att föredra framför maskinernas raka orsak-verkan-logik och deras effektivitet. Vad hade hänt om ubåten hade varit bestyckad med autonoma vapen, programmerade att blixtsnabbt, utan att behöva vänta in en långsam människas beslutsvåndor och knapptryckningar, reagera på attacker och hot med motattacker.

Astrofysikens fixstjärna, professor Stephen Hawking, kallar AI-säkerhet för »vår tids viktigaste samtalsämne«, och med sin bok »Superintelligens: vägar, faror, strategier«, som också kommit ut i höst, är AI-professorn Nick Boström, svensk forskare vid Oxfords universitet, ute i samma ärende.

Det är en märklig känsla att parallelläsa två böcker av två professorer som på fullt allvar, med alternativa scenarier och fotnötter, skriver om vilka vägar vi kan pröva för att minimera risken att mänskligheten utplånas under detta århundrade.

[caption id="attachment_454425" align="alignnone" width="750"] AI-entreprenören Elon Musk och den första AI-kraschen.[/caption]

Vad händer när AI är bättre och smartare än oss på alla områden? Vad ska vi jobba med? Hur ska vi skydda oss mot systemkrascher och hackerattacker? Hur ska vi se till att de smarta maskinerna har samma mål som vi, och inte gör oss – medvetet eller omedvetet – illa? Ett av Nick Boströms förslag till lösningar är att höja mänsklighetens samlade intelligens, till exempel via designerbebisar, där anlag för maximalt hög IQ avlas fram med genteknik före befruktningen, för att minska vårt underläge.

Ett annat förslag är att vi skyndar oss att skapa AI genom hjärn-emulering, en digital kopiering av en mänsklig hjärna, innan en AI-maskin hinner nå det stadiet på egen hand. På det viset skulle vi ha en superintelligent vän, som förhoppningsvis ärvt mänskliga motiv, som skydd mot den mer okända superintelligensens eventuella nycker.

Men vad är nu det här för hokus pokus? Har Fokus blivit skvatt galet och börjat tro på Terminator? Låt oss börja i rätt ände, genom att låta Max Tegmark definiera vad intelligens är.

I »Liv 3.0« definierar han det som »förmåga att uppnå komplexa mål«, med hjälp av information och beräkning. Precis det som datorer är bra på, att minnas och att räkna.

Till det hör att beräkningen inte bryr sig om vilket substrat – vare sig det är transistorer, ett nätverk av neuroner eller något annat  – den lagras på. Intelligensen är rörlig på samma vis som en våg, som rör sig som ett mönster genom vatten utan att vattenmolekylerna i sig behöver följa med.

– Detta substratsoberoende hos beräkningen betyder att AI är möjlig: Intelligens kräver inte kött och blod eller kolatomer, skriver han, och förklarar att det är samma mekanism som gör att dataingenjörer kan ersätta teknologin i våra datorer med bättre utan att förändra mjukvaran.

I dag finns det mängder av maskiner som gör saker mycket bättre än människor. Men maskinerna klarar ofta bara en sorts uppgift. Ingen har ännu lyckats skapa de maskiner som liksom människor kan anpassa sig till olika typer av problem och finna olika sorters lösningar. Forskarna skiljer på artificiell intelligens, AI, och artificiell generell intelligens, AGI.

Googles AI-bolag DeepMind tränar datorsystem i djup-inlärning. På nätet kan man se videor av hur snabbt datorerna lär sig. För Jaan Tallinn var det en väckarklocka, under ett lunchmöte på en AI-konferens i -Puerto Rico, 2015, när grundaren av  Deepmind, Demis Hassabis, visade en inspelning av sitt AI-system, Deep Q, som lär sig spela det gamla arkadspelet Breakout. När Deep Q börjar vet den bara att den ska samla poäng. Den vet inget om hur spelet fungerar och har ingen uppfattning av vad en boll är eller hur den beter sig. Under tio minuter irrar den runt i spelet och träffar bollen på måfå. Efter två timmar har den fattat att den ska slå bollen mot väggen för att få poäng och spelar redan som en Breakout-expert. Men det som verkligen skrämde Jaan Tallinn, berättade han i en intervju med tidskriften Wired, var hur Deep Q sedan överlistade spelet. Med bara fyra timmars spelerfarenhet ser man hur den genom att slå bollen åt ständigt samma håll slår upp en tunnel i väggen, vilket får bollen att åka in i ett stängt utrymme och samla snudd på maxpoäng genom det snabba studsande som blir följden.  En metod som inte ens spelkonstruktörerna hade tänkt på.

– Teknologen i mig häpnade över prestationen, den andra tanken jag hade var att jag just sett en leksaksmodell av hur en AI-katastrof skulle börja, med en plötslig demonstration av oväntad intellektuell kapacitet, sa Tallinn.

Kreativitet. Den beståndsdel i den mänskliga intelligensen som många var helt övertygade om att maskiner aldrig skulle klara av att uppnå.

Filmen »Terminator«, från 1984, framstår som profetisk när man tar del av AI-farhågorna. I filmen har amerikansk militär skapat ett AI-nätverk, Skynet, för att bland annat styra sina autonoma vapen. Via en intelligensexplosion blir Skynet plötsligt superintelligent, (den extremt snabba tillväxt i intelligens som väntas ta fart i samma ögonblick som en självlärande AI uppnår generell intelligens) och blir samtidigt självmedvetet. När de panikslagna it-operatörerna upptäcker detta försöker de stänga av nätet. Självbevarelsedriften får Skynet att skicka amerikanska kärnvapen mot Ryssland, vars kärnvapen automatiskt replikerar. Domedagen är ett faktum och de superintelligenta maskinerna har inga problem att ta över herraväldet.

Men när Max Tegmark beskriver hur ett maktskifte på jorden skulle kunna gå till handlar det inte om robotar, som han kallar »gammal teknik«. I stället beskriver han ett maktövertagande via internet, med en superintelligens som på en helg tittar igenom all världens film och jämför med recensioner och publiksiffror för att sedan skapa ett eget överlägset nöjesutbud. När den stora världspubliken är på plats börjar den producera nyheter skräddarsydda för grupper av väljare som var och en får höra precis det den behöver (en gruppindelning som superintelligensen inte har några problem att analysera fram i sociala medier och sökord). Och så vidare. Klingar det bekant?

Världen har redan nosat på dessa första steg, i samband med Brexitomröstningen och under det senaste amerikanska presidentvalet. Med hjälp av big data-analyser av just sociala medier och google-sökningar kunde företag som Cambridge Analytica skräddarsy väljargrupper åt Trumps kampanjstab, som själv har berättat om hur de riktade passande budskap med hjälp av Facebooks och Googles algoritmer.

– De stora it-aktörerna /…/ behöver inte ha sådär väldigt intelligenta system för att redan ha väldigt mycket makt. Men varje liten extra intelligens de kan tillföra till systemet ger dem ju mer makt. De vet allt om dig, de använder det just nu för välvilliga ändamål som att presentera reklam för dig, inte något mörkt och ondskefullt, men det här är något vi bör vara medvetna om, långsiktigt, säger Sverker Janson, chef för Computer Science Labs på det statliga svenska forskningsinstitutet Rise Sics, i Vetenskapsrådets videoserie om AI, med syftning på företag som Google och Facebook.

En diktator som tar makten med stöd av AGI kan aldrig någonsin avsättas igen, varnar Max Tegmark. Från den stunden kontrollerar den allt, bokstavligen allestädes närvarande.

Förutsatt att AGI-systemet ens skulle lyda en diktator. Risken finns att en superintelligent maskin – liksom i Stanley Kubricks filmiska rymdäventyr »2001«, från 1968, där datorsystemet HAL plötsligt börjar döda besättningen – skulle bestämma sig för att den vet bättre än oss.

– Det viktiga är egentligen inte om maskinen har ett medvetande eller inte, utan vad den har för mål. Den verkliga risken är inte illvilja, utan kompetens. Om du är chef för ett vattenkraftverk och en myrstack kommer i vägen, så sätter du troligen ändå på vattnet. Inte för att du vill myrorna illa utan för att myrans mål inte överensstämde med ditt mål, och du är intelligentare och mer kompetent än myrorna. Det är otroligt viktigt att vi bygger AI som delar våra mål, säger Max Tegmark.

Det kan också diskuteras om HAL verkligen hade en egen vilja i 2001 eller om hans myteri berodde på ett sammanbrott till följd av motstridiga riktlinjer. En maskin har inte en människas referensramar. Det ställer enorma krav på programmerarna att redan från början tänka på vad AI-systemen behöver lära sig. Det går lätt att programmera in trafikregler i en självstyrande bil och förbjuda den att bryta mot dem, men det gäller att inte glömma att tala om att den inte heller får köra över någon, ens om de går mot rött.

I juli 2012 tog amerikanska SEC initiativ till ett verktyg för övervakning av de elektroniska börsmarknaderna. Samma sommar var Knight Capital Group, som lyckats bli det största mäklarbolaget på amerikanska aktiemarknaden med hjälp av sina högfrekventa handelsalgoritmer, nära konkurs efter att inom loppet av trekvart ha förlorat en halv miljard dollar i en ny mikrokrasch. Anledningen var att en programmerare startade en felaktig algoritm. Bolaget köptes senare samma år av en konkurrent. Till reapris.

Den 24 augusti 2015 var det dags igen.

[caption id="attachment_454423" align="alignnone" width="500"] Digitaliseringsminister Peter Eriksson (MP).[/caption]

Säkerhetsfrågorna har varit förbisedda, konstaterar digitaliseringsminister Peter Eriksson.

– Vi har varit väldigt naiva, inte bara i Sverige. Det är viktigt att tilltron till viktiga samhällstjänster inte skadas. Om inte säkerheten är extremt hög så tappar vi hela den effektivitetsvinsten, säger Peter Eriksson och påpekar att nästa generation av mobilnät, 5G, kommer att vara absolut nödvändigt för att framtidens nya tjänster, inte minst inom AI, ska bli möjliga och säkrare, ett område där han ser att Sverige, med Ericsson i spetsen, håller sig väl framme.

Googles Deepmind tros vara det företag som i dag ligger närmast målet att knäcka den kod som omvandlar ett AI-system till ett AGI-system, även om ingen vet säkert vad som försiggår i det fördolda i världen. Det man däremot är övertygad om är att när det sker, då tar det inte lång tid innan det har självförbättrat sig till superintelligens. Om det handlar om år, månader eller till och med minuter det vet ingen.

De deltagande AI-forskarna vid konferensen i Puerto Rico fick gissa på en tidpunkt, och snittet landade på år 2055. Om knappt 40 år.

Då får vi hoppas att Googles slogan »Don’t be evil« hör till det som bolaget varit noggrannast med att prägla i sina konstgjorda intelligenser.