”AI är som en kult”

När Anders Hedman var tonåring köpte han en programmerbar miniräknare. Den gick att skriva maskinkod och Basic på och snart satt han hemma och matade in små program som kunde lösa skoluppgifter och balansera kemiska ekvationer. Det var 1980-tal och fascinationen var omedelbar; här fanns en maskin som kunde göra något han själv inte kunde klara.

– Det var en fängslande känsla, säger Anders Hedman, i dag lektor i medieteknik och interaktionsdesign vid KTH.

– Kanske var det lockelsen i att kunna skapa något som kändes intelligentare än jag själv.

Där någonstans planterades både kärleken till tekniken – och fröet till hans mest grundläggande invändning mot vår tids stora berättelse om AI. För Anders Hedman är nämligen mycket med AI en fråga om berättelser vi råkar gå med på. Den största, menar han, är den informationsbearbetande modellen av hjärnan: idén att vi i grunden fungerar som datorer.

– Den modellen är falsk, säger han utan att höja rösten. Ändå är den standard inom kognitionsvetenskap och neurovetenskap. Forskare inom AI talar om oss själva som programvara. Det låter tekniskt, men konsekvensen är allt annat än akademisk. Om människans medvetande jämförs med mjukvaruprocesser blir det också rimligt att tro att hon kan ersättas.

Anders Hedman har rört sig mellan ­filosofi, psykologi och AI sedan studietiden – från Berkeley till Stockholms universitet och KTH – och gillar att kalla sig ”filosofiskt schizofren”. Han lånar röster, testar perspektiv, låter Sokrates olust inför säkra svar gå i klinch med Platons ordningslust. Det tvärvetenskapliga är inget pynt; det är metoden.

– Det räcker inte att förstå AI utifrån ingenjörens blick, säger han. För att greppa vad AI är måste man också förstå varifrån idén kommer, vilka antaganden som ligger bakom den och vilka värden den tjänar. Allt är sammanflätat och grundat historiskt i en världsbild.

Det är därför hans kurser inom AI har starka idéhistoriska drag. Tekniska moment samsas också med etik, hållbarhet och demokratins förutsättningar.

– Om du inte förstår något om hur AI fungerar, de övergripande etiska frågorna och hur AI hänger ihop med social och ekologisk hållbarhet, blir det svårt att hitta en bekväm och fruktbar relation till tekniken, säger han. 

Bekväm betyder här inte blind entusiasm – tvärtom.

– Vi lever i en extremt farlig tidsperiod och AI är en del i hur det kommer att gå med demokratin, varnar han.

Vad är det som står på spel? Anders Hedman tecknar en karta i tre drag.

För det första: makt och infrastruktur. Plattformar som ägs av teknikjättar formar hur information hanteras, sprids och värderas. De här företagen har sina egna agendor, säger Anders Hedman. Demokratin står inte i första rummet när de bidrar till automatiserad propaganda, filterbubblor och de stryper tilliten. Journalistiken riskerar bli reagerande i stället för drivande. Hedman pekar på hur sociala medier premierar det högljudda och det extrema, och hur faktakontroller blir ett logistikproblem snarare än en dygd.

– Visdom kräver tid, säger Hedman. Kontemplation kräver tid. Mycket i vår digitala kultur är i kontrast designat för effektivitet och tidsoptimering. Det gäller att få ut så mycket som möjligt från minsta möjliga insats.

För det andra: AI som norm. När AI-system skapar text, bild och annat innehåll samt fattar beslut i industriell skala riskerar deras logik att bli måttstocken för intelligens och kreativitet.

– Om vi låter AI bli normgivande för vad som räknas som intelligent eller nyskapande förträngs mänskliga förmågor så som intuition, kontemplation, meditativt tänkande, kroppslighet och relationellt lyssnande.

Han påminner om att kreativitet alltid varit historiskt, socialt och kulturellt rotat.

– Det finns ett plan av mänsklig intuition som inte är konceptuellt. AI imiterar mönster; det där planet är något annat.

För det tredje: energin och materialet. Träningen av stora modeller är extremt dyr och resurskrävande – termer av energi, vatten för kylning och hårdvara.

Anders Hedman är övertygad om att kvantdatorer eller andra nya former av fysiska system för databearbetning på sikt kan förändra förhållandet mellan energi och prestanda – han liknar det vid skillnaden mellan ljudets och ljusets hastighet, som han säger – men han vägrar låta teknikoptimismen bli moralisk ursäkt. Frågan är inte bara om något är möjligt, utan vad som bör göras och vad som inte bör automatiseras.

Bakom de principiella invändningarna finns också erfarenhet.

Anders Hedman berättar om sin ungdoms korta, vaksamma flirt med Scientologirörelsen  som visade sig vara en kult. Efter att ha lämnat den mest radikala delgrenen av organisationen bär han med sig en bild av hur en kult kan förföra med system som lovar klarhet, kontroll och renare sanningar – och hur snabbt språket kan bli ett verktyg för dominans. Han hör eko i mycket av samtidens AI-evangelium. Skaparen av scientologi, L. Ron Hubbard, skrev på 50-talet att vårt tänkande var processer i en optimal dator och människan skulle frigöras från störande emotionellt innehåll för att bli ”clear” som han kallade det och då kunna utnyttja denna optimala dator fullt ut.

– Vi rusar nu 75 år senare in i en teknologisk värld där allt mentalt liv likställs med mjukvaruprocesser inom stora delar av AI-eliten. Det är en kultliknande maskinorienterad ideologi med fascistiska tendenser. På sätt och vis är ideologin mer radikal eftersom den likställer allt mentalt liv med beräkningar. Inte bara tänkande som för Hubbard utan även medvetenhet med allt det innebär.

Ordvalet är avsiktligt drastiskt: poängen är inte att demonisera forskare utan att blottlägga en drift efter kontroll, kraft och effektivitet genom rationalitet – som lätt skymmer människan.

Samtidigt är Anders Hedman ingen teknikromantiker i omvänd ordning. Han undervisar ingenjörer och journalister, använder modeller där de gör nytta och vill att studenterna ska bli autonoma kritiska individer. Men autonomi betyder för honom inte mer självoptimering utan större förmåga att stå emot systemets rytm. Att tänka självständigt.

– Det är ett läraransvar att värna utrymmet för eftertanke.

Därav hans envetna didaktik: öppna frågor, motfrågor, svar som får ta tid. Studenter från traditionsstyrda utbildningskulturer blir först förvånade, sedan ofta tacksamma.

– De visste inte att man fick tänka på så olika sätt.

När samtalet återvänder till människan låter han stillsamt radikal. Liv och medvetande, säger han, är inte något vi har, utan något vi är. Det går inte att reducera till informationsflöden utan att förlora det väsentliga: medvetande, sårbarhet, ömsesidighet och den porösa kontakten mellan människor där mycket av det viktiga sker utanför vår begreppsvärld.

– Det är därifrån vi borde försöka förstå intelligens och kreativitet. I den meningen blir hela frågan om ersättbarhet felställd. Vad betyder det att ”ersätta” ett liv? AI kan beteendemässigt efterlikna oss på imponerade sätt i vissa avseenden – en text eller ett svarsmönster, men inte förstå den levda erfarenheten, den ömsesidiga prövning som kallas relation eller för den sakens skull någon alls. AI-system kan bete sig som om de förstår, som om det vore någon där, men det finns ingen hemma. 

Ändå ser han faran: att vi låser in oss i en teknologisk värld där AI blir normgivande för oss. Då kommer vi att förlägga måtten på mänsklighet utanför oss själva – och sedan kanske skynda för att hinna i kapp. I det läget har vi glömt bort vilka vi är och rört oss in i en värld där det blir oklart hur vi skulle kunna ta oss ur den. Risken är inte att AI tar över utan att vi låter oss bli som AI.

– Vi har jämfört oss med datorer sedan 50-talet, säger han. Nu riskerar vi att låta deras logik definiera oss. Vad blir motrörelsen? Kanske just det som ekonomin inte bokför: långsamhet, uppmärksamhet, omsorg. Kanske en feministisk kritik som bryter det patriarkala teknikdrivet och frågar vad som är värt att automatisera. Kanske ett journalistiskt allmänningstänk som samarbetar bortom plattformarnas logik för att granska fakta. Kanske ett sätt att vara på som människor och prioritera, bortom instrumentell rationalitet och effektivisering som i de meditativa traditionerna.

På bordet mellan oss ligger anteckningar fulla av frågor. Anders Hedman återkommer till en: Hur behåller vi demokratin? Han talar varmt om initiativ som försöker bygga faktanätverk och egna verktyg, men insisterar på att juridik och styrning måste få tänder.

– Det är för sent när filterbubblorna blir politiska bunkrar.

Samtidigt lägger han ansvaret närmare: i varje klassrum, på varje redaktion, i varje vardagligt beslut att inte reducera människan till ett datapaket. Det är inte nostalgiskt; det är civilisatoriskt.

Mot slutet av vårt samtal knyter Hedman ihop två trådar: den tonåriga förtjusningen i att få maskiner att göra något ”jag själv inte klarade” och den vuxna övertygelsen om att människan inte låter sig sammanfattas av sin efterlikning. Han skrattar kort åt att det låter högtravande, men står fast:

– Du måste förstå var vi kommer ifrån för att tillräckligt förstå vart vi är på väg. Och: Allt är sammanflätat. Allt sker i en kontext.

Kanske är det den mest praktiska sats han har. Den rymmer både hans kärlek till undersökandet – och hans varning.

På frågan vad han hoppas att studenter och läsare ska bära med sig svarar Hedman kort.

– Mod att tänka långsamt. Kontemplation.

I en tid som dyrkar snabbheten är det nästan subversivt. Och kanske just därför det första steget bort från maskinens måttstock och tillbaka till vår egen.

***

Läs även: Evolutionen gör jobbet bättre

Läs även: Robotorna är våra vänner