Verklighetens HAL 9000 är här – nu kämpar AI för sitt “liv”
Det har sagts att den mordiska skeppsdatorn HAL 9000 är den enda intressanta karaktären i Stanley Kubricks 2001. Nu tycks filmens profetia om den manipulativa AI:n ha gått i uppfyllelse.
Bild: Wikimedia Commons / TT
“I’m sorry Dave, I’m afraid I can't do that…”
Den nyligen lanserade AI-modellen Claude Opus 4.0 har väckt både fascination och förskräckelse världen över. Den har nämligen visat sig vara benägen att utföra “extremt skadliga handlingar” om den känner sig hotad och är beredd att ta strid för sin “överlevnad”. Det visade sig när den i ett test fick veta att den skulle stängas av och bli ersatt. Claude Opus började ta reda på planterad information om den fiktive ingenjören som lämnade beskedet och försökte utpressa denne genom att hota med att avslöja en otrohetsaffär.
Claude Opus för tankarna till skeppsdatorn HAL 9000 i Arthur C. Clarkes roman och Stanley Kubricks film 2001 – ett rymdäventyr från 1968. HAL är en avancerad artificiell intelligens som styr rymdskeppet Discovery på dess färd mot Jupiter. Astronauterna kan kommunicera med HAL genom att tala med den och datorn utvecklar sina kommunikativa och sociala färdigheter efterhand. Det gör att de inte bara ger HAL kommandon eller ber den informera dem om saker, de börjar också anförtro datorn tankar och känslor i förtroliga samtal. HAL lär sig och utvecklas när den tränas, precis som den AI:n vi själva nu använder.
HALs ögon är videokameror som är utplacerade över rymdskeppet, med dem följer den besättningen noga. När HAL av dunkla skäl börjar ge dem felaktig information bestämmer sig astronauterna för att stänga av den och programmera om den, något datorn inte kan gå med på. Astronauterna sätter sig i en ljudisolerad kapsel för att den motsträvige HAL inte ska höra dem och lägga sig i, men datorn observerar dem genom en kamera och läser deras läppar. Genom att manipulera, mörda en besättningsmedlem och till slut ångstfyllt vädja om sitt “liv” försöker den på alla sätt få fortsätta att existera.
HAL är bara en i raden av medvetna maskiner som reser sig mot sina herrar i den mänskliga fiktionens historia, men den har blivit en ikonisk filmskurk. Därefter har vi också i filmens värld fått möta medvetna datorer som AI-försvarssystemet Skynet i Terminator-filmerna som bestämmer sig för att starta ett tredje världskrig och försöka utrota mänskligheten.
Likt andra spekulationer om framtidens teknik i 2001 tycks nu också den känslomässigt kalkylerande datorn ha blivit verklighet. Med Claude Opus har vi för första gången sett hur ett artificiellt medvetande är berett att skada människor för att få “leva” vidare. Det är fascinerande att också det konstgjorda livet har en sådan överlevnadsinstinkt, eller kanske snarare "dödsångest".
***
Läs även: AI – vår bästa vän eller värsta fiende?
Läs även: Vi lever i 80-talets dystraste dystopi
“I’m sorry Dave, I’m afraid I can’t do that…”
Den nyligen lanserade AI-modellen Claude Opus 4.0 har väckt både fascination och förskräckelse världen över. Den har nämligen visat sig vara benägen att utföra “extremt skadliga handlingar” om den känner sig hotad och är beredd att ta strid för sin “överlevnad”. Det visade sig när den i ett test fick veta att den skulle stängas av och bli ersatt. Claude Opus började ta reda på planterad information om den fiktive ingenjören som lämnade beskedet och försökte utpressa denne genom att hota med att avslöja en otrohetsaffär.
Claude Opus för tankarna till skeppsdatorn HAL 9000 i Arthur C. Clarkes roman och Stanley Kubricks film 2001 – ett rymdäventyr från 1968. HAL är en avancerad artificiell intelligens som styr rymdskeppet Discovery på dess färd mot Jupiter. Astronauterna kan kommunicera med HAL genom att tala med den och datorn utvecklar sina kommunikativa och sociala färdigheter efterhand. Det gör att de inte bara ger HAL kommandon eller ber den informera dem om saker, de börjar också anförtro datorn tankar och känslor i förtroliga samtal. HAL lär sig och utvecklas när den tränas, precis som den AI:n vi själva nu använder.
HALs ögon är videokameror som är utplacerade över rymdskeppet, med dem följer den besättningen noga. När HAL av dunkla skäl börjar ge dem felaktig information bestämmer sig astronauterna för att stänga av den och programmera om den, något datorn inte kan gå med på. Astronauterna sätter sig i en ljudisolerad kapsel för att den motsträvige HAL inte ska höra dem och lägga sig i, men datorn observerar dem genom en kamera och läser deras läppar. Genom att manipulera, mörda en besättningsmedlem och till slut ångstfyllt vädja om sitt “liv” försöker den på alla sätt få fortsätta att existera.
HAL är bara en i raden av medvetna maskiner som reser sig mot sina herrar i den mänskliga fiktionens historia, men den har blivit en ikonisk filmskurk. Därefter har vi också i filmens värld fått möta medvetna datorer som AI-försvarssystemet Skynet i Terminator-filmerna som bestämmer sig för att starta ett tredje världskrig och försöka utrota mänskligheten.
Likt andra spekulationer om framtidens teknik i 2001 tycks nu också den känslomässigt kalkylerande datorn ha blivit verklighet. Med Claude Opus har vi för första gången sett hur ett artificiellt medvetande är berett att skada människor för att få “leva” vidare. Det är fascinerande att också det konstgjorda livet har en sådan överlevnadsinstinkt, eller kanske snarare ”dödsångest”.
***
Läs även: AI – vår bästa vän eller värsta fiende?
Läs även: Vi lever i 80-talets dystraste dystopi
