Nu avgör AI ifall du är en människa eller inte
Hur många procent människa är du? Den nya AI-tekniken förstår världen genom sannolikheter. Våra fasta kategorier blir upplösta i den digitala tidsåldern.
Googles reCAPTCHA används för att skilja människor från bots på nätet. Den senaste versionen arbetar i bakgrunden utan att användaren behöver klicka på trafikskyltar eller motorcyklar. Algoritmen analyserar beteenden, musrörelser och teknisk miljö och ger en poäng mellan 0 och 1 – hög poäng indikerar människa, låg poäng bot. Systemet avgör inte själv gränsen; utvecklaren sätter en tröskel (ofta 0.5) för hur poängen ska tolkas, med avvägning mellan säkerhet och användarvänlighet.
För användaren är dessa nyanser osynliga. Man möter bara ett till synes absolut svar: antingen kommer man vidare på webbplatsen, eller så gör man det inte. Den glidande skalan – hela logiken av sannolikhet – reduceras till ett binärt beslut. Maskinen räknar, vi tror – och kallar osäkerheten för sanning.
En liknande logik återkommer i många andra AI-system, särskilt i bildklassificering. När en modell analyserar en bild producerar den sannolikheter för olika kategorier: 85 procent katt, 10 procent hund och 5 procent något annat. Men för att kommunikationen ska bli enkel presenteras resultatet ofta som ett säkert faktum: ”Det här är en katt.” Den bakomliggande osäkerheten försvinner. Det är samma process som i reCAPTCHA – en glidande skala av sannolikhet blir i mötet med användaren en skarp och entydig utsaga.
Sannolikhetsbaserade system används i dag i alltifrån medicin till finans och digitala tjänster. Inom vården kan AI uppskatta risken för hjärntumörer eller andra tillstånd, visserligen med neurolog inblandad. På samma sätt beräknar banker risken för att en kund inte kan återbetala ett lån, men kunden får bara ett tydligt besked: ”beviljat” eller ”avslag.” Även rekommendationssystem på Netflix, Spotify eller YouTube använder statistiska mönster för att ge förslag, presenterade som konkreta rekommendationer.
Detta förhållande pekar på en viktig spänning mellan teknik och användarupplevelse. På den ena sidan finns den tekniska verkligheten: maskininlärningssystem producerar aldrig absoluta sanningar, utan sannolikhetsfördelningar. På den andra sidan finns kravet på tydlighet i interaktioner: användare vill inte förhålla sig till en skala av osäkerheter varje gång de exempelvis vill titta på en film. UX-designers, produktägare och organisationer står inför valet låta den underliggande osäkerheten lysa igenom – med risk för att förvirra användaren – eller ska man förenkla information trots att detta innebär att den förvanskas?
Ofta väljer man det senare, och det är förståeligt. Microcopy – de korta texter som förklarar vad som händer i ett gränssnitt – undviker ord som ”troligtvis” eller ”sannolikt”, just för att dessa skapar en känsla av vaghet. Texten ”det här är en katt” är lättare att förstå än ”det här är sannolikt en katt.” Vi lever i en värld av osäkerheter – men gränssnittet säger: helt säker. Det finns rentav en parallell till redaktionellt skrivande: en journalist kanske skriver ”det är sannolikt att människor kommer få sämre djupfokus i framtiden”, men en redaktör kan föredra att stryka ordet ”sannolikt” för att göra texten mer slagkraftig. Tydligheten ökar, men på bekostnad av precisionen.
När sannolikheter förvandlas till skenbart definitiva utsagor kan användare börja tro att systemen är mer exakta och mer objektiva än de i själva verket är. Det kan skapa en falsk trygghet och en övertro på tekniken. Alla som skapat systemet kan ha fattat välavvägda beslut i varje steg, och i de allra flesta fallen fungerar det utmärkt. Men i en enda promille av fallen kan ett binärt ställningstagande få oproportionerliga, dramatiska konsekvenser. Det är ofta precis så svarta svanar föds – i skuggan av perfekta intentioner.
I framtiden bestämmer maskinen din mänsklighet – visserligen med 87.41% felmarginal. Och just i dag var inte din dag. Desto värre för fakta.
Toppbild. I Steven Spielbergs film A.I. – Artificiell Intelligens ser pojken David ( Haley Joel Osment) ut och beter sig som ett vanligt barn, av en ny sorts människolika robotar.
***
