Det är I:et i AI som gör det

Det fanns en visa i barndomens tv, hos Magnus, Brasse och Eva, där hela poängen var att en enda bokstav bestämde hur vi uppfattade ett ord. Det är O:na i orden som gör det. Byt ut en bokstav och betydelsen skiftar under fötterna på dig.

Jag har tänkt att det är ungefär så med AI. Det är I:et som gör det.

Det är ordet intelligens som får oss att tillskriva dagens teknik egenskaper den inte har. När någon säger artificiell intelligens hör de flesta förståelse, resonemang, insikt, kanske avsikt, kanske något som liknar medvetande. Ordet drar med sig allt det där gratis, innan tekniken har visat en enda sak.

Ett ord som lovar mer än den håller

Dagens generativa modeller är i grunden statistik. De predikterar nästa ord, nästa pixel, nästa steg utifrån enorma mängder träningsdata. Resultatet kan vara imponerande utan att systemet förstår någonting i den mening du och jag lägger i ordet förstå.

Det är inte en nedvärdering. Det är en beskrivning. En modell som gissar rätt ord tillräckligt ofta blir ett oerhört användbart verktyg. Men den vet inte vad den säger, och den vet framför allt inte vad du glömde fråga. Modellen löser det du ber om. Den har ingen uppfattning om det du inte tog med. Kalla den intelligent, och du slutar tänka på just den gränsen.

Superlativerna gör resten

Det är inte bara ett ord. Marknadsföringen lägger på resten.

Varje ny modell är revolutionerande, banbrytande, mänsklig, agentisk, resonerande, världsledande. Superlativerna flyttar blicken från vad tekniken faktiskt gör till vad vi hoppas att den ska vara. Efter tillräckligt många av dem bedömer man inte längre en produkt, man förhåller sig till ett löfte.

Douglas Adams skrev om det innan tekniken fanns. I hans värld säljer Sirius Cybernetics Corporation sina robotar och maskiner med Genuine People Personalities, äkta mänskliga personligheter, och berättelsen är så övertygande att den blir en del av produkten. Man köper inte längre en dörr, man köper en dörr som är genuint glad över att få öppna sig för dig. Språket är varan.

Vi är på väg åt samma håll. Orden formar förväntningarna innan tekniken har demonstrerat sina faktiska egenskaper, och sen mäter vi tekniken mot förväntningarna i stället för tvärtom.

Vi läser in det utifrån utfallet

Det blir tydligast i hur vi dömer. Bra svar, då är den intelligent. Dåligt svar, då är den dum.

I båda fallen gör vi samma sak. Vi behandlar ett prediktionssystem som en tänkande aktör. Vi antropomorfiserar den, uppåt när den imponerar och nedåt när den missar, och vi lägger ett omdöme på maskinen som hör hemma hos oss. Den var varken klok eller dum. Den gissade, och vi tolkade gissningen som en karaktär.

Byt ut ordet, så faller förväntningen

Gör tankeexperimentet. Anta att tekniken från början hetat något annat. Artificiell prediktion. Avancerad statistisk modell. Probabilistisk språkmotor.

Betydligt färre hade väntat sig förståelse eller medvetande. Ingen frågar om sin väderprognos är medveten, fast den gör i princip samma sak: bearbetar data och predikterar. Det var aldrig tekniken som bar de mänskliga förväntningarna. Det var ordet.

Nyansen som inte får bli en ursäkt

Det finns ingen färdig definition av intelligens, och det är därför debatten blir rörig. Definierar man det funktionellt, som förmågan att lösa problem och nå mål, kan man säga att dagens AI uppvisar vissa former av intelligens. Kräver man förståelse, medvetande, en subjektiv upplevelse, är den inte intelligent i mänsklig mening. Samma ord, olika saker, och två kunniga personer kan gräla i en timme utan att inse att de aldrig pratade om samma sak.

Men den nyansen får inte bli en flykt. För hur du ska arbeta spelar det ingen roll vilken definition som vinner. Oavsett vilken du väljer landar du på samma plats: systemet producerar ett utfall, och någon måste avgöra om utfallet håller. Den någon är du.

Varför det här är en ansvarsfråga

Det är här jag inte stannar vid en språkobservation, för ordet gör något med hur vi tar ansvar.

Tror du att något är intelligent, litar du på det. Du lutar dig tillbaka. Du låter svaret passera för att det lät klokt. Vet du att det är inferens, prediktion, statistisk generalisering, då validerar du. Du läser varje rad, för du vet att ingen förstod den innan du gjorde det.

Ordet intelligens är alltså inte bara ett marknadsföringsproblem. Det är en inbjudan att lämna ifrån sig precis den del du inte kan delegera. Illusionen att maskinen förstår är exakt det som får en människa att sluta bära sitt eget omdöme. Och omdömet var hela jobbet.

Det är I:et i AI som gör det. Och kanske också superlativerna. De får oss att se intelligens där det oftast handlar om inferens, prediktion och statistisk generalisering. Låt dem inte få dig att se ett medvetande där det bara finns ett verktyg du fortfarande ansvarar för.

Se även: Samma ord, olika saker (serie 30) och Jag är smartare än AI:n (serie 1).