Kriteriet är inte mitt

Jag byggde ett system som matchar namn mot en katalog. Två rader såg nästan identiska ut för en strängjämförelse. Den ena flaskan kostar tvåhundra euro. Den andra tiotusen.

Koden gjorde exakt det den var byggd för. Det är det som är poängen.

Felet låg inte i implementationen. Det låg i kriteriet. Det fanns en hel dimension i sakfrågan, en klassificeringsnivå, som inte existerade någonstans i systemet. Inget fält. Ingen kontroll. Inte för att någon glömt den, utan för att ingen av oss vid tangentbordet visste att den var en dimension.

Vi hittade det inte genom att läsa vår egen kod. Vi kunde inte det. Koden var fullständigt konsekvent med det vi trodde att uppgiften var.

Två sorters kunnande

Det finns en bild av AI-arbete som säger att domänkunskap är multiplikatorn. Den stämmer. Den är bara halv.

Min domän är hur man bygger något. Datamodellen. Matchningen. Konfidensbanden och granskningskön. Att tröskeln går att flytta utan att någon kodar om. Där är trettio år värda något och ingen sakkunnig i världen kan göra det åt mig.

Deras domän är vad rätt betyder. Om två namn är samma sak. Om åttio procent räcker. Om systemet ska landa på tillverkare, produkt eller enskild förpackning. Där är trettio år av systembyggande värda exakt ingenting.

Ingen av oss kan göra den andras del. Det intressanta händer i fogen mellan dem.

Vad jag faktiskt äger

Jag äger att programmet är korrekt givet kriteriet. De äger att kriteriet är korrekt givet verkligheten.

Det låter som en uppdelning som tar bort ansvar från mig. Det gör den inte. Den gör mitt ansvar exakt.

Jag kan inte avgöra om två viner är samma vin. Jag kan äga att jag frågade. Att svaret hamnade i en fil och inte i ett samtal. Att systemet inte låtsas ha en säkerhet det inte har.

Frågan måste ställas innan den kan besvaras

Här sitter haken. Och den är värre än den ser ut.

Att låta den sakkunnige äga kriteriet fungerar bara om jag vet vilka kriterier jag ska gå och fråga om. I det här fallet fanns experten tillgänglig hela tiden. Vi frågade aldrig. Vi visste inte att det fanns något att fråga om.

Så det finns ett tredje kunnande mellan de två andra och det är mitt. Tillräcklig läskunnighet i någon annans fack för att veta var mina egna blinda fläckar sitter. Inte expertis. Jag behöver inte kunna avgöra var en enskild flaska hör hemma. Jag behöver veta att det finns en hierarki, så att jag kan ställa frågan.

Det är den delen ingen pratar om. Alla säger att man ska prata med kunden. Få säger att man måste förstå deras fack tillräckligt för att veta vad man inte förstår.

Vad som följer av det

Ett system där kriteriet är hårdkodat tvingar mig att äga en bedömning jag inte kan göra.

Det är inget filosofiskt problem. Det är ett designkrav. Sitter tröskeln i koden är det jag som har satt den, oavsett vem som sa siffran en gång. Sitter den där den som kan sakfrågan kommer åt den, då äger rätt person rätt sak.

Jag kan inte avgöra om två viner är samma vin. Jag kan bygga så att den som kan det får avgöra det och så att svaret går att ändra när det visar sig vara fel. Det är min del av arbetet. Den blir inte mindre av att den är avgränsad.