Automation före agenter

En klok formulering jag hörde nyligen, från någon som byggt mer av det här än de flesta: börja inte med agenten. Börja med automationen.

Jag har tänkt på den sedan dess, för den pekar på något jag sett gång på gång ute hos kunder utan att kunna sätta ord på det.

Varför folk inte litar på agenter

De flesta människor litar inte på en fristående AI-agent. Inte för att de är bakåtsträvande. För att de inte kan kontrollera den.

De ser inte vad den gör steg för steg. De kan inte verifiera resultatet innan det är gjort. De vet inte om den hittade på halva vägen. Och de bär ändå ansvaret för vad som kommer ut. Det är inte teknikrädsla. Det är ett rimligt krav på kontroll från någon som ska stå för resultatet.

Ge en sådan person en agent som kör själv, och du har inte gett dem ett verktyg. Du har gett dem en risk de inte kan bedöma.

Den omvända ordningen

Vänd på det. Bygg först det stabila steget -- en process som gör en väl avgränsad sak, samma sätt varje gång, och som går att verifiera. Hårdkodad om det behövs. Tråkig med flit. Den ska vara förutsägbar, inte smart.

Och låt sedan en agent få starta den. Inte improvisera fram den. Starta den.

Nu har du autonomin där den är ofarlig -- i valet av när och vad -- och kontrollen där den räknas -- i själva utförandet. Agenten fattar beslutet att köra. Maskinen gör jobbet, likadant varje gång.

Har du hundra sådana steg har du byggt något kraftfullt utan att någonsin be en människa att lita på något hen inte kan kontrollera.

Det här är inte en kontrariansk åsikt

Det låter som en försiktig hållning i en bransch som hyllar autonomi. Det är det inte. Det är i linje med hur de mer eftertänksamma leverantörerna ritar gränsen: skilj på det förutbestämda flödet och den fria, självstyrande agenten. Använd det fria sparsamt, där det tål att gå fel.

Det provocerande är inte slutsatsen. Det provocerande är hur många som hoppar över den, bygger det imponerande autonoma först, och sedan undrar varför ingen i organisationen vågar använda det.

Kontroll är inte motsatsen till AI. Kontroll är vad som gör att någon vågar släppa in AI över huvud taget.

Se även: Det är inte farten som dödar (serie 26) och Förtroendet kommer före tekniken (serie 27)