Ett för stort svar är en gissning i förklädnad
Jag har skrivit att det inte börjar med prompten. Här är delen jag inte sa: det finns en proportion. Det är inte prompten som avgör, det är förhållandet mellan tre storheter, och de flesta räknar bara med två. När den proportionen är fel får du inte ett sämre svar. Du får en gissning i förklädnad.
Tre storheter, inte två
I varje AI-anrop finns tre saker. Kontexten du skickar in: din kod, dina transkript, din domändata, dina egna tankar. Prompten: det du ber om. Och outputen: det du får tillbaka. Nästan alla pratar om prompten. Nästan ingen pratar om hur de tre förhåller sig till varandra. Det är där svaret ligger.
Paradoxen som inte är en paradox
Jag har sagt att en lat, kort prompt är förkastlig. Jag har också sagt att prompten ska vara liten. Det låter som en motsägelse tills man ser att det är två olika axlar.
En kort prompt är förkastlig när den är kort av lättja och kontexten också är tunn. Då finns ingen riktning och ingen grund. Det är vibe. Men prompten ska vara liten i förhållande till en rik kontext. Variabeln som ska växa är kontexten, inte prompten. Precision är inte samma sak som volym.
Och det leder till något värt att säga rakt ut. En lång prompt är oftast ett symptom på för lite kontext. Du försöker kompensera bristen på grund med instruktioner. Du beskriver ett generiskt scenario i ord i stället för att ge modellen ditt faktiska material. Och då svarar den ur generisk kunskap, den som inte behöver vara sann.
Titta på outputen mot kontexten
Ta sedan outputen och håll den mot kontexten. Om du får tillbaka mer än du matade in kommer mellanskillnaden någonstans ifrån. Den kommer inte ur din sanning, för den fanns inte i det du gav. Den kommer ur modellens generiska antaganden. Modellen hittar helt enkelt på mellanskillnaden.
Det här är inte samma sak som att kontextfönstret är för litet eller att du bara får ut några tusen ord. Det handlar inte om hur mycket du KAN få ut. Det handlar om var det du får ut kommer ifrån. Grundad output är en destillation av din kontext. Den är mindre än det du gav, för den kokar ner det. Uppdiktad output är en expansion av ett tunt underlag.
Så förhåller de sig
| Kontext | Prompt | Output mot kontext | Vad händer | Omdöme |
|---|---|---|---|---|
| Rik, unik | Liten, precis | Mindre än kontexten | Destillation av din sanning | Idealet |
| Tunn | Stor | Större än kontexten | Modellen fyller ur det generiska | Generiskt, ofta osant |
| Tunn | Liten och lat | Vad som helst | Ingen riktning, ingen grund | Förkastligt |
| Rik | Stor | Ungefär lika | Prompten slåss med kontexten | Spretigt, överinstruerat |
| Rik, unik | Liten | Mycket större | Du ber om mer än du gav | Uppdiktat trots bra grund |
Två saker jag inte påstår
Storlek är en proxy. Det är inte antalet tecken som avgör utan hur mycket unikt, relevant material du ger. Ett stort fönster fyllt med skräp är sämre än ett litet fönster med exakt rätt sak. När jag säger rik kontext menar jag tät, inte lång.
Och output större än kontext är inte alltid fel. Ber du medvetet om expansion, gör fem punkter till ett utkast, bjuder du in det generiska. Det är rätt när du idéar. Det är farligt när du tror att du får fakta. Skillnaden är att du vet var överskottet kommer ifrån.
Därför lägger jag tiden på kontexten
Prompten är riktningen. Kontexten är grunden. Och outputen ska aldrig innehålla mer sanning än den grund du la in. Om den gör det har du inte fått ett bättre svar. Du har fått en gissning i förklädnad.
Se även: Det börjar inte med prompten och Alla har samma AI om varför din kontext är det enda som är ditt.