Du ser hela chatten, men i en lång chatt har modellen bara den senaste delen framför sig. Därför verkar den glömma.
Känns det ibland som att du måste återupprepa dig när du chattar med din AI-modell? Att den helt plötsligt glömt av vad ni redan beslutat tidigare i ert samtal, eller att den helt plötsligt börjar göra saker på ett annat sätt som inte alls stämmer? Ett vanligt missförstånd är att vi tror att chatten är en permanent fil, bara för att vi själva kan läsa texten som vi skrev igår eller för någon vecka sedan. Vi tror helt enkelt att en AI-chat fungerar som en “vanlig” fil på datorn, där den sparade informationen är permanent och laddas varje gång vi öppnar filen. Så är det inte.
Låt oss ta ett exempel. När du öppnar ett Word-dokument läses hela texten in så fort filen öppnas. All text som står där, alla bilder, all formatering, alla tabeller etc. finns tillgängliga direkt; oavsett om det står på sidan ett eller sidan fyrtio. När du ändrar i dokumentet, sparar, och därefter öppnar igen, har den bakomliggande strukturen uppdaterats (alltså fil-datan som finns lagrad på hårddisken). Ändringarna finns kvar.
Men en AI-chatt är inte ett dokument. En chat är en interaktion, och det modellen vet om ert samtal finns inte kvar när du tagit en längre paus. Det luriga är att detta inte är lika synligt eftersom vi själva kan läsa meddelandena i chatten och därmed antar att vår AI-modell gör detsamma. För att undvika missförstånd behöver du istället tänka att din chatt är precis som vilket annat samtal som helst med en kollega. Ni kommer båda troligtvis ihåg vad ni pratade om förra veckan, men sällan detaljer eller specifika antaganden om dessa inte skrivits ned; det är orimligt att anta att din kollega ordagrant kan återge er diskussion och vad ni bestämde.
AI-modellen läser om samtalet varje gång
Varje gång du skickar ett meddelande skickas konversationen till AI-modellen på nytt. Det modellen har att gå på är det som skickas med, plus det den har tränats på. Lite som en kollega som inte minns något av era tidigare möten, utan läser igenom anteckningarna från början varje gång innan svaret.
Så länge chat-konversationen är kort fungerar det bra. Problemet är att det finns en gräns för hur mycket som får plats. När diskussionen blir lång får inte allt plats längre, och då tas det äldsta bort eller ersätts av en sammanfattning. Detaljer som sades för länge sedan kan hamna i skymundan. Kommer du tillbaka till en chat efter några dagar är det dessutom inte säkert att det är samma modell som svarar. Hur mycket information som försvinner (och hur sammanfattnings-processen ser ut) skiljer sig mellan tjänster (inklusive om du byter modell mitt i konversationen), men det kritiska är att det sällan syns. Det vill säga texten i chatten står kvar på skärmen, men modellen har inte längre informationen framför sig. Frågan är alltså hur vi kan försäkra oss om att inte tappa information när vi arbetar med AI-modellerna, då chatten inte beter sig som en vanlig datafil?
Ovanstående fråga förvärras av att om du byter chatt börjar konversationen om från början. Visst, vissa tjänster har en minnesfunktion som tar med utvalda saker från tidigare chattar, men det är ett urval, inte hela konversationen. Och allt du inte tar med dig själv kommer modellen gissa sig till, precis som vi såg i AI är ingen sökmotor, vilket tar oss tillbaka på ruta 1.
TIPS: Byt chatt ofta för att inte mista information
Det låter kanske motsägelsefullt efter det jag just skrev, men eftersom chatten inte är en datafil utan en interaktion, är det viktigt att byta chatt då och då även när inget har gått fel. Långa chattar försämras, och en chatt som inte har använts på länge kan bete sig annorlunda än när du lämnade den.
Att byta chatt tvingar dig att destillera signalen ur bruset. Vad har du och din AI-modell faktiskt kommit fram till, och vilka förutsättningar gäller nu? När du tvingar din modell att skriva ner det i en överlämning får du kontroll både över det som produceras och över förutsättningarna som modellen arbetar utifrån.
I tidigare artiklar skrev jag att du inte ska byta chatt bara för att du inte fick det svar du förväntade dig. Det gäller fortfarande. Skillnaden är skälet: byt inte för att komma undan ett dåligt svar, byt för att fortsätta arbeta utifrån rätt förutsättningar. Att fortsätta arbetet i en ny chat är AI-modellens motsvarighet till att klicka på “spara som” i Word.
Så här gör du i praktiken
Det är frestande att bara kopiera hela chatten, ord för ord, och klistra in den i en ny interaktion. Detta är både opraktiskt och riskfyllt eftersom du inte har kontroll över hur den gamla informationen kommer att tolkas i den nya chatten. Nyckeln är att uttryckligen bara ta med det som är viktigt. Så här ser processen ut:
Skapa ett överlämningsdokument. Be AI-modellen sammanfatta det ni har kommit fram till innan du lämnar den gamla chatten. Be den att detaljerat och systematiskt gå igenom vad ni kommit fram till, vad som är gjort, och vad som kvarstår. Be den också att räkna upp vilka filer som ska bifogas och att avsluta med en instruktion till den nya chatten. Prompten under “Testa själv” nedan gör just detta.
Läs igenom överlämnings-dokumentet och dubbelkolla att det inte saknas något viktigt. Be om revideringar eller ändra själv i texten om det behövs.
Starta en ny chat
Klistra in överlämningen och ladda upp eventuella datafiler.
Fortsätt arbeta som vanligt i den nya chatten.
Testa själv
Ta en lång chatt du har haft med en AI-modell och fråga om en detalj du gav i början, till exempel ett namn, en siffra eller en förutsättning. Fick du rätt svar? Hur det går beror på vilken tjänst och modell du använder.
Var kvar i chatten och använd nu istället den här överlämningsprompten:
Prompt för överlämning:
Sammanfatta det vi har kommit fram till i den här chatten som en överlämning, så att jag kan fortsätta i en ny.
1. Ta med vad uppgiften är, vad som är gjort, vad vi har bestämt och varför, vilka förutsättningar som gäller och vad som fortfarande är öppet.
2. Skilj på det jag har bestämt, det du har föreslagit som jag inte har tagit ställning till, och det vi har valt bort.
3. Har vi arbetat fram en text, ta med den senaste versionen ordagrant.
4. Räkna upp de filer jag behöver bifoga i den nya chatten.
5. Den nya chatten vet ingenting om vårt samtal, så överlämningen måste innehålla allt som behövs. Sätt det du själv har antagit inom hakparentes så att jag kan rätta det.
6. Avsluta med en instruktion till den nya chatten: läs överlämningen, säg kort vad du har förstått och fråga om det som är oklart innan vi fortsätter.
Skriv bara överlämningen, utan inledning eller avslutning, så att jag kan kopiera hela svaret och klistra in det först i en ny chatt.
Efter att du fått svaret: öppna en ny chat, klistra in svaret och ladda upp de filer som överlämningen räknar upp.
Två saker att tänka på. Sammanfattningen är också ett AI-svar, så läs igenom den innan du använder den. Saknas något du vet är viktigt lägger du till det själv. Och gör överlämningen i tid. Modellen kan bara sammanfatta det den fortfarande har framför sig, så i en mycket lång chatt kan det viktigaste från början redan vara borta. En bra vana är att göra en överlämning i samband med att du avslutar ditt arbete, exempelvis om du ska gå på lunch eller sluta jobba för dagen. Lite som att spara ditt dokument innan du stänger ned datorn. Figur 1 visar hur en överlämning kan se ut när du använder ovanstående prompt för en längre chat.
Figur 1. En skärmdump av hur inledningen på en överlämning kan se ut i Claude. Detta exempel bygger på författarens egen chatt om att strukturera lekar och övningar som handbollstränare.
Förhoppningsvis gör det här det lite lättare att förstå varför AI ibland verkar ha glömt det ni just har pratat om, och vad du kan göra åt det. I nästa artikel skriver jag om en annan sak som påverkar svaren utan att det alltid syns, nämligen vilken AI-modell som faktiskt svarar.
Har du frågor eller invändningar? Mejla mig gärna. Fler artiklar publiceras efterhand.
Lycka till!