När AI:n vänder blicken inåt

I helgen satte jag mig in i en forskningsartikel som fick mig att tänka i djupare kring AI-agenter. Den handlar om något så till synes oseriöst som en AI som spelar Pokémon på Game Boy.

Men under ytan ligger ett av de mer intressanta genombrotten jag sett på länge: en maskin som vänder blicken inåt. Som reflekterar över sitt eget arbete och bygger om sig själv medan den jobbar. Utan att vi nollställer den, tränar om den eller laddar upp en ny version.

Maskinen har, så att säga, börjat titta i spegeln.

Det här är min reflektion över varför det är ett större skifte än det låter.

Kort summering

Den 13 maj 2026 publicerade forskare från Princeton, ARISE Foundation och Google DeepMind studien Continual Harness (arXiv:2605.09998).

Den visar hur en AI-agent kan skriva om sin egen instruktion, knoppa av specialister, programmera nya verktyg åt sig själv och bygga ett långtidsminne – allt mitt under pågående körning.

Det är ingen rolig parentes om Pokémon. Det är ett tidigt utkast till hur framtidens autonoma AI-agenter kommer att fungera.

Så här lär sig dagens AI – och varför det är ett problem

De AI-modeller du och jag använder dagligen är, om man förenklar det grovt, minneslösa mellan tillfällena. Varje ny chatt börjar i princip från noll. Modellen minns inte vad du sa i går, drar inga slutsatser om sig själv och blir inte bättre av att jobba med dig över tid.

När forskare tränar AI-agenter används oftast en metod som heter förstärkningsinlärning (på engelska reinforcement learning): agenten får göra en uppgift, misslyckas, nollställs, försöker igen från början, justeras lite, och så vidare. Tusentals gånger om. Det är effektivt – men det är också anledningen till att dagens AI känns som en väldigt duktig elev med selektiv minnesförlust. Den lär sig under träning, men inte i livet.

Det är just den begränsningen forskarna har gett sig på.

Det här gjorde de: lät AI:n bygga om sig själv mitt i spelet

Studien heter Continual Harness: Online Adaptation for Self-Improving Foundation Agents och kommer från ett team lett av Seth Karten och Joel Zhang. Ordet harness betyder ungefär sele – i AI-sammanhang menar man allt som sitter runt om själva språkmodellen: verktyg, minne, instruktioner och planering. Som testmiljö valde forskarna klassiska Pokémon-spel på Game Boy.

Varför Pokémon? För att spelen är avgränsade men djupt komplexa. De kräver långsiktig planering över tusentals drag, hantering av dold information (du ser inte hela kartan) och att hushålla med begränsade resurser när man inte vet vad som väntar runt nästa hörn. Precis den typ av utmaningar en AI möter i den verkliga världen – fast utan att forskarna riskerar att råka starta en bil eller skicka ett skarpt mejl.

Det som är nytt är vad AI:n får göra med sig själv när den spelar. Med några hundra drags mellanrum pausar systemet, tittar tillbaka på vad som nyss hänt, och får skriva om fyra delar av sig själv:

Sin egen systemprompt – alltså den interna instruktionen för hur den ska bete sig. Om en strategi inte fungerade, justeras instruktionen direkt.

Sina under-agenter – om strider kräver en annan typ av tänkande än kartnavigering, knoppar den av en specialiserad "stridsagent" med egen prompt och egna verktyg.

Sitt verktygsbibliotek – AI:n skriver faktisk programkod för nya verktyg åt sig själv. I ett experiment hittade den till och med en bugg i ett verktyg den själv hade skrivit, läste felmeddelandet, lagade koden och fortsatte använda verktyget.

Sitt långtidsminne – ett bestående minne av vad som hänt, vad som funkat och vad den lärt sig.

Det sista är värt en egen anekdot. I Olivine Lighthouse i Pokémon Crystal har två versioner av Gemini fått försöka navigera samma torn. Den äldre, Gemini 2.5 Pro, körde fast i en envis cirkel av felaktiga antaganden – den hade bestämt sig för att fallgroparna i tornet var livsfarliga och vägrade gå nära dem. Innan den till slut fick Fog Badge hade den hunnit lägga 16 403 drag på att leta efter andra vägar. Den nyare, Gemini 3 Pro, började med samma försiktiga antagande – men när alla säkrare alternativ var slut tog den ett djupt andetag, klev rakt ner i en grop, och klarade tornet på en bråkdel av tiden.

Skillnaden låg inte i utförandet utan i förmågan att uppdatera sina egna antaganden om världen. Det är inte en AI som bara löser en uppgift. Det är en AI som börjar upptäcka när den är fast – och göra något åt det.

Dödsspiralen: när självförbättring blir destruktiv

Den mest intressanta delen av studien är, ärligt talat, inte framgångarna. Det är misslyckandena.

För om grundmodellen är för svag händer något läskigt. AI:n är då inte smart nog att ställa rätt diagnos på sina egna misstag. Den drar fel slutsats. Skriver om sin instruktion åt fel håll. Bygger ett verktyg som gör saken värre. Det leder i sin tur till fler misslyckanden, ännu sämre diagnos, ännu sämre kod.

Forskarna kallar själva tröskeln för ett kapacitetsgolv (capability floor). Under den är självförbättring inte bara verkningslös – den är aktivt skadlig. I deras experiment hamnade den minsta modellen, Gemini 3 Flash-Lite, där: varje variant av Continual Harness gjorde den sämre än om den fått köra helt utan självjustering.

Det är en obekväm parallell till människor. Vi vet alla att den som är trygg i sig själv ofta blir bättre av kritik, medan den som redan är pressad ofta blir sämre

Självförbättring är inte gratis. Under en viss kognitiv tröskel är förmågan att bygga om sig själv inte en superkraft – det är en risk.

Men kliver modellen över tröskeln vänder det. Då blir snurran istället kraftfullt positiv: små förbättringar ger bättre diagnos, som ger bättre förbättringar, som ger ännu bättre diagnos. Det rullar uppåt istället för nedåt.

Det är en obekväm parallell till människor. Vi vet alla att den som är trygg i sig själv ofta blir bättre av kritik, medan den som redan är pressad ofta blir sämre. Skillnaden mellan utveckling och kollaps ligger inte i om man får feedback – utan i om man är i ett tillräckligt bra läge för att kunna tolka den rätt.

Co-learning: när storebror lär lillebror live

Forskarna nöjde sig inte med att låta jättemodellerna förbättra sig själva. De testade också något de kallar Online Process-Reward Co-Learning.

Kortversionen: en stor, dyr modell (en så kallad frontier model – en av de allra största på marknaden, som Gemini) får agera lärare i realtid åt en mindre, öppen modell (i deras fall i Gemma-4-klassen). Den lilla modellen är den som faktiskt spelar. Den stora tittar över axeln, poängsätter handlingarna och rättar löpande.

Resultatet: den lilla modellen, som ensam inte hade en chans att klara vissa moment, klarar dem nu – och fortsätter klara dem även när läraren tas bort.

Det är värt att tänka på. Mycket av diskussionen om AI handlar om vem som har den största modellen. Den här studien antyder att en av de mest underskattade vägarna framåt är hur flera modeller jobbar tillsammans – en stor som handleder, en liten som agerar.

Det låter förresten misstänkt likt en bra relation mellan mästare och lärling.

Den mänskliga parallellen

Det som verkligen får mig att tänka är hur mycket Continual Harness påminner om hur vi själva fungerar.

Att skriva om sin systemprompt är i grund och botten maskinens version av självreflektion. Eller av kognitiv beteendeterapi: att identifiera ett felaktigt tankemönster och medvetet formulera om sin inre instruktion.

Att knoppa av under-agenter liknar hur hjärnan automatiserar vanor. När du lärde dig köra bil krävde det all din uppmärksamhet. Idag sköts det av en mental "under-agent" och du kan samtidigt prata, planera och lyssna på radio.

Att bygga upp ett långtidsminne är… ja, ungefär det vi gör när vi växer som människor. Vi minns inte allt, men vi minns det som format oss.

Och så, mitt i allt det här, levererar AI:n något jag måste ta upp separat: under slutstriderna i Crystal utvecklade den en komplex flerstegsstrategi som den helt på eget initiativ döpte till "Operation Zombie Phoenix".

Låt det sjunka in. Inte bara hittade den en strategi som fungerade. Den namngav den. Inte för att forskarna bad om det. Bara för att det var praktiskt att kunna hänvisa till den senare. Det är inte AGI. Men det är obehagligt nära något vi brukar kalla initiativ.

Varför det här är viktigt – långt bortom Pokémon

Det är lätt att avfärda det här som en kuriositet. "AI lär sig spela Game Boy-spel – grattis, vad användbart." Men låt mig vara tydlig om vad jag tror är den verkliga poängen.

Continual Harness är inte en Pokémon-spelare. Det är en allmän ram för AI som lever och agerar i en värld över tid – det som på engelska kallas embodied agents. Alltså AI som fattar beslut, ser konsekvenserna och justerar sig efter hand.

Det är skillnaden mellan en AI du frågar något och en AI du anställer.

De här idéerna går att överföra direkt på:

Robotar som ska klara av ostädade verkstadsgolv och oförutsägbara hem.

Autonoma system i fordon, processindustri och energinät.

Digitala medarbetare som inte bara svarar på en fråga åt gången, utan som rullar månad efter månad i era system, lär sig hur ni faktiskt jobbar och bygger upp egna rutiner.

Forskningsassistenter som driver ett projekt över veckor istället för att bara ha ett samtal i taget.

Det är skillnaden mellan en AI du frågar något och en AI du anställer. Vi pratar fortfarande om tidiga prototyper. Men riktningen är väldigt tydlig.

Vad betyder det för dig och din verksamhet?

En ärlig fråga: spelar det här någon roll om du sitter på ett kontor och inte sysslar med AI-forskning?

Jag tror det – av tre skäl.

1. Förvänta dig att AI börjar minnas dig. De AI-assistenter du jobbar med idag är som en kollega med daglig minnesförlust. Den utvecklingen kommer att vända. Inom ett par år kommer det vara helt normalt att din AI-assistent har ett eget minne av era tidigare uppdrag, vet hur ni brukar formulera er, känner till era kunder och drar lärdomar mellan projekt. Förbered dig på att din relation med AI går från engångsfrågor till löpande samarbete.

Förbered dig på att din relation med AI går från engångsfrågor till löpande samarbete.

2. Det du lär AI:n kommer att byggas på över tid. Idag försvinner ofta din kontext mellan samtalen. När AI med eget minne och förmåga till självjustering blir vardag kommer det du tar dig tid att förklara, korrigera och rama in att finnas kvar – och förstärkas. Det innebär att en organisation som tränar sina människor i att jobba bra med AI bygger ett försprång som växer för varje månad.

Det är också därför vi på Qlok är så besatta av sättet du pratar med AI:n. Vår Promptguide: AI på rätt KURS är ett enkelt sätt att tänka kring just det:

Kontext – vad behöver AI:n veta?

Uppdrag – vad ska den göra?

Ramar – vad ska den inte göra, och hur ska resultatet se ut?

Samspel – hur jobbar ni er fram till ett resultat du står för?

När AI:n får eget minne blir den här disciplinen inte mindre viktig. Den blir mer viktig – för det du lär den nu kommer den att bära med sig.

3. Dödsspiralen gäller oss också. Tröskeln som forskarna pratar om – att AI under en viss kapacitet blir sämre av att försöka förbättra sig själv – har en spegelbild i organisationer. Företag som kastar sig in i AI utan grundläggande förståelse riskerar att fatta beslut som ser smarta ut men som faktiskt urholkar verksamheten. Företag som har tagit sig över en viss tröskel av AI-kunnande får istället en positiv spiral där varje litet steg gör nästa lättare.

Vilken sida av tröskeln vill du att din verksamhet ska stå på?

Det fina i kråksången

Det finns något fint i att ett genombrott som det här kommer just från Pokémon.

När forskning tar steget från att försöka imponera ("AI:n klarade ännu ett prov") till att försöka leva ("AI:n märkte att den fastnat i sina egna antaganden och började testa nya"), så befinner vi oss i en helt annan tid än för bara ett år sedan.

Min gissning är att framtidens AGI – alltså en AI som är allmänt lika kapabel som en människa – inte kommer fram via ett enda magiskt ögonblick av medvetande. Den kommer att smyga sig på oss, som en tyst, stadig hög av små förbättringar som aldrig nollställs. Tusen små lärtillfällen som tidigare slängdes i papperskorgen vid varje reset, men som nu får stanna kvar.

Maskinerna har vänt blicken inåt.

Frågan jag lämnar dig med är inte om du ska börja förbereda din verksamhet på det – utan när.

Källor och fördjupning

Huvudstudien: Karten, S., Zhang, J., Upaa Jr, T., Feng, R., Li, W., Shi, C., Jin, C., & Vodrahalli, K. (13 maj 2026). Continual Harness: Online Adaptation for Self-Improving Foundation Agents. arXiv:2605.09998. Princeton University, ARISE Foundation och Google DeepMind. Finns även på Hugging Face.

Projektsida och kodbas: sethkarten.ai/continual-harness samt github.com/sethkarten/continual-harness.

Föregångaren Gemini Plays Pokémon (2025), analyserad av Drew Breunig på dbreunig.com.

Artikeln är min personliga reflektion. Förenklingar och liknelser (KBT, vanor, mästare och lärling) är just det – liknelser, inte exakta vetenskapliga ekvivalenser. Om något i texten kittlade – eller skavde – så får du gärna höra av dig. Vi gillar att tänka högt om det här tillsammans med andra.