Sette sammen system-prompten
Før hver request til KI-modell-API’en settes system-prompten sammen dynamisk ved å hente statiske instruksjoner fra en JSON-fil, og kontekstuell informasjon fra databasen. Den statiske delen definerer rolle, oppgave og regler, mens den dynamiske delen inneholder informasjon spesifikk for gjeldende bruker og sekvens i forelesningen. Det blir formatert til Markdown før det sendes til modellen.
Responsen
Responsen fra KI-modellen inneholder en tekstrespons, en boolean som indikerer om brukeren har brutt retningslinjene, og en boolean som indikerer om brukeren har oppfylt kriteriet for gjeldende sekvens. Respons og indikator for oppfylte kriterier lagres i databasen før svaret sendes tilbake til klienten.
Progresjon
Når progresjon indikeres, oppdateres gjeldende sekvens i databasen, som gjør at neste request automatisk henter kontekstuell informasjon for neste sekvens. Det spesifiserer informasjonen med i context-window til å kun holde informasjon relevant for gjeldende sekvens, samtidig som progresjonen håndteres automatisk av API’en. Ansvaret for struktur og koordinering ligger hos API-et, ikke modellen, for å garantere at riktig struktur blir fulgt.