Ellerin setup stage 1

Ellerin

Hopp til teknisk beskrivelse

Hva

En læringsplattform der KI bygger og holder tilpassede forelesninger.

Fokus

Håndtering av context-window og dynamiske system-prompter.

Rolle

Teknisk leder, med ansvar for systemarkitekturen og KI-systemet.

Stack

React og React Router i frontend, en REST API i Node.js og Express, og MongoDB til lagring.

Viser

En REST API med layer-based struktur, dynamiske system-prompter som settes sammen for hver request, og progresjon som styres av API-et i stedet for modellen.

Om prosjektet

Hva det er

Ellerin er en digital læringsplattform som tar i bruk kunstig intelligens, med formål om å maksimere de positive effektene og minimere potensielle negative kognitive virkninger av KI-bruk. Det gjøres ved å strukturere og koordinere hvordan KI-modellen opererer.

Setup-side del 1 til Ellerin - spør spørsmål

Hvordan en forelesning bygges

Modellen identifiserer konseptene bak det brukeren ønsker å lære, vurderer hvilken relevant kunnskap brukeren allerede har, og bygger opp en læreplan bestående av flere forelesninger. Kompleksitet, progresjon og tilnærming tilpasses hver enkelt bruker.

Context og prompting

Mye av arbeidet bak Ellerin handler om håndtering av context-window og bruk av dynamiske system-prompter, for å sikre at hver forelesning tilpasses den individuelle brukeren og deres behov.

Roller og bidrag

  • Teknisk leder
  • Backend utvikling
  • Frontend utvikling
  • Bidratt i design
  • Designe og implementere systemarkitektur
  • Designe og implementere KI-system
  • Database design
  • Context management
  • Dynamisk system prompting
Setup-side del 1 til Ellerin - spør spørsmål
Setup-side del 2 til Ellerin - set kontekst
Setup-side del 3 til Ellerin - set læremål
Setup-side del 3 til Ellerin - evalueringsspørsmål
Chat-siden til Ellerin
Etterspør forklaring av begrep
Pop-up vindu med forklaring

1 / 7

Språk og teknologier

En JavaScript-stack fra ende til ende: React i frontend, og en REST API i Node.js og Express med MongoDB bak.

Javascript

Språket i både frontend og API-et.

React

Frontend, sammen med React Router V7.

Node.js

Kjører REST API-et.

Express.js

API-rammeverket, med controllers, service-funksjoner og middleware.

MongoDB

Lagrer brukere, sessions og konteksten for hver sekvens i en forelesning.

HTML

Markup i brukergrensesnittet.

SCSS

Stylingen av brukergrensesnittet.

Teknisk

API - Generell signal flyt

Ellerin bruker en REST API, som er skrevet i Node.js med Express.js, og følger en layer-based struktur med controllers, service-funksjoner og utility-funksjoner.

Controllers, services og middleware

Controlleren fungerer som orkestrator og delegerer business logic til relevante service-funksjoner. Hver rute bruker rate-limiting, og annet relevant middleware som sanitering og validering etter behov.

Autentisering

Autentisering håndteres via JWT access-tokens, hvor ruter som krever innlogging verifiserer at tokenet samsvarer med en bruker og en aktiv session lagret i databasen.

KI-modellen

API-et håndterer også all kommunikasjon med KI-modellen, inkludert styring av system prompts og innholdet i context-window.

Dynamisk system-prompter

Her er en forenklet forklaring på hvordan dynamiske system-prompter og interaksjon med KI-modellen er håndtert i løpet av en digital forelesning.

Sette sammen system-prompten

Før hver request til KI-modell-API’en settes system-prompten sammen dynamisk ved å hente statiske instruksjoner fra en JSON-fil, og kontekstuell informasjon fra databasen. Den statiske delen definerer rolle, oppgave og regler, mens den dynamiske delen inneholder informasjon spesifikk for gjeldende bruker og sekvens i forelesningen. Det blir formatert til Markdown før det sendes til modellen.

Responsen

Responsen fra KI-modellen inneholder en tekstrespons, en boolean som indikerer om brukeren har brutt retningslinjene, og en boolean som indikerer om brukeren har oppfylt kriteriet for gjeldende sekvens. Respons og indikator for oppfylte kriterier lagres i databasen før svaret sendes tilbake til klienten.

Progresjon

Når progresjon indikeres, oppdateres gjeldende sekvens i databasen, som gjør at neste request automatisk henter kontekstuell informasjon for neste sekvens. Det spesifiserer informasjonen med i context-window til å kun holde informasjon relevant for gjeldende sekvens, samtidig som progresjonen håndteres automatisk av API’en. Ansvaret for struktur og koordinering ligger hos API-et, ikke modellen, for å garantere at riktig struktur blir fulgt.

Front-end

Frontend er bygget med React og React Router V7.

Autentisering

Autentisering håndteres via en AuthContext provider som gjør access-token tilgjengelig globalt i applikasjonen, og brukes som Bearer token i requests til API-et. Ruter som krever innlogging er beskyttet via protected routes, som verifiserer tilstedeværelsen av en gyldig access-token.

Layout

Layout-komponenten importeres per side fremfor å wrappe hele applikasjonen, da ikke alle sider bruker samme layout.

Requests og state

Requests til API-et håndteres via composable funksjoner. Hver side har ansvar for egen state og bruker delte, gjenbrukbare komponenter.