April: Fagdag i vektordatabaser og generativ AI
Av Jonny Klemetsen
Publisert 28.04.2024
I April var temaet for fagdagen Generativ AI og store språkmodeller. Her fikk deltakerene teoretisk og praktisk erfaring med hvordan språkmodeller fungerer, hva som må til for å ta i bruk teknologien og hvordan unngå potensielle risikoer ved bruk
Vi fikk se på vektordatabaser og hvorfor dette er nyttig sammen med språkmodeller, samt hvordan vektordatabaser i seg selv er en teknologi med stort anvendelsesområde. Videre så vi på Open-Source modeller og hvordan man kan kjøre dette lokalt på egen maskin, etterfulgt av en praktisk oppgave om prompt injections - altså det å lure språkmodeller til å gjøre ting de ikke skal.
Etter lunsj ble vi vist hvordan man kan la språkmodeller utnytte seg av strukturerte data i form av API og SQL databaser, samt hvordan man kan la modellene utføre handlinger. Her ble det diskutert utfordringer og løsninger tilknyttet utformingen av applikasjoner som baserer seg på språkmodeller, samt demo av et kunde-case. Til slutt så vi på hvordan fremtiden rundt Generativ AI kan se ut, etterfulgt av en praktisk oppgave der deltakerne i grupper kom med ideer på hvordan dette kan skape verdi i sine respektive prosjekter.
Alt i alt en vell gjennomført fagdag med positive tilbakemeldinger fra deltakerne . Etterpå nøt vi finværet på balkongen på studioet i 6.etg, etterfulgt av en matbit på Escalon.