2. Anskaffe, utvikle eller videreutvikle
Undersøk markedet
Når du vet hvilken type KI du trenger, må du finne ut om du skal kjøpe et system eller utvikle det selv. Da er det lurt å begynne med å undersøke hva som finnes på markedet. Finnes det ferdige løsninger?
Markedet er preget av en rekke aktører, fra globale tech-giganter til åpne forskningsmiljøer. Valg av leverandør har derfor store konsekvenser for kostnad, sikkerhet, kontroll og langsiktighet.
Hvem utvikler modellene?
Hvem som har utviklet modellen er ikke bare et teknisk valg, men også et strategisk og geopolitisk valg. Modeller utviklet i land med ulik lovgivning og verdigrunnlag kan inneholde skjevhet eller være underlagt lover som krever at myndighetene i utviklingslandet får, eller kan få, tilgang til data.
For norsk offentlig sektor er det viktig å vurdere hvor sikkerhetsrisikoen ligger. En modell fra en stabil, langsiktig aktør med god støttegaranti blir gjerne vurdert som tryggere enn en modell fra startups. Samtidig er innovative vekstselskap viktige og relevante for å dekke mange offentlige behov, som ikke tilbys av større og mer etablerte selskaper.
Modeller trent på norske data, språk, kultur, lovverk, vil generelt gi bedre resultater i norsk offentlig sektor enn globale modeller trent på engelske data.
Som offentlig innkjøper har du stort handlingsrom. Det er lovlig å ha dialog med markedet så lenge du behandler leverandørene likt, unngår å gi urimelig konkurransefordel og ikke røper forretningshemmeligheter.
Viktige spørsmål når du undersøker markedet
Hvor er modellen trent, og hvilke data er brukt?
Hvilke lover gjelder for leverandøren?
Har leverandøren en langsiktig strategi for vedlikehold og oppdatering?
Finnes det norske eller europeiske alternativer?
Be om bærekraftsrapporten og spør om de bruker fornybar energi i datasentrene.
Offentlige virksomheter har et ansvar for å ta hensyn til klima og miljø i alle anskaffelser. KI-modeller, spesielt de store generative modellene, har et betydelig energiforbruk både under trening og i drift. Hver gang en modell genererer et svar, forbrukes elektrisitet. Kjøling av datasentrene krever ofte store mengder vann, noe som gjør KI til en ressurskrevende teknologi også utover energiforbruket. Større modeller og lengre svar krever mer energi.
Det har også vist seg utfordrende å få tak i god og oversiktlig informasjon om energiforbruket til de enkelte modellene. Ulike leverandører rapporterer forskjellig om sitt karbonavtrykk og om mengden fornybar energi i energimiksen. Det å velge mindre modeller (SLMs) eller optimere instruksene kan redusere energiforbruket betydelig.
Ikke alle oppgaver krever en stor modell. Small Language Models (SLM) er mindre, mer effektive modeller som er trent på spesifikke oppgaver eller mindre datasett. De krever mye mindre regnekraft og energi. De kan svare raskere og kan ofte kjøres lokalt på en vanlig server eller til og med på en bærbar PC. Dette kan redusere driftskostnadene og styrke kontrollen over egne data.
Sjekk om du kan bruke en SML
Anbefaling: Evaluer om oppgaven kan løses med en SLM før du går for en stor, dyr modell. Dette er et viktig bidrag til både økonomi og bærekraft.
Neste steg
Forstå prismodeller