Bruk markedet til å dekke KI-behov

Når en offentlig virksomhet skal kjøpe et KI-system i markedet skjer det gjennom en anskaffelsesprosess. Her får du råd om vurderinger og veivalg som er spesielt viktige når virksomheten skal anskaffe KI.

Offentlige anskaffelser er regulert i lov og forskrift for å sikre at fellesskapets midler brukes på en måte som gir størst mulig verdi for samfunnet. I anskaffelsen må innkjøper ha øye for virksomhetens mål og funksjonelle behov, i tillegg til videre samfunnshensyn, for eksempel klima og miljø og innovasjon.

Hva veiledningen dekker

Denne veiledningen gir en generell oversikt over prosesser og vurderinger i KI-anskaffelser, og er relevant uavhengig av hvilken rolle du har i virksomheten. Den dekker ikke hele anskaffelsesprosessen eller alle faglige vurderinger. Veiledningen er skrevet for offentlig sektor, men kan være nyttig for alle som skal anskaffe KI.

Den handler i hovedsak om å komme rett ut fra start, slik at du kjøper det du trenger og sikrer ansvarlig bruk av KI.

Anskaffelse i tre deler

Anskaffelsesprosessen deles typisk inn i tre deler:

• Behovsvurdering og planlegging

• Konkurransegjennomføring

• Følge opp kontrakt

Her fokuserer vi i stor grad på den første delen.

Hvilket problem skal du løse?

Før en virksomhet anskaffer et KI-system, må den svare på et grunnleggende spørsmål: Hvilket problem skal vi løse? Start derfor med å beskrive hvilke behov KI-systemet skal dekke og fastsett klare mål for nytteverdi, slik at anskaffelsen har en strategisk forankring. Slik forsikrer du deg om at det er KI du trenger.

En sentral del av denne fasen er å vurdere risiko og gevinst. Vurder ulike typer risikoer f.eks. personsvern og informasjonssikkerhet, og grunnleggende rettigheter. Hvilken type KI-system du skal anskaffe, bestemmer omfanget av risikovurderingen du må gjøre, og hvilke samfunnshensyn som er relevante.

Måten du beskriver behov og krav på påvirker leverandørenes handlingsrom for å innovere. Du trenger ikke vite alt om mulige løsninger på forhånd. Behovsbeskrivelsen skal ta utgangspunkt i i problemet som skal løses, med funksjonsbaserte krav framfor tekniske spesifikasjoner. På den måten fremmer du innovasjon fordi leverandørene kan foreslå de mest effektive løsningene.

Avklaringer om KI i behov- og planfasen

Når behovet og utfordringen er definert, bør du avklare spørsmål som er viktig for handlingsrommet og prosessen videre.

• Hvilke plattformer og kanaler er aktuelle for eventuell KI-løsning?

• Hvilke integrasjoner er mulige gitt virksomhetens IT-arkitektur?

• Har virksomheten allerede avtaler med leverandører som gir tilgang på systemer som dekker behovet, f.eks. eksisterende rammeavtaler?

• Kan du dekke behovet gjennom nasjonale avtaler fra Markedsplassen for skytjenester?

• Gjelder behovet bruk av persondata?

• Hvor skal data behandles og lagres?

• Hvordan passer dette med virksomhetens KI-policy og retningslinjer?

Gå i dialog med leverandører

Når behovsbeskrivelsen er klar, kan du gå i dialog med leverandører for å få mer innsikt i markedet. Du kan også teste en eller flere KI-løsninger. Slik reduserer du risiko ved at virksomheten får mer innsikt om bruksmønster, reelle behov og kostnader.

Som offentlig innkjøper har du stort handlingsrom. Det er lovlig å ha dialog med markedet så lenge du behandler leverandørene likt, unngår å gi urimelig konkurransefordel og ikke røper forretningshemmeligheter.

Du kan altså ha direkte dialog med enkeltleverandører på forhånd. Bare husk på at om du har gitt en leverandør info om en kommende anskaffelse i en dialog, må du dele det med alle når du kunngjør konkurransen i markedet.

Benytt anledningen til å kartlegge hvordan leverandørene sikrer ansvarlig KI. For eksempel hva de gjør for å unngå diskriminerende skjevheter (bias). Markedsdialogen bør inkludere kritiske tema som personvern, datakvalitet, og forklarbarhet, altså at svar fra systemet kan forklares på en måte som er forståelig for de som bruker det.

Konkurransegrunnlag

Om virksomheten har hatt en god prosess for behovsvurdering, risiko-og gevinstanalyse, og vurdert innspill fra mulige leverandører, har den kommet langt i å etablere et godt konkurransegrunnlag.

Konkurransegrunnlaget er beskrivelsen av hvilket behov som skal dekkes, hvilken ytelse oppdragsgiver ønsker at leverandørene gir tilbud på, og hvilke krav som gjelder for gjennomføring av konkurransen.

Kravene som stilles må reflektere virksomhetens funksjonelle behov, i tillegg til etiske, juridiske og tekniske rammer for anskaffelsen.

Still de rette kravene til KI

Når virksomheten skal kjøpe KI-systemer, må teknologien være lovlig, etisk og teknisk robust gjennom hele levetiden. For å stille de riktige kravene, må virksomheten ha en risikobasert tilnærming i tråd med EUs KI-forordning, som skal bli en del av norsk lov. KI-forordningen skiller mellom systemer med uakseptabel risiko som er forbudt, høy risiko som krever streng kontroll, og lav eller begrenset risiko.

Uansett risikonivå bør innkjøpere kreve en plan for kontinuerlig oppfølging etter at systemet er tatt i bruk. Slik kan man fange opp om systemets nøyaktighet eller sikkerhet svekkes over tid når det møter nye typer data.

Krav til systemer med høy risiko

KI som brukes i helsetjenester, utdanning eller til saksbehandling som påvirker folks rettigheter, regnes som høyrisiko. For å anskaffe slike systemer trenger du en detaljert liste med krav for å sikre tillit til systemet.

Innkjøpere må kreve at leverandøren har et solid system for risikostyring og datastyring. Det innebærer at datasettene som brukes til trening og testing må være relevante, representative og mest mulig fri for feil, slik at man unngår urettferdig diskriminering (bias). Videre er det avgjørende å kreve løsninger for menneskelig overstyring. Ansatte må forstå systemets begrensninger og ha verktøy til å kunne kontrollere, endre eller stanse systemet ved behov. Det skal også være automatisk loggføring (sporbarhet), slik at man i etterkant kan gå tilbake og se nøyaktig hvordan systemet har fungert.

Når KI-forordningens krav til høyrisiko systemer trer i kraft, vil høyrisikosystemer som lovlig kan selges på det europeiske markedet være merket med CE.

Krav til systemer med lav eller begrenset risiko

Enkle chatbots eller verktøy for tekstoppsummering er eksempler på systemer med lav eller begrenset risiko. For å anskaffe det er hovedkravet gjennomsiktighet. Brukere skal få tydelig beskjed om at de samhandler med en maskin, ikke et menneske.

Om anskaffelsesloven

Anskaffelsesloven er i Norge en implementering av et felles europeisk regelverk fra EU.

I ny lov om offentlige anskaffelser som gjelder fra 1. juli 2026, har samfunnshensyn fått en tydelig plass i formålsbestemmelsen.

Formålet med anskaffelsesloven er å fremme effektiv og bærekraftig bruk av samfunnets ressurser. Med bærekraftig menes økonomisk, sosial og miljømessig bærekraft. Loven skal også bidra til at det offentlige ivaretar sikkerhets- og beredskapshensyn og opptrer på en tillitvekkende måte.