Etikk og KI
Etikk handlar om korleis vi skal handle, og korleis vi vurderer om eit val eller ei handling er god eller dårleg. Slike spørsmål blir særleg viktige med ny teknologi.
Kunstig intelligens (KI) er kraftig teknologi som kan påvirke samfunnet og enkeltmenneske sine liv. Påvirkninga er særleg stor når KI blir brukt i utdanning, helse eller i situasjonar der nokon skal beslutte noko viktig om ein person, for eksempel om dei får ein jobb, banklån eller forsikring.
Når du skal utvikle eller ta i bruk KI, må du ta ei rekke val. Kva data skal modellen trenast på? Kven er representert i datasett, og kven er ikkjj? Kva for verdiar ligg til grunn hos dei som utviklar systemet? Kven får fordelane av teknologien, og kven får ulempene? Og kven bestemmer alt dette?
Dette er nokre etiske spørsmål du må ta stilling til når du skal bruke eller utvikle KI. Oppsummert må du vite kva du vel, kvifor du vel det og kven som tek eventuelle konsekvensar, og så må du ta ansvaret for dette i etterkant.
Krav til ansvarleg KI
I Europa har ein jobba lenge for at produkt som skal selgast på den europeiske marknaden både fungerer godt og ikkje truer sikkerheit og helse. På bakgrunn av den raske teknologiutviklinga på det digitale området, særleg innen KI, beslutta EU-kommisjonen i 2018 å sette ned ein komité som skulle foreslå etiske prinsipp for utvikling og bruk av KI i EU. Komiteen vart bedt om m.a. å vurdere betydninga KI ville få for europeiske innbyggarar sine rettigheiter, inkludert personvern og vern mot diskriminering. I 2019 kom tilrådinga frå komiteen: «Ethics guidelines for trustworthy AI»: Ethics guidelines for trustworthy AI | Shaping Europe’s digital future.
Desse retningslinene er referert til i norsk digitaliseringsstrategi og i Nasjonal strategi for kunstig intelligens
Retningslinene er sentrale for korleis både Noreg og Europa jobbar for å sikre trygg og ansvarleg KI, da dei er grunnlaget for KI-forordningen.
Les meir om KI-loven her
Retningsliner for KI
KI-baserte løysingar skal respektere menneskets sjølvbestemmelse og kontroll
Utvikling og bruk av kunstig intelligens skal bidra til eit demokratisk og rettferdig samfunn ved å styrke og fremme enkeltmennesket sin grunnleggande fridom og rettar. Den enkelte skal ha rett til ikkje å vere underlagt ei automatisert handsaming dersom beslutninga systemet fattar berører dei i vesentleg grad. Menneske skal vere inne i beslutningsprosessane for å kvalitetssikre og gi tilbakemelding i alle ledd i prosessen («human-in-the-loop»).
KI-baserte system skal vere sikre og teknisk robuste
Kunstig intelligens skal vere bygd på system med teknisk robuste løysingar som forebygger risiko og som bidrar til at systema fungerer slik dei er tiltenkt. Risikoen for uintenderte og uventa skadar skal minimerast. Teknisk robustheit er også viktig for at systema skal vere nøyaktige, pålitelege og etterprøvbare.
KI skal ta hensyn til personvernet
Kunstig intelligens som bygger på personopplysningar, eller som rettar seg mot personar, skal følge personvernforordninga.
KI-baserte systemer må vere gjennomsiktige
Beslutningar tatt av system basert på kunstig intelligens skal vere sporbare, forklarbare og transparente. Det betyr at ein som enkeltperson eller juridisk person skal ha moglegheit til å få innsikt i kvifor ei beslutning som gjeld dei vart som den vart. Sporbarheit gjer det mogleg i gjennomføre revisjon og gi ei forklaring. Transparens (gjennomsiktigheit) blir oppnådd m.a. ved å gi informasjon om behandlinga til den registrerte. Det handlar også om at datasystem ikkje skal utgi seg for å vere menneske – menneske skal ha rett til å få vite om dei samhandlar med eit KI-system.
KI-system skal legge til rette for inkludering, mangfald og likebehandling
Ved utvikling og bruk av kunstig intelligens er det særleg viktig å vere merksam på at KI bidrar til inkludering og likestilling, og at diskriminering blir unngått. Datasett som brukast til å trene opp KI-system kan innehalde historiske skjeivheiter, vere ufullstendige eller uriktige. Identifiserbare og diskriminerande skjeivheit bør fjernast i innsamlingsfasen dersom det er mogleg. Utvalgsskjeivheit («bias») kan motverkast ved å innføre kontrollprosessar som analyserer og korrigerer systemet sine beslutningar i lys av formålet.
KI skal vere nyttig for samfunn og miljø
Kunstig intelligens skal utviklast med omsyn til samfunnet og miljøet, og skal ikkje ha negativ innvirkning på institusjonar, demokratiet og samfunnet som heilheit.
Ansvarlegheit
Kravet om ansvarlegheit utfyller dei andre krava og inneber at det skal innførast mekanismar som sikrar ansvarlegheit for løysingar basert på KI og deira resultat, både før og etter implementering av løysingane. Alle KI-system skal ivareta moglegheiten for revisjon.
Sentrale dokument om KI og etikk
Det eksisterer mange viktige og sentrale dokument om KI og etikk som det kan vere nyttig å kjenne til. Den europeiske anbefalinga ligg som ein grunnmur for alt vi gjer KI i Noreg, mens dei andre tilrådingane viser korleis ein tenker rundt dette frå ein mer global synsvinkel. Felles for alle er at det må vere ein tanke bak utvikling og bruk av KI. Etisk praksis handlar i all hovudsak om å ha eit klart bilde på kva for dilemma ein står ovafor, kva for val ein må ta og kva konsekvensar disse beslutningene får. I tillegg må disse beslutningene formidlast til dei som blir berørt. Etisk praksis handlar altså om gode og opne prosssar for å ta val.
Nokre etiske retningsliner fra internasjonale aktørar:
OECD AI sine retningsliner for kunstig intelligens
Desse er eit ikkje bindande, men innflytelsesrikt rammeverk for ansvarleg KI, vedtatt av medlemslanda og brukast som referanse for KI-regelverk globalt. Dei kombinerer verdibaserte prinsipp med tilrådingar for korleis styresmakter kan legge til rette for forsking, styring og internasjonalt samarbeid.
Dei verdibaserte prinsippene er:
Inkluderande vekst og berekraftig utvikling
Menneskerettar og demokratiske verdiar
Transparens og forklarbarheit
Robustheit og sikkerheit
Ansvarligheit
UNESCOs globale rammeverk for etisk kunstig intelligens
UNESCO er FNs organisasjon for utdanning, vitskap, kultur og kommunikasjon. UNESCO har utvikla verdas første globale rammeverk for etisk kunstig intelligens, vedtatt av nær alle medlemsstatar. Tilrådinga bygger på menneskerettane og fastsetter fire kjerneverdiar:
Menneskerettar og menneskeverd
Fredelige, rettferdige og samankobla samfunn
Mangfald og inkludering
Blomstrande miljø og økosystem
FN sitt arbeid med KI og etikk
FN sitt arbeid med kunstig intelligens og etikk har som mål å sikre at KI utviklast og brukast til fordel for alle menneske. Global koordinering av KI-utvikling og bruk er nødvendig for å handtere risiko, sikre likeverd og oppnå rettferdig fordeling av både fordelar og ulemper. Det er viktig å unngå aukande ulikskap («digital divide»), der KI-gevinstar havnar berre hos nokre få nasjonar og store selskap. Kapasitetsutvikling og støtte til små og mellomstore bedrifter blir framheva som avgjerande for inklusiv KI-utvikling.
Les meir på FNs nettsider