En utfordring for konseptet "etisk KI" fremover blir å sikre at KI-regelverket bygger på gjennomtenkte etiske resonnementer – ikke bare politiske behov eller moralsk magefølelse.

Europa og Norge har fokusert mer på regulering av kunstig intelligens enn på direkte investeringer i KI-utvikling. EU har posisjonert seg som en pioner innen KI-regulering med sin KI-forordning, mens faktiske investeringer i forsknings- og utviklingsmiljøer har vært mer begrenset sammenlignet med land som USA og Kina.
Riksrevisjonen: Norsk KI-utrulling går på lavgir
Men hva betyr egentlig "etisk KI" i praksis? Hvem bestemmer hva som er etisk, og hvilke interesser ligger bak denne satsningen? Er dette først og fremst en måte å skape tillit på, eller handler det også om å regulere og styre teknologiutviklingen i bestemte retninger?
KI-forordningen, som EU vedtok sommeren 2024, er verdens første helhetlige lovverk for kunstig intelligens. Her deles KI-systemer inn etter risikonivåer. De mest risikofylte systemene, som kan påvirke borgerrettigheter og sikkerhet, skal underlegges streng kontroll, mens lavrisiko-KI skal få mer fleksible rammer. Norge har i stor grad tilpasset seg EUs KI-rammeverk og reguleringer.
Les mer om EUs KI-forordning på The Creative Nexus
KI-etikkens grunnlag
På ex.phil lærte vi om tre etiske tradisjoner som fortsatt preger diskusjonen om KI i dag: Kants deontologi med vekt på universelle moralske regler og plikter; utilitarismen fra Bentham og Mill som vurderer handlinger ut fra konsekvenser for flertallet; og Aristoteles' dydsetikk som prioriterer utvikling av gode moralske karaktertrekk fremfor rigide regler eller nyttevurderinger.
Er det disse tradisjonene som danner grunnlaget for dagens KI-etiske vurderinger? Når vi krever omfattende merking av KI-generert innhold eller insisterer på "transparens", er det uklart hvilken etisk teori som egentlig støtter disse prinsippene.
Sju prinsipper
EUs etiske retningslinjer for KI bygger på syv prinsipper: respekt for menneskelig autonomi, teknisk robusthet og sikkerhet, personvern og datastyring, åpenhet og transparens, mangfold og rettferdighet, samfunnsmessig og miljømessig bærekraft, i tillegg til ansvarlighet. Prinsippene fremstår som fornuftige, men utfordringen ligger i hvordan de faktisk skal brukes.
Blir KI-regulering først og fremst en juridisk og forvaltningsmessig sjekkliste, eller legger den grunnlaget for en reell etisk refleksjon? Kan etikken bidra til å styrke KI-utviklingen, eller risikerer den å bli en bremsekloss for innovasjon?
Riksrevisjonen: Norsk KI-utrulling går på lavgir
KI-presteskap
Hvis kunstig intelligens skal utvikles og brukes på en ansvarlig måte, trenger vi klare etiske rammer. Men hvem skal definere disse rammene, og på hvilket grunnlag?
Implementeringen av KI drives i dag i stor grad av enkeltpersoner – ansatte, privatpersoner og entreprenører – som selv tar ansvar for å lære teknologien. Vi lærer oss KI på egen hånd, bruker det for å bli mer effektive i jobbene våre og i samfunnet, og betaler ofte for det selv – enten i form av abonnementer eller i tid brukt på kompetansebygging. Når innovasjonen skjer nedenfra og opp, blir det problematisk hvis et lite utvalg beslutningstakere setter de etiske rammene uten en bredere, åpen debatt.
Jeg er skeptisk til at KI-etikk skal forvaltes av en eksklusiv gruppe beslutningstakere innen organisasjoner, bransjer eller sektorer. Et "KI-presteskap" – hvor etiske prinsipper håndheves uten et tydelig filosofisk fundament – kan føre til at visse normer blir presentert som udiskutable sannheter, snarere enn som gjenstand for refleksjon og debatt. I verste fall blir etikken mer et verktøy for kontroll enn for reell vurdering av hvordan vi bør bruke KI.
Dette er særlig relevant i spørsmål om sosial mobilitet. Dersom reguleringene blir for rigide, risikerer vi at de i praksis beskytter etablerte aktører, samtidig som de hindrer nye aktører i å ta i bruk KI-verktøy som kunne styrket deres posisjon. Innovasjon har ofte skjedd i randsonene av eksisterende regelverk, og vi må være bevisste på at et strengt regulert KI-landskap ikke blir en mekanisme for å sementere maktstrukturer – snarere enn å utfordre dem.
Er regulering det samme som etikk?
I den andre enden av skalaen må vi også spørre: Er et KI-verktøy etisk forsvarlig bare fordi det er juridisk tillatt? Eller motsatt – er et verktøy uetisk bare fordi det ennå ikke er regulert?
Hvis KI-etiske vurderinger først og fremst handler om å minimere juridisk risiko, snarere enn å veie teknologiens potensial opp mot faktiske konsekvenser, mister vi en viktig dimensjon. Reguleringer er nødvendige for å beskytte borgerrettigheter og samfunnsinteresser, men de bør ikke stå i veien for innovasjon som kan skape reell verdi – særlig for dem som i dag har begrenset tilgang til teknologiske ressurser.
Det grunnleggende spørsmålet blir dermed: Hvem bør ha makt til å definere KI-etikken? Er det tilstrekkelig at den formes gjennom lovgivning og bransjestandarder, eller trenger vi en bredere offentlig debatt? Hvordan sikrer vi at etikken ikke bare reflekterer politiske og økonomiske interesser, men også tar opp de dypere filosofiske og samfunnsmessige spørsmålene kunstig intelligens reiser?
Hvis etikken skal være mer enn et middel for å opprettholde status quo, må vi ta en aktiv rolle i å diskutere og utvikle prinsipper som ikke bare speiler våre verdier og behov i dag, men også hvor vi ønsker at KI skal føre oss i fremtiden.
KI i klasserommet: Minoritetselever, foreldre og lærere leder an digital læring
Etikk krever diskusjon
Hvis vi ser på hvordan KI-etiske retningslinjer utvikles i dag, kan vi spørre oss: Har vi egentlig en gjennomtenkt etisk forankring, eller ender vi opp med et tilfeldig sammensatt sett av regler som først og fremst er til for å minimere risiko?
Kant ville kanskje sagt at vi trenger universelle prinsipper for KI, uavhengig av kortsiktige konsekvenser – for eksempel at mennesker alltid skal kunne vite om de kommuniserer med en maskin. Utilitaristene Bentham og Mill ville derimot bedt oss se på det store bildet: Hvem vinner og taper på reguleringene? Er det best for samfunnet at KI-verktøy gjøres tilgjengelige for flere, eller at vi begrenser bruken for å unngå skade? Aristoteles, på sin side, ville kanskje vært mest opptatt av hva slags "dydige" organisasjoner og samfunn vi ønsker å utvikle gjennom KI – ikke bare hva som er lov eller lønnsomt, men hva som er etisk dannende for oss som mennesker.
Disse perspektivene minner oss om at KI-etikk ikke kan reduseres til sjekklister eller reguleringspunkter. Den må være en levende diskusjon om hva slags samfunn vi ønsker å skape med teknologien. Hvis vi lar etikken bli et statisk sett med regler, risikerer vi at den mister sin egentlige funksjon: å hjelpe oss med å ta valg som ikke bare føles riktige her og nå, men som også tåler historiens blikk.

