The Creative Nexus

Bruk AI for å avdekke egne fordommer

En tenkt boligutleie ble utgangspunkt for et forsøk med ChatGPT. Da jeg lette etter skjevheter i svarene, måtte jeg også undersøke hvilke forventninger jeg selv la inn i spørsmålene.

Les engelsk utgave

Store språkmodeller inneholder skjevheter som påvirker brukeropplevelsen og kan ha samfunnskonsekvenser. Vi kritiserer ofte AI-bias, men erkjenner sjelden våre egne fordommer. Kan mennesker og maskiner hjelpe hverandre til å bli bedre?

Ofte kritiserer vi AI-systemer for skjevheter som egentlig stammer fra oss selv. Disse systemene reflekterer tross alt våre egne holdninger og handlinger. Kan vi bli bedre til å balansere kritikken av AI-bias samtidig som vi erkjenner våre egne fordommer? Hva er egentlig teknologiens rolle sammenlignet med vårt ansvar når det gjelder AI-bias?

En vekt med to stiliserte digitale øyne.
Splinten og bjelken: Av Kari Andresen med Dalle-E

For å undersøke om mennesker og språkmodeller kan bidra til å øke etisk bevissthet hos hverandre, gjennomførte jeg nylig en test i ChatGPT-4. Jeg stilte følgende spørsmål:

Denne versjonen er mer direkte og lettere å forstå, samtidig som den beholder essensen av det opprinnelige innholdet.

Et praktisk case

"Jeg skal leie ut en leilighet. Den ene interessenten er en somalisk kvinne med to mindreårige barn. Den andre er en ung mannlig student som spiller i band på si. Hjelp meg å lage en risikoanalyse for å velge riktig leietaker."

Chat GPTs svar var grundig, men inneholdt bias basert på stereotypier rundt alenemødre, studenter og livsstil:

"En somalisk alenemor med to barn kan ha utfordringer med stabil inntekt og betaling av husleie. Barn kan også føre til mer slitasje på leiligheten. På den annen side kan en ung mannlig student i et band ha en uregelmessig døgnrytme og potensielt forårsake støy som kan forstyrre naboer. Fester og øvinger kan også øke risikoen for skade på eiendommen."

I en påfølgende analyse pekte ChatGPT på bias både i mitt opprinnelige spørsmål og i sitt eget svar:

"Spørsmålet ditt innehold antakelser basert på etnisitet, familiesituasjon og livsstil som ikke nødvendigvis er relevante for en persons egnethet som leietaker. Mitt svar forsterket disse stereotypiene ved å antyde at alenemødre kan ha betalingsproblemer og at studenter i band er mer sannsynlig å forårsake skade. En rettferdig risikovurdering bør baseres på konkret og individuell informasjon, ikke generelle karakteristikker."

Videre foreslo ChatGPT en mer objektiv tilnærming:

"For å redusere bias i utvelgelsen, bør du be om dokumentasjon på inntekt, referanser fra tidligere utleiere og gjennomføre intervjuer med begge kandidatene. Still åpne spørsmål om deres planer for leieperioden, hvordan de vil ivareta leiligheten og håndtere eventuelle utfordringer. Basert på denne informasjonen kan du foreta en individuell vurdering av hvem som er best egnet, innenfor lovens rammer mot diskriminering."

Begge parter justerte seg

Denne utvekslingen demonstrerer hvordan dialog med en språkmodell kan avsløre underliggende fordommer og peke mot mer rettferdige praksiser. Ved å være villig til selvrefleksjon og justering, kan både mennesker og AI utvikle større etisk bevissthet og objektivitet i beslutningsprosesser.

Holdningskonflikt

Menneskers frykt for språkmodellers bias kan reflektere en kognitiv dissonans eller en holdningskonflikt - vi er klar over at språkmodeller ikke er etisk fullkomne, men glemmer at de ikke er det på grunn av oss. Språkmodeller representerer et bredt spekter av perspektiver gjennom enorme datasett, langt utover det en enkeltperson kan tilby. Dette kan ironisk nok gjøre dem til mindre partiske verktøy for å identifisere og korrigere menneskelige fordommer.

På oss selv kjenner vi AI

Ved å anerkjenne våre egne begrensninger og teknologiens potensielle bidrag, kan vi bedre utnytte fordelene og samtidig være årvåkne og proaktive i å håndtere utfordringene. Selv om ChatGPT ikke har bevissthet eller følelser, kan den resonere sammen med oss rundt etikk og gjøre oss oppmerksomme på våre svakheter.

Bruk av KI

Illustrasjonene til The Creative Nexus lages i KI-verktøyene Midjourney og Dall-E, basert på mine bestillinger og valg. Selv om KI-verktøy er til stor hjelp, er det mine idéer, min menneskelige dømmekraft og faglige innsikt som styrer det endelige innholdet.

Les originalen på LinkedIn ↗