Utviklingen av autonome KI-agenter markerer et betydelig skifte i teknologilandskapet. OpenAI planlegger å lansere "Operator" i januar 2025 - en KI-assistent som skal kunne ta over musepekeren og tastaturet for å utføre praktiske oppgaver på datamaskinen din. Den skal for eksempel kunne søke gjennom mapper etter bestemte dokumenter, organisere bilder i album, fylle ut nettskjemaer, eller hjelpe deg med å finne og oppsummere informasjon fra flere nettsider samtidig.

Det skal angivelig bli som å ha en personlig digital assistent som kan "sette seg ved tastaturet" og effektivt utføre rutineoppgaver på dine vegne.
Andre tech-selskaper følger tett etter: Anthropic lanserte nylig sin betaversjon av sin "computer use" funksjon. Google har en planlagt lansering i desember 2024. Microsoft har allerede integrert KI-agenter i Copilot.
Dette åpner for helt nye spørsmål om autonomi og kontroll. Språkmodellene går fra å bare kommunisere med oss, til å handle på egen hånd. En KI-agent kan fungere som en digital assistent som utfører praktiske oppgaver på datamaskinen din - finne og organisere filer, søke på nettet, oppsummere informasjon, analysere data og lage rapporter. Men hvor selvstendig skal vi la disse systemene være?
Denne utviklingen tvinger oss til å tenke nytt om forholdet mellom menneskelig kontroll og maskinell autonomi. Når systemene kan handle på egenhånd, holder det ikke lenger med gamle kontrollrutiner.
Trenger vi alltid menneskelig kontroll?
De fleste retningslinjer for bruk av KI i dag understreker behovet for å etterprøve informasjonen fra språkmodeller før vi tar den i bruk. Men er dette virkelig gjennomførbart – og hvor lenge kan dette være et realistisk krav?
Vi bør være forsiktige med å tro at "mennesker har sjekket det" automatisk betyr "da er det trygt".
Kanskje må vi innse at på noen områder kan maskinene allerede være så presise at det blir mindre meningsfullt å "dobbelsjekke" arbeidet deres. Det kan faktisk være at vi i noen tilfeller gjør ting mindre presist ved å blande oss inn. Det er litt som å la en ekspert-matematiker sjekke utregningene til en kalkulator - det gir ikke nødvendigvis bedre svar, bare flere muligheter for menneskelige feil.
Når ekspertise møter kunstig intelligens
Her står vi overfor et interessant paradoks: Når en aviskommentator spår valgresultatet eller en kommunikasjonsrådgiver som meg forklarer en nyhet, godtar vi det ofte uten å spørre hvordan de har tenkt. Men når en KI kommer med samme type analyse, krever vi full forklaring på hvordan den kom fram til svaret.
Dette kan tvinge oss til å tenke nytt om hva vi egentlig mener med ekspertise og kunnskap. Vi aksepterer ofte menneskelige eksperters vurderinger uten å kreve innsyn i tankeprosessen deres, mens vi krever full åpenhet fra KI-systemer. Er denne forskjellsbehandlingen alltid rasjonell?
Fra kontroll til systematisk kvalitetssikring
Som forskningsformidler for DoMore!-prosjektet ved OUS (2016-2021) ble jeg oppmerksom på et globalt problem: Verden har for få patologer til å undersøke alle vevsprøver tidsnok. Dette mønsteret ser vi i følge WHO over hele verden - fra landsbygda i USA til sykehus i Europa, Asia og Afrika - og her hjemme.
Tilsvarende utfordringer finnes på en rekke andre samfunnsområder. Gjennom introduksjonen av språkmodeller har vi sett at KI kan hjelpe. Likevel har vi enda ikke sluppet taket.
I dag bruker fagfolk mye tid på å kontrollere KI-generert innhold - alt fra standard e-postsvar til enkle analyser. Men kan dette være den beste bruken av menneskelig kompetanse på sikt?
En smartere tilnærming kan være å systematisk sammenligne hvordan KI og mennesker løser samme oppgaver over tid. Ved å analysere store mengder data kan vi både oppdage hvilke feil som går igjen og identifisere områder der KI-systemene konsekvent leverer pålitelige resultater. Dette gjør det mulig å gradvis gi KI mer selvstendighet der den beviser sin verdi, mens vi bruker menneskelig ekspertise der den trengs mest - på de komplekse sakene som krever erfaring og faglig skjønn.
Veien videre
KI-systemenes økende presisjon utfordrer vårt tradisjonelle syn på kunnskap. Vi har vært vant til at kunnskap må kunne forklares og begrunnes. Men når et KI-system gang på gang leverer pålitelige resultater, tvinger det oss til å spørre: Kan det finnes andre former for kunnskap enn den som kan settes ord på?
Fremtiden handler ikke om å velge mellom menneskelig eller kunstig intelligens, men om å utvikle nye systemer der vi bruker teknologien klokt og målrettet. Dette krever at vi tør å utfordre etablerte sannheter om hva som skaper kvalitet og trygghet. Først da kan vi virkelig begynne å utnytte potensialet i den nye teknologien.

