Oljefondet bør sette KI-standarden

Kunstig intelligens er teknologien som, på godt og vondt, kan endre alt. Gjennom Oljefondet er Norge en betydelig eier av selskapene som driver utviklingen, og kan bidra til å styre teknologien i riktig retning. Den muligheten bør vi gripe.

Oljefondet driver ansvarlig forvaltning på flere områder, spesielt på klima. Dette har både en etisk og en økonomisk side. Fondet vil ikke eie eller være eksponert mot selskaper som bryter grunnleggende etiske normer, for eksempel ved uakseptabelt høye klimagassutslipp.

Oljefondet har også en ren økonomisk interesse i at verdens utvikling går bra. Hvis et selskap tjener penger på noe som har negative ringvirkninger for andre, vil det skade fondets samlede verdier på sikt. En viktig del av Oljefondets arbeid er derfor å bidra til at børsnoterte selskaper driver ansvarlig og langsiktig.

De samme vurderingene bør gjøres for utviklingen av KI. Det er en fare for at KI-systemer utvikles og lanseres før de er sikret mot uhell og misbruk. De kraftigste og mest risikable KI-systemene vil kunne forårsake samfunnsulykker som rammer hele verdensøkonomien. Å investere ukritisk i slike selskaper er ikke bare moralsk uforsvarlig, det er også dårlig butikk for et fond med global portefølje. Etisk KI-politikk er god butikk.

Disse hensynene kan forklare hvorfor Oljefondet i august 2023 presenterte sitt syn på ansvarlig bruk av KI. Der står det at fondet tror «ansvarlig utvikling og bruk av kunstig intelligens (KI) vil være viktig for velfungerende markeder og legitime produkter og tjenester – og at dette kan påvirke den finansielle avkastningen til fondet over tid».

Dette synet er imidlertid for generelt til å fungere som reell forvaltning av porteføljen. Vi trenger klarere retningslinjer, tilsvarende Oljefondets offensive handlingsplan på klima, som selskaper kan forholde seg til for å bruke KI på en ansvarlig måte. I styringen av selskapene de er investert i burde Oljefondet:

• Innføre målbare kriterier for nye KI-produkter, blant annet feilrate og diskriminering av grupper, inkludert hvordan produktene kan skade Oljefondets samlede verdi. Fondet bør kreve rapportering i henhold til disse.
• Følge opp at selskapene fatter konkrete tiltak og innfører styringsrutiner for å leve opp til målene, inkludert at selskapene er transparente om deres egne risikovurderinger.
• Bidra til standarder som videreutvikler mål og praksis for ansvarlig utvikling.

‍

En mer offensiv selskapsstyring for ansvarlig KI kan gjøre opp for at lovgiverne sliter med å henge med på utviklingen av en teknologi som endrer seg månedlig. I tillegg er det et av få tilgjengelige virkemidler for et lite land som står langt unna teknologifronten og utenfor EU.

Norges eierandel er ikke nok til å tvinge selskaper til å handle ansvarlig. Men godt omdømme og tydelig kommunikasjon gjør at Oljefondets røst bærer lengre enn eierandelen skulle tilsi.

Fondets gode rykte er nettopp noe av det som får Torbjørn Røe Isaksen til å advare mot forsøk på å gjøre Oljefondet til et politisk redskap for alle gode formål, som å få slutt på invasjonen av Gaza. Men ansvarlig selskapsstyring er allerede en del av fondets kjernevirksomhet. Å anvende ordinære styringsprinsipper på KI er dermed business as usual, ikke en farlig politisering av fondet.

Tydeligere styring er også i tråd med de uttalte interessene til KI-selskapene. Flere av de store KI-labene har forpliktet seg til en «ansvarlig» KI-utvikling. Fondet kan sørge for at forpliktelsene blir reelle, ved å stille tydelige krav og rapportere om hva selskapene gjør for å følge dem opp. Det gjør det lettere for etisk orienterte utviklere å konkurrere på like vilkår.

Vi har ikke en fullgod forståelse for all risiko utviklingen av KI bringer med seg. Likevel er det voksende enighet rundt hva som er god KI-praksis. Det kommer stadig nye retningslinjer, standarder og konkretiserende lovverk for ansvarlig KI-utvikling.

FN vedtok nylig en resolusjon om å fremme retningslinjer for «trygg, sikker og pålitelig» kunstig intelligens. I anledning AI Seoul Summit i mai ble første internasjonale (midtveis-) rapport på sikkerhet fra avansert KI publisert.

Fondet har kompetansen og kunnskapsbasen de trenger for å starte en tydeligere forvalting av KI-selskaper. Alle er tjent med bedre KI-praksis, og Oljefondet kan sette standarden.

‍