Vil KI-veksten fortsette?

Sammendrag og anbefalinger

Den elleville utviklingen innenfor kunstig intelligens (KI) har tatt verden på sengen. Teknologi som for bare tre år siden var ansett som fullstendig science fiction, er nå blitt allemannseie.

For 250 kr i måneden har nå hvem som helst tilgang på verktøy som kan gjøre hva som helst. Billige KI-modeller kan nå svare på eksamen, lage fotorealistiske bilder og videoer, forstå alle verdens språk, skrive rørende dikt, komponere sanger, lage kompleks kode osv. Listen vokser for hver nye oppdatering.

Dagens kraftige KI-modeller er resultatet av en enkel, men kraftfull formel: jo større, desto bedre. Mer data, mer datakraft og mer effektive algoritmer gir oss kraftigere KI. 

Hvis denne skaleringen fortsetter vil vi få mye kraftigere modeller enn vi har i dag. Resultatet er et samfunn som vil se radikalt annerledes ut, hvor KI-systemer kan utføre alle oppgaver mennesker kan utføre billigere og bedre.

Vil skaleringen fortsette? I notatet undersøker vi tre store barrierer mot at KI-utviklingen fortsetter like raskt som i dag: mangel på algoritmisk forbedring, data og datakraft. 

Vi konkluderer med at selv om det er en sjanse for at KI-utviklingen vil bremse opp på grunn av disse barrierene, er det mer sannsynlig at det ikke skjer. Notatet tar for seg: 

• Hvordan skalering har skapt dagens KI-boom: Hvordan data, datakraft og algoritmer henger sammen for å skape kraftige KI-systemer.
• Hva som kan (men neppe vil) stoppe utviklingen: Hvorfor kjente flaskehalser ser ut til å kunne overvinnes.
• Hva videre skalering kan bety for samfunnet: Hvorfor vi må forvente oss mye kraftigere KI framover om skaleringen fortsetter.
• Hva Norge kan og bør gjøre: Hvilke politikkforslag Norge bør gjøre for å møte KI-utviklingen. 

Politikkforslag

Norge bør opprette et AI Safety Institute. Det første Norge bør gjøre er å bygge tilstrekkelig kompetanse til å følge utviklingen tett slik at vi kan være forberedt på det som kommer. Norge bør derfor opprette et AI Safety Institute, slik som Storbritannia og USA allerede har gjort, og Sverige vurderer. 

Utviklingen av de kraftigste modellene må reguleres internasjonalt. Norge bør støtte internasjonale reguleringsforsøk som setter krav til de største modellene i form av tredjepartsevalueringer, dokumentasjon, sikkerhetsrutiner og tilgangskontroll. 

Oljefondet bør sette KI-standarden. Oljefondet må kreve at selskapene de investerer i utvikler og bruker KI på en ansvarlig måte. Det vil være i fondets og Norges langsiktige egeninteresse. 

Norge bør utvikle forståelige og trygge KI-modeller. Dette må skje på tvers av fagmiljøer og likesinnede land. Vi trenger et omfattende europeisk forskningssamarbeid; et “CERN” for sikker KI.

‍Norsk samfunn må planlegge for ulike KI-scenarioer. KI-utviklingen kan stoppe opp, bremse ned eller fortsette som den har gjort de siste årene. De ulike scenarioene gir radikalt ulike konsekvenser for mennesker og samfunn. Norge må være beredt på alle scenarioer.

Last ned og lese hele notatet her.

‍