Menneskeskapte trusler inkluderer blant annet ekstreme klimaendringer, atomkrig, syntetiske virus og avansert kunstig intelligens. Asteroidenedslag, naturlige pandemier og utbrudd fra supervulkaner er derimot naturlige trusler. Det anslås å være klart høyest risiko fra menneskeskapte trusler.
Heldigvis kan vi både redusere sannsynligheten for at eksistensielle hendelser skal inntreffe, og vi kan styrke vår motstandsdyktighet i tilfelle det verste skulle skje. Eksempler på tiltak for å minske trusler er å styrke internasjonale avtaler om atomnedrustning, bioteknologisk utvikling og kunstig intelligens. Et konkret eksempel på tiltak som øker motstandsdyktighet er det globale frøhvelvet på Svalbard.
Relativt til omfanget av risikoene vi står overfor, er det i dag både for få og for dårlige tiltak på plass mot eksistensielle trusler. Dette gjelder trusler som har eksistert lenge, som klimaendringer og atomvåpen, til tross for at disse står relativt høyt på den politiske agendaen. Men det gjelder i enda større grad for nyere trusler fra utvikling innen bioteknologi og kunstig intelligens.
Biologiske trusler og kunstig intelligens (KI) er både svært alvorlige og neglisjerte i dagens politikk. Denne kombinasjonen gjør det ekstra viktig å vie mer oppmerksomhet til disse truslene.
Pandemier
COVID-19-pandemien har allerede kostet millioner av mennesker livet og påført samfunnet flere tusen milliarder i kostnader. SARS-CoV-2 er likevel på ingen måte det verste av mulige pandemiske virus. Teknologiske fremskritt innen bioteknologi de siste tiårene har gjort det både lettere og billigere å produsere ekstremt farlige virus. Dette, i tillegg til at avansert bioteknologi har blitt langt mer tilgjengelig, har økt risikoen for en eksistensiell biologisk katastrofe.
Vi kan heldigvis ta grep både for å forhindre og forberede oss på nye pandemier. Dette kan vi blant annet gjøre ved å forbedre regulering av kjøp av syntetisk DNA, styrke overvåkningen av virus, og sikre mekanismer for rask vaksineutvikling.
Kunstig intelligens
Fremskritt innen kunstig intelligens, for eksempel med ChatGPT og GPT-4, har for alvor fanget folks oppmerksomhet det siste året. Stadig mer avansert kunstig intelligens kan løse store samfunnsproblemer og forbedre livene våre.
Samtidig er det grunn til å bekymre seg. Vi har ingen robust måte å sikre at avanserte KI-systemer handler i tråd med ønskene våre, og ikke blir brukt av ondsinnede aktører. Disse problemene kan bli forverret av kappløp mellom selskaper eller land.
Å redusere risiko fra avansert kunstig intelligens burde stå mye høyere på den politiske dagsorden enn det gjør i dag. Vi trenger økte investeringer i forskning på sikkerhet og strengere internasjonal og nasjonal regulering av selskaper som utvikler kunstig intelligens, samt støtte til miljøer som utforsker mindre risikable former for kunstig intelligens.