Gjennom våre tilsyn erfarer vi at kunstig intelligens (KI) anvendes i økende grad.

Regjeringens nasjonale strategi for kunstig intelligens ble publisert i 2020. I strategien legges det blant annet vekt på at sektortilsynsmyndighetene skal føre kontroll med at bruk av KI i de ulike sektorene skjer innenfor prinsippene for ansvarlig bruk av teknologien.

Definisjoner

Det er mange ulike definisjoner av KI, og definisjonene endrer seg gjerne i takt med den teknologiske utviklingen. I Havtil har vi ikke laget vår egen definisjon, men har valgt å bruke definisjonene som anvendes i den Nasjonale strategien for kunstig intelligens.

Der beskrives KI som systemer som utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål. KI inkluderer ulike tilnærminger og teknikker, slik som for eksempel maskinlæring.

Risikobasert

EU har utarbeidet nye regler for bruk av kunstig intelligens (KI-forordningen). Det er oppnådd politisk enighet om forordningen og den skal nå vedtas i EU-systemet.

Forordningen bygger på en risikobasert tilnærming til reguleringen, med inndeling i risikokategorier. Dette betyr at kravene til et system vil avhenge av risikokonteksten systemet brukes i.

De fleste kravene i KI-forordningen er orientert mot høyrisikosystemer. Hvorvidt et KI-system defineres som høyrisiko, vil blant annet avhenge av om systemet utgjør en risiko for kritisk infrastruktur, brukers helse, sikkerhet eller fundamentale rettigheter.

Milepæl

Forordningen markerer en viktig milepæl i reguleringen av KI. Den risikobaserte tilnærmingen medfører et behov for at sektormyndigheter for storulykkeindustrier gjør nødvendige forberedelser og undersøkelser.

Samtidig har det også vært utvikling innen tilgjengeligforskning, standardisering og beste praksis innen området.

Risiko

KI-modeller i operasjon, planlegging og beslutningsstøtte vil direkte og indirekte kunne påvirke sikkerhet, arbeidsmiljø, beredskap og sikring. I havindustrien forventer vi at KI-løsninger som kan påvirke risikoen for storulykke, sikkerhetssystemer, barrierer eller kritisk infrastruktur, vil bli regnet som høyrisiko.

Risikoene knyttet til KI skiller seg fra tradisjonelle industrielle risikofaktorer og fra tradisjonelle IT systemer og programvareløsninger.

Nye løsninger som KI kan også bidra til redusert risiko, men det avhenger av at selskapene både er bevisst på iboende og kontekstuelle risikofaktorer, samt anvender en metodisk tilnærming for å identifisere og håndtere disse.

Med dette som kontekst og basert på erfaringer fra tidligere studier og tilsyn har Havtil initiert aktiviteter for å etablere gode rammebetingelser for forsvarlig bruk av KI i næringen.

Aktiviteter i 2023

I 2023 har vi hatt dialogmøter om selskapenes verifikasjons- og risikostyringsaktiviteter knyttet til utvikling og bruk av digitale teknologier som integreres i et digitalt system for bruk på utstyr og systemer med betydning for sikkerheten.

Vi inviterte utvalgte operatør- og leverandørselskaper i næringen til å dele erfaringer med oppfølging av risiko knyttet til digitale teknologier. Vi har også utredet grunnleggende juridiske utfordringer ved bruk av KI i petroleumsvirksomheten.

Dette vil bidra til å avklare fremtidig reguleringsbehov for å skape gode rammebetingelser, samt forberede næringen.

Nettverk

Vi er i dialog med nasjonale fagmiljøer for å utforske muligheten for samarbeid, der målet er å etablere et nettverk for KI.

Vi ønsker å bidra til at oppmerksomheten både i akademia og industrien rettes mot sikkerhetsmessige risikofaktorer knyttet til utviklingen og bruken av KI i petroleumsindustrien.

International Regulators Forum (IRF) har digital teknologi og automatiserte løsninger som ett av sine tre prioriterte tema.

Gjennom samarbeidet mellom myndighetene, samt IOGP (International Association of Oil & Gas Producers) og IADC (International Association of Drilling Contractors) er målsettingen å bidra til at næringen setter sikkerhet og arbeidsmiljø høyt på agendaen når digital teknologi utvikles og tas i bruk i selskapene.

Effekt

Vi har gjennom disse aktivitetene rettet oppmerksomhet på KI og sikkerhetsrisiko i havindustrien. Vi har styrket dialogen med næringen og forskningsmiljøer om fagspørsmål knyttet til risikostyring av KI systemer og vi har gitt rom for å løfte konkrete utfordringer som selskapene har.

Det har bidratt til en produktiv dialog om tilnærminger til risikostyring i bruk av KI. Selskapene har gitt positiv tilbakemelding på at Havtil har satt KI på agendaen.

Denne artikkelen er hentet fra Havtils årsrapport for 2023 til Energidepartementet. Hele årsrapporten kan du lese her: Årsrapport 2023: Havindustritilsynet