KI i drift

1. Kunstig intelligens – En gjennomgang 
2. Business case for bruk av kunstig intelligens
3. Data er råvarene for drift av kunstig intelligens 
4. KI-systemer, roller, risiko og ansvar
5. Personvern- og informasjonssikkerhet 
6. Rammeverk for å vurdere forsvarlighet i drift og utvikling  
7. Hvordan sikre at vi oppnår verdi ved bruk av kunstig intelligens 
8. Som en del av den helhetlige virksomhetsstyringen

Studenten

• har kunnskap om sentrale begreper, prosesser og verktøy knyttet til kunstig intelligens i drift, forbedringsarbeid og tekniske arbeidsprosesser  

• har kunnskap om forskjeller og sammenhenger mellom automatisering, maskinlæring, generativ kunstig intelligens og KI-baserte systemer  

• har kunnskap om hvordan kunstig intelligens kan brukes som beslutningsstøtte og støtte til forbedringsarbeid i egen virksomhet  

• har kunnskap om betydningen av datagrunnlag, datakvalitet og relevante data ved bruk av kunstig intelligens  

• har kunnskap om risiko ved bruk av kunstig intelligens, herunder svak datakvalitet, informasjonssikkerhet, personvern og uønskede konsekvenser for virksomheten  

• har innsikt i prinsipper for ansvarlig bruk av kunstig intelligens i tekniske og driftsnære miljøer, med vekt på menneskelig kontroll, dokumentasjon, åpenhet, kvalitet, sikkerhet og verdiskaping 

Studenten

• kan anvende faglig kunnskap om kunstig intelligens på praktiske problemstillinger i drift, forbedringsarbeid og tekniske arbeidsprosesser  

• kan finne informasjon og fagstoff om enkle og relevante brukstilfeller for kunstig intelligens i egen arbeidshverdag eller virksomhet  

• kan kartlegge om et KI-forslag har et tydelig behov, og identifisere realistisk nytte og praktisk verdi for virksomheten  

• kan kartlegge hvilke data som kan være relevante for et KI-basert tiltak, og identifisere om dataene virker tilstrekkelige, forståelige og egnet for formålet  

• kan gjennomføre en enkel vurdering av risiko, ansvar og menneskelig kontroll ved bruk av kunstig intelligens i en konkret driftssituasjon  

• kan finne relevant informasjon og fagstoff for å vurdere en praktisk problemstilling knyttet til kunstig intelligens  

• kan identifisere behov for enkle tiltak for tryggere og mer ansvarlig bruk av KI, for eksempel bedre dokumentasjon, tydeligere ansvar, avgrenset pilot, menneskelig kontroll eller stopp av et svakt forslag 

Studenten

• har forståelse for yrkes- og bransjeetiske prinsipper ved bruk av kunstig intelligens i drift og tekniske miljøer  

• har utviklet en etisk grunnholdning til bruk av kunstig intelligens, med vekt på ansvar, menneskelig kontroll, informasjonssikkerhet og konsekvenser for virksomheten  

• kan formidle praktiske muligheter, begrensninger og risiko ved kunstig intelligens tilpasset ulike målgruppers behov 

• kan bygge relasjoner med ledelse, IT, leverandører, fagmiljøer og andre relevante aktører og være en kritisk og konstruktiv medspiller i dialogen 

• kan bidra til at KI-løsninger vurderes i sammenheng med drift, kvalitet, sikkerhet, dokumentasjon, forbedringsarbeid og virksomhetens behov 

Mal og vurderingskriterier for arbeidskrav/avsluttende vurdering ligger på læringsplattformen.

Arbeidskrav er obligatorisk, studenten skal velge ett arbeidskrav:

1. Kunstig intelligens – En gjennomgang

• Begreper: KI, algoritmer, modeller, maskinlæring og generativ KI  

• Hva språkmodeller gjør, og hvorfor de kan gi feil svar  

• Forskjell på KI som hjelpemiddel, beslutningsstøtte og automatisering  

• Kildekritikk, menneskelig kontroll og faglig vurdering  

• Enkle lavrisiko-eksempler fra drift, dokumentasjon og forbedringsarbeid 

2. Business case for bruk av kunstig intelligens

• Definere forretningsmål 

• Identifisere ideer for bruk av kunstig intelligens

• Innledende kartlegging av data

• Innledende risikovurdering og identifisering av compliance /samsvars krav 

• Vurdering av kost nytte

• Ledelsesforankring 

3. Data er råvarene for drift av kunstig intelligens 

• Hvordan vurdere datakvalitet? 

• Bias-mekanismer fra datakvalitet: seleksjon, måling, merking og historiske skjevheter

• Hva er dataforvaltning? 

• Hvorfor dataforvaltning?  

• Hva slags data bør underlegges dataforvaltning i drift? 

• Om å integrere data forvaltning i drift

4. KI-systemer, roller, risiko og ansvar

• Når benytter vi et KI-system? 

• Hva innebærer det at vi skal ha menneskelig kontroll når vi benytter kunstig intelligens? 

• Hva slags risiko kan oppstå når vi benytter kunstig intelligens? 

• Hvordan plassere ansvar når virksomheter benytter KI?  

• Vurdering av risiko nivå og redegjørelse av deployer/provider rollene

• Hva er kravene til åpenhet (transparancy) når mennesker er i direktekontakt med kunstig intelligens? 

• Om å etablere en forvalting av KI-systemer i drift

5. Personvern- og informasjonssikkerhet 

• Hva er en personopplysning? 

• Når behandler vi personopplysninger? 

• Hva betyr det å ha et lovlig grunnlag for behandling av personopplysninger? 

• Forsvarlig informasjonssikkerhet et krav for forsvarlig personvern

• Informasjonssikkerhet 

• Konfidensialitet 

• Integritet 

• Tilgjengelighet  

• Krav til ansvarlighet: Dokumentasjon og risikoaksept av den behandlingsansvarlige 

• Hva innebærer det å integrere forsvarlig personvern i drift av systemer som benytter kunstig intelligens? 

6. Rammeverk for å vurdere forsvarlighet i drift og utvikling  

• Hva er SMACTR, og hvorfor trenger vi et rammeverk som binder sammen forretningsmål, datakvalitet, roller og personvern når vi etablerer og drifter KI-systemer? 

• Rammesetting: Å forankre formål, berørte parter og innledende risiko i virksomhetens forretningsmål

• Kartlegging: Å se roller, ansvar, interne prosesser og avhengigheter på tvers av organisasjonen

• Dokumentasjon: Sikre sporbarhet 

• Testing: Avdekke svakheter før systemet settes i drift

• Vurdering og ledelsesforankring: Er systemet klart til drift? 

7. Hvordan sikre at vi oppnår verdi ved bruk av kunstig intelligens 

• Hva vil det si å realisere gevinster? 

• Hvordan vurderer vi verdi når vi benytter kunstig intelligens? 

• Hvordan kan vi unngå at vi benytter kunstig intelligens på en måte som ikke produserer verdi i virksomheten 

8. Som en del av den helhetlige virksomhetsstyringen

• Hvilke nye behov introduseres ved introduksjonen av kunstig intelligens i systemparken? 

• Integrasjon i eksisterende prosesser for hendelseshåndtering, beredskap, kvalitetsarbeid og kontinuerlig forbedring

• Hvordan vurdere hva som er tilstrekkelig “KI-kompetanse" og hvordan virksomheten bør vurdere behovet for opplæring 

• Ledelsesforankring av forretningsmål, risikoaksept og det overordnede ansvaret for forsvarlig bruk av KI i virksomheten