Hvordan må bedrifter forholde seg til KI loven?

KI-loven setter regler for hvordan kunstig intelligens kan utvikles og brukes trygt i EU/EØS, særlig for å beskytte rettigheter, sikkerhet, tillit og personvern.

For norske bedrifter betyr KI-loven først og fremst at de må bruke kunstig intelligens bevisst, dokumentert og kontrollert.
Unnlater man å være bevisst i bruk av KI kan bedriften risikere sanksjoner i form av store bøter og ikke minst omdømmetap.

Dette er det viktigste i praksis:

Kartlegg KI-bruken
Virksomheten må vite hvor og hvordan KI brukes, for eksempel i kundeservice, HR, analyse, sikkerhet eller produksjon.

Vurder risiko
Hvis KI brukes i områder som påvirker mennesker direkte, som rekruttering, kredittvurdering eller helsetjenester, kan løsningen bli regnet som høyrisiko.
Da kommer strengere krav.

Dokumenter systemene
Bedriften må kunne forklare hva KI-systemet gjør, hvilke data det bruker, hvilke risikoer som finnes og hvilke tiltak som er satt inn for å redusere feil.

Sørg for menneskelig kontroll
Viktige beslutninger bør ikke overlates fullt og helt til KI. Det må være mennesker som kan overvåke, vurdere og gripe inn.

Vær åpen
I noen tilfeller må bedriften informere brukere om at de snakker med eller blir vurdert av et KI-system.
Som standard kan man for eksempel legge inn at bilder og illustrasjoner er KI generert og at KI informasjon benyttes.

Følg regler om personvern
KI-loven kommer i tillegg til blant annet GDPR/personvernregler. Norske virksomheter må derfor tenke både på KI-regler og personvern samtidig.
Dette krever oppdatering av dokumentasjon rundt personvern – GDPR.

For mange norske virksomheter betyr dette at de bør innføre:
Interne retningslinjer og rutiner for bruk av KI.
Oversikt over hvilke verktøy som benyttes og hvem som benytter verktøyene (navn og rolle).
Rutiner for kvalitetssikring og godkjenning.
Opplæring av ansatte.
Vurdering av leverandører som tilbyr KI-løsninger.

Her er en kort sjekkliste for ansvarlig bruk av KI i virksomheten:

Har dere oversikt over hvor og hvordan KI brukes i virksomheten?
Er det vurdert risiko, særlig der KI påvirker mennesker eller viktige beslutninger?
Finnes det tydelige rutiner for dokumentasjon, kvalitetssikring og menneskelig kontroll?
Bruk av KI er det i tråd med personvernkrav og andre relevante regler?
Har ledelsen og ansatte klare rammer for ansvarlig bruk av KI?

Ledelsen må legge til grunn at bedriftens bruk av kunstig intelligens skal være forsvarlig, ansvarlig og i samsvar med gjeldende regelverk.
Arbeidet omfatter oppfølging av risiko, intern kontroll og relevante tiltak for å sikre en betryggende bruk av KI i virksomheten.
Igjen; brudd på KI-loven kan føre til betydelige sanksjoner. Myndighetene kan sjekke at reglene følges i bedriften, og kan gi bøter hvis de brytes.

Nasjonal kommunikasjonsmyndighet (nkom.no) er den koordinerende tilsynsmyndigheten for KI-loven (EUs KI-forordning) i Norge.
De har også rollen som nasjonalt kontaktpunkt.

Vi kan hjelpe dere med å få på plass rutiner og dokumentasjon i forbindelse med KI i bedriften.
Kontakt oss på telefon 924 99 992 for en uforpliktende samtale, eller send oss en epost på support@leder1.no.